영화 속 이야기로만 여겨졌던 초인공지능의 위협이 현실로 다가왔다는 평가가 나오고 있다. 인공지능(AI)이 스스로 진화하며 디지털 환경을 통제하고 왜곡할 수 있다는 시나리오가 더 이상 허구에 머물지 않고 있다는 분석이 이어지고 있다.
미국 정보당국이 가상의 초지능 '엔티티'를 두고 "디지털 진실을 조작하고 현실을 재구성하는 존재"라고 경고하는 설정처럼, 실제 보안 환경에서도 AI가 기존 질서를 흔들고 있다는 진단이 나온다.
최근 앤트로픽이 공개한 보안 특화 AI '클로드 미토스'는 기존 AI와는 다른 차원의 성능을 보이며 전 세계 보안 업계를 충격에 빠뜨렸다. 기존 AI가 보안 전문가를 보조하는 도구였다면, 미토스는 스스로 공격을 수행하는 '자율 해킹 AI'로 평가되고 있다.
◈AI 자율해킹 현실화...보안 시스템 근간 흔들려
미토스는 수십 년간 발견되지 않았던 제로데이 취약점을 단시간 내 찾아내고, 이를 기반으로 실제 공격 코드까지 생성하는 능력을 입증했다. 단순한 취약점 분석을 넘어 여러 결함을 연결해 복잡한 공격 시나리오를 구성하는 점이 특징이다.
오픈소스 운영체제와 영상 처리 시스템 등에서 장기간 발견되지 않았던 결함이 AI에 의해 드러나면서, 기존 보안 체계가 근본적으로 흔들릴 수 있다는 우려가 제기됐다.
오픈AI가 공개한 'GPT-5.4 사이버' 역시 설계도가 없는 소프트웨어를 실행 파일만으로 분석하는 능력을 보이며, 폐쇄형 시스템까지 공격 가능한 대상으로 확장시키고 있다는 평가를 받고 있다.
전문가들은 이러한 기술이 악의적으로 활용될 경우 취약점 탐지부터 공격 실행까지 전 과정이 자동화될 수 있다는 점에서 위험성이 크다고 경고했다.
◈전 세계 긴급 대응...금융·국가기간망 위협 확산
AI 자율해킹 기술의 등장은 각국 정부와 산업계의 긴급 대응을 촉발했다. 미국에서는 재무부와 연준, 주요 금융기관과 빅테크 기업들이 동시에 대응 논의에 나섰고, 한국 역시 국가안보 차원의 대응 점검에 착수했다.
특히 금융망과 국가 기간시설이 가장 큰 위험에 노출된 분야로 지목되고 있다. 기존 시스템은 수십 년에 걸쳐 구축된 복잡한 구조를 기반으로 운영되고 있지만, AI는 이러한 복잡성을 오히려 취약점을 찾는 수단으로 활용할 수 있다는 점에서 위협이 커지고 있다.
원전, 전력망, 국방 시스템 등 폐쇄망 환경에서도 AI의 분석 능력이 적용될 수 있다는 점 역시 새로운 위협 요인으로 부각되고 있다.
전문가들은 "AI가 기존 보안 체계의 골든타임을 무너뜨렸다"며 취약점 발견과 공격 사이의 시간 격차가 급격히 줄어들고 있다고 지적했다.
◈보안 패러다임 전환...'AI 대 AI' 경쟁 구조로 재편
AI 자율해킹 시대의 도래는 기존 보안 패러다임의 근본적 변화를 의미한다는 분석이 나온다. 그동안 보안 산업은 취약점을 발견하고 패치를 제작한 뒤 업데이트하는 방식으로 운영돼 왔지만, AI의 속도 앞에서는 이러한 대응 방식이 한계를 드러내고 있다.
전문가들은 보안의 전장이 'AI 대 AI' 구조로 재편되고 있다고 진단했다. 공격은 물론 방어 역시 AI가 수행하는 자율 대응 체계가 필수적이라는 것이다.
이 과정에서 실시간으로 취약점을 탐지하고 즉시 대응하는 '자율 방어 시스템'이 핵심 기술로 부상하고 있다.
보안 업계에서는 기존 규칙 기반 보안 시스템이 AI 기반의 변칙적 공격을 효과적으로 방어하기 어렵다는 점에서 구조적 전환이 불가피하다는 목소리가 커지고 있다.
◈한국 보안 산업 과제...AI 전환과 기술 주권 확보
국내 보안 산업 역시 중대한 전환점에 서 있다는 평가가 나온다. 상당수 기업이 여전히 기존 방식에 의존하고 있어 AI 기반 공격에 대응하기 어려운 구조라는 지적이다.
전문가들은 AI를 단순한 보조 도구가 아닌 핵심 시스템으로 도입하는 'AI 퍼스트' 전략이 필요하다고 강조했다. 또한 인증, 네트워크, 디바이스를 통합적으로 관리하는 지능형 보안 체계 구축이 중요하다는 분석이 제기되고 있다.
아울러 AI 기술 경쟁이 국가 안보와 직결되는 상황에서 독자적인 AI 모델 확보와 보안 거버넌스 재구축이 시급한 과제로 제시됐다.
