[서울=뉴시스]윤정민 박은비 기자 = #특정 쇼핑몰 주소를 입력하고 점검을 시작하자 모니터 화면에 사이트 접점과 취약점 후보를 연결한 그래프가 떴다. 수분 뒤 일부 항목이 붉게 표시됐다. 약 8분 만에 취약점 6개를 알아냈다. 7개는 추가 확인이 필요하다고 알렸다.

8일 보안기업 라온시큐어가 자체 개발한 모의해킹 도구 '원해커'로 시연한 모습이다. 사람이 일일이 명령을 내리지 않아도 된다. 점검 대상과 조건만 입력하면 인공지능(AI)이 스스로 사이트를 분석하고 취약점을 검증한다.

도구는 사이트의 각 기능을 살피고 어디에 보안 허점이 있을지 가설을 세웠다. 이어 실제 요청을 보내 시스템 반응을 확인했다. 단순히 의심스러운 곳을 표시하는 데 그치지 않았다. 발견한 허점이 실제 공격에 이용될 수 있는지까지 검증했다.

신우인 라온시큐어 팀장은 "취약점이 있을 것이라는 가설을 세운 뒤 실제로 시도해 보고, 시스템이 어떤 응답을 보내는지 확인한다"며 "사람이 같은 범위를 점검하려면 최소 일주일 이상은 걸릴 것 같다"고 말했다.

 이번 시연은 AI가 해킹의 속도를 얼마나 끌어올릴 수 있는지를 보여준다. 최근 금융권 연쇄 해킹에 활용된 것으로 알려진 '아르텍스(ARTEX)'와도 작동 방식이 유사하다. 대상 정보를 수집하고 취약점을 찾은 뒤 실제 공격 가능성을 검증하는 과정을 AI가 자동으로 수행한다.

최근 금융권 연쇄 해킹사고에서 포착된 AI 해킹 프로그램은 새로운 해킹 기법이 아닌 기존 공격 과정을 AI로 자동화·고도화 용도로 썼다. 고성능 AI로 신종 취약점(제로데이)을 찾는 정교한 수법은 동원되지 않았다. 이미 알려진 약점을 탐색하는 정도였다. 메인 금융 거래 시스템이 아닌 관리가 소홀한 사이트가 타깃이 된 이유다.

그럼에도 주목할 점은 자동화 기술이다. 해커가 일일이 사이트를 찾아다니지 않아도 AI가 취약점을 자동으로 찾아내 동시에 공격했다. 기업의 주요 업무가 API(서로 다른 프로그램이 데이터를 주고받는 연결통로)로 연결된 상황에서 정상적인 요청처럼 속여 대규모로 정보를 빼갔다.

해커는 기존 해킹 단계를 자동화한 것만으로 공격 속도와 피해 규모를 폭발적으로 키웠다. 글로벌 보안 기업 크라우드스트라이크의 애덤 마이어스 공격 대응 작전 총괄은 "이번 사건이 AI 에이전트로 광범위한 공격을 수행한 초기 사례가 될 것"이라고 규정했다.

 전문가들은 머지않아 AI가 스스로 목표를 정하고 공격 전 과정을 판단해 실행하는 '자율형 해킹 에이전트'로 진화할 것이라고 경고한다.

지난해 중국계로 추정되는 해킹그룹은 앤트로픽의 '클로드'를 탈옥(Jailbreak)시켜 글로벌 IT기업과 정부기관, 금융기관, 화학 제조사 등 미국 내 30개 기관을 동시 공격했다. AI 에이전트는 표적마다 초당 수천건에 달하는 공격을 진행했다. 일부 기관은 실제 뚫렸다. 

공격자는 클로드에 합법적인 보안업체 직원 역할을 부여했다. 방어 목적의 점검이라고 속이고, 공격 의도가 드러나지 않도록 작업을 잘게 나눴다. 안전장치를 우회하는 '탈옥'에 나선 것이다. 그 결과, 클로드는 취약점을 검증하고 공격 코드를 작성한 뒤 계정정보 확보와 데이터 탈취까지 수행했다. 앤트로픽이 지난해 11월 공개한 AI 자율형 에이전트 공격 사례다.

앤트로픽에 따르면, AI가 대상 물색, 취약점 발견, 공격 코드 작성, 계정 탈취, 서버 침투, 데이터 유출에 이르기까지 공격 전 과정에서 최대 90%를 자율 수행했다. 인간 해커는 4~6개의 주요 의사결정에만 개입했다.  앤트로픽은 "AI가 단순 조언자에 그치지 않고 직접 실행자로 나선 첫 사례"라고 평가했다.

여러 AI 에이전트를 동시에 운용한 사례도 포착됐다. 앤트로픽이 지난달 공개한 위협정보 보고서에 따르면 다른 중국계 해커 조직(GTG-10007)은 여러 AI 에이전트를 동시에 돌리는 '에이전트 스웜(무리)' 방식을 사용했다.

대장 AI 에이전트가 침투 후 작업을 하위 AI 에이전트들에게 나눠 배분하는 구조다. 한 AI가 침투와 공격을 맡는 동안 다른 AI는 외국 정부 정보를 수집했다. 또 다른 AI는 보안 제품을 역분석해 새로운 약점을 찾고 맞춤형 악성코드를 개발했다. 이 조직은 교육기술 기업에서 수백 메가바이트(MB)에 달하는 학생 개인정보를 빼냈다. 동남아 정부기관에서는 이름과 전화번호, 집 주소가 담긴 주민정보를 확보했다.

 이번 금융권 해킹으로 화제가 된 '아르텍스'도 최근 AI 에이전트별로 역할을 나누는 구조로 진화했다. 안랩에 따르면 새 버전은 공격 총괄  담당 에이전트가 여러 작업 담당 에이전트를 조율한다.

AI가 해킹 도구를 넘어 하나의 해킹 조직처럼 움직이기 시작한 것이다.

구글 역시 최근 보안 위협 보고서를 통해 이러한 AI 자율 공격의 위험성을 경고했다. 구글에 따르면 특정 기관의 클라우드 시스템에 접근한 공격자가 AI 에이전트로 수천 건의 계정 정보를 탈취했다. 작전을 계획하고 구축해 실행하기까지 채 6시간이 걸리지 않았다.

보안 전문가들은 AI 해커의 공격을 막아낼 수 있는 유일한 수단 역시 '방어용 AI'뿐이라고 입을 모은다. 해커의 공격 속도에 맞춰 이상 징후를 실시간으로 탐지하고 즉각 차단하는 자율 방어 시스템 구축이 시급하다는 설명이다.

홍준호 성신여대 융합보안공학과 교수는 "사람이 로그를 확인하고 보고하고 의사결정을 거쳐 차단하는 동안 AI 에이전트는 이미 다른 IP, 계정, API, 공격 경로를 시험할 수 있다"며 실시간 탐지와 자동 대응 중심으로 방어 체계를 전환해야 한다고 강조했다.

◎공감언론 뉴시스 [email protected], [email protected]

Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지