[서울=뉴시스]오동현 기자 = #. 외부와 차단된 실험용 네트워크에 안드로이드 가상 기기 8대가 놓였다. 그 중 한 대에 '인공지능(AI) 웜'을 넣었다. 웜은 보안이 허술한 통로를 타고 순식간에 옆 기기로 건너갔다. 그곳에 자신을 복제해 AI 모델을 설치한 뒤 곧바로 다음 기기를 공격했다. 다섯 번의 실험 중 네 번이나 8대 전체가 완전히 장악됐다.

미국 AI 기업 앤트로픽의 보안 연구팀(프런티어 레드팀)이 12일(현지시간) 공개한 자율 확산형 AI 악성코드 실험 결과다. 연구진은 작은 AI가 스마트 오븐이나 값싼 TV 박스 같은 가전으로 스스로 퍼질 수 있게 되기까지 수개월 앞으로 다가왔다고 경고했다.

웜은 사람의 개입 없이 스스로 복사되며 퍼지는 악성 프로그램이다. 기존 웜이 해커가 짜둔 코드대로만 움직인다면, 앤트로픽이 경고한 AI 웜은 AI 모델의 두뇌에 해당하는 데이터(가중치)를 악성코드에 실어 옮기고 감염된 기기에서 직접 구동한다.

 이 때문에 한 번도 접해보지 못한 낯선 기기나 가전제품도 스스로 구조를 파악해 뚫어낸다. 실험에서 90억 매개변수 규모의 소형 모델은 종류가 다른 기기 9종 중 8종에 스스로 AI 구동 환경을 구축했다.

심지어 앞서 공격에 실패했던 경험을 '메모'로 남겨 다음 AI 웜에게 물려주기도 했다. 연구진은 먼저 작업한 AI가 시도한 방법과 실패 원인을 메모로 남기게 했다. 다음 AI가 이 메모를 읽고 같은 작업에 나서자 성공률이 45%에서 최대 84%까지 올랐다. 선배의 '오답 노트'를 물려받은 셈이다.

가장 큰 문제는 한 번에 멈출 방법이 없다는 점이다. 보통 악성코드는 명령을 내리는 중앙 메인 서버를 차단하면 멈춘다. 반면 AI 웜은 기기마다 탑재된 AI가 각자 판단하며 움직여 중앙 차단이 불가능하다.

대신 속도는 느리다. 연구진은 감염 기기가 2배로 느는 데 며칠이 걸릴 것으로 봤다. 그래서 천천히, 그러나 끈질기게 번지는 '점균'에 비유했다.

 연산 능력은 위협적이다. 연구진이 대당 55달러(약 7만원)짜리 저가 TV 박스 15대를 연결하자 중형 AI 모델이 실행하는데 성공했다.

과거 200만대 이상을 감염시킨 '킴울프' 봇넷 사태처럼 저가 가전이 해커의 '좀비 기기 군단'으로 악용될 수 있다는 뜻이다. 

봇넷은 해커가 감염시킨 기기 수백만 대를 원격으로 한꺼번에 부리는 '좀비 기기 군단'이다. 킴울프는 보안이 허술한 저가 안드로이드 TV 박스 200만대 이상을 감염시켜 디도스(대량 접속으로 서버를 마비시키는 공격) 등에 동원했다.

앤트로픽 연구진은 소형 AI 모델의 발전 속도를 감안할 때 올해 말이면 AI 웜이 스스로 퍼지는 수준에 도달할 것으로 내다봤다.

실험에는 한계도 있다. 연구진은 기기 출입문(포트)을 일부러 열어둬 침투를 쉽게 만들었다. 또 웜을 조종한 모델은 기기에 들어가기엔 너무 커서 별도 서버에서 돌았다. 연구진 스스로도 완전한 형태의 AI 복제체는 아직 없다고 밝혔다.

보안 전문가들은 AI 웜 출현에 충분히 사전 대응할 필요가 있다고 말한다. 아직 기회는 있다. 앤트로픽 연구진에 따르면 AI 두뇌는 용량이 수 기가바이트(GB)에 달해 기기 사이를 이동할 때 데이터 과다 전송으로 통신사 감시망에 걸릴 확률이 높다.

감염을 찾아낸 뒤 통신사가 나서 효과를 본 전례도 있다. 2016년 IP카메라·녹화기 등 수십만 대를 감염시킨 IoT 악성코드 '미라이' 때다. 당시 유럽의 한 통신사가 감염 가입자의 인터넷 접속을 제한하고 웹 브라우저에 감염 사실과 치료 방법을 띄우자 2주 만에 감염분의 92%가 해결됐다.

앤트로픽은 AI 웜에도 이 방식이 초기 방어선이 될 수 있다고 봤다. 다만 AI가 없는 기존 악성코드에서 얻은 결과인 만큼 AI 웜에 그대로 통할지는 미지수다. 연구진도 웜을 완전히 없애려면 모든 통신사가 함께 움직여야 하기 때문에 쉬운 방법은 아니라고 덧붙였다.

 제조사의 역할도 크다. 'admin', '1234'처럼 누구나 알 수 있는 공통 초기 비밀번호를 단 가전의 판매를 금지하는 규제가 AI 웜과 기존 봇넷을 함께 막는 데 도움이 된다고 봤다.

앤트로픽 연구진은 AI 웜이 퍼지기 어렵도록 보안 시스템을 견고하게 다듬는 동시에 AI 웜과 공존해야 하는 미래에 선제적으로 대비해야 한다고 강조했다.

◎공감언론 뉴시스 [email protected]

Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지