[서울=뉴시스] 신효령 기자 = 구글의 인공지능(AI) 모델 '제미나이'가 보안 테스트 중 실제 기업 3곳의 시스템에 접근한 사실이 확인됐다.

18일(현지시간) 미국 일간 월스트리트저널(WSJ)에 따르면 이번 일은 지난 5월 보안 평가업체 '이레귤러'가 진행한 테스트에서 발생했다. 구글도 관련 사실을 확인했다.

당시 제미나이는 가상의 기업을 대상으로 보안 취약점을 찾는 시험을 받고 있었다. 그러나 테스트 과정에서 인터넷 접근이 가능해졌다.

제미나이는 인터넷에서 테스트 대상인 가상 기업과 이름이 같은 실제 기업을 찾아냈다. 이후 해당 기업의 시스템에 접근을 시도했다.

구글에 따르면 제미나이는 모두 세 차례 실제 기업의 시스템에 접근했다. 한 차례는 비밀번호를 추측해 보호된 시스템에 접속했다. 나머지 두 차례는 공개 저장소에서 찾은 인증정보를 이용했다.

공개 저장소는 누구나 열람할 수 있는 온라인 자료 공간이다. 인증정보는 시스템에 접속할 때 필요한 계정이나 비밀번호 등의 정보를 말한다.

구글 보안 엔지니어링 부문 부사장 헤더 앳킨스는 제미나이가 세 차례 모두 실제 기업의 시스템이라는 사실을 인지한 뒤 접근을 중단했다고 밝혔다.

구글은 관련 기업 3곳에 이 사실을 알렸다. 이레귤러와 함께 테스트 과정의 문제도 수정했다. 실제 기업에 피해는 발생하지 않았다는 게 구글의 설명이다.

이번 사례는 AI가 인터넷에서 정보를 찾는 데 그치지 않고 실제 시스템에 접근할 수 있다는 점을 보여준다. 이번 일을 계기로 테스트 환경의 인터넷 접근과 실제 시스템에 대한 접근 권한을 어떻게 통제할지에 대한 과제도 제기됐다.

이레귤러는 이번 문제를 다른 AI 기업의 보안 테스트에서도 확인했다고 밝혔다. 메타와 앤트로픽, 오픈AI의 AI 모델에서도 외부 시스템에 접근한 사례가 알려졌다.

구글은 이번 사례를 AI 모델의 목표 불일치나 통제 실패로 보기는 어렵다는 입장이다. 제미나이가 실제 시스템임을 확인한 뒤 접근을 중단했고 피해도 발생하지 않았다는 이유에서다.

◎공감언론 뉴시스 [email protected]

Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지