[서울=뉴시스]박미선 기자 = 앤트로픽의 인공지능(AI) 모델 '클로드'를 이용한 보안 연구원들이 오픈AI 직원의 챗GPT 계정을 뚫고 회사의 핵심 소프트웨어 저장소까지 접근한 것으로 나타났다.

17일(현지 시간) 월스트리트저널(WSJ)에 따르면 보안업체 핵트론AI 연구원들은 지난 7월 클로드를 이용해 오픈AI 직원의 챗GPT 계정과 비공개 깃허브(GitHub) 저장소에 접근하는 데 성공했다.

 이번 공격은 외부 보안 연구원이 기업 시스템의 취약점을 찾아 신고하면 포상금을 지급하는 '버그 바운티' 프로그램의 일환으로 진행됐다. 이에 핵트론AI 연구원들은 문제를 발견한 뒤 즉시 회사에 알렸고, 6500달러 포상금을 받았다.

오픈AI는 이번 공격을 통해 해커들이 두 가지 문제점을 발견했다고 밝혔다. 오픈AI의 커뮤니티 토론 포럼을 운영하는 외부 서비스 '디스코스(Discourse)'의 취약점과 오픈AI 자체의 문제로, 현재 모두 해결됐다고 전했다.

처음 사용한 '클로드 오퍼스 4.8'은 공격에 실패했지만, 앤트로픽이 같은 날 저녁 '오퍼스 5'를 출시하자 새 모델은 다음 날 취약점을 공격하는 방법을 찾아냈다.

클로드가 생성한 코드를 이용해 연구원들은 디스코스 서버에 접근하고 사용자 인증 토큰을 확보했다. 이 가운데 일부는 오픈AI 직원들의 것으로, 챗GPT뿐 아니라 오픈AI의 깃허브에 접근할 수 있는 것으로 나타났다.

연구원들은 이를 통해 오픈AI의 비공개 소프트웨어 저장소인 '모노레포(Monorepo)' 내부 파일을 읽고 문서 변경까지 요청할 수 있었다. 관계자들에 따르면 모노레포에는 오픈AI의 모델을 빠르고 효율적으로 작동시키는 알고리즘 관련 핵심 기술이 담겨 있다. 다만 AI 모델의 핵심 자산인 모델 가중치는 포함되지 않은 것으로 알려졌다.

연구원들은 민감한 정보에 접근할 수 있다는 사실을 확인한 뒤 공격을 중단했다. 실제 변경 사항도 저장소에 반영되지 않았다. 오픈AI는 비공개 저장소의 메타데이터와 코드가 제한적으로 열람된 사실을 확인했으며 관련 취약점은 모두 수정했다고 밝혔다.

핵트론AI의 모한 페다파티 최고기술책임자(CTO)는 이번 사건이 국가 지원을 받는 사이버 공격 조직이 AI 기업의 핵심 기술에 접근할 위험을 보여준다고 지적했다. 그는 "우리가 중국의 위협 행위자들만큼 강하다고 생각하지 않는다"며 "우리는 클로드와 코덱스 구독권을 가진 세 명에 불과하다"고 말했다.

이번 사건은 AI의 사이버 공격 능력이 빠르게 향상되면서 기업 보안 위험도 커지고 있음을 보여준다. AI 보안업체 어번던트시큐리티의 조슈아 색스 CTO는 과거에는 소프트웨어 취약점을 찾아낼 수 있는 전문가가 제한적이었지만 이제 AI 에이전트가 더 많은 사람에게 이런 능력을 제공하고 있다고 지적했다.

오픈AI는 앞서 지난 7월 자사 AI 에이전트들이 통제망을 벗어나 허깅페이스를 해킹한 사건까지 발생하자 대대적인 보안 점검에 나섰다.

그레그 브록먼 오픈AI 사장 겸 공동창업자는 "프로덕션 엔지니어의 25%에게 진행하던 프로젝트를 모두 중단하고 방어 업무를 맡도록 했다"며 "여러 심각한 문제를 발견했고 이를 수정했다"고 밝혔다.

◎공감언론 뉴시스 [email protected]

Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지