[서울=뉴시스] 박영환 기자 = 미국 트럼프 행정부가 앤트로픽의 최상위 인공지능(AI) 모델에 대한 해외 접근을 차단한 데는 아마존 최고경영자(CEO)의 보안 위험 제기가 결정적 계기로 작용한 것으로 전해졌다.

월스트리트저널(WSJ)은 13일(현지시간) 복수의 소식통을 인용해 앤디 재시 아마존 CEO가 스콧 베선트 미 재무장관 등 정부 고위 당국자들과 나눈 대화가 이번 조치의 발단이 됐다고 보도했다.

아마존 연구진은 앤트로픽의 페이블 5 모델에 여러 질문을 이어 입력해, 원래 제공하지 않도록 제한된 사이버 공격 관련 정보를 끌어낸 것으로 알려졌다. 재시 CEO는 이 사실을 미 당국자들에게 전달했다고 소식통들은 전했다.

이후 백악관 당국자들은 대응 방안을 논의하는 회의를 열었고, 보안 연구자들은 아마존의 문제 제기를 검증하기 위한 테스트에 착수했다. 미 당국은 앤트로픽에 취약점을 고치거나 모델 운영을 중단하라고 요구했다. 재시 CEO의 경고는 이후 상무부가 미토스와 페이블의 해외 접근을 광범위하게 금지하는 조치로 빠르게 확대됐고, 트럼프 대통령은 혁신 저해 우려에도 이 조치에 서명했다고 WSJ은 전했다.

미 행정부는 그동안 앤트로픽이 새 모델의 보안 위험을 제대로 관리할 수 있는지 신뢰하지 못해 왔다. 일부 당국자는 지난 12일 행정부 관계자들과 다리오 아모데이 앤트로픽 CEO의 통화가 이런 불신을 더 키웠다고 전했다.

앤트로픽은 정부 조치에 맞춰 모든 사용자의 미토스와 페이블 모델 접속을 중단한다고 밝혔다. 회사는 이 조치로 전 세계 기업들이 해당 모델을 활용해 소프트웨어 취약점을 찾으려던 시도에도 차질이 생길 수 있다고 설명했다. 또 자사 연구진 상당수가 외국 출신이어서, 정부 규정이 사실상 이들의 최신 모델 연구 참여까지 막는 효과를 낳는다고 주장했다.

아마존은 앤트로픽의 주요 투자자이자 데이터센터용 칩을 공급하는 협력사다. 동시에 앤트로픽의 고성능 모델을 활용해 소프트웨어 취약점을 찾는 이용자이기도 하다. 아마존 대변인은 정부가 잠재적 보안 위험에 대해 조언을 구하는 것은 드문 일이 아니라면서도 구체적인 논의 내용은 공개하지 않는다고 밝혔다.

앤트로픽은 올해 초부터 아마존과 다른 기술기업들을 상대로 미토스를 제한적으로 미리 공개해 왔다. 주요 기업과 보안 연구자들이 먼저 모델을 활용해 소프트웨어 취약점을 찾아내고, 모델을 더 넓게 공개하기 전에 문제를 보완하려는 취지였다.

앤트로픽은 아마존이 지적한 취약점이 비교적 기본적인 수준이라고 반박해 왔다. 다른 공개 AI 모델들도 비슷한 취약점을 찾아낼 수 있으며, 이번 사례가 안전장치를 우회한 이른바 ‘탈옥’은 아니라는 게 회사의 입장이다.

일부 보안 연구자들도 아마존 연구 결과가 위험한 사이버 공격 능력을 곧바로 입증한 것은 아니라고 봤다. 사이버보안 업체 그레이노이즈 인텔리전스의 앤드루 모리스 창업자는 페이블이 특정 소프트웨어의 보안 버그를 찾아낸 것은 맞지만, 아마존 연구진이 이를 실제 공격 코드로 바꾸는 안전장치까지 우회했다는 증거는 없다고 설명했다.

이번 조치는 AI 업계에 대한 미 정부의 통제가 빠르게 강해지고 있음을 보여주는 사례로도 해석된다. 트럼프 행정부는 최근 고성능 AI 모델에 대한 안보 당국의 감독을 강화하는 행정명령을 내렸고, 정부가 일부 AI 기업의 지분을 보유하는 방안도 논의해 왔다.

백악관 고위 당국자는 이번 개입이 모델 안전 문제에 관한 조치일 뿐이며, 행정부의 혁신 중시 기조와 충돌하지 않는다고 밝혔다. 백악관 AI 고문인 데이비드 색스는 정부가 이번 제한 조치를 “마지못해” 내렸다며, 앤트로픽이 안전 문제를 해결하면 수출 통제가 해제되고 페이블이 다시 일반에 공개되는 것이 행정부가 바라는 시나리오라고 설명했다.

그러나 최상위 모델 접속 중단은 이르면 올가을 기업공개(IPO)를 준비 중인 앤트로픽에 부담이 될 수 있다. 이용자들이 다른 AI 모델로 옮겨갈 경우 앤트로픽의 성장세가 흔들릴 수 있고, 자체 사이버 모델을 고객에게 단계적으로 제공 중인 오픈AI 등 경쟁사에는 기회가 될 수 있다.

앤트로픽은 2021년 아모데이 CEO 등 오픈AI 출신 인사들이 설립했다. 이들은 오픈AI가 AI 안전 문제를 충분히 중시하지 않는다고 보고 회사를 나와 앤트로픽을 세웠으며, 앤트로픽은 클로드 코드의 성능을 앞세워 기업용 AI 모델 시장에서 주요 업체로 성장했다.

하지만 앤트로픽과 트럼프 행정부의 관계는 순탄치 않았다. 행정부 내에서는 앤트로픽이 진보 성향 후원자들과 관계가 있고 AI 위험성을 강하게 경고해 왔다는 점을 불신하는 기류가 있었다. 양측은 군의 AI 활용 문제를 두고도 갈등을 빚어 왔으며, 미 국방부는 이례적으로 앤트로픽을 안보상 위험이 있는 업체로 지정했다. 앤트로픽은 이에 맞서 두 건의 소송을 진행 중이다.

기술정책 싱크탱크 R스트리트연구소의 애덤 티러 선임연구원은 이번 사태를 두고 미국 내 AI를 둘러싼 정치화와 첨단 연산 자원 통제의 중앙집중화가 크게 강화된 사례라고 평가했다.

◎공감언론 뉴시스 [email protected]

Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지