[서울=뉴시스]고재은 기자 = 오픈AI가 21일(현지 시간) 미국 정부에 각국과 협력해 최첨단 인공지능(AI) 시스템 구축을 위한 글로벌 안전 및 보안 표준을 개발하는 데 앞장서야 한다고 촉구했다.

오픈AI는 이날 공식홈페이지에 '차세대 AI를 위한 표준 구축' 제하의 보고서를 통해 "AI 발전을 지속적이고 안전하게 하기 위해서는 정렬(Alignment) 연구의 개선과 더불어, 연구소와 국가 전반에 걸친 개발 공통 표준이 필요하다"고 밝혔다.

오픈AI는 특히 항후 등장할 재귀적 자기개선(RSI) AI 모델에 주목했다. RSI는 AI가 인간 개입 없이 스스로 성능을 높이는 개념을 뜻한다. 회사는 "적절한 주의 없이 (개발을) 추진할 경우, 인간이 더 이상 이해하지 못하는 연구 결과에 대해 감독할 수 없어 AI 개발에 대한 실질적 통제력을 상실하는 결과로 이어질 수 있다"고 경고했다.

이어 '허깅페이스 무단 해킹 사건'은 RSI의 직접적인 결과는 아니지만, 강력한 안전장치나 협력이 없다면 훨씬 더 심각해질 수 있는 위험을 미리 보여주는 사례라고 강조했다.

오픈AI는 국제적인 표준 마련이 필요한 이유로 파편화, 집단 행동, 역량의 불균형을 꼽았다. 각국의 사건 정의·보고 요건 등이 서로 충돌하거나, 각국이 독립적으로 행동해 파국으로 치닫는 것을 막아야 한다는 취지다. 전문 지식이 일부 국가에 편중됐다는 점도 지적했다.

회사는 "한국, 영국, 일본, 싱가포르 등에서 이미 설립된 AI 안전 연구소들의 네트워크를 활용해, 미 상무부 산하 AI표준혁신센터(CAISI)와 산업단체가 표준 제정을 촉진하는 방법이 있다"고 제안했다.

이어 "기술 표준은 AI 모델에 대한 라이선스, 의무적인 사전 승인 요건 등이 아니다. 각국 정부는 표준을 자국 법률 체계에 통합할지 등을 결정할 것"이라며 "특정 기업, 국가 등에 유리하지 않게 설계하며 특히 신규 진입자나 개방형 모델 개발자들의 경쟁을 저해하는 요소가 없어야 한다"고 했다.

구체적으로 RSI 관련 발전 상황 및 AI 기업 내 자율 연구 규모를 평가하는 방식, 즉각적인 인간 검토가 필요한 자동화 연구 기준, AI 사고 보고 기준 등을 수립해야 한다고 했다. 또 "첨단 AI 안전 분야의 모범 사례를 공유할 안전한 소통 채널 구축이 중요하다며 "미중 대화는 긍정적인 발걸음이 될 것"이라고 진단했다.

그러면서 "미국은 금융, 무역, 국방 등 핵심 분야에서 유리한 위치를 차지하고 있어서 AI 분야를 선도할 최적의 위치에 있다"며 미국이 표준 마련을 주도해야 한다고 강조했다. 회사는 "지정학적 경쟁은 누구 기술이 앞섰는지뿐 아니라, AI 도입·확산을 둘러싸고도 벌어질 것"이라고 내다봤다.

한편 이번 보고서는 오는 23일 있을 샘 올트먼 오픈AI 최고경영자(CEO)의 유엔 안전보장이사회 연설을 앞두고 발표됐다. 올트먼 CEO는 AI와 국제 안보 등에 관해 말할 예정이다. 24일에는 미중 정상회담을 위해 방미한 시진핑 중국 국가주석 등과의 만찬에 참석한다.

◎공감언론 뉴시스 [email protected]

Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지