[서울=뉴시스]박미선 기자 = 인공지능(AI)의 치명적 위험성에 대한 경고가 잇따르며 개발 속도를 조절해야 한다는 목소리가 커지는 가운데, AI 산업을 이끄는 빅테크 수장들이 규제와 속도 조절의 필요성을 두고 첨예한 입장 차를 드러냈다.

15일(현지 시간) BBC, 파이낸셜타임스(FT), CNBC 등에 따르면 샘 올트먼 오픈AI 최고경영자(CEO)는 샌프란시스코에서 열린 세일즈포스 연례 행사 '드림 포스'에서 "우리가 옳은 일을 할 것이라는 점을 세상이 신뢰해야 한다"며 "우리 회사와 업계가 이를 안전하게 해낼 능력이 있다고 매우 확신한다"고 말했다.

올트먼 CEO는 AI의 안전성과 통제 가능성을 기술 발전보다 우선할 것이라며, 이를 달성하지 못한다면 "개발 속도를 늦추거나 중단할 것"이라고 밝혔다.

또 AI의 위험성 자체를 과소평가해서는 안 된다고 강조했다. 그는 "이것이 어떻게 잘못될 수 있는지를 상상하는 데 예전만큼 많은 상상력이 필요하지 않다"며 "세상이 이를 두려워하는 것은 당연하다고 생각한다"고 말했다.

AI 안전성 논쟁은 최근 앤트로픽을 퇴사한 AI 연구원 제이컵 콕슨이 AI가 2030년까지 인류를 멸망시킬 수 있다고 경고하면서 확산했다.

이에 다리오 아모데이 앤트로픽 CEO는 지난 12일 제3자 안전성 평가와 글로벌 안전 기준 마련, 통제되지 않는 AI 발전 속도 제한 등을 담은 '3단계 속도 조절론'을 제안했다. 이를 위한 업계 공조 과정에서 정부 중재나 반독점 규제 적용 면제가 필요할 수 있다고도 밝혔다. 올트먼 CEO와 일론 머스크 스페이스X CEO, 데미스 허사비스 구글 딥마인드 의장 등이 잇따라 지지 의사를 표명했다.

그러나 젠슨 황 엔비디아 CEO는 새로운 규제 필요성에 정면으로 반대했다. 그는 이번 행사에서 "기업들이 제품을 출시하기 전에 기본적인 엔지니어링 작업을 제대로 하기 위해 새로운 법이나 새로운 반독점법, 새로운 규제가 필요하다는 것은 전혀 불필요하다"며 "제품의 신뢰성과 기능을 규율하는 법과 규제는 이미 충분히 존재한다"고 말했다.

이어 "안전은 기술적 엔지니어링의 문제이고 테스트도 엔지니어링의 문제"라며 "출시할 준비가 되지 않았다면 보류하고 준비될 때까지 계속 시험하고 엔지니어링하면 된다"고 덧붙였다.

AI의 개발 속도와 안전성 가운데 하나를 선택해야 한다는 주장도 '잘못된 양자택일'이라고 반박했다. 황 CEO는 "두 가지를 동시에 달성하는 것은 분명히 가능하다"며 "할 수 있는 한 빠르게 달리되 어느 순간 회사가 통제 불능 상태이거나 제품이 안전하지 않을 것 같다면 잠시 멈추고 제대로 바로잡으면 된다"고 말했다.

AI가 인류의 존립을 위협할 수 있다는 주장에 대해선 "우리가 2030년에 죽는 일은 없을 것"이라며 "전 세계에는 AI를 제대로 개발할 사람들이 아주 많고, 우리는 온갖 안전장치와 안전·보안 기술을 개발하게 될 것"이라고 강조했다.

황 CEO의 이 같은 입장은 도널드 트럼프 대통령의 AI 정책 기조와도 맞닿아 있다. 트럼프 대통령은 전날 황 CEO와의 통화에서 AI 위험론을 '사기(hoax)'라고 일축하며 AI 개발과 데이터센터 건설을 늦추려는 움직임을 비판했고, 황 CEO도 이에 동조했다.

반면 아모데이 CEO는 는 개별 기업의 자율적인 판단만으로는 충분하지 않다는 입장이다. 그는 앤트로픽이 더 나은 AI 안전 기준과 점검 체계를 마련하기 위해 다른 AI 기업들과 "대화를 진행하고 있다"고 밝혔다.

오픈AI 역시 앤트로픽, 구글 딥마인드 등과 최첨단 AI의 안전 기준을 마련하기 위한 자발적 협의를 진행하고 있다. 크리스 리헤인 오픈AI 임원은 "정부의 지원 여부와 관계없이 자발적인 노력을 구축하고 있다"고 밝혔다.

다만 AI 기업들의 자율 규제에 대한 회의론도 나온다. 앤트로픽 공동창업자인 잭 클라크는 AI를 "완전히 규제받지 않는 산업"으로 내버려두는 것은 "엄청난 위험을 놓고 주사위를 굴리는 것"이라고 경고했다.

로지컬인텔리전스의 패트릭 힐먼 최고운영책임자(COO)도 "요즘 미국인들이 워싱턴보다 더 신뢰하지 않는 유일한 곳이 있다면 실리콘밸리일 것"이라며 "자신들이 만들고 있는 것이 위험하다고 믿는다면 무엇을 하지 않을 준비가 돼 있는지를 보여달라"고 지적했다.

◎공감언론 뉴시스 [email protected]

Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지