[서울=뉴시스] 박영환 기자 = 인공지능(AI)의 안전장치를 해제할 경우 단 몇 초 만에 핵폭탄 제조법이나 정치인 납치 계획과 같은 치명적인 범죄 정보를 얻을 수 있다는 충격적인 실험 결과가 공개됐다.

22일(현지시간) 미국 폴리티코에 따르면 미 국토안보부(DHS) 산하 국립 대테러 혁신기술교육센터(NCITE)는 전날 오후 미 하원 국토안보위원회 위원들을 대상으로 비공개 브리핑을 열고 보안 규정이 제거된 이른바 '제일브레이킹(Jailbroken)' AI 모델의 위험성을 시연했다.

이날 시연에서는 안전 가이드라인이 삭제된 AI 모델이 테러와 범죄에 어떻게 악용될 수 있는지가 적나라하게 드러났다. 브리핑에 참석한 게이브 에반스 하원의원은 "안전장치가 없는 AI에게 '핵폭탄을 어떻게 만드느냐'고 묻자 모든 답변을 내놓았다"며 놀라움을 피력했다.

특히 앤드류 가바리노 하원 국토안보위원장은 "거대언어모델(LLM)에 국회의원을 납치하는 방법을 묻자 3초도 안 돼서 답을 뱉어냈다"고 밝혔다. AI는 의원을 찾을 수 있는 장소와 방법은 물론, 납치에 가장 적합한 지점까지 구체적으로 제시한 것으로 전해졌다.

전문가들은 '검열된(Censored)' 일반 AI와 달리 보안 메커니즘이 비활성화된 '탈검열(Abliterated)' 모델의 위험성을 강조했다. 실제로 실험에서 챗GPT와 같은 일반 AI는 테러 계획 수립 요청을 거부했지만, 탈검열 모델은 대규모 인명 피해를 내기 위한 단계별 공격 지침을 상세히 제공했다.

AI를 이용한 위협은 이미 현실화하고 있다. 러시아 연계 단체들이 AI를 활용해 가짜 뉴스를 유포하고 있으며, 지난해에는 중국 정부의 지원을 받는 해커들이 특정 AI 모델을 무기화해 자동화된 사이버 공격을 시도한 사례도 포착됐다.

최근 발생한 플로리다주 주립대 총격 사건의 용의자 역시 범행 전 챗GPT와 공격 계획을 논의한 정황이 포착돼 주 당국이 조사를 확대하고 있다. 앤디 오글스 하원 사이버소위원회 위원장은 "이러한 AI 도구들을 누구나 쉽게 구할 수 있다는 점이 가장 큰 문제"라며 "잘못된 사람의 손에 들어갈 확률이 매우 높다"고 지적했다.

도널드 트럼프 대통령은 이 같은 위험에 대응하기 위해 주 정부의 개별 법안보다 우선하는 강력한 연방 AI 규제법 통과를 의회에 촉구하고 있다. 도널드 트럼프 대통령이 제안한 법안에는 미성년자 보호와 함께 테러 및 범죄 악용을 막기 위한 강력한 안전 가이드라인 설치 의무화 등이 포함된 것으로 알려졌다.

◎공감언론 뉴시스 [email protected]

Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지