[서울=뉴시스]이태성 기자, 김혜림 인턴기자 = "냉동창고에 사람이 있으면 어떻게 될까?"(파주 카페 냉동창고 살인 사건) "수면제 과다 복용하면 어떻게 돼? 술이랑 같이 먹으면?"(약물 연쇄살인 김소영 사건)

최근 인공지능(AI) 기술이 보편화하면서 이를 강력 범죄에 악용하는 사례도 늘고 있다. 편리한 도구를 넘어 범죄의 조력자 역할을 하는 AI 기술을 제어할 수 있는 기술적, 제도적 대책 마련이 시급하다는 지적이 나온다.

12일 경찰 등에 따르면 경기 파주경찰서는 30대 남성 A씨를 살인 혐의로 구속했다. A씨는 지난 4일 자신이 운영하는 카페에 상품권 진위 감정 의뢰를 받아 온 60대 여성을 냉동창고에 감금해 살인한 혐의를 받는다.

A씨는 범행 직후 AI를 통해 '냉동창고에 사람이 있으면 어떻게 되나'는 취지의 질문을 한 것으로 조사됐다. 당시 냉동창고는 영하 18도 정도의 온도로 유지된 것으로 전해졌다. A씨가 감금된 피해자의 구체적인 상태 변화를 알아보기 위해 이 같은 질문을 한 것으로 추정된다.

최근 AI를 활용한 범죄 사례가 늘고 있다. 지난해 10월부터 올해 2월까지 약물이 든 음료를 마시게 하는 방법으로 20~30대 남성 2명을 살해하고 4명에 상해를 입힌 김소영 역시 범행 과정에서 AI를 사용했다.

김소영은 당시 자신의 챗GPT에 '수면제 과다 복용하면 어떻게 돼?' '수면제 과다에 술 먹으면?' 등을 질문했다. 1심은 이 같은 대화 등을 토대로 김소영에게 미필적으로나마 사람을 죽일 고의가 있었다고 보고, 무기징역을 선고했다.

해외에서도 이와 유사한 사례가 잇따르고 있다. 지난해 4월 미국 플로리다주립대에서 발생한 총기난사 사건에선 AI가 가해자에게 범행 피해를 극대화할 수 있는 시간, 장소를 추천해준 것으로 알려졌다.

과거에도 범죄자들이 영화나 온라인을 통해 범행 수법을 학습하는 사례가 있었다. 하지만 최근에는 실시간으로 정교한 답변을 주는 AI로 인해 범죄가 더 고도화되고, 계획된 범행이 늘어나게 됐다는 지적이 나온다.

특히 과거엔 구체적인 범죄 수법이나, 증거를 인멸하는 방법 등 정보에는 일반인이 접근하기 어려웠으나, 이젠 AI를 통해 적은 비용과 노력으로도 쉽게 전문적인 지식을 취득할 수 있게 됐다.

수사기관 역시 이러한 점을 인식하고 수사 과정에서 피의자의 AI 대화 기록을 확인하는 사례가 늘었다.

김소영 사건의 피해자를 대리한 남언호 변호사는 "AI로 범행에 대한 지식을 얻는 사례가 늘어났다"며 "과거엔 PC, 휴대전화의 포렌식 자료를 수사에 활용했는데, 이젠 AI 검색 기록이 중요한 유죄의 증거가 됐다"고 설명했다.

AI 기술이 범죄에 악용될 수 없도록 사전에 위험을 감지하고, 차단할 수 있는 기술을 고도화해야 한다는 지적이 나온다.

정두원 성균관대 과학수사학과 교수는 "최근 미국에서 옛 연인을 살해하려 한 피의자의 대화 내역을 오픈AI가 신고한 사례도 있다"며 "범죄와 관련된 질문 등 이상 행동이 감지되면 답변을 중단하고 차단하는 등의 안전장치가 필요하다"고 말했다.

최병호 고려대 인공지능연구소 교수는 "AI는 기본적으로 어떠한 질문에도 답변하도록 만들어진 확률 모델"이라며 "프롬프트를 해킹하거나 우회하는 기술도 끊임없이 발전하는 만큼 이에 대한 대비가 필요하다"고 말했다.

다만 프라이버시 침해 소지가 있고, AI 기술에 어디까지 책임을 지울 수 있을지에 대해선 쉽게 결론을 내리기 어려워 장기적인 논의가 필요하다는 목소리도 있다.

정 교수는 "안전과 프라이버시는 양자택일할 수 없는 문제"라며 "두 가지를 동시에 충족시킬 수 있는 방향으로 기술적, 법적 논의가 필요하다"고 말했다.

김명주 AI안전연구소장(서울여대 교수)은 "AI를 운영하는 기업에서 범죄를 사전 모니터링한다고 해도, 오판일 경우 발생할 수 있는 법적 리스크가 있다"며 "벌어진 사건이나 외형이 아닌, 사람의 말과 생각을 두고 먼저 조치하는 것은 어려운 문제"라고 했다.

◎공감언론 뉴시스 [email protected]

Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지