[서울=뉴시스]이지우 인턴 기자 = 일본프로야구 요미우리 자이언츠 아베 신노스케 감독이 18세 딸을 폭행한 혐의로 조사받은 후 자진 사임한 가운데, 사건 해결에 인공지능(AI)이 개입한 것으로 알려져 화제가 됐다.

27일 일본 니혼게이자이신문은 아베 감독의 큰딸이 지난 25일 사건 당시 오픈AI의 대화형 AI '챗GPT'와 상담한 뒤 아동상담소에 연락했다고 보도했다.

아베 감독은 사건 당일 18세 큰딸과 15세 작은딸의 싸움을 말리던 도중 큰딸을 밀어 넘어뜨렸다. 큰딸은 챗GPT에 폭행 사실을 밝혔고, 챗GPT는 아동상담소의 전화번호를 안내했다. 큰딸이 안내받은 번호로 신고를 접수하자 아동상담소는 해당 내용을 경찰에 전달했다. 아베 감독은 경찰에 의해 폭행 혐의로 체포됐고, 조사를 받은 후 자정을 넘겨 풀려났다.

아베 감독의 장녀가 아동상담소 연락을 권유받은 사례는 대화형 AI 서비스에서 일반적으로 나타나는 대응이다. 구글 '제미나이', 앤트로픽 '클로드', 스페이스X '그록' 등도 가정폭력 관련 질문을 받으면 비슷한 답변을 제공한다.

대화형 AI들은 폭력이나 자살 등 민감한 주제로 질문을 받으면 전문 담당자가 있는 창구로 빠르게 유도하도록 설계돼 있다. 해당 기능은 '가드레일'로 불리는 AI 안전 대책의 일환이다. 가드레일은 생명과 관련된 문제의 대응이 늦어지지 않도록 방지한다.

AI 업계는 이용자의 자살 문제를 계기로 미성년자 이용 관련 안전 대책을 강화해왔다. 대화에서 자해 등의 징후가 발견될 경우 전문 팀이 상황을 확인하고, 긴박한 상황에서는 기업 측이 직접 경찰 당국에 신고하는 경우도 있다.

AI 업계가 외부 신고나 상담을 유도하는 대응을 도입한 배경에는 소송 리스크를 피하려는 움직임도 존재한다. 오픈AI는 지난 2월 캐나다에서 총기 난사 사건이 발생했을 당시 용의자가 AI와 범행에 대해 대화한 사실을 파악하고도 당국에 신고하지 않았다는 이유로 유족에게 소송을 당했다. 소송을 계기로 오픈AI는 더 빠르고 즉각적인 대응을 하기 위한 개선점을 도입했다.

다만 AI는 잘못된 답변을 할 가능성도 있기 때문에 이용자 역시 기술 사양에 대한 이해가 필요하다. 미국 노트르담대학교의 티나 블룸 교수는 "AI가 유용한 도움을 줄 수 있지만 개별 상황을 충분히 파악하지 못하는 경우도 존재한다"면서 "이러한 한계를 인식한 상태에서 AI를 사용할 필요가 있다"고 조언했다.

◎공감언론 뉴시스 [email protected]

Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지