[서울=뉴시스] 신효령 기자 = 11월3일 미국 중간선거를 앞두고 인공지능(AI)으로 만든 허위정보가 유권자의 판단을 흐릴 수 있다는 경고가 나왔다. 거짓 게시물 제작은 쉬워졌지만 플랫폼 기업들은 감시 인력과 투자를 줄여 대응이 약해졌다는 지적이다.

영국 가디언은 27일(현지시간) AI가 허위정보 제작 비용을 낮추고 확산 속도를 높인 반면, 이를 감시할 플랫폼의 대응에는 빈틈이 생겼다고 짚었다.

페이스북의 내부 문제를 폭로한 전(前) 직원 프랜시스 하우건은 "2016년에는 불가능했던 수준의 여론 조작을 이제 아주 적은 비용으로 할 수 있다"고 말했다.

그는 "게시물을 만들 때마다 내용을 조금씩 바꾸면 일부는 감시망을 통과한다"고 설명했다. 플랫폼이 AI로 유해 게시물을 걸러도 이를 피하는 변형물을 계속 만들 수 있다는 뜻이다.

후보를 겨냥한 허위정보는 해명 뒤에도 확산됐다. 텍사스주 연방 상원의원에 출마한 민주당 제임스 탤러리코 후보는 이달 독감으로 유세를 쉬었다가 정신의료기관 입원설에 휘말렸다. 한 우익 인사가 병원 직원과의 통화를 왜곡 편집해 퍼뜨린 거짓 주장이었다.

탤러리코 측은 텍사스 자택에 머물렀다는 영상을 공개했다. 그러나 소문은 며칠간 이어졌고, 일부 매체를 통해 자살을 시도했다는 거짓 주장으로까지 바뀌었다. AI로 제작됐다는 설명은 없지만, 허위정보가 내용을 바꾸며 퍼지는 문제를 보여줬다.

상대인 공화당 켄 팩스턴 후보는 탤러리코가 성경을 고치는 모습을 AI로 만든 광고를 내보냈다. 탤러리코는 "이런 AI 딥페이크 광고는 유권자가 선택지를 이해하는 데 아무런 도움도 주지 않는다"고 비판했다.

플랫폼 규정에도 한계가 있다.

메타는 정치 광고에 AI 사용 사실을 표시하도록 한다. 유튜브와 엑스(X·옛 트위터)는 투표 방법 등에 관한 허위정보를 금지한다. 그러나 후보를 겨냥한 거짓 주장까지 모두 차단하지는 않는다.

라틴계 허위정보 연구기관인 미주디지털민주주의연구소(DDIA)는 "거짓 정보는 퍼지면서 내용이 바뀌기 때문에 처음 나온 주장을 해명하는 것만으로는 부족하다"고 지적했다.

하우건은 "게시물 삭제에만 집중할 것이 아니라 허위정보가 어떻게 반복해서 퍼지는지 살펴야 한다"고 강조했다.

◎공감언론 뉴시스 [email protected]

Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지