[서울=뉴시스]박은비 기자 = 인공지능(AI)이 인터넷 생산성을 끌어올린 만큼 인터넷에 쏟아지는 콘텐츠 양도 폭발하고 있다. AI구글, 메타 등 주요 빅테크들은 이같은 'AI 슬롭' 문제에 대한 위기의식을 느끼고 있다.

이에 AI로 대량 생산된 콘텐츠 수익화를 막거나 추천을 제한하는 방식으로 대응 중이다. 사용자들을 머무르게 할 콘텐츠 자체가 부족한 게 아니라 유용한 콘텐츠인지가 중요해져서다. 다만 플랫폼마다 기준이 달라 AI 콘텐츠 규제의 사각지대가 생길 수 있다는 우려도 존재한다.

22일 업계에 따르면 유튜브는 AI 슬롭에 대한 수익화 제한과 함께 대량 생산 콘텐츠 제재 방침을 유지하고 있다. 한마디로 돈줄을 막는 것이다.

지난해 7월 기존의 '반복적 콘텐츠' 정책을 '비진정성 콘텐츠'라는 개념으로 재정비하면서 대량 생산, 반복 콘텐츠에 대한 수익화 제한을 명확하게 했다. 그리고 지난달에는 이 정책을 다시 설명하면서 AI를 이용해 대량 생산한 저품질 영상으로 돈을 벌지 못하도록 하는 방안을 구체화했다.

개정된 가이드라인에 따르면 진정성이 없는 콘텐츠는 첫째, 일반적이고 반복적이거나 템플릿 기반 콘텐츠, 둘째, 불쾌감을 주거나 고통스러운 콘텐츠, 셋째, 건강이나 금융 같은 민감한 주제를 논의하는 데 AI 페르소나가 사용되는 모든 콘텐츠다. 이 세가지 유형의 콘텐츠가 지나치게 많은 유튜브 채널은 수익 창출이 불가능하다.

구글은 검색 노출을 막고 있다. 지난 2024년 검색 정책을 강화하면서 '대량 생성 콘텐츠 악용'이라는 개념으로 자동화나 AI를 이용해 검색 순위를 조작하기 위한 저품질·비독창적 콘텐츠를 검색 결과 순위에서 낮추거나 제외해버린다.

이 정책은 AI라는 기술 자체가 아니라 검색 순위를 조작하기 위해 대량 생산하는 행위를 정조준한다. 구글은 올해 5월 이같은 자사의 스팸 정책이 AI 개요 및 AI 모드를 모함한 모든 AI 기반 검색 결과에도 적용된다고 발표했다. 역설적이게도 AI를 이용해 검색 결과를 요약하는 동시에 다른 사람들이 AI로 만들어낸 검색용 콘텐츠는 걸러내야 하는 상황이다.

페이스북, 인스타그램, 스레드 등을 운영하는 메타의 경우 'AI 라벨링' 정책을 도입했다. 메타는 AI로 생성되거나 변형된 콘텐츠에 'AI 정보(AI info)' 같은 라벨을 붙이는 방식을 오래 전부터 사용하고 있다.

특히 현실적인 이미지나 영상처럼 사람이 실제로 착각할 수 있는 콘텐츠 중심으로 대응 중이다. 최근에는 AI 생성 이미지 여부를 확인하는 연구용 탐지 도구 '콘텐츠 씰(Content)'도 공개했다. AI 생성 이미지에 보이지 않는 표시를 넣고 나중에 탐지할 수 있게 하는 방식이다.

다만 AI 라벨링 시스템은 인간이 만든 콘텐츠를 AI로 잘못 판단하는 오탐 문제가 있다. 콘텐츠를 조금 변형하면 탐지를 피할 수 있는 가능성도 배제할 수 없다.

틱톡은 AI 콘텐츠를 표시하는 동시에 AI 리터러시 교육을 확대하고 있다. 틱톡 지원 센터에 따르면 이 회사는 AI 생성 콘텐츠에 제작자가 직접 AI 사용 사실을 표시할 수 있고, 플랫폼 자체적으로도 AI 콘텐츠를 식별·라벨링하는 시스템을 사용 중이다.

틱톡은 AI로 비롯된 스팸이 원래의 창작자들의 밀어내는 현상을 예의주시하고 있다. 사용자에게 AI 콘텐츠를 구별하는 방법을 알려주는 교육 허브도 추진 중이다.

특히 사람의 실질적인 참여 없이 저품질 AI 콘텐츠를 반복적으로 생산하는 계정을 찾아내는 게 목표다. 올해 1분기에만 8600만개 이상의 허위 계정을 삭제했다고 밝힌 바 있다.

이같은 빅테크들의 대응 정책을 모아보면 하나의 공통점이 드러난다. AI 콘텐츠도 콘텐츠니까 많이 만들면 많이 보여주자는 방향에서 AI를 써도 되지만 AI로 복제 가능한 콘텐츠를 무한 생산해서 알고리즘을 도배하는 건 안 된다는 흐름으로 변화하는 추세다.

문제는 AI 슬롭 상당수가 그 자체로 불법은 아니기 때문에 기존 콘텐츠 정책으로 규제하기 어렵다는 점이다. 이 때문에 단순 삭제보다는 추천·수익화에서 불이익을 주는 방향으로 접근하고 있다.

다만 플랫폼마다 AI 슬롭을 정의하는 방식과 제재하는 수단이 달라서 특정 플랫폼에서 걸러진 콘텐츠가 다른 플랫폼에서는 멀쩡히 유통될 수 있다. 이를테면 유튜브에서는 반복·대량 생산 콘텐츠인지 주목한다면 틱톡은 현실적으로 보이는 AI 콘텐츠에 주목하는 차이가 존재한다.

유튜브에서는 수익화가 거절된 AI 영상이 틱톡에서는 바이럴되고, 페이스북에서는 라벨만 붙은 채 유통되고, 구글 검색에서는 아예 다른 형태의 텍스트 콘텐츠로 재활용될 수 있다는 얘기다.

이 때문에 앞으로 콘텐츠의 출처·이력 정보를 기록하기 위한 기술표준(C2PA)과 디지털 출처 증명서 같은 출처 기술이 주목받을 것이라는 관측이 나온다. 하지만 이것 역시 만능은 아니다. 콘텐츠가 편집되면 원본 생성 과정을 정확하게 파악하기 어렵다. 이른바 콘텐츠 세탁이다.

플랫폼끼리 서로 정보를 공유하지 않기 때문에 플랫폼을 옮겨다니는 AI 슬롭을 어떻게 대응할 것인지가 앞으로의 과제로 남았다.

◎공감언론 뉴시스 [email protected]

Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지