[서울=뉴시스] 강지은 기자 = 공공 부문에서 인공지능(AI) 기반의 의사결정 시스템 활용이 확대되고 있지만, 신뢰도는 여전히 낮다는 설문조사 결과가 나왔다.

16일 한국행정연구원에 따르면 최근 전국 중앙행정기관, 지방자치단체, 공공기관 종사자 중 AI 시스템 담당자와 사용자 198명을 대상으로 설문조사를 실시한 결과 이같이 나타났다.

주요 조사 결과를 보면 대상 기관들의 AI 시스템 도입 단계는 '시범 운영'이 29.8%(59명)로 가장 많고, '정식 운영'이 28.8%(57명)로 뒤를 이었다. 과반 이상이 적극적으로 AI 시스템을 운영 중인 셈이다.

아직 운영하고 있지 않은 기관들의 경우 '도입 검토'는 23.7%(48명)였고, '개발 중'은 17.7%(35명)였다.

공공부문 AI 시스템의 주된 활용 범위는 '내부 업무 지원'이 62.6%(124명)로 가장 많았다. 이어 '시민 대상 서비스' 27.3%(54명), '정책 의사결정 지원' 10.1%(20명) 등의 순이었다.

의사결정 방식은 AI가 정보를 추천하고, 사람이 최종 결정하는 방식이 82.3%(163명)로 압도적으로 많았다. AI가 직접 최종 결정을 내리는 방식은 17.7%(35명)에 그쳤다. AI 시스템을 '의사결정 지원' 역할로 활용하고 있다는 얘기다.

이러한 AI 시스템에 대한 신뢰도는 저조했다.

AI 시스템 신뢰도 결정요인 8개에 대한 설문을 보면 5점 만점 중 이해 관계자 참여(3.40점)와 인간의 감독(3.37점)은 비교적 높게 평가됐다.

반면 투명성(3.23점)과 책임성(3.24점), 이의제기 가능성 및 구제(3.24점)에 대한 평가는 상대적으로 낮은 것으로 나타났다.

또 AI 시스템 신뢰도 결정요인 중 가장 미흡하다고 생각하는 요인(복수응답)으로는 기술적 견고성(50명), 데이터 보안(43명), 데이터 관리(41명), 책임성(40명), 피드백(40명) 순으로 많았다.

행정연구원은 "이는 응답자들이 대체로 즉각적인 AI 시스템 활용과 관련해 직접적으로 체감되는 영역을 보완할 필요성을 느끼고 있음을 보여준다"고 밝혔다.

아울러 AI 시스템 신뢰도 확보에 있어 주요 장애 요인으로는 전문 인력 부족(84명), 예산 부족(83명), 데이터 부족 및 품질(74명), 관련 법규 및 가이드라인 모호(70명) 등을 꼽았다.

연구원은 "공공부문 AI 활용이 국민의 신뢰를 얻기 위해서는 신뢰도와 책임성을 갖춘 관리체계 마련이 필요하다"며 "AI 기반 처분에 대한 권리구제 절차를 강화하고, 위험도에 따라 사람이 검토·감독하는 보완책도 마련해야 한다"고 밝혔다.

◎공감언론 뉴시스 [email protected]

Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지