[서울=뉴시스]심지혜 기자 = 한국정보통신기술협회(TTA)는 인공지능(AI) 모델 신뢰성 확보와 데이터 보호를 위한 '인공지능 보안' 표준화 전담 프로젝트그룹(PG507)을 신설했다고 30일 밝혔다.

이번 프로젝트그룹은 ▲인공지능 시스템 정보보호 기술 ▲인공지능 개인정보 보호 기술 ▲인공지능 보안성 평가 기술 ▲생성형 AI 보안 기술 ▲에이전틱 AI 보안 기술 등을 중심으로 국내외 표준 개발을 추진한다.

최근 인공지능은 단순 자동화 수준을 넘어 생성형 AI를 중심으로 빠르게 고도화되는 상황이다. 자율주행차의 실시간 환경 인지 및 판단, 맞춤형 교육 콘텐츠 생성, 지능형 로봇 제어 등 다양한 산업과 융합되어 신산업 창출을 촉진하고 있다.

AI 기술의 접근성이 높아짐에 따라 이를 악용한 사이버 범죄와 개인정보 침해 등 보안 위협도 증가하고 있다.

TTA는 프로젝트그룹은 모델 탈취, 프롬프트 인젝션, 적대적 공격 등 새로운 유형의 보안 위협과 각국의 AI 관련 법·규제를 고려한 인공지능 보안 표준을 개발할 계획이다.

손승현 TTA 회장은 "이번 프로젝트그룹이 인공지능 산업 육성과 기술 신뢰성 확보를 위한 표준 생태계 조성에 기여할 것"이라며 "국내외 인공지능 표준화 기구와의 협력을 통해 우리나라의 우수 기술을 국제표준으로 반영하는 기반이 될 것으로 기대한다“고 말했다.

◎공감언론 뉴시스 [email protected]

Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지