인공지능(AI) 기술을 활용한 유해 정보를 막기 위해 포털이 대응에 나섰다.

한국인터넷자율정책기구(KISO)는 네이버, 카카오, SK커뮤니케이션즈(SK컴즈) 등 포털 회원사들과 협력해 지난해 청소년 보호를 위한 검색어 110개를 새로 추가했다고 11일 발표했다.

새로 추가된 검색어는 ‘딥페이크’ 관련 내용과 불법촬영물, 성착취, 마약류 매매, 신종 불법 사기대출 등이 포함됐다. 일부 성인콘텐츠를 검색에서 노출하게 하는 앱 ‘언드레스’ 관련 검색어도 선제적으로 청소년 보호 검색어로 지정했다. AI 기술 부상과 그로 인한 유해 정보에 대해 신속하게 대응하기 위해서다.

네이버와 카카오, SK컴즈 등 포털 3사는 KISO와 공동으로 청소년 보호 검색어 데이터베이스(DB)를 구축, 관리하고 있다. 현재 약 5만1000개의 청소년 보호 검색어 DB를 운영 중이며 지속해 업데이트 및 조정하고 있다.

청소년 보호 검색어는 단어 자체만으로도 유해성이 있거나 검색어 입력시 유해한 결과를 노출시킨다고 판단될 경우에만 등록한다.

청소년 보호 검색어로 지정되면 해당 검색어를 입력할 경우 청소년에게 부적합한 검색 결과의 노출이 제한된다. 일반 이용자는 연령 확인 절차를 통해 검색 결과를 확인할 수 있다.

황용석 KISO 자율규제DB위원회 위원장은 “딥페이크와 관련된 검색어 추가는 초상권 침해, 명예훼손, 기타 형법적 문제가 발생할 위험을 줄이고, 성적 착취나 폭력으로의 연결 가능성을 예방하기 위한 필요한 조치”라고 말했다. 이어 “미국에서도 AI 관리 및 감독, 특히 아동과 청소년 보호가 중요한 이슈로 다뤄지고 있는 점을 고려해 KISO와 회원사들이 선제적으로 대응하고 있다”고 설명했다.

이소연 기자 soyeon@kukinews.com 기사모아보기