뉴질랜드 이슬람사원에서 발생한 테러를 실시한 중계한 동영상이 페이스북에 1시간 가량 게재됐다는 보도가 나왔다. 이로 인해 해당 동영상은 4000회 이상 조회되고 다른 사이트에서 수업이 복제가 이뤄진 것으로 나타났다.

이에 대해 페이스북 측은 유해 콘텐츠 차단을 위해 도입한 인공지능(AI)이 무용지물이었는 점을 인정했다.

연합뉴스에 따르면 미국 일간 월스트리트저널(WSJ)이 21일(현지시간) 뉴질랜드 이슬람사원(모스크) 테러를 실시간으로 중계한 동영상이 1시간 가까이 페이스북에 올라와 있었던 것으로 나타났다고 전했다.

앞서 지난 15일 베렌턴 태런트는 뉴질랜드 크라이스트처치 이슬람사원 2곳에서 무차별 총격을 가해 50명을 사망에 이르게 했다. 당시 태런트는 헬멧에 부착한 카메라를 이용해 자신의 테러를 실시간으로 중계했다. 문제는 최초 중계 후 페이스북이 이를 삭제할 때까지 약 1시간이 걸렸다는 점이다.

월스트리트저널은 당시 테러 장면 생중계는 현지시간으로 오후 1시33분께 시작해 17분 뒤인 오후 1시50분께 끝났고, 그로부터 12분 뒤 한 페이스북 이용자가 이 동영상이 문제가 있는 것으로 보고 신고했다고 보도했다.

하지만 해당 테러 동영상은 곧장 삭제되지 않았다. 모니터링 요원들이 이를 검토하고 조처를 할 때까지 대기에 걸려 있었던 것으로 보인다. 이에 뉴질랜드 경찰의 소셜미디어팀이 오후 2시29분께 페이스북에 문제의 동영상을 통지했고, 몇 분 뒤 테러 동영상은 삭제됐다.

그러나 이미 4000회 이상 해당 영상이 조회됐고, 페이스북이나 다른 사이트에서 수백만 번 복제가 이뤄진 뒤였다.

월스트리트저널은 “이런 지연은 폭력적 동영상이나 다른 혐오 콘텐츠를 중단하는 과정에서 거쳐야 하는 일련의 시스템상 공백들 때문에 발생한 것으로 보인다"고 지적했다.

이에 대해 페이스북은 해로운 콘텐츠 차단을 위해 도입한 인공지능이 이번 테러 동영상 확산 과정에서 사실상 무용지물이었다고 시인했다. 생중계 당시와 그 이후에도 문제의 동영상을 탐지하지 못했다는 것이다.

페이스북 가이 로젠 부사장은 “알몸 노출이나 테러리스트의 선전물처럼 인공지능을 훈련시킬 충분한 사례가 있는 경우에는 인공지능이 잘 작동해왔다. 하지만 이슬람사원 대학살 같은 콘텐츠는 인공지능이 학습할 만큼 양이 충분하지 않다"고 말했다.

한편, 페이스북은 문제의 동영상을 감지하기 위한 기술을 개선해 나가겠다고 밝혔다.

송병기 기자 songbk@kukinews.com