실시간 뉴스



악성 댓글, AI가 걸러준다


인스타그램, 머신러닝 기반 댓글 필터 도입…국내는?

[아이뉴스24 오지영기자] 포털이나 SNS 등 인터넷 악성 댓글이 법적 공방 등 문제가 되고 있는 가운데 이의 관리를 위한 인공지능(AI) 활용 등 기술 고도화도 본격화되는 모양새다.

인스타그램이 이를 위한 자동필터 도입에 나서는 등 이른바 '댓글 정화' 작업이 본격화되는 분위기인 것. 국내 인터넷 기업들도 악성 댓글 차단을 위한 관련 기술 고도화 등에 적극 나서고 있다.

케빈 시스트롬 인스타그램 CEO는 지난달 29일(현지시간) 공식 블로그를 통해 인스타그램에 인공지능(AI) 기반 악성 댓글 자동 필터를 도입한다고 발표했다.

머신 러닝 기반의 댓글 필터링을 통해 인스타그램에 게재되는 게시물과 라이브 영상에 달리는 악성 댓글을 차단하고 스팸성 댓글을 걸러내겠다는 것.

앞서 지난해 9월 사용자가 설정한 단어나 문구를 인식, 거를 수 있는 '맞춤형 댓글 필터'를 도입한 데 이어 댓글의 맥락과 단어 간 관계까지 분석, 악성 댓글을 자동적으로 걸러주는 기능을 적용키로 한 것.

인스타그램이 공개한 자동 댓글 필터 기능은 악성 댓글의 경우 영어에만 적용됐고, 스팸성 댓글은 영어, 스페인어, 포르투갈어, 아랍어 등 9개 언어에 적용됐다. 인스타그램은 향후 다양한 언어에서 이 기능이 활용되도록 기술을 발전시켜 나간다는 계획이다.

케빈 시스트롬 CEO는 "필터를 통해 인스타그램이 더 안전한 공간이 될 것"이라며 "필터링 기술을 계속해서 고도화해 나가고, 다양한 언어에서 가능하도록 알고리즘을 발전시켜 나갈 것"이라고 말했다.

이 같은 인스타그램의 새로운 댓글 필터 기능은 페이스북의 텍스트 분류 기술인 '딥 텍스트(Deep Text)'를 바탕으로 하고 있다. 정작 페이스북은 아직까지 댓글 필터링을 위한 AI 기술의 도입을 고려하지 않고 있는 것으로 알려졌다.

이와 관련 마크 저커버그 페이스북 CEO는 지난 16일 자신의 페이스북을 통해 "AI 필터링 도입 문제는 늘 논의하는 부분이지만, 단시간에 결정될 사항은 아니다"라며 "다만 테러를 막는 부분에 있어 AI가 우리 사회를 더 안전하게 해주는데 분명 도움이 될 것이기 때문에 더 연구해야 할 책임감을 느끼고 있다"고 말했다.

페이스북이 인스타그램의 AI 기반 댓글 필터링을 그대로 가져오진 않겠지만, 페이스북에 인공지능 필터링 도입이 적합한지 판단하기 위한 테스트 사례가 될 것이라는 시각도 있다.

페이스북은 현재 신고와 모니터링을 통해 댓글을 필터링을 하고 있다. 페이스북의 자체 커뮤니티 규정에 따라 이에 위반이 되는 콘텐츠(댓글 포함)에 대해 이용자들이 신고하도록 독려하고 있다.

신고 및 삭제의 대상이 되는 콘텐츠는 ▲공인에 대한 위협과 비난 ▲따돌림 및 괴롭힘 ▲폭력적이고 자극적인 콘텐츠 ▲성폭력 및 성적 착취 콘텐츠 ▲인종·민족·국적·종교·성적 취향·성별 또는 신체적 장애나 질병을 이유로 타인을 공격하는 편파적 발언 등이며, 24시간 각 언어별로 충분한 수의 숙련된 직원을 배치해 해당 콘텐츠들을 걸러내고 있다.

◆네이버-카카오도 악성 댓글과 '전쟁'

국내에서도 포털이나 SNS 게시물에 달리는 악성 댓글 문제가 심각한 상황이다. 정치인과 연예인뿐만 아니라 일반인들에 대한 악성 댓글로 인한 피해 사례도 빈번하게 일어나고 있는 것.

실제로 지난 4월 배우 故 김영애 씨 부고 기사에는 "죽는 연기도 잘하네"라는 입에 담지 못할 댓글이 달려 사회적 논란이 되기도 했다.

국내 대표 포털인 네이버와 다음 역시 이 같은 악성 댓글을 차단하고 올바른 댓글 문화를 정착시키기 위해 캠페인을 진행하거나 기술 고도화에 힘쓰는 등 다양한 노력을 기울이고 있다.

네이버는 기본적으로 전문 모니터링 인력 400여 명을 동원해 게시물과 댓글 등에 대한 24시간 모니터링을 하고 있다. 또, 게시글로 인해 권리를 침해 당한 이용자를 위한 24시간 신고센터를 운영하고 있다.

이와 함께 빅데이터를 바탕으로 한 자동 필터링 기능을 적용하고 있다. 네이버는 욕설이나 선정적인 단어를 작성하면, 이를 즉각 필터링해 다른 형태로 치환해 노출하는 등 댓글 정화작업을 하고 있다.

지난 22일에는 모든 삭제 댓글에 대한 실시간 정보를 확인할 수 있도록 댓글 기능을 개편하기도 했다. 유통이 금지된 음란 등 불법 정보에 해당하는 댓글들은 운영자가 삭제 조치를 취하는데, 이와 관련한 삭제 댓글 수, 삭제 시간 등을 공개해 투명성을 높인 것.

네이버 관계자는 "네이버 댓글의 투명성과 공정성을 높이기 위해 많은 조치를 취하고 있다"며 "악성 댓글을 차단하고 음란·불법 댓글들을 걸러내기 위해 지속적으로 노력해나갈 것"이라고 말했다.

다만 AI 기반 기술을 비롯한 자동 필터링이 100% 완벽하지 않아, 일괄적으로 댓글을 필터링하면 자칫 표현의 자유를 침해할 수 있다는 지적도 있다.

다음을 서비스하는 카카오는 이 같은 점을 감안, 맥락을 고려한 자동 필터링 기능을 개발하기 위해 기술 고도화 작업을 진행 중이다.

단어를 둘러싼 맥락을 이해하지 않고 적용되는 필터링은 한계가 있다고 판단해, 현재까지는 제한적인 자동 필터링만을 적용하고 직접 모니터링과 신고를 통한 댓글 정화에 중점을 두고 있다.

카카오 관계자는 "현재는 신고와 직접 모니터링이 더 많고, 필터링은 맥락이 다양하게 나타날 수 있기 때문에 제한적으로 적용하고 있다"며 "향후 맥락을 더 잘 파악해 필터링을 적용할 수 있도록 알고리즘과 기술 고도화를 진행하고 있다"고 말했다.

오지영기자 comeon0114@inews24.com






alert

댓글 쓰기 제목 악성 댓글, AI가 걸러준다

댓글-

첫 번째 댓글을 작성해 보세요.

로딩중
포토뉴스