네이버, 악성 댓글 걸러내는 'AI 클린봇' 기술 공개
상태바
네이버, 악성 댓글 걸러내는 'AI 클린봇' 기술 공개
이 기사를 공유합니다

[컨슈머타임스 하주원 기자] 네이버가 지난 25일 악성 댓글(악플)을 필터링하는 '클린봇' 기술을 다른 사이트나 앱에서도 활용할 수 있도록 공개한다고 개막한 네이버 개발자 콘퍼런스 '데뷰(DEVIEW) 2020'에서 밝혔다. 

이날 최경호 네이버 미디어 인텔리전스 소속 개발자는 "네이버는 AI 클린봇의 API(응용프로그램 인터페이스)를 조만간 오픈 API로 공개하기로 했다"고 전했다. 

API란 어떤 기술의 프로그래밍 규격이다. API를 오픈하면 다른 사이트에서 해당 기술을 '호출'해 쓸 수 있다. 쇼핑몰 앱에서 네이버로 가입·로그인하거나 기업이 회사 위치를 구글 맵으로 알리는 것 등이 대표적인 오픈 API 사례다.

네이버는 '네이버 개발자 센터'(NAVER Developers)에서 일부 네이버 기술의 오픈 API를 제공하고 있다.

클린봇은 악성 댓글을 자동으로 가리는 네이버의 AI 기술이며 지난해 4월부터 웹툰·스포츠·연예·뉴스 등의 댓글에 차례로 도입됐다. 올해는 단순 욕설·비속어가 포함된 댓글은 물론 문장 맥락을 고려해 모욕적이거나 무례하다고 판단되면 댓글을 가리는 수준으로 클린봇이 고도화됐다.

올해 상반기 기준 욕설 사이에 일부러 이모티콘이나 오타를 넣은 사례까지 모두 걸러내는 클린봇 2.0의 정확도는 95%였다. 클린봇 도입 이전 대비 악플 탐지 건수는 2배가량 증가했고 악성 댓글 신고 건수는 19% 감소했다. 

네이버가 클린봇 API를 공개하면 다른 사이트나 앱 개발자도 클린봇 기술을 활용할 수 있으며 제휴·심사 등을 거치면 무료로 사용할 수 있다. 

최경호 개발자는 또 데뷰 발표에서 성희롱·음란성 댓글을 잡아내는 별도의 기술인 '클린봇 레드·오렌지 버전'을 개발하고 있다고 설명했다. 

성희롱 댓글의 경우 일반적인 악플보다 더 섬세한 접근이 필요하다고 판단해 별도 모델을 개발한 것이다. 

'레드 모델'은 텍스트만으로 명백한 성희롱 또는 음란성 의도가 보이는 댓글을 잡아내는 기술이다. '오렌지 모델'은 댓글 자체에는 성적인 표현이 없으나 기사나 게시글 본문과 이어지는 맥락이 있거나 성 인지 감수성 관점에서 봤을 때 부적절한 댓글을 거른다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
투데이포토