게임을 플레이하다 보면 종종 욕설을 볼 수 있다. 부모님의 대한 안부일수도 있고 게임을 못한다고 비난을 받기도 한다. 욕설을 한 이용자는 서비스사나 개발사에서 제제를 가하지만 욕설을 들은 이용자로는 편치 않다.
이런 문제점으로 인해 넥슨은 딥러닝으로 욕설을 탐지하는 시스템을 개발중이다. 넥슨 인텔리전스랩스에 재직중인 조용래씨는 "이 강연은 욕설에 대해 강연하기 때문에 욕설이 나온다"며 미리 고지를 한 뒤, 현재 개발하고 있는 시스템에 대해서 설명하는 '딥러닝으로 욕설 탐지하기'라는 강연을 선보였다.
그는 "욕설은 게임 내 가장 큰 불쾌 요소 중 하나라며 현재 욕설을 확인하는 방법은 금칙어 기반으로 진행되고 있다"라며, "이 시스템의 문제점은 우회가 쉽다. 금칙어를 늘리는데도 한계가 있고 운영자들의 부담과 스트레스를 줄이고 싶다"며 프로젝트를 진행하는 이유를 밝혔다.
프로토타입 결과 실제로 '니 놀아줄 친구 없지. 애미도 없는듯' 이라는 말은 욕설 확률이 80%이며 그 이유로 애미라는 단어는 욕설에 포함되지만 '도' 글자로 인해 판단해서 20%가 감소한 수치를 예로 들었다. 이어 '뭐하고 있냐 개년아'는 89%로 욕설로 구분됐다. 개와 년 때문이다.
실제 게임에 적용한 경우도 설명했다. 넥슨이 서비스중인 '서든어택'에 적용했다. 아직 실무에 적용한 단계는 아니며, 실제 사례를 기준으로 1분 당 모니터링 건수를 비교했을 때 운영자는 23건, 탐지기는 35건을 처리했다.
마지막으로 그는 "인공지능은 스카이넷(사람을 대체할 도구)이 아니다. 정확도가 99.99%라 해도 부족하다"라며 "100%가 아닌 이상 인간을 대체하기 어렵다. 대신 인공지능은 아이언맨의 자비스(아이언맨 비서, 인간을 도와 편리하게 해주는 것)라고 생각한다"고 말하며 강연을 끝마쳤다.
오경택 기자 (ogt8211@dailygame.co.kr)
