로블록스가 욕설이 포함된 메시지를 실시간으로 자동으로 재작성하도록 설계된 새로운 AI 기반 채팅 기능을 공개했다.
회사 측은 이번 업데이트가 플랫폼에서 소통을 개선하고 방해가 되는 텍스트 필터링을 줄이기 위해 로블록스의 기존 관리 도구를 기반으로 한다고 밝혔다.
이제 메시지를 전면적으로 차단하는 대신, 새로운 시스템은 필터링된 텍스트를 원래 의미는 유지하면서 더욱 존중하는 언어로 재작성한다.
로블록스는 이 기능이 출시 시점에 주로 욕설에 초점을 맞춘다고 밝혔다. 예를 들어 "Hurry tf up!"과 같은 메시지가 자동으로 "Hurry up!"으로 재작성되어, 완전히 차단된 텍스트로 인해 종종 발생하는 혼란 없이 대화를 이어갈 수 있게 된다.
또한 회사는 초기 테스트 결과 이 시스템이 관리 정확도를 개선하여, 전화번호나 소셜 미디어 계정 등 개인 정보를 공유하려는 시도를 놓치는 경우를 20배 감소시켰다고 밝혔다.
로블록스는 게시물에서 "이 시스템을 정지 신호가 아닌 핸들로 생각하면 된다. 메시지가 우리 정책을 위반하면, 채팅의 모든 사람에게 텍스트가 예의를 유지하기 위해 재작성되었다고 알려진다"고 말했다.
"제한된 단어를 사용자들이 일상적인 채팅에서 실제로 사용하는 문구와 매칭함으로써, 진정성 있는 느낌이나 흐름을 잃지 않으면서 채팅을 존중하는 상태로 유지하도록 돕는다"고 덧붙였다.
이어서 "우리는 여전히 재작성과 텍스트가 차단될 때 사용자에게 더 많은 맥락을 제공하는 것의 시작 단계에 있다. 시간이 지남에 따라, 다른 AI 번역 도구처럼, 사용자의 원래 어조나 맥락을 보존하는 방식에서 점점 더 정확하고 세밀해질 것"이라고 밝혔다.
본 기사는 포켓게이머와의 전문게재 계약에 따라 제공됩니다. (원문링크)