CoD:MW3：AIによる「暴言検知システム」導入、本日から『CoD:MW2』と『CoD:WZ2』でテスト開始

現地時間8月30日にActivisionが公式ブログを更新し、AIが暴言やヘイトスピーチなどを検知する新しいツール”ToxMod”を『Call of Duty: Modern Warfare Ⅲ（コール オブ デューティ モダン・ウォーフェア 3/ MWⅢ）』に導入すると発表した。

このAIはヘイトスピーチ、差別用語、ハラスメントを含む暴言をリアルタイムで検知し、Activisionへ報告。人間が最終決断を判断する仕組みとなっている。

MW3にAI暴言検知ツール”ToxMod”導入

現在もゲーム内から手動で暴言や問題行為などを報告できるが、やはり報告する人より報告しない人のほうが多いのは実情だ。そこで今後はAIが全てのボイスチャットを監視し、これまでは報告されなかったような問題も全て自動で通報する。 これが”ToxMod”だ。

11月10日に発売される『CoD:MW3』にToxModが導入されるが、それに先駆けて現地時間8月30日から『Call of Duty: Modern Warfare II（コールオブデューティー: モダンウォーフェア 2）』と『ウォーゾーン2』の北米サーバーでToxModのベータテストが始まった。

ベータテストはまずは英語から、アジアを除く全世界でリリース。その他の言語は後日追加予定となっている。

仲間内でのノリかも判別

Activisionによると、ToxModはAIがそれぞれの会話がフレンド同士のトラッシュトークか、それとも実際に悪意を持った暴言やヘイトスピーチなのかを、会話のトーンや感情、前後の流れ、そして会話に連動した問題行為の有無から確認するとのこと。

人間でも判断が難しいような内容だった場合、AIがどのように判断するのか気になるところ。

最終的には人間が判断

ToxModは問題発言や問題行為を検出しても、即座に対象ユーザーをBANするわけではない。システムに報告が上がり、最終的にはActivisionの担当者が判断することになる。

『CoD:MWII』の発売以来、『Call of Duty』の「行動規範」に違反した100万以上のアカウントがボイスチャット/チャットが制限・禁止されている。ToxModの導入で、対応の迅速化や正確性の向上などが期待できるのかもしれない。

通常、ゲーム内ボイスチャットは自動で録音されるが、ユーザー側は録音を拒否することができる。だがToxModの監視をオフにできるかはまだわかっていない。

また、我々の主言語である日本語のように、非英語言語に対する精度も気になるところだ。

ToxModによる誤検知問題も起こりそうだが、そもそも暴言や問題行為を起こさなければ問題はないと思われる。

Source: Activision