【Yahoo!ニュース】違反コメント対策強化で検知数が2.2倍に！

Yahoo!は「Yahoo!ニュース」のコメント欄において、暴力的、差別的である違反コメントや品位に欠けるコメントに対する対策を強化したことを発表しました。

これまでも「Yahoo!ニュース」では違反報告が見られるコメントや閲覧数の多い記事に関して、主に人の力を使い違反コメントの削除や悪質なユーザーのアカウントの停止を行ってきましたが、今回さらに強化されることになります。

「Yahoo!ニュース」では2007年から、配信される記事に対してその閲覧者が意見や感想を投稿できる「コメント機能」を実装しています。

「Yahoo!ニュース」はこれまでも、風紀を正すためにユーザーから違反報告されている規定ルールに反するコメントや、閲覧者数の多い記事、また特定ジャンルの記事などに関して、人の力や「AI」を用いて確認していました。

そして主に人の力で地道に違反コメントの削除や悪質なユーザーのアカウント停止を行ってきました。

違反コメント対策強化として活用されているのは、1,100万件のコメントデータなどを学習し、新たに開発したディープラーニングの判定モデル（AI）と独自に開発したスーパーコンピュータ「kukai（クウカイ）」です。

「kukai（クウカイ）」とは、Yahoo! JAPANが開発したディープラーニングに特化した省エネ性能が高いスーパーコンピューターです。消費電力に対する処理性能も世界第二位を獲得し短時間で低コストで処理が行えると言います。

実際に1週間分のコメントデータを使ってこれまで活用していた検知モデルと比較すると、違反コメントの検知数が約2.2倍に向上したとしています。

「Yahoo!ニュース」のコメント欄には、配信されているニュースや記事に関連した様々な意見や考え、感想が集まります。

実際にこのコメント欄で様々な方向の意見や考えに触れることで、さらに理解を深めたり自分の考え方を見直したりするきっかけになるでしょう。一方で暴力的や差別的なコメントや法的に違反するような悪質なコメントなども多く見られます。

関連性のないコメントやいたずら投稿なども含め、Yahoo!ではこれまでもAIによる不適切なコメントの解析や検知を行ったり、人力で24時間365日パトロールを行ったりして対策を行ってきました。

今回導入した「kukai（クウカイ）」を活用することによって違反コメントの検知数も2.2倍に向上していますが、今後「Yahoo!ニュース」のコメント表示順の改善にも採用されるとしています。

コメント欄に投稿される、ニュースや記事を深く理解するきっかけになるコメントや様々な方向からの意見や考え方など、多くの人に読んで貰いたいコメントが上位に表示されるように改善されより快適な議論の場を作るとしています。