Twitter、違反ツイートの38％を自動で検出！悪質アカウント対策強化

Twitterは米現地時間16日、攻撃的な行為やスパムなど、公共の場での会話を阻害する悪意のあるツイートを排除する取り組みのこれまでの成果と今後の取り組みについて、報告を行いました。

Twitterによると、これまでヘイトスピーチ、脅迫、その他攻撃的であったり悪意のある内容だったりするTwitterのルールに違反したツイートの検出は、ユーザーから報告されたツイートのみを審査するという対策でした。

しかし2019年に入り、ユーザーからの報告に頼るだけでなく問題のあるツイートを特定する技術を用いるようになったとされています。

Twitterはこれらのツイートを発見するテクノロジーを駆使し、Twitterのルールに違反したコンテンツの約38％は、同社がフラグを立て強制執行措置を取ったとされています。

攻撃的なコンテンツをTwitterの専門チームが積極的に特定するようになったほか、悪質なアカウントが報告された場合、そのアカウントの24時間以内の凍結の成果は、前年同期比で3倍となったと言われています。

さらに凍結された後再度新規作成されたアカウントについて、2019年1月から3月にかけて10万アカウント凍結し、これは前年同期比で45%増となっています。

違反ツイート検出の自動化や対応の迅速化による成果は評価したいところですが、その結果として無実のアカウントが凍結されてしまうこともあるでしょう。そのような場合にアプリ内から異議申し立てが可能になり、その対応も60%速くなったとされています。

これまで強制執行措置を取られたコンテンツのうちTwitter側に特定されたものは0%だったとされていますが、現在は38%となりました。

これはユーザーからの報告ではなくテクノロジーを活用し、攻撃的な行為やヘイト行為、自殺や自傷行為の助長や扇動などを特定したことになります。Twitterはさらに積極的に対応し成果を出していくでしょう。

Twitterによると、今後は個人情報や脅迫、その他の攻撃的なツイートを行なうユーザーに対し、他のユーザーから報告されるより先に特定できるよう、Twitterの技術面をさらに改良し報告しやすさの向上も目指すとされています。

ツイートの内容とそれに対するTwitterの判断基準は、Twitterのルールを理解するために重要な場合、必要に応じてツイート上にその詳細を表示する予定だと言われてます。

たとえば万が一Twitterルールに違反していても、そのツイート内容が一般の関心が高いコンテンツの場合は削除されないこともあるとされています。今後数週間以内に利用規約を更新し、より短くシンプルに、そして理解しやすく改善していくようです。

また6月からはユーザーが会話をコントロールしやすくするため、ツイートへの返信を非表示にするオプションを試験的に提供予定としています。今後もTwitterは新たな変更に取り組んでいくでしょう。