Instagramが不快なキャプションの再考を促す機能を導入！

コミュニケーションツールとして幅広くユーザーに人気のあるInstagramは、写真や動画を投稿する際に添えられる不快と思われるキャプションの再考を促す機能を導入したことを発表しました。

Instagramが導入を開始した不快なキャプションの再考を促す機能は、近年、問題視されている「いじめ対策」となっており、Instagramでは今年7月にコメント投稿の部分で同様の内容を「いじめ対策」の機能として追加しています。

Instagramが導入を開始した不快なキャプションの再考を促す機能をリリースした背景について確認していきましょう。

InstagramやFacebook、Twitterなどのソーシャルネットワークサービスは、ユーザーが友達と写真や動画の共有や、世界中の話題を共有することができる便利なツールとして多くのユーザーが利用しています。

ですが、その反面、若年層を中心に問題視されているのが、InstagramやFacebook、Twitter上での「オンラインいじめ」という問題となっています。

Instagramを利用しているユーザーは、若年層のユーザーが多いこともあり、「いじめ対策」の一環として、写真や動画の投稿を行う際のキャプションに攻撃的な文言が含まれていないかどうかAIを使ってチェックする機能を導入することとなりました。

Instagramでは、「いじめ対策」の一環として、今年2019年7月からAIの機能を活用して、ほかのユーザーを中傷するようなコメントを投稿していないか発見する機能を追加しています。

コメントのチェック機能は、AIの機械学習を利用して「いじめ」につながるような文言を検出を行う内容となりますが、今回、リリースされたキャプションのチェック機能についても、本質的には同じ内容の機能といえます。

写真や動画の投稿を行う際のキャプションに攻撃的な文言が含まれていないかチェックする機能では、ユーザーが投稿を行う前にAIが不快な内容を含んでいないかを検出し、写真や動画を投稿しようとしているユーザーに通知する流れとなっています。

では、Instagramの投稿を行う際に、AIが「いじめ」に該当する可能性のあるキャプションを検知した場合の対応について確認しておきましょう。

AIが「いじめ」に該当する可能性のあるキャプションを検知した場合、ユーザーに対して、「Edit Caption（キャプションを編集する）」や「Learn More（学ぶ）」のメッセージが表示され、投稿の内容を再考するよう選択肢の提案を実施するとしています。

なお、投稿の内容を再考するよう提案を行う選択肢の中には、「Share Anyway（公開する）」という選択肢もあり、「いじめ」に該当する可能性のあるキャプションをすべて阻止できるという内容ではないものとなります。

ですが、投稿前に一度、投稿の内容を再考するよう選択肢の提案を実施することで、「いじめ」対策として一定の抑制効果が期待できます。

Instagramでは、完全にインターネット上でのいじめや攻撃的な内容を排除できる機能ではないとしながらも、コメント投稿でのAIチェック機能の追加は、「いじめ対策」に一定の効果が認められたことを公表しています。

また、Instagramでは、攻撃的な内容の投稿や相手が不快な気持ちになるようなキャプチャを添付することは、Instagramのポリシーに違反しており、該当のアカウントについて「アカウント停止」を行う可能性もあるとしています。

写真や動画の投稿を行う際のキャプションに攻撃的な文言が含まれていないかチェックする機能は、一部の国で先行リリースされ、今後、数か月の間には、グローバルに拡大される予定となっています。