IBMが顔認識の事業から撤退！人種プロファイリングなど容認しない！

米現地時間6月8日、IBMは顔認識AI事業から撤退することを発表しました。

IBMのArvind Krishna（アービンド・クリシュナ）CEOは米議員への提言という形で公開書簡を発表し、その中で顔認識テクノロジーの提供や開発及び調査の終了を明らかにし、人種間の平等を実現する改革を行うよう議会に呼びかけています。

IBMは顔認識テクノロジーが大規模な監視に用いられたり人種に基づいたプロファイリングに利用されたりして、基本的人権や自由を脅かしていることに強く反発しこれを容認しないとしています。

IBMが顔認識の事業からの撤退を宣言した背景としては、5月25日に黒人男性が白人警官の暴行で死亡したことをきっかけに全米で人種差別抗議運動が続いていて米国で人種平等を推進する要求が高まっていることが挙げられます。

クリシュナCEOは、「IBMは、顔認識技術について、集団監視や人種プロファイリング、基本的な人権と自由の侵害など、自分たちの価値感と一致しない目的のためにその技術を使うことに強く反対し、容認しない」としています。

そして警察当局で使われている顔認識AIシステムは「偏見」面からの検証が必要だと説明し、「今こそ顔認証技術を国内の警察機関が採用するべきなのか、また採用するならばどう使われるべきかについて、国全体で検討を始める時に来ている」としています。

警察による顔認識AIシステムの利用は近年、増加傾向にありますが、この顔認識テクノロジーには人種プロファイリングが含まれることやプライバシー侵害を引き起こす懸念が指摘されています。

実際に「Clearview AI」という顔認識アプリがFBIをはじめとする米国の多数の法執行機関で利用されていますが、この顔画像は、FacebookやVenmo、YouTubeなどのサイトから取得しているとしポリシー違反として法的トラブルに遭っています。

またFacebookも生体認証データを利用者の同意を得ずに収集していたとの訴訟を起こされていて、5億5000万ドル（約592億円）の和解金の支払いに同意しています。

さらにAmazonにおいても顔認識テクノロジー「Rekognition」を移民税関捜査局（ICE）や警察に販売したことが発覚し強い批判を受けています。

IBMでは長く顔認識システム事業に取り組んでいて、2019年1月には顔認識AIの公平性と正確性の研究を推進する目的で100万点の注釈付き顔画像のデータセットを公開し、4月には「Diversity in Faces」という論文を発表しています。

IBMは公平性を高めたAIシステムの構築に貢献するとしていましたが、2020年4月のクリシュナCEOの就任によりIBMは顔認識事業から撤退を早々に決定し制度的な差別と戦う姿勢をとることで警察改革をアピールし注目を集めています。

その一方で顔認識テクノロジー事業はIBMにとってそれほど収益を得られていないという情報もあり、実際のクリシュナCEOの撤退の決定は差別と戦うという倫理的な面もありながらビジネス的な面もあると推測されています。