AIは誰が設計し、誰を救うのか？ 『AIの仮面を剥いでやる』【総合3.8】

 

『AIの仮面を剥いでやる』の要点

1．MITメディアラボのチームでつくった「アゲアゲビートの壁」は、「肌の色が薄い顔をした人に対して最もうまく動いた」。「コード化されたまなざし」の問題は残りつづけていた。

2．AIの規範に挑戦するため、「アルゴリズム・ジャスティス・リーグ」を立ち上げる。その活動のなかで、「テクノロジーに潜む有害な差別を研究するという目的」を明確化していく。

3．顔認識システムに使用されるデータセットは、肌の色が薄い人や男性に大きく偏っている。ゴールドスタンダードには「権力の影が宿っている」。

4．マイクロソフトやIBMのような企業の顔認証システムでも、色の濃い顔の女性では正解率が著しく低下した。

 

『AIの仮面を剥いでやる』レビュー

監視カメラの映像を「証拠」に誤認逮捕されたアフリカ系男性。履歴書に「女性」と書いてあるだけで評価を下げる採用AI。指紋認証や顔認識のミスは、統計的に排除できないリスクである。AIが市民の監視に使われ、巻き込まれてしまう事象も、現に起きている。

著者のブオラムウィニ博士は、MITのメディアラボで研究を重ねるなか、「男性のまなざし」「白人のまなざし」ならぬ、「コード化されたまなざし」と出会う。白い仮面をつけた状態では作動した顔追跡ソフトが、“色の濃い”著者の素顔を認識できなかったのだ。すなわち、「テクノロジーを作る力を持つ者の優先順位や好み、そして偏見が、どのように差別や排除などの弊害を広げうるか」ということである。

なかば無意識的に、テクノロジーには偏見が組み込まれてしまう。本書は、その「コード化されたまなざし」を自伝的エピソードの集積で描き出したものである。AIは経済的な可能性以上に、さまざまな危険をもたらしている。テクノロジーについての適切な未来への道を開くには、「コードから排除される」経験を知る人たちの声を集めなくてはならない。そうして、「AIの作り方を変えて、人道に反する部分を極小化することはできる」。著者はその最先端で闘いつづけている。

「効率化を約束するAIが準備不足のまま導入されると、不平等が自動的に広がってしまう恐れがある」「様々な解放運動で獲得してきた成果が損なわれるのを、私たちは黙って見ているわけにはいかない」。奮い立たせられる言葉だ。

 

『AIの仮面を剥いでやる』が気になる方におすすめ