人工知能は人種差別する?AI審査の美人コンテスト結果は・・

人工知能が審査する美人コンテストが開催されました。結果、ほとんどの入賞者が白人で、黒人は1人だけ、と言う結果に。 

ニュースサイト「Quartz」([qz.com])がこの問題について報じています。人工知能が美人コンテストを審査したら、白人が勝った、と。

qz.com

 

目次

Robot

1.美人コンテスト「Beauty.ai」の概要

この美人コンテスト、「Beauty.ai」と銘打って、オンラインで行われました。世界中から60万人が自撮り写真をアップロードし、人工知能がその写真採点したわけです。

審査項目を一部挙げると、以下のようなものでした。

  • 顔の対称性
  • シワ
  • ニキビ

これらの特徴を、人工知能が写真から抜き出して数値化し、審査に使っていたようです。

そして、世界中の60万人から年代ごとに数名ずつ、計44人が入賞者として選ばれたのですが、その44人のうち36人(約82%)が白人でした。

 

 公式サイトの結果発表ページはこちら。

Beauty.AI 2.0 Winners 

たしかに、結果を見ると、白人か、色白の東洋人ばかりです。黒人の受賞者はひとりだけ。

 

2.なぜほとんどの入賞者が白人だったのか

今回の人工知能は、ディープラーニングという仕組みを使って人の顔からシワなどを見つける方法を編み出していました。コンピュータにたくさん、例えばシワの有る顔と無い顔の写真を読み込ませて、顔写真からシワの多さを数値化して読み出す方法を、コンピュータに編み出させたわけです。

ここで問題なのが、最初に読み込ませた画像とは違う特徴をもつ画像を読み込ませると、せっかく編み出した方法はうまく機能しないことになります。極端なことを言えば、ヒトの顔写真向けに編み出した方法を使おうとしたときに、海の写真を見せられたら、マトモな結果が出てくるとは思えませんよね。

実は、今回は、最初に見せたデータが、白人に偏っていたらしいです。ディープラーニングでは、このデータの多くが白人の写真だとすると、黒人ではシワ等の検出精度が大きく落ちることになります。

今回は、精度が落ちたのが悪い方向に働いたみたいです。たぶん、肌が暗い色で写った写真が不利になるような方法が編み出されてしまったのでしょう。ちなみに、入賞の黒人の方の写真を見ても、朝日か夕日が顔にあたり、顔が明るく写っていました。 明るく写ったから不利にならなかったのだと思います。

 

3.人工知能を作る人が気をつけなければいけない点

今回のことは、おそらく差別的な意図は誰も持っていませんでした。人工知能を作った人も、人工知能自身も。でも、人工知能をつくるときのリスクの一つとして、意図せずして誰かを傷つけるということがありえるわけですね。
人工知能には、意図せず「考え方」が偏ってしまうリスクが有ります。人工知能は公開され、多くの人に触れやすいだけに、それが、人の心を傷つけてしまうかもしれない、というリスクがあるのですね。

ディープラーニングと言うのは、ある意味、正のフィードバックシステム(強いものをより強く、弱いものをより弱くするように制御するシステム)で「正確な」判断をできるようにするシステムですから、ヒトの手で偏りを取り損ねると、どんどん偏っていってしまうのかもしれません。

 

冒頭の記事にもこうありました。

>The foundation of machine learning is data gathered by humans, and without careful consideration, the machines learn the same biases of their creators.
>機械学習は人が集めたデータを基礎としています。注意深く行わないと、コンピュータはその作り手と同じ偏りを学ぶでしょう。(がれぶる訳)

Artificial intelligence judged a beauty contest, and almost all the winners were white — Quartzより

 

人工知能は、まっさらな公平な存在などではなく、無意識に人工知能を作った人に似てしまうのかも。怖いね。技術者は気をつけなきゃ。

 

4.別の見方をしてみると

ちょっと別の見方をしてみます。

今回、ディープラーニングに学習させた、最初のデータに入っていた黒人が少なかったようです。言い換えると、今回の人工知能は、白人のことはよく知っているけど、黒人はあまり見たことがない、よく知らない、という状態に置かれていたということになります。

ここで、よく知らない相手の評価を低くしてしまう、というあたりが、なんとなく人間的だなーなど思いました。こどもの教育と人工知能の開発は、そういう意味でも似ているのかもしれません。

 

そういえば、以下の記事で紹介したマイクロソフトのTay君も、似たようなことを体験していましたね。教育に失敗してたわけです。

人工知能は、作ったあとの教育、メンテも大事みたいです。そんなところも人間みたいだなぁ。

図解入門 最新人工知能がよ~くわかる本 (How-nual図解入門Visual Guide Book)

図解入門 最新人工知能がよ~くわかる本 (How-nual図解入門Visual Guide Book)

 

 

  • Pocket
  • LINEで送る
  • このエントリーをはてなブックマークに追加

コメントを残す




CAPTCHA


関連記事

noimage
noimage
noimage
noimage
科学技術について伝えるなら自分のキャラを立てなければいけない理由。「科学コミュニケーション」を読んで考えた。
noimage
スタジオアリスで七五三の写真を取りました。所要時間は3時間強。
noimage
noimage
noimage
noimage
noimage
noimage
硫黄呼吸の可能性について妄想してみた
noimage

Menu

HOME

TOP