AIにうつる、私たちの思い込み
academic_editor
AI時代に親子で考えたいアンコンシャスバイアス
AIは、文章を書いたり、画像を作ったり、調べものを手伝ったりしてくれる、とても便利な道具です。
子どもたちにとっても、これからAIは「特別なもの」ではなく、学びや生活の中で当たり前に使うものになっていくでしょう。
だからこそ、親子で一度考えておきたい問いがあります。
AIの答えは、
何からできているのでしょうか。
AIは、何もないところから答えを出しているわけではありません。
写真、文章、記録、評価など、たくさんのデータからパターンを学び、その学んだことを手がかりに答えを出しています。
つまり、AIの答えは、AIが「何を学んだか」に影響されます。
データには、社会のクセや偏りも入る
ここで大切なのは、AIが学ぶデータには、単なる情報だけでなく、社会の価値観やものの見方も残っていることがある、という点です。
たとえば、過去の文章や画像の中で、
リーダーは男性として描かれやすい。
理系に向いているのは男性だと思われやすい。
有名校出身者ほど優秀だと評価されやすい。
こうした傾向が多く残っていたらどうでしょうか。
AIは、それを「人間社会の中に多く見られるパターン」として学んでしまうことがあります。
AIが勝手に偏見を持つわけではありません。
人間社会にある思い込みや評価の偏りが、データを通じてAIにも映ることがあるのです。
このような無意識の思い込みについては、SheSTEM Japanの アンコンシャスバイアスとは？ のページでも整理しています。
TEDで紹介された、顔認識AIの例
AIバイアスを考えるうえで有名な例に、MITの研究者 Joy Buolamwini 氏のTED Talkがあります。
彼女は、顔認識ソフトを使っていたとき、自分の顔がAIに認識されないことに気づきました。ところが、白いマスクをつけると認識される。そこから、AIがすべての人を同じように見ているわけではない、という問題に向き合うようになります。
その後の研究「Gender Shades」では、商用の顔分析システムにおいて、肌の色や性別によって認識精度に大きな差が出ることが示されました。特に、肌の色が濃い女性では誤分類率が高く、肌の色が明るい男性では低い、という差が報告されています。
これは、顔認識AIだけの問題ではありません。
採用、検索、画像生成、翻訳、レコメンドなど、AIが判断や提案に関わる場面では、学習したデータや評価基準の偏りが、答えに影響することがあります。
人の思い込みが、AIにも映る
アンコンシャスバイアスは、人の判断や言葉の中だけにあるものではありません。
社会の中で繰り返されてきた見方は、文章、画像、評価、記録として残ります。
そして、そのデータをAIが学ぶことで、人間社会の思い込みがAIの答えにも映ることがあります。
たとえば、
「リーダー」と聞くと男性が描かれやすい。
「理系」と聞くと男性が想起されやすい。
「優秀」と聞くと、有名校や目立つ実績が重視されやすい。
こうした見方は、ひとつひとつは見えにくくても、データの中に積み重なると、AIの判断や生成結果にも影響することがあります。
AIが偏見を持っている、という話ではありません。
AIが学ぶ材料の中に、すでに社会の見方が含まれている、ということです。
SheSTEM Japanのコラム アンコンシャスバイアスとは？親が気づきたい子どもへの影響 では、ラベルから連想が立ち上がり、それが事実のように扱われることで、無意識の偏りが判断に混ざる流れを紹介しています。
AIの場合も、構造は似ています。
人間社会にあるラベルや連想が、
文章・画像・記録・評価としてデータに残る。
↓
そのデータをAIが学ぶ。
↓
AIの答えにも、社会の思い込みが映ることがある。
だからこそ、AIの答えを「正解」としてそのまま受け取るだけではなく、その答えにどんな見方が入り込んでいるのかを考えることが大切です。
AIの答えで、子どもの可能性を狭めない
たとえば、AIに画像を作ってもらう場面を考えてみます。
「研究者」を描いてください。
「リーダー」を描いてください。
「看護師」を描いてください。
そのとき、研究者やリーダーは男性として描かれやすく、看護師やケアに関わる仕事は女性として描かれやすいとしたら、そこには社会の中で繰り返されてきたイメージが映っている可能性があります。
文章でも同じです。
向いている仕事。
将来の選択肢。
優秀な人の特徴。
そうした答えの中に、古い役割分担や評価のものさしが入り込むことがあります。
もちろん、AIの答えは便利です。
でも、その答えをそのまま受け取るだけでは、子どもの選択肢を狭める見方まで一緒に受け取ってしまうことがあります。
だから大切なのは、AIを使わないことではありません。
AIの答えを使いながら、
この答えは、誰を中心に考えているのか。
ほかの見方はないか。
子どもの可能性を狭めていないか。
と問いを持つことです。
バイアスは、ゼロにできるものではありません。 そもそも私たちの脳は、たくさんの情報をすばやく整理するために、これまでの経験や知識を手がかりにしています。 だから、バイアスそのものが悪いわけではありません。 大切なのは、その見方が誰かの可能性を狭めていないかに気づき、必要なときに言葉や判断を選びなおせることです。
関連コラム： アンコンシャスバイアスに気づいたあと親ができること
答えをもらう時代こそ、問いを持つ力を。
これからの子どもたちは、AIからたくさんの答えをもらえる時代に生きています。
だからこそ、大切になるのは、答えを早く受け取ることだけではありません。
この答えは、何をもとに出ているのかな？
ほかの見方はないかな？
誰かの可能性を狭めていないかな？
そう問いを持ちながらAIを使うことです。
SheSTEM Japanでは、探究学習を「正解を覚えるだけではなく、子ども自身が問いを立て、情報を集め、整理し、考えを深め、自分の言葉で表現していく学び」として捉えています。
関連ページ： 探究学習とは？
AIがある時代だからこそ、問いを持つ力がますます大切になります。
AIの答えをそのまま終点にしない。
その答えから、もう一度考える。
答えをもらう時代こそ、
問いを持つ力を。
それが、AI時代に親子で育てたい、アンコンシャスバイアスへの気づきです。
