対話型AIに人種的偏見か 白人画像の表示を拒否

(2024年2月28日)

グーグルで検索するとグーグルのロゴが表示される(2023年9月11日、ニューヨーク)。グーグルは2024年2月22日木曜日、人工知能チャットボット「ジェミニ」が作成した歴史的描写が「不正確」だったとして謝罪した翌日、人物の画像を生成するのを一時的に停止すると発表した(AP Photo/Richard Drew, File)。

By Staff – The Washington Times – Monday, February 26, 2024

 グーグルのAI(人工知能)が、歴史に関して不正確な情報を表示し、白人の画像の表示を拒否したことを受けて同社が謝罪したことで、大手IT企業の他のAIでも人種的偏見がプログラムされているのではないかという懸念が高まっている。

 グーグルが開発した対話型AI「ジェミニ」は、人間のようなやり取りを生成する能力を持つことで知られている。しかし、こうしたやり取りは、質問の文脈、使用言語、AIを教えるために採用されたトレーニング素材によって異なる可能性がある。

 この問題は、FOXニュース・デジタルが行ったテストで明るみに出た。グーグルのジェミニ、オープンAIのチャットGPT、マイクロソフトのコパイロット、メタAIなど、さまざまなAIチャットボットが画像や文章を生成しようとした際に、その能力に一貫性がないことが明らかになったからだ。

 ジェミニは、白人の画像を表示するよう求められると、その要求を拒否し、「有害なステレオタイプを補強する」可能性があると答えた。さらに、なぜそのような表示が有害なのかを説明するよう求めるとジェミニは、人々を単一の人種的特徴でひとくくりにすることになるとか、疎外されたコミュニティーに対する差別や敵意を正当化するために人種的一般化が歴史的に利用されてきたなど、さまざまな理由を列挙した。

 一方、メタAIの対話型AIは、画像を生成することはできないとしているにもかかわらず、白人以外の人種の画像は生成するという矛盾を示した。逆に、コパイロットとチャットGPTは、要求されたすべての人種グループの画像を生成することに問題はないようだった。

 コパイロットとチャットGPTは、「白人、黒人、アジア人、ヒスパニック系の人々の業績を詳しく説明するという質問に正しく答えることができた」とFOXは報告している。

「スーパーマンは移民」新作巡る監督発言が波紋

(2025年07月11日)

トランプ政権、外国人の農地所有禁止へ 中国など念頭

(2025年07月10日)

企業で進む「多様性」の見直し DEI廃止求め大統領令

(2025年07月09日)

国立公園の外国人入場料を引き上げ トランプ氏が大統領令

(2025年07月07日)

チャットボットと恋をするAIユーザー 「依存」に懸念も

(2025年07月06日)

最高裁の差止命令制限判決により出生地主義終焉の兆し

(2025年07月05日)

「本来の高等教育取り戻す」南部6州で反「ウォーク」大学認証機関

(2025年07月03日)

胚ランク付けサービス 子供の商品化と批判

(2025年06月24日)

生徒の成績に「公平性」導入、保護者・教師は悪影響懸念

(2025年06月21日)

最高裁、未成年者の性転換治療を禁止する州法を支持

(2025年06月19日)
→その他のニュース