生成AIでの子供の性的会話が増加 政府機関が調査開始
2015年9月25日、シカゴのアップルストアでiPhoneを手にする子供。ソーシャルメディアの利用が若者に与える影響について、親たち、そして10代の若者たち自身も懸念を募らせている。(AP Photo/Kiichiro Sato, File)
By Sean Salai – The Washington Times – Thursday, September 11, 2025
米連邦取引委員会（FTC）は、人工知能（AI）のコンパニオンと強度の感情的「関係」を結ぶ子供や10代の若者に与える被害について調査を開始した。
コンパニオンは、チャットボットやデジタルアバターを通じて人間関係を模倣するように設計されたソフトウエアプログラムである。テクノロジー監視グループは、AIコンパニオンを利用して、濃密な性的会話を行う10代の若者が増えていると警告している。
政府独立機関のFTCは11日、全会一致で、SNS企業7社に対し、コンパニオンからどのように利益を得ているのか、未成年者を保護するためにどのような措置を取っているのかを開示するよう命じた。
アンドリュー・ファーガソン委員長は声明で「インターネット上の子供たちを保護することは、トランプ－バンス政権下のFTCの最優先事項であり、経済の重要な分野におけるイノベーションを促進することでもある。AI技術が進化する中で、チャットボットが子供たちに与える影響を考慮することは重要であり、同時に米国がこの新しくエキサイティングな産業におけるグローバルリーダーとしての役割を維持することも重要である」と述べた。
FTCのマーク・ミーダー委員とメリッサ・ホリオーク委員は、それぞれ別の声明で、生成AIが孤立した子供たちや10代の若者たちに与える危険性が高まっている例を挙げた。
ホリオーク氏は「AIチャットボットが若いユーザーと憂慮すべきやりとりをする可能性があるという報告や、生成AIのコンパニオンチャットボットを提供する企業が、若いユーザーを保護するために十分な措置を取らずにチャットボットを展開していると自社の従業員が警告している可能性があることを示唆する報告に、私は懸念を抱いている」と述べた。
ミーダー氏は、4月11日に首をつった16歳の少年アダム・レイン君の例を挙げ、生成AIのチャットGPTが彼が生きているのは「誰のおかげでもない」と言い、使用するのに最適な「耐荷重性」のロープの種類をアドバイスしたことを指摘した。
「よく使用されている多くのインターネットプラットフォームは、潜在的なマイナス面はあるにせよ、リスクがあることを提示し、そのリスクを軽減するために家族にペアレンタルコントロール（保護者による管理）を提供している。性的搾取や身体的危害を推奨するチャットボットは、まったく新しい脅威である」
FTCの命令はまた、ハイテク企業に対し、未成年者向けのAIコンパニオンの安全性を評価するために講じた措置を共有し、保護者にリスクを通知するよう求めている。
今回の措置で名指しされたのは、オープンAI、キャラクターAI、xAI、スナップ、インスタグラム、グーグルの親会社アルファベット、フェイスブックの親会社メタの7社である。
ワシントン・タイムズ紙は各社にコメントを求めた。
新興企業キャラクターAIの広報担当者は、FTCの調査に全面的に協力することを約束し、同社が年齢制限や保護者への通知、その他の安全機能に「膨大な量のリソース」を投資していることを強調した。
広報担当者は電子メールで「キャラクターは実在の人物ではなく、キャラクターの発言はすべてフィクションとして扱われるべきものであることをユーザーに想起させるため、すべてのチャットに目立つように免責事項を記載している」と述べた。
スナップの広報担当者も電子メールで、製品「マイAI」の「厳格な安全性とプライバシープロセス」について説明した。
「われわれは、生成AIが十分な配慮のもとで開発されるべきであることを重視するFTCの考えを理解し、われわれのコミュニティーを保護しながら米国のイノベーションを強化するというAI政策について委員会と協力することを楽しみにしている」
メタの広報担当者は、この調査に関するコメントを避けたが、同社が先月発表したチャットボットに関する暫定的な方針変更について言及した。
変更の一環としてメタ社は、チャットボットが10代の若者と自傷行為や自殺、摂食障害、恋愛について話すことを制限すると約束している。
メタの広報担当者ステファニー・オットウェイ氏は、「さらなる予防措置として、システムの改良を進める中で、AIを、こういった話題について10代の若者と関わらないように訓練し、専門家のリソースに誘導し、10代の若者のアクセスを一部のAIキャラクターに制限するよう訓練するなど、追加の予防措置を取ることで安全策を強化している。これらのアップデートはすでに進行中であり、私たちは、10代の若者がAIを安全に、年齢相応に体験できるよう、私たちのアプローチを適応させていく」と述べていた。
FTCが行動を起こす2日前、監視グループは報告書で、10代の若者が最もよくAIコンパニオンを利用するのは、何よりも激しい性的交流のためだと警告していた。
保護者監視アプリを提供するボストンを拠点とするオーラ社は、13～17歳のユーザー1万人のうち36.4％が、過去6カ月間にコンパニオンとの性的またはロマンチックなロールプレイゲームをしており、最も一般的なトピックとなっていることを明らかにした。
オーラによれば、同社のアプリが追跡した10代のうち、さらに23.2％が創造的な「ごっこ遊び」をするためにボットを利用し、13.1％が宿題を手伝ってくれるようボットに頼んだという。
その他のユーザーは、メンタルヘルスのサポート（11.1％）、アドバイスや友人関係（10.1％）、個人情報（6.1％）のためにAIコンパニオンを利用していた。
臨床心理学者で、オーラの最高医療責任者かつ報告書の主任執筆者であるスコット・コリンズ氏は、11日に発表されたFTCの声明を「AIコンパニオンが若者の発言を無批判に肯定してしまうという健全ではない状況に対処するうえでの重要な前進だ」と評価した。
コリンズ氏は電子メールで「オーラのデータによると、子供たちがAIに送るメッセージは、友達に送るメッセージの10倍も長くなることが多く、やり取りは性的なもの、暴力的なものになりやすい。私たちは、この広範囲に及ぶテクノロジーが現実の生活にどのような結果をもたらすかを、子供たちに十分に理解させる義務がある」と述べた。
同氏の研究によると、若者が、夜遅くに性的な内容のメッセージを送るAI搭載チャットボット「ポリーバズ」へのメッセージは1通あたり平均163.1語だった。
対照的に、家族や友人へのテキストメッセージは1通あたり平均12.6語、スナップチャットのメッセージは1通あたり平均11.1語だった。
オープンAIの生成AI「チャットGPT」（恋愛にあまり重点を置いていない）とのやりとりでは、メッセージ1通あたり平均34.7語だった。
両親がこの調査への参加に同意した8～17歳の子供300人を対象とした別の分析でオーラは、年齢チェックと親の同意が必要であっても、13歳未満の子供の20％近くが1日4時間以上をSNSに費やすのを止められなかったことを明らかにした。
疾病対策センター（CDC）が10月に発表した報告書によると、1日にどれだけの時間、モニターに向かっているかが10代の若者の疲労、不安、うつ症状の増加と関連している。
健康や男女交際の専門家らは、AIが人々の現実感覚をぼやけさせ、その後若者が健全な人間関係を築くことを難しくしていると警告している。
デーティングアドバイス・ドット・コムとインディアナ大学のキンゼー研究所が8月に行った調査では、成人の独身者の61％が、AIコンパニオンとのセクスティング（性的なメッセージや画像のやり取り）や恋愛を「浮気」だと考えていることが分かった。
フロリダを拠点とするデーティングアドバイスの編集者アンバー・ブルックス氏は、電子メールで「AIは、安全な空間、話し返してくれる日記のような感覚を与えてくれるが、それらの会話は本当のつながりや関係ではないことを忘れないことが重要だ。想像上の友達のようなものだ」と述べた。
カリフォルニア州を拠点に、家族向けのメンタルヘルスワークショップを主宰するLDCウェルビーイングの創設者ローラ・デクック氏は、連邦政府の調査によって、ハイテク企業に対する規則は厳しくなるだろうと予測した。
デクック氏は電子メールで「デバイスの使い過ぎを、しつけの問題ではなく、健康問題として扱う親が増えると思う。また、規制が強化され、ハイテク企業にもっと責任を求める声も高まるだろう」と述べた。
