生成AIが中国の新たな兵器に、米シンクタンクが警鐘
2023年8月16日、北京で開催されたWave Summitで、AIチャットボットを宣伝するブースのラップトップコンピューターでAIチャットボットErnie Botを試す来場者。中国の検索エンジンと人工知能企業Baiduは木曜日、ChatGPT相当の言語モデルを一般に公開した。(AP Photo/Andy Wong）
By Ryan Lovelace – The Washington Times – Monday, September 11, 2023
米シンクタンク、ランド研究所は、中国が新しい人工知能（AI）ツールを利用して、ソーシャルメディアで世界中の人々をより効果的に操作することが可能になると警告している。
主要プラットフォームとそのユーザーは、新たにコンテンツを作成し、作業を効率化し、複雑な質問に素早く答えを出すために、対話型AI「チャットGPT」のような生成AIツールを素早く採用した。
ランド研究所の最新報告によると、中国人民解放軍は、デジタルメディアに対する大規模な活動を組織化するための長期的で、大きな影響力を持つ方法を模索しており、生成AIは、その目的を達成するのに特に適している。
「中国軍は、生成AIによって、これまでできなかったことが可能になると考えている。中国軍の研究者らは日常的に、中国軍には十分な外国語能力と異文化への理解を持つスタッフが不足していると不満を漏らしている」
この報告書は今月に入って発表されたもので、中国が開かれているインターネットを規制したことで、敵国である米国に対する理解が大幅に制限され、ネット上で人々を操作するのが難しくなったと指摘している。
報告を作成したランド国家安全保障研究局によると、中国共産党は、中国内の遮断された情報を基にトレーニングされた大規模言語モデルを使用した新しいAIツールで人々を操作することで、このギャップを克服しようとしている。
「中国のソーシャルメディア操作への懸念はこれまで、台湾と米国以外では限定的だったが、生成AIの採用によって、日本、韓国、フィリピン、東南アジアや欧州の他の国々など、幅広い国々にまで中国がその能力を拡大させる可能性がある」と、同報告書は警告している。
悪意あるアクターが生成AIを利用して、目につきやすいネット上での活動で人々に影響を与えていることは指摘されているが、研究者が懸念を抱いているのはそればかりではない。生成AIは、よりニッチで絞り込んだ対象にも影響を与えることが可能だ。
報告書によると、中国の特殊情報戦部隊「ベース311」は、既存のオンラインコミュニティーに潜入して政治とは無関係の会話に参加し、タイミングを見計らって政治的話題へと誘導することを狙っている。この戦術は、フェイスブックのコンテンツ操作に使用するために作成されたと思われる2018年の説明書に記述されている。
ランド研究所のウェブサイトによると、この研究の資金は国防総省の研究開発センターとの契約を基に提供されている。
米国の国家安全保障当局は、中国による生成AIの利用が米国社会に有害な影響を及ぼすことを懸念している。
バイデン大統領が国家安全保障局（NSA）とサイバー軍の責任者に指名した人物は、敵対国が生成AIを使って選挙に影響を及ぼす可能性を指摘、懸念を表明した。
2018年、2020年、2022年の選挙監視活動に携わったティモシー・ハウ空軍中将は7月、上院で、AIツールが2024年の選挙に与える影響を心配していると語った。
ハウ中将は上院軍事委員会の公聴会で「今回の選挙を見て、これまでと若干違う部分として、私たちが考慮しなければならない領域は、生成AIがどのような役割を果たすかだ。外国が選挙プロセスに侵入しようとするのではないかと懸念している」と述べた。
米国の同盟国も懸念している。英国家サイバーセキュリティーセンター（NCSC）は先月、新しい生成AIツールを仕事に取り入れている人々に注意を促した。NCSCは、大規模言語モデルによって新たなサイバー攻撃が可能になるのではないかと懸念している。例えば、ハッカーが銀行の顧客を支援するために設置されているAIチャットを操作することで、顧客から現金を奪うこともありうる。
