生成AIに悪用リスク 国防総省が指摘

(2023年11月8日)

2023年3月21日火曜日、ボストンで、ChatGPTからの出力を表示するコンピュータ画面の前で携帯電話に表示されるOpenAIのロゴ。ジョー・バイデン大統領の政権は、ChatGPTのような人工知能ツールが一般に公開される前に、その安全性をテストするためのより強力な対策を望んでいる。米商務省は4月11日(火)、AI監査やリスク評価、その他こうした新しいシステムに対する消費者の懸念を和らげる措置の可能性について、今後60日間かけて意見を聴取すると発表した。(AP Photo/Michael Dwyer)

By Ryan Lovelace – The Washington Times – Friday, November 3, 2023

 国防総省の当局者によれば、強力な人工知能(AI)モデルは、一般に考えられているよりも悪用されやすく、軍に生成AIツールを本格的に取り入れる用意は今のところない。

 国防高等研究計画局(DARPA)で、セキュリティー上の制約を破り、大規模言語モデル(LLM)と呼ばれる複雑なアルゴリズムを調査した結果、ここから派生した技術に危険性があることが明らかになったという。DARPAのプログラムの責任者、アルバロ・バレスケス氏が明らかにした。

 バレスケス氏はハロウィーンに開催された全米国防産業協会のシンポジウムで、このようなモデルは「防御よりも攻撃に使う方がずっと簡単だ」と述べ、国防総省のAI研究を巡る新たな見方を明らかにした。

 「DARPAで私が管理しているプログラムの一つで進めている研究で、これらのLLMの安全対策を完全に回避できることが分かった。私たちは実際にチャットGPTに、爆弾の作り方など、教えてはいけないあらゆるよくないことを教えてもらった。数学的な原則に基づいて実施した」

 ベラスケス氏は昨年、AI研究のためにDARPAに加わった。DARPAのウェブサイトによれば、「欺瞞のリバースエンジニアリング」と呼ばれる機械学習技術に焦点を当てたプログラムを含め、AIモデルやツールを精査するプログラムを管理している。

 AIは、科学と工学の一つの分野であり、高度なコンピューティングと統計分析を使って、複雑な推論を必要とするタスクを機械が完了できるようになっている。

 生成AIツールは人間が書いたようなテキストを作成することができ、その人気はここ1年で急速に高まった。チャットGPTはそのうちの一つであり、問題を解決したり、ユーザーのリクエストに応じてコンテンツを生成することができる。

 キャスリーン・ヒックス国防副長官によれば、国防総省の生成AIの研究は、チャットGPTが市場に登場する以前から行われていた。

 ヒックス氏は2日、記者団に対し、国防総省のいくつかの組織が独自のAIモデルを作成し、人の監督下で実験を行っていることを明らかにした。

 「LLMによって実現される市販のシステムのほとんどは、責任ある運用に必要な私たちのAI倫理基準に準拠できるほど技術的に成熟していない。しかし、私たちは、そのような生成AIツールが、ソフトウエアのデバグと開発の迅速化、戦闘被害評価の分析の迅速化、オープンソースと機密データセットの両方からテキストを要約し、検証可能にするなどの180以上の事例で、能力を発揮できることを発見した」

 国防総省は2日、AIを採用するための正式な戦略を発表。米国の競争相手は、AIを戦争に使用できるようになれば、先進的なAI技術を獲得し続けるだろうと指摘した。

 この戦略によると、国防総省は、適用される法律に従いつつ、外国の盗用や搾取から米国の優位性を守れるよう、新たな技術を開発するという。

 ヒックス氏は記者団に対し、中国とAIの優位性や技術的優位性をめぐって争うようなことは望んでいないと述べた。

 「米国は、中国を含むいかなる国ともAI軍拡競争は望んでいない。それは現在、中国との紛争を望んでいないのと同じだ。AIと私たちが持つすべての能力を生かして、侵略を抑止し、わが国、同盟国、パートナー国、私たちの利益を守ることだけを追求する」

2026年11月12日(木)、カリフォルニア州サンタクララにあるNvidia本社前に花が飾られた。(AP通信/ヘイブン・デイリー撮影)

エヌビディアCEO辞任でAIバブル崩壊 アナリストら警告

(2026年11月13日)
NVIDIAのCEO、ジェンセン・フアン氏が、2026年10月21日(水)、ドイツ・ベルリンで開催された同社のGTCイベントで基調講演を行う際、メルセデス・ベンツの車の近くに立っている。(AP通信/マルクス・シュライバー撮影)

エヌビディアCEOの不倫相手に中国スパイ疑惑 米半導体輸出政策にも影響か

(2026年11月12日)
2026年8月19日(水)、韓国ソウルで、米韓合同軍事演習「ウルチ・フリーダムシールド」の一環として、対テロ訓練に参加する韓国陸軍兵士たち。(AP通信/アン・ヨンジュン撮影)

韓国軍精鋭部隊、ファッションショー風「歩行訓練」に批判殺到

(2026年11月11日)
2025年5月21日(水)、台湾・台北で開催されたComputex 2025展示会で、NVIDIAの新製品を見る人々。(AP通信/Chiang Ying-ying撮影、資料写真)

中国、エヌビディアCEOへのスパイ工作疑惑を否定

(2026年11月10日)

トランプ氏、エヌビディアCEOを擁護 中国スパイ疑惑の女性と不倫

(2026年11月09日)
2026年11月5日(木)、フランスのパリで、教育予算の増額を求めるデモが行われた。(AP通信/ティボー・カミュ撮影)

インフレへの怒り 米中間選挙で共和党に審判 欧州では抗議デモ

(2026年11月08日)
ドナルド・トランプ大統領は、2026年11月5日木曜日、ワシントンD.C.のホワイトハウス大統領執務室で大統領令に署名した後、演説を行った。(AP通信/アレックス・ブランドン撮影)

トランプ氏、反共産主義週間を宣言 「専制政治の鎖」から自由を守る

(2026年11月07日)
2026年10月27日火曜日、イスラエルのテルアビブで行われた総選挙の投票所前で、ベンヤミン・ネタニヤフ首相を描いたポスターを含む選挙ポスターの横に人々が集まっている。(AP通信/デビッド・ゴールドマン撮影)

ネタニヤフ陣営、アラブ系躍進を「外国勢力によるイスラム化」と非難―イスラエル総選挙

(2026年11月04日)
第102戦闘攻撃飛行隊に所属するF/A-18Fスーパーホーネットが、空母USSキティホークから最後の発艦を行う。米国カリフォルニア州サンディエゴ、2008年6月8日。写真:カイル・ガーロー/米国海軍。

中国潜水艦の米空母接近から20年 中国海軍の太平洋進出を象徴する転換点に

(2026年11月01日)
カリフォルニア州選出の共和党下院議員、ヤング・キム氏が2024年4月15日、ワシントンの連邦議会議事堂で演説を行った。(AP通信/J・スコット・アップルホワイト撮影、資料写真)

共和下院議員、「敵対国」中国への渡航警戒レベル引き上げを要請 不当拘束の危険性指摘

(2026年10月30日)
→その他のニュース