AIに生物兵器の製造法拡散リスク
2023年7月21日（金）、ホワイトハウスのルーズベルト・ルームで人工知能について講演を終え、ワシントンを後にするジョー・バイデン大統領（左から、アマゾンウェブサービスのアダム・セリプスキーCEO、OpenAIのグレッグ・ブロックマン社長、Metaのニック・クレッグ社長、Inflection AIのムスタファ・スレイマンCEO、Anthropic watchのダリオ・アモデイCEO）。(AP Photo/Manuel Balce Ceneta)
By Ryan Lovelace – The Washington Times – Tuesday, July 25, 2023
人工知能（AI）大手のアンスロピックは、そう遠くない将来、新しいAIツールによって、生物兵器の拡散が促進され、生物兵器が適切でない者の手に渡る可能性が高まると議会で警告した。
アンスロピックはAIの安全性の研究を行っているとされ、同社CEO、ダリオ・アモデイ氏は25日、人類は長期的にはAIによる存亡の危機に直面しているが、その前に、AI技術の発展で生物兵器に関する知識が拡散するという危機に直面する可能性があると主張した。
アモデイ氏は上院司法委員会のプライバシー・技術・法律小委員会で、同社がこの半年間、バイオセキュリティーの専門家と協力して、AIが生物学の悪用にどのように寄与するかを研究し、この新技術が危険な兆候を示し始めていることが分かったと述べた。
「生物兵器を製造するためには、グーグルや教科書には載っていない、高度な専門知識が必要となる。今のAIツールは、不完全で信頼性に欠けるものの、これらのステップの一部を埋められることが分かった」
アモデイ氏は、AIなら2、3年で、この欠けているピースをすべて埋められるようになる危険性が高いと述べた。
アンスロピックが議員らに警告する一方で、上院では司法委員会が、この新たな技術を議員らが調査するための基盤となる新たなAIルールの策定を検討している。委員会ではこれまでにも、AIが政治的不安定化やサイバー空間への混乱を引き起こす可能性が話し合われてきた。
リチャード・ブルメンタール上院議員（民主、コネチカット州）は、議会がAIを規制し、研究するための新しい機関を立ち上げることを望んでいると述べた。
ブルメンタール氏はこの公聴会で「未来はSFでも空想でもない。それほど先のことでもない。今ここにある。2年で生物学的に非常に深刻な危険が生じると主張する人は多い。開発のペースが驚くほど速いだけでなく、加速しているため、もっと短くなる可能性がある」と懸念を表明した。
アモデイ氏は、AIのサプライチェーン（供給網）のセキュリティー向上とバイオスレット（生物学的脅威）の軽減のためのAIツールのテストの必要性を訴えた。アンスロピックは今月、国連安全保障理事会との会合でも同様の主張をしていた。
AIによるバイオスレットについて検討するこの公聴会に先立ち、バイデン大統領は、アンスロピックを含む七つのAI企業が安全に新しいツールを開発することを約束したことを発表していた。
アモデイ氏とともに、アマゾン、グーグル、インフレクション、メタ、マイクロソフト、オープンAIの幹部らが21日にホワイトハウスを訪問、バイデン氏が各社からの新たな約束を披露した。
この約束には、テスト、サイバーセキュリティーへの投資、内部脅威に関する項目、AIがコンテンツ作成に役立っていることを外部の人々が理解できるようにすることなどが含まれている。
バイデン氏は21日に、AIに関する大統領令を出すと述べた。
「これらの約束は有望な一歩だが、一緒に取り組むべきことがたくさんある。リスクを管理しながらAIの可能性を引き出すには、いくつかの新しい法律、規制、監督が必要になる。今後数週間、米国が責任あるイノベーションへの道をリードできるよう、大統領として措置を取り続けるつもりだ」
一部の民主党議員は、議会が新たなAI規制の方向性を示すのを待つことなく、行動を開始するようバイデン氏に求めている。
上院情報特別委員会のマーク・ワーナー委員長（民主、バージニア州）は24日にバイデン氏に書簡を送り、議会が新しい法律を可決する前にこのAI企業からの約束の実施を支援するよう求めた。
ワーナー氏は書簡で「これらの開発者や研究者向けの約束に、消費者向けの分かりやすい約束を組み合わせることで、この深刻なAIの乱用を防止しなければならない」と主張した。
さらに、バイデン政権が、同意を得ていない画像生成、顔認識、ソーシャルスコアリング（SNS上での個人の影響力の評価）、サイバー空間に広がる混乱などを特に防止するために企業側から約束取り付けることを要請。企業には、ライセンス発行、開発慣行、導入後の管理に焦点を当てた約束をも求めるべきだと主張した。
ワーナー氏によると、AI企業は情報委員会に、自社のネットワークへの侵入や、AIツールを利用しようとする外国人など、悪意のある活動を発見した際の報告の方法が分からないと指摘、政権の関与を求めている。
バイデン政権は新たな「国家AI戦略」の作成に取り組んでおり、ホワイトハウスの科学技術政策局はこの戦略について、社会全体からのアプローチだと説明している。
