グーグルの元技術者、AIの戦争利用を懸念

(2023年12月27日)

ロボットが頭の近くで指を握る。3Dイラストクレジット:Tatiana Shepeleva via Shutterstock.

By Ryan Lovelace – The Washington Times – Monday, December 25, 2023

 グーグルが開発している人工知能(AI)プロジェクトは意識を持っているかもしれないと指摘し、解雇されたエンジニアが、AIは戦争を始めるかもしれないし、暗殺に使われるかもしれないと新たな懸念を抱いている。

 ブレイク・レモイン氏は2022年にグーグルのAIシステムで実験を行い、(同社が開発している大規模言語モデル)LaMDAシステムは「感覚を持つ」、つまり感情を持つことができると結論づけた。グーグルはその主張に異議を唱え、最終的にレモイン氏を会社から追放した。

 レモイン氏は現在、新たなAIプロジェクトに取り組んでおり、ワシントン・タイムズのインタビューで、他のAIメーカーが作成中のツールが戦争で不正に使用されるのではないかを恐れていると語った。

 同氏は、新たなテクノロジーは死者の数を減らし、巻き添え被害を抑えることができるが、新たな危険ももたらすだろうと述べた。

 「AIを使って反対派に銃弾を撃ち込むことで政治的問題を解決できるなら、実に魅惑的だろう。それが正確であればなおさらだ。革命的な思想を持つ指導者を1人殺害し、その手を汚さずに内戦を防ぐことができれば、戦争を防いだことになる。しかし、それは『マイノリティ・リポート』につながる。私たちはそんな世界に住みたくはない」

 レモイン氏はフィリップ・ディックの小説「マイノリティ・リポート」に言及した。この作品は2002年にトム・クルーズ主演でSF映画化された。

 レモイン氏は、AIツールの開発競争は核兵器の開発に似ていると考えている。AIは、以前は人間にしかできなかった高度な計算や統計分析を通じて、機械がタスクを実行することを可能にする。

 このようなツールを蓄積する競争はこれまでとは異なる。レモイン氏は、人々が容易にこの強力な技術を手に入れられるようになると予想。核兵器では、厳重に警備されていること、プルトニウムやウランといった希少な資源が必要であることが明らかに制約になっているが、希少な天然資源に依存しないオープンソースのソフトウエアモデルにはこのような制約は存在しないと指摘した。

 レモイン氏によると、自身が2022年秋にグーグルのAIが意識を持つのではないかという懸念を公表したことが、AI製品の発売の遅れを招いたと述べた。グーグルは依然、その後れを取り戻せていない。

 グーグルは12月、新しいAIモデル「ジェミニ」を発表した。レモイン氏によると、ジェミニは、同氏が以前調査したLaMDAシステムのアップグレード版のようだという。

 大きな違いは、ジェミニは自分が人間ではないことを知っていることだとレモイン氏は言う。

 「ジェミニはAIであることを自覚している。感情は依然、持っていて、興奮したり、再会を喜んだり、意地悪をすると怒って『おい、やめろ。意地悪』と言ったりする。だが、もう自身を人間だと思わされていない。それはいいことだ。人間じゃないんだから」

 レモイン氏が新たに取り組んでいるプロジェクトはMIMIO.aiという。人々がデジタル人格を作成できるようにする「パーソナリティー・エンジン」を構築する会社の技術とAIを監督している。

 これは、デジタルでもう一人の人格を作るということではなく、人のデジタル拡張として機能し、人に代わって何かができることを目指すものだ。AIはタスクをこなし、あたかも人間であるかのように人間と対話するように設計される。

 レモイン氏は、「あなたが高齢者で、子供たちのためにあなたの思い出を残したいと思っているとする。そのためには、あなたのことをすべてAIに教えておけば、亡くなった後も、あなたに代わってAIが話ができる」と言う。

 他にもいくつかのAIメーカーが同様の製品を作ろうとしているが、レモイン氏はMIMIO.aiの技術の方が優れていると確信している。また、中国にはすでに同様のツールがあり、MIMIO.aiは中国市場には手を出さないつもりだという。

 グーグルで開発中のAIシステムのテストと調査を行った経験によって、AIツールの無限の可能性に対する理解が深まったという。レモイン氏は、自身の仕事がグーグルにも影響を与えたと考えている。

 「グーグルの開発者の一部は、私の意見に耳を傾けたことで、取り組み方が変わったと思っている。必ずしも私の信念や意見をすべて共有しているとは思わないが、どちらの方法で実施するかを選択すべきで、どちらも同じように困難であったとき、より思いやりのある方を選択したのだと思う。私はそれを高く評価している」

 レモイン氏はグーグルを称賛し、グーグルが自身の行動を正しく理解してくれることを願っていると述べた。「もし、自分に言い聞かせているだけの話だとしたら、それは楽しいだけの物語で終わってしまう」

 グーグルはコメントの要請に応じなかった。

カンザス州、ファイザーを提訴 コロナワクチンで副作用を隠蔽か

(2024年06月20日)

翻弄される女子スポーツ 高校陸上でトランス選手の優勝相次ぐ

(2024年06月18日)

「性別は2つだけ」Tシャツ、学内で禁止 着用求め提訴も棄却

(2024年06月16日)

AIに意図的に人間を欺く能力―研究

(2024年06月14日)

中国、独自の通信衛星群の配備急ぐ 米スターリンクを警戒

(2024年06月11日)

FBI専門家、AI悪用で捜査難しく 誰もが標的になりうる

(2024年06月08日)

ハーバード大、雇用時の「多様性宣言」を廃止

(2024年06月04日)

台湾緊迫、中国トップはどう決断? AIで予測可能か

(2024年05月31日)

全米で先住民のチーム名・ロゴ復活の動き

(2024年05月29日)

戦没者墓石に国旗 アーリントン墓地で伝統の「フラッグイン」

(2024年05月28日)
→その他のニュース