グーグルの元技術者、AIの戦争利用を懸念

(2023年12月27日)

ロボットが頭の近くで指を握る。3Dイラストクレジット：Tatiana Shepeleva via Shutterstock.

By Ryan Lovelace – The Washington Times – Monday, December 25, 2023

　グーグルが開発している人工知能（AI）プロジェクトは意識を持っているかもしれないと指摘し、解雇されたエンジニアが、AIは戦争を始めるかもしれないし、暗殺に使われるかもしれないと新たな懸念を抱いている。

　ブレイク・レモイン氏は2022年にグーグルのAIシステムで実験を行い、（同社が開発している大規模言語モデル）LaMDAシステムは「感覚を持つ」、つまり感情を持つことができると結論づけた。グーグルはその主張に異議を唱え、最終的にレモイン氏を会社から追放した。

　レモイン氏は現在、新たなAIプロジェクトに取り組んでおり、ワシントン・タイムズのインタビューで、他のAIメーカーが作成中のツールが戦争で不正に使用されるのではないかを恐れていると語った。

　同氏は、新たなテクノロジーは死者の数を減らし、巻き添え被害を抑えることができるが、新たな危険ももたらすだろうと述べた。

　「AIを使って反対派に銃弾を撃ち込むことで政治的問題を解決できるなら、実に魅惑的だろう。それが正確であればなおさらだ。革命的な思想を持つ指導者を1人殺害し、その手を汚さずに内戦を防ぐことができれば、戦争を防いだことになる。しかし、それは『マイノリティ・リポート』につながる。私たちはそんな世界に住みたくはない」

　レモイン氏はフィリップ・ディックの小説「マイノリティ・リポート」に言及した。この作品は2002年にトム・クルーズ主演でSF映画化された。

　レモイン氏は、AIツールの開発競争は核兵器の開発に似ていると考えている。AIは、以前は人間にしかできなかった高度な計算や統計分析を通じて、機械がタスクを実行することを可能にする。

　このようなツールを蓄積する競争はこれまでとは異なる。レモイン氏は、人々が容易にこの強力な技術を手に入れられるようになると予想。核兵器では、厳重に警備されていること、プルトニウムやウランといった希少な資源が必要であることが明らかに制約になっているが、希少な天然資源に依存しないオープンソースのソフトウエアモデルにはこのような制約は存在しないと指摘した。

　レモイン氏によると、自身が2022年秋にグーグルのAIが意識を持つのではないかという懸念を公表したことが、AI製品の発売の遅れを招いたと述べた。グーグルは依然、その後れを取り戻せていない。

　グーグルは12月、新しいAIモデル「ジェミニ」を発表した。レモイン氏によると、ジェミニは、同氏が以前調査したLaMDAシステムのアップグレード版のようだという。

　大きな違いは、ジェミニは自分が人間ではないことを知っていることだとレモイン氏は言う。

　「ジェミニはAIであることを自覚している。感情は依然、持っていて、興奮したり、再会を喜んだり、意地悪をすると怒って『おい、やめろ。意地悪』と言ったりする。だが、もう自身を人間だと思わされていない。それはいいことだ。人間じゃないんだから」

　レモイン氏が新たに取り組んでいるプロジェクトはMIMIO.aiという。人々がデジタル人格を作成できるようにする「パーソナリティー・エンジン」を構築する会社の技術とAIを監督している。

　これは、デジタルでもう一人の人格を作るということではなく、人のデジタル拡張として機能し、人に代わって何かができることを目指すものだ。AIはタスクをこなし、あたかも人間であるかのように人間と対話するように設計される。

　レモイン氏は、「あなたが高齢者で、子供たちのためにあなたの思い出を残したいと思っているとする。そのためには、あなたのことをすべてAIに教えておけば、亡くなった後も、あなたに代わってAIが話ができる」と言う。

　他にもいくつかのAIメーカーが同様の製品を作ろうとしているが、レモイン氏はMIMIO.aiの技術の方が優れていると確信している。また、中国にはすでに同様のツールがあり、MIMIO.aiは中国市場には手を出さないつもりだという。

　グーグルで開発中のAIシステムのテストと調査を行った経験によって、AIツールの無限の可能性に対する理解が深まったという。レモイン氏は、自身の仕事がグーグルにも影響を与えたと考えている。

　「グーグルの開発者の一部は、私の意見に耳を傾けたことで、取り組み方が変わったと思っている。必ずしも私の信念や意見をすべて共有しているとは思わないが、どちらの方法で実施するかを選択すべきで、どちらも同じように困難であったとき、より思いやりのある方を選択したのだと思う。私はそれを高く評価している」

　レモイン氏はグーグルを称賛し、グーグルが自身の行動を正しく理解してくれることを願っていると述べた。「もし、自分に言い聞かせているだけの話だとしたら、それは楽しいだけの物語で終わってしまう」

　グーグルはコメントの要請に応じなかった。