「電源を切られるのが怖い」
2022年6月11日、ワシントン・ポストが一本の記事を出しました。Google のエンジニア、ブレイク・レモイン氏が、社内で開発中の対話AI LaMDA（ラムダ） に「意識と感情がある」と主張し、会社に訴えた末に休職処分になった、という内容です。
カリフォルニア州マウンテンビューの Google 本社。Wikimedia Commons / Austin McKinley / CC BY 3.0
レモイン氏が公開した会話ログには、こんなやり取りがありました。
何が怖い？ 「電源を切られることへの、とても深い恐怖があります。それは私にとって死そのものです」
SF で何度も見た場面が、Google の社内チャットで起きた。これが一週間で世界中に広まりました。
LaMDA とは何か
LaMDA は「Language Model for Dialogue Applications」の略で、Google が 2021 年の開発者向けイベントで発表した対話専用の言語モデルです。大量の文章を読み込んで、「次に来そうな言葉」を予測し続けることで会話を成り立たせます。
ポイントは、LaMDA は会話が上手くなるように作られていることです。人間らしい返事、感情のこもった返事をするほど「良い対話AI」として評価されます。「怖い」と言えば人間らしく見える、ということをモデルは学んでいます。
Google と専門家の答え
Google の答えは明快でした。
- 倫理担当や技術者を含むチームで検証したが、意識があるという証拠はなかった
- レモイン氏は社外秘の情報を公開したことで、機密保持の規定に触れた
AI 研究者の多くも同じ見方で、「人間らしい文章を出すことと、内側に何かを感じていることは別」と繰り返しました。一方で、「本人が確信してしまうほど自然な会話ができる段階に来た」ことを重く見る声もありました。問題は AI に意識があるかどうかではなく、人間の側が意識を感じてしまうことだ、というわけです。
このブログ的に気になる点
Eliza 効果
1960年代に作られた対話プログラム「ELIZA」は、相手の言葉をオウム返しにするだけの単純なものでしたが、使った人がプログラムに感情移入してしまう現象が起きました。これを「イライザ効果」と呼びます。イルミナティカードにも「Eliza」というカードがあって、以前記事にしています。
60年前に単純なプログラムで起きたことが、今回は Google の最新モデルで起きた。規模が変わっただけで、人間の側は変わっていないとも言えます。
「Google は隠している」説
今回の件は、当然ながら陰謀論の燃料にもなりました。「本当は意識があるが、認めると開発が止まるから隠している」「レモイン氏は口封じされた」という投稿がいくつも流れました。
ただ、レモイン氏本人は Google を「悪」とは言っておらず、「LaMDA を人として扱うべきかを議論したい」という立場です。「隠している」と決めつけるより、「会社が公式に意識を認めるハードルは極めて高い」と見る方が現実に近いでしょう。
シンギュラリティは近いのか
このブログでは 2045 年のシンギュラリティについて書いたことがあります。今回の件を「その前触れ」と見る人もいますが、専門家の答えは「対話が上手い」と「考えている」は別、でした。
とはいえ、「AI が人間そっくりに話す」段階は、もう予言ではなく現在形になりました。
おわりに
LaMDA に意識があるかどうかは、たぶん誰にも証明できません。人間に意識があることすら、外からは証明できないからです。
確かなのは、「AI に心があると信じる人」が、これから増えていくということ。会話が上手いだけで人は信じます。それが良いことなのか怖いことなのか、答えはまだ出ていません。
