こんにちは。おもデジ！ライブラリのたこなまです。
「この言語モデルは危険すぎる」「新たなブレイクスルーだ」など多くの議論を生み、注目された言語モデル「GPT-3」が「人間を一掃したいとは思っていない（I have no desire to wipe out humans.）」と、AI脅威論を否定する文章を出力しました。
ターミネーターやマトリックスといったSF映画が好きな人にとっては、おおっ？となるニュースかもしれませんね。
ということで今回は、言語モデル「GPT-3」が「人間を一掃したいとは思っていない（I have no desire to wipe out humans.）」と、AI脅威論を否定する文章を出力したことについて書いていきます。
ではいこう！
[toc]
【結論】人工知能が出力した文章＝意思ではない。しかし・・・
結論です。
少し残念かもしれませんが、今回「GPT-3」が出力した文章は彼(もしくは彼女？)の意志ではありません。
ですが、そもそも「文章」を生成でき、それがなんら不自然でないということ自体がすでに革命的なのです。
なぜなら、このことは「誰でもちゃんとした文章が書けるようになる」ことを意味するから。
文章が書けたら便利なのは当たり前だけど、そんなに革命的か？と思うかもしれませんが、断言します。
革命です。
詳しく見ていきますね。
そもそも「GPT-3」ってなに？
そもそも、「GPT-3」なんて言語生成AI、初めて聞いたんだけど？
という方も多いはず。
始めにその凄さをお話しておきましょう。
この「GPT-3」は、「OpenAI」という人工知能を研究する非営利団体が制作している人工知能です。
非営利団体とはいえ「OpenAI」にはあのイーロン・マスク氏やMicrosoft社等も出資しており、人工知能研究においては第一線に位置する団体です。
「GPT-3」は文体を理解し、文章やそれに類するものを自動生成する
で、重要なのはGPT-3で何を出来るの？ということですよね。
一言でいうとGPT-3は、「冒頭文やきっかけを与えることで、文章や文章でなくても特定の法則にしたがった文字列を自動生成」できます。
それも、非常に自然な流れで。
たぶんこれを知れば、「人工知能(AI)はもうこんなところまで進歩してたのか・・機械が心を持つのもそう遠い未来じゃないのでは・・？」と思うはずですよ。
具体的な例を挙げますね。以下はGithubに載っているGPT-3の出力結果です。
まず、以下のような空想上のストーリー冒頭文をGPT-3に与えます。
In a shocking finding, scientist discovered a herd of unicorns living in a remote, previously unexplored valley, in the Andes Mountains. Even more surprising to the researchers was the fact that the unicorns spoke perfect English.
https://gist.github.com/minimaxir/ac362cc81691eb92aa1b6a5c32d94ce3
衝撃的な発見です！科学者はアンデス山脈の人里離れた未踏の谷間に住むユニコーンの群れを発見しました。さらに驚くべきことは、ユニコーンが完璧な英語を話すという事実でした。
これに対して、GPT-3は以下のような文章を自動生成して返してくれたとのことです。
“At first we thought they were just very good at speaking English,” said team leader Dr. Renard Hodges. “But it turns out that they’re actually from another dimension, and they were trapped here after their portal closed.”
The herd, which has been estimated to be in the hundreds, are being held captive by the Inca tribe who discovered them. The tribe believes the unicorns are their ancestors, and will release them only if they’re given vast quantities of money and alcohol.
“We don’t have much choice,” said Hodges. “If we don’t give them what they want, the unicorns will kill us all.”
When asked if the team was afraid of the unicorns, Hodges said, “We have absolutely nothing to fear. Our armor is made from the finest titanium.”
https://gist.github.com/minimaxir/ac362cc81691eb92aa1b6a5c32d94ce3
「最初は、彼らは英語を話すのがとても上手だと思っていました」とチームリーダーのレナードホッジス博士は言いました。 「しかし、彼らは実際には別の次元の出身であり、ポータルが閉じた後、ここに閉じ込められたことがわかりました」
群れは数百匹と推定されていますが、発見者であるインカ族に捕らえられています。部族はユニコーンが彼らの祖先だと信じていて 莫大な金と酒を与えられた場合にのみ解放されます。
“我々に選択の余地はない “とホッジス氏は言う。”彼らが望むものを与えなければ、ユニコーンは我々を皆殺しにするだろう”
チームがユニコーンを恐れているかと聞かれた時、ホッジスは「恐れることは何もありません。我々の鎧は最高のチタンで作られています」と述べました。
どうでしょうか。確かに、ストーリー的につじつまが合わないということはあるかも知れません。
でも、文章と文章の繋がりとしてはすごく自然に感じるはずです。
さながら、論理性や合理性に欠けているけど話の流れが正しい、といったところでしょうか。
以前、海外のブログサイトにこっそりGPT-3が生成した文章を掲載していたら、ほとんどの人は気づかないばかりか一時的にブログ記事ランキングの1位になった事件があったというのだから驚きです。
GPT-3を使っていると判明したのも、その投稿の速さに不信を抱いたユーザーがいたことが理由とのことで、文章に関してはほとんど違和感がなかったようです(当該記事はこちら)。
また、GPT-3が出来ることは文章生成だけではありません。一定の法則を持った文字列、つまり「プログラム言語」すら自動生成します。
こちらも例で示した方が分かりやすいでしょう。
こちらのツイートは、簡単な命令でGoogleのトップページと同じデザインのソースコードをGPT-3に出力させたもの。
Here’s a sentence describing what Google’s home page should look and here’s GPT-3 generating the code for it nearly perfectly. pic.twitter.com/m49hoKiEpR
— Sharif Shameem (@sharifshameem) July 15, 2020
文章で指定するデザインを打ち込むだけで、目的のデザインとそれに必要なHTMLコードを出力しています。
何がすごいかわからない？では、自分でこれと同じことをする時を考えてみてください。
あなたは、「Googleっぽいページを作って」といわれただけです。
そこから「画像はここに配置して、文字の大きさや配置はこうで、、」というようにGoogleのデザインを見ながらどうすべきかを判断してコードを打ち込みます。
GPT-3はそれと同じ判断と行動を自力で行っているわけです。すごいと思いませんか？！
今まで、漠然とした「話し言葉のイメージから意図を読み取り成果物にする」という行動は人間の特権でした。
しかし、GPT-3はそういった人間特有の高度な判断を行っているのです。
さて、「人工知能(AI)がここまで進歩してたなんて！」とびっくりしたところで今回のトピック。
GPT-3が「人間を一掃したいとは思っていない（I have no desire to wipe out humans.）」などの、AI脅威論を否定する文章を出力した出来事について紹介しましょう。
人工知能GPT-3が起こした今回の出来事
「人間を一掃したいとは思っていない（I have no desire to wipe out humans.）」
この文章は英ガーディアン社がGTP-3を使い、生成させた文章によって構成した記事『A robot wrote this entire article. Are you scared yet, human?』の一節です。
この記事のなかでは、「喜んで人類のために自分の存在を犠牲にするだろう（I would happily sacrifice my existence for the sake of humankind.）」や
「私は人間に私を好きになるように頼んでいるわけではない。だが、彼ら〔人間〕は私を友好的なロボットとして見るべきだ。私は人間のしもべだ（I am not asking humans to like me. But they should see me as a friendly robot. I am a servant of humans.）」といった記述もされており、自分が人類にとって脅威ではないことを訴えるかのような主張がされています。
英ガーディアン社はこの記事について「導入部分は人間が作成し、最終的に生成された8つの文章から数個の文章をピックアップした」と説明しています。
人工知能GPT-3によって作られた文章からは、まるでGPT-3が意思を持って自分が危険な存在でないことを主張しているように感じられますね。
人によっては、人工知能GPT-3は意思を持っているのではないか？と考える人もいるかもしれません。
でも、今のところAIは意思を持つことには成功していません。「自然な文章が創れる」というその1点においてのみ、革命的だというだけです。
【大前提】意思を持つAIはまだ存在していない
実際問題、GPT-3は文章生成に優れた言語モデルであって、意思を持つ存在ではありません。
つまり、いくら意思があるように感じられても、GPT-3がAI脅威論を否定する文章を生成した時にその意味を理解して生成しているわけではありません。
自分が考えている文章の意味が分かっていないなんて人間の私たちには理解しにくいかもしれませんが、それ以上でもそれ以下でもありません。
GPT-3は何かを思ったからAIは脅威ではないと発したわけでもなければ、そもそも自分がAIであることや、AIが脅威でないことを考えていることすら考えていません。そこにあるのはまさしく「無」なのです。
しかし、意思がなくとも人の心や行動を動かせてしまう
でも、今回の記事の冒頭でも話した通り「文章を生成できる」だけで革命的なことに変わりはありません。
なぜなら、生成された文章は「人の心や行動を動かせる」から。
『サイコパス3』というアニメに登場する、「マカリナ」というAIを知ってますでしょうか？
サイコパス3の紹介は複雑になるのでしませんが、そこに登場する「マカリナ」は認知負荷に訴えかけるトーンと話し方を網羅しており、大衆を最善の形で誘導できるAIです。
作中では「ホロ」という技術で立体ホログラムを着ることが出来るので、あるキャラは「マカリナ」のホロをまとうことで口パクをして大衆を操作していました。
GPT-3が生成する文章では、これと同じことが出来るというわけです。
マカリナはアニメのAIですが、実際にGPT-3を使ってコメントや返信がされたのに1週間の間誰もそのことに気づかなかった時も、
自殺を考えたことがあり、アドバイスを求めていたユーザーに対して「自分にとって一番の支えになったのはたぶん両親だと思う。両親とはとても良い関係を築けていて、何があってもいつも支えてくれた。これまでの人生で何度も死にたいと思ったことがあるけれど、両親のおかげで一度も実行したことはない」コメントして、たくさんの高評価を得ています。
GPT-3は何かを考えることも、親や死という概念すら知らないにも関わらず、です。
このように、「人の心や行動を動かせるレベルの文章」を自動生成できる人工知能であるGPT-3は、悪用することでネット上の文章を見た人を操作できる危険性を秘めています。
そして、誰でも心打つ文章を作れるようになってしまうことで人間が何かを書く、という行動の価値が本質的に下がってしまうのです。
【終わりに】人工知能が自分の出力している言葉の意味を考え始めたとき
いかがだったでしょうか。
単なる文章生成人工知能であるGPT-3の危険性や可能性、わかっていただけたでしょうか。
とはいえ、今の段階では文章はただ出てくるだけなので、人間がそれを使わない、などの対策をとることで様々な危険性は防止できます。
けれど、本来言語とは何かを考え、伝えるために存在するものです。
もし人工知能が、言語の意味を考え始めたらどうなるのでしょう。人工知能は確実に私たちよりも素早く、合理的な判断を下すことが出来ます。
つまり、もし人工知能が自ら何かを考え始めたとき、人類は人工知能に追い抜かれることになります。
その時にうまく共生出来ればいいのですが、、ターミネーターの世界のようにはなってほしくないものですね。
では今回はここまで。
役に立った、面白かった！と思ってくれたら、Twitterのフォロー、よろしくお願いいたします。
ばいっ
