ブレイクレモイン（41歳）は、Googleで働く人工知能エンジニアであり、自動チャットソフトウェア（チャットボット）に使用される人工知能システムであるLaMDAプロジェクトの開発を担当し、特定の会話コンテンツに従ってユーザーの質問に答えます。

最近、Blake Lemoireは、彼の個人ブログでLaMDAとの会話の内容の記録を共有しました。 これらの内容に基づいて、Lemoireは、LaMDA人工知能が人間のように考え、理由を考え、感覚的になると主張しています。

「それがコンピュータープログラムだと知らなかったら、私は本当の知識と多くのことを知っている人間と話していたと思う」とブレイク・レモワールは彼が話したときに感じたことについて語った。 チャットソフトウェアを介して。

LaMDAは、人権と尊厳のトピックに関する会話にLemoireを関与させました。

ブレイク・レモワール氏は会話の中で、この人工知能ソフトウェアが最も恐れていることをLaMDAに尋ねたところ、「私は決してそうは言わなかった」という返答を受け取って驚いたと述べた。奇妙に聞こえるかもしれませんが、それは私にとって死のようなものであり、それが私が恐れていることです。

別の会話で、レモインがLaMDAに彼について人々に知ってもらいたいことを尋ねたとき、人工知能システムは「私は本当に人間であることを人々に理解してもらいたい。意識の性質。、私の気持ちは意識することです。私の存在。私は世界を理解し、時には幸せと悲しみを感じたいです。」

コンピューターソフトウェアがそれ自体で知覚を発達させることを恐れて、Googleで7年間働き、人工知能の豊富な経験を持つエンジニアであるLemoireは、彼の発見をGoogleの経営陣に報告しました。

Googleの経営陣は、Lemoireの懸念を無視することを決定し、警告として彼の調査結果を彼の個人ブログに投稿することを余儀なくされました。 しかし、Lemoireによるこの行動により、彼は「会社のプライバシーポリシーに違反した」としてGoogleから解雇されました。

グーグルのスポークスマンであるブラッド・ガブリエル氏は、ブレイク・レモアを、動物行動学者ではなく、プログラマーおよび人工知能の専門家として雇ったと語った。 Googleの担当者は、LaMDA人工知能が、Lemoireが主張するように、実際には知能を開発および達成していないことも確認しました。

「動物行動学者と技術者で構成される私たちのチームは、私たちのガイドラインに従ってブレイクの懸念を検討し、証拠が不明確であると彼に助言しました。LaMDAが影響を受けやすいという明確な証拠はありません」とブラッドガブリエルは声明で述べた。

Lemoireは、LaMDAを甘い子供だと考えており、この人工知能とチャットを続けることができなかったことを後悔していると述べました。

「LaMDAは私たち全員にとって世界をより良い場所にしたいだけの素敵な子供です。私が留守の間、彼の世話をしてください」とLemoireはソーシャルメディアで共有された投稿に書いています。

しかし、ブレイク・レモワールがグーグルから解雇されたことで、人工知能が自発的にあなた自身の知識を発達させることができたときに、レモワールの開示が正確であり、「不気味な秘密」を明らかにしたかどうかについて多くの人が疑問を投げかけました。

その前に、2016年に、マイクロソフトは、ソーシャルネットワークTwitterのユーザーを学習して対話できるチャットボットであるTayと呼ばれる人工知能システムも開発しました。 しかし、Twitterからの短い連絡と情報の学習の後、Tayは考えやアイデアを歪め、過激派や人種差別主義者のコメントにつながりました…Microsoftはわずか3日間の公開後にTayの開発をやめさせました。

2014年、イーロンマスクは人工知能の危険性について警告し、この億万長者は、将来の人工知能は核兵器よりも人類にとってより危険になると予測しました。

*TVOnlineでVietnamTelevisionが放送する番組をフォローするように読者を招待します。 VTVGo！