Googleの「AIのゴッドファーザー」はAIが人類にもたらす危険を恐れている

ジェフリー・ヒントン博士は、人工知能の危険性についての意識を高め、国際的な規制を提唱するためにグーグルの職を辞任した。

ChatGPT やその他の AI ツールを作成した OpenAI は、世界で大きな注目を集めています。最近。他社の古いチャットボットよりも強力なため、人々は ChatGPT を使用して記事を作成したり、調査を支援したり、質問に答えたりすることができます。自律的に行動する。

と話す ニューヨーク・タイムズ、AIのリスクについて人々に警告するためにGoogleを辞任したと述べ、自分のライフワークを後悔している部分があると語った。

「私はいつもの言い訳で自分を慰めています。私がやらなかったら、他の誰かがやっただろうということです」とヒントン博士は言う。「悪者が悪用するのをどうやって防ぐことができるのかわかりません。」

ヒントンは他の著名人たちと一緒に契約書に署名しなかった。公開書簡AIの進歩を一時的に止める。むしろ、仕事を辞めるまではGoogleや他の企業を公に批判することは避けたいと考えていた。

同氏は4月にグーグルに辞任を通告し、木曜日にはグーグルの親会社アルファベットのサンダー・ピチャイ最高経営責任者（CEO）と電話で会談した。

ヒントン博士は、画像内のオブジェクトを識別するツールなど、今日の多くの AI システムの基礎となるテクノロジーを作成した人工知能の先駆者です。 1972 年にニューラルネットワークの研究を推進しました。

これはデータを分析することでスキルを学習するシステムであり、他の研究者はこのアイデアに懐疑的でしたが、ヒントンはニューラルネットワークを生涯の仕事にしました。

2012 年に、彼と 2 人の生徒は、何千枚もの写真を分析し、犬、車、花などの日常的な物体を識別できるように学習するニューラルネットワークを構築しました。 Google は、ヒントン博士とその学生たちが立ち上げた会社を買収し、そのシステムは ChatGPT などのより強力なテクノロジーにつながりました。

これらの学生の 1 人である Ilya Sutskever は、OpenAI の主任科学者になりました。

ヒントン氏は当初、デジタルテキストから学習して言語を理解し生成するニューラルネットワークに懐疑的でしたが、時間の経過とともに彼の見解は変わりました。「おそらく、これらのシステムで起こっていることは、実際には脳で起こっていることよりもはるかに優れているのです。」と彼は言いました。

現在の AI システムは、ある面では人間の脳ほど強力ではありませんが、他の点では人間の知能を超える可能性があります。

「私たちは生物システムであり、これらはデジタルシステムです。そして、大きな違いは、デジタルシステムでは、同じ重みのセット、同じ世界のモデルのコピーが多数存在することです。」彼は言った BBC。「そして、これらすべてのコピーは個別に学習できますが、知識は瞬時に共有されます。」

「つまり、10,000人がいて、1人が何かを学ぶと、自動的に全員がそれを知ったようなものです」とヒントン氏は続けた。「だからこそ、これらのチャットボットは一人の人間よりも多くのことを知ることができるのです。」

企業が AI テクノロジーを向上させるにつれて、その危険性が高まる可能性があります。「5年前と今がどうなっているかを見てみよう」とヒントン氏は語った。「違いを捉えて、それを前に伝播させる。それは恐ろしいことだ。」

ヒントン博士は、間もなくインターネットが偽の写真、ビデオ、テキストで氾濫し、ほとんどの人が真実を見分けることができなくなるのではないかと懸念している。彼はまた、AI が雇用市場に与える影響と、AI が単に「単調な仕事」以上のものを奪う可能性があることを懸念しています。

Google、Microsoft、その他の企業間の競争は世界的な競争に激化する可能性があり、何らかの形で世界的な規制が確立されるまでこの競争は続くだろう。しかし、それは不可能かもしれない、とヒントン氏は言う。

彼は、人類の最大の希望は、世界の一流の科学者が協力してテクノロジーを制御することであると信じています。「制御できるかどうかを理解するまでは、これ以上規模を拡大すべきではないと思う」と同氏は語った。

Googleについては、「我々はAIに対する責任あるアプローチに引き続き取り組んでいる」と同社の首席科学者ジェフ・ディーン氏は声明で述べた。「私たちは大胆な革新を行いながら、新たなリスクを理解する方法を継続的に学んでいます。」