(jp) =
「AI のゴッドファーザー」として知られる著名な人工知能研究者は、Google での仕事を辞めました。彼は、急成長中のテクノロジーが社会にもたらすリスクのために、急成長するテクノロジーを前進させる仕事を部分的に後悔していると述べています。
Geoffrey Hinton 博士は、OpenAI の ChatGPT やその他の高度なシステムなどの人気のあるチャットボットの作成につながる AI の基礎を築いたことで広く知られている有名なコンピューター科学者です。
75 歳の彼はニューヨーク タイムズに、AI 開発の無制限なリスクについて率直に話すことができるようにするために Google を辞めたと語った。
ヒントン氏は月曜日に公開されたインタビューで、「私は通常の言い訳で自分を慰めています。もし私がやらなかったら、他の誰かがやっていただろう」と語った.
「5 年前の状況と現在の状況を見てください」とヒントンはインタビューの後半で付け加えました。 「違いを取り、それを前方に伝播します。 それが怖いです。”
ヒントン氏は、AI が将来さらに危険になるだけではないかと懸念しています。「悪意のある人物」が高度なシステムを悪用して「悪いことをする」可能性があり、これを防ぐのは困難です。
レポートによると、ヒントンはグーグルに先月辞任の計画を伝え、先週の木曜日に同社のCEOであるサンダー・ピチャイと個人的に話をした。 コンピューター科学者は、彼とピチャイが電話で話し合ったことを明らかにしませんでした.
Google のチーフ サイエンティストであるジェフ ディーンは、同社の AI への取り組みを擁護しました。
「私たちは、AI に対する責任あるアプローチに引き続き取り組んでいます。私たちは、新たなリスクを理解し、大胆に革新することを継続的に学んでいます」と Dean 氏は声明で述べています。
ポストは、さらなるコメントを求めてグーグルに連絡を取りました。
ヒントンは、AI が適切な監視と規制なしに重大な害を及ぼす可能性があると警告する専門家の数が増えている中で最新のものです。 3月、イーロン・マスクとAIセクターの他の1,000人以上の著名人は、「社会と人類に対する深刻なリスク」の可能性を挙げて、高度なAI開発の6か月の一時停止を求めました。
インタビューの中で、ヒントンは、人工知能がすでにいくつかの面で人間の心を追い越し始めていることに懸念を表明しました。
彼はまた、Microsoft が支援する OpenAI、Google、およびその他のテクノロジの巨人がこの分野をリードしようと競い合うにつれて、AI 開発のペースが加速し、危険な結果をもたらす可能性があるという懸念を述べました。
ヒントンは、システムが独自のコンピューター コードを作成して実行する能力を獲得するにつれて、高度な AI が最終的に制御不能になる可能性があることを恐れています。
「これが実際に人間より賢くなる可能性があるという考え – 少数の人々はそれを信じていました」とヒントンは付け加えました. 「しかし、ほとんどの人はそれは的外れだと思っていました。 そして、私はそれがかなり外れていると思いました。 30年から50年、あるいはそれ以上先だと思っていました。 明らかに、私はもはやそれを考えていません。」
CBS の「60 Minutes」との最近のインタビューで、ピチャイ自身が、AI はライター、会計士、建築家、ソフトウェア エンジニアなどの「知識労働者」の職を失うと警告しました。
ピチャイはまた、Google の AI プログラムが「緊急特性」を開発した、または訓練されていない予期しないスキルを学習したという奇妙なシナリオについて詳しく説明しました。
2013 年以来、ヒントンはトロント大学の教授としての役割と、Google のエンジニアリング フェローとしての役割に分けられていました。 彼は 2 人の学生、Alex Krishevsky と Ilya Sutskever と共同で設立したスタートアップ企業を Google が買収して以来、テクノロジーの巨人で働いていました。
このトリオは、数千枚の写真を分析することで、車や動物などの一般的なオブジェクトを識別するように学習するニューラル ネットワークを開発しました。 Sutskever は現在、OpenAI のチーフ サイエンティストを務めています。
2018 年、Hinton は、「人工知能における主要なブレークスルー」と評されたニューラル ネットワークに関する研究に対して、コンピューティングの世界でノーベル賞に相当するものと見なされることが多いチューリング賞を共同受賞しました。
Google のウェブサイトに掲載されたヒントンの長い経歴は、彼の功績を称え、「音声認識とオブジェクト分類に革命をもたらしたディープ ラーニングで大きなブレークスルーをもたらした」と述べています。