ノーベル賞受賞者ジョフリー・ヒントン、AIの安全対策を警告

かつて人工知能に対して大きな期待を抱いていたジェフリー・ヒントンは、現在、その技術の将来的なリスクについて懸念を表明しています。

人工知能の専門家として知られるジェフリー・ヒントンが、最近物理学のノーベル賞を受賞しました。彼の革新的な研究により、今日のAI技術が誕生しました。しかし、彼は祝福するよりも、AIが慎重に扱われないと非常に危険になる可能性があると警告しています。

ヒントン氏は、AIシステムが以下のような可能性を懸念しています。

• 人間の制御を超える
• 選挙に影響を及ぼす
• 危険になる
• 人間の知能を上回る

ヒントンは、彼が言及した成功に伴うリスクについて話しています。彼は、今より良い安全対策が必要であることを強調しています。OpenAIやGoogleのような多くの企業が、AIの迅速な発展に向けて懸命に取り組んでいます。ヒントンは、新しい技術の創造と責任ある行動のバランスを見つけることを促しています。

AI研究者の間での多様な意見

ヒントンの見解には賛同しない人もいます。彼の危険性についての主張が誇張されていると考える研究者も少なくありません。あまりに心配しすぎると進歩が妨げられるかもしれないと彼らは考えています。サンタフェ研究所の教授であるメラニー・ミッチェルは、差別のような差し迫った問題に注力すべきだと述べています。懐疑的な立場の人々は、現在のAIには重大な損害を引き起こす力はないと考えており、よくAIの現実世界に対する理解の限界を指摘しています。

AIの専門家であるヤン・ルカンは、高度なAIが大きな害をもたらすという考えに対して懐疑的です。彼はこの考えが誇張されていると考えています。ルカンは、AIは基本的な動物ほどの知能もないと述べており、AIが突然自立することを心配する理由はないと見ています。

関連記事:

昨日 · 10:27

米国がAI革新で中国を凌駕、スタンフォード報告書が示す

ヒントンは自身の使命に忠実である。彼はAIの危険性について率直に語るためにGoogleを辞職した。彼は企業にAIをより安全にするための資金をもっと投入するよう促している。彼に反対する人もいるが、ノーベル賞を受賞したことで彼の評判が高まり、そのメッセージを広める一助となっている。

これらの問題に対処するための法律や企業方針に対する要求が高まっています。

ヒントン氏は単に警告を発するだけでなく、実際に行動を促しています。彼はAI安全研究への投資を求める論文に署名しました。ヒントン氏は大手テクノロジー企業がこの分野に多額の資金を投入すべきだと考えています。また、政府が介入してこれを実現させるべきだとも信じています。彼は、開発者がAIシステムの安全性を確保し、重大な被害を引き起こさないようにすることを求めるカリフォルニア州の法案を支持しました。

カリフォルニア州知事のギャビン・ニューサムは、大手テクノロジー企業の反対を受けて法案を拒否しました。これはヒントン氏の計画にとって残念な結果です。それでも彼は、AIの安全性の重要性について政策立案者やイーロン・マスクのような技術リーダーを説得しようと努めています。

ヒントンの懸念がAI開発における重要な議論に注目を集めています。進歩を遂げることと慎重さのバランスを見つけることが重要です。企業は新技術を開発したいと考えていますが、安全でなければ意味がありません。政策立案者や研究者は、未来のAIの発展のあり方について議論しています。この議論は、AIの利益とリスクをどう天秤にかけるかに関わっています。ヒントンの警告は、安全な未来のためにAIを責任を持って開発することの重要性を示しています。 WSJ によると。