イーロン・マスク氏ら、「社会へのリスク」を理由にAIの一時停止を促す

3月29日（ロイター）

イーロン・マスク氏と人工知能の専門家や業界幹部のグループは、社会への潜在的なリスクを理由に、OpenAIが新たに発表したGPT-4よりも強力なシステムの開発を6ヶ月間休止するよう公開書簡で呼びかけている。

今月初め、マイクロソフトの支援を受けたOpenAIは、GPT（Generative Pre-trained Transformer）AIプログラムの第4弾を発表し、人間のような会話に参加したり、歌を作曲したり、長文の文書を要約したりして、ユーザーを驚かせた。

“強力なAIシステムは、その効果がプラスになり、そのリスクが管理可能であると確信した場合にのみ開発されるべきである “と、Future of Life Instituteが発行した書簡は述べています。

欧州連合の透明性登録によると、この非営利団体は主にマスク財団のほか、ロンドンに拠点を置くグループFounders Pledge、Silicon Valley Community Foundationから資金提供を受けている。

“AIは私にストレスを与える “と、マスクは今月初めに語っている。彼は業界リーダーであるOpenAIの共同設立者の1人であり、彼の自動車メーカーであるテスラ（TSLA.O）は自動操縦システムにAIを使用しています。

自動運転システムを規制する取り組みに批判的な規制当局に不満を表明しているマスクは、AIの開発が公共の利益に資することを保証する規制当局を求めています。

コーネル大学のデジタル・情報法教授であるJames Grimmelmann氏は、「Teslaが自動運転車の欠陥AIに対する説明責任に対してどれほど激しく戦ってきたかを考えると、Elon Muskが署名するのは…深い偽善だ」と述べています。

“一時停止は良いアイデアだが、書簡は曖昧で、規制の問題を真剣に受け止めていない”

テスラは先月、米国の規制当局が運転支援システムが事故を引き起こす可能性があると指摘したため、36万2000台以上の米国車をリコールしてソフトウェアを更新しなければならず、マスク氏は、無線によるソフトウェア更新に対して「リコール」という言葉は “時代錯誤でまさに大間違い！”とツイートした。

OpenAIは、共有された安全プロトコルが独立した専門家によって開発されるまで高度なAI開発の一時停止を促し、開発者がガバナンスについて政策立案者と協力するよう呼びかけた公開書簡に関するコメントの要請にはすぐに応じなかった。

「私たちは、機械が私たちの情報チャネルをプロパガンダや不真実な情報で溢れさせるべきでしょうか？… このような決定は、選挙で選ばれたわけでもない技術指導者に委ねられてはならない」と述べています。

テスラ創業者のイーロン・マスクは、ノルウェーのスタヴァンゲルで開催された「Offshore Northern Seas 2022」に出席した（2022年8月29日）。NTB/カリーナ・ヨハンセン via REUTERS
この手紙には、マスク氏を含む1,000人以上が署名しています。

OpenAIの最高経営責任者であるサム・アルトマンは、書簡に署名した人の中には含まれていない。AlphabetとMicrosoftのCEOであるSundar PichaiとSatya Nadellaも、署名した人の中には含まれていない。

共同署名者には、Stability AI CEOのEmad Mostaque、Alphabet傘下のDeepMindの研究者、「AIの名付け親」の一人と呼ばれるAIの重鎮Yoshua Bengio、この分野の研究の先駆者であるStuart Russellが含まれています。

ChatGPTが国家安全保障や教育への影響について疑問を呈し、米国の議員たちの関心を集めている中で、今回の懸念が浮上した。

EUの警察組織Europolは月曜日、フィッシングの試み、偽情報、サイバー犯罪にこのシステムが悪用される可能性について警告した。

一方、英国政府は、AIをめぐる「適応可能な」規制の枠組みに関する提案を発表した。

この書簡に署名したニューヨーク大学のゲイリー・マーカス教授は、「書簡は完璧ではないが、その精神は正しい：我々は、その影響をよりよく理解するまではスピードを落とす必要がある」と述べた。

“大企業は、自分たちがやっていることをますます秘密にするようになっており、それによって社会は、どのような害が現れるかに対して防御することが難しくなっている。”

昨年のリリース以来、OpenAIのChatGPTはライバルに同様の大規模言語モデルの開発を加速させ、Alphabet Inc (GOOGL.O)を含む企業は自社製品をAIで急造しようと競っている。

一社に依存することを警戒する投資家たちは、OpenAIの競合他社を受け入れています。

マイクロソフトはこの書簡に関するコメントを拒否し、アルファベットはコメントを求める電話やメールに応じなかった。

ブラウン大学の教授で、ホワイトハウスの科学技術政策室の元アシスタントディレクターであるSuresh Venkatasubramanian氏は、「これらのシステムを開発する力の多くは、それを行うためのリソースを持つ少数の企業の手に常に握られてきた」と述べている。

“こういうモデルはそういうもので、作るのも民主化するのも難しいのです”