OpenAI、退社したライケ氏のAGI警鐘に応じるも具体策は明示せず
ITmedia NEWS / 2024年5月19日 8時17分
本稿執筆現在、SuperalignmentチームのページはまだOpenAIに残っている
米OpenAIのグレッグ・ブロックマン社長は5月18日(現地時間)、前日にヤン・ライケ氏が退社報告の中で同社がAIの安全性を軽視していると警鐘を鳴らしたことについて説明する長文ポストを、サム・アルトマンCEOとの共同署名付きでXで公開した。
ライケ氏の退職により生じた疑問への対応として、OpenAIの全体的な戦略について説明するとしている。
ライケ氏は、人間よりもはるかに賢いAI「Superintelligence」(超知能)の制御を目指して昨年結成されたSuperalignmentチームの共同トップだった(もう1人のトップだったチーフサイエンティストのイリヤ・サツケバー氏は14日に退社している)が、OpenAIの幹部チームが「安全性を輝かしい製品の開発より後回しに」しており、その方針に同意できなかったため退社すると説明した。
ブロックマン氏は長文ポストでOpenAIによるAGI対策として、「拡張性のある監視ソリューション」や「密接なフィードバックループ」「厳格なテスト」などという言葉を使っているが、具体的な詳細はない。
米Wiredは17日、Superalignmentチームのほとんどのメンバーが解雇または退社し、チームは消滅したと報じている。同メディアによると、このチームが担っていた役割は、AIモデルの微調整を担当するチームの共同リーダー、ジョン・シュルマン氏が主導するという。
サツケバー氏もライケ氏も、OpenAIを去りつつも同社がAGIへの道を正しく歩むことを期待するとしている。
米Voxは17日、OpenAIを辞めていく元従業員がOpenAIの方針に直接的に抗議しない「非常に明確な理由があることが分かった」という。退社時に署名する必要がある退職合意書で生涯にわたって元雇用主を批判することが禁じられており、この合意書への署名を拒否した場合、在職中に獲得したストックオプションなどのすべての既得権を失うという条項があるのだ。
アルトマン氏はブロックマン氏の投稿の数時間後、この報道についてポストした。「誰かの既得権益を奪い返したことは一度もない」し、退職合意書にこのような条項があったことは「知らなかったが、知っておくべきだった」と語った。退職合意書は改定中という。
外部リンク
この記事に関連するニュース
-
OpenAIを「限界点に達した」と退社したライケ氏、競合Anthropicで安全チーム結成へ
ITmedia NEWS / 2024年5月29日 8時57分
-
OpenAI、安全およびセキュリティ委員会を設立 トップはアルトマンCEO
ITmedia NEWS / 2024年5月29日 6時52分
-
人工知能の安全性評価 オープンAIが委員会設置
共同通信 / 2024年5月29日 5時14分
-
OpenAIのAI危険対策チームトップが「限界に達し」退社 「安全確保が後回しになっている」
ITmedia NEWS / 2024年5月18日 8時0分
-
OpenAIでアルトマンCEO解任騒動の首謀者の1人で共同創業者のサツケバー氏が退社へ
ITmedia NEWS / 2024年5月15日 14時34分
ランキング
-
1AIの急速な導入がWindowsの予定を変えた!? Windows 12がすぐには出ない可能性
ASCII.jp / 2024年6月2日 10時0分
-
2「体に悪そうな味こそ正義」 4万4000いいね超の「グレートチーズバーガー」を試したら"パワー”を感じた
ねとらぼ / 2024年5月31日 13時0分
-
3exeファイルをExcelファイルに見せかけてマルウェアを展開するサイバー攻撃に注意
マイナビニュース / 2024年5月31日 13時12分
-
4「LUMIX S9」のストックフォト問題は何がいけなかったのか?
ITmedia NEWS / 2024年6月2日 7時20分
-
5Rakuten最強プランと楽天市場のデビューで、最大2万円相当を進呈 6月14日9時59分まで
ITmedia Mobile / 2024年6月1日 18時17分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください