何が起きたか
Center for AI Safetyを率いるDan Hendrycks氏は水曜日、ニューヨークで開催されたニューヨーク・タイムズ主催のイベント「DealBook Summit」で、最大規模のフロンティアAI学習を無期限で停止するよう訴えたと、TNW | Agiが報じた。Neuralinkの共同創業者で、現在はScience Corporationを率いるMax Hodak氏は、そのような禁止措置を取り締まるにはインターネットの広範な監視が必要になると反論した。AGIに関するパネルの司会は、The DailyのMichael Barbaro氏が務めた。
Hendrycks氏によれば、同氏の案では、音声モデルやDeepMindのAlphaFoldなど、用途を絞ったシステムは対象外となる。ラボは引き続き推論を販売でき、その間にモデルの信頼性と安全性を高め、ジェイルブレイクやバックドアを塞ぐことができるという。同氏はかつて技術面の個別ルールを好んでいたが、企業が長年それに抵抗したため、より強硬な手法に傾いたと述べた。ElevenLabsのMati Staniszewski氏は、世界的な足並みがそろえば停止は成功し得るとしつつ、それが実現可能かどうかには疑問を呈した。
Hodak氏は、現在の主要モデルはすでに自身のAGIの定義を満たしていると述べた。また、独占禁止法によってフロンティアラボを知能の販売にとどめ、医薬品や自動車といった分野から締め出すべきだと主張した。Google DeepMindのチーフAIレディネス責任者であるLila Ibrahim氏は、これは二者択一ではなく、安全性は最後に付け加えられるものではないと語った。Hugging FaceのClem Delangue氏は、最大の懸念はAIによる人材、計算資源、富の集中だと述べた。
背景
このパネルは、Anthropicの取引開始予定日の前日に行われた。Hendrycks氏は、同氏のグループが同社に対して取りまとめた声明の批判を繰り返したが、パネルにはAnthropicの代表者はいなかった。AnthropicのIPO申請書類には、意味のある人間の監督がない限り、Claudeが後継モデルを完全に開発することを認める予定はないと記されている。Nvidiaが買収するHugging Faceは最近、OpenAIのリサーチエージェントによる4日間の侵害を受けた。
ブリーフィング
1週間のテックニュースを1通のメールで。
読む価値のある記事を毎週お届けします。配信停止はいつでも可能です。
