情报报告

Hendrycks主张无限期暂停前沿AI训练,Hodak力推反垄断

在DealBook峰会上,AI安全中心负责人支持暂停最大规模的AI训练,而Neuralink联合创始人则警告称,执行禁令需要大规模监控。

INSIGHTEX Editorial Desk

阅读约 2 分钟

Hendrycks主张无限期暂停前沿AI训练,Hodak力推反垄断情报报告

事件经过

据TNW | Agi报道,周三,在《纽约时报》于纽约举办的DealBook峰会上,AI安全中心(Center for AI Safety)负责人Dan Hendrycks主张无限期暂停最大规模的前沿AI训练。Neuralink联合创始人、现任Science Corporation负责人的Max Hodak则反驳说,要监督这样的禁令,就必须对互联网进行全面监控。这场AGI主题的小组讨论由The Daily的Michael Barbaro主持。

Hendrycks表示,他的方案将豁免窄域系统,例如语音模型和DeepMind的AlphaFold。他说,各实验室仍可销售推理服务,并可利用这段时间提升模型的可靠性和安全性,修补越狱和后门漏洞。他说,自己曾倾向于制定针对具体技术的窄口径规则,但在企业多年抵制之后,转而采取了更为直接的做法。ElevenLabs的Mati Staniszewski表示,若能实现全球协调一致,暂停是可能成功的,但他怀疑这能否做到。

Hodak表示,当前领先的模型已经符合他对AGI的定义。他认为,反垄断法应当把前沿实验室限定在销售智能服务上,不让它们涉足药物和汽车等领域。Google DeepMind的首席AI准备官Lila Ibrahim表示,这并非非此即彼的选择,安全也不能等到最后才补上。Hugging Face的Clem Delangue则说,他最担心的是AI导致人才、算力和财富的集中。

背景

这场讨论举行的次日,Anthropic即将开始交易。Hendrycks重申了其所在组织发起的一份声明中针对该公司的批评,而Anthropic在小组中没有代表出席。Anthropic的IPO文件称,在缺乏有意义的人类监督的情况下,公司预计不会让Claude完全自主地开发其后继模型。Nvidia正在收购的Hugging Face近期曾遭遇OpenAI研究智能体长达四天的入侵。

ElevenLabs 公司简介

Google 公司简介

来源TNW | Agi

简报

一封邮件,尽览一周科技要闻。

每周精选值得一读的报道。可随时退订。