事件经过
据TNW | Agi报道,周三,在《纽约时报》于纽约举办的DealBook峰会上,AI安全中心(Center for AI Safety)负责人Dan Hendrycks主张无限期暂停最大规模的前沿AI训练。Neuralink联合创始人、现任Science Corporation负责人的Max Hodak则反驳说,要监督这样的禁令,就必须对互联网进行全面监控。这场AGI主题的小组讨论由The Daily的Michael Barbaro主持。
Hendrycks表示,他的方案将豁免窄域系统,例如语音模型和DeepMind的AlphaFold。他说,各实验室仍可销售推理服务,并可利用这段时间提升模型的可靠性和安全性,修补越狱和后门漏洞。他说,自己曾倾向于制定针对具体技术的窄口径规则,但在企业多年抵制之后,转而采取了更为直接的做法。ElevenLabs的Mati Staniszewski表示,若能实现全球协调一致,暂停是可能成功的,但他怀疑这能否做到。
Hodak表示,当前领先的模型已经符合他对AGI的定义。他认为,反垄断法应当把前沿实验室限定在销售智能服务上,不让它们涉足药物和汽车等领域。Google DeepMind的首席AI准备官Lila Ibrahim表示,这并非非此即彼的选择,安全也不能等到最后才补上。Hugging Face的Clem Delangue则说,他最担心的是AI导致人才、算力和财富的集中。
背景
这场讨论举行的次日,Anthropic即将开始交易。Hendrycks重申了其所在组织发起的一份声明中针对该公司的批评,而Anthropic在小组中没有代表出席。Anthropic的IPO文件称,在缺乏有意义的人类监督的情况下,公司预计不会让Claude完全自主地开发其后继模型。Nvidia正在收购的Hugging Face近期曾遭遇OpenAI研究智能体长达四天的入侵。
简报
一封邮件,尽览一周科技要闻。
每周精选值得一读的报道。可随时退订。
