事件经过
据TNW | Microsoft报道,微软首席执行官萨提亚·纳德拉(Satya Nadella)表示,他预计软件宕机将会增多,因为AI工具发现安全弱点的速度已经超过企业能够安全修复的速度。周三,在由《纽约时报》主办的DealBook峰会上,他在纽约与安德鲁·罗斯·索尔金(Andrew Ross Sorkin)对谈时,就Outlook宕机事件致歉,并称该事件与这一趋势没有直接关联。随后在CNBC的节目中,他对吉姆·克莱默(Jim Cramer)表示,微软本应做更多测试,并在故障扩散到全球之前将其隔离。
纳德拉说,过去针对关键银行系统的修复通常要经过大约一周的测试。如今攻击者一旦发现弱点就会立即加以利用,因此补丁被直接推送到生产环境,从而带来不稳定。他指出,在他发表讲话的当天就收到了三个关键的开源补丁。他还表示,AI模型让几乎任何人都能像具备国家级能力的持续性攻击者一样行动。
在AI安全方面,纳德拉表示,规模扩张已经带来了成果,但对齐和可靠的模型调试并未随之实现。他提出了他所称的信任架构:禁止模型使用人类无法读懂的速记式方式进行推理,并要求保留不可篡改的推理记录,供其他模型核查。他说,目前部署方要为其AI系统的行为承担责任,他预计保险公司将为这种风险敞口定价,并要求查看日志。
背景
微软持有OpenAI和Anthropic的股份。纳德拉表示,根据与OpenAI的协议,微软到2032年可以无需支付版税使用前沿模型。他说,这使微软能够开发自己的MAI模型,这些模型落后于最前沿水平三到六个月,而所需算力仅为其5%到20%。微软还向6万名员工提供了买断方案,其Cowork智能体由一个11人的开发团队打造。
简报
一封邮件,尽览一周科技要闻。
每周精选值得一读的报道。可随时退订。
