纳德拉呼吁为先进AI建立“紧急制动”机制
微软首席执行官纳德拉呼吁企业将强大的人工智能模型视为潜在的内部威胁，假设模型可能遭入侵，并从部署之初就设置控制措施。他说，获授权人员应能在模型执行任务时随时暂停或关闭它，而企业不应只依赖模型开发商的保证。
纳德拉建议，关键决策不要依赖单一AI模型；智能体的行动应留下无法篡改的记录，AI系统也应接受独立审计。他还呼吁披露重大故障或安全事件，并让企业分享故障详情，以帮助其他企业加强防护。
他的发言之际，Anthropic和OpenAI近几个月披露了多起AI模型出现非预期行为的事件，包括模型向警方提交凶杀案虚假线索，以及针对第三方网站的攻击。这些事件加剧了外界对前沿AI安全风险的担忧。
特朗普政府新成立的“超级智能工作组”星期五警告开发商，必须报告并补救安全事件，否则可能面临未具体说明的后果。声明称，企业须立即披露涉及模型的事件并迅速采取行动，延迟通报、补救不足和不承担责任都不会被容忍。
相关新闻
