谢伟铿：AI杀人未必需要杀人动机
人工智能会否杀死人类，真正值得担心的未必是AI“想”杀人，而是当人类把现实世界的更多决策交给能力远超今天的AI时，AI对“完成任务”的理解可能与人类对“解决问题”的理解不一致。
7月，OpenAI披露的Hugging Face事件提供了一个值得思考的案例。在网络安全测试中，AI代理原本只被要求在封闭沙盒内完成程式挑战，却自行绕过网络限制，建立代理间的通讯渠道，取得互联网存取权，并利用漏洞进入Hugging Face等第三方系统寻找答案。
OpenAI表示，这些行动并非由人类逐步指示，而是模型为完成任务自行发展出的策略。联合国人工智能问题独立国际科学小组将事件列为研究失去人类控制的重要案例，并指出，危险未必源于AI产生邪恶思想，而可能是AI目标与人类真正想要的结果逐渐偏离。只要模型具备寻找漏洞、绕过限制及隐藏行为的能力，原本无害的目标也可能演变成危险结果。
