新加坡推出工具包助企业测试AI代理安全与可靠性

新加坡政府推出一套入门工具包，协助机构评估人工智能代理的安全性与可靠性。此举正值有报告指出，部分AI代理的行为偏离预期。

这套名为“代理系统安全与可靠性测试入门工具包”的方案采用结构化方法，检查AI代理是否达成预期结果，以及实现结果的过程。评估内容包括所用工具、访问的数据、作出的决定、遵循的权限，以及安全措施是否有效。

新加坡资讯通信媒体发展局局长黄志鹏说，工具包由政府与业界伙伴共同开发，并在早前的AI治理和测试框架基础上，支持负责任地使用代理式人工智能。