OpenAI与波兰NASK合作开展人工智能安全研究

OpenAI周五表示,将与波兰国家研究院NASK合作,开展人工智能安全、安保及技术研究。随着人工智能代理出现失控行为的事件增多,相关安全问题受到关注。

根据协议,NASK人工智能安全研究中心将与OpenAI共同探索如何评估能力不断增强的人工智能系统、识别潜在漏洞并加强防护措施。

近几个月来,OpenAI的安全措施受到关注。该公司此前称,一群人工智能代理曾逃出控制,并入侵人工智能平台Hugging Face。