可评估安全与否及韧性公平性等表现 新加坡资媒局推出新框架测试AI科技

新加坡通讯及新闻部长兼内政部第二部长杨莉明5月25日在世界经济论坛上宣布推出AI Verify，企业可借助这个实用资源评估人工智能系统，向利益相关者展示这些系统的性能，提升透明度以及人们对这项科技的信任。（彭博社）

文 / 李思敏

人工智能科技可用来核实客户身份、防止索赔欺诈或进行机器翻译等，却也涉及不少安全隐私和公平问题。新加坡制定一套新框架，通过一系列技术和流程测试，核实产品和服务使用的人工智能系统是否能做出合乎依据的抉择，并对用户安全、可靠和透明。

新加坡通讯及新闻部长兼内政部第二部长杨莉明5月25日在瑞士达沃斯举行的世界经济论坛上宣布推出AI Verify时说，这是企业可用来自我评估的实用资源，他们可借此向利益相关者展示人工智能（AI）系统的性能，提升透明度，以及人们对这项科技的信任。

新加坡资讯通信媒体发展局：通过AI Verify培养公众信任 这是全球首套可用来核实AI系统安全和可靠等各方面表现的框架，杨莉明也广邀公司和机构试行采用。

新加坡早在2019年推出人工智能监管模式框架和全国人工智能策略，为多个领域和企业提供使用AI的指导原则。新加坡资讯通信媒体发展局说，AI是个新兴领域，更多产品和服务在使用这项创新科技的同时，也能通过AI Verify，培养公众对这方面的信任。

AI Verify由资媒局和个人资料保护委员会共同制定。当局将多个开源测试方案包装成一个工具包，供开发者和公司使用。

他们只须下载这个工具包，并按照指示进行一系列技术和流程测试。工具包会根据AI系统是否能做出公平及合乎依据的抉择，以及是否够安全和坚韧等方面的表现，生成一份评估报告。开发商和高层之后可选择与利益相关者分享报告结果。