myfreax
ai

英国推出 Inspect AI 安全测试平台

英国推出 Inspect AI 安全测试平台,旨在唤起人们对AI 安全意识的重视,一方面也让人们拥有确保安全的 AI 评估工具

2 min read
By myfreax
英国推出 Inspect AI 安全测试平台
英国推出 Inspect AI 安全测试平台

一个多月前,英美政府签署合作备忘录,承诺共同努力推动 AI 安全的发展,并同意合作开发测试最先进的 AI 模型。10 日英国 AI 安全研究院(AI Safety Institute)宣布推出名为「Inspect」的一套深具里程碑意义的 AI 安全测试工具集。

「Inspect」可说是在英国政府辖下机构监督下的第一款对外公开使用的 AI 安全测试平台,测试人员(新创公司、学者和AI 开发人员)乃至各国政府都能借此评估个别 AI 模型的特定能力,该平台最后会根据结果生成一目了然的分数。

英国科技大臣 Michelle Donelan 表示,做为英国在 AI 安全方面持续领先的一部分,她已批准对外开源 AI 安全研究院新推出的 Inspect 测试平台。

去年 11 月在英国举行的 AI 安全峰会(AI Safety Summit)上,各国领导人探讨了在应对 AI 技术相关潜在风险方面发起全球合作的必要性,英美两国便是在这个基础下缔造了合作伙伴关系。两国还同意与其他国家结盟,以促进全世界的 AI 安全,并计划在公开模型上进行至少一次的联合测试,同时通过跨组织的人员交流探索来挖掘集体专业知识。

全球智能自动化公司 ABBYY AI 伦理倡导者 Andrew Pery 表示,颠覆性科技创新者倾向于采取「先上市再修正」的心态发布产品以获得先发优势。就以 OpenAI 为例,虽然该公司对 ChatGPT 的潜在风险有些透明,但他们在明知会对人们带来有害影响的情况下仍对外发布。

如今,Inspect 平台的发布即为推动 AI 安全的抛砖引玉之举,一方面为了唤起人们对AI 安全意识的重视,一方面也让人们拥有确保安全的 AI 评估工具。