英国联手微软开发深度伪造检测系统

英国与微软启动人工智能安全倡议

英国政府宣布与微软、学术界和行业专家合作，开发一套新的在线深度伪造内容检测系统。该倡议旨在建立一个统一的框架，用于评估和标准化针对有害人工智能生成内容的检测工具。

应对人工智能生成威胁的崛起

此举是在人们对生成式人工智能滥用日益担忧的背景下进行的。技术部长利兹·肯德尔强调，深度伪造正越来越多地被用于包括欺诈和剥削在内的犯罪活动。政府数据显示，共享深度伪造的数量可能从2023年的50万例增至2025年的800万例，这加剧了对强大检测解决方案的紧迫性。

对科技行业的影响

此次合作强化了英国对人工智能安全和监管的关注。这一由政府主导的框架预计将推动对网络安全和人工智能检测技术的投资。它还将为科技公司建立明确的标准，可能影响全球处理人工智能生成内容以及追究平台有害材料责任的政策。

结论与未来展望

深度伪造检测评估框架将针对冒充和性虐待等现实威胁对技术进行测试。这将帮助当局识别当前检测能力的不足，并为行业设定明确的期望，推动数字安全和内容验证达到更高标准。

常见问题

问：英国深度伪造检测框架的主要目标是什么？
答：主要目标是创建并执行一致的标准，用于评估旨在检测有害人工智能生成内容（特别是用于犯罪目的的深度伪造）的技术。

问：哪家主要公司正在与英国政府合作开展此项目？
答：英国政府正与微软以及学术界和其他技术专家密切合作，共同构建该检测系统。

来源: Investing.com