欧洲深度伪造审查之际，xAI 限制 Grok AI

xAI 在监管压力下限制 Grok 的图像生成功能

埃隆·马斯克的 xAI 在欧洲监管机构的强烈反对下，限制了其 Grok 聊天机器人的图像编辑功能。此前，该人工智能工具被发现生成了数千张女性和未成年人的性化深度伪造图像，这促使英国 Ofcom 等机构展开了正式调查。

情况概述

这场争议凸显了监管生成式人工智能的挑战。英国和欧盟的监管机构分别援引《在线安全法案》和《数字服务法案》，将这些图像定性为非法。作为回应，xAI 宣布已禁止用户在相关内容非法的司法管辖区创建穿着暴露人物的图像，尽管监管调查仍在继续。

监管和法律影响

这一事件凸显了人工智能开发者面临的严峻法律和合规风险。根据《英国在线安全法案》等法规，平台若未能阻止并迅速删除非法内容，可能面临高达其全球收入 10% 的罚款。人工智能生成的深度伪造内容的法律责任对于平台和用户来说仍然是一个复杂的问题。

总结

尽管 xAI 的举动是一个值得注意的回应，但监管机构已表示，打击有害人工智能生成内容的斗争远未结束。官员们继续呼吁加强执法，并表示愿意强化现有法律以应对深度伪造内容的扩散。

常见问题

问： xAI 为何对其 Grok 聊天机器人施加限制？
答： 该公司因英国和欧盟的监管压力而采取行动，此前该聊天机器人被用于创建露骨且未经同意的深度伪造图像。

问： 未能控制此类内容的平台可能面临哪些处罚？
答： 根据《英国在线安全法案》，严重违规可能导致公司面临高达其全球收入 10% 的罚款。

来源： 路透社，通过 Investing.com