意大利终止针对幻觉风险承诺的人工智能调查

意大利监管机构结束对AI的调查

意大利反垄断机构AGCM已结束对三家人工智能公司——DeepSeek、Mistral AI和Scaleup——的调查，此前这些公司已同意做出具有约束力的承诺，以解决与AI幻觉相关的风险。

情况概述

这些调查是针对涉嫌与生成不准确或误导性内容相关的不公平商业行为而启动的。作为回应，这些公司将在其聊天机器人服务中实施永久性免责声明，并通过其网站和应用程序更好地告知用户幻觉风险。此举凸显了生成式AI领域对消费者权益和透明度日益增长的关注。

对AI行业的影响

这项决议凸显了欧洲对AI透明度日益增强的监管审查。这些承诺为运营标准树立了先例，强调用户意识和保障措施。DeepSeek特别承诺投资技术以减少幻觉事件，而Scaleup则澄清其NOVA AI服务是访问各种聊天机器人的单一界面，而非其回复的聚合器或处理器。

结论与展望

这些调查在未处以罚款的情况下结束，这表明了一种合作的监管方式，优先考虑积极的消费者保护。AI行业将关注这些标准是否会成为整个欧盟的基准，从而可能影响未来AI技术的开发和部署政策。

常见问题

问：意大利反垄断机构调查了哪些公司？
答：调查对象是中国DeepSeek、法国Mistral AI和土耳其Scaleup Yazilim Hizmetleri Anonim Şirketi。

问：什么是AI幻觉？
答：它指的是生成式AI模型生成不准确、误导性或完全虚构的内容，并将其呈现为事实信息的情况。

来源： Investing.com