IT 之家 12 月 4 日音讯，亚马逊云科技（AWS）发布了一款新器用开云体育(中国)官方网站，旨在惩办 AI 模子产生的幻觉问题。

IT 之家提防到，在拉斯维加斯举办的 re:Invent 2024 大会上，AWS 推出了"自动推理查验"（Automated Reasoning checks）器用，该器用通过交叉援用客户提供的信息来考证模子的反馈准确性。

AWS 宣称，这是"第一个"亦然"惟一"的针对幻觉的着重法子。关联词，这种说法可能不够准确。微软本年夏天推出的"改变"功能与"自动推理查验"险些相通，王人不错秀气可能存在事及时弊的 AI 生成文本。谷歌的 Vertex AI 平台也提供了一个器用，允许客户通过使用第三方提供商的数据、我方的数据集或谷歌搜索来使模子的回应更可靠。

"自动推理查验"通过 AWS 的 Bedrock 模子托管工作（零散是 Guardrails 器用）提供，试图弄明晰模子是何如得出谜底的，并判断谜底是否正确。客户上传信息以确立一种事实基础，然后"自动推理查验"创建规则，这些规则不错被优化并应用于模子。

当模子生成回适时，"自动推理查验"会考证它们，并在可能出现幻觉时，哄骗事实基础得出正确谜底。其会将这个谜底与可能的时弊谜底沿路呈现，以便客户不错看到模子偏离正确谜底的经由。

AWS 泄漏，普华永谈如故驱动使用"自动推理查验"为其客户野心 AI 助手。AWS 的 AI 和数据副总裁 Swami Sivasubramanian 默示，这种类型的器用恰是眩惑客户使用 Bedrock 的原因。

但据 Techcrunch 报谈，一位巨匠本年夏天称，试图摒除生成式 AI 的幻觉就像试图从水中摒除氢相似。AI 模子之是以会产生幻觉，是因为它们实质上并"不知谈"任何东西。它们是统计系统，通过识别一系列数据中的时势，并笔据之前看到的例子展望下一个数据是什么。因此，模子的反馈不是谜底，而是对问题应该何如回应的展望 —— 在一定的舛误边界内。

AWS 宣称"自动推理查验"使用"逻辑准确"和"可考证的推理"来得出论断开云体育(中国)官方网站，但该公司莫得提供任何数据来解说该器用的可靠性。