亚马逊的新 AI 聊天机器人 Amazon Q 泄露机密数据、内部折扣计划等

一份关于Q的幻觉和错误答案的内部文件指出，“亚马逊Q可以产生幻觉并返回有害或不适当的反应。例如，Amazon Q 可能会返回过时的安全信息，这可能会使客户账户面临风险。本文档中概述的风险是大型语言模型的典型风险，所有这些模型至少在某些时候会返回不正确或不适当的响应。

亚马逊淡化了员工讨论的重要性，并声称没有发现任何安全问题。然而，泄露的文件引发了人们对 Q 准确性和安全性的担忧，Q 仍处于预览阶段，尚未普遍可用。一位发言人说：

由于该反馈，未发现任何安全问题。我们感谢已经收到的所有反馈，并将继续调整 Q，因为它从预览版产品过渡到正式发布。

Q 被定位为 ChatGPT 的企业级版本，旨在比消费级工具更安全。然而，内部文件强调了 Q 提供不准确或有害信息的风险。