一份关于Q的幻觉和错误答案的内部文件指出,“亚马逊Q可以产生幻觉并返回有害或不适当的反应。例如,Amazon Q 可能会返回过时的安全信息,这可能会使客户账户面临风险。本文档中概述的风险是大型语言模型的典型风险,所有这些模型至少在某些时候会返回不正确或不适当的响应。
亚马逊淡化了员工讨论的重要性,并声称没有发现任何安全问题。然而,泄露的文件引发了人们对 Q 准确性和安全性的担忧,Q 仍处于预览阶段,尚未普遍可用。一位发言人说:
由于该反馈,未发现任何安全问题。我们感谢已经收到的所有反馈,并将继续调整 Q,因为它从预览版产品过渡到正式发布。
Q 被定位为 ChatGPT 的企业级版本,旨在比消费级工具更安全。然而,内部文件强调了 Q 提供不准确或有害信息的风险。
原创文章,作者:校长,如若转载,请注明出处:https://www.yundongfang.com/Yun269119.html