最近， 亚马逊推出 其人工智能聊天机器人 Amazon Q 引起了公司的兴趣，但也引起了员工对严重准确性和隐私问题的担忧。 据报道，Q 有“幻觉不 poco 故事”并披露了机密数据，引发了对公司信息安全的质疑。 以下是披露的详细信息 一些成熟.
Amazon Q 的安全警报：机密数据和错误答案之间
Amazon 介绍 三天前，它的人工智能聊天机器人 Q 上线了，但似乎并非一切都按计划进行。 一些员工对准确性和隐私问题发出了警报：Amazon Q 会表现出“幻觉”并透露 信息 机密的，例如 AWS 数据中心的位置、内部折扣计划以及尚未发布的功能。
这些信息来自于泄露并获得的文件 一些成熟，突出显示 2级安全问题，情况严重，需要工程师紧急干预。
尽管如此，亚马逊还是淡化了这些内部讨论的重要性。 一位发言人表示，分享 通过内部渠道反馈 这是亚马逊的标准做法，并且此反馈没有发现任何安全问题。 该公司强调了收到的反馈的重要性以及继续下去的愿望 随着 Amazon Q 从预览版过渡到正式版，不断完善它.
Amazon Q 目前提供免费预览版，作为 企业软件版本 聊天机器人的初始功能旨在回答开发人员有关 AWS 的问题、修改源代码和引用来源。 亚马逊强调 Q 的安全性和隐私性，并将其与 ChatGPT 等消费级工具进行对比。
然而，一份内部文件显示，Q 可以“产生幻觉”并提供有害或不适当的反应，例如 过时的安全信息 这可能会使客户帐户面临风险。 这些风险是大型语言模型的典型风险，所有这些风险都倾向于至少在某些情况下提供不正确或不适当的响应。
威盛| Slashdot的
