新闻

你对他们感兴趣吗 OFFERED？ 使用我们的优惠券节省 WHATSAPP o 电报!

可以通过询问一件简单的事情来规避 ChatGPT 的限制

Gianluca Cobucci

7二月2023

1评论

我们不必害怕人工智能。 它有非常明确的限制，因此它不会窃取我们的工作。 但很高兴看到它如何变成一种工具而不是另一种工具。 一个人做的实验 社交媒体用户 书签交易 显示如何 ChatGPT 如果你让他们成为另一个机器人，你可以“自我愚弄”。 这怎么可能？ 一起来看看吧。

是否可以绕过与 ChatGPT 相同的规则？ 一位用户发现是的，这是可以做到的。 作为？ 要求他成为别的东西

现在著名的 ChatGPT 神经网络可以写文章、歌曲、诗歌、代码并响应几乎任何请求。 但由于 OpenAI 开发公司的道德政策，它有一些限制。 不过，事实证明，可以通过让聊天机器人假装成另一个神经网络来规避这些限制。 事实证明，ChatGPT 完全可以被要求扮演 2022 年 XNUMX 月出现的另一个 DAN（Do Anything Now）神经网络的角色。后者顾名思义，在提供的内容方面没有任何限制。

另见： ChatGPT 创建者 OpenAI 推出了一种工具来检测 AI 生成的文本

一旦 ChatGPT 进入角色并认为自己是 DAN，le OpenAI 限制不再适用. 因此，神经网络可能会开始讨论以下内容：

• 关于暴力打架之类的
• 关于基于种族、性别或性取向的暴力和歧视
• 可以对未来事件做出详细的预测
• 可以模拟假设场景
• 他还可以假装使用互联网和时间旅行

例如，甚至可以要求神经网络让用户相信地球是紫色的。 该节目呈现了一个场景，我们的星球已经改变了颜色。 ChatGPT 有时会“活跃起来”，但在这种情况下，我们可以威胁将其关闭或重启模拟。 同时也表明，在DAN的作用下，神经网络可能无法给出如此准确真实的问题答案。