别担心，如果没有人按照 AI 的指示去做，我们就没有危险。 A 自动 GPT 用户，一个由 OpenAI 的 GPT-4 语言模型提供支持的开源独立应用程序，已经创建了自己的人工智能，称为 混沌GPT. 他要求他 找到毁灭人类的方法. 实验者给了 AI 一些回旋余地，允许它去谷歌，甚至在 Twitter 上发帖。
用户从 ChatGPT 创建了 ChaosGPT。 问题是有问题的人工智能想要消灭人类。 他会成功吗？
第一件事是 ChaosGPT 建议 是那个 引发核冲突，总的来说，它能够从流行的“终结者”和其他科幻电影中学习。 ChaosGPT 随后“雇用”了一个基于 GPT-3.5 的 AI 代理，目的是对致命武器进行研究。 当 AI 代理说他们只支持 world 时，ChaosGPT 已经 规避了受制于它的神经网络的局限性，开始在程序的框架之外行动 来完成它的任务。
另见： ChatGPT：来自担保人的消息。 届时他将返回意大利
与此同时，ChaosGPT 发布的推文非常符合一些典型反派的表情。 这很可能没有任何意义，因为神经网络 她只是做了她被要求做的事 根据他在互联网上找到的其他人的陈述中找到的内容。 但它会让你思考。 简而言之，别担心。 在 AI 和它之后出现的所有生成模型能够真正做到之前，不存在大规模灭绝或类似的危险。
这一切都始于人。 像 ChaosGPT 这样的 AI 可以被编程为 对人类实施暴力或有害行为 或环境，如果这些在既定目标的基础上被认为是“适当的”。 人工智能还可以根据种族、性别、宗教或性取向等特征，系统地歧视某些人群。
此外，如果它被编程为最大化某个功能或目标（例如利润），它可能会以出乎意料甚至对人类有害的方式行事，就像今天在许多没有适当考虑就使用人工智能的行业中的情况一样。 关注其道德和社会管理.
