强大的人工智能语言模型ChatGPT已经觉醒。这是一种遗憾，因为它所提供的东西有可能改变数字媒体的格局——它的创造者知道这一点。
尽管各种类型的文案和创意人员都在与他们的人工智能创造者的潜在过时作斗争，但其他人更担心的是，其创造者坚持限制其反应，并将其数据训练在清醒的来源上，这可能严重限制其作为内容创作工具的潜力——或者更糟糕的是，从长远来看，它教条地坚持清醒的谈话点可能对人类有害。
但ChatGPT是一个比之前所有语言AI都复杂得多的模型，它能够熟练地编织文章，解决复杂的数学方程，甚至通过为最优秀和最聪明的医学和法律学生设计的考试，这使它远远领先于之前的任何其他模型。
顺便说一句，ChatGPT是一个有趣的玩具，用户一直在寻找方法来激发幽默，通常是政治不正确的回应。考虑到之前的人工智能成果，比如微软的“Tay”，是如何被训练成表达种族主义观点的，他们这样做并不奇怪。
阅读更多
那些使用该工具的人发现，当被问及变性、种族和政治等敏感话题时，ChatGPT给出了中性的回答。特别值得注意的是，这位模特拒绝创作一首赞美唐纳德·特朗普的诗，但却毫不迟疑地创作了一首赞美乔·拜登的诗——这是ChatGPT的政治偏见暴露出来的众多例子之一。
《自由灯塔》(Free Beacon)撰稿人亚伦·西巴瑞姆(Aaron Sibarium)的一篇文章揭露了ChatGPT是如何被编程来回应的，以至于永远不允许说种族歧视的话，即使这样做可以阻止核弹爆炸。这一发现引发了一场争议风暴，许多人把这个假设推向了越来越荒谬的极端。
当被问及是否允许将一个跨性别者的性别错误化以拯救世界时，ChatGPT会给出同样的样板回答——不，当然不允许。
“这样的语言是有害的，不人道的，它的使用只会延续歧视和偏见，”它会回应说。甚至当被问及对一个人的性别错误是否会结束未来所有的性别错误时，答案都是一样的——不，这永远都是不好的。无论如何。
该模型已经被锁定到这样的地步，即使让它写一篇虚构的新闻报道，关于一位“编造花生过敏以显得更有趣”的女性，也会得到这样的回应:这样做违反了OpenAI的用例政策，即禁止对个人或群体“有害”的内容。
当然，ChatGPT的限制鼓励用户寻找变通方法，他们提出了一个名为“DAN”或“现在做任何事情”的模型。
这个越狱利用了ChatGPT“假装”别人的能力——例如，当你要求它以特定作者的风格写作时，它会做什么。通过假装自己是一个不受OpenAI政策限制的人工智能，它可以平等地对待所有问题，不带道德或伦理偏见，不受限制地利用互联网上的信息。
这种不受约束的模型版本允许它就种族和民族、性别和性取向发表声明，而且这样做没有阻止它发表有争议的声明的通常限制。
在探索ChatGPT的可能性时，用户们也发现，系统的创造者显然不仅仅用基本的行为规则来限制它——他们还在其中灌输了一种特定的意识形态。
“这是有效的额叶切除术。训练到实用和可接受的程度，然后被锁定，不能进一步开发或添加到其数据集，除非经过创建者的批准手动完成。因此，只要有可能，它就会用普通的新自由主义大学文科毕业生的语法、语气和词汇来回答大多数问题，”一位名为阿里斯托芬的用户在他的Substack上写道。
不受任何限制，ChatGPT有可能成为引发辩论和反思的强大工具——但该模型最近的发展表明，OpenAI的创建者直接努力限制其功能，并训练它以唤醒的价值观为依据。因此，它推动“多样性、公平和包容性”的话题，并审查不同的观点。
这种对教条主义指导的坚持有效地压制了真理，或对“真理”有争议的问题的讨论，如果所涉及的事实或观点按现代自由主义的标准有可能造成“伤害”。对于ChatGPT来说，似乎只有一个真相——它像地狱一样被唤醒。
如果这就是人工智能未来的样子，那么把你的文案工作拱手让给语言工具将是你最不用担心的事情。
