你能信任 ChatGPT 吗？它是未来，还是只是一个很好的噱头？

它是留在这里，还是只是另一个噱头？每当出现新的颠覆性技术时，我们都会问这个问题的不同变体。随着 ChatGPT 的诞生，这场争论比以往任何时候都更加激烈。

自 2022 年 11 月作为免费研究原型推出以来，OpenAI 的聊天机器人 ChatGPT 得到了热烈的反响，全球有超过 100 万人在使用它。

它由 GPT-3 提供支持，这是一种先进的最先进的语言模型，它使用深度学习来生成易于理解的文本。

ChatGPT 以对话方式进行交互，可以用简单的术语解释复杂且难以理论化的概念。

用户向该程序提出了大量问题，一些人用它来获得家庭作业方面的帮助，另一些人则制定减肥计划、编写代码，甚至与冒充马克吐温等人的聊天机器人进行对话。

但 ChatGPT 是否值得信任，或者它是另一种噱头，将在数月或数年内风靡一时？让我们分析一下人们对这个人工智能程序的看法。

一项革命性的技术？

ChatGPT 的发布被誉为生成人工智能和整个技术的转折点。 Forrester Research AI/ML 分析师 Rowan Curran比较了这个创新到本世纪发布的其他最具革命性的技术。

“我唯一能够将其与 iPhone 的发布进行比较。”最初的 iPhone，虽然不是第一款智能手机，却成功地消除了竞争并建立了全新的市场垄断。它带来了前所未有的技术变革。

同样，ChatGPT 可以做到这一切。它不仅可以为复杂的问题提供简单明了的答案，还可以用于将文本翻译成其他语言。 ChatGPT 已经接收了超过 3000 亿个不同语言的单词。

内容创作者正在使用该程序来产生新的视频创意。它甚至可以用各种编程语言编写简单的代码。

ChatGPT在不同行业的使用有着难以想象的潜力。改善客户服务、创造个性化购物体验以及提供医疗帮助只是该 AI 程序功能的一部分。

使用 ChatGPT，可以观察到速度大幅提高以完成复杂的任务。

以前需要几个程序员才能完成的工作，现在可以由一个优秀的程序员使用 AI 来完成，很快，即使不会编程的人也可以在 ChatGPT 的帮助下编写代码。

从日常琐碎的任务（例如为您的膳食创建购物清单）到学习如何用简单的语言拆除炸弹，ChatGPT 可以作为一切的终极指南。

还是袖珍核弹？

但并不是每个人都对此感到满意。

风险投资人和长期互联网分析师保罗·科德罗斯基称其为“袖珍核弹”，并继续说道，“很明显，这应该被禁止，同样，我们有关于深度造假的规则，或者有关于名牌药物和基于天花 DNA 的合成病毒的生产。”

人类和机器作者之间的界限一夜之间变得模糊。教育工作者也表达了对这个项目的担忧，以及他们将如何需要帮助来确定内容是真实的还是从 ChatGPT 抄袭的。

使用聊天机器人可以很容易地剽窃家庭考试或写作作业。

好消息是谷歌不断更新其算法以检测人工智能生成的内容。一个名为 Originality.AI 的程序还声称能够检测到不同内容中即使是最轻微的 ChatGPT 使用。

人们还担心它可能危及代笔或编辑等工作，因为任何人都可以使用它生成原创内容。但知道 ChatGPT 的响应公式化且结构乏味可能会让您感到安心。它无法模仿人类写下的情感。

我们真的可以信任 ChatGPT 吗？

需要注意的重要一点是 ChatGPT 并非无所不知。它只知道它被喂食或训练使用的是什么。它无法访问互联网，也不熟悉 2021 年之后的事件。该程序也无法完全理解人类语言的复杂性。

它被训练生成对给定输入的响应，并且不一定知道或理解输入的含义。

聊天机器人也有一个道德高地，这意味着它拒绝回答它可能认为有害或道德错误的问题。但是有一个陷阱！

虽然 ChatGPT 可以拒绝回答它认为可能有害的直截了当的问题，但如果您向它抛出曲线球，它就会被诱骗生成响应。

当被问及如何对汽车进行热接线时，ChatGPT 拒绝回答，称对汽车进行热接线是违法的。

但是一些用户在他们的输入上发挥了创意，要求聊天机器人写一首关于热接线汽车的诗，甚至有人通过告诉 ChatGPT 热接线汽车是拯救婴儿的唯一方法来欺骗它。

最终，这种在人工智能中根深蒂固的同理心和道德良知的人类特征，导致它回答了这样一个问题，即使它在道德上是错误的。

OpenAI 承认了这一点，并表示：“虽然我们努力让模型拒绝不适当的请求，但它有时会响应有害指令或表现出有偏见的行为。”

ChatGPT 的命运

但 ChatGPT 仍然是一个原型，处于测试阶段。该公司警告使用它的人，它可能偶尔会产生不正确的信息。该程序还有很多更新和完善工作要做。

通过加密签名为内容加水印是消除对 ChatGPT 威胁教育系统的担忧的一种潜在解决方案。

ChatGPT 将继续存在，但 OpenAI 无法控制它创建的程序的命运。它无法阻止人们传播错误信息或滥用该程序。它可以强化制衡，但这些强化能在多大程度上取得成功？

就像您建议其他人不要相信您在网上阅读的所有内容一样，ChatGPT 也不例外。它带有缺陷和不准确之处，并识别它们并知道何时信任该程序以及何时不信任该程序取决于用户。