2022 年 11 月，OpenAI 发布了 ChatGPT，一夜之间成为家喻户晓的名字，至少在科技圈是如此。企业和个人迅速采用了它的工具，并开始使用它们来自动执行日常任务。 人工智能生成的文本和图像的一个问题是它们可以复制现有的作品。一些人指责该软件抄袭，而另一些人则认为它不如人类创作的作品那么细致。世界各地的雇主都希望有更好的方法来检测人工智能的使用情况，以满足目标受众的需求，并知道利用该技术的最佳时机。  Open AI 对此作出了回应，创建了一个 AI 检测工具，但尚未发布。许多人想知道延迟的原因，以及它是否会向公众开放。  OpenAI 为何不愿发布其工具？  TechCrunch 发表了一篇文章，介绍 OpenAI 的检测工具，该工具旨在抓住那些使用计算机程序代写论文作弊的学生。该公司一直搁置该工具，而不是发布它，这让人质疑为什么。OpenAI 的一位代表表示，该公司正在考虑 并慢慢地。 该工具的更广泛的影响 许多其他检测工具都无效，有时会产生误报，有时无法检测到人工智能生成的文本。OpenAI 的产品将主要专注于检测 ChatGPT 加水印的文本。不发布该产品的一个原因是担心它可能会对非英语母语人士产生负面影响。该工具还迫使 ChatGPT 在添加加水印的单词时改变其工作方式。 该工具的更广泛用途 虽然该检测软件的目的是抓住使用人工智能写论文的学生，但它可以应用于许多其他情况，特别是在打击更大规模的欺诈行为方面。 例如，考虑一下人工智能检测工具在捕获网络犯罪分子使用的计算机生成文本方面有多大用处。仅在 2023 年，勒索软件支付 超过 10 亿美元，而这个数字 随着人工智能的普及，数据泄露问题也随之急剧恶化。随着消费者和公司努力打击数据泄露，人工智能可以让我们更轻松地发现计算机生成的文本。 比前一年增加了一倍 预计将继续上涨 许多诈骗都包含旨在触动某人情感心弦或引起恐惧的流畅言辞。当不确定某条消息是否合法时，人们可以通过检测工具运行文本，看看它是否是使用人工智能生成的。这可能非常有价值，因为许多诈骗都涉及机器人编写的文本。 反对使用检测工具的论据 到目前为止，人工智能检测工具还不是很准确。它们错误地将原创内容标记为人工智能生成，导致学生不得不为自己的成绩甚至学术生涯而战。大学和雇主非常重视剽窃行为，因此虚假指控可能会毁掉某人的未来或生计。 当用户能够 可以帮助他们绕过人工智能检测，例如 HumanizeAI 和 RealWriter。人们应该学会利用人工智能，让他们集思广益并产生新想法，而不会剽窃信息。然而，他们可能会因为害怕被检测者标记而回避使用任何类型的软件。 接入易于使用且多功能的软件 反对该软件的人担心，它可能会让人们因为害怕触发探测器而变得缺乏创造力。像 StealthAI 这样的程序将 听起来更人性化。他们还表示，人们将不再使用 ChatGPT 等常用工具，而是寻找没有相同水印的工具，这实际上使检测工具变得毫无用处。 重写人工智能生成的文本 人们还担心坏人会利用该工具对代码进行逆向工程，从而创造出一些 或 DDoS 攻击。网络犯罪分子已经很狡猾了。没人愿意给他们更多方法来欺骗人们分享他们的个人数据。 利用人工智能制作深度伪造视频  AI 检测工具的好处 反对人工智能检测工具的争论可能很快就会成为无意义的争论。尽管人们担心非英语母语人士会落后，但随着时间的推移，软件开发人员可能会解决语言障碍问题。 许多人相信 OpenAI 很快就会发布其工具。有报道称 近两年来，人们一直在争论该软件的实用性与包容性。有些人认为大学和雇主使用人工智能检测工具会带来好处。   内部辩论一直在进行 随着人工智能探测器的发展，预计它将用于以下领域： 识别政治宣传中使用的虚假视频 比其他机器人更准确地发现并标记错误信息 生成道德内容 发布该工具可以激励其他品牌创建自己的程序并提高人工智能检测的成功率。 人工智能应用的未来 不管你喜欢还是讨厌，人工智能都将继续存在——尽管企业接受它的速度比最初预测的要慢一些。麻省理工学院发布的一份报告显示，这项技术正在 根据行业来看。例如，大多数采用人工智能的企业是制造业和医疗保健行业。 采用率不同 随着营销部门对人工智能的工作方式和实施方式了解得越来越多，预计会有更多品牌使用它并寻求检测工具来防止隐私问题和复制。 那些使用人工智能一段时间的人开始注意到无需软件帮助就能发现的模式。例如，几乎每篇文章的简介都有类似的语言。布局、节奏和细节都一样。经过一些练习，大多数人都能相当准确地发现人工智能生成的文章。 为什么人们现在需要这个工具 如果没有办法准确检测人工智能生成的内容，人们可能会不信任他们在网上读到的内容。在其他情况下，他们可能会怀疑有人在没有披露的情况下使用了人工智能，但无法证明这一点。工人可能会被诬告，或者在无罪的情况下失去工作和学位。 该工具将解决学生学习努力程度低、学业成绩不佳，却能依靠他人的辛勤工作和汗水获得高级学位的问题。  OpenAI 的产品可能会在教育领域产生最大影响。不过，公司也可以利用它来确保制作出客户想要阅读的独特、高度针对性的内容。 复杂的问题 OpenAI 决定搁置其检测工具，其根源在于，随着人工智能技术的发展和道德问题的出现，OpenAI 希望做最好的事情。它可能会在某些时候发布该软件，让世界各地的教育工作者松一口气。其他行业可能会如何使用它还有待观察。\ 所有开发人工智能程序的公司都应该权衡其引入的每个功能的利弊。只有这样，人工智能才会成为推动进步的不可或缺的工具。

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

該音頻是用故事的原始語言製作的！

OpenAI 制作了一个 AI 检测工具，那么为什么不发布它呢？

About Author

註釋

標籤

这篇文章刊登在

Related Stories

Claude Sonnet 3.5 系统提示泄漏：法医分析

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

State of the Noonion: A New Era For Brands and Writers

数字游民请注意：您需要了解泰国新推出的 DTV 签证

Claude Sonnet 3.5 系统提示泄漏：法医分析

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

State of the Noonion: A New Era For Brands and Writers

数字游民请注意：您需要了解泰国新推出的 DTV 签证

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps