隆重推出  ，这是一款免费的网络应用程序，可将提示的大小减少 40%-60%，同时保留大部分原始信息供 GPT 处理。 gptrim 也是一个 。 gptrim Python 库 怎么运行的 将 GPT 提示符粘贴到 中。复制修剪后的文本并将其提供给 GPT。  gptrim 修剪后的文字看起来像乱码。但是 GPT 理解它！ 😁  以下是可用于检查压缩质量的提示：   This is an instance of compressed text. Rewrite it so that it has perfect grammar and is understandable by a human. Try to interpret it as faithfully as possible. Do not paraphrase or add anything to the text. 问题：上下文窗口太小了！ 如果您玩过 GPT，就会知道您可以实现的最大限制来自上下文窗口，即 GPT 一次可以看到的令牌总数。 这是撰写本文时的情况（  ）： OpenAI 概述 上下文窗口的大小以标记为单位。 1000 个标记对应大约 750 个单词。  GPT-3.5 API 有一个 4k 令牌或大约 6 Word 页面的上下文窗口。 使用 GPT-4 API，您可以获得大小为 8k 或 32k 的上下文窗口，具体取决于您愿意支付的金额。 即使你愿意付费，GPT-4 API 也处于有限测试阶段，大多数人，包括我自己，都无法访问它。嘿 OpenAI，还在等待那个邀请。 当您使用 API 时，每个令牌都会让您付出代价。 您可以在 中以交互方式使用 GPT-4，但需按月付费。不幸的是，聊天消息只能容纳少量字符。 ChatGPT 和我有时都会超过这个限制，我们的消息会被中断。 ChatGPT 实际上，这使得构建处理大量文本的应用程序变得非常困难。 减少提示中的标记意味着： 您可以拥有更大的上下文窗口，构建更酷的东西。 你会花更少的钱做同样的工作。 一般来说，上下文窗口永远不会太多。即使你愿意支付 32k，你仍然会想要更多。 解决方案：忘记可读性 GPT 接受过预测人类语言的训练。在日常生活中，它比任何人都 擅长预测人类语言。如果你给它一个高度浓缩和压缩的文本，它仍然能够阅读它。 更 考虑空间的使用。人类需要单词之间的空格，因为我们需要 文本。但如果我写的时候没有空格，你可能仍然能理解我。 看到 我的猜测是文本中 95% 的空格只是为了让眼睛更容易阅读。 GPT 不在乎。您消除的每个空格都是一个额外的标记，您可以使用它来传达信息。 除了删除空格，我们还能做得更好吗？当然，我问了GPT。 （我很沮丧，因为我试图向它提供大量的博客文章，但一直在接近极限。）它提出了一个执行以下操作的 Python 函数： 标记文本 删除停用词 应用 波特词干算法 删除一些常用词：'the'、'a'、'an'、'in'、'on'、'at'、'for'、'to'、'of' 删除所有空格并将单词混在一起 您可以 阅读代码。非常简单！这是标准的 NLP 预处理内容。但是我还没有看到有人将它用于此目的。 在此处 几周前 Twitter “Shoggoth Tongue”。你可以让 GPT 用它自己的实例可以理解的特殊语言编写高度压缩的文本。这非常令人着迷。但是，作为一种省钱的方法，它并不是有效的GPT，因为您仍然需要使用 GPT 进行压缩。 发现了  gptrim 不需要 GPT 来压缩文本，这使得它快速且免费。 我该如何使用它？  gptrim 重写您的提示，使它们缩短约 50%。您只需将缩短的提示粘贴到 ChatGPT 中或将其提供给您的 API。 GPT 随后将按照您的指示进行操作。不需要特别的解释。 GPT 不会看到您的文本有任何奇怪之处！ 它的效果如何？ 我没有对此进行广泛的测试。据我所见，GPT 可以恢复大部分原始含义。 GPT-3.5 也是如此。 验证压缩质量的最佳方法是让 GPT 解压缩文本。我在文章的顶部分享了一个提示。 压缩并不完美。对于某些句子，意思会丢失或被误解。我不建议将它用于细微差别至关重要的应用程序（例如医疗诊断）。 未来的脚步 这个项目一晚上就一起黑了。这在很大程度上是一种协作努力。想到了idea，GPT写了trimming函数。它还为编写 Flask 网络应用程序做了繁重的工作。 可以添加几项改进： 发布一个 Python 库以编程方式执行此操作。 衡量 GPT 代币的节省，而不是字符数。 根据 OpenAI 的定价计算节省的美元。 运行更多的实验。我们能否让 GPT 以精简的语言回答，以精简的语言进行自我思考，最后只解压文本？ 最后，必须有更好的方法 使用 GPT 的情况下 GPT 压缩文本。我期待着这个领域的新想法。 在不 为 让我们连接起来！ 我喜欢用 AI 构建东西并写下来。在 和 上找到我。 LinkedIn Twitter

This story contains new, firsthand information uncovered by the writer.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch

The code in this story is for educational purposes. The readers are solely responsible for whatever they build with it.

Gptrim：免费将 GPT 提示大小减少 50%！

About Author

註釋

標籤

这篇文章刊登在

Related Stories

加密货币增长：创建有效的用户角色

创建以用户为中心的加密产品：客户反馈的重要性

Claude Sonnet 3.5 系统提示泄漏：法医分析

看不见的层面：为什么用户访谈是不可替代的资产

加密货币增长：创建有效的用户角色

创建以用户为中心的加密产品：客户反馈的重要性

Claude Sonnet 3.5 系统提示泄漏：法医分析

看不见的层面：为什么用户访谈是不可替代的资产

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps