Понимание влияния OpenAI GPT4 Turbo на «обертки»

OpenAI произвел фурор в мире искусственного интеллекта благодаря быстрой разработке и выпуску мощных языковых моделей, таких как GPT-4 и его потребительская версия ChatGPT. Сегодня они представили ряд обновлений, ориентированных на разработчиков, на своем первом мероприятии DevDay.

Эти новые выпуски обещают значительные улучшения возможностей искусственного интеллекта благодаря таким функциям, как новая модель GPT-4 Turbo и API Assistants.

Сектор, который, вероятно, ощутит значительное влияние этих обновлений, — это экосистема так называемых «оберток GPT».

«Обертки GPT» — это сторонние сервисы, которые предоставляют расширенную функциональность за счет обертывания базовых моделей GPT дополнительным кодом.

Поскольку ChatGPT и API OpenAI постоянно развиваются и приобретают новые мощные функции, оболочки должны быстро адаптироваться, иначе они рискуют устареть, находясь еще в зачаточном состоянии.

В этой статье я расскажу о последних предложениях OpenAI и проанализирую, какое значение они могут иметь для будущего оболочек ChatGPT, таких как мой собственный стартап Olympia. Мы порассуждаем о том, как Olympia и подобные сервисы могут развиваться по мере того, как OpenAI продолжает быстрые темпы развития. Загляните сюда, чтобы взглянуть изнутри на инновации, формирующие ландшафт искусственного интеллекта.

Обзор анонсов DevDay

OpenAI представила на DevDay несколько крупных новых предложений, которые обещают еще больше продвинуть возможности ИИ к заявленной цели постепенного преобразования мира с помощью агентов и AGI (общего искусственного интеллекта).

Вот некоторые из основных моментов:

ЧатGPT4 Турбо

Звездой шоу стал GPT-4 Turbo, последняя версия диалоговой модели OpenAI. GPT-4 Turbo может обрабатывать гораздо более длинный диалоговый контекст — до 128 000 токенов по сравнению с лимитом в 8 000 токенов текущей модели GPT-4. Более длинный контекст позволяет вести гораздо более длинные разговоры: объем информации эквивалентен 300 печатным страницам, прежде чем закончится место.

Турбо также быстрее и обладает улучшенными возможностями памяти и рассуждения для более естественного, человеческого общения. Модель также оснащена новыми мощными возможностями, связанными с генерацией выходных данных JSON и вызовом функций, включая вызов нескольких функций одновременно последовательно или параллельно.

Эти улучшения делают GPT-4 Turbo OpenAI самым способным диалоговым искусственным интеллектом OpenAI на сегодняшний день и еще больше опережают его конкурентов и модели с открытым исходным кодом.

API помощников

OpenAI представила свой API-интерфейс Assistants, который позволяет разработчикам интегрировать завершение чата с сохранением состояния без необходимости создавать эту функциональность самостоятельно. В дополнение к сохранению состояния он также добавляет функции извлечения — класс функциональности, который до сих пор приходилось реализовывать самостоятельно почти каждому приложению-оболочке.

Другие части нового API занимаются распознаванием и синтезом речи, а также доступом к внешним данным.

Сниженные цены

В ответ на отзывы разработчиков о высоких затратах, связанных с языковыми моделями OpenAI, последнее обновление Сэма Альтмана принесло столь необходимое облегчение. Одним из наиболее приветствуемых объявлений на DevDay стало значительное снижение цен на всю платформу, направленное на экономию средств для разработчиков.

Altman объявила о снижении цен на свои крупнейшие системы GPT-4 Turbo и GPT-3.5 Turbo. Входные токены GPT-4 Turbo теперь в 3 раза дешевле, чем GPT-4, по цене 0,01 доллара США, а выходные токены в 2 раза дешевле по цене 0,03 доллара США. Входные токены GPT-3.5 Turbo в 3 раза дешевле, чем предыдущая модель 16K, по цене 0,001 доллара США, а выходные токены в 2 раза дешевле по цене 0,002 доллара США.

Разработчики, ранее использовавшие GPT-3.5 Turbo 4K, могут получить скидку на входные токены на 33% по цене 0,001 доллара США. Наряду с повышением эффективности, эти изменения делают технологию OpenAI намного более доступной.

Влияние на оболочки GPT

Последние предложения OpenAI обещают значительно улучшить современное состояние диалогового искусственного интеллекта. Для сервисов-оболочек GPT, построенных на базовых моделях OpenAI, эти обновления представляют собой новые потрясающие возможности для интеграции в их продукты.

Благодаря улучшенной памяти, мышлению и разговорному контексту Turbo преодолевает многие ограничения, которые в настоящее время пытаются обойти сервисы-оболочки. Один только расширенный размер контекста меняет правила игры: разговоры больше не будут застревать в кирпичной стене после относительно небольшого количества обменов мнениями.

Мы создали Olympia с целью предложить более дружелюбный и удобный способ общения, чем наш главный конкурент ChatGPT. Наряду с сотнями других оболочек GPT, теперь мы можем использовать более высокую производительность и меньшую стоимость Turbo.

Наши отточенные методы, такие как настройка настроений и внедрение индивидуальности, идеально сочетаются с улучшениями Turbo, создавая более человечное взаимодействие между нашими помощниками и пользователями.

Заглядывая вперед

Учитывая, что ошеломляющие темпы инноваций OpenAI не демонстрируют никаких признаков замедления, эти новые предложения, вероятно, являются лишь проблеском того, что будет дальше. Будущие улучшения базовых моделей, таких как GPT-4 Turbo, и передовые методы обучения откроют еще более мощный диалоговый искусственный интеллект.

Путь вперед — внимательно отслеживать прогресс OpenAI и быстро интегрировать каждую новую функцию в продукты. Обертки, которые смогут быстро внедрять передовые обновления, смогут оставаться впереди конкурентов и самого ChatGPT.

В частности, Olympia может захотеть подготовиться к интеграции с будущими обновлениями, такими как:

• Еще большая емкость контекста . Более длинные контексты означают, что наши помощники могут «запоминать» больше о наших пользователях и их компаниях, когда они с ними разговаривают.

• Мультимодальные возможности . Модели, которые могут понимать и генерировать изображения, видео и аудиоконтент вместе с текстом, могут открыть новые возможности взаимодействия, например, для графических дизайнеров с поддержкой искусственного интеллекта.

• Специализированное обучение предметной области . Как видно из API Assistants, модули, ориентированные на конкретную предметную область, адаптированные к конкретным темам, приведут к более осведомленному ИИ.

  
  

Мы только начинаем понимать творческий и продуктивный потенциал этой технологии. Передовой искусственный интеллект готов стать неотъемлемой частью нашей жизни такими темпами, которые мало кто в мире мог себе представить. Следующие несколько лет обещают быть захватывающими!