Compreendendo o impacto do GPT4 Turbo da OpenAI em “Wrappers”

A OpenAI tem agitado o mundo da inteligência artificial com o rápido desenvolvimento e lançamento de modelos de linguagem poderosos como o GPT-4 e sua encarnação de consumidor, o ChatGPT. Hoje, eles revelaram uma série de atualizações focadas no desenvolvedor em seu evento inaugural do DevDay.

Esses novos lançamentos prometem grandes melhorias nos recursos de IA por meio de recursos como o novo modelo GPT-4 Turbo e a API Assistants.

Um setor que provavelmente sofrerá um impacto significativo com essas atualizações é o ecossistema dos chamados “wrappers GPT”.

“Wrappers GPT” são serviços de terceiros que fornecem funcionalidade estendida, agrupando os modelos GPT básicos com código adicional.

Com a evolução contínua do ChatGPT e da API do OpenAI ganhando novos recursos poderosos, os wrappers devem se adaptar rapidamente ou correm o risco de se tornarem obsoletos ainda em sua infância.

Neste artigo, vou mergulhar nas ofertas mais recentes da OpenAI e analisar o que elas podem significar para o futuro dos wrappers ChatGPT, como minha própria startup, Olympia. Especularemos sobre como o Olympia e serviços similares podem evoluir à medida que o OpenAI continua seu rápido ritmo de desenvolvimento. Fique por aqui para ver as inovações que moldam o cenário da IA.

Recapitulação dos anúncios do DevDay

A OpenAI revelou várias novas ofertas importantes no DevDay que prometem levar os recursos de IA ainda mais em direção ao seu objetivo declarado de transformar gradativamente o mundo por meio de agentes e AGI (Inteligência Geral Artificial).

Aqui estão alguns dos destaques:

Bate-papoGPT4 Turbo

A estrela do show foi o GPT-4 Turbo, a mais recente iteração do modelo conversacional da OpenAI. O GPT-4 Turbo pode lidar com contextos de conversação muito mais longos – até 128.000 tokens, em comparação com o limite de 8.000 tokens do modelo GPT-4 atual. O contexto mais longo permite conversas muito mais longas, ostentando o equivalente a 300 páginas impressas de informações antes de ficar sem espaço.

O Turbo também é mais rápido e apresenta memória atualizada e capacidades de raciocínio para trocas mais naturais e humanas. O modelo também está equipado com novos recursos poderosos relacionados à geração de saída JSON e à chamada de funções, incluindo a chamada de mais de uma função por vez em sequência ou em paralelo.

Essas melhorias tornam o GPT-4 Turbo OpenAI a IA conversacional mais capaz até o momento e o colocam ainda mais à frente dos concorrentes e modelos de código aberto.

API de assistentes

A OpenAI revelou sua API Assistants, que permite aos desenvolvedores integrar conclusões de bate-papo com estado sem a necessidade de criar essa funcionalidade por conta própria. Além do statefulness, ele também adiciona funções de recuperação, uma classe de funcionalidade que quase todos os aplicativos wrapper tiveram que implementar até agora.

Outras partes da nova API tratam do reconhecimento e síntese de fala e do acesso ao conhecimento externo.

Preços reduzidos

Em resposta ao feedback dos desenvolvedores sobre os altos custos associados aos modelos de linguagem OpenAI, a última atualização de Sam Altman trouxe o alívio necessário. Um dos anúncios mais bem recebidos no DevDay foi a redução significativa nos preços em toda a plataforma, visando repassar a economia aos desenvolvedores.

Altman revelou preços reduzidos para seus maiores sistemas, GPT-4 Turbo e GPT-3.5 Turbo. Os tokens de entrada do GPT-4 Turbo são agora 3x mais baratos que o GPT-4, custando US$ 0,01, e os tokens de saída são 2x mais baratos, custando US$ 0,03. Os tokens de entrada GPT-3.5 Turbo são 3x mais baratos que o modelo anterior de 16K, custando US$ 0,001, e os tokens de saída são 2x mais baratos, custando US$ 0,002.

Os desenvolvedores que já usam GPT-3.5 Turbo 4K podem se beneficiar de uma redução de 33% nos tokens de entrada a US$ 0,001. Juntamente com melhorias de eficiência, essas mudanças tornam a tecnologia da OpenAI muito mais acessível.

Impacto nos wrappers GPT

As ofertas mais recentes da OpenAI prometem avançar significativamente o estado da arte atual em IA conversacional. Para serviços de wrapper GPT desenvolvidos com base nos modelos básicos da OpenAI, essas atualizações representam novos recursos interessantes para integração em seus produtos.

Com sua memória, raciocínio e contexto de conversação aprimorados, o Turbo supera muitas das limitações que os serviços wrapper atualmente tentam contornar. O tamanho do contexto expandido por si só já é um divisor de águas - as conversas não atingirão mais uma barreira após relativamente poucas trocas.

Construímos o Olympia com o objetivo de oferecer uma experiência de conversação mais amigável e capaz do que o nosso principal concorrente ChatGPT. Junto com centenas de outros wrappers GPT por aí, agora podemos aproveitar o melhor desempenho e menor custo do Turbo.

Nossas técnicas bem aprimoradas, como ajuste de sentimento e injeção de personalidade, combinam perfeitamente com os aprimoramentos do Turbo para criar interações mais humanas entre nossos assistentes e usuários.

Olhando para o futuro

Com o ritmo surpreendente de inovação da OpenAI não mostrando sinais de desaceleração, essas novas ofertas são provavelmente apenas um vislumbre do que está por vir. Melhorias futuras em modelos básicos como GPT-4 Turbo e técnicas de treinamento avançadas irão desbloquear uma IA de conversação ainda mais poderosa.

O caminho a seguir é acompanhar de perto o progresso da OpenAI e integrar rapidamente cada novo recurso aos produtos. Os wrappers que podem adotar rapidamente atualizações de ponta serão capazes de ficar à frente do pacote e do próprio ChatGPT.

Especificamente, o Olympia pode querer se preparar para integrações com atualizações futuras como:

• Capacidade de contexto ainda maior – Contextos mais longos significam que nossos assistentes podem “lembrar” mais sobre nossos usuários e seus negócios sempre que conversarem com eles.

• Capacidades multimodais - Modelos que podem compreender e gerar conteúdo de imagem, vídeo e áudio junto com texto podem abrir novas possibilidades de interação envolventes, como designers gráficos apoiados por IA.

• Treinamento de domínio especializado – como visto na API Assistants, módulos específicos de domínio adaptados a tópicos específicos levarão a uma IA mais experiente.

  
  

Estamos apenas começando a vislumbrar o potencial criativo e produtivo desta tecnologia. A IA avançada está preparada para se tornar parte integrante das nossas vidas a um ritmo que poucas pessoas no mundo poderiam ter imaginado. Os próximos anos prometem ser uma jornada emocionante!