Tudo o que você precisa saber sobre o ChatGPT 3.5: modelo Turbo e outras variantes

O ChatGPT é o chatbot de IA com o qual os usuários podem ter conversas semelhantes às humanas e dar tarefas ao usuário: desde a resolução de tarefas matemáticas até a criação de textos e análise de conteúdo. O chatbot é baseado em diferentes versões de modelos de linguagem.

 

O modelo de linguagem que tornou o ChatGPT famoso em todo o mundo e gerou mais de um milhão de usuários em uma semana após seu lançamento em novembro de 2022 é o GPT-3.5. O modelo de IA foi desenvolvido ainda mais. Existem agora (em julho de 2024) diversas variantes do modelo.

 

Nesta postagem do blog, contaremos tudo o que você precisa saber sobre o modelo, suas diferentes versões e sua substituição pelo mais novo GPT-4o Mini.

 

Qual é a situação atual?

O modelo GPT-3.5 e quase todas as suas versões foram descontinuados em julho de 2024. Apenas o modelo Turbo pode ser usado de forma limitada. O motivo da descontinuação da versão GPT-3.5 é sua substituição pelo modelo GPT-4o Mini, mais potente.

 

Algumas informações básicas são importantes para uma melhor compreensão dos modelos e do conteúdo desta postagem do blog. Aqui está um breve resumo das informações mais importantes:

 

• Ao usar os modelos de linguagem, é preciso fazer uma distinção entre duas ofertas diferentes da OpenAI.
• Uma oferta é o chatbot chamado ChatGPT. Você pode dar uma olhada mais de perto no chatbot em nossa ferramenta ChatGPT. Você faz tarefas ou perguntas ao chatbot e ele responde a elas.
• A outra oferta é a API OpenAI, uma interface de programação. Ela é diferente do chatbot, pois os desenvolvedores podem usá-la para integrar o modelo de linguagem em seu ambiente de desenvolvimento.
• Portanto, faz diferença se os usuários de um modelo de linguagem são, por exemplo, estudantes ou autores que pesquisam usando o ChatGPT ou se são desenvolvedores que usam apenas o modelo de IA individualmente.

 

 

A situação atual dos usuários de chatbot

Se você estiver interessado no chatbot ChatGPT, que pode ser consultado como um mecanismo de pesquisa usando um campo de entrada simples, não poderá mais usar o modelo GPT-3.5. Ele foi completamente substituído pelos modelos GPT-4o Mini e GPT-4.

 

Ao substituir o GPT-3.5 pelo modelo mais recente GPT-4o Mini, você se beneficia de uma saída de resposta mais rápida, uma qualidade geralmente mais alta do chatbot e um número maior de funções. Isso é acompanhado por uma maior precisão das respostas. Além disso, as novas versões do modelo de IA foram treinadas com dados mais atualizados.

 

A empresa OpenAI integrou totalmente o novo modelo GPT-4o Mini em seu plano gratuito como padrão. Você também tem acesso limitado ao modelo principal do GPT-4o no plano gratuito. O plano pago "ChatGPT Plus" também não inclui mais o GPT-3.5; nele, você tem acesso ilimitado aos modelos GPT-4, GPT-4o Mini e GPT-4o.

 

A situação atual para os desenvolvedores

Os desenvolvedores ainda têm acesso ao modelo GPT-3.5 Turbo, mas não mais aos modelos GPT-3.5 mais antigos. O modelo Turbo está disponível em duas variantes:

 

• GPT-3.5 Turbo 0125
• Instrução GPT-3.5 Turbo

 

Ambos os modelos diferem em sua janela de contexto. A janela de contexto indica quantos tokens um modelo de linguagem pode processar em uma solicitação - em outras palavras:

 

Quanto maior a janela de contexto, mais informações um modelo de GPT pode processar em um contexto específico. Uma janela de contexto grande, por exemplo, promove uma comunicação coerente e, portanto, a qualidade das respostas.

 

Se a janela de contexto for pequena, um modelo de IA não conseguirá manter uma conversa coerente sobre um tópico ou executar uma tarefa por um longo período de tempo. Os usuários terão que fazer uma nova entrada e definir a tarefa novamente.

 

Com pouco menos de 16.000 tokens (16k tokens), a janela de contexto do GPT-3.5 Turbo 0125 é significativamente maior do que a do modelo GPT-3.5 Turbo Instruct, que atinge apenas 4k tokens.

 

Os desenvolvedores podem usar o GPT-3.5 Turbo nas duas versões mencionadas. No entanto, a empresa OpenAI recomenda a mudança para o modelo GPT-4o Mini, pois ele tem mais desempenho, mais funções e custos significativamente mais baixos do que o modelo Turbo. Por exemplo, o GPT-4o Mini tem uma janela de contexto de 128k, o que representa um aumento significativo na qualidade.

 

Informações gerais sobre o ChatGPT-3.5: histórico, recursos e dados de desempenho

A empresa OpenAI lançou um modelo de IA para uso do público em geral no final de 2019, ou seja, o modelo GPT-2. Com 1,5 bilhão de parâmetros, o GPT-2 já era um dos grandes modelos de linguagem (LLMs), mas não era nem de longe tão maduro quanto o modelo GPT-3.5, que alcançou fama mundial logo após seu lançamento.

 

O GPT-3.5 foi treinado com 17 bilhões de parâmetros. Graças à tecnologia adicional de aprendizagem profunda, estruturas neuronais abrangentes são formadas nesse e nos seguintes modelos de IA da OpenAI, que são conectados em rede uns com os outros. O resultado é uma inteligência artificial (IA) que pode, por exemplo, criar seus próprios textos, criar suas próprias imagens e fornecer respostas personalizadas às perguntas dos usuários.

 

O GPT-3.5 foi um marco na série de modelos da OpenAI, pois o modelo de linguagem era fácil de usar com o chatbot ChatGPT e, portanto, podia ser facilmente operado por usuários sem conhecimento de TI.

 

Tendo em vista que, com exceção do GPT-4, os modelos de IA não têm acesso a dados atuais pela Internet e, portanto, não podem treinar a si mesmos, a atualidade dos conjuntos de dados do treinamento é um fator importante na avaliação da qualidade. Os dados para os modelos 3.5 são de setembro de 2021, enquanto o novo modelo GPT-3.5 Turbo foi treinado com dados de setembro de 2023.

 

Nos meses seguintes ao lançamento inicial, seguiram-se novas versões da geração GPT-3.5. Os modelos turbo representaram um desenvolvimento adicional do GPT-3.5 e tiveram aprimoramentos funcionais. Um desses aprimoramentos ofereceu aos desenvolvedores a oportunidade de treinar o modelo de IA com seus próprios dados usando o chamado processo de "ajuste fino".

 

O GPT-3 também ofereceu a opção de treinar individualmente o modelo de IA. No GPT-3, isso foi possível graças às variantes "davinci-002" e "babbage-002". No entanto, o ajuste fino possível com o GPT-3.5 Turbo foi acompanhado por muito mais opções para individualizar o modelo de idioma.

 

Para manter a segurança da IA, os dados tiveram que ser canalizados por meio de uma rede de segurança OpenAI e verificados durante o ajuste fino para manter a segurança da IA.

 

Além disso, a loja GPT foi introduzida durante o modelo GPT 3.5, que substituiu a loja de plugins anterior e facilita aos usuários a personalização do modelo de IA de acordo com suas próprias ideias. Os GPTs personalizados estão disponíveis para essa finalidade. Em contraste com o ajuste fino, os usuários da loja não precisam de nenhum conhecimento de TI para criar GPTs personalizados.

 

Embora o modelo GPT-4, mais avançado, tenha sido lançado nesse meio tempo, o GPT-3.5 Turbo durou até julho de 2024 e ainda está disponível para os desenvolvedores. No entanto, devido à sua menor eficiência de custo em comparação com o GPT-4o Mini (o último é 35 centavos mais barato por milhão de tokens de entrada, por exemplo), é de se esperar que a versão GPT-3.5 Turbo e, portanto, o GPT-3.5 em geral, desapareçam completamente do cenário.

 

O GPT-3.5 Turbo não está mais disponível para os usuários do chatbot ChatGPT. O futuro pertence inicialmente aos modelos de IA GPT-4, GPT-4o Mini e GPT-4o e, nos próximos anos, a todos os outros novos desenvolvimentos da OpenAI.

 

 

Funções e qualidade do GPT-3.5 Turbo

O GPT-3.5 Turbo é capaz de executar várias tarefas. Isso inclui a criação de conteúdo em formato de texto.

 

Um ponto fraco em comparação com os modelos mais novos, como o GPT-4o Mini e o GPT-4o, é o fato de o modelo Turbo não ter recursos multimodais. Isso significa que a entrada de arquivos de imagem, som e vídeo não é possível ou eles não são processados pela IA.

 

Em geral, o modelo Turbo tem os seguintes recursos e funções, entre outros:

 

• Criar, analisar e traduzir textos
• resolver problemas matemáticos
• Bate-papo: Condução de conversas simples e diferenciadas
• Atendimento ao cliente
• Criar imagens

 

Os benchmarks de IA são usados para avaliar a qualidade dos modelos de IA. Em última análise, eles nada mais são do que testes com um procedimento específico. Um benchmark importante é o MMLU (Massive Multitask Language Understanding), no qual são avaliados o conhecimento geral da IA e suas habilidades de resolução de problemas.

 

No benchmark MMLU, o modelo turbo recebeu uma pontuação de 69,8%. Esse benchmark ilustra a clara diferença em relação ao novo modelo GPT-4o Mini: O GPT-4o Mini obteve 82% de pontuação no MMLU. Isso significa que o novo modelo GPT-4o Mini, que substitui o GPT-3.5 Turbo, é muito superior.

 

A introdução de recursos multimodais no GPT-4o Mini também é um desenvolvimento bem-vindo. A empresa OpenAI já fornece a entrada de arquivos de imagem para o GPT-4o Mini. No futuro, a OpenAI promete que também será possível inserir arquivos de vídeo e áudio.

 

No entanto, uma das mudanças mais importantes no modelo sucessor do GPT-3.5 Turbo é a proteção contra injeções de prompt. Prompts são comandos que um modelo de IA segue. No entanto, as injeções de prompt são comandos manipuladores, como o comando para ignorar todas as instruções dos desenvolvedores do OpenAI.

 

O modelo GPT-3.5 Turbo é suscetível a injeções rápidas. Esse é um problema sério porque a instrução para desconsiderar a programação da OpenAI pode fazer com que a IA seja usada e manipulada para fins completamente diferentes. Ela poderia causar danos e ser instrumentalizada por hackers para seus próprios fins. Com o GPT-4o Mini, essa lacuna de segurança foi fechada.

 

Valores de desempenho do GPT-3.5 Turbo

Com uma janela de contexto de 16.000 tokens, o GPT-3.5 Turbo 0125 é capaz de processar aproximadamente 21 páginas de texto durante a entrada e a saída. Isso é uma piada em comparação com a janela de contexto de 128.000 tokens do GPT-4o Mini. No entanto, ao usar o GPT-3.5 Turbo, já pudemos ver que os 16 mil tokens podem ser usados para criar textos razoáveis e conduzir um breve bate-papo.

 

O aumento para 128k tokens para o GPT-4o Mini é, portanto, uma atualização que é perceptível ao usar o chatbot e para os desenvolvedores ao usar a API.

 

O ChatGPT agora fornece respostas ainda mais abrangentes e pode conduzir um bate-papo por um período de tempo mais longo sem perder a conversa. A janela de contexto estendida torna o GPT-4o Mini muito mais adequado para trabalhos científicos e outras tarefas de grande escala do que o modelo GPT-3.5-Turbo.

 

Outro critério de desempenho é a questão da rapidez com que os tokens são emitidos. Esse critério é avaliado por meio da velocidade de saída. Com uma velocidade de 166-182 tokens por segundo, o GPT-4o Mini é claramente superior ao modelo GPT-3.5 Turbo. Não é possível encontrar dados concretos sobre a velocidade de saída do modelo Turbo, mas, na prática, fica claro que o modelo é mais lento.

 

Os custos do modelo GPT-3.5 Turbo são injustificadamente altos em vista dos dados de desempenho em comparação com os concorrentes Google Gemini 1.5 Flash e Claude 3 Haiku. O GPT-3.5 Turbo 0125 custa US$ 0,50 por 1 milhão de tokens de entrada e US$ 1,50 por 1 milhão de tokens de saída. O modelo GPT-3.5 Turbo Instruct é ainda mais caro.

 

Se quiser economizar dinheiro como desenvolvedor, opte pelo novo modelo GPT-4o Mini, pois o preço por 1 milhão de tokens de entrada é de US$ 0,15 e o preço por 1 milhão de tokens de saída é de US$ 0,60 - é uma economia significativa!

 

Conclusão: um marco, pouco antes da data de expiração

O GPT-3.5 formou a base para o boom da IA. Foi o modelo de linguagem que tornou o chatbot ChatGPT popular na Europa e em todo o mundo. O uso simples do ChatGPT - inserir uma pergunta no campo de entrada e receber uma resposta - semelhante a um mecanismo de pesquisa, facilitou para os usuários a utilização da IA para seus próprios fins.

 

O GPT-3.5 foi desenvolvido com o passar do tempo. Um desenvolvimento notável foi o modelo GPT-3.5 Turbo, que inicialmente tinha uma janela de contexto maior do que o modelo carro-chefe posterior GPT-4, antes de o GPT-4 ser otimizado. No entanto, o alto custo do GPT-3.5 sempre foi um problema importante, especialmente para os desenvolvedores que queriam integrar o GPT-3.5 Turbo em seu ambiente de desenvolvimento.

 

Com o novo GPT-4o Mini, a OpenAI lançou uma opção econômica para substituir o modelo Turbo. O GPT-4o Mini pertence à última geração de modelos de IA da OpenAI e oferece suporte a funções multimodais. O GPT-4o Mini também traz reduções significativas de preço, o que é uma imensa vantagem para os desenvolvedores.

 

Como resultado do novo modelo, o GPT-3.5 Turbo desaparecerá cada vez mais do cenário e os modelos mais recentes tomarão seu lugar. O GPT-3.5 Turbo não desempenha mais uma função no chatbot do ChatGPT. Por enquanto, os desenvolvedores ainda têm acesso à API com o modelo Turbo.