Todo lo que necesitas saber sobre ChatGPT 3.5: modelo Turbo y otras variantes

ChatGPT es el chatbot de IA con el que los usuarios pueden mantener conversaciones similares a las humanas y encomendarle tareas: desde resolver tareas matemáticas hasta crear textos y analizar contenidos. El chatbot se basa en distintas versiones de modelos lingüísticos.

 

El modelo lingüístico que hizo famoso a ChatGPT en todo el mundo y generó más de un millón de usuarios a la semana de su lanzamiento en noviembre de 2022 es GPT-3.5. El modelo de IA se ha seguido desarrollando. En la actualidad (julio de 2024) existen varias variantes del modelo.

 

En esta entrada del blog, le contaremos todo lo que necesita saber sobre el modelo, sus diferentes versiones y su sustitución por el más reciente GPT-4o Mini.

 

¿Cuál es la situación actual?

El modelo GPT-3.5 y casi todas sus versiones dejaron de fabricarse en julio de 2024. Solo el modelo Turbo puede utilizarse de forma limitada. El motivo de la interrupción de la versión GPT-3.5 es su sustitución por el modelo GPT-4o Mini, más potente.

 

Para comprender mejor los modelos y el contenido de esta entrada del blog es importante disponer de cierta información de fondo. He aquí un breve resumen de la información más importante:

 

• Al utilizar los modelos lingüísticos, hay que distinguir entre dos ofertas diferentes de OpenAI.
• Una oferta es el chatbot llamado ChatGPT. Puedes echar un vistazo más de cerca al chatbot en nuestra herramienta ChatGPT. Le haces tareas o preguntas al chatbot y él te responde.
• La otra oferta es la API OpenAI, una interfaz de programación. Se diferencia del chatbot en que los desarrolladores pueden utilizarla para integrar el modelo lingüístico en su entorno de desarrollo.
• Por lo tanto, es diferente si los usuarios de un modelo lingüístico son, por ejemplo, estudiantes o autores que investigan utilizando ChatGPT o si son desarrolladores que sólo utilizan el modelo de IA de forma individual.

 

 

La situación actual de los usuarios de chatbot

Si está interesado en el chatbot ChatGPT, que puede consultar como un motor de búsqueda utilizando un simple campo de entrada, ya no puede utilizar el modelo GPT-3.5. Ha sido completamente sustituido por los modelos GPT-4o Mini y GPT-4.

 

Al sustituir GPT-3.5 por el nuevo modelo GPT-4o Mini, se beneficiará de una respuesta más rápida, de una mayor calidad general del chatbot y de un mayor número de funciones. Esto va acompañado de una mayor precisión de las respuestas. Además, las nuevas versiones del modelo de IA se han entrenado con datos más actualizados.

 

La empresa OpenAI ha integrado de serie el nuevo modelo GPT-4o Mini en su plan gratuito. En el plan gratuito también tienes acceso limitado al modelo insignia GPT-4o. El plan de pago "ChatGPT Plus" tampoco incluye ya GPT-3.5; en él tienes acceso ilimitado a los modelos GPT-4, GPT-4o Mini y GPT-4o.

 

Situación actual para los promotores

Los desarrolladores siguen teniendo acceso al modelo GPT-3.5 Turbo, pero ya no a los modelos anteriores GPT-3.5. El modelo Turbo está disponible en dos variantes:

 

• GPT-3.5 Turbo 0125
• GPT-3.5 Turbo Instruct

 

Ambos modelos se diferencian por su ventana de contexto. La ventana de contexto indica cuántos tokens puede procesar un modelo lingüístico en una petición; en otras palabras:

 

Cuanto mayor sea la ventana de contexto, más información podrá procesar un modelo GPT en un contexto específico. Una ventana de contexto grande, por ejemplo, favorece una comunicación coherente y, por tanto, la calidad de las respuestas.

 

Si la ventana de contexto es pequeña, un modelo de IA no podrá mantener una conversación coherente sobre un tema o realizar una tarea durante un periodo de tiempo más largo. Entonces, los usuarios tienen que hacer una nueva entrada y establecer de nuevo la tarea.

 

Con algo menos de 16.000 tokens (16.000 tokens), la ventana de contexto de GPT-3.5 Turbo 0125 es significativamente mayor que la del modelo GPT-3.5 Turbo Instruct, que sólo alcanza los 4.000 tokens.

 

Los desarrolladores pueden utilizar GPT-3.5 Turbo en las dos versiones mencionadas. Sin embargo, la empresa OpenAI recomienda cambiar al modelo GPT-4o Mini, ya que tiene más rendimiento, más funciones y un coste significativamente menor que el modelo Turbo. Por ejemplo, GPT-4o Mini dispone de una ventana contextual de 128k, lo que supone un importante aumento de la calidad.

 

Información general sobre ChatGPT-3.5: historia, capacidades y datos de rendimiento

La empresa OpenAI lanzó a finales de 2019 un modelo de IA para uso del gran público, concretamente el modelo GPT-2. Dados sus 1.500 millones de parámetros, el GPT-2 ya era uno de los grandes modelos lingüísticos (LLM), pero no estaba ni de lejos tan maduro como el modelo GPT-3.5, que alcanzó fama mundial poco después de su lanzamiento.

 

GPT-3.5 se entrenó con 17.000 millones de parámetros. Gracias a la tecnología de aprendizaje profundo adicional, en este y los siguientes modelos de IA de OpenAI se forman estructuras neuronales integrales que se conectan en red entre sí. El resultado es una inteligencia artificial (IA) que puede, por ejemplo, crear sus propios textos, crear sus propias imágenes y ofrecer respuestas personalizadas a las preguntas de los usuarios.

 

GPT-3.5 marcó un hito en la serie de modelos de OpenAI, ya que el modelo lingüístico era fácil de usar con el chatbot ChatGPT y, por tanto, podía ser manejado fácilmente por usuarios sin conocimientos informáticos.

 

Teniendo en cuenta que, a excepción del GPT-4, los modelos de IA no tienen acceso a datos actuales a través de Internet y, por tanto, no pueden entrenarse por sí solos, la actualidad de los conjuntos de datos del entrenamiento es un factor importante en la evaluación de la calidad. Los datos de los modelos 3.5 son de septiembre de 2021, mientras que el nuevo modelo GPT-3.5 Turbo se entrenó con datos de septiembre de 2023.

 

A lo largo de los meses siguientes al lanzamiento inicial, se sucedieron nuevas versiones de la generación GPT-3.5. Los modelos turbo representaban un perfeccionamiento de GPT-3.5 y presentaban mejoras funcionales. Una de estas mejoras ofrecía a los desarrolladores la posibilidad de entrenar el modelo de IA con sus propios datos mediante el denominado proceso de "ajuste fino".

 

GPT-3 también ofrecía la opción de entrenar individualmente el modelo de IA. En GPT-3, esto era posible gracias a las variantes "davinci-002" y "babbage-002". Sin embargo, el ajuste fino posible con GPT-3.5 Turbo iba acompañado de muchas más opciones para individualizar el modelo lingüístico.

 

Para mantener la seguridad de la IA, los datos tuvieron que canalizarse a través de una red de seguridad OpenAI y comprobarse durante el ajuste fino para mantener la seguridad de la IA.

 

Además, en el modelo GPT 3.5 se introdujo la tienda GPT, que sustituyó a la anterior tienda de plugins y facilita a los usuarios la personalización del modelo de IA según sus propias ideas. Para ello se dispone de GPT personalizadas. A diferencia del ajuste fino, los usuarios de la tienda no necesitan conocimientos informáticos para crear GPT personalizadas.

 

Aunque entretanto se lanzó el modelo más avanzado GPT-4, GPT-3.5 Turbo duró hasta julio de 2024 y sigue a disposición de los desarrolladores. Sin embargo, debido a su menor rentabilidad solo en comparación con GPT-4o Mini (este último es 35 céntimos más barato por millón de tokens de entrada, por ejemplo), es de esperar que la versión GPT-3.5 Turbo, y por tanto GPT-3.5 en general, desaparezca por completo de escena.

 

GPT-3.5 Turbo ya no está disponible para los usuarios del chatbot ChatGPT. En principio, el futuro pertenece a los modelos de IA GPT-4, GPT-4o Mini y GPT-4o, así como a todos los demás nuevos desarrollos de OpenAI en los próximos años.

 

 

Funciones y calidad de GPT-3.5 Turbo

GPT-3.5 Turbo es capaz de realizar numerosas tareas. Esto incluye la creación de contenidos en formato de texto.

 

Un punto débil en comparación con los modelos más recientes, como el GPT-4o Mini y el GPT-4o, es el hecho de que el modelo Turbo no tiene capacidades multimodales. Esto significa que no es posible la entrada de archivos de imagen, sonido y vídeo o que éstos no son procesados por la IA.

 

En general, el modelo Turbo tiene, entre otras, las siguientes capacidades y funciones:

 

• Crear, analizar y traducir textos
• resolver problemas matemáticos
• Chat: Conversaciones sencillas y diferenciadas
• Atención al cliente
• Crear imágenes

 

Los puntos de referencia de la IA se utilizan para evaluar la calidad de los modelos de IA. En última instancia, no son más que pruebas con un procedimiento específico. Un punto de referencia importante es MMLU (Massive Multitask Language Understanding), en el que se evalúan los conocimientos generales de la IA y su capacidad para resolver problemas.

 

En la prueba comparativa MMLU, el modelo turbo obtuvo una puntuación del 69,8%. Esta prueba comparativa ilustra la clara diferencia con el nuevo modelo GPT-4o Mini: GPT-4o Mini obtiene una puntuación del 82% en MMLU. Esto significa que el nuevo modelo GPT-4o Mini, que sustituye al GPT-3.5 Turbo, es muy superior.

 

La introducción de funciones multimodales en GPT-4o Mini también es un avance bienvenido. La empresa OpenAI ya proporciona la entrada de archivos de imagen para GPT-4o Mini. Para el futuro, OpenAI promete que también será posible introducir archivos de vídeo y audio.

 

Sin embargo, uno de los cambios más importantes del modelo sucesor de GPT-3.5 Turbo es la protección contra las inyecciones de prompt. Las instrucciones son órdenes que sigue un modelo de IA. Sin embargo, las inyecciones de instrucciones son órdenes manipuladoras, como la orden de ignorar todas las instrucciones de los desarrolladores de OpenAI.

 

El modelo GPT-3.5 Turbo es susceptible a las inyecciones de instrucciones. Se trata de un problema grave porque la instrucción de ignorar la programación de OpenAI podría llevar a que la IA se utilizara y manipulara con fines completamente distintos. Podría causar daños y ser instrumentalizada por hackers para sus propios fines. Con GPT-4o Mini, esta brecha de seguridad se ha cerrado.

 

Valores de rendimiento de GPT-3.5 Turbo

Con una ventana de contexto de 16.000 tokens, GPT-3.5 Turbo 0125 es capaz de procesar aproximadamente 21 páginas de texto durante la entrada y la salida. Esto es una broma comparado con la ventana de contexto de 128.000 tokens de GPT-4o Mini. Sin embargo, al utilizar GPT-3.5 Turbo, ya pudimos ver que los 16k tokens podían utilizarse para crear textos razonables y llevar a cabo un breve chat.

 

El aumento a 128k tokens para GPT-4o Mini es, por tanto, una mejora que se nota al usar el chatbot y para los desarrolladores al usar la API.

 

ChatGPT proporciona ahora respuestas aún más completas y puede mantener un chat durante un periodo de tiempo más largo sin perder el hilo. La ventana contextual ampliada hace que el GPT-4o Mini sea mucho más adecuado para trabajos científicos y otras tareas a gran escala que el modelo GPT-3.5-Turbo.

 

Otro criterio de rendimiento es la rapidez con la que se emiten las fichas. Este criterio se evalúa a través de la velocidad de salida. Con una velocidad de 166-182 fichas por segundo, GPT-4o Mini es claramente superior al modelo GPT-3.5 Turbo. No se han encontrado datos concretos sobre la velocidad de salida del modelo Turbo, pero en la práctica está claro que es más lento.

 

Los costes del modelo GP T-3.5 Turbo son injustificadamente elevados a la vista de los datos de rendimiento en comparación con la competencia Google Gemini 1.5 Flash y Claude 3 Haiku. GPT-3.5 Turbo 0125 cuesta 0,50 dólares por cada millón de tokens de entrada y 1,50 dólares por cada millón de tokens de salida. El modelo GPT-3.5 Turbo Instruct es aún más caro.

 

Si quiere ahorrar dinero como desarrollador, opte por el nuevo modelo GPT-4o Mini, ya que el precio por 1 millón de tokens de entrada es de 0,15 USD y el precio por 1 millón de tokens de salida es de 0,60 USD: ¡un ahorro considerable!

 

Conclusión: Un hito, justo antes de la fecha de vencimiento

GPT-3.5 constituyó la base del auge de la IA. Fue el modelo lingüístico que popularizó el chatbot ChatGPT en Europa y en todo el mundo. La sencillez de uso de ChatGPT -introducir una pregunta en el campo de entrada y recibir una respuesta-, similar a la de un motor de búsqueda, facilitó que los usuarios utilizaran la IA para sus propios fines.

 

GPT-3.5 fue evolucionando con el tiempo. Un desarrollo notable fue el modelo GPT-3.5 Turbo, que inicialmente tenía incluso una ventana de contexto mayor que el posterior modelo insignia GPT-4, antes de que GPT-4 fuera optimizado. Sin embargo, el elevado coste de GPT-3.5 siempre fue un problema clave, especialmente para los desarrolladores que querían integrar GPT-3.5 Turbo en su entorno de desarrollo.

 

Con el nuevo GPT-4o Mini, OpenAI ha lanzado una opción asequible para sustituir al modelo Turbo. GPT-4o Mini pertenece a la última generación de modelos de IA de OpenAI y admite funciones multimodales. GPT-4o Mini también aporta importantes reducciones de precio, lo que supone una inmensa ventaja para los desarrolladores.

 

Como resultado del nuevo modelo, GPT-3.5 Turbo desaparecerá cada vez más de la escena y los últimos modelos ocuparán su lugar. GPT-3.5 Turbo ya no desempeña ningún papel en el chatbot ChatGPT. Por el momento, los desarrolladores siguen teniendo acceso a la API con el modelo Turbo.