Alles wat je moet weten over ChatGPT 3.5: Turbomodel en andere varianten

ChatGPT is de AI-chatbot waarmee gebruikers mensachtige gesprekken kunnen voeren en de gebruiker taken kunnen geven: van het oplossen van wiskundige taken tot het maken van teksten en het analyseren van inhoud. De chatbot is gebaseerd op verschillende versies van taalmodellen.

 

Het taalmodel dat ChatGPT wereldwijd beroemd maakte en meer dan een miljoen gebruikers genereerde binnen een week na de release in november 2022 is GPT-3.5. Het AI-model is verder ontwikkeld. Er zijn nu (vanaf juli 2024) verschillende varianten van het model.

 

In deze blogpost vertellen we je alles wat je moet weten over het model, de verschillende versies en de vervanging door de nieuwere GPT-4o Mini.

 

Wat is de huidige situatie?

Het GPT-3.5-model en bijna alle versies ervan werden stopgezet in juli 2024. Alleen het Turbo-model kan nog in beperkte mate worden gebruikt. De reden voor de stopzetting van de GPT-3.5-versie is de vervanging door het krachtigere GPT-4o Mini-model.

 

Enige achtergrondinformatie is belangrijk voor een beter begrip van de modellen en de inhoud van deze blogpost. Hier volgt een korte samenvatting van de belangrijkste informatie:

 

• Bij het gebruik van de taalmodellen moet onderscheid worden gemaakt tussen twee verschillende aanbiedingen van het bedrijf OpenAI.
• Eén aanbod is de chatbot ChatGPT. Je kunt de chatbot beter bekijken in onze ChatGPT-tool. Je stelt de chatbot taken of vragen en hij reageert daarop.
• Het andere aanbod is de OpenAI API, een programmeerinterface. Deze verschilt van de chatbot in die zin dat ontwikkelaars hem kunnen gebruiken om het taalmodel te integreren in hun ontwikkelomgeving.
• Het maakt dus verschil of de gebruikers van een taalmodel bijvoorbeeld studenten of auteurs zijn die onderzoek doen met ChatGPT of dat het ontwikkelaars zijn die het AI-model alleen individueel gebruiken.

 

 

De huidige situatie voor chatbotgebruikers

Als je geïnteresseerd bent in de ChatGPT chatbot, die je kunt bevragen als een zoekmachine met behulp van een eenvoudig invoerveld, kun je niet langer het GPT-3.5 model gebruiken. Deze is volledig vervangen door de modellen GPT-4o Mini en GPT-4.

 

Door GPT-3.5 te vervangen door het nieuwere GPT-4o Mini model, profiteer je van een snellere respons, een over het algemeen hogere kwaliteit van de chatbot en een groter aantal functies. Dit gaat hand in hand met een hogere nauwkeurigheid van de antwoorden. Bovendien zijn de nieuwe versies van het AI-model getraind met actuelere gegevens.

 

Het bedrijf OpenAI heeft het nieuwe GPT-4o Mini-model standaard volledig geïntegreerd in zijn gratis plan. Je hebt ook beperkte toegang tot het vlaggenschipmodel GPT-4o op het gratis plan. Het betaalde "ChatGPT Plus"-plan bevat ook niet langer GPT-3.5; daar heb je onbeperkte toegang tot de GPT-4-, GPT-4o Mini- en GPT-4o-modellen.

 

De huidige situatie voor ontwikkelaars

Ontwikkelaars hebben nog steeds toegang tot het GPT-3.5 Turbo model, maar niet meer tot de oudere GPT-3.5 modellen. Het Turbo model is beschikbaar in twee varianten:

 

• GPT-3.5 Turbo 0125
• GPT-3.5 Turbo Instruct

 

Beide modellen verschillen in hun contextvenster. Het contextvenster geeft aan hoeveel tokens een taalmodel kan verwerken in een verzoek - met andere woorden:

 

Hoe groter het contextvenster, hoe meer informatie een GPT-model kan verwerken in een specifieke context. Een groot contextvenster bevordert bijvoorbeeld de coherente communicatie en daarmee de kwaliteit van de antwoorden.

 

Als het contextvenster klein is, kan een AI-model geen coherent gesprek voeren over een onderwerp of een taak uitvoeren over een langere periode. Gebruikers moeten dan een nieuwe invoer maken en de taak opnieuw instellen.

 

Met iets minder dan 16.000 tokens (16k tokens) is het contextvenster van GPT-3.5 Turbo 0125 aanzienlijk hoger dan dat van het GPT-3.5 Turbo Instruct-model, dat slechts 4k tokens bereikt.

 

Ontwikkelaars kunnen GPT-3.5 Turbo in de twee genoemde versies gebruiken. Het OpenAI bedrijf raadt echter aan om over te stappen op het GPT-4o Mini model, omdat dit meer prestaties, meer functies en aanzienlijk lagere kosten heeft dan het Turbo model. GPT-4o Mini heeft bijvoorbeeld een 128k contextvenster, wat een aanzienlijke kwaliteitsverbetering is.

 

Algemene informatie over ChatGPT-3.5: geschiedenis, mogelijkheden en prestatiegegevens

Het bedrijf OpenAI heeft eind 2019 een AI-model vrijgegeven voor gebruik door het grote publiek, namelijk het GPT-2-model. Gezien zijn 1,5 miljard parameters was GPT-2 al een van de grote taalmodellen (LLM's), maar het was lang niet zo volwassen als het GPT-3.5-model, dat kort na de release wereldwijde faam verwierf.

 

GPT-3.5 is getraind met 17 miljard parameters. Dankzij de aanvullende deep learning technologie worden in dit en de volgende AI-modellen van OpenAI uitgebreide neuronale structuren gevormd die met elkaar in een netwerk zijn verbonden. Het resultaat is een kunstmatige intelligentie (AI) die bijvoorbeeld zijn eigen teksten kan maken, zijn eigen afbeeldingen kan creëren en antwoorden op maat kan geven op vragen van gebruikers.

 

GPT-3.5 betekende een mijlpaal in de reeks OpenAI-modellen, omdat het taalmodel eenvoudig te gebruiken was met de chatbot ChatGPT en daarom gemakkelijk kon worden bediend door gebruikers zonder IT-kennis.

 

Aangezien de AI-modellen, met uitzondering van GPT-4, geen toegang hebben tot actuele gegevens via internet en dus niet zelf kunnen trainen, is de actualiteit van de datasets van de training een belangrijke factor in de kwaliteitsbeoordeling. De gegevens voor de 3.5-modellen zijn van september 2021, terwijl het nieuwe GPT-3.5 Turbomodel is getraind met gegevens van september 2023.

 

In de maanden na de eerste release volgden nieuwe versies van de GPT-3.5-generatie. De turbomodellen waren een verdere ontwikkeling van GPT-3.5 en hadden functionele verbeteringen. Een van deze verbeteringen bood ontwikkelaars de mogelijkheid om het AI-model te trainen met hun eigen data via een zogenaamd "fine-tuning" proces.

 

GPT-3 bood ook de mogelijkheid om het AI-model individueel te trainen. In GPT-3 werd dit mogelijk gemaakt door de varianten "davinci-002" en "babbage-002". De fijnafstemming die mogelijk was met GPT-3.5 Turbo ging echter gepaard met aanzienlijk meer opties om het taalmodel te individualiseren.

 

Om de veiligheid van de AI te waarborgen, moesten de gegevens door een OpenAI beveiligingsnetwerk worden geleid en tijdens de fijnafstelling worden gecontroleerd.

 

Verder werd tijdens het GPT 3.5-model de GPT-winkel geïntroduceerd, die de vorige plugin-winkel verving en het gebruikers makkelijker maakt om het AI-model aan te passen volgens hun eigen ideeën. Hiervoor zijn aangepaste GPT's beschikbaar. In tegenstelling tot fine-tuning hebben gebruikers in de store geen IT-kennis nodig om aangepaste GPT's te maken.

 

Hoewel het meer geavanceerde GPT-4 model in de tussentijd werd uitgebracht, ging GPT-3.5 Turbo mee tot juli 2024 en is nog steeds beschikbaar voor ontwikkelaars. Alleen al vanwege de lagere kostenefficiëntie in vergelijking met GPT-4o Mini (laatstgenoemde is bijvoorbeeld 35 cent goedkoper per miljoen invoertokens), is het echter te verwachten dat de GPT-3.5 Turbo-versie, en daarmee GPT-3.5 in het algemeen, volledig van het toneel zal verdwijnen.

 

GPT-3.5 Turbo is niet langer beschikbaar voor gebruikers van de ChatGPT chatbot. De toekomst is in eerste instantie aan de AI-modellen GPT-4, GPT-4o Mini en GPT-4o en in de komende jaren aan alle andere nieuwe ontwikkelingen van OpenAI.

 

 

Functies en kwaliteit van GPT-3.5 Turbo

GPT-3.5 Turbo kan tal van taken uitvoeren. Hieronder valt het maken van inhoud in tekstformaat.

 

Een zwak punt ten opzichte van nieuwere modellen zoals de GPT-4o Mini en GPT-4o is het feit dat het Turbo-model geen multimodale mogelijkheden heeft. Dit betekent dat de invoer van beeld-, geluids- en videobestanden niet mogelijk is of dat deze niet worden verwerkt door de AI.

 

In het algemeen heeft het Turbo-model onder andere de volgende mogelijkheden en functies:

 

• Teksten maken, analyseren en vertalen
• wiskundige problemen oplossen
• Chatten: Eenvoudige en gedifferentieerde gesprekken voeren
• Klantenservice
• Afbeeldingen maken

 

AI-benchmarks worden gebruikt om de kwaliteit van AI-modellen te beoordelen. Uiteindelijk zijn dit niets meer dan tests met een specifieke procedure. Een belangrijke benchmark is MMLU (Massive Multitask Language Understanding), waarin de algemene kennis van de AI en zijn probleemoplossende vaardigheden worden beoordeeld.

 

In de MMLU-benchmark behaalde het turbomodel een score van 69,8 procent. Deze benchmark laat het duidelijke verschil zien met het nieuwe GPT-4o Mini model: GPT-4o Mini scoort 82 procent in MMLU. Dit betekent dat het nieuwe GPT-4o Mini model, dat de GPT-3.5 Turbo vervangt, veruit superieur is.

 

De introductie van multimodale mogelijkheden in GPT-4o Mini is ook een welkome ontwikkeling. Het bedrijf OpenAI biedt GPT-4o Mini al de mogelijkheid om beeldbestanden in te voeren. Voor de toekomst belooft OpenAI dat het ook mogelijk zal zijn om video- en audiobestanden in te voeren.

 

Een van de belangrijkste veranderingen in de opvolger van GPT-3.5 Turbo is echter de bescherming tegen prompt-injecties. Prompts zijn commando's die een AI-model opvolgt. Promptinjecties zijn echter manipulatieve commando's, zoals het commando om alle instructies van de OpenAI-ontwikkelaars te negeren.

 

Het GPT-3.5 Turbo model is gevoelig voor prompt injecties. Dit is een ernstig probleem omdat de instructie om de programmering van OpenAI te negeren ertoe kan leiden dat de AI voor heel andere doeleinden wordt gebruikt en gemanipuleerd. Het kan mogelijk schade veroorzaken en worden gebruikt door hackers voor hun eigen doeleinden. Met GPT-4o Mini is dit beveiligingsgat nu gedicht.

 

Prestatiewaarden van GPT-3.5 Turbo

Met een contextvenster van 16.000 tokens kan GPT-3.5 Turbo 0125 ongeveer 21 pagina's tekst verwerken tijdens invoer en uitvoer. Dit is een lachertje vergeleken met het contextvenster van 128.000 tokens van GPT-4o Mini. Toch konden we bij het gebruik van GPT-3.5 Turbo al zien dat de 16k tokens gebruikt konden worden om redelijke teksten te maken en een korte chat te voeren.

 

De verhoging naar 128k tokens voor GPT-4o Mini is daarom een upgrade die merkbaar is bij het gebruik van de chatbot en voor ontwikkelaars bij het gebruik van de API.

 

ChatGPT biedt nu nog uitgebreidere antwoorden en kan een chat over een langere periode voeren zonder de draad kwijt te raken. Het uitgebreide contextvenster maakt de GPT-4o Mini veel geschikter voor wetenschappelijk werk en andere grootschalige taken dan het GPT-3.5-Turbo model.

 

Een ander prestatiecriterium is de vraag hoe snel de tokens worden uitgegeven. Dit criterium wordt beoordeeld via de uitvoersnelheid. Met een snelheid van 166-182 tokens per seconde is GPT-4o Mini duidelijk beter dan het GPT-3.5 Turbo-model. Voor het Turbo-model zijn geen concrete gegevens over de uitvoersnelheid te vinden, maar in de praktijk is het duidelijk dat het model langzamer is.

 

De kosten voor het GPT-3.5 Turbo-model zijn onverdedigbaar hoog gezien de prestatiegegevens in vergelijking met de concurrentie Google Gemini 1.5 Flash en Claude 3 Haiku. GPT-3.5 Turbo 0125 kost USD 0,50 per 1 miljoen input tokens en USD 1,50 per 1 miljoen output tokens. Het model GPT-3.5 Turbo Instruct is nog duurder.

 

Als je als ontwikkelaar geld wilt besparen, kies dan voor het nieuwe GPT-4o Mini model, want de prijs per 1 miljoen input tokens is USD 0,15 en de prijs per 1 miljoen output tokens is USD 0,60 - dat is een aanzienlijke besparing!

 

Conclusie: Een mijlpaal, vlak voor de vervaldatum

GPT-3.5 vormde de basis voor de AI-hausse. Het was het taalmodel dat de chatbot ChatGPT populair maakte in Europa en de rest van de wereld. Het eenvoudige gebruik van ChatGPT - voer een vraag in het invoerveld in en ontvang een antwoord - vergelijkbaar met een zoekmachine, maakte het makkelijk voor gebruikers om de AI voor hun eigen doeleinden te gebruiken.

 

GPT-3.5 werd in de loop der tijd verder ontwikkeld. Een opmerkelijke ontwikkeling was het GPT-3.5 Turbo-model, dat aanvankelijk zelfs een groter contextvenster had dan het latere vlaggenschipmodel GPT-4, voordat GPT-4 werd geoptimaliseerd. De hoge kosten van GPT-3.5 waren echter altijd een groot probleem, vooral voor ontwikkelaars die GPT-3.5 Turbo wilden integreren in hun ontwikkelomgeving.

 

Met de nieuwe GPT-4o Mini heeft OpenAI een betaalbare optie gelanceerd om het Turbo-model te vervangen. GPT-4o Mini behoort tot de nieuwste generatie AI-modellen van OpenAI en ondersteunt multimodale functies. GPT-4o Mini brengt ook aanzienlijke prijsverlagingen met zich mee, wat een enorm voordeel is voor ontwikkelaars.

 

Als gevolg van het nieuwe model zal GPT-3.5 Turbo steeds meer van het toneel verdwijnen en zullen de nieuwste modellen zijn plaats innemen. GPT-3.5 Turbo speelt geen rol meer in de ChatGPT chatbot. Voorlopig hebben ontwikkelaars nog wel toegang tot de API met het Turbo-model.