Wat is Temperatuur?

Temperatuur is een instelling bij taalmodellen die bepaalt hoe voorspelbaar of creatief de antwoorden zijn. Een lage temperatuur geeft rustige, voorspelbare antwoorden. Een hoge temperatuur geeft meer variatie en verrassing.

Hoe werkt het?

Een taalmodel maakt een tekst woord voor woord, of beter gezegd stukje voor stukje. Bij elke stap berekent het model hoe groot de kans is dat een bepaald stukje het volgende wordt. Het ene stukje heeft een grote kans, het andere een kleine.

De temperatuur bepaalt hoe het model uit die kansen kiest:

• Lage temperatuur: het model kiest bijna altijd het meest waarschijnlijke stukje. Het antwoord is dan stabiel en lijkt bij herhaling sterk op elkaar.
• Hoge temperatuur: het model kiest ook minder waarschijnlijke stukjes. Het antwoord wordt origineler, maar ook minder voorspelbaar.

De naam komt uit de natuurkunde. Bij een hoge temperatuur bewegen deeltjes wilder. Bij een lage temperatuur blijven ze rustig.

Een voorbeeld uit de praktijk

Stel, je vraagt een AI om een slogan voor je bakkerij. Met een hoge temperatuur krijg je speelse en soms gekke ideeën. Dat is handig bij brainstormen. Wil je echter dat de AI uit een contract de einddatum haalt, dan wil je een lage temperatuur. Je hebt dan liever elke keer hetzelfde, nauwkeurige antwoord.

Waarom is dit belangrijk voor jou?

Niet elke app laat je de temperatuur zelf kiezen. Toch helpt het om te weten dat dit bestaat.

• Kies lager voor feiten, samenvattingen en controles.
• Kies hoger voor ideeën, verhalen en creatieve teksten.
• Een hoge temperatuur vergroot de kans op fouten of onzin, zoals hallucinaties.

Krijg je bij dezelfde vraag steeds andere antwoorden? Dan speelt deze instelling vaak mee. Controleer belangrijke informatie dus altijd zelf.