De kosten van AI-assistants begrijpen
Je bouwt een interne tool die een AI-model gebruikt om unit tests te genereren. Je evalueert twee modellen, Model A en Model B, en je weet het volgende:
- Beide modellen hebben identieke prijzen per token.
- Per request gebruiken beide modellen ongeveer hetzelfde aantal inputtokens en hetzelfde aantal outputtokens om de test zelf te produceren.
- Model B genereert daarnaast per request 1.500 extra “reasoning”-tokens die wel worden gefactureerd maar de testkwaliteit niet verbeteren.
Gezien de kosten per token voor elk model, welke, A of B, is de meest kosteneffectieve oplossing?
Deze oefening maakt deel uit van de cursus
AI-ondersteund coderen voor developers
Praktische interactieve oefening
Zet theorie om in actie met een van onze interactieve oefeningen.
Begin met trainen