Zrozumienie kosztów asystentów AI

Tworzysz wewnętrzne narzędzie, które wykorzystuje model AI do generowania testów jednostkowych. Porównujesz dwa modele – Model A i Model B – i wiesz, że:

• Oba modele mają identyczne ceny za token.
• Przy każdym żądaniu oba modele używają porównywalnej liczby tokenów wejściowych i wyjściowych do wygenerowania testu.
• Model B emituje dodatkowo 1 500 tokenów „rozumowania" na żądanie, które są naliczane, ale nie poprawiają jakości testów.

Biorąc pod uwagę koszt za token dla każdego modelu, który z nich – A czy B – jest najbardziej opłacalnym rozwiązaniem?