So funktioniert es
Ein- und Ausgaben werden häufig in Tokens gemessen. Wie viele Tokens ein Text benötigt, hängt unter anderem von Sprache, Schreibweise und Modell ab. Wörter und Tokens lassen sich nicht fest gleichsetzen.
Beispiel aus dem Arbeitsalltag
Ein langer PDF-Text kann deutlich mehr Verarbeitungskapazität beanspruchen als seine Seitenzahl vermuten lässt. Tabellen, Nummern und ungewöhnliche Schreibweisen beeinflussen die Zerlegung.
Worauf es ankommt
Kostenschätzungen anhand bloßer Wortzahlen sind ungenau. Messen Sie typische echte Anfragen und berücksichtigen Sie Eingaben, Ausgaben sowie gegebenenfalls weitere vom Anbieter berechnete Verarbeitungsschritte.