Der Einsatz von Künstlicher Intelligenz kostet Geld. Viel Geld. So viel, dass die jährlichen Ausgaben für ChatGPT & Co mittlerweile zu einem beträchtlichen Kostenblock für Unternehmen angewachsen sind. Die Zweifel wachsen, ob der Einsatz von immer mehr KI auch in gleichem Maße zu mehr Effizienz führt. Eine Recherche der F.A.Z. zeigt, dass das Thema in den Vorstandsetagen angekommen ist: Jeder versucht auf seine Weise, die Kosten im Griff zu halten. Mal nur mit Aufklärung und Kontrolle, mal mit Limits und Kontingenten und mal mit vorgeschalteten Systemen wie „Prompt Catching“ oder „Model Routing“, die dafür sorgen sollen, dass nicht immer die teuerste Lösung zum Einsatz kommt. „Der Tokenverbrauch ist für viele Unternehmen ein riesiges Thema“, sagte zuletzt der Roland-Berger-Chef Stefan Schaible vor Journalisten in Frankfurt.