Die Chatbots von Google und Microsoft kosten wahrscheinlich das Zehnfache einer normalen Suche

Anfang dieses Monats kündigte Google Pläne zur Einführung von Bard an, einer Chatbot-KI, die Benutzern helfen soll, Informationen mit einem natürlichen Sprachmodell zu finden. Microsoft kündigte auch die neue Bing-Suche mit einem eigenen Chatbot an, der Technologie von Microsoft mit Technologie von OpenAI, dem Unternehmen hinter ChatGPT, kombiniert.

Ein Aspekt all dieser Chatbot-Technologie, über den keines dieser Unternehmen so viel spricht, sind jedoch die Betriebskosten. Ein neuer Bericht von Reuters bietet weitere Informationen zu diesem Teil dieser neuen Technologie. Es unterhielt sich mit dem Vorsitzenden von Alphabet, John Hennessy, der erklärte, dass die Verwendung eines Chatbots mit einem großen Sprachmodell wahrscheinlich das Zehnfache einer normalen Suche kostet.

we will have to monetize it somehow at some point; the compute costs are eye-watering

— Sam Altman (@sama) December 5, 2022

Bereits im Dezember 2022, kurz nach dem Start von ChatGPT, erklärte Sam Altman, CEO von OpenAI, auf Twitter: „Die Rechenkosten sind atemberaubend.“ Das ist einer der Gründe, warum ChatGPT Plus Anfang Februar mit mehr Funktionen und schnellerer Leistung eingeführt wurde zum Preis von 20 Dollar im Monat.

Reuters verwendete einen Bericht von Morgan Stanley, der schätzte, dass es Google einen fünftel Cent für jede Suche im Jahr 2022 kostete. Es schätzt jedoch, dass Googles Suche, wenn eine Chatbot-KI wie Bard eingesetzt würde Die Kosten könnten im Jahr 2024 um bis zu 6 Milliarden US-Dollar steigen. Das setzt voraus, dass der Chatbot die Hälfte der Google-Suchanfragen mit 50-Wort-Antworten abwickelt.

Der Grund für diese höheren Kosten liegt natürlich darin, dass viel mehr CPUs benötigt werden, um all diese natürlich klingenden Antworten von einer Chatbot-KI zu generieren. Das bedeutet auch höhere Stromkosten, um diese Server am Laufen zu halten.

Was kann also getan werden, um die Kosten zu senken? Eine Sache, die wahrscheinlich passieren wird, ist, dass diese Chatbots einfach effizienter werden und somit weniger Betriebskosten verursachen, aber es ist unklar, wie viel das tun wird, um den Preis zu senken. Eine andere Lösung besteht darin, dass Google und Microsoft Links zu Anzeigen in Chatbot-Antworten anzeigen könnten, die Einnahmen generieren, die die Kosten für den Betrieb dieser Server kompensieren.

Eine andere Lösung ist etwas, das ChatGPT bereits tut; Angebot eines Abonnementdienstes, bei dem Benutzer schnellere und bessere Chatbot-Antworten erhalten. Diese Option ist wahrscheinlich der letzte Ausweg für Google und Microsoft. Da immer mehr Benutzer auf diese neuen KI-gesteuerten Suchdienste zugreifen, müssen sie herausfinden, ob die Kosten für diese Unternehmen so weit sinken, dass sie für ihr finanzielles Endergebnis wirtschaftlich rentabel sind.