15.04.2024   In einem kürzlich geführten Interview in der New York Times beleuchtete Dario Amodei, eine prominente Figur im Bereich der künstlichen Intelligenz (KI), die eskalierenden Kosten und den erforderlichen Maßstab, um die KI-Technologien voranzutreiben. Amodei wies darauf hin, dass die aktuelle Generation von KI-Modellen, die im Jahr 2023 veröffentlicht wurden, bereits eine Investition von rund 100 Millionen Dollar für das Training erfordert, eine Zahl, die um den Faktor zwei oder drei variieren kann. GPT-4 (von OpenAi und Microsoft) oder Gemini (von Google) dürften am obersten Ende dieser Skala angesiedelt sein, weil sie enorm viel größer sind als die Generation zuvor.



Blickt man in die Zukunft, prognostiziert Amodei einen steilen Anstieg dieser Ausgaben. Modelle, die derzeit in Entwicklung sind, werden voraussichtlich nahezu 1 Milliarde Dollar kosten. Dieser Trend wird voraussichtlich anhalten, wobei die Kosten bis 2025 oder 2026 möglicherweise 5 bis 10 Milliarden Dollar erreichen könnten.

Was verursacht derart hohe Kosten? Die Kosten werden hauptsächlich durch den Bedarf an leistungsfähigeren Rechenressourcen getrieben, da KI-Modelle eine erhebliche Menge an Rechenleistung benötigen, die in der Regel stundenweise gemietet wird. Die Firmen mieten Rechenzeit oder bauen selber solche Kapazitäten auf. Die Komplexität und Größe dieser Modelle erfordern immer längere Trainingszeiten und mehr Daten, was die Kosten weiter in die Höhe treibt. Es handelt sich um eine exponentielle Kurve: Um die nächste Stufe der Verbesserung zu erreichen, muss man jedes mal sehr viel mehr Rechenzeit investieren.

Die Elite

Mit dem Anstieg der finanziellen Eintrittsbarriere könnte das Feld der KI-Entwicklung bald von einer ausgewählten Gruppe dominiert werden – nämlich großen Unternehmen oder riesigen Konsortien mit dem notwendigen Kapital, um in solch teure Projekte zu investieren. Unternehmen wie Amazon und Microsoft investieren bereits Milliarden in KI-Vorhaben, und Google verfügt über eigene erhebliche Ressourcen. Darüber hinaus beginnen einige Regierungen und staatlich unterstützte Fonds (beispielsweise Saudi-Arabien), darin zu investieren, weil sie der KI eine strategische Bedeutung für die jeweilige Wirtschaft des Landes zuerkennen.

Diese Konzentration der KI-Entwicklungsmacht unter einer Handvoll globaler Akteure wirft Fragen nach Vielfalt, Gerechtigkeit und Zugang im Bereich auf. Sollte der Trend anhalten, könnten kleinere Einheiten und unabhängige Forscher es zunehmend schwieriger finden, zu den Fortschritten der KI beizutragen, was möglicherweise Innovationen hemmt und die Bandbreite der in der KI-Forschung erkundeten Perspektiven und Anwendungen einschränkt. Ein solches Szenario würde die Dominanz der reichsten Unternehmen und Regierungen weiter verfestigen und möglicherweise zu einer Monopolisierung der KI-Fortschritte und ihrer Vorteile führen.

Fazit

Zusammenfassend beleuchtet das Gespräch zwischen Amodei und Klein einen kritischen Aspekt der KI-Entwicklung: die eskalierenden Kosten und ihre Auswirkungen auf die Zukunft des Feldes. Während wir am Rande potenziell transformativer Fortschritte in der KI stehen, ist es entscheidend, nicht nur die technologischen Herausforderungen, sondern auch die wirtschaftlichen und gesellschaftlichen Auswirkungen der Art und Weise zu betrachten, wie KI-Forschung und -Entwicklung finanziert und durchgeführt werden. Der Weg nach vorne sollte idealerweise sicherstellen, dass die Vorteile der KI zumindest mittelfristig für alle zugänglich sind.

Diskussion im Forum