General Purpose AI / Foundation Models und Generative AI: Technische Analyse und Use Cases

Am 11. Februar 2025 kündigte die Europäische Union eine neue Initiative an, um 200 Milliarden Euro für Investitionen in künstliche Intelligenz (KI) zu mobilisieren [1]. Dieser ehrgeizige Schritt wird durch die rasanten Fortschritte und die schnelle Verbreitung von Foundation Models getrieben, einem Bereich, der derzeit von US-amerikanischen Unternehmen dominiert wird. Der Begriff „General Purpose AI“ ist ein Synonym für Foundation Models und wurde im KI-Gesetz der EU von 2023 eingeführt, um diese vielseitigen Modelle zu beschreiben, die auf umfangreichen Datensätzen trainiert werden und sich an eine Vielzahl von Aufgaben anpassen können [2].

In dieser Beitragsreihe untersuchen wir die Terminologie von General Purpose AI und heben relevante Use Cases im Bereich der Energiewirtschaft hervor. General Purpose AI erlangte erhebliche Aufmerksamkeit mit der Einführung von ChatGPT, einem von OpenAI entwickelten KI-Chatbot, der später in das Microsoft-Ökosystem als Copilot integriert wurde. Diese Modelle haben die KI-Landschaft revolutioniert und ihren Einsatz über spezifische Use Cases hinaus auf vielfältige Aufgaben erweitert. Diese Anpassungsfähigkeit ist der Grund, warum die EU-Kommission sie als „Maschinen, die in der Lage sind, eine Vielzahl intelligenter Aufgaben zu erfüllen, abstrakt zu denken und sich an neue Situationen anzupassen“ bezeichnet.

Dieser aufstrebende Zweig der KI bringt jedoch auch Herausforderungen für die Energieinfrastruktur mit sich, da diese Modelle nicht nur während ihres Trainings, sondern auch während ihrer Nutzung erhebliche Mengen an Energie verbrauchen. Mit der wachsenden Nutzeranzahl für solche Modelle wird ihr Energieverbrauch zu einem kritischen Faktor in Bezug auf die Erzeugung und Verteilung von Elektrizität.

Die Veröffentlichung von ChatGPT Ende 2022 markierte einen Wendepunkt im Bereich der künstlichen Intelligenz und verwandelte das, was lange Zeit wie ein abstraktes technologisches Versprechen erschien, in etwas Greifbares und öffentlich Zugängliches. Plötzlich interagierten Millionen von Nutzern im Alltag mit KI – vom Verfassen von E-Mails und Zusammenfassen von Dokumenten bis hin zur Code-Generierung und kreativen Schreiben. Diese Welle des Interesses ging einher mit einer Flut von ähnlichen Produkten, wie Googles Bard, Microsofts Copilot, integriert in Microsoft Office und Open-Source-Projekten wie Metas LLaMA und Mistral AI‘s Mixtral 8x7B, was die Präsenz von KI für in der breite Öffentlichkeit vorantrieb.

Die Wurzeln dieses Durchbruchs reichen bis ins Jahr 2017 zurück, als Forscher in einem bahnbrechenden Papier mit dem Titel „Attention Is All You Need“ die Transformer-Architektur vorstellten. Diese Innovation ermöglichte die Entwicklung von Large-Langage-Models (LLMs), die in der Lage sind, menschlich anmutende Texte in einem bisher unerreichten Umfang zu verarbeiten und zu generieren. Mit zunehmender Komplexität und Leistungsfähigkeit dieser Modelle – von Millionen bis hin zu Hunderten von Milliarden Parametern (Visualisierung der zunehmenden Größe von Foundation Models in den letzten Jahren) – begannen sie, eine Grundlage für vielfältige KI-Systeme zu bilden. In Anerkennung an ihre breite Anwendbarkeit prägten Forscher der Stanford University im Jahr 2021 den Begriff „Foundation Models“, um diese leistungsstarken Modelle zu beschreiben, die auf umfangreichen Datensätzen trainiert und an viele nachgelagerte Aufgaben anpassbar sind.

Während die USA bisher führend in der Entwicklung dieser Modelle waren, wird das Feld zunehmend globaler, mit neuen Modellen aus China, wie zum Beispiel DeepSeek, einem Open-Source-Modell, welches ähnlich leistungsfähig ist, wie die westlichen Modelle.

Wir werden in den kommenden Wochen weitere Teile dieser Beitragsreihe über Foundation Models veröffentlichen. Ihr Schwerpunkt wird darauf liegen, Foundation Models in der KI-Landschaft zu verorten und ihre technischen Funktionsprinzipien Schritt für Schritt zu erläutern. Wir werden weiter analysieren, warum diese Technologie als ein immenser Fortschritt in der KI-Forschung betrachtet wird und die Hauptfaktoren beschreiben, die zu diesem Durchbruch in den letzten 5-10 Jahren geführt haben.

Anwendung in der Energiewirtschaft

Traditionelle KI-Technologien, wie Machine Learning und Deep Learning, werden bereits weit verbreitet in vielen Anwendungen innerhalb der Energiewirtschaft eingesetzt. In einer Studie des BDEW wurden im Jahr 2020 über 40 Anwendungsfälle erarbeitet und jüngst identifizierte eine Studie von PwC im Jahr 2024 54 KI-Lösungsanbieter mit über 60 Produkten im Zusammenhang mit dem Energiesektor [3,4]. Wie in Abbildung 2 gezeigt, decken bestehende KI-Anwendungen ein breites Spektrum an Bereichen in der Energiewirtschaft ab.

Welche Veränderungen können wir mit der Einführung von Foundation-Models angesichts der umfangreichen Nutzung von KI-basierten Anwendungen erwarten und spezifischen Auswirkungen oder neuen Anwendungsfälle werden diese Technologien mit sich bringen?

Verbesserung bestehender KI-Lösungen

Foundation Models haben bereits bewiesen, dass sie die aktuellen, traditionellen KI-Ansätze übertreffen können. Sie bieten das Potenzial, jede Anwendung zu verbessern, in der bisher KI eingesetzt wurde. Vielversprechende energierelevante Bereiche, die in einer EESC-Studie von 2025 [5] aufgeführt sind, umfassen:

• Predictive Maintenance
• Netzmanagement
• Batteriefertigung

Neue Anwendungsfälle und Automatisierung

Foundation Models, insbesondere Large-Language-Models, übertreffen frühere KI-Ansätze in mehreren Bereichen und ermöglichen Automatisierung, die zuvor herausfordernd war. Ihre beeindruckenden Fähigkeiten zur Informationsbeschaffung und zum Verständnis natürlicher Sprache eröffnen neue Möglichkeiten, wie zum Beispiel:

• Automatische Verarbeitung unstrukturierter Dokumente
• Einführung von Chatbots für den Kundenservice
• Programmierunterstützung für Entwickler

Diese Werkzeuge, obwohl sie nicht für den Energiesektor entwickelt wurden, werden in den kommenden Jahren verschiedene Prozesse erheblich beeinflussen und neue Automatisierungsansätze ermöglichen.

Vielseitigkeit und Geschwindigkeit der Implementierung

Ein bedeutender Durchbruch der Foundation-Models liegt in ihrer Vielseitigkeit. Früher war es notwendig, eine Aufgabe zu identifizieren, die durch datengetriebene Modelle automatisiert werden konnte, Daten zu sammeln und ein Modell für diese spezifische Aufgabe zu trainieren. Foundation-Models können mit minimalen Anpassungen und Nachtrainieren an einen gegebenen Anwendungsfall angepasst werden, wodurch sich die Art und Weise, wie wir mit ihnen interagieren, verändert. Dies beschleunigt die Implementierung von KI für neue Anwendungsfälle. Zum Beispiel können auf Basis bestehender Modelle wie ChatGPT direkt neue KI-Anwendungen entwickelt werden, die auf neue Bedürfnisse zugeschnitten sind, ohne umfangreiche Infrastruktur und Modelltraining zu benötigen.

Darüber hinaus macht die Interaktion durch Natural-Language-Processing (NLP) die Nutzung dieser Modelle mit minimalem Fachwissen zugänglich. Früher waren spezifische Fähigkeiten von KI-Entwicklern erforderlich, um diese Modelle zu nutzen, während heute eine eher übergeordnete und benutzerzentrierte Expertise im Allgemeinen ausreicht, um ein KI-Tool auf Basis eines bestehenden Foundation-Models zu entwickeln.

Beispiele für bestehende Produkte auf Basis von Foundation Models in der Energiewirtschaft

Abgesehen vom bekannten ChatGPT von OpenAI sind bereits mehrere Produkte, die auf Foundation-Modellen basieren, auf dem Markt verfügbar. Im Folgenden finden Sie eine Auswahl einiger KI-Produkte, die spezifisch und nicht spezifisch für den Energiesektor sind:

• ThinkOwl: Bietet verschiedene Lösungen zur Automatisierung von Kundenprozessen, einschließlich gesprochener und schriftlicher Kundenkommunikation sowie (teilweiser) Automatisierung von Ticketingsystemen an.
• Elevait: Stellt Lösungen zur Automatisierung der Dokumentenverarbeitung und Verwaltung eingehender Daten bereit und unterstützt sowohl den Kundenservice als auch das interne Wissensmanagement.
• Energy Concierge: Nutzt einen Chatbot und verschiedene Kundenkontaktpunkte, wie WhatsApp, um einen Lieferantenwechsel innerhalb von 24 Stunden zu ermöglichen.

Weitere Informationen erhalten Sie in unserem bald erscheinenden Beitrag „General Purpose AI, Foundation Models, Generative AI: Anwendungsbereiche in der Energiewirtschaft“.

Herausforderungen für den Energiesektor

Die Demokratisierung von allgemein einsetzbarer KI eröffnet eine Fülle von Möglichkeiten für innovative Werkzeuge und Anwendungen. Allerdings bringt die zunehmende Verbreitung von Produkten, die auf Foundation-Modellen basieren, erhebliche Herausforderungen mit sich, insbesondere für den Energiesektor.

Energieverbrauch

Der Energieverbrauch war schon immer ein bedeutender Kostenfaktor bei der Entwicklung von KI-Modellen, wobei große Technologieunternehmen Rechenzentren mit High-End-GPUs für Trainingszwecke bauen. Das Zeitalter der Foundation-Models bringt jedoch einen viel höheren Maßstab des Verbrauchs mit sich. Diese Modelle sind nicht nur energieintensiver im Training, sondern auch bei der Inferenz (jede Anfrage an das Modell), was zuvor vernachlässigbar war. Mit der Demokratisierung dieser Modelle durch Apps wie ChatGPT oder Copilot ist die Anzahl der Anfragen stark gestiegen, wodurch der Energieverbrauch für KI zu einem ernsthaften Faktor nicht nur für Technologieunternehmen, sondern auch auf Systemebene der Energieversorgung wird, sowohl in Bezug auf die Erzeugung als auch die Verteilung von Elektrizität.

Bereits heute entspricht der Energiebedarf von Rechenzentren in Europa dem Strombedarf von Österreich. Bis 2030 wird erwartet, dass sich dieser Bedarf noch einmal mehr als verdoppelt [6]. Dies entspricht dann in etwa 5 % das aktuellen Strombedarfs von Kontinentaleuropa.

Einfluss auf die Netzinfrastruktur

Das Training großer KI-Modelle kann erheblichen Druck auf das Energienetz ausüben. Studien wie die der Universität Chicago aus dem Jahr 2024 warnen vor dem ‚KI-Goldrausch‘: massive Investitionen in neue Rechenzentren, angetrieben durch das Interesse an Produkten auf Basis von Foundation-Models wie ChatGPT. Ihre Prognosen zeigen, dass die betroffene Netz-Infrastruktur sich schnell weiterentwickeln muss, um die wachsende Last der neuen Rechenzentren zu bewältigen [7]. Im Rahmen der neuen InvestAI EU-Initiative sind 20 Milliarden Euro für neue KI-Rechenzentren geplant. Der Bau dieser Trainings-Rechenzentren in Europa könnte für Netzbetreiber zu einer erheblichen Herausforderung werden.

Die Kapazität europäischer Rechenzentren betrug im Jahr 2023 10 GW. Dies entspricht in etwa der Spitzenlast von Österreich. Es wird prognostiziert, dass die Leistung der Rechenzentren bis 2030 mehr als das Dreifache betragen wird, angetrieben durch das Training und die Nutzung von allgemein einsetzbarer KI [6]. Diese Leistung von 35 GW entspricht etwa 9 % der Spitzenlast von Kontinentaleuropa.

Zusätzliche Herausforderungen

Weitere erwähnenswerte Herausforderungen umfassen den Datenschutz und das Fehlen von Foundation-Models mit Sitz in der EU. Eine ausführlichere Liste von Herausforderungen und Beschreibungen wird in unserem kommenden speziellen Artikel verfügbar sein.

Wenn Sie an weiteren Informationen zu Ihrem spezifischen Anwendungsfall oder diesem Thema im Allgemeinen interessiert sind, nehmen Sie gerne Kontakt mit uns auf.

Literatur:

[1] EU launches InvestAI initiative to mobilise €200 billion of investment in artificial intelligence – European Commission

[2] General-purpose artificial intelligence

[3] pwc-studie-ki-softwareloesungen-in-der-energiewirtschaft.pdf

[4] Pub_20200624_Kuenstliche-Intelligenz-fuer-die-Energiewirtschaft.pdf

[5] generative-ai-and-foundation-models-eu-uptake-opportunities-challenges-and-way-forward.pdf

[6] the-role-of-power-in-unlocking-the-european-ai-revolution.pdf

[7] Exploding AI Power Use: an Opportunity to Rethink Grid Planning and Management | EPIC