GreenAI - Machine-Learning-Methoden zur umweltbewussten Gestaltung zeitkritischer KI-basierter Systeme im Rahmen des nachhaltigen KI-Einsatzes in flexiblen Recheninfrastrukturen

Hintergrund zum Forschungsprojekt:

Die Erstellung, das Training und die Nutzung KI-basierter Anwendungen erfordern einen hohen Energieeinsatz. Derzeitige Herstellungsverfahren für KI-basierte Systeme berücksichtigen den Energiekonsum aufgrund der priorisierten Wirtschaftlichkeit zumeist nicht. Angesichts des stark steigenden Einsatzes von KI weltweit sowie der begrenzten Verfügbarkeit von Energie gelangen diese Verfahren somit an ihre Grenzen. Vereinzelt existieren bereits KI-Fertigungsverfahren, die die nachhaltige und energieeffiziente Erstellung von KI-basierten Systemen anerkennen. Sowohl die Messung als auch die Steuerung des Energiekonsums der herstellbaren Strukturen sind dabei jedoch je nach Verfahren enorm eingeschränkt. Die größte Herausforderung bei den Verfahren stellen die anwendungsübergreifende Energiebemessung und deren Monitoring in verteilten heterogenen Recheninfrastrukturen dar.

Zentrale Forschungsfragen des Projektes:

1. Wie können Energieverbrauch und CO2-Emissionen in verschiedenen Phasen des KI-Lebenszyklus (z.B. Modelltraining, Inferenz) präzise gemessen und überwacht werden?
2. Wie können verschiedene Hardware- und Softwarekonfigurationen (z.B. CPU- und GPU-Auswahl, Edge- vs. Cloud-Computing) kombiniert werden, um die Energieeffizienz und CO2-Bilanz zu optimieren?
3. Wie kann die Balance zwischen Energieeffizienz und Kosteneffizienz bei der Entwicklung und dem Einsatz von KI-basierten Systemen gewahrt werden?

Forschungsziel des Projektes:

Ziel des Projekts ist die Schaffung und Erprobung eines Verfahrens zur Messung, Visualisierung und Monitoring des Energieverbrauchs von KI-basierten Systemen und die Ableitung von Empfehlungen zur Ausgestaltung eines grünen und nachhaltigen KI-Einsatzes in Organisationen. Dies soll durch die Ausnutzung „mechanisch-physikalischer“ sowie “software-virtueller” Messwerte in Form einer überlagerten hochfrequenten Erfassung und Wechselwirkungen mit flexiblen Verteilungsstrategien in verteilten Recheninfrastrukturen erreicht werden.