AI CONFERENCE 2024: Entwicklung nachhaltiger KI

Entwicklung nachhaltiger KI – mit sparsamen Modellen, effizienter Kodierung und Hardware Co-Design

1. Impuls: Energieeffizente Sprachtechnologie: von Spracherkennung und Übersetzung zu LLMs

Es werden Ansätze für die Entwicklung sparsamerer KI-Modelle, ihrer Trainingsmethoden sowie optimierten Einbindung neuartiger Hardwarekomponenten vorgestellt. Anwendungen der Sprachtechnologie wie automatische Spracherkennung, maschinelle Übersetzung und insbesondere große Sprachmodelle (large language models - LLMs) gehen mit einem erheblichen Ressourcenbedarf einher und stehen damit exemplarisch für heutige KI-Technologie. Eine Ressourcen-effizientere Gestaltung angewandter KI hat einen großen Einfluss auf den ökologischen Fußabdruck dieser weltweit eingesetzten Technologien. Komplexe künstliche neuronale Netze bzw. deren Training und breiter Einsatz erfordern hohe Rechenleistungen und einen damit einhergehenden erhöhten Energiebedarf. Das KI-Leuchtturmprojekt RESCALE widmet sich der ökologischen Herausforderung, diesen Energiebedarf im Bereich der Verarbeitung natürlicher Sprache mittels sparsamerer Modellierungsansätze, effizienter Lern- und Dekodierungsmethoden sowie des Hardware-Algorithmen Ko-Entwurfs um einen Faktor 10 zu reduzieren. In diesem Vortrag wird ein Überblick über aktuelle Aktivitäten im RESCALE-Projekt im Bereich der automatischen Spracherkennung und der maschinellen Übersetzung sowie ein Ausblick auf die Entwicklung Ressourceneffizienter LLMs gegeben.

Referent*innen:

• Volker Steinbiß, Applications Technology - AppTek GmbH, KI-Leuchtturmprojekt RESCALE
• Dr. Ralf Schlüter, Machine Learning and Human Language Technology, RWTH Aachen University, KI-Leuchtturmprojekt RESCALE

2. Impuls: Energieeffizientes hochautomatisiertes Fahren: Ansätze für ein ressourceneffizientes ganzheitliches System

In einer Zeit, in der die Möglichkeiten der Künstlichen Intelligenz (KI) rasant wachsen, ist die Entwicklung nachhaltiger KI-Lösungen von zentraler Bedeutung – besonders für energiekritische Anwendungen wie KI-basierte Fahrerassistenzsysteme. Dieser Vortrag beleuchtet innovative Ansätze zur Reduktion des Energieverbrauchs, darunter AutoML zur automatisierten Entwicklung von KI-Modellen, Pruning und Quantisierung zur Optimierung neuronaler Netze sowie effiziente Verfahren zur Daten- und Modellkodierung. Zudem wird gezeigt, wie durch das Hardware-KI-Co-Design spezialisierte, energieeffiziente Systeme entstehen können. Diese Methoden sind entscheidend, um leistungsstarke und zugleich ressourcenschonende KI-Lösungen zu schaffen, wie sie im Rahmen des KI-Leuchtturmprojekts „Green AutoML für Fahrerassistenzsysteme“ der Leibniz Universität Hannover und Viscoda erforscht und diskutiert werden.

Referent*innen:

• Prof. Dr. Marius Lindauer, Leibniz Universität Hannover, Institut für Informationsverarbeitung, KI-Leuchtturmprojekt GreenAutoML4FAS
• Matthias Lüders, Leibniz Universität Hannover, Institut für Mikroelektronische Systeme, KI-Leuchtturmprojekt GreenAutoML4FAS