Rund eine Milliarde US-Dollar hat OpenAI seit seiner Gründung im Jahr 2015 bei verschiedenen Geldgebern eingesammelt. Diese Zahl nennt zumindest ChatGPT, das berühmteste KI-gestützte Kind des Hauses. Eine stolze Summe für ein Start-up. Und die Investitionen haben sich gelohnt. Laut Reuters er-reichte der Konzern im vergangenen Jahr bereits einen Umsatz von zwei Milliarden US-Dollar und ist damit eines der am schnellsten wachsenden Technologieunternehmen der Geschichte. Der Wert des in San Franciso ansässigen Unternehmens wird – so Reuters weiter – auf mehr als 80 Milliarden Dollar geschätzt. Und OpenAI ist zwar das bedeutendste, aber nur eines von vielen großen KI-Projekten in den USA.
Spät, aber doch hat auch Europa erkannt, dass KI die vermutlich wichtigste Schlüsseltechnologie der Zukunft ist. Im Herbst des Vorjahres etwa verkündete die deutsche Bundesforschungsministerin Bettina Stark-Watzinger einen KI-Aktionsplan, der in dem Zeitraum von knapp zweieinhalb Jahren bis 2025 Investition von immerhin mehr als 1,6 Milliarden Euro vorsieht. Aber trotz solcher Maßnahmen, so warnte vor kurzem der Europäische Rechnungshof, hinke Europa im globalen Wettrennen um KI immer noch deutlich hinter den USA und auch China hinterher. Staatliche Stellen und private Unternehmen nehmen für die KI-Entwicklung in den USA deutlich mehr Geld in die Hand, -zitiert der „Spiegel“ die Prüfer des EU-Rechnungshofs.
Zukunftsweisende xLSTM-Technologie aus Oberösterreich
Dabei wäre in Europa durchaus die wissenschaftliche Kompetenz vorhanden, um im globalen Wettbewerb mithalten zu können. An der Johannes Kepler Universität (JKU) in Linz etwa arbeitet mit Josef „Sepp“ Hochreiter ein KI-Forscher mit weltweiter Reputation. Der Oberösterreicher mit bayrischen Wurzeln hat bereits in den 90er-Jahren wichtige Beiträge für die Entwicklung von Deep Learning geschaffen, das eine Voraussetzung für sprachbasierte KI-Systeme wie ChatGPT ist. Mit dem Large Language Model xLSTM entwickelte der Wissenschaftler später mit bescheidenen finanziellen Mitteln die Grundlagen für eine Technologie, die ChatGPT in vielen Bereichen schlagen könnte. Das bestätigte auch eine im Herbst des Vorjahres veröffentliche wissenschaftliche Publikation. Sie zeigte beeindruckende Leistungsdaten und fand in Fachkreisen großes Echo.
Der Begriff xLSTM steht für long short term memory, „ein langes Kurzzeitgedächtnis für die KI“, wie Günter Klambauer, Universitätsprofessor am renommierten Institut für Machine Learning der JKU, erzählt. Er erläutert das Prinzip von xLSTM am Beispiel des Lesens eines Buches. Der Leser wisse, dass danach Fragen gestellt werden, und versuche folglich, möglichst viele Informationen dafür bereitzustellen. Die Transformer-Architektur, auf der Systeme wie ChatGPT beruhen, merkt sich alle Worte des Buches. Das habe den Nachteil, dass sehr viel Speicher notwendig sei. xLSTM habe dagegen eine wesentlich vorteilhaftere Speicherstruktur, „dieses System macht sich quasi Notizen, die in Tabellen abgespeichert werden, und muss daher nicht den vollständigen Text abspeichern“, erklärt Klambauer. Dadurch werde gegenüber den Transformer-Systemen enorm viel Speicherplatz gespart. „Außerdem ist die xLSTM-Technologie im Einsatz bereits jetzt deutlich schneller als Transformer-Modelle; wenn das Programm optimiert ist, wird das künftig auch beim Lernen der Fall sein“, so der JKU-Wissenschaftler. Ein weiteres Plus: Zusätzliche Informationen lassen sich in größerem Ausmaß integrieren.
An der Weiterentwicklung von xLSTM-Technologie wird – auch wenn die Mittel im Vergleich zu den USA knapp sind – mit Hochdruck gearbeitet, berichtet Klambauer. „Es wird sicher noch einige Zeit dauern, bis das System einsatzbereit ist“, sagt er. Aber bereits in einem Jahr will man erste Ergebnisse präsentieren. „Es schaut alles sehr gut aus, das Konzept hat auch international großes Echo gefunden.“ Um Mittel aufzubringen hat Hochreiter mit der Netural X und der Pierer Digital Holding des Unternehmers und KTM-CEO Stefan Pierer die NXAI GmbH gegründet. Vorerst investieren die privaten Kapitalgeber in Grundlagenforschung – ebenfalls nicht alltäglich in Österreich. Danach sollten auch kommerzielle Anwendungen für die xLSTM-Technologie am Programm stehen.
