Heidelberger Experten warnen bei KI-Konferenz vor überzogenen Erwartungen

Heidelberg. „I just called to say…“ – Die meisten im Konferenzraum wissen, was folgt, und singen: „I love you.“ Das Lied von Stevie Wonder ist bekannt. Dann folgt der nächste Song: „No sleep till …?“ Drei Zuhörer rufen: „Brooklyn“. Die New Yorker Hip-Hop-Band Beastie Boys ist weniger populär, also schweigt der Rest im Saal.

„Wir wissen, dass wir nicht wissen“, sagt Sven J. Körner vom Heidelberger KI-Start-up Aleph Alpha. Für Körner der elementare Unterschied zwischen Mensch und Maschine: „Die Künstliche Intelligenz weiß ja nicht mal, dass sie mit jemandem spricht.“ Vielmehr berechne sie die wahrscheinlichste Antwort, und das könne im Falle des vorgegebenen Liedanfangs auch sein: „No sleep till I get home“. In dem Fall hätte die Künstliche Intelligenz (KI) halluziniert – was allerdings nur den drei Personen aufgefallen wäre, die den Beastie-Boys-Song kannten.

Dass KI halluziniert, sie also erfundene Informationen erzeugt, ist inzwischen bekannt, für Körner per se nichts Negatives, denn letztlich mache die Maschine das, für das sie gebaut worden sei: eine mathematische Berechnung perfekt ausführen und auf dieser Basis die wahrscheinlichste Fortsetzung nennen. „Es ist ja auch nicht der Hammer schuld, wenn du dir auf die Finger haust.“ Was Körner im derzeitigen Hype um KI aber sagen will: „Das System hat seine Grenzen.“ Large Language Models (LLM), Sprachmodelle, die mit großen Datenmengen trainiert werden, seien nur durchschnittlich, wer sich auf einem Gebiet auskenne, sei immer noch besser als die KI, ist Körner überzeugt.

Sven J. Körner: Dürfen von Künstlicher Intelligenz keine Magie erwarten

Das klingt ein bisschen nach dem Gegenteil von dem, was die Konferenz am vergangenen Freitag im Heidelberg Innovation Park, dem Innovations-Quartier auf dem ehemaligen Gelände der US-Army, präsentieren will: nämlich KI-Lösungen. „Wenn das so einfach wäre, hätten wir längst alle Branchen übernommen“, bremst Körner die Erwartungen. Doch so trivial sei das Ganze eben nicht. Man dürfe von KI keine Magie erwarten.

Das sieht Matthias Biniok ähnlich. „80 Prozent der KI-Projekte gehen schief“, betont der Experte, der beim Technologiekonzern IBM das Client Engineering leitet, das für Kunden konkrete Lösungen entwickelt. KI sei ein Trendthema, das nicht unterschätzt werden sollte. „Man muss es aber richtig anstellen.“ Richtig heiße: Wer einen KI-Agenten entwickele, Programme, die autonom Aufgaben ausführen, müsse die IT-Sicherheit und Regulatorik mitbedenken sowie die Risiken überwachen, was die KI mache, müsse zurückverfolgt werden können. Auch sollte der Mensch das letzte Wort haben, Einschätzungen wie „Die KI wird das schon richtig entschieden haben“, hält Biniok für gefährlich.

Als Beispiel für die Implementierung eines KI-Systems, das nachweislich Zeit spare, präsentiert Biniok „JuKI“, ein Pilotprojekt, das in Zusammenarbeit von IBM und der Jugendhilfe des Landkreises Augsburg entstanden ist. Das webbasierte KI-gestützte Programm hilft den Mitarbeitenden der Jugendhilfe bei der Bearbeitung von Anträgen in der Kostenbeitragsberechnung. Das zeitaufwendige Sammeln und Prüfen von Unterlagen reduziert der neue fleißige Mitarbeiter „JuKI“ laut Landratsamt Augsburg von mehreren Tagen auf wenige Stunden oder sogar Minuten.

Wichtig sei, überhaupt ins Machen zu kommen, fordert Cihan Sügür von der IT- und Managementberatung MHP, ein Tochterunternehmen der Porsche AG. „Einfach mal bauen und auf den Markt bringen, ist nicht so unser Ding“, sieht er das größte Defizit in Deutschland im Dialog zwischen Wissenschaft und Forschung sowie denjenigen, die die Ideen dann umsetzen, den Unternehmen. Daneben fehle hierzulande das Geld, um Entwicklungen im Bereich Künstliche Intelligenz voranzubringen: „Das Pflänzchen wächst supergut, andere Länder schütten es mit Geld zu.“

Ameria AG in Heidelberg arbeitet an einer KI-Lösung für OPs in Krankenhäusern

Dass es die „Pflänzchen“ aber auch in Deutschland geben kann, demonstriert Johannes Tröger von der Ameria AG in Heidelberg, einem Deep-Tech-Unternehmen, das ein KI-Device auf Laptop-Basis entwickelt. Erprobt wird der Prototyp derzeit im Krankenhaus Salem in der Urologie. MRT-Aufnahmen beispielsweise der Niere werden auf das Gerät gespielt, das daraus ein 3-D-Modell erzeugt, das im unsichtbaren Raum vor dem Bildschirm zu schweben scheint und sich ohne VR-Brille mit natürlichen Gesten steuern lässt. Auf diese Weise sollen Ärzte ihre Patienten aufklären und Operationen vorbereiten. Auch während der OP soll das Display unterstützen, erklärt Tröger.

Grundsätzlich räumt aber auch er ein: „Wir stehen bei KI noch ganz am Anfang." Mit Hilfe von ChatGPT Texte zu generieren sei weit von dem entfernt, was die Technologie zu leisten imstande sei. Damit die breite Masse neue Anwendungen jedoch auch nutze, müssten einfach zu bedienende Oberflächen geschaffen werden. Tröger vergleicht das mit Mannheims Automobilpionier Carl Benz, dessen erstes Modell im Aussehen und Handling einer Kutsche geähnelt habe.

Heidelbergs Oberbürgermeister Eckart Würzner, der der Konferenz mittags einen Besuch abstattet, sieht mit Blick auf Start-ups und Innovationen die Stadt auf einem guten Weg. Er warnt aber auch, dass Unternehmen nicht ins Ausland abwandern dürften, weil sie dort womöglich bessere Bedingungen vorfänden. Sowohl beim Testen, der Möglichkeit, Businessideen praktisch anzuwenden, als auch bei der Finanzierung müsse Deutschland besser werden.