Zemanek Lecture: Künstliche Intelligenz muss noch viel lernen

Künstlicher Intelligenz fehlt der menschliche Hausverstand und es ist kompliziert, die Feinheiten der menschlichen Intelligenz zu übertragen. Dieses Fazit konnten die Zuhörer*innen nach der zweiten Zemanek Lecture des Informatikers Georg Gottlob, Koryphäe im Bereich der Komplexitätstheorie, ziehen.

Informatiker Georg Gottlob hielt Zemanek Lecture in Wien über Künstliche Ignoranz

Im festlichen Ambiente des Festsaals der Universität Wien wurden die rund 200 Anwesenden am Donnerstag, 5. Oktober 2023, in die faszinierende Welt des maschinellen Lernens entführt. In seiner Zemanek Lecture, welche die Österreichische Computer Gesellschaft (OCG) einmal jährlich zu Ehren des Computerpioniers Heinz Zemanek veranstaltet, sprach Gottlob über Künstliche Intelligenz und Künstliche Ignoranz. Der Österreicher forscht an der Universität Oxford zu Algorithmen und Komplexitätsproblemen im Zusammenhang mit Graphen und Hypergraphen, Datenbankabfragesprachen und Problemzerlegungsmethoden.

Georg Gottlob

400 Jahre Rechenmaschinen

Gottliebs Vorredner Prof. Peter Reichl von der Universität Wien sprach zum 400. Geburtstag des Computers. Bereits 1623 wurde von dem Theologen Wilhelm Schickard für Johannes Kepler eine Rechenmaschine entworfen, um dessen komplizierte astronomische Berechnungen zu erleichtern: Der erste Computer war geboren (und verbrannte leider kurz darauf – nur Skizzen zeugen heute von der Erfindung). In seinem unterhaltsamen Vortrag, bei dem Reichl unter anderem eine von ihm aktualisierte Version des Märchens vom Schlaraffenland vortrug, wo zahlreiche digitale Dienste und Programme (von Alexa über Lieferando und diverse Social Media Plattformen bis Tinder, ebay uvm.) alle vermeintlichen Wünsche des Menschen erfüllen, weckte der Professor Lust mehr über die Geschichte des Computers zu erfahren. Reichls Buch  „Homo cyber” ist soeben im Müry Salzmann Verlag erschienen.

Peter Reichl trägt eine aktualisierte Version des Märchens vom Schlaraffenland vor.

Mit dem Heinz Zemanek Zitat „Das Bleibende ist der Mensch“, übergab Reichl an den Hauptredner des Tages. Zemaneks Kommentar fügte sich gut in Gottliebs Vortrag ein, welcher eindrücklich darlegte, was der Mensch der Maschine (noch) voraushat.

KI ignoriert Wesentliches bei Entscheidungen – leider!

Schon von Beginn an war die KI in einen symbolischen und einen subsymbolischen Zweig gespalten. Aus der subsymbolischen KI kamen in letzter Zeit enorme Fortschritte. Besonders stark ist die subsymbolische KI bei Mustererkennung und Klassifizierung doch die subsymbolische KI hat Schwächen in der Einbeziehung übertragbaren Wissens und Ziehen von Schlussfolgerungen, erläuterte Gottlob anhand eindrücklicher Beispiele. So habe er am eigenen Leib erfahren, welche Auswirkungen es haben kann, wenn KI auf Basis von falschen Schlussfolgerungen Entscheidungen in wichtigen Lebensbereichen des Menschen trifft. Nachdem er ein Haus gekauft hatte, schätzte das KI-System einer Bank seine Kreditwürdigkeit als gering ein, da der säumige Vormieter des Hauses fälschlicherweise mit Gottlob in Verbindung gebracht wurde. Das System wusste, dass Gottlob die gleiche Adresse hatte wie der Schuldner, konnte aber nicht, schlussfolgern, dass Gottlob und der Vormieter nie gleichzeitig an dieser Adresse lebten (in England gibt es kein Melderegister). Der menschliche Hausverstand hätte hier keine Probleme, den richtigen Schluss zu ziehen.

LLM ist toll, aber es mangelt an Logik

Obwohl die Large Language Models (LLM) aufgrund von drei Innovationen (Word Embeddings, Transformer Architecture und zwar speziell im Zusammenhang mit dem Attention Mechanism) revolutionär seien und ähnlich wie das menschliche Gehirn funktionierten, so Gottlob, sei die Entwicklung noch lange nicht abgeschlossen. LLMs halluzinieren, indem sie Fakten erfinden oder diese falsch darstellen. Manche Ergebnisse widersprechen gängigen Normen, in dem Zusammenhang spricht man von Bias (Voreingenommenheit).

„Wünschenswert wäre ein System, das maschinelles Lernen mit klassischen Regeln, Expert*innenwissen, ethischen und rechtlichen Vorgaben, physikalischen Gesetzen und logischen Modelle verbinden kann“, so Gottlob. Dies ist jedoch sehr herausfordernd, da die Einbindung dieser Regeln kompliziert ist und auch die klassische Logik allein nicht frei von fundamentalen Herausforderungen ist.

Gottlob arbeitet derzeit an einem Projekt (Chat2Data), einem Werkzeug zur Interaktion mit Datenbanken. Es steht wohl noch viel Arbeit bevor, bis wir über Systeme verfügen, die die Vorteile aus beiden Welten verbinden und die Künstliche Intelligenz auf diese Weise die Künstliche Ignoranz überwindet.

Zu Ehren Heinz Zemaneks

Prof. Gabriele Kotsis, Johannes-Kepler-Universität, moderierte die Veranstaltung und rief dazu auf, der Wissenschaft zuzuhören, um Krisen zu überwinden. Der Vizerektor der Universität Wien, Ronald Maier, zuständig für Digitalisierung und Wissenstransfer, freute sich, in seinem Haus das Vermächtnis von Heinz Zemanek zu ehren. OCG-Präsident Thomas Mück stellte im Rahmen seiner Begrüßung die Frage, warum Heinz Zemanek damals in Österreich einen Transistorrechner baute, obwohl klar war, dass es nicht der leistungsstärkste werden würde (vielleicht auch daher der Name „Mailüfterl“). „Meine Theorie ist: aus Neugier“, so Mück. „Er wollte wissen, wie es funktioniert und hat es einfach gemacht. Neugierde ist der Schlüssel, der Treiber etwas Großartiges zu schaffen.“ Noch etwas, was der Mensch der KI voraus hat.

Fotos zur Veranstaltung finden Sie hier.
Marena Balinova, Peter Reichl, Georg Gottlob, Laura Gottlob (v.l.n.r.)

Ehrengast Benedicta Zemanek (zweite v. l.)

Ehrengast Viktor Kudielka, Mitglied des damaligen “Mailüfterl”-Teams

OCG-Präsident Thomas Mück