Was ist Explainable AI (XAI)?

Explainable Artificial Intelligence (XAI) beschreibt Ansätze und Methoden, die darauf abzielen, die Entscheidungen und Ergebnisse von künstlicher Intelligenz (KI) nachvollziehbar und verständlich zu machen.

Mit der zunehmenden Komplexität der KI und den Fortschritten im Machine Learning ist es für User immer schwieriger, die Prozesse hinter den Ergebnissen einer KI nachzuvollziehen. Umso wichtiger ist es, das Verständnis für die Entscheidungen und Resultate künstlicher Intelligenzen so hoch wie möglich zu halten.

Gleichzeitig bleibt es ein zentrales Ziel der Forschung, KI so zu entwickeln, dass sie eigenständig lernt und Lösungen für komplexe Probleme findet. Genau hier setzt Explainable Artificial Intelligence (XAI) an: Sie schafft Transparenz, indem sie die „Black Box“ der KI öffnet und Einblicke in die Funktionsweise der Algorithmen ermöglicht. Andernfalls ist eine Vertrauensbasis zu den jeweiligen digitalen Berechnungen nicht gegeben. Die von Explainable AI geschaffene Transparenz ist somit von enormer Bedeutung für die Akzeptanz künstlicher Intelligenz.

Es soll erklärbare Modelle geben, ohne dabei auf die hohe Lernleistung verzichten zu müssen. Die Transparenz durch XAI ist entscheidend, um Vertrauen in KI-Systeme aufzubauen. So können User besser einschätzen, wie die KI arbeitet, und die Ergebnisse entsprechend bewerten. Ebenso soll ermöglicht werden, dass spätere User die entstehende Generation von künstlich intelligenten Partnern verstehen, ihr in angemessenem Maß vertrauen und effizient mit ihr umgehen und arbeiten können. Ohne diese Nachvollziehbarkeit bleibt eine verlässliche Nutzung und Akzeptanz von KI schwierig.

Die wichtigsten Anwendungsgebiete von XAI

Künstliche Intelligenz betrifft schon lange nicht mehr nur Forschende. Vielmehr ist sie bereits fester Bestandteil des alltäglichen Lebens. Daher ist es umso wichtiger, dass die Modularität der künstlichen Intelligenz nicht nur Fachpersonen und den direkten Usern nähergebracht wird: Insbesondere Entscheidungstragenden muss die Funktionsweise von KI so verständlich wie möglich gemacht werden, um die Basis für das Vertrauen in die Technik zu schaffen. Hier besteht deshalb besonders die Rechenschaftspflicht (engl. accountability). Zu den wichtigsten Anwendungsgebieten zählen:

Autonomes Fahren

Beispielweise entwickelt das Projekt “KI-Wissen” in Deutschland Methoden zur Integration von Wissen und Erklärbarkeit in Deep-Learning-Modelle für autonomes Fahren. Ziel ist es, die Dateneffizienz und Transparenz solcher Systeme zu verbessern, um ihre Zuverlässigkeit und Sicherheit zu erhöhen.

Medizinische Diagnostik

In der Gesundheitsbranche wird KI zunehmend für Diagnosen und Therapieempfehlungen eingesetzt, zum Beispiel in der Onkologie, um auf Krebs hindeutende Muster in Gewebeproben zu erkennen. Das Projekt Clinical Artificial Intelligence am Else Kröner Fresenius Zentrum für Digitale Gesundheit. Explainable AI ermöglicht es, die Entscheidungen einer KI nachzuvollziehen, etwa warum eine bestimmte Krankheit diagnostiziert oder eine spezifische Behandlung vorgeschlagen wurde. Dies ist essenziell, um das Vertrauen der Patientinnen und Patienten sowie der medizinischen Fachkräfte in KI-gestützte Systeme zu stärken.

Finanzsektor

Im Finanzwesen kommt KI beispielsweise bei Kreditentscheidungen, Betrugserkennung und Risikobewertungen zum Einsatz. XAI hilft dabei, die Grundlage solcher Entscheidungen offenzulegen und sicherzustellen, dass sie ethisch und rechtlich vertretbar sind. So können Betroffene und Aufsichtsbehörden nachvollziehen, wie und warum ein Kredit bewilligt oder abgelehnt wurde.

Unternehmenssteuerung und Management

Für Führungskräfte ist es wichtig, die Funktionsweise von KI-Systemen zu verstehen, die beispielsweise für strategische Entscheidungen oder Prognosen eingesetzt werden. XAI ermöglicht es, Einblicke in die Algorithmen zu erhalten und deren Ergebnisse fundiert zu bewerten.

Neuronale Netzwerk-Bildgebung

Explainable Artificial Intelligence wird auch in der neuronalen Netzwerk-Bildgebung eingesetzt, insbesondere in der Analyse von Bilddaten durch KI. Hierbei geht es darum, zu verstehen, wie neuronale Netzwerke visuelle Informationen verarbeiten und interpretieren. Anwendungen reichen von der medizinischen Bildgebung, wie der Analyse von Röntgenaufnahmen oder MRT-Scans, bis hin zur Optimierung von Überwachungstechnologien. XAI hilft dabei, die Funktionsweise der KI zu entschlüsseln und aufzuzeigen, welche Merkmale in einem Bild zur Entscheidungsfindung beitragen. Dies ist besonders in sicherheitskritischen oder ethisch sensiblen Anwendungen wichtig, da falsche Interpretationen schwerwiegende Folgen haben können.

Training militärischer Strategien

Im militärischen Bereich wird KI genutzt, um Strategien für taktische Entscheidungen oder Simulationen zu entwickeln. XAI spielt eine entscheidende Rolle: Dies umfasst die Erklärung, warum bestimmte taktische Maßnahmen empfohlen werden oder wie die KI verschiedene Szenarien priorisiert.

XAI sorgt in diesen und vielen weiteren Bereichen dafür, dass KI-Systeme als vertrauenswürdige Werkzeuge wahrgenommen werden, deren Entscheidungen und Prozesse nachvollziehbar und ethisch vertretbar sind.

Wie funktioniert XAI?

Es existieren verschiedene Methoden bzw. Ansätze, um Transparenz und Verständnis für künstliche Intelligenz zu schaffen. In den folgenden Absätzen haben wir die wichtigsten für Sie zusammengefasst:

• Die Layer-wise Relevance Propagation (LRP; etwa: „Schicht für Schicht erfolgende Übertragung von Bedeutung“) wurde erstmals 2015 beschrieben. Hierbei handelt es sich um eine Technik zur Bestimmung der Merkmale von Eingangsvektoren, die am stärksten zum Ausgabeergebnis eines neuronalen Netzwerks beitragen.
• Die Counterfactual Method („kontrafaktische Methode“) beschreibt, wie Daten-Input (Texte, Bilder, Diagramme etc.) nach Erhalt eines Resultats ganz gezielt verändert werden. Im Anschluss wird beobachtet, inwiefern sich das Ausgaberesultat dadurch verändert hat.
• Local Interpretable Model-Agnostic Explanations (LIME) ist ein Erklärmodell mit ganzheitlichem Anspruch. Es will jeden maschinellen Klassifikator und die daraus folgende Prognose erklären können. Dadurch sollen die Daten und Vorgehensweisen auch für fachfremde Anwendende verständlich gemacht werden.
• Die Rationalization ist ein Verfahren, das speziell bei AI-basierten Robotern eingesetzt wird. Dabei wird die Maschine so konzipiert, dass sie in der Lage ist, ihre Handlungen selbstständig zu erklären.

Was ist der Unterschied zwischen Explainable AI und Generative AI?

Explainable AI (XAI) und Generative AI (GAI) unterscheiden sich grundlegend in ihrem Fokus und ihrer Zielsetzung:

XAI zielt darauf ab, die Entscheidungsprozesse von KI-Modellen nachvollziehbar und verständlich zu machen. Dies geschieht durch Methoden wie Visualisierungen, regelbasierte Systeme oder Tools wie LIME und SHAP. Der Schwerpunkt liegt hier auf Transparenz, insbesondere in kritischen Bereichen, in denen Vertrauen und Nachvollziehbarkeit essenziell sind.

Generative AI hingegen konzentriert sich auf die Erstellung neuer Inhalte wie Texte, Bilder, Musik oder Videos. Sie nutzt neuronale Netze wie Generative Adversarial Networks (GANs) oder Transformer-Modelle, um kreative Ergebnisse zu erzeugen, die menschliches Denken oder künstlerische Prozesse simulieren. Beispiele hierfür sind Textgeneratoren wie GPT oder Bildgeneratoren wie DALL-E, die vor allem in der Kunst, Unterhaltung und Content-Produktion Anwendung finden.

Während XAI darauf abzielt, bestehende KI-Modelle zu erklären, liegt der Fokus von GAI auf der Generierung innovativer Inhalte. Beide Ansätze können jedoch miteinander kombiniert werden. Beispielsweise können generative Modelle durch XAI erklärt werden, um sicherzustellen, dass ihre Ergebnisse ethisch, transparent und vertrauenswürdig sind. Zusammen ergänzen sich XAI und GAI, indem sie Transparenz und Innovation im Bereich der künstlichen Intelligenz vorantreiben.