Obwohl KI allgegenwärtig geworden ist, ist sie auch unglaublich komplex geworden. Tatsächlich ist sie inzwischen zu komplex für Menschen – selbst für Datenwissenschaftler und Ingenieure –, um die von KI-Systemen erzeugten Berechnungen zu verstehen. Darüber hinaus wurden ethische Bedenken geäußert, insbesondere im Hinblick auf Verzerrungen, die den Lernmodellen zugrunde liegen, auf denen KI basiert. Erklärbare KI (XAI) hilft, beide Probleme zu lösen.
Was ist XAI?
Erklärbare KI ist eine Reihe von Tools und Frameworks, die Menschen dabei helfen, die Ergebnisse von Machine-Learning-Modellen zu verstehen, zu interpretieren und ihnen zu vertrauen. XAI ist eine Metaebene als Erweiterung der KI, die das KI-Modell selbst beschreibt, einschließlich potenzieller Verzerrungen.
Wie XAI funktioniert
XAI schlüsselt die verschiedenen Merkmale und deren Beiträge auf, um zu zeigen, was genau die Prognosen des Modells beeinflusst.
Tools wie IBM AI Explainability 360, Fiddler Explainable AI und Google Vertex AI liefern detaillierte Informationen unter der Oberfläche zu Evaluierungsmetriken des Modells und den Beiträgen einzelner Merkmale. Diese Informationen vermitteln ein besseres Verständnis dafür, wie stark jedes Eingabemerkmal die Vorhersagen des Modells beeinflusst.
XAI funktioniert ähnlich wie Schulnoten. Testergebnisse mit einer Gewichtung von 25 Prozent beeinflussen die Abschlussnote deutlich stärker als Beteiligungsnoten, die mit 5 Prozent in die Gesamtnote einfließen.
Warum XAI für Ihr Unternehmen wichtig ist
Wenn Nutzer verstehen, wie bestimmte Prognosen zustande kommen, können sie bei Bedarf Korrekturmaßnahmen ergreifen, bevor das Modell in großem Maßstab eingesetzt wird. Das ist entscheidend, wenn es um Verzerrungen und die Ethik von KI geht, denn Unternehmen können potenzielle Diskriminierungen bestimmter Gruppen und Bevölkerungsgruppen erkennen und beseitigen.
XAI wirkt sich positiv auf die Gesamtleistung von KI aus, macht Entscheidungsprozesse transparenter und gewährleistet die Einhaltung gesetzlicher Vorschriften.
Optimale KI-Leistung
XAI ermöglicht ein besseres Verständnis des Verhaltens eines Modells, sodass Entwickler sicher sein können, dass das System ordnungsgemäß funktioniert. Kenntnisse über die Logik hinter KI-Algorithmen ermöglichen es Entwicklern, Fehler und Verzerrungen leichter zu erkennen und zu beheben, um die Modellleistung zu verbessern und genauere Erkenntnisse zu gewinnen.
Entscheidungsfindung
XAI beschreibt die Genauigkeit, Fairness und Transparenz des Modells, dessen Ergebnisse wiederum die Entscheidungsfindung in Ihrem Unternehmen beeinflussen. Mit erklärbarer KI kann ein Unternehmen daher darauf vertrauen, Entscheidungen auf der Grundlage fundierter Erkenntnisse zu treffen.
Compliance
Je nach Branche kann eine ordnungsgemäße Funktionsweise von Algorithmen erforderlich sein, um regulatorische Standards zu erfüllen. So schreiben beispielsweise die Artikel 13 und 22 der Datenschutz-Grundverordnung (DSGVO) der EU vor, dass Einzelpersonen die Möglichkeit haben müssen, eine aussagekräftige Erklärung für automatisierte Entscheidungen zu erhalten, die sie betreffen. Wird eine Entscheidung angefochten, stellt XAI die Hintergrunddaten und Dokumentation bereit, die zur ursprünglichen Entscheidung geführt haben.
Auch lesenswert: So erstellen US-Unternehmen robuste Prozesse für die DSGVO-Compliance
XAI für eine fairere KI in verschiedenen Branchen
XAI im Personalwesen
Die Anwendung von XAI auf das Bewerbermanagementsystem Ihres Unternehmens kann potenzielle diskriminierende Muster erkennen, bevor eine große Zahl qualifizierter Bewerber zu Unrecht ausgeschlossen wird.
XAI im Bankwesen
Banken profitieren von erklärbarer KI, um zu erkennen, ob in KI-Modellen, die Kreditkartenanträge, Erhöhungen von Kreditlinien und mehr genehmigen, diskriminierende Muster auftreten. Apple hat diese Lektion auf die harte Tour gelernt, als das Machine-Learning-Modell des Unternehmens zur Genehmigung oder Ablehnung erhöhter Kreditlimits angeblich aufgrund des Geschlechts diskriminierte.
XAI im Bildungswesen
KI ist zu einem wichtigen Bestandteil der Prüfungsaufsicht geworden, indem Tippmuster, Augenbewegungen und anderes Nutzerverhalten überwacht werden. Dabei verbreitet KI jedoch den sogenannten „digitalen Ableismus,“ also die Missachtung der Tatsache, dass Menschen Technologie je nach den Fähigkeiten ihres Körpers unterschiedlich nutzen und mit ihr interagieren. Das KI-gestützte Aufsichtssystem markiert Nutzer, die andere Fähigkeiten haben und/oder an Erkrankungen leiden, die sich auf die überwachten Aktivitäten auswirken.
Darüber hinaus hat es die KI-Technologie bei ihrer Gesichtserkennung versäumt, dunklere Hauttöne zu erkennen, was dazu führte, dass einige Studierende markiert wurden oder durchfielen und ihre Online-Prüfungen nicht bestanden.
XAI bei der Strafverfolgung
Da KI-gestützte Gesichtserkennungstechnologie People of Color nicht korrekt identifizieren kann, hat dies verheerende Folgen für ihren Einsatz in der Strafverfolgung, da Personen fälschlicherweise verdächtigt werden, Straftaten begangen zu haben.
Beispiele für ableistische und rassistische Verzerrungen beim Einsatz von KI im Bildungswesen und bei der Strafverfolgung unterstreichen die Notwendigkeit vielfältiger Eingaben und Trainingsdaten bei der Entwicklung von Lernmodellen sowie einer erklärbaren KI, die diese Lernmodelle transparenter macht.
XAI beim Militär
Die US-Luftwaffe setzt Drohnen ein, die mit der KI-gestützten 3D-Bilderkennungstechnologie von Z Advanced Computing ausgestattet sind, um die Verantwortung für Todesfälle zu gewährleisten, die diese Drohnen verursachen.
Herausforderungen von XAI
Fehlende gemeinsame Standards
Bei der Bestimmung der Erklärbarkeit von KI-Algorithmen benötigt die Entwicklergemeinschaft einen gemeinsamen Rahmen dafür, was Erklärbarkeit bedeutet, sowie einen entsprechenden Satz von Metriken dafür, was als gute Erklärung gilt.
Zugängliche Erklärungen
Algorithmische Erklärungen müssen zugänglich sein – nicht nur für Experten, sondern auch für nichttechnische Zielgruppen.
Gegenteiliger Effekt
Erklärbare KI dient als Gegenmittel gegen die komplexen Algorithmen und Verzerrungen von KI, indem sie eine Metaebene der Erklärung bereitstellt, die eine menschliche Interpretation ermöglicht. Die Erklärung von Algorithmen durch XAI öffnet jedoch die Tür für „adversariale Angriffe“ oder menschliche Manipulation, um wünschenswerte Ergebnisse zu erzielen, die die Entscheidungsfindung beeinflussen.
Unzureichende Leistung
Modelle verständlicher zu machen, kann letztlich die Systemleistung beeinträchtigen und dadurch zu ungenauen Ergebnissen führen, auf deren Grundlage Entscheidungen getroffen werden.
Datenschutz
Forschungen deuten auf die Notwendigkeit weiterer Untersuchungen zum Zusammenhang zwischen Datenfusion (der Zusammenführung mehrerer Datenquellen), Datenschutz und XAI hin. Derzeit ist unklar, in welchem Ausmaß die Erklärbarkeit den Datenschutz beeinträchtigt.
Die Zukunft von XAI
Ethik wird auch weiterhin in Gesprächen über den Einsatz von KI eine Rolle spielen. Da KI für das menschliche Gehirn zu komplex wird und ihre potenziellen Verzerrungen dadurch noch stärker verborgen werden, ist erklärbare KI ein Schritt in die richtige Richtung und ebnet den Weg für einen verantwortungsvolleren Einsatz von KI.
Unternehmen werden ihre Modelle voraussichtlich verbessern und Regierungen weitere Vorschriften einführen, insbesondere im Hinblick auf Gesichtserkennungstechnologie, um mit der rasanten Innovation und Verbreitung von KI Schritt zu halten. Erklärbare KI wird für die ethische Entwicklung und Anwendung von KI durch Unternehmen zunehmend notwendig werden.