Erklärbare KI soll für Transparenz sorgen
KI beeinflusst Business Intelligence
Netzwerke werden immer komplexer bei gleichzeitig wachsenden Herausforderungen an Leistungsfähigkeit und Verfügbarkeit. Auch die Ansprüche an die IT-Abteilungen erhöhen sich stetig bei gleichbleibender Personalausstattung. IT-Tools wie intelligente Chatbots - etwa bei der Kennworterstellung - oder Predictive Maintenance sollen in diesem Umfeld entlasten und möglichst reibungslose Abläufe gewährleisten. Um das volle Potenzial von künstlicher Intelligenz und Machine Learning zu nutzen, ist allerdings Vertrauen in die Abläufe der hinterlegten komplexen Algorithmen notwendig. Menschen wollen verstehen, warum und vor allem wie die künstliche Intelligenz ihre Entscheidungen fällt.
Die Vorteile von künstlicher Intelligenz (KI) und Machine Learning (ML) sind in der IT-Welt mittlerweile weithin anerkannt. Deutschland und Europa sollen zu einem führenden Standort für KI werden. Eines ist klar: KI muss wie alles in der digitalen Transformation dem Menschen dienen. Doch mit neuen Techniken sind stets auch Ängste verbunden. Damit KI tatsächlich etwas bewegen kann, muss sie vertrauenswürdig sein. Dazu gehört eine nachvollziehbare, transparente Erklärung, wie Informationen verarbeitet werden und wie eine KI zu ihren Ergebnissen gelangt. Außerdem muss KI aufkommende Fragen dynamisch beantworten und so Daten für Menschen verständlicher machen.
Künstliche Intelligenz weckt die Erwartung, dass Maschinen dem Menschen durch automatisierte Entscheidungen zu besseren Erkenntnissen verhelfen. Immer mehr Unternehmen verlassen sich deshalb auf Modelle der künstlichen Intelligenz und des maschinellen Lernens. Die Verantwortlichen fragen sich jedoch auch: Wie können wir sicherstellen, dass automatische Empfehlungen und Modelle vertrauenswürdig sind? Die Algorithmen und Logiken, auf denen Entscheidungen und Empfehlungen beruhen, sind bei vielen Machine-Learning-Anwendungen nicht nachvollziehbar. Adrian Weller, Senior Research Fellow für Machine Learning an der Universität Cambridge, erklärt daher zu Recht, dass "Transparenz oft als wesentliche Voraussetzung für eine effektive Bereitstellung intelligenter Systeme in der Praxis" gilt. Diese Forderung nach Transparenz wird den Aufstieg der so genannten "erklärbaren künstlichen Intelligenz" (Explainable Artificial Intelligence) entscheidend vorantreiben. Erklärbare KI gibt Einblicke in Machine-Learning-Modelle und ermöglicht damit ein Verständnis für deren Funktionsweise.
Viele Führungskräfte verlangen daher schon jetzt von ihren Data-Science-Teams, aber auch zunehmend von ihren IT- und Netzwerkadministratoren, dass sie besser erklärbare Modelle anwenden, die verständliche Ergebnisse liefern und Fragen dynamisch beantworten können. Vor diesem Hintergrund werden Datenfachleute zunehmend BI-Plattformen einsetzen, mit denen sie Schlussfolgerungen interaktiv untersuchen und prüfen können.
Ethikregeln und Transparenz in den BI-Modellen
Aktuelle Entwicklungen beim Datenschutz werden die Verbreitung erklärbarer KI zusätzlich vorantreiben. Angesichts neuer Datenschutzvorschriften wie der Datenschutz-Grundverordnung (DSGVO) der EU müssen sich Unternehmen zunehmend mit den ethischen Aspekten des Datenumgangs befassen. Hinzu kommt, dass die EU einen dreistufigen Prozess im Rahmen einer KI-Strategie-Entwicklung festgelegt hat. Dazu hatte die EU-Kommission erst im Frühjahr Empfehlungen für Ethikregeln für die Entwicklung und Anwendung von KI in Europa vorgelegt.
In der derzeitigen Pilotphase können diese Richtlinien getestet und noch bis 2020 Erfahrungen daraus mitgeteilt werden. Anschließend sollen auf Basis der gemachten Erfahrungen entsprechende Gesetzesvorschläge folgen. Dies bedeutet, dass die Themen Ethik und Datenschutz beim Einsatz von KI die Geschäftswelt auch noch die kommenden Jahre stark beschäftigen werden.
Diskussionen über Datenethik und Datenschutz im Kontext der täglichen Geschäftspraktiken werden im Wesentlichen zwei Konsequenzen haben: Erstens die vermehrte Entwicklung von Ethikkodizes. Viele Berufsgruppen sind bereits grundsätzlich an einen Ethikkodex gebunden. Da Daten allerdings viele Geschäftsabläufe immer stärker durchdringen, müssen die Verantwortlichen Unternehmen auch darüber nachdenken, welche ethischen Grundsätze sich auf ihre Data-Analytics-Praktiken anwenden lassen. Sie sollten einen Rahmen für künftige Infrastruktur-, Governance- und Personalentscheidungen setzen. Viele Führungskräfte, vor allem Chief Data Officers (CDOs), entwickeln bereits im Rahmen der digitalen Transformation interne Richtlinien für den unternehmensweiten Umgang mit Daten. Dies ergab eine 2017 durchgeführte Gartner-Umfrage unter CDOs. Sie zeigt, dass die Zahl der CDOs, die ethische Fragen als Teil ihres Aufgabenbereiches begreifen, zwischen 2016 und 2017 um zehn Prozentpunkte gestiegen ist.
Einhaltung gesetzlicher Regelungen
Viele Unternehmen hinterfragen aktuell zudem den ganzen Lebenszyklus ihrer Daten, von der ersten Erfassung, über die Bearbeitung bis hin zur Analyse. Damit lässt sich die komplette Daten-Management-Strategie durchleuchten. Zudem ist die Einhaltung gesetzlicher Regelungen und interner ethischer Vorgaben zu sichern. Allerdings sind derartige Überprüfungen keine einmalige Sache. Wie Accenture in dem Bericht Universal Principles of Data Ethics (Universelle Grundsätze für Datenethik) unterstreicht, sollten "Governance-Praktiken gut durchdacht, allen Teammitgliedern vermittelt und regelmäßig überprüft werden". Hinzu kommt, dass sie mit Wachstum und Entwicklung des Unternehmens als Ganzes Schritt halten müssen.
Datenexpertise wandert in die Fachabteilung
KI transparent und somit nachvollziehbar zu machen, ist nur eine der vielen Aufgaben, die auf Data Scientists in Zukunft vermehrt zukommen wird. Andere - wie die Erstellung von Reports oder Auswertung von Daten - wandern dafür in die Fachabteilungen.
Dies verschiebt die Definition von Data Science und lässt die Grenzen zwischen den traditionellen Datenexperten der IT und Mitarbeitern mit hoher Datenkompetenz verschwimmen. Heutige Data Scientists geben nicht mehr nur Ergebnisse weiter - sie wirken an ihrer Umsetzung im Unternehmen direkt mit und nehmen zunehmend beratende Funktionen ein. Dies erleichtert die Transformation zum datengetriebenen Unternehmen.
Lesen Sie mehr zum Thema
