Business Intelligence
Mit Machine Learning auf Tuchfühlung
Fortsetzung des Artikels von Teil 1
Was Unternehmen von ML abhält
Die Anwendung von ML ist allerdings keine Selbstverständlichkeit, denn sowohl die Erklärbarkeit als auch die ethische beziehungsweise juristische Vertretbarkeit von ML-Systemen lassen Unternehmen bei der Nutzung zögern. Solange es keine klar definierten gesetzlichen Vorgaben gibt, müssen Anbieter von Software mit ML-Komponenten selbst für Transparenz beim Einsatz dieser vermeintlichen „Black Box“ sorgen, um Anwendern eine sorgenfreie Nutzung zu garantieren.
Je fortschrittlicher KI wird, desto schwieriger wird es für den Menschen nachzuvollziehen, wie der Algorithmus zu einem Ergebnis gekommen ist. Der gesamte Berechnungsprozess wird zu einer „Black Box“, die sich nicht mehr auf den ersten Blick interpretieren lässt. Erklärbarkeit der Systeme ist daher nicht nur nötig, um Entwicklern dabei zu helfen sicherzustellen, dass das System wie erwartet funktioniert. Sie kann notwendig sein, um regulatorische Standards zu erfüllen oder den von einer Entscheidung Betroffenen zu ermöglichen, das Ergebnis anzufechten oder zu ändern. Unterschiedliche Methoden erlauben es mittlerweile, Erklärungen für die Ergebnisse von Algorithmen zu geben, die genügen, um wesentliche Entscheidungsgrundlagen nachvollziehbar zu machen.
Weitere maßgebliche Faktoren, die Unternehmen davon abhalten, ML-Systeme einzusetzen, sind der Mangel an internem Wissen und auch die Sorge, durch die Einarbeitung von Mitarbeitern Kapazitäten zu verlieren. Der Mangel an Fachwissen trägt dazu bei, dass nur etwa die Hälfte der Projekte, die KI-Methoden nutzen, in den Produktiv-betrieb gelangen. Hier setzen Zusammenarbeitsmodelle und Tools an, die es Unternehmen ermöglichen sollen, ML-Modelle zu entwickeln und einzusetzen, ohne dass sie in großem Umfang in Data Scientists und Entwickler investieren müssen.
Juristische Bedenken finden sich insbesondere beim Einsatz von ML und KI in der Verarbeitung von personenbezogenen Daten. Hier gilt das Datenschutzrecht mit zahlreichen zu erfüllenden Anforderungen. Wenn personenbezogene Daten verarbeitet werden, ist es alternativlos, die Lösung mit datenschutzrechtlicher Expertise (Stichwort DSGVO und BDSG) zu planen – hier werden nicht nur Anforderungen gestellt, unter welchen Umständen solche Daten überhaupt verarbeitet werden dürfen, sondern auch, wie eine Verarbeitung auf den IT-Systemen zu organisieren und abzusichern ist. Diese Regulierungen sind häufig prinzipienbasiert formuliert, was ein Abarbeiten der Vorgaben erschwert.
| Unterschied KI und ML |
|---|
| Künstliche Intelligenz und Machine Learning sind eng miteinander verwandt – jedoch nicht identisch. Als KI wird bezeichnet, wenn ein Computersystem menschlich-kognitive Funktionen imitieren kann, um ein Problem zu lösen. Der KI-Vorreiter John McCarthy fasste den Begriff bereits 1955 folgendermaßen zusammen: „Ziel der KI ist es, Maschinen zu entwickeln, die sich verhalten, als verfügten sie über Intelligenz.“ Maschinelles Lernen ist eine Anwendung, also ein Teilbereich, von KI. Wesentlich bei ML ist der Aspekt des Selbstlernens. (SN) |
Die ethische Komponente gilt es sowohl bei der Entwicklung eines Systems als auch in der Bereitstellung der – einer Künstlichen Intelligenz zugrundeliegenden – Daten zu bedenken. So ist insbesondere wichtig zu entscheiden, welche Daten überhaupt relevant für die Ziele eines Unternehmens sind. Ein Beispiel: In einer Anwendung sollte ein Modell lernen, Huskys von Wölfen zu unterscheiden. Aufgrund der Tatsache, dass die meisten Wolfsbilder, die zur Verfügung standen, das Tier vor einer Schneekulisse zeigten, lieferte das System zwar zumeist korrekte Ergebnisse, jedoch hatte es lediglich gelernt, Schnee zu identifizieren. Dieses Beispiel mag zunächst unkritisch erscheinen, jedoch tat das Modell nicht das, wovon man eigentlich ausgegangen ist. Hinzu kommt: Handelt es sich um personenbezogene Anwendungsfälle, wird schnell klar, dass es beispielsweise zu ungewollten Diskriminierungen kommen könnte. Generell ist man daher gut beraten, bereits bei der Datenaufbereitung ein Augenmerk darauf zu haben, ob ein Datensatz repräsentativ ist und welche Rohdaten verarbeitet werden. Eine spätere Auswertung auf das Verhalten bei sensiblen Teilgruppen ist empfehlenswert. Auch hier lassen sich Anwendungen darauf analysieren, welche Komponenten eines Datensatzes relevant für den Nutzer sind und welche nicht.
Zu verantwortungsvollem Umgang gelangen
ML kann durch die kontinuierliche Verbesserung von Datenverarbeitung den Unternehmen einen Mehrwert liefern. Wichtig für Unternehmen ist, sich vorab mit der Komplexität ethischer und juristischer Fragen auseinanderzusetzen, sofern sie ML nutzen wollen. Es gibt verschiedene Ansätze, die eine bessere Erklärbarkeit (und damit einhergehend eine potenzielle Vorbeugung ethischer und juristischer Streitfälle) von KI und ML-Modellen erreichen und somit Licht ins Dunkel der Black Box-Systeme bringen. Letztlich gilt für Unternehmen zu entscheiden, ob sie den genutzten ML-Systemen erlauben wollen, sich eigenständig weiterzuentwickeln, oder ob sie abgeriegelte Systeme nutzen wollen. Eine regelmäßige Kontrolle ist in beiden Fällen notwendig.
Unternehmen, die ML-Modelle in ihrer Datenverarbeitung nutzen, sollten sich also mit dem Forschungsstand und mit Fragen zur Transparenz und Erklärbarkeit auseinanderzusetzen. Das ist zum einen aus Eigeninteresse wichtig, um die Nutzung eigener Daten besser zu verstehen. Zum anderen ist es notwendig, ML kritisch zu bewerten, um einen verantwortungsvollen Umgang damit zu gewährleisten und etwaigen ethischen Fragen zuvorzukommen. Dies gilt es auch im juristischen Zusammenhang zu leisten, insbesondere, da die EU-Kommission einen Gesetzentwurf ausarbeitet, um den Einsatz von Künstlicher Intelligenz zu regulieren. Hier lohnt es sich für Unternehmen, besonders vorausschauend zu agieren, um eventuelle Probleme, die durch ML-Modelle entstehen könnten, zu antizipieren und ihnen zuvorzukommen.
Martin Baumann ist Director Analytics bei Experian DACH
- Mit Machine Learning auf Tuchfühlung
- Was Unternehmen von ML abhält
