Startseite > Markt > Die Psychologie des Vertrauens in KI

Herausforderungen und Chancen

Die Psychologie des Vertrauens in KI

6. Oktober 2023, 9:02 Uhr | Autor: John Blythe / Redaktion: Diana Künstler

Trotz ihres enormen Potenzials gibt es viele Menschen, die der KI gegenüber skeptisch oder gar misstrauisch eingestellt sind – was wiederum deren Verbreitung beeinflusst. Das Thema „Vertrauen in KI“ ist dabei komplex und mündet in vielschichtigen Fragen der Ethik, Transparenz und Nutzererfahrung.

Der Artikel liefert unter anderem Antworten auf folgende Fragen:

Welche Bedenken gibt es gegenüber KI?
Welche Rolle spielt Vertrauen im Rahmen der zunehmenden Verbreitung von KI?
Worauf basiert das psychologische Konzept Vertrauen?
Inwiefern stellt der Aufbau von Vertrauen in KI eine Herausforderung dar?
Welche Einflussfaktoren mit Blick auf das Vertrauen in KI gibt es?
Wie lässt sich Vertrauen in KI nachhaltig aufbauen?

Matchmaker+ Anbieter zum Thema

zu Matchmaker+

KI hat das Potenzial, unsere Gesellschaft zu revolutionieren, sie wirft aber auch tiefgreifende Fragen auf. Trotz des beeindruckenden Leistungsvermögens von KI-Systemen werden berechtigte Bedenken hinsichtlich Voreingenommenheit, mangelnder Ethik, intransparenter „Black-Box-Algorithmen“ und der Tendenz, falsche oder verzerrte Informationen zu generieren, die Entscheidungsprozesse kompromittieren können, laut – und lassen Zweifel an ihrer Vertrauenswürdigkeit aufkommen.

Vertrauen ist im Rahmen der zunehmenden Verbreitung von KI ein wesentlicher Faktor, der keinesfalls außer Acht gelassen werden darf. Vertrauen bildet die Grundlage menschlicher Beziehungen, und ein Verständnis der Psychologie des Vertrauens im Zusammenhang mit KI ist entscheidend für die Gestaltung ihrer Rolle in Unternehmen. Sich eingehender mit dem Vertrauensaspekt zu beschäftigen ist deshalb so wichtig, weil seine psychologischen Grundlagen die „Beziehung zwischen Mensch und Maschine“ maßgeblich prägen. Sie geben nicht nur Aufschluss über die Ablehnung von KI durch Einzelpersonen oder Unternehmen, sondern auch über ihren unsachgemäßen Einsatz – etwa, wenn Mitarbeiter*innen sensible Unternehmensdaten hochladen – und ihren Missbrauch – etwa, wenn Cyberkriminelle KI nutzen, um überzeugende Phishing-E-Mails zu verfassen.

Die Komplexität des Vertrauens

Vertrauen ist ein komplexes psychologisches Konzept, das tief in der menschlichen Natur verwurzelt ist. Wenn wir mit unseren Mitmenschen interagieren, bildet Vertrauen häufig die Basis, wenn es darum geht, bedeutungsvolle Verbindungen und kooperative Beziehungen aufzubauen. In der Kindheit bauen wir Vertrauen zu den Menschen auf, die uns am nächsten stehen, und später verstehen wir, wie viel und wem wir vertrauen sollten. Wir neigen dazu, Menschen zu vertrauen, die kompetent handeln, ihre Verpflichtungen mit Integrität erfüllen und Empathie zeigen, indem sie unsere Bedürfnisse verstehen und auf sie eingehen.

Aufbau von Vertrauen in KI

Vor diesem Hintergrund stellt der Aufbau von Vertrauen in KI eine Herausforderung dar. Im Gegensatz zum Menschen hat KI kein Bewusstsein, keine Emotionen und keine persönliche Verantwortung, sodass es schwierig ist, die gleichen Vertrauensmarker anzuwenden, die wir bei menschlichen Interaktionen verwenden. KI arbeitet mit Algorithmen und Daten und trifft Entscheidungen auf der Grundlage von Mustern und nicht auf der Grundlage eines echten Verständnisses menschlicher Emotionen oder Absichten.

Darüber hinaus kann die mangelnde Transparenz im Zusammenhang mit KI zu Vertrauensproblemen führen. „Black-Box-Algorithmen“ – die Ergebnisse liefern, ohne die zugrunde liegende Räson zu erläutern – können bei den Nutzer*innen ein Gefühl der Unsicherheit im Hinblick auf den Entscheidungsfindungsprozess der KI hinterlassen. Vertrauen setzt Verständnis voraus, und wenn wir nicht nachvollziehen können, wie die KI zu einer Schlussfolgerung gelangt ist, schwindet unser Vertrauen in ihre Fehlerfreiheit und Unvoreingenommenheit.

Einflussfaktoren

Jüngste Forschungsergebnisse zeigen¹, dass das Vertrauen in KI sowohl von den Eigenschaften der KI selbst als auch den Eigenschaften ihrer Nutzer*innen beeinflusst wird.

Technische und konzeptionelle Merkmale, die das Vertrauen fördern:

KI-Systeme, die darauf ausgelegt sind, Nutzer*innen zu unterstützen und mit ihnen zu kommunizieren, wie zum Beispiel Chatbots und Smart Speaker, können davon profitieren, wenn sie menschliche Reaktionen (wie Lächeln oder das Zeigen von Interesse) und nonverbale Kommunikation (wie Körpersprache und Blickkontakt) nachahmen, die Zufriedenheit der Nutzer*innen mit der Erfüllung ihrer Aufgaben berücksichtigen, textbasierte Antworten liefern und – im Falle von sprachbasierten KI-Systemen – eine niedrigere Tonlage verwenden.
Bei KI-Systemen, die auf automatisierten Algorithmen basieren, gehören zu den Faktoren, die das Vertrauen beeinflussen, Erläuterungen und Transparenz in Bezug auf die Funktionsweise der Algorithmen, die Zuverlässigkeit und das Handeln der KI, Risikofaktoren im Zusammenhang mit Prognosemodellen und die Genauigkeit von KI-Prognosen.

Nutzer*innenmerkmale und ihre Auswirkungen auf das Vertrauen:

Es gibt individuelle Unterschiede in Bezug auf das Vertrauen der Nutzer*innen in KI, einschließlich früherer positiver Erfahrungen mit KI, der Nutzungsabsicht, der wahrgenommenen Relevanz der Technologie und Qualität der Informationen sowie des wahrgenommenen Gesamtnutzens.
Diskrepanzen zwischen den Erwartungen der Nutzer*innen und ihren Erfahrungen können ein Risiko für das Vertrauen darstellen. Die Qualität der Interaktion und die Zeit, die die Nutzer*innen mit der KI verbringen, haben beide Einfluss auf das Vertrauen – wobei sich hohe kognitive Anforderungen vertrauensmindernd auswirken.
Interessanterweise ist das Vertrauen der Nutzer*innen in KI umso größer, je häufiger sie diese nutzen.

Ausgewogenheit als Schlüssel zu nachhaltigem Vertrauensaufbau

Der Aufbau von Vertrauen in KI ist für ihre erfolgreiche Integration in verschiedene Aspekte unseres Lebens unerlässlich. Auf dem Weg dorthin sind das Verständnis der komplexen Psychologie des Vertrauens im Zusammenhang mit KI und die Auseinandersetzung mit Themen wie Transparenz, Aufklärung und Nutzer*innenerfahrung entscheidende Schritte. Die Psychologie des Vertrauens ist ein vielschichtiger Prozess, der technische, ethische und menschliche Elemente – wie individuelle Erfahrungswerte und die Bereitschaft, sich auf neue Technologien einzulassen – umfasst. Und obwohl der Aufbau von Vertrauen in KI eine immense Herausforderung darstellt, zeigt die Forschung auch, dass es belastbare Strategien gibt.

Wenn es darum geht, das Vertrauen von Einzelpersonen, Unternehmen und der Gesellschaft als Ganzes zu gewinnen und aufrecht zu erhalten, wird deutlich, dass es einen ausgewogenen Ansatz braucht, der Technologie mit Transparenz und Nutzer*innenzentrierung verbindet und einen verantwortungsvollen und bewussten Gebrauch durch kontinuierliche Sensibilisierung und Weiterbildung, die den aktuellen Entwicklungsstand, aber auch die Risiken im Bereich KI abbildet, ermöglicht. Nur so lässt sich die volle Bandbreite der Möglichkeiten, die KI bietet, ohne Abstriche bei der Sicherheit nutzen.

^{1 Bach, T. A., Khan, A., Hallock, H., Beltrão, G., & Sousa, S. (2022). A systematic literature review of user trust in AI-enabled systems: An HCI perspective. International Journal of Human–Computer Interaction, 1-16.}