Umfassende Max-Planck-Studie hat ethische Risiken der Delegation an Maschinen untersucht

Die zunehmende Nutzung Künstlicher Intelligenz (KI) fördert unethisches Verhalten. Zu dem Fazit kommt eine neue Studie unter der Leitung des Max-Planck-Instituts für Bildungsforschung . Details sind in “Nature” publiziert.

13 Studien, 8.000 Teilnehmer

In 13 Studien mit über 8.000 Teilnehmern haben die Experten die ethischen Risiken der Delegation an Maschinen untersucht – aus der Perspektive derjenigen, die Anweisungen geben, und auch aus der Perspektive derjenigen, die sie ausführen.

Ergebnis: Menschen betrügen deutlich öfter, wenn sie das Verhalten an KI-Agenten auslagern, anstatt selbst zu handeln, insbesondere wenn sie Interfaces nutzen, die eine hochgradige Zielsetzung erfordern, anstatt explizite Anweisungen zu unehrlichem Handeln.

Nur zwölf bis 16 Prozent blieben ehrlich, während 95 Prozent ehrlich waren, wenn sie die Aufgabe selbst ausführten. Selbst bei der am wenigsten bedenklichen Form der KI-Delegation, nämlich bei expliziten Anweisungen in Form von Regeln, verhielten sich nur etwa 75 Prozent ehrlich.

“Bequeme moralische Distanz”

“Der Einsatz von KI schafft eine bequeme moralische Distanz zwischen Menschen und ihren Handlungen – er kann sie dazu verleiten, Verhaltensweisen zu fordern, die sie selbst nicht unbedingt an den Tag legen würden”, verdeutlicht Max-Planck-Forscherin Zoe Rahwan.

Beispiele für unethisches KI-Verhalten ist ein Preisalgorithmus einer Mitfahr-App. Dieser veranlasste Fahrende dazu, ihren Standort zu wechseln, nicht weil Fahrgäste eine Mitfahrgelegenheit suchten, sondern um künstlich eine Knappheit zu erzeugen und damit Preiserhöhungen auszulösen.

Die Forscher führen auch Tankstellen in Deutschland an. Diese sind unter die Lupe genommen worden, weil sie Preisalgorithmen verwendeten, die die Preise offenbar synchron mit denen der Wettbewerber in der Nähe anpassten, was zu höheren Benzinpreisen für Kunden führte.