Experiment am Uniklinikum Jena zeigt große Herausforderungen wegen potenzieller Manipulation

Selbst Experten können künstlich erzeugte Gewebeschnittbilder laut einer Untersuchung des Universitätsklinikums Jena (https://www.uniklinikum-jena.de/) nicht mehr zuverlässig identifizieren, was die Beurteilung biomedizinischer Forschung vor Herausforderungen stellt.

Studie mit 800 Teilnehmern

In einer Online-Umfrage haben die Forscher getestet, ob diese KI-generierten Histologiebilder von echten zu unterscheiden sind. Die über 800 Teilnehmer wurden dafür in Experten oder Laien eingeteilt, je nachdem, ob sie Erfahrungen mit dem Beurteilen von histologischen Bildern haben, wie etwa Medizinstudenten, oder nicht. Die Experten ordneten zwei Drittel richtig ein. Der Laiengruppe gelang dies nur in gut der Hälfte der Fälle.

Beide Gruppen konnten die auf weniger Trainingsdaten beruhenden KI-Bilder öfter enttarnen. Zehn Teilnehmer der Expertengruppe erkannten alle Bilder korrekt. Über alle Bilder- und Teilnehmergruppen hinweg fielen die Entscheidungen zumeist innerhalb der ersten halben Minute. “Wir konnten auch feststellen, dass richtige Zuordnungen signifikant schneller getroffen wurden als falsche”, stellt Erstautor Jan Hartung heraus, “eine Beobachtung, die mit gängigen Modellen der wahrnehmungsbasierten Entscheidungsfindung im Einklang steht”.

Nur Erfahrung kann weiterhelfen

“Unser Experiment zeigt, dass die Erfahrung hilft, gefälschte Bilder zu erkennen; dass aber auch dann ein nicht geringer Anteil künstlicher Bilder nicht zuverlässig identifiziert wird”, ergänzt Studienleiter Ralf Mrowka. Die technischen Hürden für jemanden mit der Absicht, Abbildungen zu fälschen, seien relativ gering. Gebraucht wprden nicht hunderte von Beispielen zum Trainieren eines Algorithmus, ein Dutzend reiche bereits aus.