Die University of Maryland hat einen besonderen Pullover entwickelt. Träger werden für eine Gesichtserkennung unsichtbar, weil die KI einfach überfordert ist. Dabei kommt ein „feindliches Muster“ zum Einsatz. Auch modisch setzt der Pullover ganz neue Maßstäbe.
Pullover verwirrt KI: Gesichtserkennung unmöglich
Studenten der University of Maryland haben es geschafft, eine Gesichtserkennung ins Leere laufen zu lassen. Dazu wurde ein Pullover mit einem „feindlichen Muster“ entwickelt, das die KI hinter der Gesichtserkennung einfach überfordert. Die KI ist nicht in der Lage, den Träger des Pullovers als Menschen zu erkennen. Ein Abgleich mit biometrischen Daten ist nicht mehr möglich. Bei anderen Personen im Raum, die keinen Tarnpullover tragen, funktioniert der Abgleich einwandfrei.
Ziel des Projekts ist es eigentlich, die verwendete KI auf Schwachstellen hin zu untersuchen. Die vermeintliche Schwachstelle könnte sich aber in einem ganz anderen Bereich als hilfreich erweisen. Da eine Gesichtserkennung in autokratischen Staaten wie China bereits zum Alltag gehört, könnten sich Träger des besonderen Pullovers unerkannt bewegen. Bei systemkritischen Demonstrationen – wie sie jetzt gerade zum Beispiel im Iran stattfinden – wäre eine spätere Zuordnung der Demonstrierenden nicht möglich.
Das Muster des Pullovers ist dabei bewusst chaotisch ausgefallen, um die KI zu verwirren. Das Motiv schickt die KI nach Angaben der Studenten in eine Endlosschleife, aus der sie nicht wieder herausfindet (Quelle: University of Maryland). Der Erkennungsvorgang wird dann abgebrochen, da es sich aus Sicht der KI nicht um einen Menschen handelt.
Der Pullover ist hier im Video zu sehen:
Gesichtserkennung lässt sich austricksen
Einen besonderen Tarnpullover braucht es gar nicht, um einer Gesichtserkennung aus dem Weg zu gehen. Schon vor Jahren zeigten Forscher aus Belgien, dass sich die KI schon durch äußerst bunte Bilder austricksen lässt, wenn diese vor den Bauch gehalten werden.
