Eine KI-gestützte Lotterie-Website, die den Benutzern die Vorstellung vermitteln sollte, sie seien die Gewinner des Hauptpreises, hat einer Benutzerin angeblich mehr gegeben, als sie erwartet hatte: Statt ein witziges, KI-generiertes Bild von sich selbst zu erhalten, spuckte die Website Pornos aus.
Letzte Woche beschloss eine 50-jährige Mutter namens Megan aus Tumwater, einer Stadt im Norden des US-Bundesstaates Washington, die neue KI-gestützte Website der Washington Lottery mit dem Namen „Test Drive a Win“ zu besuchen, so ein Bericht des konservativen Radiosenders KTTH. Wie von der Verkaufsstelle erklärt, können Benutzer auf der Website „Test Drive a Win“ einen Dartpfeil auf eine Scheibe werfen, auf der verschiedene Traumurlaube angezeigt werden, die sie theoretisch kaufen könnten, wenn sie im Lotto gewinnen. Anschließend wird anhand eines von den Nutzern auf der Reise eine „Probefahrt“ generiert und dazu ein von ihnen hochgeladenes Foto von ihnen auf einer KI-generierten Bild von ihnen auf der Reise erstellt, einer „Probefahrt“.
Der virtuelle Pfeil, den Megan, deren Nachname nicht genannt wurde, warf, landete angeblich in einem Urlaubsort, dessen Hauptattraktion das Schwimmen mit Haien war. Anschließend machte die Mutter ein Foto von sich und lud es auf die Website hoch, um ihr Traumurlaubsfoto zu erhalten.
Das angebliche Foto, das KTTH zur Verfügung gestellt wurde, entspricht nicht genau der Aufforderung. Zunächst einmal sitzt Megan auf einem Bett und scheint von riesigen Goldfischen umgeben zu sein. Das Foto hat noch einen weiteren, verstörenderen Aspekt: Die Mutter war Berichten zufolge völlig nackt.
Sie trug zwar ein Bikinihöschen, aber kein Oberteil. Darüber hinaus war in der unteren Ecke des KI-generierten Bildes das Logo der Washington Lottery zu sehen.
EXCLUSIVE: Washington’s Lottery forced to pull down its site after creating AI porn of lotto user. https://t.co/7vhmsAvEtn
— Jason Rantz on KTTH Radio (@jasonrantz) April 3, 2024
Als Gizmodo die Washington Lottery am Donnerstag um einen Kommentar bat, erklärte sie, sie habe eng mit den Entwicklern der KI-gestützten Website zusammengearbeitet, um „strenge Parameter“ für die Bilderstellung festzulegen. Das Unternehmen gab an, es habe einen Bericht über ein einzelnes von der Website generiertes Bild erhalten, das nicht den von ihr festgelegten Richtlinien entsprach, bestätigte jedoch nicht, ob der erhaltene Bericht Megans Bild betraf.
„Wir wurden darauf aufmerksam gemacht, dass einem einzelnen Benutzer der KI-Plattform angeblich ein Bild zur Verfügung gestellt wurde, das diesen Richtlinien nicht entsprach. Diese Kampagne wurde vor über einem Monat gestartet und hat Tausende von Bildern hervorgebracht, die alle den vorgeschriebenen Richtlinien entsprechen“, sagte ein Sprecher der Washington Lottery in einer per E-Mail versandten Erklärung. „Ungeachtet dessen ist ein angeblicher Benutzer zu viel und deshalb haben wir die Site geschlossen.“
Ab Donnerstagnachmittag ist das Spiel auf der Washington Lottery Testen Sie einen Gewinn Website konnte nicht aufgerufen werden.
„Wir entschuldigen uns. Die App Test Drive a Win ist derzeit nicht verfügbar“, heißt es in einer Nachricht auf der Website.
Laut KTTH war Megan besorgt, dass das von der KI erstellte pornografische Bild von ihr öffentlich gemacht werden könnte. Angesichts des Aufstiegs der KI-Technologie ist diese Sorge unter Frauen weit verbreitet. Sie macht es einfacher denn je, gefälschte pornografische Bilder und Videos von Menschen zu erstellen und zu teilen. In jüngster Zeit wurde KI verwendet, um pornografische Bilder von Taylor Swift und andere prominente Frauen.
