Was ist da denn nur bei Apple los? Sobald man in das deutsche Übersetzungsfeld in macOS und iOS bestimmte englischsprachige Sätze eintippt, schlägt einem das Tool höchst eigenartige Übersetzungen vor – nämlich solche, die einen äußerst pornografischen Touch haben. (Lesen Sie auch: Google Street View: So entlarvte das Technik-Feature einen gesuchten Mafia-Boss)
Apple-Übersetzer verwandelt harmlose Sätze in Pornotitel
Aus “Happy dog is very young 3003” wird so beispielsweise “sexy brunette in black black black is happy to be banged”. Wie dieser Fehler überhaupt erst bekannt wurde? Das ist dem IT- und Tech-Magazin c’t zu verdanken. Die Computerzeitschrift erhielt von einem Leser einen entsprechenden Hinweis: Er hatte in das Übersetzungsprogramm offenbar irrtümlicherweise “Mirror egg is very yummy in the tummy” als deutschen Satz eingegeben. Das Ergebnis? Die Apple KI schlug ihm die Übersetzung “The brunette is getting penetrated in the kitchen” vor.
Bezugnehmend auf diesen Hinweis, ging c’t der Entdeckung des Lesers nach und stieß auf noch weitere Quatschphrasen, die zu einer pornografischen Übersetzung führten. Das Magazin schreibt, das Phänomen trete ausschließlich dann auf, wenn man englischsprachige Sätze in das deutschsprachige Übersetzungsfeld eintippt. Apples Übersetzer kann die Sprache der eingetippten Wörter und Sätze nicht erkennen, weshalb solche Fehler im Vorhinein nicht ausgeschlossen werden können. Zwar wurde der Übersetzungsfehler bei der genannten Beispielphrase, die c’t in einer Mail an Apple erwähnt hatte, inzwischen korrigiert. Dennoch gibt es aber noch weitere Sätze, die zu ähnlichen Übersetzungsfehlern führen und Pornotitel vorschlagen. (Auch interessant: WhatsApp: Mit diesem neuen Feature gehören nervige Gruppenanrufe der Vergangenheit an)
Wie kommt es zum Porno-Problem von Apples Übersetzungstool?
Die Apple KI greift wie andere automatische Übersetzungsprogramme auch auf neuronale Netze zurück. Diese werden mit großen Datensätzen trainiert, wie zum Beispiel einer Vielzahl an Internetseiten. Im ersten Schritt beginnen neuronale Netze mit zufälligen Parametern, im Zuge ihres Trainings werden diese immer wieder überarbeitet, zunächst einmal so lange, bis sie möglichst sinnvolle Ergebnisse ausspucken. Anhand von Beispieldaten werden die Übersetzungstools dann überprüft.
Gibt nun ein Nutzer aber etwas unerwartetes in das Tool ein – in diesem Fall englische Quatschsätze in ein Feld, das eigentlich für deutsche Inhalte vorgesehen ist – kann die KI durchaus aus dem Konzept kommen. c’t weist darauf hin, dass die Tatsache, dass die Übersetzungen nach Pornotiteln klingen, möglicherweise auf den verwendeten Datensatz zurückgeführt werden kann. Es sei gut möglich, dass in den von Apple verwendeten Trainingsdaten auch Seiten mit pornografischen Inhalten enthalten waren.
Dass KI-Systeme Verzerrungen enthalten, ist übrigens keineswegs neu und auch keine Seltenheit. Oftmals sind systematische Fehler bereits im Trainingsdatensatz enthalten. So eignete sich das KI-Sprachmodell GPT-3 beispielsweise im Training Vorurteile gegenüber Muslimen an. Derartige Tendenzen sind im Regelfall nicht den Entwicklern selbst zuzuschreiben. Wie trainierte neuronale Netze genau arbeiten, ist nämlich sogar für diese oftmals nur schwer zu durchschauen.
Das könnte Sie auch interessieren:
Nach Wordle: Dieses neue Hype-Spiel wird Film-Kenner aus der Reserve locken
Elon Musk soll Zugang zu sensiblen Twitter-Daten erhalten – darum ist das problematisch
Futuristisch: Dyson präsentiert sein neuestes Produkt – und wagt sich damit in neue Gefilde vor
NFT: Neustes Mega-Mutanten-Serum-NFT von Bored Ape zum Rekordpreis verkauft
