Facebook, KI und der Schimpfort

Künstliche Intelligenz ist etwas Feines. Wir arbeiten sehr erfolgreich damit auf unserer EnM-24/7 Lernplattform. Aber, falsch oder fehlerhaft programmierte Algorithmen richten auch Schaden an. So wie die KI von Facebook und das französische Städtchen B*i*t*c*h*e. Die Sternchen im Namen haben einen Grund. Würde der Name ausgeschrieben, dann würde dieser Post wahrscheinlich auch den Moralaposteln in Form von Algorithmen zum Opfer fallen.

B*i*t*c*h ist ein böses Wort, ein Schimpfwort. Grob gesehen bedeutet es S*c*h*l*a*m*p*e. So etwas mag die KI von FB nicht. Das trifft nun das Städtchen schwer. Denn die Algorithmen konnten den Unterschied zwischen Stadt und Schimpfwort nicht erkennen und schalteten die FB Seite der Stadt einfach ab. Ohne Vorwarnung!

Nach vielen Wochen Diskussion, endlosen Appellen und Hilfegesuchen hat FB die Seite nun wieder freigeschaltet. Wäre die KI weniger von Moralaposteln und mehr von Historikern trainiert worden, dann hätte dieses Debakel vermieden werden können.

„Schließlich haben einst Amerikaner der 100. Infanterie-Division aus dem Bundesstaat South Carolina das französische Städtchen von der deutschen Besatzung befreit – und bezeichneten sich stolz als „Sons of B*i*tc*h*e“.“ (SZ) Damals ohne die Sternchen :-)

Quelle: SZ