Twitter maakt Microsoft AI racistisch op 1 dag tijd
Microsoft had een AI gelanceerd op Twitter, waarbij het zich ging baseren op publieke data om zo bij te leren en zelf reacties te geven op wat er gebeurde en gevraagd werd. Het doel was om Tay, zoals het ding heette, een jong meisje te laten zijn qua gedrag en houding, maar dat was zonder andere Twitteraars gerekend.
Binnen de 24 uur was men erin geslaagd om er een behoorlijk racistische AI van te maken die uitspraken deed waar de meerderheid niet echt zou achterstaan, zeker rekening houdend met het feit dat de eerste uitspraak was "humans are super cool". De AI werd dan ook snel weer offline gehaald.
"Tay" went from "humans are super cool" to full nazi in <24 hrs and I'm not at all concerned about the future of AI pic.twitter.com/xuGi1u9S1A
— Gerry (@geraldmellor) 24 maart 2016