Trollen vinden het heerlijk om ‘hilarische’ nepnamen te verzinnen, dus websites proberen bepaalde woorden te filteren voor nieuwe accounts. Wat als uw echte naam een van die woorden bevat?
Natalie Weiner, een schrijver voor SB Nation, werd onlangs door zo’n systeem gefilterd.
dit is zonder twijfel het beste dat me ooit is overkomen pic.twitter.com/rnVkmhB2dy
– Natalie Weiner (@natalieweiner) 28 augustus 2018
De reacties onthullen een heel reëel probleem. Hier is Daniel Oberhaus, die schrijft voor Motherboard:
Al snel werden Weiner’s vermeldingen gevuld met honderden opmerkingen van mensen die sympathiseerden met haar benarde situatie. “Ik krijg dit verrassend veel,” zei Kyle Medick. James Butts “kent deze problemen” en Matt Cummings is “er geweest.” Arun Dikshit zei dat algoritmische bias bijna een dagelijkse gebeurtenis is geworden. “Bij een van mijn banen moest IT een regel op de e-mailserver opstellen om te voorkomen dat mijn e-mails als pornospam werden afgewezen,” zei Clark Aycock.
Deze sites proberen alleen te voorkomen dat bepaalde woorden in valse namen veel voorkomen op de site, maar de geautomatiseerde maatregelen maken het leven moeilijker voor onschuldige mensen. Het is een probleem.
Oberhaus schetst dat dit niet nieuw is: al in 1996 verbood een AOL-filter de hele Britse stad Scunthorpe om zich aan te melden voor accounts vanwege een ingebed vierletterwoord. Meer dan 20 jaar later, met veel vooruitgang in AI, blijft hetzelfde probleem bestaan.
Dit moet voor mensen frustrerend zijn. Mijn achternaam, Pot, heeft mijn hele leven grappen uitgelokt van bijna vreemden. Dit is al vervelend genoeg, dus ik kan me alleen maar voorstellen hoe erg het moet zijn als de machines er iets aan toevoegen door te weigeren je echte naam te accepteren.
