Un canal Youtube dedicat șahului a fost blocat de programul de inteligență artificială (AI) al platformei, după ce a detectat o repetare a termenilor „negru”, „alb” sau chiar „atac”, cuvinte utilizate frecvent de jucătorii de şah.
Contul croatului Antonio Radic, cunoscut și sub numele de „Agadmator”, a fost suspendat pentru conținut „dăunător și periculos”, în timp ce comenta o partidă a maestrului internațional Hikaru Nakamura. Platforma deținută de Google a deblocat rapid canalul, urmarit de peste un milion de persoane, dar utilizatorului nu i s-a oferit nicio explicație.
Informaticienii de la Universitatea Carnegie Mellon au spus că algoritmul Youtube pur și simplu a interpretat greșit comentariile, deoarece nu era în măsură să țină cont de context, relatează The Independent. „Mizând pe inteligența artificială pentru a detecta limbajul rasist, acest tip de accident se poate întâmpla”, spune omul de știință Ashiqur KhudaBukhsh.
După ce au analizat peste 1.000 de comentarii, care au fost incluse de către algoritm la categoria „discurs care susține ura”, au descoperit că 82% dintre ele conțineau cuvintele „negru”, „alb”, „atac” sau „amenințare”. Pentru a împiedica acest tip de incident să se repete în viitor, experții au sugerat ca Youtube să integreze lexiconul șahului în algoritm.