11 abril 2021

Youtube: bloqueó partidas de ajedrez por registrar discriminación

Sucedió en la cuenta del ajedrecista croata Antonio Radic. Donde el algoritmo identificó las "blancas" y las "negras" como términos racistas y procedió a eliminar los videos.

El problema se produjo en junio de 2020, cuando el canal de YouTube del ajedrecista croata Antonio Radic fue bloqueado mientras presentaba un video con el maestro de la disciplina Hikaru Nakamura, decisión que fue revertida 24 horas más tarde.

¿Qué pasó? 

El algoritmo de la plataforma YouTube bloqueó los videos de ajedrez por entender que las "blancas" y las "negras" eran términos discriminativos.

El malentendido no fue producto de una falla humana, sino de una respuesta del sistema de inteligencia artificial que modera el contenido en el portal de videos, que presenta un sistema mixto de control entre humanos y algoritmos.

La información se dio a conocer recientemente tras la investigación de la Universidad Carnegie Mellon, Pensilvania, Estados Unidos, cuando especialistas descubrieron que el sistema de inteligencia artificial de la plataforma revisó las conversaciones en los videos y encontró frases como “blanco contra negro”, y no supo diferenciar que se trataba del color de las fichas en juego.