Mientras Elon Musk solo se muestra preocupado por el número de bots que hay en Twitter, lo que algunos consideran una estratagema para que se desplome en bolsa, tanto sus accionistas como los responsables del funcionamiento de esta red social están pasando por alto otro grave problema de no menos magnitud. El mecanismo que rige las respuestas ante los reportes por el incumplimiento de sus reglas de uso está plagado de errores que permiten desde cerrar cuentas por difundir contenidos absolutamente inocuos hasta perpetuar la existencia de perfiles dedicados al fraude o al acoso, entre otros.
Pero además, los algoritmos que determinan cómo reacciona Twitter tras las apelaciones ante la suspensión de cuentas tienen una serie de bugs que permiten resucitar cuentas suspendidas por sus contenidos pedófilos o de odio.
Uno de los mayores expertos en España en el funcionamiento del sistema de reportes de la red del pájaro azul logró hace unos meses el cierre de un perfil pedófilo tailandés que acumulaba más de 1,1 millones de seguidores. Los responsables de la cuenta aprovecharon los fallos en el sistema de apelaciones para lograr que Twitter se la reabriera. A cada nueva suspensión, volvieron a conseguir su reactivación hasta que optaron por cerrarla ellos mismos una temporada, por lo que tienen hasta un año para reactivarla.
Este cazador de cuentas pedófilas, acosadoras y difusoras de odio, que actúa desde el anonimato, advierte de que son muchos los casos en que sus responsables están logrando la resurrección. Algunos se jactan públicamente de ello en cuanto reactivan sus cuentas, narrando desde sus perfiles cómo han logrado engañar a Twitter.
¿En qué consiste el fallo en el mecanismo de apelaciones? De inicio, Twitter permite cursarlas sin límite. Aprovechando esta posibilidad, usuarios de cuentas de pornografía infantil, contenidos racistas, homófobos y xenófobos elaboran una plantilla de apelación y la cursan desde distintos dispositivos e IPs decenas o incluso cientos de veces hasta que finalmente cuela gracias a los bugs de los algoritmos que deciden admitirlas o no.
Pedófilos, fascistas y acosadores redactan su texto de apelación alegando cualquier excusa, del tipo «mi cuenta es parodia», «el tuit infractor era una conversación entre amigos», «he sido víctima de reportes falsos»… y lo cursan desde el mismo perfil suspendido a través del «centro de ayuda» de Twitter, usando el formulario de apelación por cuenta suspendida o combinando simultáneamente ambas vías desde distintos equipos electrónicos y modificando una y otra vez la IP desde la que lo hacen.
Sin esperar respuesta, cursan su plantilla varias veces al día, a diario hasta que finalmente dan con una línea de algoritmo que acepta la apelación y reactiva el perfil. La ausencia de memoria o conteo conjunto de las apelaciones recibidas y resueltas por el total de algoritmos que deciden sobre ellas hace que, a pesar de que Twitter cierre el caso cuando deniega una apelación, baste con volver a cursarla cambiando dispositivo y/o IP para que se vuelva a valorar. Y así de forma recurrente hasta que se engaña al sistema y la cuenta se reactiva.
Resulta altamente improbable que ningún trabajador de Twitter se haya percatado de esta situación ni haya intentado trasladar a sus superiores lo que está ocurriendo, máxime teniendo en cuenta el altísimo número de seguidores y, por tanto, de viralización de contenidos que tienen algunas de las cuentas que han logrado volver a la vida tras sus supuestos cierres definitivos. La pregunta es, ¿por qué los responsables de la red social siguen sin tomar medidas para resolver esos fallos en sus algoritmos?
Publicado originalmente en El Plural.
