Inteligencia artificial para intentar proteger a los deportistas del ciberacoso

El tema se toma muy en serio. A tres meses de los Juegos Olímpicos y Paralímpicos de París (del 26 de julio al 8 de septiembre), las autoridades francesas y el Comité Olímpico Internacional (COI) quieren garantizar “seguridad mental” atletas es “aquellos protegidos del ciberacoso”. Los deportistas son cada vez más objeto de burlas, insultos e incluso amenazas de muerte en Internet; Estos también se encuentran en comentarios de artículos de prensa online o publicaciones de YouTube, así como en las redes sociales X, Instagram, Facebook y TikTok.

“Es tan generalizado y lamentablemente normalizado que es difícil tener una idea de la magnitud del problema.Cerciorarse Mundo Kirsty Burrows, jefa de la Unidad de Deporte Seguro del COI. Si alguien te ataca en línea justo antes que tu competencia, no estás comprometido con la seguridad, sin importar cuán seguro sea tu entorno físico. Por eso debemos intentar apoyar a los deportistas eliminando estas amenazas. »

Así, la institución utilizará inteligencia artificial (IA) -gestionada por un proveedor de servicios vinculado a las plataformas- capaz de retirar “en tiempo real en más de treinta y cinco idiomas y dialectos” Mensajes hostiles desde las cuentas sociales de unos 15.000 deportistas olímpicos y paralímpicos, así como de entrenadores y funcionarios (más de 2.000 personas). “Todos podrán acceder a este sistema si lo desean, se lo ofreceremos de facto”especifica el Sr.A mí Madrigueras.

Lea también la encuesta | Artículo reservado para nuestros suscriptores. “Eres un pedazo de mierda, cara mía”: los atletas de París 2024 enfrentan el odio en las redes sociales

Esta es la primera vez que se implementará un dispositivo de este tipo durante los Juegos. El objetivo es eliminar el contenido abusivo incluso antes de leerlo. “Prevemos casi 500 millones de mensajes en las redes socialesseñala Kirsty Burrows. Si dedicas un segundo a cada [dans une configuration de modération 100 % humaine], te llevaría ingresarlos y procesarlos todos. Si descuidamos la seguridad digital, fracasaremos en nuestro deber. » En el caso de que algún deportista consiga ver el comentario antes de que sea eliminado, también habrá tres psicólogos presentes en la villa deportiva.

“La moderación es un juego del gato y el ratón”

Al mismo tiempo, el Ministerio de Deportes indica que los deportistas franceses e internacionales que lo deseen pueden recurrir a Bodyguard, una empresa francesa especializada en la protección de cuentas de redes sociales. Ya utilizada por la Federación Francesa de Tenis y la Liga de Fútbol Profesional, máscara Bodyguard gracias a una IA, mensajes considerados tóxicos (solo son visibles para su autor), pero también emojis u otros pictogramas (en forma de plátano para insultar a un deportista negro, por ejemplo). De hecho, para eludir los algoritmos que identifican los mensajes de odio, los internautas “reinventar el lenguaje”explica Charles Cohen, fundador y presidente de Bodyguard. “Entienden cómo funcionan los filtros y buscan burlarlos”él añade.

Te queda el 39,51% de este artículo por leer. El resto está reservado para suscriptores.