Ante el aumento de la violencia en redes sociales a través de tweets e imágenes ofensivas, especialistas del Instituto Tecnológico de Toluca trabajan en el análisis y desarrollo de mecanismos tecnológicos que permitan identificar rápidamente estos contenidos, con especial atención a las agresiones contra las mujeres.
El profesor-investigador Javier Illescas Martínez explicó que plataformas como la red social ‘X’ (anteriormente Twitter) facilitan el envío de mensajes ofensivos por su formato de frases cortas. ‘Es muy común observar mensajes agresivos en estas redes, en particular en X. Existen protocolos que entrenan a las bases de datos para detectar estos mensajes, incluso cuando no contienen palabras altisonantes, pero provocan agresión en quien los recibe’, indicó.
Los investigadores del Tecnológico de Toluca están enfocados en determinar qué tipos de mensajes pueden ser considerados violentos, especialmente hacia las mujeres, un sector altamente vulnerable. Para ello, entrenan algoritmos con bases de datos de mensajes ofensivos y contenido visual, incluyendo imágenes, mediante inteligencia artificial (IA), para identificar posibles agresiones que no siempre son evidentes a simple vista.
El profesor también comentó que en las clases ha observado que muchos estudiantes utilizan la IA para evitar realizar tareas, solicitando que los programas desarrollen temas específicos. ‘En numerosas ocasiones, los jóvenes ni siquiera verifican la veracidad del contenido generado por la IA, lo que evidencia que cada vez redactan y leen menos, prefiriendo que la tecnología haga el trabajo por ellos’, lamentó.
Ante esta situación, Illescas Martínez calificó como grave la tendencia en México y en otros países, haciendo un llamado a usar la IA con responsabilidad y madurez.
Los especialistas del Instituto han establecido diferentes tipos de violencia en redes sociales y recomiendan en general denunciar estos casos, configurar adecuadamente la privacidad en plataformas digitales y educar a las nuevas generaciones sobre un uso seguro y responsable de internet.
