Simone Taghavi: “Es necesario reportar a TikTok el contenido extremo y los mensajes de odio inmediatamente”

TikTok es una red de videos cortos que ha ganado una gran popularidad en los últimos años. Con esta expansión también ha crecido la preocupación sobre la aparición de discursos de odio y los problemas de adicción de sus usuarios. La estudiante del Máster de Ciberdelincuencia Simone Taghavi analizó, a partir de una encuesta a 143 universitarios de entre 18 y 24 años, la presencia de discursos de odio y de contenido extremo. Es decir, mensajes de desconocidos preguntando por información personal e inapropiada (por ejemplo, raza, sexualidad o religión) o publicaciones que causan una reacción negativa en los usuarios. En esta entrevista hablamos sobre los resultados de esta investigación que, con el título de “Experiencias de discurso de odio y el contenido extremo en TikTok entre universitarios. Estudio empírico en una Universidad española”, obtuvo uno de los premios al mejor TFM de los Estudios de Derecho y Ciencia Política de la UOC.

¿Cuáles fueron tus motivaciones para llevar a cabo este estudio?

El aumento del discurso de odio y de los contenidos extremos en línea requiere atención e investigación debido a las desastrosas consecuencias que puede tener para las víctimas. En las etapas iniciales de la investigación, encontré una multitud de estudios centrados en menores y adolescentes (en escuelas primarias y secundarias). En cambio, los universitarios representan un grupo menos investigado, lo que me pareció interesante, considerando que muchos de mis alumnos en la universidad utilizan las redes sociales con frecuencia (prefiriendo TikTok) y que otras estadísticas confirman que esta red social ha ganado popularidad con más de 800 millones de usuarios a nivel mundial. En consecuencia, mi motivación para este estudio fue doble: en primer lugar, recopilar datos relevantes de los universitarios en relación con sus experiencias y percepciones de discurso de odio y contenido extremo en TikTok, con el fin de determinar si, al igual que otros estudiantes más jóvenes, también están en riesgo. Y, en segundo lugar, identificar cómo podemos asegurar y mejorar las experiencias de los universitarios a través de esta red social.

¿Qué tipo de contenido extremo y de odio has detectado?

Por un lado, los resultados principales demuestran un nivel más elevado de discurso de odio indirecto, ya que el 83% ha visto material agresivo hacia otros, como contenido racista o machista, y el 78% de los participantes reportan haber experimentado publicaciones que promovían la violencia contra un grupo de personas. En contraste, el estudio detectó niveles reducidos de odio directo, puesto que solo el 26% de los participantes ha recibido mensajes ofensivos y solo el 17% ha recibido mensajes amenazantes cuando han publicado material en la plataforma.

Por otro lado, en relación con el contenido extremo, los participantes reportaron estar más expuestos a publicaciones que provocan una reacción negativa, ya que la mayoría (93%) de los participantes han sido expuestos a este tipo de publicaciones. En contraste, solo el 18% de los participantes indicaron haber recibido mensajes de desconocidos preguntando por información personal e inapropiada, como cuestiones relacionadas con su religión o raza.

En el trabajo comentas que el hecho de que la mayoría de los participantes no hayan recibido mensajes amenazantes u ofensivos personalmente contradice resultados de estudios anteriores. ¿A qué crees que puede deberse este resultado diferente?

Una posible explicación es que una gran cantidad de odio en línea está dirigida hacia extranjeros y los participantes de esta investigación no lo son. Esto se confirma con otros estudios en los que se encontró que los universitarios de origen étnico mixto tienen más probabilidades de ser objeto de ataques de odio. Por lo tanto, es posible asumir que los resultados serían diferentes con una muestra más diversa, y se necesitaría llevar a cabo una investigación adicional para confirmar esta suposición.

¿Qué pueden hacer los jóvenes para protegerse en TikTok?

Lo más importante es hablar en contra del discurso de odio; si lo detectan, denúncielo. Es necesario reportar el contenido extremo y los mensajes de odio a la red social inmediatamente. Desafortunadamente, demasiado odio en línea aún no se denuncia.

Por otro lado, los datos demuestran que solo el 19% de los participantes confirmaron que hablan con un amigo o un familiar cuando ven contenido que les hace sentir incómodos. Sin embargo, los resultados de esta investigación también muestran que la mayoría de los universitarios saben cómo bloquear mensajes no deseados y cómo utilizar las herramientas de TikTok para reportar contenido negativo. Al mismo tiempo, los participantes expresaron el deseo de tener más información sobre cómo protegerse en relación con la seguridad y privacidad en su uso diario en Internet y en TikTok.

¿Qué es lo que más te ha sorprendido de los resultados del trabajo?

En el trabajo he comprobado que existe una asociación entre la variable de ‘frecuencia’ de uso de la aplicación y la exposición al discurso de odio y contenido extremo. Aunque la baja media estadística para todas las variables indica que esta asociación podría estar influenciada por factores no considerados en esta investigación, me ha impactado descubrir también que la variable ‘ansiedad’ es la única que parece tener un impacto significativo en esta ‘frecuencia’. No esperaba que, en comparación, otros factores fueran tan secundarios.

¿Hay algo que las instituciones académicas puedan hacer para lograr un espacio más seguro en las redes sociales?

Sería recomendable que las universidades animen a sus alumnos a compartir sus experiencias a través de un foro de la universidad, donde los alumnos también puedan acceder a información sobre cómo protegerse a sí mismos en línea. De igual manera, las instituciones podrían tener a una persona designada con quien puedan hablar, como un tutor o una consejera.

Uno de los temas más preocupantes es la adicción a este tipo de tecnologías. ¿Qué resultados has obtenido respecto a la adicción a TikTok de los participantes?

Los resultados de esta investigación demostraron que los universitarios son muy dependientes de la red social en cuestión. Por ejemplo, más de la mitad de los participantes reportaron que el uso de TikTok es lo primero que hacen al despertarse y una de las últimas cosas que hacen antes de irse a dormir. Además, algunos informaron que se sienten atrapados por el sistema de TikTok. Esta sensación es evidente a través de comentarios en los que expresaban el deseo de reducir el uso de la red social sin saber cómo hacerlo. También mencionaron que TikTok consume demasiado de su tiempo diariamente. Estas respuestas son preocupantes y destacan la importancia de realizar más investigaciones sobre este tema, así como la necesidad de reflexionar sobre cómo las instituciones académicas pueden ayudar a los alumnos a reducir su dependencia de la aplicación y de las redes sociales en general.

¿Cómo crees que puede ayudarte este trabajo en tu futuro desarrollo profesional?

Este trabajo me ha ofrecido una oportunidad valiosa para profundizar en la comprensión de los problemas a los que se enfrentan los estudiantes hoy en día y, como docente, me ha ayudado a informar a los alumnos sobre maneras más seguras y responsables de usar las redes sociales. Además, otras universidades pueden utilizar esta investigación para mejorar la seguridad de sus alumnos en línea.

¿Cuál ha sido tu experiencia durante el máster y el proceso de realización del TFM?

Mi experiencia estudiando en la UOC ha sido muy positiva. Aproveché al máximo el material que cubrimos durante todo el Máster y los profesores me brindaron apoyo y aliento en cada momento. A lo largo del proceso de investigación, mi supervisor demostró un profundo conocimiento de las metodologías de investigación y un compromiso para ayudarme a perfeccionar mi diseño de investigación. Su experiencia mejoró significativamente la calidad de mi trabajo.