¡Diablo! En el mundo digital, donde la innovación avanza a la velocidad de un carro de carrera en la 27, a veces se nos olvida el peso de las decisiones. La comunidad está en shock tras conocerse la trágica historia de Chase Nasca, un adolescente de 16 años cuya vida se apagó en circunstancias directamente ligadas a un A/B Test que, según el reporte, TikTok realizó en su plataforma. Esta vaina pesá ha destapado un debate serio sobre la ética y la responsabilidad de las grandes empresas tecnológicas.
El A/B Test es una práctica común, un ‘coro’ que muchas compañías usan para probar nuevas funcionalidades, dividiendo a los usuarios en grupos para ver qué versión funciona mejor. A principios de 2022, TikTok implementó mejoras en su algoritmo, buscando reducir el contenido dañino y diversificar los ‘feeds’. Sin embargo, en esta vuelta, alrededor del 10% de sus usuarios en Estados Unidos —un viaje de 15 millones de personas— se quedaron con el algoritmo viejo, sin las nuevas salvaguardas de seguridad. Y fue precisamente ahí donde la situación se puso de lo más fea para Chase.
El caso de Chase Nasca es, de verdad, una herida abierta. Su cuenta fue seleccionada para el grupo de control, lo que significa que el algoritmo mejorado no le aplicaba. ¿El resultado? Según la investigación de Bloomberg, en las dos semanas antes de su muerte, Chase fue bombardeado con 7,563 videos; de ellos, más del 73% trataba sobre sufrimiento emocional, soledad o depresión. ¡Imagínense eso! Y peor aún, casi el 10% violaba directamente las normas de la plataforma sobre autolesiones y suicidio. La vaina era que, por diseño, según el documento confidencial, las estrategias de TikTok para prevenir ‘burbujas de filtros’ no le estaban llegando a este joven.
La revelación de que esto fue ‘por diseño’ ha calado hondo. No es solo un fallo, sino una decisión consciente que refuerza la acusación de que estas plataformas están diseñadas para generar adicción y mantener a los usuarios ‘enganchaos’ al contenido, sea bueno o malo. Esto no es nuevo; plataformas como TikTok ya han estado en la mira del Congreso de EE. UU. y la Unión Europea por su diseño adictivo, y este incidente solo le echa más leña al fuego de la discusión sobre la ética de las ‘Big Tech’.
La investigación interna de TikTok sobre el caso de Chase Nasca no fue por iniciativa propia, sino que se realizó después de que Bloomberg Businessweek contactara a la empresa en marzo de 2023. El análisis detallado de la cuenta de Chase mostró que, aunque el joven buscaba contenido de deportes y comedia, también tenía búsquedas relacionadas con la soledad. Esto activó un ‘tigueraje’ del algoritmo que lo dejó ‘atrapao’ en una ‘burbuja de filtros’, donde se le recomendaba, de una vez y otra vez, contenido depresivo y sobre el suicidio, especialmente en sus últimos días.
La postura de TikTok ha evolucionado, o al menos su comunicación. Cuando en marzo de 2023 el CEO de la compañía tuvo que comparecer ante el Congreso de EE. UU., la empresa afirmó por escrito que ‘TikTok no cree que el uso de la plataforma haya provocado que los usuarios se suiciden’. Sin embargo, su comunicado actual, después de que se revelara todo este ‘coro’ del caso Nasca, lamenta ‘profundamente cualquier pérdida trágica’ y reafirma su compromiso con la seguridad, especialmente de los adolescentes, mencionando ‘sistemas de detección robustos y equipos especializados’ para retirar contenido que infringe las normas. Es una pena que a veces estas tragedias tengan que suceder para que el cambio llegue de verdad, y no solo en el papel.
Este suceso nos pone a pensar, de verdad, sobre el poder inmenso que tienen los algoritmos en la vida de los jóvenes. Más allá de la chercha y los bailes, las redes sociales tienen una responsabilidad ‘demasiado grande’ en la salud mental de sus usuarios. Es un llamado de atención para que estas empresas, que mueven un viaje de gente, pongan la seguridad y el bienestar por encima de cualquier prueba o métrica de engagement.
Si te ha gustado este artículo, ¡compártelo con tus amigos, o déjanos un comentario!
Ingeniero de Sistemas especializado en Inteligencia Artificial y Automatización de Procesos. Con una trayectoria enfocada en la convergencia entre tecnología de vanguardia y comunicación digital, Ramón lidera la implementación de modelos generativos aplicados al periodismo dominicano. Su trabajo garantiza que la información que llega a la diáspora no solo mantenga nuestra identidad “del patio”, sino que cumpla con los más altos estándares de veracidad y optimización técnica de la web moderna (2026).
