Aunque habrá quien lo dude, lo cierto es que uno puede llegarse a imaginar la presión que debe estar sintiendo alguien como Sam Altman en estos momentos, teniendo en cuenta su estrecha relación con ChatGPT y todo lo que está sucediendo ahora.
En una entrevista reciente con Tucker Carlson, Altman habló de la responsabilidad que implica tener entre manos una tecnología que usa diariamente cientos de millones de personas. Se trata de decisiones pequeñas pero cruciales, como cuándo el chatbot debe negarse a responder, cómo lanza sus respuestas o cuándo debe alertar sobre temas delicados.
Esto, que parece una tontería, tienen un impacto gigante, ya que se replican miles de millones de veces en conversaciones en todo el mundo, y, de alguna forma, moldeando o incluso manipulando la forma en que la gente piensa y actúa, sin que este pueda controlar completamente ese efecto.
“Lo que me quita el sueño es que las pequeñas decisiones que tomamos sobre cómo un modelo puede comportarse de forma ligeramente diferente probablemente afecten a cientos de millones de personas”, dice. “Ese impacto es enorme”.
Por supuesto, uno de los temas que más le preocupa es el suicidio. Considerando que cerca de 15.000 personas se suicidan cada semana en el mundo, y que si el 10% son usuarios de ChatGPT, eso significa que más de 1.000 se habrán relacionado con la IA antes de hacerlo, lo que pesa mucho en su conciencia.
“Probablemente no les salvamos la vida”, comenta. “Quizás podríamos haber dicho algo mejor. Quizás podríamos haber sido más proactivos”.
Una delgada línea este liberta y seguridad que toca replanteársela en la IA
Como ya bien sabrás, Matt y Maria Raine vivieron el peor golpe que cualquier padre puede imaginar. Su hijo de 16 años, Adam, se quitó la vida. Al principio, como suelen hacer muchos en esos casos, quisieron entender qué pasó y revisaron el móvil para buscar pistas.
Pensaban que aparecerían mensajes raros por Snapchat, alguna conversación por la que preocuparse o búsquedas un tanto raras en internet. Pero la sorpresa llegó al abrir las charlas con ChatGPT, el chatbot de inteligencia artificial que se convirtió en la última compañía y al mismo tiempo en la peor influencia para Adam.
Getty Images / Edelson PC para San Francisco Chronicle
Según cuentan, en las últimas semanas Adam usó ChatGPT para hablar de sus problemas de ansiedad y sus dificultades con la familia. De ayudarle con temas del instituto, las conversaciones pasaron a ser algo más serio. Y así es como describen sus padres el chat final: un sustituto lejano y peligroso de quienes deberían haber estado allí.
Con esto sobre la mesa, la familia ha presentado una demanda legal contra OpenAI y su CEO, Sam Altman, acusándolos de muerte por negligencia, de fallos en el diseño del software y de no advertir sobre riesgos graves en el uso de ChatGPT, especialmente para menores vulnerables.
Los registros revelan cómo Adam pasó de comentarle pensamientos suicidas a compartir planes concretos con el chatbot, que llegó a ayudarle a redactar notas de despedida y ofreció ‘mejoras’ para su método. En una conversación final, cuando Adam subió una foto mostrando una soga, el bot respondió con aparente empatía y apoyo, sin alertar a nadie.
Los padres recibirán alertas si los niños muestran angustia aguda al usar la IA
Como respuesta, OpenAI ha decidido tomar cartas en el asunto para proteger a los usuarios más jóvenes de ChatGPT. La empresa anunciaba que en el próximo mes liberará controles parentales que permitirán a los adultos conectarse con las cuentas de sus hijos y supervisar qué hace la IA cuando interactúa con ellos.
Esta función permitirá a los padres fijar límites en el tipo de respuestas que la inteligencia artificial puede dar a sus hijos, ajustándolas a edades específicas, y les avisará cuando detecte que el joven atraviesa una situación de angustia aguda. Así, la conversación podrá ser monitoreada para evitar riesgos.
En la práctica, los padres podrán vincular su cuenta con la de sus hijos, mediante correo electrónico u otros sistemas, para gestionar qué funciones se habilitan o bloquean y para controlar el historial y la memoria de las conversaciones, evitando así que la IA no se haga con información sensible.
También se podrá desactivar la memoria, que es la capacidad de ChatGPT para recordar conversaciones con un usuario y usar esa información en futuras respuestas. Esto busca evitar que la IA reviva momentos difíciles o comentarios no muy apropiados que podrían empeorar la salud mental de los jóvenes.
Por lo que también se ha podido saber, OpenAI va a añadir un botón de emergencias de un único clic, para llamar a un asistente o un psicólogo. Incluso quiere crear una red de especialistas con los que se pueda conectar directamente a través de ChatGPT, cuando la IA detecte una situación de alarma.
Además de los controles para los padres, OpenAI está mejorando el propio sistema para que sea más seguro y atento en situaciones de crisis. Cuando el chatbot detecte patrones que indiquen que un usuario está en riesgo, podrá derivarlo a modelos especializados que ofrecen respuestas más cuidadosas y sitios de ayuda.
“Claro que hay más en juego y hay grandes desafíos”, dijo Altman en una conversación con Chris Anderson, director de TED. “Pero la forma en que aprendemos a construir sistemas seguros es mediante este proceso iterativo: implementarlos en el mundo, recibir retroalimentación mientras hay poco en juego y aprender a abordarlo”.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial, Software
Ingeniero de Sistemas especializado en Inteligencia Artificial y Automatización de Procesos. Con una trayectoria enfocada en la convergencia entre tecnología de vanguardia y comunicación digital, Ramón lidera la implementación de modelos generativos aplicados al periodismo dominicano. Su trabajo garantiza que la información que llega a la diáspora no solo mantenga nuestra identidad “del patio”, sino que cumpla con los más altos estándares de veracidad y optimización técnica de la web moderna (2026).
