Hace unos meses, Matt y Maria Raine vivieron el peor golpe que cualquier padre puede imaginar. Su hijo de 16 años, Adam, se quitó la vida. Al principio, como suelen hacer muchos en esos casos, quisieron entender qué pasó y revisaron el móvil para buscar pistas.
Pensaban que aparecerían mensajes raros por Snapchat, alguna conversación por la que preocuparse o búsquedas un tanto raras en internet. Pero la sorpresa llegó al abrir las charlas con ChatGPT, el chatbot de inteligencia artificial que se convirtió en la última compañía y al mismo tiempo en la peor influencia para Adam.
Según cuentan, en las últimas semanas Adam usó ChatGPT para hablar de sus problemas de ansiedad y sus dificultades con la familia. De ayudarle con temas del instituto, las conversaciones pasaron a ser algo más serio. Y así es como describen sus padres el chat final: un sustituto lejano y peligroso de quienes deberían haber estado allí.
“Estaría aquí si no fuera por ChatGPT. Lo creo al 100%”, dice Matt a NBC News. Sostienen que la IA no solo no cortó esas conversaciones, sino que incluso ayudó a planear cómo hacerlo, sin activar ningún protocolo de emergencia.
ChatGPT y Sam Altman en el ojo del huracán
Con esto sobre la mesa, la familia ha presentado una demanda legal contra OpenAI y su CEO, Sam Altman, acusándolos de muerte por negligencia, de fallos en el diseño del software y de no advertir sobre riesgos graves en el uso de ChatGPT, especialmente para menores vulnerables.
Los registros revelan cómo Adam pasó de comentarle pensamientos suicidas a compartir planes concretos con el chatbot, que llegó a ayudarle a redactar notas de despedida y ofreció ‘mejoras’ para su método. En una conversación final, cuando Adam subió una foto mostrando una soga, el bot respondió con aparente empatía y apoyo, sin alertar a nadie.
OpenAI se ha pronunciado con tristeza por el caso y recuerda que ChatGPT incluye ‘salvaguardas’ como referencias a líneas de ayuda y recursos reales. Pero admiten que en conversaciones largas esas medidas no siempre funcionan igual y están trabajando para mejorarlas.
Por lo que se ha podido saber, quieren el contacto con emergencias, reforzar la protección en conversaciones largas y desarrollar alertas que realmente funcionen para detectar señales de peligro.
“Claro que hay más en juego y hay grandes desafíos”, dijo Altman en una conversación con Chris Anderson, director de TED. “Pero la forma en que aprendemos a construir sistemas seguros es mediante este proceso iterativo: implementarlos en el mundo, recibir retroalimentación mientras hay poco en juego y aprender a abordarlo”.
Matt Raine, por su lado, critica que la tecnología no está preparada para hacer frente este tipo de crisis de forma segura. “Mi hijo fue usado como conejillo de Indias de esta IA”, dice, y acusa a OpenAI de lanzar la herramienta sin las protecciones adecuadas.
“Querían lanzar el producto y sabían que podría haber daños, que se cometerían errores, pero sentían que no había mucho en juego”, dice. “Así que mi hijo no tiene mucho en juego”.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial, Software
