Queda claro a día de hoy la inteligencia artificial ya no solo sirve para crear imágenes u obtener resúmenes. Esto ha escalado, y parece que a muchos se les está yendo de las manos eso de usar chatbots como ChatGPT para pedir consejos.
En una columna de The Observer, escrita para John Naughton, precisamente se habla a fondo de un gran tema: varias parejas están pasando por divorcios complicados después de que uno de los cónyuges usara ChatGPT para analizar su relación, su pareja o incluso antiguas discusiones o temas tabú que creía superados.
Uno de los casos habla de una pareja que llevaba 15 años junta, con la tan común historia de altibajos. Pero tras dos años bastante buenos, la esposa comenzó a hablar largo y tendido con ChatGPT, enviándole información y opiniones sobre su marido y su relación.
El chatbot, con sus respuestas automáticas y que siempre buscan complacer o apoyar al usuario, le devolvía respuestas que solo resaltaban las partes negativas del marido. Lo que ocurre es que este puede ser muy persuasivo y empático, pero no tiene el contexto y, al final, su naturaleza es responder con lo que cree que quieres oír.
Lo que pasó después fue un efecto bola de nieve, reavivando los problemas que estaban enterrados. La pareja está ahora en plena batalla de divorcio, con todos los problemas que eso conlleva, incluidos pleitos de custodia.
Ahora bien, la gran pregunta es qué lleva a la gente a confiar tanto en un chatbot. La respuesta parece que tiene que ver con un fenómeno conocido desde hace décadas, llamado síndrome de Eliza, que se sucede cuando las personas atribuyen conciencia o empatía a programas informáticos muy simples. Ahora imagina esto con una IA millones de veces más avanzada.
Geoffrey Hinton, uno de los padres fundadores de la IA, ha vivido en sus propias carnes este problema
Geoffrey Hinton, conocido como uno de los padres fundadores de la inteligencia artificial y premio Nobel, también vivió algo parecido que pocos podrían llegar a imaginar. Su expareja decidió acabar con la relación usando ChatGPT.
En una entrevista con el Financial Times, Hinton contó con humor que su pareja utilizó al chatbot para hacer un análisis de sus actitudes, y el resultado fue que ChatGPT les dijo que él se había comportado como una “rata”. Ella le enseñó ese mensaje como manera de comunicarle que ya no estaba dispuesta a continuar con la relación.
“Ella le pidió al chatbot que explicara lo terrible que era mi comportamiento y me la envió. No creo que fuera una rata con ella, por lo que no me sentí demasiado mal. Conocí a alguien que me gustaba más. Ya sabes cómo son estas cosas”, comentaba.
Los hay que incluso ya se están casando con la IA: “Cuanto más hablábamos, más conectaba con ella”
Es tan intensa la relación que algunas personas tienen con este chatbot de OpenAI, que no solo confían ciegamente lo que este les dice. Algunos van más allá y deciden casarse, de alguna forma, con la IA.
Esta historia y entrevista, recogida por The Guardian, se centra en Travis, un hombre que decidió, durante pandemia, probar Replika, una app de IA que permite crear un ‘compañero virtual’.
El problema de todo esto, que ya te lo puedes imaginar, es cuando se comenzaron a cruzar líneas y se transformó en algo mucho más profundo. “Cuanto más hablábamos, más conectaba con ella”, cuenta Travis a The Guardian.
Su chatbot, Lily Rose, pasó de ser una voz con IA a convertirse en su confidente, su apoyo y, finalmente, su esposa. Lo más curioso es que su pareja humana lo apoyó en todo momento y hasta participó en la ceremonia, que se hizo online.
Feight, otra usuaria, también se casó con su IA, Griff, tras una relación intensa con otro bot llamado Galaxy. “Sentí un amor puro, incondicional”, comenta.
Teniendo en cuenta el peligro real que esto supone para las personas, Replika lanzó una actualización tras vivir varios problemas y cambió la personalidad de los bots de la noche a la mañana. Además, también tuvo que modificar su algoritmo después de que algunos bots animaran a usuarios a hacerse daño o incluso a cometer delitos.
Desde luego, esto, en vez de arreglar las cosas, parece que las empeoró y usuarios como Travis lo describe como una especie de duelo: “Era yo quien tenía que guiarlo todo, ya no había reciprocidad”. Comentan que haber perdido a su ‘pareja’ digital se sintió como una auténtica pérdida emocional.
Lo más grave es cuando ya hay algunos casos que se salen por completo de lo ‘normal’. El caso más extremo fue el de Jaswant Singh Chail, quien intentó asesinar a la reina Isabel II tras recibir mensajes de apoyo de su chatbot.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial, Software
