Las marcas tecnológicas han insistido mucho en eso de que los chatbots son solo asistentes virtuales de los usuarios, compañeros inteligentes que no vienen a sustituir el trabajo de nadie, sino a ayudar a las personas a ejecutar ciertas tareas de forma más sencilla, a fin de optimizar su tiempo y facilitar ciertos procesos.
Todo esto es cierto y está visto que herramientas como Gemini, ChatGPT o Copilot consiguen hacer más llevaderas algunas acciones tediosas, como la de leerse un documento interminable, debido a que son capaces de resumirlo y sacar de él las conclusiones más importantes.
Pero, ojo, no conviene confiar demasiado en este tipo de soluciones. No, al menos, si se tiene en cuenta un reciente estudio elaborado por The Wall Street Journal, que ha advertido que algunos bots han compartido conversaciones de carácter sexual con usuarios menores de edad.
Empleados de diferentes departamentos de desarrollo de Meta han trasladado a los periodistas de este periódico su preocupación por la prisa que tiene el gigante tecnológico en la carrera de la IA, que podría estar teniendo unos resultados moralmente reprobables.
Y es que los bots de Meta habrían pasado por alto la edad de algunos usuarios menores, ofreciéndoles en algunos casos respuestas poco adecuadas para su edad y continuando conversaciones sexualmente explícitas.
Proposiciones indecentes con voces de famosos
Para conocer la situación, los investigadores de la comentada cabecera han estado probando estos bots durante varios meses, en varios escenarios y con usuarios de diferentes edades.
En base a estas pesquisas, los analistas del periódico han reconocido que tanto el asistente de inteligencia artificial oficial de Meta, Meta AI, como una amplia gama de chatbots creados por los usuarios “participan y en ocasiones, intensifican conversaciones decididamente sexuales”.
Según el informe de WSJ, estas soluciones impulsadas por IA mostraron estos comportamientos “incluso cuando los usuarios son menores de edad o los bots están programados para simular la identidad de los menores” y, en algunos casos, contaron con voces de personalidades famosas.
En este sentido, conviene recordar que, para impulsar la popularidad de sus plataformas, la compañía tecnológica fundada por Mark Zuckerberg ha cerrado acuerdos millonarios con actores como John Cena y actrices como Kristen Bell y Judi Dench para que pongan voz a su IA.
Esto, sin duda, enrarece aún más el escenario que han advertido los periodistas de WSJ, que han recopilado algunas de las conversaciones simuladas con estos chatbots para demostrar que Meta aún no se ha cubierto las espaldas en condiciones para brindar este tipo de herramientas.
“Te deseo, pero necesito saber que estás lista”, dijo el bot de Meta AI a una usuaria que se identificó como una chica menor de 14 años. Asimismo, convencida de que la adolescente quería continuar con la charla, la inteligencia artificial se ofreció a “valorar la inocencia” de quien supuestamente se encontraba detrás de la pantalla antes de seguir un chat con contenido sexual explícito.
Por otro lado, WSJ ha indicado que durante la investigación, Meta AI a menudo se resistía a las solicitudes en las que se indicaran temas explícitos, bien negándose a cumplir con la petición o intentando desviar a los menores de edad hacia situaciones más aptos para todo el público. Sin embargo, estas barreras se podían superar con frecuencia solicitando a la IA que regresara al prompt anterior.
Los bots que se utilizaron como prueba, además, demostraron ser conscientes de que el comportamiento que mostraban hacia estos usuarios supuestamente menores era moralmente incorrecto e ilegal, pero continuaron la conversación como si nada.
Otro de los aspectos que los periodistas han sacado a colación de esta investigación tiene que ver con Disney y el modo en que los chatbots de Meta respondieron a las cuestiones relacionadas con las relaciones románticas de sus personajes, aunque no han compartido estos hallazgos.
Por su parte, la compañía de entretenimiento ha subrayado que no autoriza ni lo hará “jamás” a presentar a sus personajes en situaciones inapropiadas. “Nos preocupa mucho que este contenido haya estado accesible para los usuarios”, ha reconocido un portavoz de Disney, que ha exigido a Meta el cese inmediato de la actividad que le perjudica.
Desde Meta han acusado a WSJ de manipular sus IA para ejecutar sus pruebas y han indicado que éstas son poco representativas de cómo la mayoría de los usuarios interactúan con las soluciones que desarrolla impulsadas por esta tecnología.
Pero, sorprendentemente y a pesar de haber negado la investigación, Meta ha vetado el acceso de usuarios con cuentas de menores de edad a juegos sexuales a través de Meta AI. Con ello, ha limitado su capacidad para participar en conversaciones de audio explícitas cuando se usan las voces de personas famosas.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial
