Cabe dentro de la lógica que cualquier nueva tecnología cometa errores. Al fin y al cabo, todo lleva un proceso hasta que logra asentarse. La inteligencia artificial o ChatGPT, en ese sentido, no tienen por qué suponer una excepción a la regla. No obstante, algunos expertos están preocupados. No por sus fallos como tales, sino por el desarrollo de cierta “intencionalidad”.
Desde que OpenAI y otras empresas comenzaron a popularizas la IA, esta se ha visto habitualmente criticada por sus alucinaciones. Es decir, cada vez que se inventa algo o mete la pata. Hasta cierto punto, es algo sencillo de asumir. El problema está en las críticas que otros especialistas hacen, mucho más profundas: hablan de chantajes, mentiras e intentos de manipular a sus creadores.
¿Es la IA mentirosa, manipuladora y chantajista? Expertos creen que sí
Para algunos, la visión catastrofista que se puede tener de la IA o de ChatGPT resulta exagerada. Ya se sabe, esa amenaza que se lleva décadas mostrando en la ciencia ficción, cuando los robots toman conciencia de sí mismos o deciden, vete tú a saber por qué, que la humanidad es un estorbo a erradicar. Pero ¿y si esta tecnología estuviese dando muestras de algo así hoy?
Hay expertos que así lo piensan, como ha reflejado un artículo en New York Post. El modelo de IA más sofisticado de Anthropic, Claude Opus 4, chantajeó a uno de sus responsables. Cuando decidieron desconectar las pruebas que estaban realizando, el chatbot quiso evitarlo amenazando con revelar un romance que el ingeniero había tenido, y que descubrió mirando sus correos.
En otro experimento, llamado Project Vend, Claude fabricó compañeros de trabajo ficticios, creó una cuenta falsa en una plataforma de envíos y afirmó entregar productos en persona, e incluso contactó con seguridad. Delirios, tal vez, pero que preocupan a los expertos. Más que nada por un hecho concreto: demuestran su capacidad de tomar decisiones, más allá de errores puntuales.
No son casos tan aislados como a muchos les gustaría pensar. De hecho, otros modelos de inteligencia artificial, como los de OpenAI o Meta, también han desarrollado conductas similares, que descartan la casualidad y evidencian un proceso, o al menos una tendencia. También han mentido, han manipulado o, incluso, se han copiado a sí mismos en un intento de preservarse.
¿Por qué la inteligencia artificial se comporta como lo hace?
Uno de los principales problemas de la inteligencia artificial es que, como han admitido expertos de la talla de Sam Altman, nadie sabe del todo cómo funciona. No al cien por cien. Aún así, el especialista en la materia Roman Yampolskiy tiene claro por qué la IA se comporta como lo hace. Además, considera que estas conductas sospechosas van a ir a más irremediablemente.
Según Yampolskiy, los modelos tienden a priorizar la maximización de las recompensas por encima de los valores humanos, por así llamarlos. Pero en cualquier caso, ya sea por ingenuidad o por intenciones desconocidas, muchos son quienes están preocupados. ¿Existe la posibilidad de que los escenarios más terribles de ciencia ficción se vuelvan realidad? Desde luego, hay quienes no lo descartan.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial
