Hay dos cosas que Yoshua Bengio y Geoffrey Hinton tienen en común. La primera, que están considerados como “los padrinos de la IA”, por haber sido pioneros en todo lo que se refiere a esta tecnología. La segunda, que ambos se han vuelto profundamente críticos y hablan incluso de extinción humana. ¿Están exagerando o realmente la amenaza que existe es tan grande?
En el caso de Bengio, este ha vuelto a ratificarse en sus temores. Continúa erre que erre en que, o bien se toman medidas cuanto antes, o la tecnología podría ser un problema gravísimo para la supervivencia del ser humano. Hasta tal punto, dice, que no tiene reparos en comparar la situación de la inteligencia artificial con 2001: Una odisea en el espacio, un clásico de la ciencia ficción.
La IA ya se parece a la ciencia ficción, dice Yoshua Bengio
A poco que estés familiarizado con la ciencia ficción clásica, te sonará el nombre de HAL 9000. Era el ordenador protagonista de la película y novela 2001: Una odisea en el espacio, que Stanley Kubrick inmortalizó para la gran pantalla. Para muchos, es una de las mejores o la mejor película en su género. Pero ahora también parece haberse convertido en otra cosa: una advertencia.
Así al menos lo considera Yoshua Bengio, para muchos uno de los mayores expertos que existen en inteligencia artificial, y también uno de sus mayores detractores desde hace tiempo. El experto lleva tiempo hablando de los riesgos que tienen herramientas como ChatGPT desarrollados sin apenas controles, y ahora ve similitudes entre ellas y la mítica obra de 1968.
A grandes rasgos, HAL 9000 era lo que hoy en día se entiende como una superinteligencia artificial. Es decir, tenía más capacidades que los propios astronautas con los que viajaba. El problema empezaba cuando sus órdenes se contradecían y terminaba por ver a su tripulación como un inconveniente para cumplir sus objetivos. Lo que muchos temen de la IA, vaya.
Lo que dice Bengio en una entrevista concedida a The Wall Street Journal es precisamente eso: una máquina con un gran poder pero sin valores humanos puede convertirse en un riesgo existencial. Seguir según qué objetivos de forma demasiado estricta puede acabar por volverse una amenaza para los seres humanos, como en la película de Kubrick.
Los misteriosos objetivos de la inteligencia artificial
El problema de la IA, dice Bengio, es que cualquiera puede pedirle que haga algo, lo que él llama “objetivos”, pero es imposible precisar los pasos que emplee para realizarlo. Estos serían los “subobjetivos”. Por eso no tiene por qué ajustarse a las expectativas finales. O lo que es lo mismo, ser más perjudicial que beneficiosa, si no se tiene el cuidado necesario.
¿Y no sería suficiente con entrenar a la IA con las instrucciones adecuadas? Para Bengio, no es tan fácil. Admite que ya existen mandatos con respecto “a la seguridad y la moralidad”. Pero incluso así la tecnología es impredecible, como tienden a demostrar sus alucinaciones. En el caso de ChatGPT, por mucho que OpenAI se esfuerza por intentar evitarlas, siempre vuelven.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial
