Según la IA de Meta, el atentado contra Donald Trump de hace unas semanas, no existió. Sus partidarios lo han aprovechado para ver una conspiración más contra ellos, cuando sabemos que se trata de la enésima alucinación. Alucinaciones que no desaparecen, y que invalidan por completo la utilidad de la IA.
La inteligencia artificial tiene un problema mental, y quizá es el momento de que las tecnológicas se quiten la careta y admitan que este problema metal es una enfermedad crónica, que no se va a curar. Al menos, no con esta primera generación de IA.
El primer problema radica en que las compañías tecnológicas no tienen unas reglas sobre el uso de la IA, o no se atreven a aplicarlas.
La inutilidad de la IA con la información en tiempo real
Tras el intento de asesinato contra Donald Trump, Meta impidió que su IA ofreciese respuestas sobre el atentado. Hoy ha explicado que es porque no podía procesar la información correctamente. Sin embargo, muchos usuarios la acusaron de posicionarse políticamente, así eliminó la norma. Y aquí comenzaron los problemas.
Tal como se ha podido ver en redes sociales, la IA de Meta ha negado en algunas respuestas, que el atentado contra Donald Trump haya existido. Una respuesta nefasta que está siendo aprovechado por los partidarios de Trump, y los conspiracionistas.
Joel Kaplan, Vicepresidente de Política Mundial de Meta, ha explicado en el blog de Meta, lo que ha ocurrido. Es bastante revelador, porque básicamente reconoce que la IA es una inútil, cuando se trata de trabajar con noticias e información en tiempo real.
“Es sabido que los chatbots de IA, incluida Meta AI, no siempre son fiables cuando se trata de noticias de última hora o de información en tiempo real”, reconoce Joel Kaplan.
“En términos sencillos, las respuestas generadas por los grandes modelos lingüísticos que impulsan estos chatbots se basan en los datos con los que fueron entrenados, lo que a veces puede crear problemas cuando se pregunta a la IA sobre temas en tiempo real que se desarrollan rápidamente y que ocurren después de haber sido entrenados”.
Así que al fin Meta reconoce que la IA no es buena manejando noticias en tiempo real, información con la que no ha sido entrenada. Pero entonces, ¿por qué permite que se use justo para eso, si es propensa a dar información falsa?
“Desde entonces hemos actualizado las respuestas que Meta AI proporciona sobre el intento de asesinato, pero deberíamos haberlo hecho antes”.
Este es otro dato interesante. Nos venden la IA como un robot que “piensa”, que genera contenido en función de su entrenamiento. Pero también se la puede controlar para que de exactamente las respuestas que ellos quieren, no las que genera la propia inteligencia artificial. Es decir, es manipulable.
“En un pequeño número de casos, Meta AI continuó proporcionando respuestas incorrectas, incluyendo a veces la afirmación de que el evento no ocurrió, que estamos trabajando rápidamente para resolver. Este tipo de respuestas se conocen como alucinaciones, un problema que afecta a toda la industria y que observamos en todos los sistemas de IA generativa”.
Ha pasado dos años desde que se estrenó la inteligencia artificial generativa comercial, pero los fallos siguen ocurriendo en el nivel más básico.
Hace unos días OpenAI presentó su buscador con IA SearchGPT, y el vídeo de demostración ya cometía un fallo básico, mostrando fechas erróneas en la celebración de un festival. Hoy la IA de Meta dice que el atentado contra Trump, no ocurrió.
Si, tras dos años de IA, aún no es capaz de buscar una fecha en una web de un festival, o miente sobre un hecho que está certificado en toda la prensa confiable, entonces es que la IA está rota. O es que no sirve para lo que nos la quieren vender.
Las alucinaciones de la IA son inherentes a su tecnología. Y hoy Meta reconoce que no es buena con la información de actualidad. Si no sabes cuando una IA te va a ofrecer información falsa, si no puedes confiar en sus respuestas, entonces se vuelve inservible. Porque no tienes forma de saber si esa traducción, o ese código que ha escrito, o eses resumen que ha generado, es correcto, o una alucinación.
Quizá es el momento de bajar a la IA del pedestal en donde las tecnológicas la han puesto, y dejar de usarla para todo. Cada vez es más obvio que hay cosas que no se le dan bien.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial, Industria, Facebook
