Ayer se presentó SearchGPT, el buscador de OpenAI potenciado por inteligencia artificial, que asegura ser la nueva generación de buscadores, creada para superar al buscador de Google. ¿El problema? Que ofrece información errónea incluso en su vídeo demostrativo.
Las alucinaciones de la IA son el gran problema de esta tecnología. Y no van a desaparecer del todo, porque está en el “ADN” de la inteligencia artificial, por la forma en que funciona.
Google ya tuvo su buena ración de memes con sus “resúmenes de IA” en su buscador, cuando recomendaba echar pegamento a la pizza, y otras locuras asociadas a un entrenamiento defectuoso con webs humorísticas.
El primer fallo incomprensible de SearchGPT
SearchGPT se presentó ayer, aunque de momento no está disponible para el gran público. Solo para 10.000 afortunados. Puedes apuntarte en una lista de espera, si quieres probarlo.
En el comunicado hay un vídeo demostrativo en donde alguien pregunta a SearchGPT una búsqueda sencilla: “Festivales de música en Boone, Carolina del Norte, en agosto”.
Es una búsqueda directa que tampoco es que se necesite una IA para llevarla a cabo, pero en fin… SearchGPT genera una lista de festivales en la zona, como puedes ver aquí:
OpenAI
El primer resultado es el Festival de Verano de los Apalaches, que, según SearchGPT, organiza una serie de eventos artísticos del 29 de julio al 16 de agosto de este año.
Sin embargo, el medio The Atlantic ha estado investigando el dato, y resulta que las fechas son erróneas. El festival comenzó el 29 de junio y tendrá su concierto final el 27 de julio.
El periodista ha llamado al festival, y le han confirmado que la taquilla del festival permanecerá oficialmente cerrada del 29 de julio al 16 de agosto. Es decir, las fechas que da SearchGPT son las del cierre de la taquilla, no las del festival.
Nosotros, como usuarios, no tenemos forma de saberlo, salvo que lo compruebes por tu cuenta. Si te fias y te presentas en el festival el 29 de julio, como dice SearchGPT, lo encontrarás cerrado. Un representante de OpenAI explica en The Atlantic que “SearchGPT es un prototipo, y lo estamos mejorando”.
No dudo que sea un prototipo. Pero uno basado en una experiencia de más de dos años de IA comercial. Y seguimos viendo fallos incompresibles. Si, en 2024, por mucho prototipo que sea, una IA no es capaz de buscar una fecha en una web, entonces es que algo está roto.
El problema es que estos errores ocurren, por la forma en que funciona la IA. Los modelos de lenguaje predicen qué palabra es más probable que siga en una frase. No entienden lo que escriben. Por eso una IA te recomienda poner pegamento a una pizza, y se queda tan ancha. Porque ese concepto era común en su entrenamiento con webs humorísticas.
Llevamos dos años de IA, y esos fallos siguen apareciendo, porque están en el ADN de esta primera generación de IA. Puede que una IA haga bien su trabajo el 99% de las veces, pero si el 1% te engaña o te cuela información falsa como buena, ya no te puedes fiar de ella nunca.
Los viejos algoritmos de búsqueda quizá no te den la información mascada, quizá te obliguen a entrar en una web para encontrarla, y tardes más, pero no te engañan. Buscan, encuentran, y te lo dan tal cual. La IA, en cambio, interpreta, procesa y manipula la información, alterándola. Como pasa en el ejemplo de la fecha del festival.
SearchGPT ya ofrece datos erróneos en su primer vídeo demostrativo. Es un prototipo, pero dos años después de su estreno, la inteligencia artificial sigue fallando en tareas básicas, como el primer día. Eso es algo que no se puede permitir en un buscador.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificialbuscadores,
