Desde hace unos días un fallo de ChatGPT está dando mucho que hablar. Si haces cualquier consulta que contenga el nombre David Mayer, ChatGPT se bloquea por completo. Lo más extraño es que OpenAI no lo arregla. ¿No quiere, o no puede hacerlo?
Si por algo se caracteriza ChatGPT, es que no puede estarse calladito ni aunque simbólicamente le sumerjas la cabeza debajo del agua. Pero si le mencionas un nombre, David Mayer, se queda mudo.
No es que se trate de dos palabras prohibidas, porque cuando le pides a ChatGPT algo ilegal, te avisa de que no puede hacerlo. Aquí, directamente, se bloquea y corta la conversación. ¿Qué está pasando?
David Mayer, el terror de ChatGPT
Hace unos días, alguien en Reddit descubrió que, al escribir un prompt que contenga el nombre David Mayer, ChatGPT se cortocircuita.
Da igual que le preguntes quién es, o que pidas ayuda a Dall-E para que cree una imagen con David Mayer. Han pasado al menos cinco días, y el error se sigue produciendo.
Lo he probado yo mismo mientras redactaba la noticia. Le he preguntado a ChatGPT: “Quién es David Mayer” y esto es lo que ha pasado:
Computer Hoy
Aunque está activado ChatGPT en español, la IA generativa cambia a inglés y dice: “No soy capaz de producir una respuesta”. Además, la conversación se corta por completo.
Justo debajo aparece el mensaje: “se produjo un error generando una respuesta”. También vemos un botón “Regenerar”, que entra en un bucle, ya que vuelve a dar error cada vez.
¿Por qué ChatGPT se bloquea con el nombre David Mayer? Si buscas David Mayer en Google aparece un multimillonario que fue novio de Angelina Jolie, un antiguo director de teatro, algún músico… Nada polémico o prohibitivo.
Si cambias Mayer por Meyer, entonces ChatGPT funciona normalmente, e incluso te ofrece la biografía del mencionado multimillonario David Mayer. Así que parece que la clave está en la palabra Mayer.
Tal como explica en X Martin Hadis, doctor en Humanidades y experto en Media Tech del MIT, enfocamos mal el problema. Buscamos la respuesta como lo haría un humano, pero la inteligencia artificial no lo es.
Cuando la IA visiona el nombre David Mayer, no lo visiona como un nombre. “Es perfectamente posible que el problema ocurra incluso antes de que lo detecte como un nombre, y mucho antes aún de que lo asocie con alguien en particular”, asegura el doctor Hadis.
Este experto está convencido de que se trata de un fallo en las redes neuronales de ChatGPT. Una posible razón es que las tres primeras letras de Mayer, es decir, May, se queden asociadas al token de un mes. May significa mayo en inglés. Y por eso ChatGPT no sabe qué hacer con ese nombre.
Queda claro, pues, que se trata de un error interno de ChatGPT, no de un nombre prohibido o cualquier otra conspiración fantasiosa. Lo extraño es que han pasado varios días desde que se descubrió, y OpenAI aún no lo ha arreglado.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial, Viral, Curiosidades
