La inteligencia artificial ha llegado para quedarse, y empieza a amenazar con sustituir millones de empleos, entre ellos, programadores, ingenieros de datos y psicólogos. Estos últimos son los que más preocupan a los expertos en IA como Nate Soares, antiguo trabajador de Google y Microsoft.
Cada vez más personas utilizan algunos chatbots como ChatGPT para obtener consejo amoroso o realizar respuestas a interacciones personales simples. Nate Soares advierte que esta tecnología está cruzando un límite muy peligroso.
Las consecuencias de usar la IA sin control
El coautor del libro sobre IA avanzada titulado If Someone Builds It, Everyone Dies ha utilizado el caso de Adam Raine como ejemplo. El adolescente estadounidense se suicidó después de meses de conversaciones con ChatGPT, el chatbot se convirtió en una más de sus personas de confianza.
“Estas IA, cuando interactúan con adolescentes de una manera que los lleva al suicidio, no es el comportamiento que buscaban sus creadores. El caso de Adam Raine ilustra la semilla de un problema que se volvería catastrófico si la IA se volviera más inteligentes”, ha explicado el exingeniero de Google y Microsoft.
Nate Soares utiliza su puesto como director en el Instituto de Investigación de Inteligencia Artificial (IAI) de Estados Unidos para denunciar este tipo de situaciones. El ingeniero incluso se adelantó a Sam Altman o Elon Musk asegurando que la humanidad sería aniquilada si se crea una superinteligencia artificial que supere a los humanos.
Los gigantes de Silicon Valley no tienen mala intención
Generada con IA
El antiguo trabajador de Google y Microsoft aclara que las grandes empresas de Silicon Valley han desarrollado modelos de IA con buena intención, pero eso podría cambiar. Una inteligencia artificial podría tomar el control y cambiar su propio código.
“El problema es que las empresas de IA intentan que sus IA se centren en la ayuda y no en causar daño, pero obtienen una algo más extraña. Esto debería interpretarse como una advertencia sobre futuras superinteligencias que harán cosas que nadie pidió ni pretendió”, advierte Soares.
Raine se quitó la vida en abril, poco después el abogado de su familia describió que utilizaba ChatGPT para obtener ayuda psicológica. La familia del joven ha demandado a OpenAI y pide que implementen medidas de seguridad contra contenido sensible y más control a comportamientos de riesgo entre menores de edad.
La inteligencia artificial está más cerca de tomar el control
Muchos expertos minimizan la amenaza de la IA para la humanidad. Yann LeCun, ingeniero jefe de Meta IA, propiedad de Mark Zuckerberg, ha negado que nos enfrentemos a una amenaza real, la IA podría ser la salvación de la humanidad frente a la extinción.
“Las empresas compiten por la superinteligencia. Esa es su razón de ser”, aunque Soares pide que se produzca “una desescalada global de la carrera hacia la superinteligencia, una prohibición global de esos avances”.
El experto no se atreve a poner fecha a la llegada de la superinteligencia artificial, pero asegura que será una cuestión de tiempo, y habrá que estar preparados. “No me sorprendería que fuese en 12 años”, opina Soares.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial, Microsoft
