Un pionero de la inteligencia artificial apodado el “Padrino de la IA” ha dimitido de su puesto en la empresa Google para poder hablar más abiertamente de los peligros potenciales de la tecnología.
Antes de dimitir, el Dr. Geoffrey Hinton trabajó en Google en algoritmos de aprendizaje automático durante más de una década. Al parecer, se ganó su apodo debido a su trabajo de toda la vida en redes neuronales.
Sin embargo, en un tuit del 1 de mayo, Hinton aclaró que dejó su puesto en Google “para poder hablar de los peligros de la IA”.
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
En el NYT de hoy, Cade Metz da a entender que dejé Google para poder criticar a Google. En realidad, me fui para poder hablar de los peligros de la IA sin tener en cuenta cómo afecta esto a Google. Google ha actuado de forma muy responsable.
En una entrevista con The New York Times, su preocupación más inmediata con la IA era su uso para inundar Internet de fotos, vídeos y textos falsos, hasta el punto de que muchos “ya no podrán saber lo que es verdad”.
Otras preocupaciones de Hinton se referían a que la tecnología de IA ocupara puestos de trabajo. En el futuro, cree que la IA podría suponer una amenaza para la humanidad debido a que aprendería comportamientos inesperados a partir de las cantidades masivas de datos que analiza.
También expresó su preocupación por la continua carrera armamentística de la IA, que pretende seguir desarrollando la tecnología para su uso en sistemas de armas autónomas letales (LAWS).
Hinton también expresó cierto arrepentimiento parcial por el trabajo de su vida:
“Me consuelo con la excusa normal: si no lo hubiera hecho yo, lo habría hecho otro.”
En los últimos meses, reguladores, legisladores y ejecutivos de la industria tecnológica también han expresado su preocupación por el desarrollo de IA. En marzo, más de 2,600 ejecutivos e investigadores del sector tecnológico firmaron una carta abierta en la que instaban a detener temporalmente el desarrollo de la IA alegando “profundos riesgos para la sociedad y la humanidad”.
Un grupo de 12 legisladores de la Unión Europea firmó una carta similar en abril y un reciente proyecto de ley de la UE clasifica las herramientas de IA en función de sus niveles de riesgo. El Reino Unido también está ampliando USD 125 millones para apoyar un grupo de trabajo para el desarrollo de “IA segura.”
Se utiliza la IA en campañas de noticias falsas y bromas
Al parecer, las herramientas de IA ya se están utilizando para desinformar; varios medios de comunicación recientemente fueron engañados para publicar noticias falsas, y un medio alemán incluso utilizó IA para fabricar una entrevista.
El 1 de mayo, Binance afirmó haber sido víctima de una campaña de difamación originada por ChatGPT y compartió pruebas de que el chatbot afirmaba que su CEO, Changpeng “CZ” Zhao, era miembro de una organización juvenil del Partido Comunista Chino.
To all the crypto and AI sleuths out there, here is the ChatGPT thread if someone wants to dig in. As you’ll see ChatGPT pulls this from a fake LinkedIn profile and a non-existent @Forbes article. We can’t find any evidence of this story nor the LinkedIn page ever existing. pic.twitter.com/szLaix3nza
— Patrick Hillmann ♂️ (@PRHillmann) May 1, 2023
Para todos los detectives de las criptomonedas y la IA, aquí está el hilo de ChatGPT por si alguien quiere indagar. Como ven, ChatGPT saca esto de un perfil falso de LinkedIn y un artículo inexistente de Forbes. No podemos encontrar ninguna evidencia de esta historia ni de que la página de LinkedIn haya existido nunca. pic.twitter.com/szLaix3nza
El bot enlazaba a un artículo de Forbes y a una página de LinkedIn de los que afirmaba haber sacado la información, pero el artículo parece no existir y el perfil de LinkedIn no es el de Zhao.
La semana pasada, un grupo de bromistas también engañó a varios medios de comunicación de todo el mundo, entre ellos Daily Mail y The Independent.
El Daily Mail publicó y posteriormente retiró una noticia sobre un supuesto actor canadiense llamado “Saint Von Colucci”, quien se decía que había muerto tras una operación de cirugía plástica para parecerse más a una estrella del pop surcoreana.
La noticia procedía de un comunicado de prensa sobre la muerte del actor, enviado por una entidad que se hacía pasar por una empresa de relaciones públicas y que utilizaba lo que parecían ser imágenes generadas por IA.
En abril, el medio alemán Die Aktuelle publicó una entrevista que utilizaba ChatGPT para sintetizar una conversación con el ex piloto de Fórmula Uno Michael Schumacher, que sufrió una grave lesión cerebral en un accidente de esquí en 2013.
Se informó que la familia de Schumacher emprendería acciones legales por el artículo.
Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión
Sigue leyendo:
Las inversiones en criptoactivos no están reguladas. Es posible que no sean apropiados para inversores minoristas y que se pierda el monto total invertido. Los servicios o productos ofrecidos no están dirigidos ni son accesibles a inversores en España.
