Científicos, diplomáticos, premio Nobel y diferentes líderes del mundo de la inteligencia artificial han firmado una carta para alcanzar un acuerdo a nivel internacional sobre lo que han denominado como “líneas rojas” de la IA.
El grupo, integrado por más de 200 personalidades relevantes de más de 70 organizaciones a nivel mundial, ha hecho este lunes un llamamiento para anticiparse a los riesgos más que evidentes que comparten los expertos en relación al potencial de la IA.
“La idea no es que reaccionemos después de que ocurra un incidente, sino prevenir los potenciales e irreversibles riesgos que podrían darse a gran escala”, explica en una reunión con periodistas Charbel-Raphaël Segerie, director del centro para la seguridad de la IA de Francia, según cita TheVerge.
E insta a los diferentes países a alcanzar un consenso: “Si las naciones no pueden llegar a un acuerdo sobre lo que quieren para la IA, al menos que lo alcancen en lo que no debería nunca hacer”.
Otra de las personalidades que se suma a las reivindicaciones sobre la responsabilidad en el desarrollo de la IA es Maria Ressa, Premio Nobel de la Paz 2021, que apunta directamente al protagonismo de las grandes compañías tecnológicas.
En este sentido, apela a que las big tech dejen a un lado su “impunidad” y comiencen a “rendir cuentas a nivel global”.
Más allá va Niki Iliadis, director de gobernanza global de la IA en The Future Society, que exige una escalabilidad responsable de los negocios relacionados con la IA en el corto plazo; a largo plazo, ve necesaria la creación de una “institución global independiente” que defina y monitorice sus “líneas rojas”.
En la misma posición coincide Stuart Rusell, profesor de informática en la UC Berkeley e investigador especializado en IA, que compara esta con la energía nuclear.
“Tal y como los creadores de la energía nuclear no comenzaron a fabricar centrales hasta que supieron cómo evitar que explotaran, la industria de la IA debe elegir un camino tecnológico diferente, uno construido sobre la seguridad desde el comienzo”, expresa el docente.
Además de ello, no cree que introducir líneas rojas en la industria de la IA pueda repercutir negativamente sobre el desarrollo o la innovación, y considera que es mejor no usar algo que no se conoce, como la AGI –Inteligencia Artificial General–.
Otros nombres importantes, como Ahmet Üzümcü, ex director general de la Organización para la Prohibición de las Armas Químicas, pone especial atención en la combinación de sistema de IA con ámbitos peligrosos, como las armas nucleares, las campañas de vigilancia masiva o la suplantación de personas reales.
De momento, la propuesta para la creación de un organismo internacional llega algo tarde y no tendrá su salida en la Asamblea General de la ONU hasta finales de 2026, momento en el que se tendrá que aprobar una resolución.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial
Ingeniero de Sistemas especializado en Inteligencia Artificial y Automatización de Procesos. Con una trayectoria enfocada en la convergencia entre tecnología de vanguardia y comunicación digital, Ramón lidera la implementación de modelos generativos aplicados al periodismo dominicano. Su trabajo garantiza que la información que llega a la diáspora no solo mantenga nuestra identidad “del patio”, sino que cumpla con los más altos estándares de veracidad y optimización técnica de la web moderna (2026).
