Un grupo de grandes científicos en el campo de la inteligencia artificial ha lanzado una advertencia sobre los posibles peligros de esta tecnología que no para de desarrollarse a una rapidez casi nunca vista. En una declaración conjunta, expertos de Estados Unidos, China y otros países han pedido la creación de un sistema internacional de supervisión para controlar los riesgos potencialmente graves que plantea la IA.
La base de todas estas grandes dudas es que una tecnología que antes era solo humo, ahora está en todas partes y comienza a implementarse a fondo en los smartphones. Ahora llegan las prisas y están tratando de que se regule.
Los expertos advierten que, en un futuro no muy lejano, la IA podría superar las capacidades humanas y sugieren que los países establezcan responsables para supervisar los sistemas de IA dentro de sus países. Estos se encargarían de definir “líneas rojas” y señales de que las cosas no están yendo como deberían.
“Si tuviéramos algún tipo de catástrofe dentro de seis meses, si detectamos que hay modelos que están empezando a automejorarse de manera autónoma, ¿a quién llamarías?”, comenta Gillian Hadfield, una académica legal y profesora de informática y gobierno en la Universidad Johns Hopkins.
Científicos de Estados Unidos, China, Gran Bretaña, Singapur, Canadá y otros países firmaron la declaración
Lo interesante es que este esfuerzo incluye a expertos de países que normalmente compiten entre sí en tecnología, como Estados Unidos y China. Entre los firmantes están nombres reconocidos como Yoshua Bengio, Andrew Yao y Geoffrey Hinton, todos ellos figuras clave en el campo de la IA.
“Ambos países sospechan enormemente de las intenciones del otro”, dijo Matt Sheehan, miembro del Carnegie Endowment for International Peace, que no participó del diálogo. “Les preocupa que si frenan por cuestiones de seguridad, eso permitirá que el otro avance”, dijo Sheehan. “Esa sospecha simplemente se va a afianzar”.
Los científicos insisten en que es clave colaborar a nivel internacional e incluso llegan a comparar la situación actual con las conversaciones entre científicos durante la Guerra Fría que ayudaron a evitar una catástrofe nuclear.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial, Software
