Queda claro que la inteligencia artificial ya no es una moda pasajera. Empresas de todo tipo invierten todo lo que tienen, y lo que no, en desarrollar nuevas y potentes herramientas o en simplemente abrazarla en sus oficinas, desplazando a trabajadores.
Mustafa Suleyman, fundador de DeepMind con Demis Hassabis, la empresa que llevó la inteligencia artificial a otro nivel, y ahora CEO de Microsoft AI lleva bastante tiempo advirtiendo de lo que la IA va a provocar en el mundo y las graves consecuencias si se sale de control.
Para evitar esto, propone un control absoluto del nivel de un ejército para supervisar todas las capacidades y evitar que esta tecnología pueda causar desastres a escala global en los próximos años.
Suleyman en concreto, explica que estamos hablando de sistemas que pueden modificarse a sí mismos, marcar sus objetivos, actuar por cuenta propia y conseguir recursos para seguir creciendo. Esto no es algo lejano o simplemente una paranoia, sino que puede ocurrir en un plazo de 5 a 10 años. Y parar algo así, dice, será cosa de militares o de mecanismos muy similares.
“Deberíamos dejar de alarmarnos. Es necesario regularlo. Debe ocurrir en el momento y la forma adecuados”, comenta. “Debemos construir IA para las personas, no para que sean personas”, añade.
La ola de la IA se acerca y la humanidad no puede dejar que le arrolle
Para que te hagas una idea de a qué se refiere este gran cerebro, ejemplifica de una forma muy visual. La IA es como una ola gigante que puede elevarnos o aplastarnos. Es una fuerza natural que no se puede frenar, solo aprender a moverte por ella para que no nos ahogue o para que nos lleve a un lugar mejor.
Este “optimismo radical”, como lo llama, supone que la IA puede dar a la humanidad una abundancia nunca vista antes en forma de diagnósticos médicos muy precisos, educación personalizada, soluciones para el cambio climático y para combatir el hambre.
Pero también está la otra cara de la moneda. Sin regulación ni control, la IA puede convertirse en una amenaza existencial para la humanidad. Por eso insiste en la necesidad urgente de auditar, controlar y regular esta tecnología a niveles serios y globales.
Desde Microsoft, con este a la cabeza, se trabaja en crear los guardrails, los límites y protocolos necesarios para que la IA ofrezca valor sin salirse de control y poniendo siempre a la persona en el centro. Pero según explica, y una vez esto escale a nivel inimaginable, no bastará con cerrar un programa o apagar un ordenador. Serán sistemas que requieran medidas militares o de soberanía nacionales.
“La puerta a una sociedad distópica se abre de par en par”
Desde luego, las palabras de esta gran mente casi nunca traen buenas noticias o un pequeño rayo de esperanza. Sin ir más lejos, también afirma que la IA no solo puede ayudarnos a avanzar como humanidad, también puede abrir la puerta a una distopía, indeseable y catastrófica.
“Esta ola de IA puede ampliarnos, multiplicar nuestro poder, pero también crear un estado de vigilancia y control que limite la libertad personal”, sentencia. “Estamos hablando de una recopilación masiva de datos, con tecnología que puede controlar cada aspecto de nuestras vidas. Eso puede producir un mundo donde la privacidad sea un lujo y la disidencia, imposible”, añade.
Eso sí, matizar que hasta él mismo reconoce que la idea de controlar cada detalle puede sonar exagerada, pero “solo es cuestión de tiempo hasta que estas ideas marginales se conviertan en políticas aceptadas, sobre todo cuando los riesgos de pandemias o escenarios tecnológicos se usen como justificación”.
Con esto como base, Suleyman insiste en que muchos gobiernos, especialmente los autoritarios, no dudarán en usar la tecnología para su beneficio, aunque eso signifique tirar por tierra libertades y privacidad de las personas.
“Cuando sientan que su autoridad está en juego, cuando el miedo domine, la respuesta será endurecer el control, confinar más, vigilar más. ¿A qué precio? Esa es la gran pregunta”, dice.
El siguiente paso ahora es crear una regulación global que englobe todos los aspectos de esta tecnología, desde la investigación hasta la aplicación final, ya que, la única forma de evitar que algo se escape al control es cerrar todos los huecos.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial, Microsoft, Software
