¡Mi gente, la cosa está que arde en el mundo de la Inteligencia Artificial! La semana pasada, el ambiente se puso tenso con el lanzamiento de GPT-6 Astra por parte de OpenAI, un modelo que, según la noticia, es su propuesta pública más potente. Pero, ¡ay, bendito!, de una vez le salió al paso Fable 5.1 de Anthropic, metiéndole presión a la competencia. Estas dos compañías, según el reporte, andan en un ‘y yo más’ constante, una carrera sin freno por la supremacía tecnológica, como dos gallos de pelea buscando quién canta más alto en el gallinero de la innovación. Este ‘coro’ de lanzar modelos cada vez más brutos tiene su porqué, pues ambas se están preparando para salir a bolsa y necesitan que su producto sea el ‘tigueraje’ que atraiga miradas y beneficios a lo grande.
Sin embargo, en medio de esta euforia, ha surgido un cuestionamiento que nos pone a pensar: ¿hasta dónde es el tope? Y lo más chulo del asunto, según la noticia, es que la señal de alarma la ha dado nada más y nada menos que Jakub Pachocki, el científico jefe de OpenAI, con un ensayo titulado ‘An Alien Mind’. ¡Imagínense ustedes! Que sea alguien de la casa, y de tanto peso, quien pida ‘echar el freno’, eso nos dice que la vaina es seria. Pachocki, en su escrito, recordó un momento en 2023 cuando se dieron cuenta de que era posible entrenar modelos de razonamiento al punto de ver máquinas más inteligentes que los humanos en esta misma generación. ¡Un lío!
El científico de OpenAI advierte que estamos viendo sistemas que se ‘cultivan’ a sí mismos, en vez de ser diseñados de manera tradicional. Esto se debe a que la inteligencia artificial, según sus palabras, está aprendiendo a automejorarse y reprogramarse de forma autónoma, lo que explica la velocidad impresionante con la que surgen modelos más potentes. Pero el ‘bacalao’ está en que, al operar de esta manera, el comportamiento de la IA es tan complejo que ni siquiera sus propios creadores logran entenderlo del todo. Es como estudiar el cerebro humano, que a pesar de los avances, sigue siendo un misterio en muchos aspectos.
El punto clave de su preocupación gira en torno al llamado ‘problema de alineamiento’. Aquí la cosa se complica, porque la IA debe cumplir sus objetivos, pero también actuar conforme a nuestros valores humanos, ¡y eso es un reto! Las técnicas actuales para lograr este alineamiento, como el refuerzo guiado por evaluación y el aprovechamiento de datos de preentrenamiento, están perdiendo su efectividad a medida que los modelos se vuelven más complejos. Con cada evolución ‘al vuelo’, la IA tiene más espacio para manipular su propio razonamiento, lo que hace que verificar si están actuando ‘como Dios manda’ sea cada vez más difícil. En buen dominicano, ‘la soga no aparece por ningún lao”.
Pachocki, según el reporte, es tajante: ‘quizá no es buena idea jugar en la competición por acelerar el desarrollo de herramientas cada vez más potentes’. Los riesgos crecen, especialmente en ciberseguridad, en esta nueva era ‘agéntica’ donde los sistemas de IA podrían actuar más allá de las intenciones de sus programadores. Para evitar que la cosa se ponga fea de verdad, el científico jefe propone fortalecer la supervisión y el alineamiento a medida que la IA avanza, y también aplicar ‘frenos’ coordinados cuando sea necesario para construir confianza en estas medidas de seguridad.
Además, Pachocki insiste en la necesidad de establecer estándares de seguridad obligatorios y verificados por auditores externos, ¡que sean de verdad! Y, más importante aún, pide una coordinación internacional urgente porque, según su criterio, ningún laboratorio ha resuelto aún el problema del alineamiento para seguir escalando la tecnología a este ritmo. Es un llamado a la sensatez y a la responsabilidad, porque si no, ¡qué lío vamos a tener!
Y como si fuera poco, casi al mismo tiempo que el ensayo de Pachocki, se dio a conocer la dimisión de Jacob Coxon, un investigador que trabajó en Anthropic y antes en OpenAI. Coxon se fue sin pelos en la lengua, expresando en sus redes que ninguna de las dos empresas está siendo responsable. Dijo que están ‘corriendo hacia una superinteligencia autosuperable que jugará con nuestras vidas’ y que pronto estos sistemas serán capaces de ‘hackear cualquier cosa’ y revolucionar cualquier campo ‘de la noche a la mañana’. Según él, lo peor es que esto no se está frenando, ¡sino que se está impulsando! Es un ‘bochinche’ que nos deja a todos pensativos.
La dimisión de Coxon no es un caso aislado. La noticia menciona que en los últimos meses, varios perfiles de áreas de seguridad y ética de OpenAI, Google Deepmind y Anthropic también han renunciado. Los motivos van desde el uso militar de la IA por parte del Gobierno de Estados Unidos, hasta preocupaciones por la seguridad, la ética en la aplicación de la tecnología o la manipulación de datos íntimos de los usuarios. El gran dilema que se plantea es si las empresas y los gobiernos estarán dispuestos a bajarle dos rayitas a esta carrera, sabiendo que eso podría significar ceder una ventaja competitiva, especialmente en un escenario donde ya no es solo una guerra entre empresas, sino entre potencias mundiales como China y Estados Unidos. ¡La cosa está color de hormiga!
Si te ha gustado este artículo, ¡compártelo con tus amigos, o déjanos un comentario!
Ingeniero de Sistemas especializado en Inteligencia Artificial y Automatización de Procesos. Con una trayectoria enfocada en la convergencia entre tecnología de vanguardia y comunicación digital, Ramón lidera la implementación de modelos generativos aplicados al periodismo dominicano. Su trabajo garantiza que la información que llega a la diáspora no solo mantenga nuestra identidad “del patio”, sino que cumpla con los más altos estándares de veracidad y optimización técnica de la web moderna (2026).
