¡Atención, mi gente! En este mundo digital que nos tiene a todos con la boca abierta, los modelos de inteligencia artificial (IA) de frontera están rompiendo récords y, al mismo tiempo, levantando un viaje de preocupaciones. Hace poco, el coro estaba en la probable solución de las ecuaciones de Navier-Stokes por un modelo de OpenAI, ¡una vaina del otro mundo! Pero ahora, la gente de Anthropic, esa compañía dirigida por el reconocido Dario Amodei, ha soltado una noticia que nos pone los pelos de punta y nos hace pensar en el Peligro Biológico latente.
Resulta que, según el reporte que publicaron ayer, 10 de septiembre, bajo el título ‘Detectando y combatiendo el uso indebido de la IA’, ellos mismos reconocen haber parado varios intentos de usar su IA, Claude, para investigaciones que podrían terminar en el desarrollo de armas biológicas. ¿Tú te imaginas un tigueraje de ese calibre? Esto no es poca cosa, y aunque no están diciendo que pillaron a científicos con malas intenciones directamente, sí identificaron cinco casos donde los investigadores intentaron evadir los sistemas de seguridad de Claude y, lo que es peor, ocultar la verdadera finalidad de su trabajo. ¡Eso sí que está raro!
Ante estos intentos, Anthropic no se quedó de brazos cruzados. Lo que hicieron fue bloquear las cuentas de esos investigadores o, en otros casos, les limitaron el acceso a versiones menos avanzadas de su IA. Ahora bien, la verdad del asunto es que a ellos mismos les resultó un desafío tremendo saber si la intención era realmente maliciosa o si, por el contrario, eran trabajos biológicos con buenas intenciones. Pero, señores, cuando uno intenta esconder algo, por lo general, es porque la vaina no está de lo más bien.
Lo más ‘jevi’ de todo esto, y lo que más los tiene preocupados, es un caso específico donde un científico estaba usando Claude para armar una propuesta de investigación, apoyada por el Estado, relacionada con el virus ‘chikungunya’. ¡Imagínate tú! Aquí la cosa se pone color de hormiga. Pudo haber sido para estudiar mejor el virus o hasta para desarrollar una vacuna, pero también cabe la posibilidad de que toda esa información que Claude pudiera darle se usara para crear un arma biológica. Esa línea entre el uso legítimo de doble propósito y el peligro es bien fina y difícil de manejar.
Y es ahí donde está el verdadero ‘klk’: a los responsables de estos modelos de IA de frontera les está costando un mundo determinar cuándo una investigación legítima puede cruzar esa ‘línea peligrosa’. A la verdad que manejar esta incertidumbre ahora mismo es un desafío mayúsculo. La misma Anthropic confiesa en su informe que sus mecanismos de seguridad no pueden garantizar al 100% que una IA cada vez más potente no termine aportando al desarrollo de agentes biológicos dañinos. Es una vaina que da para pensar, ¿verdad?
Por eso, la propuesta que ponen sobre la mesa es que los laboratorios de IA, los gobiernos y las instituciones que regulan se pongan las pilas y colaboren de una vez para resolver este problema juntos. Porque, asegún ellos, las empresas de IA solitas no pueden con este peso. La buena noticia es que están reconociendo una limitación importante y pidiendo auxilio. La mala es que, por el momento, este desafío no parece tener una solución que uno diga ‘¡ah, qué bacano!’. Esto nos deja con una gran interrogante sobre el futuro y la seguridad en la era de la inteligencia artificial. ¡Y con esto cerramos la chercha por hoy!
Si te ha gustado este artículo, ¡compártelo con tus amigos, o déjanos un comentario!
Ingeniero de Sistemas especializado en Inteligencia Artificial y Automatización de Procesos. Con una trayectoria enfocada en la convergencia entre tecnología de vanguardia y comunicación digital, Ramón lidera la implementación de modelos generativos aplicados al periodismo dominicano. Su trabajo garantiza que la información que llega a la diáspora no solo mantenga nuestra identidad “del patio”, sino que cumpla con los más altos estándares de veracidad y optimización técnica de la web moderna (2026).
