El ‘relajo’ con la Marca de Agua de Anthropic: ¿Un Cuento Chino para el Profesorado?

¡Atención, mi gente! Si pensabas que la inteligencia artificial no iba a traer su propio ‘relajo’ a la vaina, te equivocaste. La semana pasada, la gente de Anthropic, esa compañía que está detrás del modelo Claude, anunció con bombos y platillos una nueva ‘Marca de Agua’ para los textos que su IA genera. La idea era, según el reporte, cumplir con la legislación europea y, de paso, darle una mano al profesorado que anda con la cabeza ‘vuelve y juega’ con el tema de la trampa. Pero, ¡ay, mi madre! Apenas un día después de soltar la noticia, ya el tigueraje de los hackers se había buscado la vuelta para desbaratarla. ¡Así de una vez!

Es que la verdad sea dicha, el tema de los textos generados por IA está a la orden del día, y para los educadores, esto es un lío de verdad. Imagínate, uno pide un trabajo, y asegún la noticia, casi todo el estudiantado, un 95% en el Reino Unido y más de la mitad en Australia, está usando IA para sus tareas y evaluaciones. Los detectores tradicionales de IA fallan más que una escopeta de feria, como dice el dicho, y en China hasta tuvieron que ‘apagar’ los chatbots en tiempos de examen para evitar el ‘coro’ de la trampa. Por eso, esta ‘Marca de Agua’ de Anthropic, sobre el papel, sonaba a ‘música celestial’ para el sector educativo, como un maná caído del cielo.

Según lo que explicó Anthropic, la magia de su sistema no es que le añada caracteres o tokens extra al texto, sino que sesga la elección de palabras. Es decir, Claude escoge ciertas palabras dentro de las que encajan en el texto para generar un patrón estadístico oculto. La idea era que este patrón solo pudiera leerse con una clave criptográfica, haciendo casi imposible borrarlo si no sabías cómo. Eso era lo chulo, que tú podías copiar el texto en Word, cambiarle cuatro cositas, y la marca supuestamente seguiría ahí, bien escondida.

Pero, como casi siempre pasa con estas vainas, la teoría es una cosa y la práctica es otra. Resulta que esta ‘Marca de Agua’ no es capaz de decir con seguridad si un texto lo escribió un humano. Solo habla de probabilidades y no distingue si usaste la IA para escribir el texto completo o solo para corregir el estilo, lo que para el profesorado es un problema del otro mundo. Además, en textos cortos o cuando se trata de código, el sistema no tiene mucho margen para meter ese sesgo en la elección de palabras. Y para colmo, que un texto no tenga la marca tampoco garantiza que lo haya escrito una persona. ¡Un verdadero embrollo!

Lo más ‘jevi’ de todo es que el ‘tigueraje’ cibernético no duró ni 24 horas. ¡Así mismo! Después de que Anthropic soltó la noticia, ya había en GitHub una herramienta que prometía borrar las marcas de agua de Claude, ChatGPT y Gemini. En un par de días, ya había un viaje de herramientas para todos los gustos y colores, según reporta Forbes. Esto demuestra que la carrera entre la IA y la forma de detectarla es un pleito que no se va a acabar de una vez, y que siempre va a haber alguien buscando la manera de darle la vuelta a la tortilla.

Entonces, ¿qué le queda al profesorado en esta vaina? Pues el resumen está claro: ni ellos ni las instituciones pueden confiar en estas marcas de agua para evitar que los estudiantes hagan trampas. Esta ‘falsa seguridad’ nos devuelve a la casilla de salida, al punto de partida. La solución, como aconseja Jason Lodge, un experto en psicología educativa de la Universidad de Queensland según la noticia, pasa por un cambio de paradigma. Hay que dejar de estar buscando pruebas de que los estudiantes hacen trampa con estas herramientas y, mejor, enfocarse en buscar pruebas de que el aprendizaje se ha dado. Al final del día, la meta es que el alumno aprenda, no que sepa esquivar los detectores.

Si te ha gustado este artículo, ¡compártelo con tus amigos, o déjanos un comentario!

¿Tú qué opinas? Cuéntalo aquí:

Hot this week

Bacano, el Precio de la Gasolina Sube a la Luna

La situación en el mundo del petróleo se volvió...

¡Santiago de luto! Se nos fue un ‘duro’ de la crónica de arte, Claudio Concepción

La crónica de arte dominicana está de luto, y...

¡Tremendo ‘Coro’! ¿Lady Gaga y Michael Polansky ‘Asegún’ ya Son Padres?

¡Klk, gente! Parece que por ahí viene una noticia...

¡Una ‘Vaina’ Seria! Tráfico Animal Desde Haití Enciende las Alarmas por Ántrax en Dajabón

¡Klk con la frontera, mi gente! Una situación que...

Temas

Articulos Relacionados

Categorias Populares

spot_imgspot_img