La entrada en vigor de la obligación de que cualquier ciudadano de la Unión Europea pueda distinguir el origen automático de un contenido ya tiene respuesta por parte de Anthropic. Su asistente Claude incluirá dos mecanismos que permitirán ese reconocimiento mediante una marca de agua imperceptible en texto y metadatos de procedencia firmados digitalmente cuando se trate de imágenes u otros archivos compatibles.
En el primer caso la señal estará integrada de forma que no cambie el significado, la calidad o la legibilidad del escrito. Y además está diseñada para sobrevivir a acciones como copiar y pegar, y posibles pequeñas ediciones. En el segundo Anthropic utilizará el estándar C2PA para acreditar que el contenido ha sido generado por Claude.
El gran competidor de OpenAI aplicará a nivel global estas medidas aunque solo esté obligado legalmente en la zona comunitaria.
Lo novedoso es que la startup no solo aplicará este trazador de origen en la Unión Europea, cumpliendo lo establecido por el artículo 50 de la Ley de Inteligencia Artificial comunitaria. Lo hará a nivel mundial y de hecho los modelos lanzados a partir del 2 de agosto ya incorporan las marcas mencionadas, mientras que los anteriores se actualizarán progresivamente durante el periodo de transición que prevé la citada normativa.
En todo caso Anthropic aclara en su blog corporativo que la detección no es infalible y que una edición profunda o una cita textual relevante pueden eliminar el rastro. Además algunos metadatos pueden perderse si plataformas que procesan los archivos los eliminan.
Por otro lado también resalta que la existencia de esas marcas no demuestran que todo el contenido haya sido escrito por Claude. Solo acreditan que ha sido generado o procesado por uno de sus modelos, de forma que podrá verse tanto si ha redactado la pieza completa como si solo ha corregido o reescrito ligeramente algo creado por un tercero.
Por ello esta identificación no resuelve todos los problemas que actualmente se derivan del contenido automatizado, entre los que destacan la desinformación y el uso engañoso de piezas sintéticas. Pero es el primer gran paso para abordar estas cuestiones por parte de una empresa del sector en lo relativo a los textos, ya que hasta la fecha la mayor parte de los esfuerzos de estas compañías se habían centrado en material multimedia.
Anthropic aún está desarrollando las herramientas necesarias para que cualquiera pueda comprobar la eventual intervención de Claude en lo que pueda ver o leer, y las publicará próximamente.
