TikTok empieza a etiquetar el contenido generado por inteligencia artificial
El uso creciente de procesos de inteligencia artificial generativa para crear contenidos audiovisuales conlleva riesgos que TikTok quiere atajar. La red social china ha anunciado una funcionalidad para que los creadores puedan identificar ante los demás que han empleado esa tecnología en lo que están viendo, y además probará diferentes métodos que puedan indicar automáticamente su utilización.
En consonancia con esta medida, ahora la normativa interna en torno a los llamados “medios sintéticos” requiere que los creadores etiqueten las piezas que incluyan imágenes, audio o vídeo realistas generados mediante inteligencia artificial. Así, la plataforma pretende evitar en lo posible la difusión de desinformación o información errónea mediante el contexto, y se reserva el derecho a eliminar cualquier contenido de ese tipo cuyo origen no haya sido revelado.
En todo caso, de momento no está previsto que TikTok penalice de alguna manera que los usuarios no identifiquen el uso de inteligencia artificial. Y de hecho, su aproximación al problema se basa más bien en desarrollar una forma fiable de reconocimiento automático para que la aplicación detecte y señale por sí misma las piezas afectadas. En los próximos días comenzará a probar ese marcado sobre cuyo funcionamiento que no ha ofrecido más detalles para no ofrecer pistas a quienes estén interesados en vulnerarlo. Lo que sí ha confirmado es que va a experimentar con diferentes modelos de detección y está “evaluando” colaborar con terceros que puedan aportar algo al respecto.
La identificación de contenido generado por inteligencia artificial se está convirtiendo rápidamente en uno de los asuntos clave para las grandes compañías tecnológicas. Tanto OpenAI, creadora de ChatGPT, como Google han anunciado recientemente el lanzamiento de sus propias herramientas para detectar piezas creadas o editadas con esa tecnología, e Instagram también está trabajando desde hace algunas semanas en su propio sistema de etiquetado.
Una de las claves que explica este interés es la presión regulatoria actual y futura, que sobre todo proviene en estos tiempos de la Comisión Europea. Ese organismo ha incluido la inteligencia artificial entre sus preocupaciones en torno a la desinformación y está pidiendo a los más de 40 firmantes del código que impulsó para combatirla, que pongan en marcha tecnología de reconocimiento y marcado.
En el caso de TikTok, esta iniciativa se suma a otros movimientos como el compromiso adquirido en febrero de cumplir con el código Prácticas Responsables para Medios Sintéticos, un estándar sectorial de transparencia e innovación. Asimismo, la red social incluirá AI en el nombre de los efectos disponibles para creadores cuando estos basen su funcionamiento en inteligencia artificial y publicará vídeos formativos en las próximas semanas para que sus usuarios comprendan mejor esa tecnología.
