Un titular falso desata la polémica sobre las capacidades de inteligencia artificial de Apple
La última versión de iOS incorpora Apple Intelligence, un conjunto de funcionalidades basadas en inteligencia artificial generativa cuya calidad ha quedado en entredicho tras crear un titular falso atribuido a BBC.
Ese encabezado formaba parte de un resumen automatizado y señalaba que el presunto asesino del consejero delegado de la aseguradora de salud más grande de EEUU se había disparado a sí mismo, algo que la radiotelevisión pública británica nunca publicó.
Además de la queja de BBC este suceso ha generado otras respuestas críticas. Entre ellas, la de Reporteros Sin Fronteras, que ha pedido a Apple que retire por completo la tecnología detrás del fallo porque es «demasiado inmadura para producir información fiable para el público».
Su responsable de tecnología y periodismo, Vincent Berthier, añade a la postura de la organización que la «producción automatizada de información falsa atribuida a un medio es un golpe a su credibilidad y un peligro para el derecho del público a obtener información fiable de asuntos actuales». Si bien el resto de titulares de esa notificación en concreto eran correctos, este no ha sido el único episodio similar.
Ya el 21 de noviembre una agrupación de tres artículos de The New York Times mostraba que el primer ministro de Israel Benjamin Netanyahu había sido arrestado. Sin embargo ese encabezamiento aludía a una información en la que el diario estadounidense estaba informando de que la Corte Penal Internacional había emitido una orden de detención contra él.
La funcionalidad de agrupación de notificaciones comprime la información hasta el punto de alterar el sentido del texto al que se refiere.
Al igual que en el caso que afecta a BBC, esto se debe a un mal funcionamiento de la nueva capacidad de agrupación de notificaciones que Apple incluye a partir de iOS 18.1. Ese sistema operativo está vigente en los iPhone 15 Pro, 15 Pro Max y 16, así como en algunos modelos de iPad y Mac. Por tanto su alcance no abarca a toda la base de usuarios de la compañía pero sí a un porcentaje incierto que queda expuesto a posible desinformación.
Este sistema tiene como objetivo la reducción de notificaciones para evitar molestias a los propietarios de dispositivos de la compañía, y opera igualmente con mensajes de texto o correos. La inteligencia artificial sobre la que se basa comprime la información hasta el punto de que puede alterar el sentido de los textos completos que resume, como ha sucedido en los casos mencionados.
