La IA de asilo del Home Office británico falló el 22 % de los controles de expertos

Una herramienta de IA que el Home Office británico usa para resumir entrevistas de asilo falló 45 de 203 controles de precisión hechos por expertos tras su despliegue en abril de 2026. Eso es alrededor del 22 %, informa The Register, a partir de documentos obtenidos por el grupo de campaña Open Rights Group (ORG). La herramienta funciona con GPT-4o, de OpenAI. Los expertos revisaron solo alrededor del 0,3 % de los resúmenes que produjo entre abril y julio. Es un caso claro de un modelo de lenguaje desplegado donde los errores tienen consecuencias graves.

Las dos herramientas

Según la investigación de ORG, el Home Office usa dos herramientas de IA generativa en la tramitación de casos de asilo:

• Asylum Case Summarisation (ACS) convierte las transcripciones de las entrevistas en resúmenes para los tramitadores. Se extendió a todos los tramitadores de asilo a partir de abril de 2026.
• Asylum Policy Search (APS) es una herramienta de chat para buscar en los documentos de política por países del Gobierno. La usan todos los responsables de decisiones de asilo desde julio de 2025.

Ambas funcionan con GPT-4o a través del servicio Azure AI Foundry de Microsoft. ORG dice que pasó seis meses investigándolas mediante solicitudes de acceso a la información y preguntas a los ministros.

Lo que encontraron los controles

Las cifras proceden de recuentos distintos, y las fuentes no los concilian todos:

Medida	Cifra	Fuente
Resúmenes que fallaron su primer control de expertos	45 de 203	The Register
Resúmenes señalados para una revisión adicional	19	The Register
Revisiones de segunda fase que no alcanzaron el estándar	30 de 56	The Register
Proporción de resúmenes revisados por expertos, de abril a julio	0,3 %	ORG y The Register
Resúmenes no aptos para su propósito en el piloto de 2025	9 %	ORG
No aptos para su propósito en pruebas posteriores con muestras	15 %	ORG

El boletín sobre inmigración de Sonia Lenegan sitúa la tasa de fallos de la primera revisión en el 22 % y la del segundo control en el 54 %. Esas cifras coinciden con los recuentos de The Register.

The Register también informa de que el Home Office confirmó en agosto que se habían interrumpido las pruebas de APS hechas por expertos. Había dicho a los miembros del Parlamento que los controles continuaban.

Qué más encontró ORG

ORG dice que el Home Office se negó a compartir detalles clave. Entre ellos, cómo se formó al personal, qué instrucciones (prompts) usan las herramientas y cómo se pone a prueba la calidad. Algunas de sus respuestas se contradecían entre sí.

A las personas que solicitan asilo no se les informa cuando la IA resume su caso. The Register informa de que no pueden examinar ni corregir los resúmenes. Las herramientas tampoco figuran en el registro público de herramientas algorítmicas del Gobierno.

The Register añade que la media mensual de decisiones iniciales de asilo desde abril ha bajado alrededor de un 42 % respecto al mismo periodo de 2025. El tiempo entre la entrevista y la decisión ha aumentado un 29 %. El medio señala que esto no demuestra que las herramientas de IA causaran ninguno de los dos cambios.

El Home Office no respondió a las preguntas de The Register.

Lo que pide ORG

ORG pide que se suspendan ambas herramientas y que se haga una auditoría independiente de su precisión en uso real, con publicación de los resultados. También quiere que las inspeccione el Inspector Jefe Independiente de Fronteras e Inmigración (Independent Chief Inspector of Borders and Immigration).

«Instamos al Gobierno a regular la IA y a prohibir por completo su uso en las solicitudes de asilo», dijo Sara Alsherif, gestora de programas de ORG.

Qué significa esto para los desarrolladores

Para los equipos que crean o compran herramientas de resumen con IA:

• Revise más que una pequeña muestra. Los expertos revisaron alrededor del 0,3 % de los resúmenes. A ese ritmo, un problema puede durar meses antes de que alguien lo vea.
• Mida el uso real, no solo el piloto. El piloto concluyó que el 9 % de los resúmenes no eran aptos. Controles posteriores encontraron tasas de fallo más altas cuando la herramienta se usó a escala.
• Deje que las personas vean y corrijan el resultado. Los solicitantes no pueden examinar ni corregir los resúmenes de sus propias entrevistas. Cualquier sistema que resuma lo que dijo una persona debería permitir que esa persona lo compruebe.
• Guarde registros que pueda compartir. ORG no pudo obtener los prompts ni los resultados de las pruebas. Registrar prompts, versiones y evaluaciones hace posible una auditoría cuando se exija.
• Vigile lo que sustituye la herramienta. ORG advierte de que los resúmenes pueden eliminar un nivel de revisión experta. Automatizar un paso puede eliminar los controles que ese paso aportaba.