El aviso de transparencia que no informa
Hay un aviso que se repite, con variantes, en casi todos los sistemas internos. Tiene siempre la misma forma: el nombre del servicio, un verbo administrativo neutro, y nada más. Media docena de palabras en inglés, escritas por quien programó la llamada.
Está escrito, está en producción, y no informa a nadie.
Escribir el aviso es el 10% del trabajo. El otro 90% es descubrir que un aviso técnicamente presente puede fallar de seis maneras distintas, y que solo una de las seis se arregla reescribiendo el texto.
Esto no va de redacción legal. Va del tramo que separa el articulado del reglamento de la línea de código que lo ejecuta, que es donde se pierde el cumplimiento y donde casi no hay nada escrito.
El nombre del producto no dice que sea IA
Los sistemas internos se llaman con acrónimos. Un acrónimo seguido de la palabra Service se lee igual que cualquier microservicio de la casa, o que una cuenta técnica que alguien creó hace tres años. Nadie deduce de ahí que haya una máquina decidiendo.
El marcador tiene que ser explícito y tiene que ir delante. No al final, no embebido en prosa, no como un icono. Un prefijo [IA] en texto plano hace tres cosas que un emoji no hace: sobrevive a cualquier codificación, es buscable (quien quiera ver todo lo tocado por IA lo filtra, y quien tenga que aportar evidencias lo cuenta) y ordena bien en listados.
Nombra la decisión, no la acción
El aviso nombra el archivado. El sistema, además de archivar, decide: asigna una categoría al objeto. Y la categoría es lo que puede estar mal.
Ahí está el fallo, y es el más común de todos: el aviso describe la acción administrativa y oculta la decisión revisable. Quien lee que algo se ha archivado entiende que se ha guardado en su sitio. No entiende que una máquina lo ha clasificado, que la clasificación puede ser incorrecta y que él es quien puede corregirla.
La regla operativa cabe en una línea. Separa qué ha hecho el sistema de qué debes revisar. En cuanto escribes las dos frases por separado, el aviso deja de ser una advertencia genérica y pasa a ser accionable.
En el idioma en el que trabaja quien lee
Un aviso en inglés para gente que no trabaja en inglés no informa. El artículo 50 pide información clara y comprensible, y la comprensibilidad no es una propiedad del texto: es una propiedad de la relación entre el texto y quien lo lee.
Y hay un nivel por encima en el que esta pieza no entra: la inteligibilidad. Un aviso puede entenderse perfectamente (sé que ha decidido una máquina y sé qué campo mirar) y seguir sin decirme por qué decidió eso, que es justo lo que necesito para saber si está mal. Eso ya no lo arregla el texto del aviso, y da para pieza propia.
Hay una comprobación empírica que ahorra la discusión: mira el resto de la pantalla. Si toda la interfaz que el usuario tiene delante está en su idioma y solo el aviso no, eso no es una elección de estilo, es un cuerpo extraño.
¿A quién le habla el aviso?
Esta es la pregunta que casi nadie se hace, y la que más caro sale tarde.
Revíselo antes de seguir solo tiene sentido dicho a un profesional que puede corregirlo. Delante de un cliente, ese mismo texto le traslada una duda operativa que no puede accionar y le invita a desconfiar de todo el registro, no solo del campo dudoso.
Y el campo donde vive el aviso rara vez tiene una sola audiencia. Un comentario en un gestor documental puede aflorar en un portal, en una exportación, en la respuesta a un requerimiento. Un único string no puede servir a dos audiencias, así que la pregunta ¿quién va a leer esto? se responde antes de escribir el literal, no después de implementarlo.
Si la IA firma, desaparece el humano que respondía
Este no está en ninguna guía, y es de los que solo se ven implementando.
La forma más limpia de dar transparencia parece obvia: que el campo usuario del registro pase a decir el nombre del sistema de IA en vez del código del empleado. Estructurado, visible, imposible de ignorar. Está en el sitio donde el usuario ya mira para saber quién ha hecho algo.
El problema es lo que se pierde. Ese campo contiene a la persona responsable de la operación, con su identificador. Al sustituirla, el registro gana transparencia sobre la máquina y pierde la traza de quién la operó o en nombre de quién actuó. En un registro sujeto a revisión, esa traza es justamente lo auditable.
No es un argumento para no hacerlo. Es un argumento para comprobar antes si el sistema permite conservar las dos cosas (usuario funcional y usuario técnico) o dónde queda registrada la que se va a perder. Ganar una transparencia a costa de otra no es ganar.
La conformidad depende del flujo, no de la cadena de texto
Y aquí está el hallazgo que vale la pieza entera.
En la llamada que escribe el objeto suele haber un parámetro que no tiene nada que ver con el aviso, y que decide más que él: el objeto entra ya archivado. Es decir, no pasa por la bandeja de revisión.
Si el objeto entra archivado y quien tiene que verlo puede actuar sobre él sin abrir la ficha donde está el aviso, el aviso no se muestra en la primera exposición y no cumple, aunque el texto sea perfecto.
Léelo otra vez, porque tiene una consecuencia incómoda: la conformidad del artículo 50 no es una propiedad del texto que has escrito, es una propiedad del recorrido que hace el objeto. Un aviso impecable en una ruta que nadie recorre vale cero.
La comprobación que decide, y que no es de Legal sino de quien conoce el sistema: recorre todas las rutas de escritura y pregunta, en cada una, si la persona puede actuar sobre el resultado sin haber visto el aviso. Si en alguna puede, esa ruta no cumple, y no se arregla escribiendo mejor.
El aviso vive detrás de una función, no en el punto de llamada
El literal suele ser un argumento escrito a mano dentro de la llamada. Funciona hasta que aparece la segunda ruta que hace lo mismo. La segunda ruta no lo tendrá, o lo tendrá distinto, y nadie se enterará.
La regla de implementación es sencilla y hay que tomarla antes de escribir la primera línea: el aviso vive detrás de una única función que llaman todas las rutas de escritura. Un módulo, una constante de versión, y el compromiso de que cualquier cambio de redacción sube la versión.
Eso resuelve además el requisito que casi nunca aparece en las guías y que Compliance pide siempre más tarde: poder acreditar qué texto se mostró, a quién y desde cuándo. Con el literal centralizado y versionado, es una consulta. Con el literal en línea, es arqueología: despliegues sin ticket, ramas borradas y nadie que se acuerde.
Si el campo de destino no admite metadatos, la versión se mete dentro del propio texto. Es feo y cuesta veintiséis caracteres.
La trampa: puede que esto no sea el artículo 50
Queda lo más incómodo, y es una corrección que conviene hacerse antes de que la haga otro.
El artículo 50 alcanza a sistemas que interactúan directamente con personas físicas, a la generación o manipulación de contenido, al reconocimiento de emociones y a la categorización biométrica. Muchísimos sistemas de back office no hacen ninguna de esas cosas y, sin embargo, toman decisiones revisables de las que depende una persona.
Para esos sistemas, todo lo anterior sigue siendo buena práctica, y puede venir exigido por otra vía: la supervisión humana efectiva si el sistema es de alto riesgo, el marco interno, o simplemente el criterio de no dejar que alguien firme una decisión que no sabe que ha tomado una máquina.
Lo que no puedes es etiquetarlo como cumplimiento del artículo 50. Hacerlo tiene dos costes: te crea una obligación que no tenías, y te distrae de identificar la que sí tienes. La etiqueta se pone a la ligera muchas más veces de las que aparece el análisis que la justifica.
La práctica es sólida en los dos casos. La cita legal no es automática. Periodo.
Las preguntas que resuelven el aviso de un sistema
Seis, en este orden, y se responden mirando el sistema, no el reglamento:
- ¿El texto dice que hay IA, con esas palabras y al principio?
- ¿Nombra la decisión que quien lee puede tener que corregir, o describe la acción?
- ¿Está en el idioma en el que trabaja quien lo lee?
- ¿Quién lo lee? Si puede leerlo más de una audiencia, ¿hay más de un texto?
- ¿Por cuántas rutas llega el resultado a una persona, y en cuántas de ellas se ve el aviso antes de que esa persona actúe?
- ¿Puedes demostrar qué versión del aviso se aplicó a qué objeto y desde cuándo?
Las cinco primeras se contestan leyendo. La quinta es la que suspende casi todo el mundo, y es también la única que no se arregla reescribiendo el texto.
Si al recorrer la lista descubres que nadie sabe por cuántas rutas se escribe, ese es el hallazgo, y no es un problema de transparencia: es que no hay inventario del sistema, solo de su nombre.