La frase es cierta y no explica nada: describe de qué está hecho el sistema, no lo que hace. Y casi siempre se usa para no gobernarlo.
responsible-ai
24 textos
La IA Responsable se ha convertido en un género literario propio: principios que todo el mundo firma y casi nadie sabe operar. Aquí escribo sobre lo otro: cómo se traduce un principio en un control, un control en una decisión, y una decisión en una práctica que sobrevive a la rotación de equipos. La diferencia entre lo que se declara y lo que se hace es el campo de trabajo real.
- «La IA son solo matemáticas»
- El aviso de transparencia que no informa
Seis formas de que un aviso de IA técnicamente presente no informe a nadie, y por qué cumplir depende del flujo y no del texto que escribas.
- «Riesgo limitado» no existe
El EU AI Act no tiene cuatro niveles de riesgo: son tres, y una capa de transparencia que los cruza. La pirámide coloca sistemas en una casilla que no existe.
- Artículo 50 del EU AI Act: quién responde de cada obligación de transparencia
Las cuatro obligaciones de transparencia del artículo 50, quién responde de cada una y cómo se acumulan sobre el alto riesgo.
- Cuando tu proveedor añade un subencargado de IA y el ajuste se activa solo
Un cambio en la cadena de subencargados no toca tu inventario, pero sí las garantías que documentaste. Qué revisar, quién decide y con qué disparador.
- ¿Merece la pena certificarse en ISO/IEC 42001? Son dos decisiones, no una
Implantar el sistema de gestión y certificarlo son decisiones separables. Cuándo el sello se paga solo, qué acredita y las cuatro preguntas que deciden.
- Qué tiene que decir una cláusula de IA con un proveedor
Seis puntos para una cláusula de IA, incluidos los dos que casi nunca están: la garantía sustitutiva y qué pasa con el precio si el proveedor pone agentes.
- Dónde colgar la función de gobierno de IA: Compliance para empezar, y la señal para mudarse
Compliance es la casa acertada en la fase inicial de un programa de gobierno de IA. Las tres fases de la función y las señales de que toca mover el mandato.
- Has externalizado la IA, no el riesgo
La exposición no nace de tu rol respecto al sistema, sino de tu relación con el cliente. El contrato reparte obligaciones; no decide la responsabilidad.
- EN 18286 y el artículo 17: qué cubre de verdad la presunción de conformidad
El artículo 40 presume conformidad de la Sección 2, y el artículo 17 no está ahí. Qué mapea el Anexo ZA de EN 18286 y qué te queda por sostener.
- EU AI Act e ISO/IEC 42001: qué cubre cada uno y dónde se solapan
Qué exige el EU AI Act, qué aporta ISO/IEC 42001 y qué maquinaria sirve a los dos frentes sin duplicar el trabajo.
- ISO/IEC 42001: qué montas de verdad cuando implantas un AIMS
Qué se construye realmente al implantar ISO/IEC 42001: el sistema de gestión de IA que sostiene en el tiempo lo que la regulación te obliga a demostrar.
- Del texto del EU AI Act al programa que lo ejecuta
Qué significa operacionalizar el EU AI Act cuando lo implementas: del articulado del reglamento a las cuatro piezas vivas que lo ejecutan en una organización.
- Cero incidentes no es una métrica
En un dominio nuevo los indicadores rezagados arrancan en verde por falta de historia, no por control. Deben arrancar en «sin evidencia», que no es «adecuado».
- Las puertas reales que cruza una IA
El recorrido formal de aprobación de un modelo no es el real. Gobernar es conocer las puertas que ningún checklist recoge, no las del organigrama.
- Operar un programa de AI Literacy
Cómo se opera un programa vivo de AI Literacy: formato modular por audiencia, cadencia continua, captura de preguntas, ausencia de catálogo.
- Cómo se diseña un comité que decida, no que se reúna
Diseñar un comité que decida no es renombrar el que ya se reúne. Son tres elecciones estructurales que pocos toman antes de convocar la primera sesión.
- El KPI que mentía y el riesgo que cambió de cara
Por qué los comités trimestrales, los KPIs de actividad y las aprobaciones puntuales no gobiernan la IA. Gobernar es detectar; aprobar es bendecir.
- El gobierno de IA como sistema adaptativo
Dejé de pensar el gobierno de IA como un proceso. Tampoco basta verlo como un producto. Lo que queda es un sistema adaptativo, o no gobierna.
- Antes de aceptar un rol de AI Governance, hay preguntas que cambian todo
Cinco preguntas que revelan si una organización está realmente preparada para que un rol de gobierno de IA funcione, antes de aceptarlo.
- Los cuatro mensajes que un Board debería recibir sobre gobierno de IA
Lo que un Consejo de Administración debería oír sobre gobierno de IA y casi nunca escucha. Cuatro mensajes operativos, sin teoría ni decoración.
- IA sí, IA no: la pregunta es el criterio
Dos posturas opuestas sobre la IA renuncian, por motivos distintos, a lo mismo: pensar. Lo que de verdad hay que preservar.
- Hay un tipo de conocimiento sobre gobierno de IA que no aparece en ningún framework
Lo que se aprende liderando gobierno de IA sin un área que lo respalde. Una capa de criterio operativo que ningún manual recoge y que casi no se nombra.
- AI Literacy no es un curso
En 2023 diseñamos un programa interno de AI Literacy sin plantilla. Esto es lo que aprendimos sobre formar criterio.