Antes de aceptar un rol de AI Governance, hay preguntas que cambian todo
El mercado de AI Governance está creciendo deprisa. Cada mes aparecen nuevas ofertas con título de Head of AI Governance, AI Risk Lead, Responsible AI Manager. Algunas son roles reales. Otras son títulos puestos sobre un puesto que la organización todavía no sabe para qué necesita exactamente.
Si estás considerando uno de estos roles, hay un trabajo previo que conviene hacer. No me refiero a las preguntas sobre salario, equipo, presupuesto o tecnología. Esas son las que cualquier candidato razonable plantea. Me refiero a las que revelan si la organización está estructuralmente preparada para que el rol funcione, o si vas a entrar a sostener una iniciativa que, por buena que sea tu intención, no tiene los apoyos para llegar a ninguna parte.
Lo que observo en distintos foros en los que participo es que la madurez de una empresa en gobierno de IA no se ve en su stack tecnológico ni en su política de uso responsable. Esas dos cosas las tiene cualquiera. Se ve en cómo responde a ciertas preguntas. Y la mayoría no se responde con un párrafo de la página corporativa.
Estas son las cinco que yo haría, en una entrevista o antes de aceptar.
1. ¿Quién tiene autoridad real para detener el despliegue de un sistema de IA?
No quién firma el documento de aprobación. Quién, exactamente, tiene poder para decir que no cuando un caso de uso llega a producción y el equipo de negocio lo quiere listo el viernes.
Esta es la pregunta más diagnóstica de las cinco. Si la respuesta es “el comité de ética”, repregunta: qué pasa si el comité dice no y el patrocinador del proyecto, que reporta a dirección general, dice que tiene que salir igual. Si no hay un mecanismo claro para escalar y resolver ese conflicto, el comité no tiene autoridad. Tiene voz consultiva, que es algo muy distinto.
Si la respuesta es “depende del caso”, la previsión es mala. La autoridad para detener no puede depender del caso. Tiene que estar definida estructuralmente, con nombre y mandato, antes de que el caso llegue.
Si la respuesta es “no se ha presentado esa situación todavía”, agradece la honestidad. Pero asume que tu primer trimestre va a consistir en construir ese mecanismo desde cero, con la oposición silenciosa de quienes no querían que existiera.
2. ¿Cómo se coordinan negocio, legal, datos y tecnología cuando aparece un riesgo nuevo?
Esta es la pregunta sobre la fontanería. Y la fontanería es la mitad del trabajo de gobierno de IA.
Si cada área responde por separado, no hay gobernanza. Hay silos con buenas intenciones. Lo que se llama “gobernanza” en muchas organizaciones es, en realidad, una serie de revisiones paralelas que nunca se cruzan. Legal evalúa cumplimiento. Datos evalúa calidad. Tecnología evalúa robustez. Negocio decide a partir de un resumen ejecutivo que no integra ninguno de los tres análisis con profundidad.
La pregunta operativa es: cuando aparece un caso ambiguo, un sistema que es legal pero éticamente discutible, o técnicamente sólido pero comercialmente cuestionable, ¿quién convoca, en qué plazo y con qué autoridad para vincular la decisión?
Si no hay respuesta concreta, lo que estás recibiendo es una invitación a ser tú quien construya esa coordinación. Puede ser una oportunidad excelente. Pero conviene saber, antes de firmar, que vas a entrar a hacer trabajo de coordinación transversal y no de definición de políticas.
3. ¿Existe alguien responsable de que el AI Act sea algo más que un proyecto de compliance?
La regulación europea sobre IA no es un problema jurídico. Es un problema de coordinación transversal con disfraz de problema jurídico. Si en la organización la respuesta a “quién lleva el AI Act” es “el departamento jurídico, en coordinación con compliance”, la previsión es mala.
Lo es porque el AI Act exige clasificar sistemas, documentar conjuntos de datos, gobernar el ciclo de vida del modelo, gestionar incidentes y mantener supervisión humana significativa. Ninguna de esas cosas la puede hacer un departamento jurídico solo. Y ninguna se va a hacer bien si se trata como un proyecto puntual con fecha de cierre.
La buena respuesta a esta pregunta tiene tres componentes. Hay un responsable nombrado con mandato explícito. Ese mandato cruza áreas y reporta lo bastante alto como para que se le escuche. Y hay claridad sobre que la implementación no termina cuando se firma el primer registro de sistemas: es una capacidad organizativa permanente, no un entregable.
Si recibes los tres, es probable que la organización esté preparada. Si recibes uno, te toca construir los otros dos. Si no recibes ninguno, considera lo que estás aceptando.
4. ¿Cómo se mide el avance del programa de gobierno?
Si no hay métricas, no hay programa. Hay iniciativa. Y las iniciativas se disuelven cuando llega la siguiente prioridad.
Pero hay que afilar más esta pregunta, porque casi cualquier organización ofrece métricas si se las pides. La pregunta útil es: qué se mide, exactamente. La mayoría de los programas mide actividad. Cuántos modelos tienen documentación. Cuántas personas han completado la formación obligatoria. Cuántos casos de uso pasaron por el comité. Y la actividad no es lo que importa.
Lo que importa es si el programa está cambiando decisiones. Cuántos despliegues se retrasaron porque la revisión detectó un problema. Cuántos casos llegaron al comité que en una organización sin gobierno habrían salido sin revisión. Cuántas políticas se modificaron porque la operación reveló un fallo en su diseño.
Si la organización mide lo primero, está midiendo presencia. Si mide lo segundo, está midiendo impacto. La diferencia, en términos de qué rol vas a desempeñar, es enorme.
Pregunta también qué se hace con la medición. Si los resultados llegan a un dashboard que ve dirección general, hay tracción. Si llegan a una carpeta compartida que nadie abre, ya sabes lo que te toca.
5. ¿Cómo se aborda la deuda previa de gobierno?
Esta es la pregunta más incómoda y, probablemente, la más reveladora.
Muchas organizaciones llevan años desplegando sistemas de IA antes de tener un programa formal de gobierno. Modelos de pricing, motores de recomendación, sistemas de clasificación de clientes, procesos automatizados de scoring. Todo eso existe en producción, decide sobre personas reales cada día, y nunca pasó por una revisión estructurada.
La pregunta no es solo qué se va a hacer a partir de ahora. Es quién se hace cargo de lo que ya existe. ¿Hay un inventario? ¿Quién lo mantiene? ¿Existe un plan para revisar lo que está en producción, con calendario y prioridad? ¿O la postura es esperar a que aparezca un problema y entonces actuar?
Si la respuesta es “vamos a empezar de cero a partir de tu llegada”, esa frase ya describe un problema. Implica que aceptas hacerte responsable de los nuevos sistemas mientras los anteriores siguen operando sin revisión bajo tu titularidad nominal. Cuando uno de ellos genere un incidente, y ocurrirá, la primera pregunta que recibirás será por qué no lo viste venir.
La buena respuesta a esta pregunta no es “está todo resuelto”. Es “tenemos un inventario, una priorización por riesgo, y un plan de revisión que asume que va a llevar tiempo”. Eso es honestidad operativa. Lo otro es expectativa irreal.
Estas cinco preguntas no tienen respuestas perfectas. Casi ninguna organización las responde todas bien. Pero cómo se responden dice mucho más sobre la cultura que cualquier declaración de “estamos comprometidos con la IA responsable” en la página corporativa.
Hay roles de gobierno de IA que existen sobre el papel pero no en la práctica. Vienen con título, salario y reporte directivo, pero sin mandato, sin coordinación, sin métrica de impacto y sin claridad sobre la deuda previa. Quien los acepta sin haber hecho las preguntas correctas suele quemarse en seis o doce meses, no porque no sirva, sino porque el trabajo no estaba listo para él.
Y hay organizaciones que aún no saben que necesitan exactamente este perfil. Que tienen las preguntas correctas en la cabeza pero no las han formulado nunca con claridad. Esas son las interesantes. La diferencia entre unas y otras se nota en cómo escuchan las preguntas, no solo en cómo las contestan.