«La IA son solo matemáticas»
La frase aparece en cuanto una conversación sobre IA se pone incómoda. La dice el técnico que lleva quince años haciendo modelos y está harto del ruido, y la dice el directivo que no quiere abrir un expediente de gobierno. «Es solo estadística.» «Son multiplicaciones de matrices.» «Al final, son solo mates.»
Es verdad. Y por eso funciona tan bien.
Es una de esas frases que ganan discusiones sin decir nada, porque quien la escucha solo puede darle la razón. El problema no es que sea falsa: es que describe una capa donde no ocurre nada de lo que estábamos hablando.
Todo es «solo» algo si bajas lo suficiente
Un cerebro es solo electroquímica. Una sinfonía son solo variaciones de presión en el aire. Un contrato son solo manchas de tinta sobre celulosa.
En gobierno de IA esa distancia es el oficio entero. El mecanismo es matemático. El efecto es una persona a la que se le deniega algo, un empleado que sigue una recomendación que nadie revisó, un supervisor que pregunta quién firmó.
Si fuera solo matemáticas, no habría nada que investigar
Este es el argumento que me parece más difícil de rebatir, y no es filosófico.
Existe un campo entero de investigación dedicado a averiguar qué hace un modelo por dentro. Laboratorios, presupuesto, publicaciones, resultados parciales. La interpretabilidad no existiría si las matemáticas agotasen la explicación, porque entonces no habría nada que averiguar.
Hay una segunda evidencia, más cotidiana: las capacidades de un modelo grande no se deducen de su arquitectura, se descubren evaluándolo después de entrenarlo. Por eso el ciclo es entrenar, medir y volver a medir, y por eso una versión nueva se somete a baterías de pruebas en vez de a una demostración sobre el papel.
Casi nunca es filosofía: es un desactivador
Aquí está lo que de verdad me importa, porque tiene consecuencias esta semana y no dentro de diez años.
En una sala de trabajo, «son solo mates» rara vez es una posición epistemológica. Es la manera de cerrar una conversación. Y de ella se derivan tres conclusiones que suenan lógicas y son falsas.
Las tres tienen desarrollo propio, y ninguno de los tres se resuelve discutiendo de matemáticas: hay definiciones de equidad incompatibles entre sí y alguien tiene que elegir cuál se optimiza; la responsabilidad no desaparece, se vuelve más difícil de localizar, que es justo el trabajo; y la misma matemática cae en un sitio o en otro según dónde se enchufe, algo que se responde con el inventario delante.
El error simétrico, que tampoco vale
El antídoto al reduccionismo no es la mistificación.
La respuesta correcta a «son solo mates» no es «es un ente que piensa». La frase acierta en lo que niega: no hay intención, no hay sujeto, no hay comprensión en el sentido en que la tiene una persona, no hay nada ahí dentro que quiera algo. Quien contesta a la reducción atribuyendo voluntad al sistema pierde la discusión con razón, y de paso se la da a quien reducía.
Las dos posturas comparten el mismo defecto operativo, que es el que ya me encontré entre el entusiasmo y el rechazo: sustituyen el examen del caso concreto por una etiqueta general. Una dice que no hay nada que mirar porque son mates. La otra dice que hay que mirarlo todo porque es una entidad. Ninguna de las dos abre el sistema, mira qué decide y pregunta quién responde de la salida.
La postura defendible es la incómoda: es un sistema matemático y produce efectos que solo se entienden, se miden y se gobiernan en la capa social. Las dos cosas a la vez, sin escoger la que resulte más conveniente para la discusión que uno quiera ganar.
La prueba que uso cuando la oigo
No discuto la frase, porque no se puede: es verdad. Hago otra cosa. Si «solo matemáticas» fuera una descripción suficiente, sería operativa: tendría que permitirme predecir la salida del sistema, auditarla y garantizarla ante quien me la pida.
Que alguien entienda la matemática que hay debajo es valioso, y hace falta más gente así en las mesas donde se decide. Pero saber de qué está hecho un sistema y saber qué va a provocar son dos competencias distintas, y confundirlas es justo lo que la alfabetización en IA tiene que corregir. La pregunta útil nunca es de qué está hecho esto. Es qué hace, sobre quién, y quién firma cuando se equivoca.