El regulador regulado

Sheldon Mills es un funcionario británico y dirige un área de la Autoridad de Conducta Financiera, el organismo que vigila a bancos y aseguradoras en el Reino Unido. Antes de dejar su cargo escribió un informe sobre la inteligencia artificial (IA) en las finanzas. El Financial Times lo entrevistó y Mills pronunció una frase que merece atención. Dijo que los reguladores están en una carrera armamentística para seguir el ritmo de la IA.

La frase suena enérgica, pero es en realidad una confesión de derrota. Una carrera armamentística supone dos rivales que compiten con armas comparables. Estados Unidos y la Unión Soviética acumularon misiles durante décadas y ninguno pudo vencer al otro porque ambos entendían las armas que fabricaban. Sin embargo, aquí ocurre lo contrario porque el regulador británico admite que no comprende la tecnología que pretende vigilar. Así, pide más poderes, más presupuesto y más informes. En realidad, exige armas sin saber cómo funcionan. Un ejército que demanda cañones sin conocer la pólvora no participa en una carrera, está en un simulacro.

El reflejo es antiguo y universal ya que, ante cualquier fenómeno nuevo, el Estado responde con el único gesto que conoce: regular. Aparecieron el automóvil y la radio, y los legisló. Entre tanto, llegó internet y tardó veinte años en fingir que la codificaba. El gesto funcionó durante dos siglos porque los objetos regulados eran más lentos que las leyes. Un auto de 1920 y un auto de 1950 se parecían bastante y así, una ley escrita en 1920 todavía aplicaba en 1950.

La IA rompe esa aritmética porque los modelos cambian cada poco mes. Por lo tanto, una norma que tarda tres años en aprobarse regula una tecnología que ya no existe. El propio informe de Mills recomienda una revisión en un plazo de tres a seis meses. El período delata la angustia porque ningún regulador financiero propuso jamás revisar los bancos cada medio año.

Hay un dato en el informe que explica todo, una quinta parte de los adultos británicos ya está dispuesta a que un modelo de IA decida por ellos cuestiones de ahorro o de deuda. Conviene detenerse en lo que esto significa porque millones de personas prefieren el consejo de una máquina al comentario de un asesor humano matriculado. La IA no cobra comisión, no tiene horario y no necesita vender nada. El asesor humano está regulado, pero el algoritmo no lo está. Y la gente elige la máquina.

Aquí aparece la inversión que nadie quiere ver. El Estado moderno funciona con las mismas herramientas que pretende vigilar y los ministerios usan estos sistemas para redactar informes. Los tribunales los usan para ordenar expedientes. La propia Autoridad británica firmó un contrato con la empresa estadounidense Palantir para que su IA detecte delitos financieros. Es decir, el vigilante contrató al vigilado para que vigile. Cuando los periodistas preguntaron por ese contrato, Mills declinó comentar y el silencio es elocuente.

Pensemos en la secuencia completa. El Estado no entiende la tecnología, pero depende de esta para funcionar. Luego, el gobierno contrata a las empresas de tecnología para cumplir sus propias tareas. Cada informe oficial, cada detección de fraude y cada decisión administrativa pasa por sistemas que el Estado no fabricó, no comprende y no puede auditar. La pregunta ya no es si el gobierno regulará la IA, sino cuánto falta para que la IA acote al Estado.

No hace falta imaginar robots que dictan leyes, pero la inversión es más sutil y ya comenzó. Quien define qué información ve un funcionario define qué decide ese administrativo. Quien redacta el borrador de una norma define el 90% de la norma, porque nadie corrige lo que parece correcto. Quien detecta los fraudes decide qué lo es, y así, el poder no se toma por asalto sino por delegación, de a un trámite a la vez, hasta que el delegante ya no sabe hacer nada.

Durante toda la historia moderna el regulador reguló y el regulado obedeció. Esa simetría se da vuelta ante nuestros ojos. Las grandes empresas de IA concentran algo que ningún banco concentró jamás: el instrumento con el que el propio Estado piensa. Un banco poderoso podía comprar políticos, pero estas empresas no necesitan comprarlos, les alcanza con prestarles el cerebro.

Mills tiene razón en una cosa, porque es una carrera. Pero no es una competencia entre reguladores y máquinas, sino entre la velocidad de la tecnología y la lentitud de quienes todavía creen que un sello y un formulario detienen algo. El Estado llega a esa contienda sin entender las reglas, sin conocer el terreno y con el rival adentro de su propia oficina.

La corpopolitica viene marchando y no pide permiso porque ya se lo dimos.

Las cosas como son.

Mookie Tenembaum aborda temas de tecnología como este todas las semanas junto a Claudio Zuchovicki en su podcast La Inteligencia Artificial, Perspectivas Financieras, disponible en Spotify, Apple, YouTube y todas las plataformas.