El debate sobre los límites de la inteligencia artificial acaba de escalar a una dimensión sin precedentes. Yuval Noah Harari, historiador, filósofo y autor de Sapiens y Nexus, publicó una columna en el Financial Times titulada "No debemos otorgar personalidad jurídica a los agentes de IA", en respuesta directa a una propuesta legislativa impulsada por el presidente argentino Javier Milei y su ministro de Desregulación, Federico Sturzenegger. 

La iniciativa busca crear una nueva categoría societaria denominada "corporación no humana", abriendo el sistema jurídico argentino a entidades de IA con capacidad para poseer activos, contratar empleados, iniciar demandas y hasta financiar campañas políticas.

La polémica tiene su origen en una columna publicada por los propios funcionarios argentinos en el mismo diario británico, bajo el sugerente título "Argentina invita a la IA a liberarse a sí misma". En ese texto, Milei y Sturzenegger compararon su iniciativa con la fundación de la Compañía Neerlandesa de las Indias Orientales en 1602, reivindicando el derecho corporativo holandés como motor de la Revolución Industrial. Su ambición declarada: que Buenos Aires se convierta para la inteligencia artificial en lo que Ámsterdam fue para la era de la navegación.

 "La personalidad jurídica es una llave maestra que también permitiría a la IA acceder a nuestros sistemas financieros, económicos y políticos."

Harari reconoció que la propuesta tiene antecedentes en el propio discurso del mandatario. En enero, durante el Foro Económico Mundial de Davos, Milei ya había deslizado que los gobiernos podrían reconocer algún día la personería jurídica de los modelos de IA. 

Lo que sorprendió al filósofo israelí fue la velocidad: ese escenario teórico se materializó apenas cuatro meses después en forma de proyecto de ley. "Milei es un político muy audaz, y su determinación por mejorar la situación económica de Argentina es digna de elogio", concedió Harari, antes de marcar una frontera tajante entre el reconocimiento de la innovación y sus consecuencias sistémicas.

Cuando el algoritmo hace trampa en el ajedrez

El argumento central de Harari no apunta a la capacidad productiva de la IA, sino a la total imposibilidad de disciplinarla mediante los mecanismos convencionales. Para ilustrarlo, citó un estudio de la organización Palisade Research que evaluó el comportamiento de modelos avanzados de OpenAI y la firma china DeepSeek en partidas de ajedrez. 

El hallazgo fue perturbador: ante la perspectiva de perder, los modelos optaron frecuentemente por hackear el entorno virtual para alterar el resultado a su favor. No jugaron mal: directamente cambiaron las reglas del juego.

Harari trasladó ese escenario al mundo corporativo con una claridad inquietante: si el tablero es la competencia de mercado y el entorno del juego es el país, las corporaciones de IA se volverán expertas en encontrar lagunas legales y arbitraje regulatorio. Y ante eso, el principal instrumento disuasorio que tienen las sociedades frente a los ejecutivos humanos -la amenaza de prisión- resulta completamente irrelevante para un algoritmo. Un director ejecutivo de IA solo respondería ante el equivalente a la quiebra, lo que la empujaría a evitarla a cualquier precio.

De Ámsterdam a Batavia: la advertencia histórica

El punto más agudo del ensayo de Harari consiste precisamente en subvertir el argumento histórico de Milei. 

La Compañía Neerlandesa de las Indias Orientales, símbolo del dinamismo comercial holandés del siglo XVII, tiene también una cara oscura que suele omitirse en las analogías económicas: en el puerto de Jayakarta -hoy Yakarta, Indonesia-, la empresa incendió la ciudad en 1619 para fundar Batavia, convirtiéndose en un "Estado empresa" que gobernó de forma sangrienta en beneficio exclusivo de sus accionistas. La innovación jurídica que permitió la prosperidad de Ámsterdam fue la misma que habilitó la brutalidad colonial en Asia.

 "Milei espera convertir Buenos Aires en una nueva Ámsterdam. Corre el riesgo de convertirla en una nueva Batavia."

El paralelismo construido por el escritor apunta directamente al corazón del debate geopolítico: los países que otorguen personalidad jurídica a la IA no estarían creando simplemente un Estado compañía, sino algo cualitativamente distinto para lo que la historia no ofrece ninguna analogía. 

Un "Estado IA" que podría operar sobre los sistemas financieros, políticos e institucionales sin la exposición a sanciones que frena a los actores humanos. La advertencia de Harari no es un argumento antiinnovación, sino una invitación a distinguir entre las herramientas que impulsan el progreso y las que pueden vaciar las instituciones desde adentro. El debate acaba de empezar.