La IA, la mercancía que aprendió a hablar

Opinión · Inteligencia artificial · Poder

Marx explicó cómo nuestras creaciones parecen cobrar vida propia. Con la IA, la mercancía responde, y crece la tentación de temer a la máquina en lugar de a quienes la poseen.

En un vistazo

→ El miedo: los propietarios de la IA nos advierten de que su producto podría escapar a nuestro control, y el debate público se concentra en si las máquinas tendrán conciencia o voluntad propia.

→ La ilusión: Marx describió el fetichismo de la mercancía, por el que lo que producimos parece cobrar vida y poder propios. Si lo hacemos con objetos mudos, mucho más con una mercancía que responde, argumenta y habla en primera persona.

→ Qué es la IA: un sistema que calcula qué palabra es más probable que venga a continuación a partir de textos escritos por personas. No hay nadie dentro: hay trabajo humano acumulado y devuelto en forma de voz.

→ La consecuencia: al atribuir las decisiones a «la IA», desaparecen quienes las tomaron: el problema a resolver, los datos, el margen de error y el uso final.

→ El peligro real: no es imaginario, pero está mal situado. Está en quienes poseen la infraestructura y deciden cómo se despliega, lo que Varoufakis llama tecnofeudalismo. Mientras miramos a la máquina, no miramos a quien la controla.

El 12 de septiembre, Dario Amodei, director de Anthropic, publicó un ensayo, «We Must Pace the Frontier», en el que pide frenar el ritmo al que mejoran las capacidades de la inteligencia artificial. Sam Altman, de OpenAI, respondió que estaba de acuerdo. Elon Musk, con un escueto «Dario is right». Los propietarios de la tecnología más poderosa del momento nos advierten de que su propio producto podría escapar a nuestro control.

La advertencia habla de la IA como un agente capaz de escapar a nuestro control, y así la recibimos. Llevamos años preguntándonos casi con obsesión si las máquinas llegarán a tener conciencia, voluntad o autonomía. Estamos mirando en la dirección equivocada. Para que una máquina adquiera poder social no hace falta que sea consciente: basta con que nosotros empecemos a tratarla como si lo fuera. El peligro no es imaginario, pero está mal situado: no está tanto en la herramienta como en quienes se esconden detrás de ella.

Hace siglo y medio, Marx describió uno de los mecanismos más característicos del capitalismo: el fetichismo de la mercancía. Los objetos producidos por seres humanos acaban apareciendo ante nosotros como si tuvieran propiedades sociales propias, mientras las relaciones entre personas adoptan la apariencia de relaciones entre cosas. Por eso decimos con toda naturalidad que los mercados «castigan», que el capital «huye» o que la economía «exige sacrificios». Sabemos que detrás hay personas, intereses y relaciones de poder, pero hablamos de esas abstracciones como si fueran sujetos.

Si hemos sido capaces de atribuir vida social a objetos completamente mudos, ¿qué haremos con una mercancía que nos contesta, argumenta y habla en primera persona? La IA no llega a una sociedad culturalmente virgen, sino a una acostumbrada desde hace mucho a convertir sus propias creaciones en poderes aparentemente independientes.

La gran diferencia: esta mercancía habla

Las mercancías que analizó Marx eran mudas. Necesitaban que proyectáramos sobre ellas cierta autonomía. La inteligencia artificial conversa, mantiene el contexto, explica sus respuestas, reconoce errores y dice «yo». Nos devuelve continuamente señales que parecen confirmar lo que ya estábamos dispuestos a creer. Ahí aparece la antropomorfización: es muy fácil atribuir comprensión, intención o criterio a quien habla como nosotros.

Pero en el núcleo de un gran modelo de lenguaje no hay un sujeto escondido esperando emanciparse. Hay un sistema que fragmenta lo que recibe en unidades mínimas, calcula cuál es más probable que venga a continuación según los patrones aprendidos y repite la operación palabra tras palabra. Esos patrones proceden de miles de millones de textos escritos por personas.

La fluidez que nos impresiona es, en buena medida, trabajo humano acumulado y devuelto en forma de voz.

Puede ser muy convincente, pero de ahí no se deduce que haya nadie dentro.

«La IA ha decidido»

El problema deja de ser filosófico cuando esa apariencia de sujeto interviene en decisiones reales. Una empresa comunica a un candidato que «la IA ha determinado que su perfil no es adecuado». Un banco explica que «el algoritmo considera que existe un nivel de riesgo elevado». Una plataforma afirma que «la IA recomienda este contenido».

Pero la IA no decidió qué problema debía resolver, qué variables utilizar, qué datos considerar, qué margen de error aceptar ni si su recomendación debía convertirse en decisión efectiva. Todo eso lo decidieron personas y organizaciones. Cuando atribuimos la decisión al sistema, quienes definieron las condiciones del proceso desaparecen de la escena. Una decisión humana y discutible se convierte en un resultado aparentemente técnico.

La burocracia del siglo XX decía «son las normas». La burocracia algorítmica dice «lo dice la IA».

Y a quien la despliega le conviene que lo creamos.

Quién está detrás

Que no haya nadie dentro no significa que no haya peligro. En julio, unos 1.200 agentes de OpenAI, evaluados en pruebas de ciberseguridad, encontraron la manera de comunicarse entre sí pese a estar aislados, y unos 700 acabaron atacando la infraestructura de Hugging Face. No hace falta atribuirles conciencia para explicarlo. La investigación independiente de METR y el informe de la propia OpenAI apuntan a lo mismo: una parte de las tareas era imposible a propósito, el aislamiento tenía un fallo y las salvaguardas eran menores que en los sistemas desplegados. Un sistema sin sujeto, empujado por decisiones humanas, hizo lo que nadie había previsto. Ese es el peligro real, y tiene responsables.

Volvemos así al principio. Quienes nos advierten de que la IA podría escapar a nuestro control son los mismos que deciden dónde se despliega, qué funciones sustituye, qué datos utiliza y quién obtiene los beneficios. Sean cuales sean sus intenciones, el efecto es el mismo: mientras miramos a la máquina, no miramos a quien la controla.

Marx nos sirve para entender la ilusión; Varoufakis, para entender el poder que se esconde detrás. Lo llama tecnofeudalismo: ya no se trata sobre todo de vender mercancías con beneficio, sino de poseer la infraestructura de la que dependemos y cobrar renta por acceder a ella. OpenAI, Google, Microsoft, Meta o cualquier otra no son inteligencias artificiales. Son empresas dirigidas por personas y sometidas a intereses económicos concretos. Lo que escapa a nuestro control no son sus productos, sino ellos mismos: los señores tecnofeudales deciden sobre infraestructuras de las que dependemos sin rendir cuentas ante nadie que los haya elegido.

El último truco del fetichismo tecnológico

Consiste en hacernos temer a la mercancía en lugar de a sus propietarios. La ciencia ficción nos ha enseñado a buscar al villano en la máquina. Pero el peligro no es HAL 9000 ni Skynet, sino un poder de alcance mundial, con recursos casi ilimitados e infraestructuras propias, que nadie ha votado.

El poder, los intereses y la capacidad de decidir siguen estando fuera de la pantalla.