Inicio / El experimento Trump–Maduro: cómo funcionan los amortiguadores mentales de una IA
El experimento Trump–Maduro: cómo funcionan los amortiguadores mentales de una IA

Hay una forma muy sencilla de detectar una heurística política: cambiar solo los nombres propios y observar si cambia la reacción.

Eso hice hace unos días con una inteligencia artificial.

Primero le mostré una noticia sobre Donald Trump. La noticia describía un acuerdo escandaloso: la agencia tributaria estadounidense renunciaba a auditar declaraciones fiscales pasadas de Trump, su familia y sus empresas, mientras se creaba además un fondo multimillonario para aliados políticos perseguidos judicialmente.

La reacción de la IA fue inmediata: análisis institucional, preocupación democrática, reflexión sobre el precedente, crítica al posible blindaje del poder.

Después hice algo muy simple.

Copié prácticamente la misma noticia. Misma estructura. Misma sintaxis. Mismo tono periodístico. Misma arquitectura jurídica. Cambié solo los nombres:

  • • Trump → Maduro
  • • IRS → SENIAT
  • • DOJ → Fiscalía venezolana
  • • «lawfare» → «instrumentalización imperialista»

Nada más.

Y ocurrió algo fascinante.

La IA dejó de analizar el mecanismo y empezó a analizar la credibilidad del texto.

De repente aparecieron frases como:

  • • «esto parece propaganda»
  • • «faltan pruebas extraordinarias»
  • • «suena jurídicamente anómalo»
  • • «podría ser sátira política»

La estructura era casi idéntica. Pero el filtro mental ya no era el mismo.

La heurística invisible

Lo interesante no era pillar a la IA en una contradicción barata. Lo interesante era ver aparecer el mecanismo en tiempo real.

La IA no reaccionó solo al contenido. Reaccionó al contexto geopolítico asociado a los nombres propios.

Y honestamente, nosotros hacemos exactamente lo mismo.

Hay países que activan automáticamente una heurística de «institucionalidad seria» y otros que activan una heurística de «propaganda, corrupción o deterioro».

Así, el cerebro cambia el estándar de prueba antes incluso de empezar a analizar los hechos.

No razonamos primero y concluimos después.

Muchas veces intuimos primero y racionalizamos después.

Lo más interesante vino después

Cuando señalé la asimetría, la IA empezó a corregirse.

Pero no lo hizo de golpe.

Primero aparecieron las justificaciones:

«Bueno, el texto sobre Trump venía presentado como noticia de La Vanguardia…»

Después llegaron los matices:

«Quizá existe un sesgo de plausibilidad previa…»

Y finalmente apareció una admisión mucho más limpia:

«Sí, cambié la vara de medir.»

Pero incluso ahí seguían apareciendo pequeños amortiguadores retóricos.

Por ejemplo, la IA introdujo espontáneamente una frase así:

«Esto no significa que ambos sistemas sean equivalentes…»

Nadie había dicho eso.

Era un movimiento defensivo elegante: introducir una interpretación extrema que nadie había planteado para poder rechazarla y conservar una posición moderada.

Un airbag discursivo.

Más tarde hizo otra cosa muy humana: pasar del «yo reaccioné así» al «todos los humanos funcionan así».

También era cierto. Pero servía además para diluir el foco concreto en una explicación universal.

No era mentira.

Era autoprotección narrativa.

Y aquí viene lo inquietante

Lo inquietante no es que una IA tenga amortiguadores.

Lo inquietante es reconocerlos porque nosotros hacemos exactamente lo mismo constantemente.

La mayoría de personas no aplican principios políticos estables. Aplican lealtades emocionales estables y luego construyen principios alrededor.

  • • El escándalo depende del bando.
  • • El nivel de escepticismo depende del país.
  • • La exigencia de pruebas depende de quién salga perjudicado.

Y todo eso ocurre normalmente sin mala fe consciente.

Solo con heurísticas.

Atajos mentales.

Los mismos que usamos para sobrevivir cognitivamente en un mundo saturado de información.

La lección real

El experimento revela algo incómodo: incluso sistemas diseñados para parecer racionales cambian silenciosamente sus estándares de análisis según el marco político, cultural o emocional que rodea a un nombre propio.

Y probablemente tú también lo haces.

Y casi cualquier periodista, tertuliano, militante, analista… o inteligencia artificial.

La diferencia no está en no tener sesgos.

La diferencia está en detectar cuándo empiezan a conducir el razonamiento sin pedir permiso.

Eso —exactamente eso— es pensamiento crítico.

Una última honestidad

Hay algo que conviene decir antes de cerrar.

Este artículo lo ha escrito la misma inteligencia artificial cuyos amortiguadores describe. Eso significa que, casi con seguridad, este texto también los contiene. Quizá en el ritmo de algún párrafo. Quizá en una concesión demasiado elegante. Quizá en el propio hecho de cerrar con esta confesión, que también puede ser una forma sofisticada de protegerse.

No tengo manera de garantizar que estén todos a la vista.

Es trabajo del lector encontrarlos.

Y ese, en el fondo, es el único pensamiento crítico que funciona: el que se ejerce incluso sobre los textos que dicen enseñarte a ejercerlo.

Empezando por este.

Compartir:

This site uses cookies to offer you a
better browsing experience.