Una herramienta de IA puede mejorar tus decisiones y al mismo tiempo destruir la capacidad colectiva de tu profesión. Eso no es una paradoja filosófica: es el argumento central de un artículo publicado esta semana en Nature, y tiene evidencia detrás.
El argumento que incomoda
Sylvie Delacroix, profesora de derecho digital en King's College London, publica en el volumen 652 de Nature una tesis que va contra la narrativa dominante de "la IA como herramienta de apoyo". Cuando una herramienta de IA reduce sistemáticamente el rango de incertidumbres y valores que se debaten dentro de una profesión, las competencias colectivas de esa profesión se deterioran, aunque cada profesional individual tome mejores decisiones a corto plazo. El individuo gana eficiencia. El gremio pierde músculo.
No importa si la IA entiende o no entiende. El daño colectivo ocurre igual, y ocurre precisamente cuando la herramienta funciona bien.
El experimento del ajedrez
Delacroix ilustra el argumento con un experimento de ajedrez colaborativo: cada equipo incluye una IA fuerte y un jugador humano más débil. Una moneda al aire decide quién mueve en cada turno; ninguno sabe de antemano quién irá siguiente. El resultado, según Nature, fue contundente: los equipos con IA diseñada para hacer movimientos que el compañero humano pudiera continuar, ganaron de forma consistente a los equipos liderados por Leela, una IA de ajedrez sobrehumana. Ser más poderoso no fue suficiente. La compatibilidad con el compañero importó más que la potencia bruta.
El diseño captura la diferencia entre optimizar sistemas de IA según un benchmark fijo y desarrollar herramientas que genuinamente soporten el juicio humano. En el primer modelo, el humano aprende a depender. En el segundo, el humano sigue ejerciendo criterio.
El ejemplo que lo hace concreto
La revista señala un caso de medicina que hace el argumento imposible de ignorar. Una IA de diagnóstico entrenada para expresar incertidumbre clínica en términos de probabilidades funciona bien en muchos casos —una probabilidad del 70% de infección bacteriana, por ejemplo—. Pero colapsa cuando el juicio no tiene base estadística concreta. Cuando un médico sospecha violencia doméstica, la decisión de documentarlo no puede reducirse a una probabilidad: depende de si esa documentación va a proteger a la persona o empeorar su situación familiar. Es un juicio interpretivo, ético, enraizado en valores en disputa. Cuando toda incertidumbre se fuerza a un marco probabilístico, ese tipo de juicio profesional no solo se distorsiona — se vuelve invisible.
Por qué este argumento es distinto
La discusión habitual sobre IA y trabajo se centra en desplazamiento: ¿cuántos empleos desaparece? El argumento de Delacroix es más sutil y, por eso, más difícil de contrarrestar con políticas convencionales. No habla de puestos eliminados, sino de conocimiento colectivo que se evapora sin que nadie lo note, porque cada individuo en el proceso está, técnicamente, funcionando mejor. Es el tipo de degradación que no aparece en ninguna estadística de empleo hasta que ya es irreversible.
La pregunta que deja el artículo no es si usar o no usar IA. Es quién diseña las condiciones en las que se usa, y con qué intención.
