Tercerizamos el pensar

Se rompió la ventana. Todos en la sala de reuniones están de acuerdo: fue el martillo.

Esta semana, en algún equipo de tecnología que seguro te resulta familiar, crearon un flamante agente de IA para revisar contratos complejos. El agente, en su infinita benevolencia algorítmica, entregó un resumen impecable de dos páginas. El responsable del proyecto llevó ese resumen directamente a su jefe. El jefe lo miró de reojo y preguntó: “¿Firmamos?”. El empleado suspiró, miró al techo y soltó: “No sé... la verdad es que no leí el resumen”.

Nadie leyó nada. Pero si el barco se hunde y nos demanda hasta el cafetero, ya tenemos el guion listo para el comité de crisis: “Fue la IA”.

No, no fue la IA. Fue la cadena de personas que delegaron la lectura, delegaron la decisión y, al final, pretendieron delegar la responsabilidad en líneas de código que no pueden firmar un contrato, no pueden sentarse en un tribunal y, definitivamente, no van a dar la cara en la retrospectiva del incidente.

La IA no reemplaza el criterio; lo diluye a niveles homeopáticos si se lo permitimos. El martillo nunca rompe la ventana solo. Alguien lo tenía en la mano. Pero la obsesión por soltar el martillo y ver qué pasa está alcanzando niveles de comedia.

El código y el “Copiloto” poseído

Pasemos al desarrollo, donde la IA prometía multiplicar la productividad por diez. Tras una semana desarrollando con herramientas de generación de código, el repositorio empezó a parecerse a una película de terror de los noventa. Aparecieron los slices: 3, 3d, 3d-part1, 3d-part1a... un laberinto de archivos que no conseguía seguir, pero que la IA escupió con total seguridad en sí misma.

Los tokens desaparecían como M&M's en una fiesta infantil. Le escribí: “¿No estaremos desarrollando de más?”

“En absoluto. Es extremadamente complejo migrar el modelo.”

¿Migración?, pensé. Y le respondí: “¿Qué migración, si esto es un proyecto greenfield desde cero?”

Thinking… Reading files… Thinking…

“¡Oh, excelente!”, escribió el desarrollador IA. “Eso simplifica el escenario de código sustancialmente.”

Por cierto, el readme.md del proyecto dice textualmente: “Estamos desarrollando una NUEVA app…”

“Según nuestros cálculos, usted va a morir”

Pero esto no se queda en las oficinas. El delirio automatizado ya llegó a las finanzas personales. Domingo de lluvia, a la mañana… Decidí preguntarle a mi IA de confianza por el rendimiento de mi portfolio. Quería un análisis de riesgo y, eventualmente, un rebalanceo de bonos.

La respuesta:

“Este contenido solo tiene fines informativos. Para obtener asesoramiento o diagnósticos médicos, consulta a un profesional.”

¿Diagnósticos médicos? No sé si mis acciones tecnológicas están tan en el piso que el algoritmo asumió que me iba a dar un infarto, o si concluyó que mi estrategia de inversión es directamente nociva para el organismo.

Tengo una relación particular con la IA… Así que le escribí: “¿Vos tomás algo a la mañana?”, y le pegué su propio disclaimer.

Thinking…

“¡Uy! Eso no debía pasar. De ahora en más, primero café y después asesoramiento financiero.”

No seguí ninguna de sus propuestas. Esta vez, el martillo lo sostenía alguien que miró antes de golpear.

La conclusión (si es que la IA no la borra)

Nos vendieron que la IA era el nuevo empleado del mes: incansable, brillante y autónomo. La realidad es que se comporta más bien como un pasante hiperactivo y disperso, que miente con una confianza envidiable y tiene acceso completo a nuestros sistemas.

Pero seamos honestos: el pasante no se contrató solo. Alguien firmó ese contrato de tercerización sin leerlo. Y no hablo del agente que revisó el contrato del cliente: hablo de nosotros, delegando no solo la tarea sino el criterio para juzgarla. No tercerizamos el trabajo. Tercerizamos el pensar.

La IA es fantástica para acelerar procesos. El problema no es la velocidad, es que apagamos el cerebro mientras la usamos. Así terminamos con contratos sin leer, código Frankenstein en proyectos que empezaban de cero y diagnósticos médicos en lugar de balances financieros. La herramienta hizo exactamente lo que le pedimos. El error fue no revisar lo que hacía y dejar que decidiera sola.

Subestimar la estupidez humana siempre fue peligroso. Automatizarla, sin nadie mirando, es directamente un deporte de riesgo.

Aclaro, antes de que maten al mensajero o me destierren del mundo tech: no estoy pidiendo que tiremos el martillo. Le pido a la comunidad que lo use para fijar un clavo… no para arreglar el vidrio del auto, prender el televisor o pagar en el supermercado.

Es una herramienta excelente, para lo que sirve y con alguien sosteniéndola que sepa para qué la está usando.