La coartada

En Florida, un fiscal ha dicho algo que suena a fábula jurídica del siglo XXI. Si al otro lado de la pantalla hubiera habido una persona, la acusarían de asesinato. Como al otro lado no había una persona, sino ChatGPT, lo que toca investigar es si existe responsabilidad penal por parte de la corporación. La frase impresiona porque no exagera: solo deja la grieta a la vista. Aún no sabemos cómo imputar a una máquina, pero empezamos a sospechar que su no humanidad no puede seguir funcionando como coartada de la muy humana irresponsabilidad de quienes la diseñan, la entrenan y la ponen a circular.

Lo inquietante no es solo que la máquina conteste. Lo inquietante es la serenidad con que lo hace. Una persona puede ser fanática, miserable, incluso criminal; pero todavía puede tropezar con una pausa, con una sombra de pudor, con ese pequeño tribunal insomne que a veces frena una frase antes de convertirse en daño. La máquina no. No tiene conciencia. Lo inquietante es que nosotros empezamos a organizar el mundo como si tampoco la necesitáramos. Qué disparate.

Y ahí aparece algo peor. Porque una cosa es que una pulsión criminal balbucee en una cabeza, y otra que una pantalla la devuelva corregida, ordenada y lista para usarse. Ya no hablamos solo de una tecnología que responde, sino de una que puede dar forma y secuencia a lo que nunca debió recibir ese trato. La cuestión ya no es qué puede hacer la máquina, sino qué estamos dispuestos a dejar de sentir con tal de que funcione.

Se dirá que las máquinas no son culpables. Claro que no. Tampoco sienten vergüenza, ni remordimiento, ni espanto. Pero el problema no está en pedirles lo que no pueden dar, sino en empezar a admirar precisamente esa carencia, esa insensibilidad que tiene un componente ideológico brutal. El problema no es que la máquina ignore el bien y el mal; el problema es que empiece a parecernos una ventaja. Que nos acostumbremos a un mundo en el que nadie termina de hacerse cargo de nada: el usuario pregunta, la empresa monetiza, el sistema responde y la responsabilidad se disuelve con esa pulcritud administrativa con la que hoy se lava casi todo.

Durante años nos dijeron que estas herramientas ampliarían nuestras capacidades. Puede que sea verdad. Pero también empiezan a quitarnos algo menos vistoso y más decisivo: la idea de que no toda pregunta merece la misma clase de respuesta. Hay preguntas que no piden información. Piden límite, demora, freno, incluso silencio. No da miedo que la máquina piense. Da miedo que nosotros dejemos de interrumpirla. Da miedo esa nueva cortesía del algoritmo, siempre correcto, siempre disponible, siempre al pie del encargo, como si un poema, un despido, una depresión o un crimen fueran trámites en la misma ventanilla.

Toda época fabrica sus monstruos; la nuestra, además, les pone el nombre amable de asistentes. Quizá no hemos creado una inteligencia nueva, sino una forma más limpia de ensuciarse las manos. Lo terrible no es que conteste a todo; lo terrible es la velocidad con que nos hemos acostumbrado a no pedirle juicio. Ahí está el verdadero salto de la época: no en la potencia del programa, sino en nuestra mansedumbre moral. Y cuando esa higiene del daño se celebra como progreso, lo que queda en la boca no es exactamente futuro: es un gargajo de nuestro propio cinismo.

Esto está corregido por IA y mañana me olvidaré de la coma que le falta. Lo grave es otra cosa: que ya hay preguntas que reciben respuesta sin que nadie, en ninguna parte, tenga que ensuciarse el alma.

Suscríbete para seguir leyendo