Blog
Por Constanza Michelson
Según Elon Musk, en Tesla, la IA (inteligencia artificial) no es la guinda de la torta, es la torta. Tiene razón, aunque el sentido común nos diga que el fin justifica los medios, la historia muestra que el medio es el que determina a los fines. Son nuestros juguetes nuevos los que decretan el mundo por venir y nuestros límites de pensamiento.
Alguna vez a un neurocientífico que, afanado, explicaba que pronto podremos saber qué zonas del cerebro se activan con cada emoción, se me ocurrió preguntarle para qué. Con su perplejidad entendí que mi pregunta era ingenua y estúpida. Para qué, no es una pregunta que se le pueda hacer a la ciencia moderna; no me refiero, por supuesto, al para qué utilitarista, para ese siempre existe una respuesta noble -vivir mejor, curar enfermedades, soluciones versátiles para la vida – aunque luego derive en otra cosa; sino a la pregunta por el sentido: ¿queremos el mundo que una tecnología trae?
Para qué, no es una pregunta posible, no porque esté prohibida, sino por la estructura lógica de la ciencia; “la ciencia no piensa” fue una polémica premisa de Heidegger, que lejos de un insulto, lo vio como su ventaja: la pregunta sobre qué es la ciencia, no la responde la ciencia, sino la filosofía (por supuesto que la puede hacer un científico). El asunto es si acaso ese pensar, esa pregunta, tiene algún prestigio en nuestros días. En general la respuesta suele ser algo así: la técnica siempre ha existido en la vida del ser humano, esto avanza imparable, es una pulsión atávica; y aunque todo eso pueda ser cierto, son respuestas que confirman que hay preguntas que no son posibles.
En los años cincuenta, en su conferencia sobre la energía nuclear, Heidegger dijo algo perturbador: lo peor no es que explote la bomba, sino que cuando estas no estallen y la vida humana esté salvaguardada junto con la era atómica, es que entonces el mundo se transformará de un modo inquietante. No porque el mundo se tecnifique por completo, sino porque no podamos acceder a un pensar a la altura de poder enfrentar ese mundo. El peligro es que ningún Estado, organismos, investigadores, puedan encauzar a la ciencia, porque la episteme de la técnica se convierta en un régimen de la verdad.
Para el filósofo, pensar que la dimensión técnica de la ciencia moderna es una herramienta que podemos usar a nuestro antojo, es una ilusión. La técnica es algo mucho más grande: es una racionalidad, es decir, una forma de pensar, un modo de hacer y habitar el mundo, uno en que, si todo es tecnificable, por lo tanto, todo es explotable. El medio es la torta. Pero lejos de satanizar a la técnica (eso sería totalmente absurdo), de lo que se trata, dice Heidegger, es de decirle sí y no a la vez, sí como herramienta, no como régimen de realidad.
El no, lejos de tratarse de un anticientificismo delirante de los que ya conocemos con terraplanistas, conspiracionistas, antimascarillas, significa resistirse a que la racionalidad técnica nos deje silenciados por la verdad puesta en la data (o en los impulsos cerebrales); no porque no haya en ellos un registro de la verdad, sino porque se le dice no a la verdad vuelta un mecanismo que hace callar. Hablar es otro registro de la verdad, cuyo soporte es el sujeto político. Esa es también una forma de pensar y habitar.
¿Podemos ejercer el no estos días?
Las advertencias traen un poco de histeria, pero no generan resonancias. Da la impresión que la teoría crítica tampoco. El propio Elon Musk hace años viene diciendo que “la IA podría ser más peligrosa que las armas nucleares”, “hay entre un cinco y diez por ciento de posibilidades de éxito” (de que la IA sea segura), sin embargo, es él mismo uno de los más fieles representantes de esa empresa. Hace algunos días presentó los avances de su chip cerebral NeuraLink, que pretende que las personas controlen sus dispositivos con la mente. Y lo de siempre, primero el anuncio de una posible utilidad para curar enfermedades (cosa que los expertos pusieron en duda), luego asuntos más ambiciosos, como lograr “la telepatía conceptual”. El futuro será extrañó, aseguró, “podríamos dejar de necesitar hablar”.
No es nuevo el deseo de ahorrase el lenguaje y sus molestias, el tiempo que toma, los malentendidos, su inadecuación con las cosas que intenta representar, sus traspiés. El anhelo de dominar al lenguaje, precisamente, concibe a éste como instrumento de comunicación, por lo tanto, sustituible por otra herramienta más exacta. Por ejemplo, una radiografía es una especie de “telepatía conceptual”, dice algo de nosotros, pero sin nosotros (no necesita de nuestras historias ni ideas). La trampa es que en la búsqueda de exactitud, bajo la racionalidad del dato y el cálculo, desertamos como humamos. De lo que se trata es de cómo habitamos (políticamente) el lenguaje: o consentimos a un lenguaje que aspira a cerrarnos la boca, o, por el contrario, a uno que nos obliga a nacer cada vez que tomamos la palabra.
Lo mismo pasa con la memoria, Musk dice que podremos almacenar y recuperar recuerdos, incluso ponerlos en un cuerpo replicante. Uno de los mejores capítulos de Black Mirror especula con esa posibilidad: a una viuda le llega el replicante del amado muerto. Lo manda rápidamente de vuelta, no por diferente al original, sino que, precisamente lo extraño, es que el replicante es horrorosamente idéntico a sí mismo, es la repetición infinita de un dato, de una memoria muerta. La memoria que piensa Musk es estática, como revisar con prisa un álbum de fotos o un edificio patrimonial; sin esquirlas, sin consecuencias. Una memoria tecnificable.
La memoria humana, por el contrario, es un volver a atrás, que nos enfrenta a posibilidades éticas: repetir el pasado o abrir un futuro inédito. La re-vuelta es precisamente un volver la mirada, para escribir otra cosa desde ahí. Siempre y cuando se habite el lenguaje como un lugar de invención y no como un calco de la realidad. Es una reserva de libertad de lo humano: torcer algo para permitir una desigualdad respecto de nosotros mismos, permitir lo inaudito.
Hay momentos en que eso es imposible, fue la lógica de los campos de concentración, la destrucción del lenguaje, la pérdida del nombre por un número; acabó la guerra, pero no esa lógica. Ya no es necesario encerrar en un campo, para encerrarnos en una cifra. Por el contrario, el error, el azar, el acto de interrumpir la repetición de nuestros patrones, genera otro tipo de extrañamiento que el “futuro extraño” de Musk, uno que puede ser fuente de deseo y transformación.
Quien sabe, tal vez alcancemos un mundo sin fallas (humanas). Pero con el mismo dilema implícito en toda la trifulca de la cultura de la cancelación: se trata de una revolución moral, que como todas las anteriores, aplasta a algunos inocentes por alcanzar un Bien. Quizá lleve a un mundo más igualitario, pero el asunto es si los medios para llegar a esos nuevos valores serán una anécdota – la guinda de la torta – o serán la torta. Quiero decir que lo que importa no son los decires, sino la relación a lo dicho: puede que lleguemos a Marte y seamos buenos, pero podría ser que ya no traicionemos porque tampoco hagamos promesas, y que la violencia sea justamente la incapacidad de pensarla.
Puede que no sepamos qué somos, y como escribió Jaime Semprun: a los ecologistas les preocupa qué mundo le dejaremos a nuestros hijos, pero nos debería preocupar qué hijos le dejaremos al mundo.
Etiquetas: Constanza Michelson, Elon Musk, Jaime Semprun, Psicoanálisis