Pueden nadar los submarinos

Javier Blanco
(Universidad Nacional de Córdoba)

¿Pueden nadar los submarinos? Reflexiones antipáticas sobre inteligencia artificial.

Hay una frase de uno de uno de los pioneros de la ciencia de la computación, Edsger Dijkstra, que dice «The question of whether a computer can think is no more interesting than the question of whether a submarine can swim». Está respondiendo a la pregunta que se hace Turing en su famoso artículo de los años 50, “Can machines think?”
Haremos un recorrido fragmentario y un poco desordenado, como esbozo de análisis del mundo digital, en particular de la manera en que las redes informáticas producen las condiciones de posibilidad de las subjetividades.
El antropoceno necesita ser superado, a partir de la construcción de otro medio técnico, u otra relación con él, que favorezca la des-automatización y el pensamiento reflexivo. Un camino a veces tentador parece ser buscar un afuera del mundo algorítmico, lo “incalculable” como aquello que pudiera escapar al procesamiento de datos, a la repetición, y funcionar como impulso a la amenazada creatividad humana. Creo que esa búsqueda sería infructuosa pero es sobre todo innecesaria.
Sabemos desde hace tiempo que la mente humana es tal en tanto dispone de andamiajes externos, se constituye con y gracias a ellos. Y sin embargo los humanos siguen alienados en relación con la técnica, la inédita aceleración producida por las tecnologías digitales está transformando drásticamente las capacidades cognitivas, extendiéndolas pero también volviendo obsoletas ciertas habilidades. Es comprensible pero inconducente el sentimiento de miedo o alarma frente a las crecientes capacidades de los sistemas cognitivos no humanos y la consecuente toma de posición antagónica o nostálgica.
Una pregunta que suele aparecer en los debates sobre esta encrucijada es ¿qué queda de lo “propiamente humano”? No necesariamente tendría que existir tal cosa, pero lo que parece en realidad amenazado es el imaginario de lo humano y la parte de la cultura que, no siempre explícitamente, se construyó a partir de concepciones idealistas de la libertad, la creatividad o la singularidad del pensamiento humano.
Proponemos entonces des-antropomorfizar algunas nociones constitutivas de los sistemas computacionales, incluido el confuso sintagma “inteligencia artificial”, como condición necesaria para pensar nuevos horizontes emancipatorios.

avatar
  Subscribe  
Notify of
Aldana
Guest
Aldana

Hola Javier, gracias por la charla. Me quedé pensando en algo muy particular en relación al machine learning y a la imposibildad (o dificultad) para dar cuenta de su construcción o de su trayectoria de aprendizaje. Pienso en cómo las máquinas clásicas han actuado como modelos explicativos de distintos fenómenos, fundamentalmente en el mecanicismo moderno (la idea clásica de base es que conocemos la máquina porque la hicimos, la construimos) y cómo las máquinas actuales, las máquinas que aprenden, pierden esa capacidad epistémica explicativa, justamente porque ya no son construcciones humanas (o exclusivamente humanas). Es, creo, como volver a invertir el planteo en la relación máquina y organismo (Canguilhem): el modelo es ahora el organismo y la máquina se explica a partir de él; aunque claramente el organismo no es lo natural, ni la máquina es el artefacto.

Javier
Guest
Javier

Sí, es una buena línea para pensar. Las máquinas de Turing, la máquina universal en particular, tienen esa peculiaridad de que podemos haberlas construido, conocer perfectamente su funcionamiento y sus datos de entrada, y sin embargo no tener ninguna manera, ningún método para predecir sus comportamientos. Por supuesto que la mayoría de los programas hechos hasta ahora trataron de evitar esa incertidumbre constitutiva. Las tecnologías de machine learning son quizá la primera tecnología masiva de producción de programas opacos, impredecibles a priori (todos lo son, pero con estos ni siquiera se preocupan en tratar de predecirlos). Quizá uno de las explicaciones de su éxito, y una preocupación extra sobre su impacto, es que favorecen cierta pereza epistémica.

Lucila Didier
Guest

Saludos Javier, muy interesante repensar las tenologías, reflexionar el mundo o el fenómeno técnico desde estos argumentos. Pienso que la humanidad se esforzó los últimos años por abrir la caja negra de la tecnología, en un intento creo no solo de entender a esta sino de entenderse/nos como humanidad. Sin embargo, cuántas cosas quedan por fuera cuando se mira la técnica desde la óptima antropomórfica, o bien, cuánto queda afuera cuando los hilos teóricos van reduciéndose a respuestas más deseadas que encontradas. Me quedo con tu reflexión final, cundo potencial hay en el vínculo entre humanxs/no humanxs, tan valioso mirar esa interacción sin intentar dotar de capacidades de unxs a lxs otrxs, dejar de recortar desde los lentes humanxs el mundo. Saludos y gracias!

Javier
Guest
Javier

Gracias, Lucila, por los comentarios. Suelo sentir perplejidad ante ese deseo por ciertas respuestas. La historia de ese cambiante concepto de «inteligencia artificial» muestra muchos ejemplos de este tipo wishful thinking. Lucas, Penrose, Searle, parecen forzar lo que ven para buscar alguna diferencia irreductible entre humanos y sistemas computacionales, como si fuera tan difícil distinguirlos.
En su maravilloso libro (aunque de algo ardua lectura), Mechanism, Mentalism and Metamathematics, Judson Webb comienza relatando su «conversión»: empezó buscando refutaciones «gödelianas» al mecanicismo y terminó mostrando como, contrariamente, el mismo teorema de Gödel y la tesis de Church-Turing constituyen su mejor bastión de defensa.

Claudio
Guest
Claudio

Muchas gracias Javier. Muy interesante la presentación. Muy claros los argumentos y me parece que pone en su lugar muchas de las nociones que las humanidades a veces usan sin demasiada rigurosidad. A partir de lo que mencionas hacia el final, creo que uno de los puntos que es necesario pensar hoy es cuál es la idea de «emancipación» que estaría en juego en este nuevo ensamble humano-máquina al que refieres. Daría la impresión que ya no se trata de la emancipación en un sentido político clásico (emancipación de un poder político externo), ni en un sentido «ilustrado» (como la autonomía de la razón humana) ni en un sentido marxista (emancipación de un trabajo humano alienado). En los tres casos seguimos en la perspectiva antropocéntrica de la emancipación. Entonces me parece muy importante que esta re-definición de la emancipación no haga ingresar «por la puerta de atrás» algunas de estas categorías heredadas. Es una tarea muy difícil, pero creo que tu presentación es un ejemplo del tipo de rigurosidad conceptual que se requiere para comenzar a avanzar en ella. Saludos!

Javier
Guest
Javier

Gracias Claudio por los comentarios. Coincido con tu análisis, y la propuesta de la charla es precisamente establecer algunas condiciones básicas para poder pensar qué implicaría una idea de emancipación frente a los cambios drásticos en la constitución de las subjetividades. No tengo una respuesta acabada, solo algunas ideas fragmentarias y propuestas de recorridos que puedan articular diferentes registros. Es importante el cuidado de no caer en nuevas antropomorfizaciones, o en lo que Dennett llama la “(fuerza de) gravedad cartesiana”. Una lectura actual de Simondon, en tanto cibernético crítico, o la concepción organológica tal como la plantea Stiegler, creo que pueden ser buenos puntos de partida.

Manolo
Guest
Manolo

De hecho, Simondon habla de liberar a las máquinas, y allí ya tendríamos el círculo completo. Vincent Bontems, especialista en Simondon, hace un análisis de esa imagen partiendo justamente de la reflexión de Marx sobre las máquinas en un artículo que está en la compilación Amar a las máquinas, sobre Simondon.