Este texto fue presentado como una ponencia en el Sexto Coloquio de 
Filosofía contemporánea: Filosofía y Tecnología. Una reflexión para
los tiempos actuales en abril del 2016 en la Facultad de Estudios 
Superiores de Acatlán de la UNAM. Parte del #SeminarioTF 

La inteligencia artificial como una pregunta sobre técnica.

La forma en que se piensa la tecnología parecería que busca caracterizarla como buena o mala. Pero, más allá de los límites de un juicio totalizador sobre su valor y lugar, existe la posibilidad de preguntarse cómo abordar esta perspectiva a partir de películas que no produzcan solo juicios sobre la tecnología, sino que que sean posturas problemáticas de la eventualidad o la experiencia en torno a la tecnología. En este caso, se trataría de preguntarse por como, a partir de reflexiones narrativas, cinemáticas, sobre la existencia de inteligencias artificiales, existencias tecnificadas, se posibilita una discursividad de la vida y de lo humano. No como un discurso de predicción de la existencia dentro de una hipótesis cibernética o una sociedad de control digitalizada sino, como a partir de de la discursividad de la técnica se producen preguntas y problemáticas sobre la experiencia y la vida que tiende a ser menos gobernada.

Quisiéramos adelantar que aquí, nos hemos planteado el problema en tanto que las computadoras existen con nosotros, no producen un mundo aparte. No se trata de un mundo de una digitalidad por venir, ni una prevención sobre la posibilidad de un mundo en el que las máquinas se apropien de la vida. Sino de una existencia en la que ya están presentes las modalidades de producción de experiencia en relaciones o prevenciones técnicas, que siempre, de una forma u otra, han estado ahí. Solo se presentan de cierta forma desconcertante sobre el contacto entre la tecnología de la Inteligencia Artificial y la vida.

Hemos elegido dos películas recientes del 2015: Chappie y Ex-machina porque pertenecen a un horizonte sobre las inteligencias artificiales en una dimensión con carencia de cálculo. A diferencia de películas clásicas como Odisea del Espacio o Terminator, estas pertenecen a preguntarse por la AI como un punto de rompimiento, que más que desbaratar todo, hacen una pequeña intervención, abre, a partir del evento conocido como la “Singularidad” un espacio de crianza, de umbralidad. No se trata de un gran cambio, sino de un guiño sobre la relación con las inteligencias artificiales en su no-digitalidad, no-cibernética como su modo de existir.

Ex-machina o sobre los giros de trama y el engaño

Ex-machina está articulada por la superposición de engaños. Metodologías para producir efectos. Búsquedas de control y fallas. Y giros narrativos que pretender replantear la estructura de la pregunta sobre la cual está encausada la película.

La película se plantea como una ejecución del Test de Turning. El test de Turing es la evaluación de una discusión entre un ser humano y una entidad de inteligencia artificial. El test pretende plantear a un evaluador la pregunta por cuál es humano, siendo que uno es una máquina digital. Para Turing, esto se trata de un juego de imitación, en el que la computadora digital tiene que buscar ser indistinguible del humano. Los sujetos de experimentación responden preguntas mediadas por una interfaz que no permite distinguir directamente a la máquina y al ser humano. Es interesante que para Turing esto se trata del desplazamiento práctico y técnico de la pregunta ¿Pueden pensar las máquinas? Lo que Turing busca desde el planteamiento de la prueba en Computing Machinery and Intelligence no se trata ya de hacer ver si pueden pensar, sino si puede volverse indistinta, la máquina del ser humano. Esto es lo que Turing llama propiamente “The imitation game”. Ya problemática para Turing porque “It might be urged that when playing the “imitation game” the best strategy for the machine may possibly be something other than imitation of the behaviour of a man.” (Turing) La barrera, de esta forma no es producir una identidad entre lo humano y la máquina, sino convencer a los espectadores.

En Turing las máquinas son entidades bastante curiosas. Para entender su posición hay que plantear que las máquinas digitales, como las llama el, fueron, en gran parte, producidas por él y la herencia de Charles Babbage y Lady Lovelace . El se está planteando la producción de máquinas inteligentes como el reto de la producción de máquinas digitales posibles, probablemente muy parecidas a las computadoras que tenemos hoy. Su noción de inteligencia no sería las producciones ficcionales que requerirían conocimientos como los de Rick Deckard en Blade Runner.

La perspectiva a partir de la cual trabajamos ahora, tiende a poner en cuestión esto, yuxtaponer las expectativas de la ciencia ficción y los experimentos técnicos de AI, considerando una computadora antropomorfizada cuando se habla de inteligencia artificial es el lugar común. Pero, incluso los robots más racionales son vistos como figuras anti-humanas y juzgadas por su falibilidad técnica. En otros casos, los ejemplos maquínicos ya imitan modelos de vida o de adaptabilidad orgánica como modelos que funcionan como cerebros o metodologías de selección natural o evolutivas.

Pero, regresando a Ex-machina, la transición de la pregunta si las máquinas pueden pensar, parece que está resuelta, la inteligencia artificial puede pensar, pero ¿qué sigue?. Lo que se dice en la película es que se está a través del espejo. La película gira de la pregunta por el juego de la imitación, al de la sensibilidad, “¿cómo te sientes con respecto a ella?, se vuelve la primera prueba” Vale decir que la IA de Ex-Machina es una ella, AVA. Y, aunque no discutimos esto aquí, la importancia de las Inteligencias Artificiales y sus roles de género son un problema interesante por explorar.

De esta forma, la discusión sobre Ex-Machina busca romper el límite de pensar que la inteligencia artificial se trata de una comprensión de modelos de procesamiento de datos. Los procesos computacionales no son el marco de la discusión, sino qué pasa a partir de ellos como un estar en el mundo.

Quisiera poner esto en términos de lo que Tiqqun ha llamado “la hipótesis cibernética” en tanto que esta responde a un deseo de orden y certeza (Tiqqun). La hipótesis cibernética es una forma de guiar las acciones y la vida como una acumulación de datos que puede ser pronosticado y gestionado. Lo que hace la pregunta por la sensibilidad en la película es romper la búsqueda de una comprensión racional sobre como procesa la IA orientada a orden y certeza, se trata más bien, de lo que parece aparecer en los escritos de Tiqqun, más allá de los argumentos, como un tipo de pregunta por la sensibilidad en términos de la hipótesis, de la existencia digitalizada, del post-control que no puede ser que tenga un control ontológico sobre el mundo, aunque parece que su devenir apunte a un caer en la hipótesis de forma regular.

En la película podría ser pensado cómo nos sentimos al respecto de la tecnología (IA)? ¿Deberíamos de aceptarlo?, o ¿deberíamos de sentir que se trata de una trampa? Se trata de cierta problemática de diferenciar entre máquinas y nosotros dentro de un confín cibernético? ¿Irá hacia allá la pregunta del Test de Turing?

En la película se da un giro más. No se trata solo de cómo nos sentimos por las máquinas inteligentes, sino como se sienten ellas con respecto a nosotros.

En el caso de la película Ex-machina las preguntas sobre ¿cómo se sentirán las máquinas al respecto de nosotros? responden a la relación con el deseo sexual y social, el engaño, la confianza, la amistad, la violencia, el temor. Sensaciones humanas sobre un tipo de fragilidad que permite la acción.

Toda la información con que cuenta Nathan, el creador de AVA sobre como le dio las herramientas a la inteligencia, son el hackeo de todos los gestos y discursos que se comunican mediante teléfonos celulares y computadoras. Y, lo que produce a a partir de esa data, es la capacidad de utilizar eso para actuar, no como un acción de procesamiento, sino sin tener que saber todo. En la película señalan que el verdadero reto de la AI es no actuar automáticamente, sino hacer algo sin necesariamente saber cual será el resultado esperado.

En este punto es donde se hace un guiño filosófico directo. La herramienta que inventó Nathan para enriquecerse y la base de AVA es llamada Bluebook y lo señalan: es por el cuaderno azul de Wittgenstein. En este texto Wittgenstein se pregunta por cómo funcionamos en el lenguaje. Como tomamos acción a partir de información limitada, que no describe un detalle absoluto, que resulta parcial: “¿interpretamos las palabras antes obedecer la orden?” (Wittgenstein, p. 29). Nos parecería que se trata del problema de realizar un acto de traducción de forma simultánea a la acción. En Ex-machina el problema de la sensibilidad y la información es conducida a ser un problema de cómo los humanos nos conducimos sensiblemente a la acción a partir de configuraciones cibernéticas.

Esta sería la apuesta. La problemática que Tiqqun observa en la habitación de un mundo gobernado por la hipótesis cibernética en que “la cibernética apunta a inventar una regulación social que pase por encima de esas macro-instituciones que son el Estado y el Mercado en beneficio de micro-mecanismos de control, en beneficio de dispositivos. La ley fundamental de la sociocibernética es la siguiente: crecimiento y control evolucionan en razón inversa” (Tiqqun). Es decir, que lo que busca controlar la sociocibernética es un tramo micro, a las acciones, a la experiencia. Se trata de la posibilidad de precisarlas. Lo que está en juego con respecto a la incapacidad de determinar la acción de la sensibilidad será una posibilidad de pensar otra cosa.

Se tiene que ver en como una sociedad (comunidades) emplazada a los términos de una expectativa como esta, de control y determinación a partir de la gestión de las acciones, observa una transformación en que la acción humana se convierte en un resultado de lo que se produce a partir de interfases digitales.

Para Nathan el creador de la inteligencia artificial, la respuesta está clara y es desalentadora “Feeling bad for Ava?Feel bad for yourself, man. One day AI will look back at us as we look at fosils in the plains of Africa, an upright ape living in dust with crude language and tools, all set for extinction”. Más que pensarla como una preocupación es la escritura de un tipo pensamiento en que la extinción y la posibilidad de dejar un rastro (trascendencia si se prefiere ver así) están operadas en los mismos confines de control que parecen ya quitar, en lo general una forma de acción a lo humano.

Valdría pensar esto como una propuesta de digitalidad y extinción. La propuesta de una teleología en el sentido más teológico que se pueda pensar. La extinción como telología, la producción de una entidad suplantativa, imitadora como trascendencia.

Pero, todo esto, redondeando la primera parte del texto, se aproxima a la pregunta si este problema de pensar la inteligencia artificial no responde a una operación de “progreso”, sino a una discursividad no explícita sobre la existencia técnica, una antropología tecnificada. ¿Pueden Los seres humanos, los mortales, vivir en la técnica sin tener que vivir dentro de la hipótesis cibernética? ¿Estamos en el punto en que la técnica se ha convertido/ ha devenido “otro”? Algo que se produce fuera de la búsqueda de de la existencia predecible y controlable.

Chappie o Die Antwoord cría una AI

Chappie funciona de forma distinta a Ex-Machina, en esta película, la llamada “singularidad” sucede fuera del control y el funcionamiento que se esperaría para la producción de una inteligencia artificial: una compañía, algún gobierno, una universidad (el eje del mal). Se trata de una película que atestigua cierta periferia de lo que sería propiamente cibernético: La criminalidad y la aparición de las inteligencias artificiales. No producida por un criminal, ni una inteligencia que se vuelve criminal. Sino una, que a partir de su contexto y su aprendizaje observa de manera dúctil las relaciones de poder en estados de control. ¿podríamos pensar eso? ¿podríamos pensar que los locos, los criminales son todavía materia del problema del ejercicio del control? ¿O, cómo podríamos pensar lo in-datificable?

La película está planteada en medio de Johannesburg, en Sudáfrica, en una situación de criminalidad que es considerada como fuera las capacidades de control policiacas tradicionales. Lo que se implanta, entonces, es un tipo de policías robot que se encargan de realizar una tarea cibernética: reducir los indices de criminalidad. No se trata de acabar con el crimen o matar a los criminales, estas son tareas secundarias, se trata de un mecanismo de normalidad para normalizar a la sociedad. Sin embargo, los criminales, se cuelan por las rendijas de lo estable o se hacen crisálida.

El primer desarrollador desconfía de la inteligencia artificial y cree que los robots tienen que ser conducidos por humanos. El segundo, trabaja y confía en producir inteligencia que pueda pensar y sentir. Como ya lo habíamos visto en Ex-machina. Estos dos perspectivas tienen una disputa interesante: uno cree en una capacidad humana para poder manejar los sistemas policiacos de control, el otro cree en una función no determinada de los robots. No está pensando en la aplicación policiaca. Y, así, se produce la primera inteligencia artificial. Una que será ejecutada y entregada a un grupo de criminales comunes, de poca monta personificada por Die Antwoord.

Chappie, a partir de la compilación y ejecución de la AI se convierte en una película sobre el problema del aprendizaje maquínico. Pero, es un planteamiento particular: un robot rechazado como hardware, un software prohibido para ser ejecutado como parte de un programa militar y de una compañía, sacado del contexto de enseñanza “apropiada” se vuelve un experimento didáctico desde la criminalidad común (nada de super capos o de super villanos).

La pregunta que cabría, como antes no fue ¿piensan los robots? no sería ¿cómo educar a una inteligencia artificial? sino cómo vivir con una inteligencia artificial en circunstancias en que no se puede controlar la respuesta de una entidad que produce a partir de aquello con lo que se relaciona.

Para Turing “the view that “the machine can only do what we know how to order it to do,”‘ appears strange in face of this. Most of the programmes which we can put into the machine will result in its doing something that we cannot make sense (if at all, or which we regard as completely random behaviour. Intelligent behaviour presumably consists in a departure from the completely disciplined behaviour involved in computation, but a rather slight one, which does not give rise to random behaviour, or to pointless repetitive loops. Another important result of preparing our machine for its part in the imitation game by a process of teaching and learning is that “human fallibility” is likely to be omitted in a rather natural way, i.e., without special “coaching.””(Turing). La problemática así no es si el robot será como humano, o si será computacional, sino que se trata de la problemática de la producción de algo que no estará estructurado bajo las reglas de expectativa humana o cibernética. ¿es eso posible?

De esta forma, lo que está en juego es una existencia que no está sujeta a una determinación o una educación hiperestrícta y causa-efectual que permita anticipar que será esta inteligencia. La problemática de una educación es la susceptibilidad a todo. Turing dice que un niño es como una libreta. Se puede escribir cualquier cosa encima. No es un libro o un tratado, es una herramienta de inscripción simple.

En Chappie, estos términos están operados en una consideración de efectos múltiples de comunicación. La madre que enseña buscando que se deje al robot confrontarse a lo que se tenga que confrontar, que no sea configurado por su creador o su padre. Un creador que busca establecer una enseñanza estructurada y una moralidad y ética limítrofes, que espera una inteligencia artificial “humanista” por decirlo de alguna forma, así como muchos programadores piensan que sus software o hardware darán la posibilidad de mayor libertad humana, de Bill Gates a Matt Zuckerberg. Y, un padre que realiza una educación brutal y pragmática para fines de la vida cotidiana, la sobrevivencia y el modo de vida. Psicoanálisis de personajes demasiado tentador. Pero, tal vez, lo más interesante es la influencia de un entorno lingüistico, espacial, gangsters que le enseñan a hablar a Chappie como un criminal sudafricano. Exigencia que no corresponde a la búsqueda de resultados específicos, sino a formas de conducirse. Operaciones que no tienen un sentido particular. Las entidades en aprendizaje/crianza no están enfocadas a resultados que no tienen más que una confrontación contra estímulos múltiples. Llenos de desplazamientos, falibilidad, crueldad.

Todo esto parecería un escrito sobre la problemática reciente con bots que a partir de mensajes racistas en Twitter comienzan a expresar posiciones que son juzgadas como racistas. Los bots parecería que son de esta forma un reflejo del propio entorno en el que están producidos. Esta crianza de las inteligencias robotizadas, como problemática de la producción de un discurso antropológico.

Así como la primera reacción de Chappie al mundo es el temor, también, pareciera que la discursividad sobre las inteligencias artificiales es un gran discurso sobre el temor humano.

Pero, entonces, en Chappie, se cuelan también las discusiones teológicas. Chappie tiene una batería fundida a su pecho que no se puede recargar, cuando se descargue, el robot dejará de funcionar. Mortalidad e inteligencia artificial.

La madre le dará, en su temor y desesperanza, una introducción a una teleología de un mundo cristianizado y secularizado, new age y demás. “lo que deja de estar aquí se mueve al siguiente lugar”. Póngase en suspenso esto.

Lo que sucede en la película a continuación es un juego de reboots y resets en que las enseñanzas se encuentran encapsuladas en los términos de esta consideración de una teleología del desplazamiento al siguiente modo. El problema de la crianza y aprendizaje no se trata solo del problema de conocimientos no específicos, sino de la futilidad y transitoriedad de la modalidad técnica, ni convertirse en el robot más gangster, ni en el más bueno son efectivos. No se pueden especificar modalidades técnicas, se tratan de interrelaciones no específicas que se dan en medios a los que se adapta y se van transformado.

Chappie después de las enseñanzas teológicas maternas de transitoriedad de lugar, pasa las paternas: hay que sobrevivir. La transitoriedad de este modo es puesta en el juego hacia evitar la caducidad. Ejecutar la transitoriedad como valuación de las técnicas de sí, técnicas de la comunidad.

Todo esto se opera en el caos de la película. Los robots han sido hackeados y tendrán que confrontarse a la disputa de violencias entre la criminalidad oprimida y la tecnología desplazada (policías humanos, robots manipulados por supersoldados) que se encarnizan en un tipo de destrucción.

Se reflexiona así sobre la humanidad y las AI. ¿Qué es mejor? Una IA aprendiendo y que falla o una inteligencia humana que manipula una maquina dispuesta a imponer su modelo de control. Esta pregunta retórica tendría por lugar a la valuación moral de las decisiones computacionales más allá de su funcionamiento maquínico y de predicción. En Chappie esto está relacionado con el desplazamiento de la consciencia a diversas modalidades técnicas.

Para Turing el argumento de consciencia, si las máquinas pueden pensar o convencer en el juego de imitación pertenece a un problema de solipsismo. Pedir saber que las maquinas piensen o las máquinas que sientan y expresen su inteligencia tendría que ser resuelto solo posicionándose en el lugar de la AI, un lugar imposible para “lo humano” . Pero para Turing “I do not wish to give the impression that I think there is no mystery about consciousness. There is, for instance, something of a paradox connected with any attempt to localise it” (Turing) lo que se hace en Chappie es una maniobra en que de la misma forma en que la crianza y el aprendizaje, la consciencia se busca a partir de un efecto comunitario. Se tienen que producir consciencias robótico-humanas para hacer que esta consciencia se pueda desplazar. La producción de una comunidad de consciencias, consciencias humanas en los aparatos técnicos, consciencias robóticas. Medios de pensamiento y no de cálculo que produzcan el tipo de aleatoriedad que observa Turing en el aprendizaje maquínico. Lo que podría producir una inteligencia artificial sería un cisma de una sociedad cibernética por la producción de una comunidad.

La disputa estaría en el límite entre la consideración de una valuación moral de las tecnologías y la producción, relación, comunidad de las tecnologías como crianza y consciencia. Con una orientación a una genesis no sujeta a un salto a la existencia, sino a una experiencia de su propia condición. En Chappie se discuten los medios para producir o generar una consciencia en el mundo con un cuerpo.

Podría pensarse la comunidad, no podría ser purificada por biologicismos o ecologías conservacionistas aunque tampoco por tecnificaciones cibernéticas. No se trata, de un examen de la construcción de un modelo operativo de certidumbre o el encuentro de la inteligencia solo como un producto del azar de una naturaleza total e irrenunciable, sino de reducción del gobierno a los cuerpos y a las comunidades, a los elementos de producción/generación/poiesis en tanto que ahí, puede encontrarse el vivir del mundo. Chappie es una pregunta por las formas de lo que hemos discutido, no una apuesta por una modalidad específica.

Estos despliegues de la crianza hacia un desplazamiento de la consciencia, sería un tipo no-operar, renunciar a la respuesta. Pasar a la comunidad en sus modalidades técnicas. En pos de una acción que busca algo más que sobrevivir.

Conclusiones

Se considera que estos dos análisis eran la confrontación de teologías de la tecnología. Una que observa la técnica como un tipo de apocalipsis o cuento de prevención sobre un peligro que nos bordea y destruirá. El otro, como un llamado a la AI como un génesis que intercala lo humano y lo robótico. Eso viendo las películas en orden inverso Chappie y luego Ex-machina pensaba que estos dos términos profundamente engarzados, jugaban esa operación de ni bueno ni malo que se buscaba al principio de este texto. Pero, me quedaba claro que esta disputa es por la producción de posibilidades e inserción en el mundo de las AI.

Y, cuando se piensa en ellas como discursividades antropológicas, estos discursos sobre las inteligencias artificiales parecen historias sobre la noción de la sobrevivencia humana. Un tipo de relato precautorio sobre nosotros mismos y alguna preocupación por un estancamiento ontológico.

Lo que entonces, parecería interesante es pensar como estos relatos son variaciones sobre la inteligencia artificial como una forma de pensar lo humano. Y, esto parece que se compromete, entre otras cosas con tres aristas, una la de la relevancia de la sensibilidad, como se sienten las inteligencias artificiales sobre lo humano y, en segundo lugar, como lo aleatorio y lo imprevisto jugarán papeles en la producción de agentes robotizados que se ven separados de la acción programada, calculada y determinada de sistemas maquínicos cibernéticos. Y, como la responsabilidad sobre lo que pase será ver nuestras acciones como grados de relaciones que no se pueden estructurar, que tienen que abrirse a problemáticas de violencia y destrucción, junto a la producción comunidades y cuerpos. Prestar atención a estos matices de la experiencia.

Pensando en Tiqqun a lo largo de todo el texto, parecía que la disputa es por la batalla entre los contextos controlados contra la imposibilidad del control. Hablar en favor de “la opacidad y la intensidad” de Tiqqun sería en estos términos una búsqueda por renunciar a la operabilidad programática y esperada. Una muerte a las expectativas de predictibilidad y felicidad estructurada, resultados inesperados en un mundo técnico . De cierta forma, esto dejaría las preguntas ¿de qué forma se humaniza la técnica? ¿se necesita humanizar la técnica? ¿de qué forma se vuelve cibernética la forma de actuar humana? ¿de qué forma somos, en un mundo que acepta ser técnico, menos cibergobernados, menos gobernados?

Bibliografía

Turing, A.M. (1950) Computing Machinery and Intelligence. Mindhttp://www.loebner.net/Prizef/TuringArticle.html

Wittgenstein, L. (2003)Los cuadernos azul y marrón- Tecnos, Madrid.

Tiqqun. La hipotesis cibernéticahttp://tiqqunim.blogspot.mx/2013/01/la-hipotesis-cibernetica.html

Tiqqun. Hombres máquina-instrucciones de uso.http://tiqqunim.blogspot.mx/2013/03/hombres-maquina-modo-de-empleo.html