I.

Naturalmente, ante la tarea de responder en pocas palabras a la pregunta por los problemas que plantea a la filosofía la inteligencia artificial (IA), lo de hoy parece ser consultar, antes que nada, a Chat GPT. Esta inteligencia artificial ―que lo es por su capacidad de “aprender” a partir de un conjunto enorme de datos y unos cuantos ejemplos― enumera nueve problemas. De estos, solamente dos podrían considerarse como tradicionalmente filosóficos. Se trata de aquellos que se preguntan por la naturaleza y los conceptos de, por una parte, la inteligencia, lo natural y lo artificial, y de, por otra parte, la identidad y la autonomía. Los problemas restantes se preocupan más bien por los efectos, en la vida humana empíricamente considerada, de un instrumento tecnológico dado, el cual a su vez se considera ante todo como causa de modificaciones en regiones particulares de la existencia: el trabajo, el consumo, el gobierno, etcétera. Dicho esto, si lo más natural o espontáneo es hoy preguntar cualquier cosa a Chat GPT, lo más artificial o trabajoso podría ser preguntar a partir de lo que responde.

¿Qué suposiciones y normas transmite Chat GPT acerca de la filosofía, en relación con la IA? Podríamos decir, con Martin Heidegger en su clásico ensayo sobre la técnica moderna, que en los problemas que para nosotros extrae y dispone Chat GPT, la causa eficiente es el supuesto dominante que incluso lleva a la conclusión de que la filosofía misma debe, a su vez, fungir como instrumento crítico de un sujeto humano no especificado, o “reflexionar críticamente sobre las implicaciones y las consecuencias de la IA en nuestras vidas”. Ahora bien, ¿estamos, realmente, ante dos ámbitos o disciplinas claramente distintas entre sí, La Filosofía y la IA, o estamos, en el fondo, ante La Humanidad y La Técnica: dos personajes antagónicos dentro de un relato cultural universalista? ¿Qué significaría reflexionar críticamente si no cuestionar este relato familiar sobre nuestras vidas? ¿Cabría la posibilidad, en este sentido, de no sólo evaluar los efectos de la IA, sino además imaginar una tarea filosófica alternativa, como por ejemplo la de desobedecer los relatos dominantes sobre nuestras vidas, y así dar lugar a otras formas de vida?

Estas preguntas éticas y metafilosóficas, que son por lo demás características del giro contemporáneo en filosofía, podrían quizá agregarse a la lista de problemas que arroja Chat GPT sobre la relación entre filosofía e IA, y sería desde luego interesante comprobar la emergencia, a raíz de eso, de una especie de meta-inteligencia artificial, pues no otro ha sido el sueño de una inteligencia artificial “fuerte” o singularidad. Pero reflexionar críticamente sobre esta fantasía tecnológica requiere primero situar material e históricamente el sueño de la filosofía como tal.

En un compendio reciente la filósofa Shannon Vallor (2022) reflexiona sobre la institucionalización relativamente tardía de la filosofía de la técnica. Se pregunta por qué ésta se insinuó sólo de formas aisladas hasta la segunda mitad del siglo XIX (con Marx) y se consolidó hasta finales del siglo XX. La respuesta, para ella, no es tan simple; el pensamiento de la técnica no se desprende naturalmente de sucesos históricos como la revolución industrial, o bien la revolución informática. Tiene que ver, en cambio, con el cuestionamiento de la propia filosofía en la época marcada por estos sucesos, un cuestionamiento que ha implicado un reconocimiento de la exclusión de la técnica por parte de la filosofía desde la Antigüedad.

La filosofía se funda en Occidente través de la distinción entre el conocimiento teórico, la contemplación y la sabiduría, por una parte y, por otra, el conocimiento práctico, la artesanía y la artimaña o la sofística. Ha sido preciso reconocer el carácter valorativo de tal distinción, y el hecho de que ella funda la filosofía mediante un ejercicio de poder: la exclusión. De ahí la tendencia filosófica a imaginar la técnica como lo otro de sí misma, y lo otro como un peligro y una amenaza, en lugar de pensar, en términos relacionales, su propia dimensión técnica o “artificial”.

Vallor sostiene que si para Platón, y luego para Aristóteles, resultó necesario descartar la relevancia filosófica de lo artesanal, lo meramente técnico, eso no fue únicamente por las razones metafísicas popularmente aducidas (el dualismo platónico que separa tajantemente el alma inmortal, contemplativa, del cuerpo sensible y perecedero). A través de una lente crítica –que en la contemporaneidad a menudo significa materialista e histórica–, Vallor observa que para que hubiera una clase de personas –en el caso de Grecia, ciudadanos del sexo masculino –que pudieran dedicarse a la contemplación filosófica, se requería otra clase de personas, las mujeres y los esclavos, que sólo pudieran dedicarse a los cuidados y los servicios.

La asociación cultural entre la técnica y el trabajo doméstico, el lugar tradicional de las mujeres y los esclavos –como lo atestiguan hoy Siri y Alexa– no pudo empezar a cuestionarse sino hasta que la filosofía se vio empujada a concebirse ya no como contemplación ociosa de unos cuantos ciudadanos libres, sino como un “trabajo intelectual” ligado a instituciones modernas como la universidad y los medios de comunicación.

Si Marx fue el filósofo moderno que, a raíz de su interés primordial en la economía política, se atrevió a revertir la exclusión filosófica de cuestiones técnicas y empíricas, Heidegger fue quizás el filósofo contemporáneo que, a raíz de su interés primordial en la existencia, articuló de un modo paradigmático el peligro de una interpretación técnica del pensar, misma que podemos ver hoy encarnada no sólo en los servomecanismos y las plataformas digitales que ya resultan indispensables para sobrevivir, sino en las narrativas y los mitos de la “inteligencia artificial”.

Kate Crawford, en su muy crítico Atlas de la inteligencia artificial, identifica dos mitos en el imaginario tecnológico de la IA. El primer mito es que existe tal cosa como una inteligencia humana capaz de ser descrita en términos de procesos mentales, los cuales, a su vez, pueden servir de modelo para crear una inteligencia artificial, es decir, una capacidad de “aprender” en el sentido de imitar esos procesos mentales sin importar la materialidad específica en que se desplieguen. Como explica Belén Prado en una contribución al reciente Glosario de Filosofía de la Técnica, cuando el test de Turing, un detonante filosófico de la IA, reemplaza a una mujer por una computadora, no es que reemplace el cuerpo o las decisiones de la mujer, sino que crea un nuevo circuito donde la inteligencia ya no requiere de un cuerpo, sino sólo la imitación de ciertos procesos. El segundo mito según Crawford sería que la mente y la racionalidad que definen convencionalmente a la inteligencia existen independientemente de las fuerzas históricas, políticas y ambientales que contribuyen a su definición. Haciendo, en cambio, referencia a las críticas feministas de la mente o la razón filosófica tradicional, ella nos recuerda el estrago que ha causado esta imagen androcéntrica de la inteligencia, como una capacidad especial para el razonamiento abstracto y lógico, valorado culturalmente como neutral u objetivo, al justificar formas de inferiorización y explotación desde la esclavitud hasta la eugenesia.

El interés principal de la IA sería el hallazgo de “modelos inteligentes”, en primera instancia a partir de reglas para la manipulación de procesos racionales, y en segunda instancia a través de la automatización de procesos mentales. La primera instancia se ajusta al paradigma clásico de la IA simbólica (1950-1980), cuyo diseño implicó el protagonismo de un humano-programador de reglas o líneas de comando para enseñar paso a paso al algoritmo cómo llevar a cabo una tarea. A diferencia de las técnicas simbólicas, la segunda instancia la IA, el aprendizaje automatizado o machine learning, entrena al algoritmo para aprender tomando datos y formando patrones de datos para formular predicciones. Si la revolución industrial automatizó el trabajo manual, y si lo mismo hizo la revolución informática con el trabajo mental, “el aprendizaje automático automatiza la automatización misma” (Pedro Domingos en Belén Prado, 299-300).

¿Sería exagerado especular que incluso la reflexión crítica sobre la IA podría automatizarse? No si concebimos la reflexión crítica en términos de una inteligencia abstracta, como una suerte de ética aplicada, un código moral o un programa para la regulación de usos debidos e indebidos de la IA –por ejemplo, en lo que toca a los datos personales–. Lo relevante aquí es que una vez convenidas las normas y los procedimientos, un programa filosófico tal podría ser aplicado o ejecutado por un sistema de inteligencia artificial, cuya inserción opaca y sí, desregulada, en redes complejas de poder tecno-económico pronto neutralizaría la crítica, al menos en los términos humanos de interrogación ética y política de las condiciones materiales de la tecnología.

Hoy, la filosofía de la técnica ya no puede describirse en términos del canon filosófico tradicional, sino más bien como una suerte de apertura a la impureza, a la contaminación transdisciplinaria. El giro empírico de la filosofía de la técnica, a través de los estudios sociales y culturales de la ciencia y la tecnología, constituye una oportunidad, para Vallor, de poner fin al prejuicio y a la exclusión histórica de la técnica, que guarda resonancias insoslayables con el prejuicio y la exclusión histórica de las mujeres del ámbito intelectual.

Más allá de cualquier concepción abstracta de la reflexión crítica, la filosofía contemporánea afirma que la filosofía ha sido siempre una práctica encarnada, finita, situada material y políticamente, al menos si nos colocamos en una perspectiva como la de Michel Foucault, quien a la estela de Kant, Heidegger, Nietzsche, interpela a la filosofía no como a una disciplina académica sino como estética de la existencia y ontología desobediente.

II.

En el relato de Philip K. Dick, “La puerta de salida lleva hacia adentro” (1979), leemos que la vida es “infernal” porque la información se transmite a tal velocidad que un autor-programador, tras haber introducido el borrador de su novela en una máquina sintetizadora de ficción, encuentra imposible hacerle cambios. Para cuando intenta editar el final resulta que la novela ya está publicada. Puesto que la máquina, de tan inteligente, se le ha adelantado, lo único que se puede hacer en esa situación es escribir-programar una secuela. Esto resuena hoy en que el trabajo intelectual se ve subsumido a la programación de aparatos: una función especializada y engranaje de un sistema técnico abarcador, cada vez más automatizado, que algunos denominan dispositivo y discurso, y que estaría regido únicamente por el imperativo tecnológico de la eficiencia fusionado con el imperativo económico de la rentabilidad. Filosóficamente, el reto va entonces mucho más allá de establecer normas y procedimientos para el uso de tecnologías particulares. Tiene que ver con repensar la condición humana –es decir, la existencia, la sujeción al lenguaje y la paradójica obligación de la libertad–, ahí donde las normas y los procedimientos se ven saboteados de antemano por el imperio de la técnica.

En este sentido, no es tanto la despótica velocidad de las máquinas lo que Philip K. Dick explora en su relato como la servidumbre voluntaria de los seres humanos, en este caso el joven Bob Bibleman, quien se verá sometido a una prueba de pensamiento crítico por parte de La Escuela, o lo que él percibe como un orden social totalitario. La historia comienza cuando, en el intento de comprar su almuerzo, Bibleman se somete a las sugerencias de un robot expendedor de comida rápida, algo más semejante a los actuales sistemas de inteligencia artificial que a la clásica máquina tragamonedas. Cuando el robot le sugiere que, mientras espera su hamburguesa, compre un boleto para participar en una trivia –cuyo premio mayor es una educación universitaria– Bibleman asume que deberá comprarlo y aceptar el premio en caso de resultar ganador –lo cual, en este caso, sucede–. Como una suerte de policía encubierto, el agente de una emboscada, el robot confirma y ordena: “Es obligatorio que aceptes tu premio. Es un colegio militar en Egipto, al que serás trasladado. Ve a casa y empieza a empacar de inmediato”.

Ya en casa, el teléfono aguarda a Bibleman y le repite la orden de la máquina dispensadora de alimentos. No hay diferencia entre el teléfono mismo y un tal Mayor Casals, quien interpela a Bibleman de un modo invasivo y en lo personal: “¿Vas a decirle adiós a alguien, a tus amigos, a tu novia, a tu madre?”, para luego ordenarle que se calme. Ante la pregunta inquieta del joven, el Mayor confirma que, aún si no hubiera sido en el almuerzo, lo habrían atrapado de otra manera, inevitablemente, algo que a Bibleman lo hace sentir mejor.

Si bien es cierto que, mientras empaca, Bibleman reflexiona sobre su necesidad de una defensa jurídica, la cual pareciera no estar disponible para él, sus pensamientos en realidad giran en torno a cómo, hasta ese momento, él había habitado el mundo con virtuosa sumisión, para beneplácito de sus superiores inmediatos, y con agradecimiento por la buena suerte de tener nulo contacto con las verdaderas autoridades. Con nostalgia recuerda haber sido considerado, por máquinas y mujeres, como una buena persona. Ya en la Escuela (que así se hace llamar), conocerá a Mary Lorne, quien escuchará sus quejas de ser víctima de un secuestro. Ella se mostrará sorprendida y preguntará: “¿Es que no podemos irnos y ya?” La amistad se consolidará, en apariencia, cuando Mary conceda, pese a su evidente capacidad de pensamiento crítico, la terrible certeza de que estarán ahí para siempre.

La oportunidad de salir de ahí la ofrece el propio Casals –ahora profesor –al revelar en clase la existencia de una cierta información, el diagrama de una máquina llamada “Motor Pantera”, tan clasificada que la computadora nada sabe sobre ella, pues está programada para destruir toda la información que reciba al respecto, todo lo cual llama la atención de Bibleman. Cuando, a partir de un diagnóstico de sus aptitudes y personalidad, la Escuela le asigna la tarea de estudiar filosofía presocrática, Mary observa que, por la naturaleza puramente especulativa de su materia, se encontrará a salvo de cualquier encuentro peligroso, o tentador, con la información clasificada. Defensivo, Bibleman asegura que a él se le puede confiar este tipo de material, y Mary replica con la exhortación filosófica por excelencia: conócete a ti mismo.

Bibleman tiene la oportunidad de hacer esto mientras discute los datos e informaciones de su programa de estudio que son suministradas por una terminal, o un robot expendedor de conocimientos rápidos que, por cierto, también monitorea y responde a los estados emocionales del usuario: “dado que estás lleno de conflicto, Empédocles te puede interesar”. Cuando Bibleman pregunta, impaciente, si los contenidos filosóficos tienen alguna aplicación práctica, la terminal le proporciona, inesperadamente, el diagrama del “Motor Pantera” –que, cree entender, encarnaría la dualidad de fuerzas característica de la cosmología presocrática. Pensando que se trata de un error de la Escuela haber permitido que llegara hasta él la información clasificada, imprime el diagrama y corre a buscar un sitio donde esconderlo en un cuarto de lavado.

Bibleman revela su hallazgo a Mary, quien le cuestiona que la Escuela no sepa ya lo sucedido y le aconseja pensar cuidadosamente lo que va a hacer con la información clasificada. Él le comunica su interpretación del Motor Pantera como una tecnología capaz de generar toda la energía barata necesaria para transformar la estructura social, lo que podría acabar también con el colonialismo interplanetario. Fantasea con la posibilidad compartir esa información con alguna compañía independiente de las colonias. Aunque Mary le advierte de los riesgos, también le sugiere la alternativa de publicar la información en alguna revista o periódico, para que los esclavos puedan conocerla y usarla directamente, sin intermediación comercial alguna. Incluso si acabara en la cárcel, piensa él, la historia podría considerarlo un héroe. Pero a los pocos segundos de visualizarse como Prometeo, es detenido por los elementos de seguridad de la Escuela.

El Mayor Casals intenta persuadirlo de entregar el esquema impreso, de cuya existencia sabe por una notificación automática de la computadora. Le asegura que no será juzgado por un tribunal militar, y que en lugar de ello será reconocido por la Escuela como un estudiante leal y responsable, e incluso será privilegiado con una mayor libertad para seleccionar sus materias de estudio. Le concede una noche para pensarlo en la que Bibleman sueña con su padre muerto, a quien asocia con la figura de Casals. Con la idea de que “su padre estaría orgulloso de él”, decide colaborar con La Escuela, en lugar de publicar el esquema del “Motor Pantera” para que los esclavos puedan hacer de él un uso libre, gratuito y emancipador. Bibleman se conoce a sí mismo mientras se encuentra en proceso de llevar a cabo esa intención, cuando el Mayor Casals le revela que ha sido objeto de una prueba, que en realidad él no es el representante de La Escuela, sino Mary Lorne, y que, como resultado de la prueba, será expulsado.

“Yo soy la Escuela y me has fallado a mí”, sentencia Mary, porque fuiste incapaz de seguir mis ejemplos de desobediencia y pensamiento crítico. Bibleman explica que se propuso obedecer por lealtad al Mayor Casals, alguien que lo insultó y lo degradó. Si el título del cuento significa que “cuando quieren, ya te tienen”, sólo necesitan el papeleo instantáneo a golpe de teclas: la “i” de infierno, la “e” de esclavo y la “t” de tú”, la moraleja parece ser más bien que en la escuela de la vida, el verdadero aprendizaje tiene que ver con sacudirse la servidumbre voluntaria de los relatos heredados sobre “nuestras vidas”, que nos hacen al impedirnos no sólo pensar críticamente sino también actuar con responsabilidad y solidaridad hacia los demás. Para Shannon Vallor, en filosofía de la técnica la reflexión crítica no se trata solamente de retar interpretaciones técnicas, denunciar injusticias o “incluir” a personas discriminadas en el ejercicio filosófico, sino sobre todo reinventar este ejercicio como un pensamiento crítico encarnado, e incluso como un arte amoroso y de amistad.

Con una óptica feminista que considera la IA como un proceso sociotécnico complejo, que atiende críticamente tanto a la materialidad de la tecnología como a las relaciones de poder en contextos específicos, la investigación de Radhika Rhadakrishnan sobre las narrativas y los usos de la IA en el sistema de salud de India, resulta ejemplar al exponer cómo la IA apuntala una lógica extractiva y privatizadora que beneficia a la industria tecnológica a expensas de las poblaciones precarizadas a las que se dice favorecer en la India. El interés más específico de esta investigación es que demuestra cómo la IA rearticula el imaginario masculino y colonial al desplegarse como una “tecnología espectacular” de salvamento, que descarta de antemano soluciones menos costosas por menos vistosas, aunque existan de hecho soluciones menos costosas para problemas de acceso a la salud. Sustituir la posibilidad de mejorar y fortalecer los servicios públicos por filantropía corporativa, cuyo fin último es el lucro, es dar rienda suelta a la depredación económica de poblaciones enteras. En cambio, recuperar la consideración del derecho a la salud y la obligación moral de una salud pública, podría considerarse, en términos de la filosofía feminista de la técnica, como una desobediencia de orientación creativa y amorosa.

Como alternativa a la automatización de viejos mitos filosóficos sobre la razón y la inteligencia que se ven reiterados en las actuales narrativas de la inteligencia artificial, Crawford nos invita a su vez considerar que tales narrativas no son, después de todo, muy inteligentes, y, tampoco artificiales, si por “artificialidad” entendemos que la IA es efectivamente independiente de la materialidad y de la política. En su Atlas ella nos lleva hacia los territorios devastados, alrededor del mundo, por la minería de litio y otros elementos explotados sin ningún escrúpulo a fin de sostener el mundo digital que habitamos, es decir, hacia las numerosas evidencias del insostenible costo socioambiental de la computación planetaria. Ante la magnitud de la devastación, ¿cuál es nuestra responsabilidad como lectoras y escritoras, y qué otro lugar podemos crear para las interpretaciones no instrumentales de la técnica y del pensar, que no descarten la reflexión crítica sobre las nuevas tecnologías, pero exploren también nuevas disposiciones afectivas, poéticas o creativas ante la tecnicidad de nuestras vidas? EP

Referencias

• Crawford, Kate Atlas de IA. Poder, política y costes planetarios de la inteligencia artificial. Trad. Francisco Diaz Klaassen. NedEdiciones, 2023.
• Prado, Belén. Machine Learning, en Diego Parente, Agustín Berti, Claudio Celis (coords.) Glosario de Filosofía de la Técnica. Adrogué, La Cebra, 2022.
• Radhakrishnan, Radhika. “Experiments with Social Good: Feminist Critiques of Artificial Intelligence in Healthcare in India”, Catalyst: Feminism, Theory, Technoscience 7(2); 1-28, 2021.
• Vallor, Shannon. “Introducing the Philosophy of Technology” en The Oxford Handbook of Philosophy of Technology, Nueva York, Oxford University Press, 2022.

Este País se fundó en 1991 con el propósito de analizar la realidad política, económica, social y cultural de México, desde un punto de vista plural e independiente. Entonces el país se abría a la democracia y a la libertad en los medios.

Con el inicio de la pandemia, Este País se volvió un medio 100% digital: todos nuestros contenidos se volvieron libres y abiertos.

Actualmente, México enfrenta retos urgentes que necesitan abordarse en un marco de libertades y respeto. Por ello, te pedimos apoyar nuestro trabajo para seguir abriendo espacios que fomenten el análisis y la crítica. Tu aportación nos permitirá seguir compartiendo contenido independiente y de calidad.