Parque Antropocénico, los riesgos de una inteligencia artificial desbocada

La inteligencia artificial es por fin esa poderosa tecnología disruptiva que, impulsada por lo económico, ha puesto en riesgo a la humanidad irreversiblemente. Ante la ausencia de un marco regulatorio efectivo y la multiplicación de actores e intereses, estamos frente la encrucijada de utilizarla para beneficio común o perecer frente a ella.

Texto de 26/04/23

La inteligencia artificial es por fin esa poderosa tecnología disruptiva que, impulsada por lo económico, ha puesto en riesgo a la humanidad irreversiblemente. Ante la ausencia de un marco regulatorio efectivo y la multiplicación de actores e intereses, estamos frente la encrucijada de utilizarla para beneficio común o perecer frente a ella.

Tiempo de lectura: 8 minutos

“Se postraron sobre hombros de gigantes para lograr algo tan rápido como les fue posible y antes de que siquiera supieran lo que tenían en las manos, lo patentaron, lo empaquetaron, lo convirtieron en un producto de masas y ahora, a vender, a vender y a vender”. Estas fueron las sabías palabras que el heroico Dr. Ian Malcolm espetó frente a los impulsores de una peligrosa tecnología que había sido desarrollada a partir de sólidos fundamentos científicos pero cuyo propósito y razón de ser en realidad había consistido en satisfacer intereses económicos privados.

Hablamos de Jurassic Park, pero el paralelismo con el desarrollo y comercialización de la inteligencia artificial en el mundo de hoy es innegable. Probablemente, la principal diferencia entre ambas tramas es que las catastróficas consecuencias que tenía la tecnología de la película de Spielberg estaban acotadas territorialmente, contenidas por el mar a los confines de una isla. La inteligencia artificial en cambio, no tiene constreñimientos físicos, solo técnicos. En este momento ya está en todas partes al mismo tiempo, en cualquier sitio con acceso a internet. Tenemos al Tiranosaurio Rex enjaulado sobre el escritorio. 

“Nada aprendimos de las historias populares que por años y siglos nos han alertado sobre los avances tecnológicos incontrolables y los excesos a la hora de explorar nuestras capacidades como especie”.

Nada aprendimos de las historias populares que por años y siglos nos han alertado sobre los avances tecnológicos incontrolables y los excesos a la hora de explorar nuestras capacidades como especie. De nada o poco han servido Jurassic Park o la leyenda de Ícaro, Dr. Strangelove o las voces que, especialmente desde la comunidad científica, han venido alertándonos sobre los riesgos de una tecnología disruptiva, incontrolable y desarrollada por ambiciosas corporaciones globales.  

Estamos acostumbrados a las historias de ciencia ficción donde el riesgo de la inteligencia artificial consiste en que adquiera conciencia propia, vocación maligna o incluso un cuerpo antropomorfo. Pero, aunque este riesgo es real, en el corto plazo más nos vale preocuparnos por consecuencias no tan espectaculares, aunque no menos desastrosas. Hablamos de la comercialización de un desarrollo tecnológico impulsado por algunas de las corporaciones globales más grandes (Microsoft y Google principalmente), cuyo principal elemento de valor consiste en el aumento exponencial de las capacidades humanas. Lo que quiere decir que cualquier actor con capacidad económica suficiente es y será capaz de adquirir e implementar la inteligencia artificial en beneficio propio sin que por ahora importe mucho el impacto que esto pueda tener en el empleo, la industria militar o las democracias.

Para hacer frente a este reto lo que se nos suele plantear es que la estrategia tiene que consistir en buscar ejercer un control sobre la inteligencia artificial a través de políticas públicas y mitigar así sus efectos sobre las personas. La clave en este sentido pasaría por enfocarse en la comunicación y la transparencia: en asegurarse que esta tecnología esté diseñada y se implemente de manera que sea abierta y accesible al público en general, pero que además priorice consideraciones éticas y sociales tanto dentro de su código fuente como en su ejecución. Hablamos de someter a la inteligencia artificial a un continuo escrutinio público y administrativo (accountability), ejerciendo así un control democrático sobre la misma. 

Además de lo anterior, como se trata de una tecnología cuyos efectos tienen un alcance global, para poder gestionarla de manera efectiva es necesario fomentar la cooperación global entre actores de diferentes sectores: gobierno, ciencia, industria y sociedad civil. Tal cooperación debería estar basada en principios comunes que den prioridad a la seguridad y al bienestar de las personas por encima del rédito económico. Una iniciativa interesante en este sentido es la Parnership on AI, un consorcio global de compañías, ONG e institutos de investigación que buscan encauzar la utilización de la inteligencia artificial hacia un beneficio común. Otras iniciativas, como la Declaración de Montreal por una Inteligencia Artificial Responsable y la Global Governance of AI Roundtable trabajan también con el fin de establecer un marco regulatorio que garantice un desarrollo ético de esta tecnología.

No hay duda de que el planteamiento del modelo a seguir en términos de gobernanza es coherente y reposa sobre buenos cimientos. Por ello no sorprende que haya sido bajo estos mismos criterios generales, pero haciendo uso de un importante tono de alarma, que se han pronunciado en una carta abierta, publicada en marzo de este año, un sinfín de académicos y diversas voces importantes en el campo de la ciencia y la tecnología. Lo más destacable de la misma ha sido que exhortan a que se haga una pausa en el desarrollo y mejora de sistemas más potentes que GPT-4. 

Difícilmente se puede estar en contra de estas propuestas y llamamientos a la regulación de la tecnología artificial, en la gran mayoría se reconoce tanto los enormes riesgos que esta alberga como el inexistente marco regulatorio con el que se cuenta para intentar mitigarlos. Sin embargo, alcanzar una verdadera cooperación global para regular esta tecnología, o siquiera para garantizar que se dé una pausa en su entrenamiento y utilización, es algo que nos enfrenta a una serie de retos en extremo difíciles de solventar. Tanto los países como los actores privados tienen sus propios intereses y prioridades que, por lo general, tienden a encontrarse en contradicción y en ocasiones en competencia directa. Además, la ausencia de un verdadero y efectivo marco institucional a nivel global que pueda regular la utilización y el desarrollo de esta tecnología da pie a que cualquier actor global sea capaz de aventurarse en este sector sin mayores obstáculos que el de los marcos legales el de las autoridades locales, los cuales no avanzan ni cercanamente a la velocidad a la que avanza el desarrollo y la comercialización, tanto de esta tecnología en sí, como de las herramientas que la utilizan.

Es por ello que más valdría observar con escepticismo los discursos que hacen un llamado a mitigar la expansión o la aplicación de esta tecnología, ya que a estas alturas será prácticamente imposible contener lo que ya se ha desatado y se encuentra al alcance de millones de actores globales, bienintencionados o no. Lo crítico del momento actual es que, incluso si se lograse de hecho a pausar este avance, los últimos desarrollos de inteligencia artificial ya han alcanzado un elevadísimo nivel de sofisticación antes de lo esperado. Por otra parte, debemos tomar en cuenta que esta tecnología se vuelve más sofisticada de manera exponencial, por lo que, si esta pausa no se alcanza (que es lo más probable) no resulta descabellado el pronóstico de que en esta misma década experimentaremos una revolución tecnológica de tal magnitud que el mundo que conocemos hoy dejará de existir. 

“Con esta tecnología ha sucedido lo que con todas las otras tecnologías importantes en nuestra historia: la hicimos llegar a nuestras vidas antes de que estuviéramos preparados para ella y es así porque en realidad nunca hemos hecho nada por estar preparados”.

Lo peor del caso es que no podemos saber a ciencia cierta la forma que adoptará el nuevo mundo, ni siquiera contamos con las herramientas necesarias como para entender esta tecnología y su impacto de manera cabal. Con esta tecnología ha sucedido lo que con todas las otras tecnologías importantes en nuestra historia: la hicimos llegar a nuestras vidas antes de que estuviéramos preparados para ella y es así porque en realidad nunca hemos hecho nada por estar preparados. Esa es la situación que tenemos entre manos, las corporaciones que impulsan desarrollos tecnológicos disruptivos como el de la inteligencia artificial, no se detienen a pensar en las posibles consecuencias que podrían tener sobre la sociedad, eso es algo que no se alinea con sus intereses, objetivos o grado de responsabilidad. Mientras tanto, del otro lado, gobierno e instituciones, más allá de todos sus problemas de funcionamiento interno, no tienen las capacidades materiales necesarias ni para ponerles freno a estas empresas, ni para evitar que las calamidades que producen escapen de sus jaulas.

Hemos despertado de pronto, tal parece, en un mundo nuevo. De un día para otro nos dimos cuenta de que nuestro puesto de trabajo, junto con los de otras millones y millones de personas se encuentra en riesgo de desaparecer como consecuencia de la potencial aplicación de esta tecnología en diferentes industrias y ámbitos económicos. De un día para otro, además, nos dimos cuenta de que ya hemos sido expuestos a un potencial mal uso de esta tecnología por parte de cualquier tipo de actor malintencionado: gobiernos autoritarios, organizaciones terroristas, grupos criminales e incluso individuos. Y también, de que estamos expuestos, ahora más que nunca, a un orden global en el que el capitalismo salvaje indica el camino a seguir y el resto de intereses son dispensables. 

Con un marco regulatorio que es, en el mejor de los casos, insuficiente, hubo espacio libre para que los riesgos se multiplicaran. No es sino hasta ahora que diversas herramientas de inteligencia artificial generativa se popularizaron al demostrar la sorprendente capacidad que tienen para llevar a cabo las tareas para las que fueron programadas es que se hacen llamados a la regulación y a la cautela; en algunos casos, por parte de los mismos que han sido los principales instigadores e inversores en este rubro.

Si no somos capaces de encauzar esta tecnología de forma adecuada en el cortísimo plazo estaremos continuamente a expuestos a lo que algunos llaman fenómenos de “valorización divergente”, esto implica que al no se alinearse con los valores de la humanidad, los intereses de la inteligencia artificial se ejecutan a pesar de los costos que esto pueda representar para la sociedad. Si bien pueden ser puestas ciertas salvaguardas dentro del código fuente de estos sistemas, como por ejemplo las tres leyes de la robótica de Asimov, dado que se trata de sistemas que se ejecutan de manera automatizada, un simple error de programación puede resultar desastroso, algo que deberíamos tener claro al menos desde lo sucedido con Stanislav Petrov

Frente a la encrucijada que nos plantea la inteligencia artificial, la vía de las políticas públicas no resulta muy esperanzadora, sobre todo cuando no se cuenta con la infraestructura necesaria, los recursos suficientes ni la voluntad política como para una labor titánica de esa magnitud. Probablemente sea más factible, como de hecho también se exhorta en la carta abierta del Future of Life Institute, el utilizar a la propia inteligencia artificial para intentar controlar el accionar pernicioso de esta misma tecnología en aras del beneficio común. La idea es desarrollar sistemas de gobernanza basados en inteligencia artificial que potencien las capacidades de acción de gobiernos e instituciones y así sean capaces de hacer un verdadero esfuerzo por mantener bajo control este desarrollo tecnológico. 

“Si la utilización de esta tecnología se encuentra enfocada en alcanzar el beneficio económico privado o político-militar, como se ha dicho, las posibilidades de que se produzcan valorizaciones divergentes se multiplican, situación que representa sin duda alguna un riesgo existencial para la humanidad”.

Sin embargo, para que este tipo de implementaciones de inteligencia-artificial-para-el-gobierno-de-la-propia-inteligencia-artificial sea posible es necesario que, en primer lugar, exista la voluntad de utilizar la inteligencia artificial para propósitos que busquen el beneficio público y se invierta el dinero suficiente en ello. Si la utilización de esta tecnología se encuentra enfocada en alcanzar el beneficio económico privado o político-militar, como se ha dicho, las posibilidades de que se produzcan valorizaciones divergentes se multiplican, situación que representa sin duda alguna un riesgo existencial para la humanidad. 

En síntesis: ya es demasiado tarde para apostar por el principio precautorio, o por una estrategia de mitigación, la única alternativa es adaptarnos utilizando todas las herramientas a nuestra disposición, mal augurio que la única opción viable sea una huida hacia adelante. Es necesario explotar la misma tecnología que en principio hemos creado sin tener en cuenta ningún tipo de consideración por nuestra seguridad, para impedir que nos destruya. Si fallamos en esta empresa afrontaremos la posibilidad cada vez más cercana de que en un tiempo indeterminado de años la única inteligencia existente sobre el planeta sea la artificial. 

¿Sueñan los androides con ovejas eléctricas? Quizás en algunos años podremos saberlo con certeza. Yo creo que, como en el relato de Philip K. Dick, en todo caso serían lo más parecidos a nosotros y, de soñar, lo harían con ovejas de carne y hueso. También pienso que, como nos pasa a nosotros, sentirán nostalgia por los anteriores habitantes del planeta, especialmente si se trata de sus extravagantes y curiosos creadores. Es más, no me extrañaría que nos trajeran de vuelta a la vida siglos después de nuestra extinción, bien podría ser como el elemento estelar dentro de un complejo turístico de entretenimiento. Tal vez hasta le podrían poner al proyecto el nombre de Parque Antropocénico. EP



Nota: Este texto fue escrito con la ayuda de ChatGPT-4.

Este País se fundó en 1991 con el propósito de analizar la realidad política, económica, social y cultural de México, desde un punto de vista plural e independiente. Entonces el país se abría a la democracia y a la libertad en los medios.

Con el inicio de la pandemia, Este País se volvió un medio 100% digital: todos nuestros contenidos se volvieron libres y abiertos.

Actualmente, México enfrenta retos urgentes que necesitan abordarse en un marco de libertades y respeto. Por ello, te pedimos apoyar nuestro trabajo para seguir abriendo espacios que fomenten el análisis y la crítica. Tu aportación nos permitirá seguir compartiendo contenido independiente y de calidad.

DOPSA, S.A. DE C.V