Por Philip Potdevin
—Qué van a importar todas estas cosas si pronto nadie podrá verlas?
—Simplemente trato de no pensar en eso.
Children of Men (2006)
film de Alfonso Cuarón
Dos hechos han sacudido la comunidad intelectual y artística en las últimas semanas. En primer lugar, a finales de marzo, más de mil expertos en inteligencia artificial (IA) y ejecutivos de la industria tecnológica firmaron una carta abierta para que se “pausen de inmediato, durante al menos seis meses, el entrenamiento de los sistemas de inteligencia artificial más potentes que GPT-4” (1). Su argumento principal es que se trata de una potencial amenaza para la humanidad. Aseveran que los laboratorios que trabajan con esta tecnología están en “una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de forma fiable”. La invitación es a que las naciones logren usar ese plazo para actualizar sus legislaciones, regulaciones y controles y poder encausar, de cierta forma, el crecimiento exponencial que hoy vive la IA. Que entre los firmantes aparezcan nombres como los del empresario de Tesla y Twitter, Elon Musk, el cofundador de Apple, Steve Wozniak, el director ejecutivo de la firma Stability AI, Emad Mostaque (uno de los más convencidos animadores y desarrolladores de esta tecnología) y otros líderes de empresas que han llevado esta tecnología hasta sus niveles actuales es, lejos de toda duda, una señal de alarma. La advertencia no es ambigua: «la inteligencia artificial es tremendamente poderosa, y por ser poderosa puede ser muy peligrosa», dice de manera sincera Mostaque (2). Cualquiera sea el propósito y destino último –recreativo, comercial, industrial o, peor aún, militar– de las múltiples plataformas, aplicaciones y modelos cibernéticos, afirma: “La IA no es neutral”.
El segundo hecho, ocurrido a fines de abril, lo protagonizó el fotógrafo alemán Boris Eldagsen, quien ganó un concurso de fotografía convocado por la multinacional Sony con una obra generada por IA. La fotografía (que ilustra esta nota) es desconcertante tanto para los desprevenidos observadores como para los expertos: una mujer joven en primer plano es custodiada por otra mayor, quizás su madre, agazapada a sus espaldas y con las manos aferradas a los hombros de la joven. El rostro de ambas revela posibles historias dramáticas que giran en torno al momento de una fotografía que jamás se tomó y de dos sujetos, las mujeres en el retrato, que ni existen ni existieron jamás. Eldagsen rechazó el premio y admitió haber engañado a los organizadores. Adujo querer denunciar el avance de esta inteligencia, a la que hay que poner límites, y renunció al premio (3).
Ambos hechos han despertado toda suerte de reacciones y encendido un debate en los medios sobre las amenazas y desafíos que la IA trae al mundo de hoy. Mientras unos dicen que pausar el desarrollo por seis meses no tendría efecto alguno en el corto y mediano plazo, otros rechazan la carta como una reacción exagerada frente a las inmensas ventajas y bondades que la IA brinda hoy a la humanidad.
De todos modos, hay un consenso generalizado: la IA ha sido decisiva en numerosos campos de la ciencia, la medicina y la salud, así como en el estudio de los fenómenos sociales y en la automatización de la industria. Por ejemplo, sabemos mucho más sobre el comportamiento de niños autistas o sobre cómo modelar el desarrollo de proteínas o cómo brindar respuestas a los desafíos de una pandemia o de qué manera se deben gestionar los campos de refugiados por parte de la Naciones Unidas gracias a esta nueva inteligencia. Lo cierto es que su avance no sólo es indetenible, sino que, de un mes a otro, su crecimiento es acelerado. La cantidad de billones de datos analizados por segundo, de imágenes y respuestas arrojadas por la IA crece exponencialmente de un día a otro.
Lo artifical vs. Lo humano
La pregunta no es nueva. ¿Hasta qué punto este desarrollo tecnológico puede pasar de ser una ayuda significativa a la humanidad a una amenaza para su existencia? A medida que avanza y conquista terrenos antes exclusivos al ser humano el interrogante se vuelve más incisivo. Hace años la robotización entró a la industria automotriz, a la de alimentos empacados, en las farmacéuticas, entre muchas otras, a pesar de las protestas de sindicatos y las alertas encendidas en sectores políticos, sociales, económicos y académicos. El avance de la IA parece ir de la mano de la pauperización de la tradicional clase obrera y media, del adelgazamiento de las fuerzas laborales en virtud de una concentración de riqueza en pocas manos y por parte de pocas naciones y, del otro lado, del crecimiento indetenible de pobreza en la mayor parte del planeta. Aún así, al ser humano le quedaban prerrogativas de las que siempre se sintió orgulloso.
Tres de las actividades más consustanciales al ser humano son la conversación, la creación y la crítica. Estos terrenos, hasta hace unos años inalcanzables para la IA, están siendo conquistados por ella. Dialogar de manera inteligente con una máquina sobre prácticamente cualquier tema, pedir que cree obras en campos como la literatura, la música, el arte, la fotografía, el ensayo o pedirle una opinión crítica sobre un asunto particular es hoy día posible en el mundo de la IA. Algunos se sienten aliviados con decir que el nivel de los escritos que hoy produce esta es equivalente al de un estudiante de educación media (4), sin embargo, en un tiempo demasiado cercano, gracias al entrenamiento que continúan dándole a los sistemas de IA –y esto es lo que los firmantes de la carta están pidiendo que se detenga temporalmente–, esta habilidad se traducirá en que la IA escriba, en unos segundos, una tesis doctoral, algo que hoy tarda en promedio cinco años a un estudiante de posgrado.
La aplicación Stable Diffusion (5) es un modelo de difusión latente de texto a imagen capaz de generar imágenes fotorrealistas dada cualquier entrada de texto entre ellas, entender un pedido relativamente complejo que diga, por ejemplo: “cree la figura un perro en un vitral”. Stable Diffusion alega “cultivar la libertad autónoma para producir imágenes increíblemente precisas”. Ello permite a miles de millones de personas crear arte impresionante en cuestión de segundos. El ejemplo concreto de los alcances de esta tecnología es la fotografía ganadora de Elgadsen.
En ese orden de ideas es posible pedirle a la IA que desarrolle en tiempo real –algo inconcebible hace unos meses–, una presentación en Powerpoint sobre, digamos, los efectos del cambio climático o pedirle que escriba un ensayo sobre la obra de Shakespeare comparada con la de Cervantes. Todo se produce en segundos, bien sea en imágenes en 2D, en 3D, en audio, en video, en lenguaje escrito o hablado. En Youtube, un video de una conferencia sin subtítulos puede generarlos en tiempo real mientras se escucha. Los desarrolladores están de fiesta pues han bajado sus costos de creación a niveles impensables hace unos meses.
La justificación para persistir en crecer las capacidades de la inteligencia artificial es, por lo mismo, profunda: ella hace creer a cualquiera que tiene el empoderamiento, la potestad de crear y que esto le ayuda a mejorar la vida, al volverla más rica en posibilidades creativas. La premisa es que si todos pueden crear cualquier cosa que se les ocurra, de manera fácil e inmediata, entonces todos serán más felices.
No hay duda de que la IA busca y logra incrementar la productividad, y la eficiencia, las cuales crecen hoy de manera exponencial. Pero desde hace tiempo se viene insistiendo que una de las preocupaciones asociadas más relevantes es la pérdida correlacionada de puestos de trabajo, así como de habilidades y destrezas que pasan a ser dominio de este tipo de inteligencia. A ello responden los expertos que la destrucción de puestos de trabajo va acompañada de la creación de nuevas plazas en otros campos. Es decir, la IA crea y destruye a la vez, y de esa manera mantiene un cierto equilibrio en fuentes de trabajo y desarrollo de habilidades y destrezas. Unas mueren y otras nacen.
Por todo lo anterior, es significativo que la industria de la IA esté pidiendo a los gobiernos y a su propia comunidad una moratoria en el entrenamiento de sus recursos para darle tiempo a la sociedad de “digerir” lo que sucede actualmente y reflexionar sobre sus implicaciones éticas, morales y legales. Sin embargo, más allá de si se implementa o no la moratoria, la pregunta que surge en el ciudadano de la calle, y en cualquier persona que tenga una actitud crítica frente a las bondades de la IA, es de qué manera puede encararse un entorno cada vez más asediado en donde el margen de acción para pensar, decidir y actuar se condiciona, no solo por una parametrización estrecha de la vida, sino por el continuado debilitamiento de la voluntad humana para avanzar de manera autónoma en el desarrollo de la personalidad y de su vida. Si la IA conduce a la pereza mental, al deterioro de la capacidad crítica, a la posibilidad de detectar y reaccionar a tiempo a la amenaza de sustituir lo humano por lo artificial es un asunto que no pasa inadvertido en los entornos más recelosos de la IA.
Los chatbots y sus posibilidades
Los llamados chatbots, programas informáticos basados en la inteligencia artificial, tienen capacidad de mantener una conversación con un internauta sobre un tema específico. Dos de los más populares son ChatGPT4 de OpenAI y Bard de Google. Ambos son responsables de haber generado suspicacia, no solo en entornos académicos y artísticos, sino entre la comunidad general que ve, detrás de ellos, un escenario de altísimo riesgo. ChatGPT4 se ofrece como un programa que “resuelve problemas difíciles con mayor precisión, gracias a su conocimiento general más amplio y habilidades para resolver problemas”, sus creadores reconocen que “hemos entrenado un modelo que interactúa de manera conversacional. El formato de diálogo permite que ChatGPT responda preguntas de seguimiento, admita sus errores, desafíe premisas incorrectas y rechace solicitudes inapropiadas”, y asegura que “puede generar, editar e iterar con los usuarios en tareas de escritura creativas y técnicas, como componer canciones, escribir guiones o aprender el estilo de escritura de un usuario” (6). Por su lado, Bard, ofrecido por Google, y competencia de OpenAI, es promocionado como “su colaborador creativo y útil para potenciar su imaginación, aumentar la productividad y dar vida a las ideas” (7). Hoy ambos programas tienen millones de usuarios que utilizan en su vida diaria para diversas situaciones o necesidades como, por ejemplo, prepararse para una entrevista de trabajo, buscar argumentos para pedir al jefe un aumento salarial, responder un examen, escribir un ensayo o simplemente, pasar noches enteras en solitarias conversaciones con la máquina a falta de un interlocutor humano.
¿Qué está en juego?
Una aproximación crítica a esta tecnología llevará a analizar algunos de los valores y rasgos más relevantes que la sociedad capitalista del siglo XXI realza y que, en consecuencia, abren la puerta para que la IA sea bienvenida como una ayuda valiosa. Una sociedad que promueve el trabajo sedentario sobre el físico, que exalta el tiempo de ocio sobre el productivo, que privilegia la imagen sobre el texto, que incentiva lo fácil sobre lo arduo, que busca acortar los ciclos de producción, que persigue siempre el atajo por encima del camino largo, que incentiva la satisfacción inmediata, que sustituye la paciente, y con frecuencia frustrante, laboriosa investigación por respuestas y resultados instantáneos, es una sociedad, aquí la hipótesis, que siembra las semillas para un lento y progresivo aniquilamiento de las condiciones que el ser humano ha desarrollado durante milenios para avanzar en su crecimiento.
En otras palabras, la IA estaría conduciendo, por el camino del avance tecnológico –y esto, por supuesto, es contraintuitivo– a lo que muchos grupos, desde distintos ángulos, están comenzando a predicar o predecir: el regreso de la humanidad a formas sociales, económicas, políticas más elementales y sencillas. En la visión más rigurosa posible, la IA amenaza al pensamiento humano y su estadio más elevado, el pensamiento crítico, pues lo adormece, desestimula, releva, y finalmente, aniquila. Por ello, quienes persistan en ir contra la corriente predominante y practicar la actitud crítica, aquellos que huyan de los caminos expedidos y fáciles de la IA, tendrán cada vez más dificultad para interactuar, dialogar y convivir con aquellos que encuentran y celebran, en este desarrollo de punta, un nuevo modus vivendi.
El tema es más complejo cuando se analiza desde una perspectiva amplia, por ejemplo, si se trata de comprender, a la luz del avance exponencial de la IA, el coetáneo vigor de los anarquismos más radicales que rechazan todo tipo de estructura estatal, de las teorías de decrecimiento en la economía para poder mantener la sostenibilidad del planeta, de los movimientos ecologistas para salvar la “casa común”, de los defensores de los animales para preservar todas las especies, de las comunidades y formas de asociación horizontales que rechazan cualquier tipo de jerarquización, de los movimientos sociales sin liderazgos; en fin, de una serie de iniciativas que van en dirección opuesta a la ilusión de un progreso ilimitado de la civilización actual.
La IA, hija del capitalismo tardío
La IA es un producto específico del capitalismo tardío. Entre los primeros y más grandes usufructuarios de la IA están los gigantes conglomerados de tecnología, la informática y consumo (Google, Amazon. Facebook, Twitter, Samsung, Apple, etc.) que con sus algoritmos predictivos para monitorear las prácticas de los consumidores influyen en sus decisiones, en sus pensamientos y en sus conductas a través de avisos y otras herramientas de mercadeo. Es un capitalismo tardío que privilegia la subjetividad posliteraria y la poslexia, esta última es la capacidad de procesar la densidad de la imagen por encima de las cadenas léxicas y por ello aniquila la necesidad de leer. La IA promueve una interpasividad centrada en la inhabilidad para hacer cualquier cosa que no sea perseguir el placer y la gratificación inmediata. La IA promueve la hedonía depresiva (8). No se trata de asustar con la visualición de una cinématica distopía, aunque el cine y la literatura, desde Un mundo feliz de Huxley, 1984 de Orwell, V de Vendetta. Matrix y muchas más han anticipado los tiempos actuales. Los apocalipsis culturales han suscitado amplio debate, participando en ello sociólogos como el italiano Ernesto De Martino en el siglo pasado y el británico Mark Fisher en el presente. Sus obras respectivas Apocalipsis culturales y Realismo Capitalista anticipan la realidad actual , al igual que el film distópico Children of Men (2006) del mexicano Alfonso Cuarón. Por ello no sorprende que aparezcan defensores de un NeoPrimitivismo, que se entiende como una:
“[…] tendencia crítica que cuestiona el progreso que ha seguido la civilización, buscando la causa en el mismo origen de ésta, es decir, el momento en el que nuestros antepasados empezaron a dominar la naturaleza y se asentaron como los dueños de esta… mantiene un sentimiento de vuelta a la vida “no-civilizada”, alejándose de ciertos grados de tecnología (como la industrialización) y promoviendo una vida más sencilla y cercana a la propia naturaleza del hombre. Esta corriente de pensamiento indaga en múltiples aspectos de la civilización, como la sociedad, la moral, la política, el trabajo, el arte, la salud o la espiritualidad. En última instancia, el Neoprimitivismo invita a la alcanzar una nueva concepción del entorno y del propio individuo, tomando como vía de inspiración la vida del hombre prehistórico y la experimentación personal y practica de sus rituales y costumbres (9).
La expulsión de lo distinto
En una época de mensajes contradictorios y confusos, con un bombardeo masivo de eslóganes y mandatos como “Sé tú mismo”, “diviértete o vístete a tu manera”, “alcanza tus metas”, “actúa ahora”, “respeta o admite la diversidad” o “crea comunidad (virtual) en torno a ti”, el mensaje puede significar lo opuesto: “sé igual a los demás”, “vístete o diviértete como todos lo hacen” o “tus metas son alcanzables a costa de la enajenación económica, social o personal” o “no hagas nada, no actúes” o “diversidad es que todos seamos iguales” o “aíslate y no interactúes presencialmente con nadie”. La coacción social está en todas las dimensiones de la vida actual, y encamina a la masa hacia la uniformidad, el “infierno de lo igual”, el fin inevitable es la “expulsión de lo distinto” como lo afirma Byung Chul Han (10). Para muchos jóvenes lo peor que les puede suceder es ser o sentirse excluidos de sus grupos naturales por no encajar en lo que todos han aceptado adherir de manera homogénea. La sociedad moderna premia lo igual y castiga lo heterogéneo; gravita, a través de las frases que se repiten y propagan la homogenización, a pesar de que predica todo lo contrario. La IA estandariza las conductas y los mensajes en sus algoritmos que supuestamente responden a la segmentación de necesidades y gustos diferentes para que desemboquen, paradójicamente, en el consumo masificado de productos, mercancías y servicios; todo lo normaliza, todo lo cubre bajo el velo del “infierno de lo igual”. Por ello, la IA se convierte en uno de los principales dispositivos de poder de la sociedad contemporánea para impedir la crítica frente a esa desaparición del yo pensante.
La última generación de este desarrollo tecnológico llega como una avalancha, su desenvolvimiento pasó de ser lineal a finales del siglo pasado, por ejemplo, en los algoritmos capaces de vencer a un gran maestro de ajedrez, a exponencial en nuestros días cuando es competente para dialogar, crear y pensar críticamente. Su salto cuántico se dio cuando pasó, en los últimos años, de simplemente procesar millones de datos a procesar lo que hasta entonces era dominio exclusivo de lo humano: “cosas importantes o relevantes”, es decir, a discriminar qué procesa y qué no, y con ello afina cada vez más la capacidad predictiva de las decisiones humanas, de generar modelos y patrones y emular comportamientos, reacciones y creaciones cada vez más específicos y estrechos. La última frontera parece alcanzada: ya le permite al ser humano “reconocerse” como creador. Gracias a ella, se autoengaña (o pretende engañar a los demás) al atribuirse, o al menos a recurrir, como a una muleta, a la composición de un texto, de una canción, de una imagen, de un video, de un ensayo.
De esta manera, esta herramienta conduce a exacerbar una lábil individualidad, una débil exaltación del yo, bajo el ropaje del llamado a ser único, pero con el efecto contrario de universalizar el yo y sumirlo en un ente colectivo despersonificado y desindividualizado. Se suprime al otro, como lo dice Byung Chul Han, como alteridad, como misterio, como infierno, como negatividad al consenso de lo establecido o esperado. Todo lo que no encaje y se alinee con los parámetros de la sociedad, termina siendo expulsado por ella, o el individuo opta por autoexpulsarse y convertirse en un desertor de la sociedad, en un rebelde, en un “nuevo bárbaro”, aquel que de verdad está dispuesto a luchar y hacerse oír, muchas veces de manera anónima a través de la pintada de un muro como expresión de un arte que necesita gritar y exteriorizarse un clamor muy profundo, de pertenecer a una primera línea en el estallido social, de militar en movimientos sociales que rechazan cualquier intento de doblegar la autonomía de la voluntad humana.
Temas para el debate
Frente al avance de la IA, y más allá del llamado a la moratoria en su desarrollo, es necesario estimular una tensión productiva que lleve a los individuos a asumir una postura para enfrentar a la IA: evitar el atajo, la satisfacción inmediata, la respuesta fácil, la errónea creencia de dar por sentado que cualquier cosa que provenga de esta tecnología merece credibilidad por ser resultado de un procesamiento de millones de datos en un instante. La IA genera el riesgo de desincentivar el análisis crítico mediante la comparación de enfoques, de contrastar información, de cuestionar hipótesis.
Es innegable que la IA llegó para quedarse largo tiempo. Quizás simplemente hay que acostumbrarse a ella y entenderla, a pesar de lo extraña que puede ser. Convivir con ella es ineludible. Hay paradojas rabiosas a aceptar, a regañadientes, como, por ejemplo, que una nota como esta sería difícil de escribir, en su parte investigativa y de documentación, sin la ayuda de los motores de búsqueda que la IA habilita. Pero no hay duda de que la misma está impactando masivamente a la humanidad, y apenas comenzamos a intuir sus implicaciones culturales. éticas, morales y legales.
Frente a esos retos que le abre a la sociedad, le cabrá al ciudadano identificar y desarrollar un conjunto de habilidades para compensar los eventuales alcances adversos de la IA y adoptar una mentalidad crítica en sus vidas. Que la IA conduzca a un retorno a los orígenes del ser humano parece una hipótesis difícil de digerir para muchos e imposible de justificar ante sus más avezados defensores. Para otros, en cambio, comunidades, grupos, colectivos y movimientos sociales como aquellos antes mencionados, quizás la IA sea el catalizador perfecto para sus propios intereses. En lugar de una amenaza, sería una bendición.
No es el alcance de estas líneas profundizar si la IA conducirá a un no-futuro, en línea con el pensamiento de Fisher o si simplemente es parte de un ethos apocalíptico en que Occidente se halla inmerso desde las grandes guerras del siglo XX, como propone De Martino en su obra inconclusa, y publicada póstumamente en 1967, en la que intenta desarrollar una teoría sobre el apocalipsis como tropo antropológico en términos dialécticos, que constantemente oscila entre el riesgo a un colapso definitivo del universo de sentido existente y su reintegración escatológica en un nuevo orden cultural (11).
Tampoco es posible dimensionar aquí su alcance en la guerra y en la industria militar, cuyos efectos se vienen observando en todos los conflictos desde las dos guerras del Golfo Pérsico hasta el más reciente entre Rusia y Ucrania y su aliado, la Otan.
Los firmantes de la carta de petición de moratoria de la IA, y artistas como el travieso fotógrafo Elgadsen, parecen ahora horrorizados de haber abierto la caja de Pandora de la IA y no saben cómo atajar los males que salieron de allí; dan manotazos para tratar de obligarlos a que regresen a su lugar de confinamiento: el cerebro humano que de tanto pensar, llegó a crear el germen para su autodestrucción. Sin embargo, no hay que ser fatalista, recodemos que lo único que jamás salió de la caja de Pandora fue la esperanza y es allí, en el fondo de ella, donde hay que buscarla; por eso se dice que la esperanza es lo último que se pierde.
Por ahora basta con afirmar que esta tecnología ahora es la niña preferida del capitalismo tardío y beneficia en primer lugar a los gigantes de la tecnología y el consumo con su capacidad invasiva de moldear e incentivar los patrones de compra de los consumidores globales.
Pero hay consecuencias más relevantes, a nivel individual y colectivo. La IA está llevando al individuo a entregar lo indeclinable, a negociar lo irrenunciable, a claudicar lo más profundo e íntimo de su ser: su capacidad de discernimiento, su habilidad de buscar, investigar, contrastar información para elegir y tomar decisiones; su capacidad creativa, artística y personal. Y desde la perspectiva amplia: la IA, en su exacerbación de la alienación del individuo, impide lo que el capitalismo tardío más teme: que el ser humano se congregue, se reúna, busque el apoyo mutuo y la solidaridad, el cooperativismo y el trabajo colectivo; la formación de comunidades auténticas así haya que apelar a palabras que espantan a los capitalistas: el común, la comunidad, el comunismo. Por eso IA y comunidad son incompatibles y frente a estas amenazas, sólo la actitud crítica, individual y colectiva puede hacer algún contrapeso a la hegemonía actual. Lo cierto es que el tema está abierto para futuras elaboraciones entre quienes estos temas son de su interés.
- Ver en https://www.bbc.com/mundo/noticias-65117146
- Entrevista disponible en Youtube: Stability AI’s Emad Mostaque, The Future of Generative AI, Real-Time Movies, Societal Impact, en https://www.youtube.com/watch?v=8DaXgveiQvE
- La imagen, que ilustra este artículo, se recuperó en 26 de abril, 2023 de https://www.eldagsen.com/sony-world-photography-awards-2023/
- Ver https://www.youtube.com/watch?v=TJiK8e_Jsgc&t=6s
- Ver https://stablediffusionweb.com/
- https://openai.com/product/gpt-4
- https://bard.google.com/
- Aguirre, Peio, en Prólogo as Mark Fisher, Realismo capitalista, Caja negra, Buenos Aires,, 20916, p. 13.
- https://www.facebook.com/EspanaPrimitiva/posts/599934973686675/
- Byung Chul Han, La expulsión de lo diustinot, Herder, Barcelona, 2020
- Ver E. De Martino, La fine del mondo. Contributo delle apocalissi culturali, Einaudi, Turín, 1977.
*Escritor. Integrante del consejo de redacción de Le Monde diplomatique, edición Colombia.
Be the first to comment