La inteligencia artificial y la importancia de crear una narración sensata sin catastrofismos
En medio de la espiral informativa y los miedos sobre el avance veloz de esta tecnología y de que la Eurocámara acaba de aprobar la primera Ley de IA, publicamos un pasaje del ensayo 'Tecnohumanismo. Por un diseño narrativo y estético de la inteligencia artificial' (La Huerta Grande)
Presentación WMagazín La vorágine de toda clase de información alrededor de la inteligencia artificial en los últimos meses, ha hecho saltar las alarmas sobre sus posibles consecuencias en todos los ámbitos, de lo técnico a lo filosófico y ético, pasando por los riesgos contra la propia humanidad. Es por eso que hoy más que nunca se requiere sensatez para contar lo que sucede sin caer en tremendismos. Es un momento que requiere de un nuevo humanismo tecnológico, de expertos, estudios e información que tiendan puentes entre la tecnología y las humanidades y que ayuden a ver esta realidad desde diferentes puntos. Eso es lo que hace Pablo Sanguinetti en su ensayo Tecnohumanismo. Por un diseño narrativo y estético de la inteligencia artificial (La Huerta Grande). El experto en narrativas artificiales reúne siete ensayos independientes, pero interconectados: desde los prejuicios entre técnica y humanidades, hasta la urgencia de diseñar un relato tecnológico alineado con los intereses humanos.
WMagazín publica un pasaje de este libro, precisamente el relacionado con la importancia de crear una narrativa que informe y oriente a la gente sobre este escenario. Lo hacemos justo ahora que la Eurocámara aprobó negociar la primera Ley de Inteligencia Artificial (IA), entre los 27 países miembros de la Unión Europea. El objetivo es que entre en vigor en 2026, a más tardar. Sería la primera región del mundo con normas que regulen esta tecnología para preservar la seguridad del ser humano y de las sociedades en sus diferentes ámbitos.
La inteligencia artificial, señala la editorial, «está alcanzando y superando fronteras hasta ahora reservadas a la ciencia ficción. La tecnología es ya un asunto ético, filosófico y estético. Los siete ensayos de este volumen abordan desde diversos ángulos la posibilidad y las condiciones de ese nuevo humanismo tecnológico: la importancia de la belleza como brújula en el diseño de la inteligencia artificial, los prejuicios entre técnica y humanidades, la urgencia de diseñar un relato tecnológico alineado con intereses humanos, la creatividad artificial o la potencia artística de las voces no humanas».
Pablo Sanguinetti es un escritor, periodista e investigador centrado en la intersección entre tecnología y humanidades. Licenciado en Teoría de la Literatura con Premio Nacional de Fin de Carrera, tiene estudios de posgrado en inteligencia artificial y programación y realiza su doctorado en narrativas de la inteligencia artificial. Trabajó en Google como parte del programa de innovación para la prensa Google News Lab y fue corresponsal de la agencia de noticias alemana DPA en Berlín y Madrid. Sanguinetti es autor de dos libros, da clase sobre inteligencia artificial para periodistas y es miembro del Observatorio del Impacto Ético y Social de la Inteligencia Artificial en España (OdiseIA).
Tecnohumanismo. Por un diseño narrativo y estético de la inteligencia artificial
Por Pablo Sanguinetti
La tecnología y lo humano se construyen mutuamente. Nuestra forma de estar en el mundo y de entender quiénes somos viene mediada por artificios técnicos. No existe humano sin tecnología. Ni existe revolución tecnológica que deje intacto el modo de ser humano.
Este principio vale aun más para la inteligencia artificial, una invención que podría convertirse en una de las más disruptivas de la historia precisamente por su superposición con lo humano, su impacto ontológico, su resonancia existencial. Lo que comenzó como logro técnico es cada vez más un asunto ético, filosófico y estético.
Por eso el debate sobre cómo debemos construir y gestionar la inteligencia artificial quedará
incompleto mientras no incorpore una dimensión crucial: la humanística. Sin esta pieza, el proyecto
tecnológico más importante de la historia instaurará una realidad descarnada y confusa, un espacio de vértigo como el que se vislumbra por momentos en la conversación pública actual, polarizada entre esperanzas infundadas y temores apocalípticos frente a la máquina. Evitar ese escenario interesa a todos los actores implicados en el desarrollo de la inteligencia artificial, desde los ingenieros que la programan hasta los usuarios que la aplican, pasando por las empresas que la comercializan o las autoridades que acabarán regulándola. Necesitamos que la nueva realidad del algoritmo encaje de forma natural y con sentido en el mundo humano. Y las herramientas para lograrlo provienen de las artes y las humanidades».
Este libro explora las posibilidades de ese diálogo imprescindible entre la mirada humanística y la tecnología. Lo hace sobre todo a través de dos propuestas productivas y poco explotadas en el ámbito de la inteligencia artificial.
En primer lugar, la narrativa como recurso con el que el ser humano conforma su realidad y, en
consecuencia, como un aspecto decisivo para la adopción de cualquier tecnología. El modo en que
contamos la inteligencia artificial influye en su percepción, uso y regulación, por lo que merece un
sitio destacado junto al resto de consideraciones éticas que la rodean. Podemos —debemos— diseñar esa narrativa a conciencia. En segundo lugar, la belleza como el código en el que se expresa lo humano en toda su complejidad, y por lo tanto como lenguaje ideal para articular la relación con el algoritmo. Solo a través del arte entenderemos a la máquina, y solo a través del arte la máquina nos entenderá a nosotros. (…)
El relato más importante de la historia
Acaso más importante, el modo en que contamos una tecnología redefine también el lugar que nos damos a nosotros mismos en el mundo nuevo que instaura. El relato se convierte así en una función más de la tecnología, forma parte de su capacidad de impacto. Todo el poder del dinero, una de las invenciones más transformadoras en la historia del ser humano, proviene de una ficción compartida, de una suerte de alucinación colectiva: todos admitimos que tiene valor.
El relato que acompaña una tecnología y modela su impacto cobra una relevancia especial cuando la
tecnología en cuestión tiene el poder disruptivo y la densidad ontológica de la inteligencia artificial. La
creación de una inteligencia exterior a nosotros y de nivel humano o suprahumano representaría la mayor conquista en la historia de la humanidad (y acaso la última, agregan los investigadores más escépticos). Es cierto que no hemos llegado a ese punto, que no sabemos cómo llegar y que ni siquiera está claro que podamos hacerlo algún día. Pero pocos expertos se atreven a descartarlo por completo. Y la mera posibilidad de ese quiebre futuro crea una realidad nueva que ya habitamos y que nos resultará confusa, inquietante o nociva mientras no la encajemos en los contornos claros de un relato.
Sorprende por eso que las numerosas reflexiones sobre los retos éticos que plantea la inteligencia artificial omitan sistemáticamente el aspecto narrativo. Por ejemplo, el investigador en hermenéutica digital Alberto Romele apunta que las 881 páginas del ambicioso manual sobre ética e inteligencia artificial publicado en 2021 por la Universidad de Oxford carecen de cualquier referencia a la importancia de comunicar correctamente sobre este tema.
Una excepción interesante a esa omisión generalizada es la del profesor de Filosofía y experto en ética de la tecnología Mark Coeckelbergh, que ha propuesto el concepto de «responsabilidad narrativa» como otra de las responsabilidades que nos pide la inteligencia artificial. La narración es una cuestión ética más. Tan importante como visibilizar los sesgos de los modelos de aprendizaje automático, su coste ambiental, la amenaza a la privacidad, la necesidad de transparencia o el impacto en la desigualdad y el empleo es preguntarse cómo contamos la inteligencia artificial.
La historia como distribución de acentos
Antes de responder a esa pregunta, tal vez corresponda aquí plantear otra previa: ¿qué entendemos, exactamente, por relato? La aclaración parece pertinente porque en los últimos años el concepto de historia ha quedado algo reducido al éxito comercial de la etiqueta storytelling, una versión «empaquetada para ejecutivos» sobre el poder transformador de los relatos simplificada en cuatro o cinco nociones narrativas de corte estructuralista y aristotélico: los cinco actos, la curva narrativa, el viaje del héroe, los siete tipos de argumento, las funciones de Propp, etc. Pero las historias pueden ser algo más complejo y extraño que esas estructuras, como enseña la rica teoría literaria del siglo XX.
Interesa por ejemplo la propuesta del historiador y crítico estadounidense Hayden White. En un conocido artículo titulado «The Historical Text as Literary Artifact», White define el relato como un mecanismo que «acentúa» determinados aspectos de una realidad y vela otros, dando así forma a lo informe. Del pasado no recordamos un continuum en el que todo tiene la misma importancia, sino una serie de acontecimientos priorizados de determinada manera por una historia. Narrar es una cuestión de dónde poner esos énfasis. Lo que explica que una misma realidad pueda presentarse de diversas maneras sin necesidad de falsearla o alterar su cronología: basta con cambiar los acentos.
White busca demostrar que la Historia —con mayúscula— es también historia, relato. Es decir, una disposición de acentos, una forma de ficción. (También lo es el relato interno que nos contamos a nosotros mismos continuamente, agrega. El psicoanálisis consiste en alterar la historia interna redistribuyendo esos acentos de un modo diferente).
Desde esa perspectiva, la historia presenta algunos rasgos extraños y relevantes. Por ejemplo, contar una historia resulta inevitable, porque no podemos presentar un conjunto de elementos sin acentuar unos y velar otros. La diseñaremos nosotros, la diseñarán otros o se diseñará sola, pero siempre estaremos contando una historia.
En consecuencia, la historia es omnipresente; vivimos dentro de historias. La expresión «vivir dentro de» sugiere que la historia es un espacio, un lugar. Entramos en una historia como en una casa, y su poder sobre nosotros es inmediato, invisible, automático. Cualquiera que haya vivido lejos de su lugar de origen reconoce esa sensación en el regreso y el reencuentro, cuando unas pocas palabras de un familiar al que no se veía hace tiempo o el simple contacto con la casa del pasado tiñe la realidad entera de otro tono, nos devuelva a una identidad que creíamos superada. El fondo no cambia: siempre somos nosotros.
Cambia el lugar de los acentos, la distribución que nos impone cada lugar en el que nos encontramos,
cada historia.
Al instalarnos en esa suerte de «espacio», la historia condensa una cantidad de información que no podría transmitirse de otro modo. Reconstruye –y por lo tanto comunica– de forma inmediata y global una realidad compleja, con todos sus matices. Si quisiéramos explicar con palabras todo lo que dice una historia, resultaría una tarea inabarcable.
La historia tiene inercia: tiende a perpetuarse mientras no llegue una fuerza externa que la altere.
Y por eso mismo, aunque requiera un esfuerzo a veces sobrecogedor, podemos cambiar las historias.
Podemos diseñarlas.
Partiendo de esas ideas, cabe afirmar que el término «inteligencia artificial» instaura de por sí una historia. O, dicho de otro modo: el término «inteligencia artificial» acentúa unos aspectos concretos de la realidad. ¿Qué aspectos? Una comparación directa con el ser humano, por ejemplo. La promesa de que es posible exteriorizar poderes clave de la mente. La mirada al futuro. El objetivo de alcanzar algo que aún no existe. Una cierta arrogancia técnica.
Un modo de hacer explícitos esos acentos es comparar los que proyectaría un término alternativo e igualmente correcto. «Procesamiento de información compleja», por ejemplo, cuenta una historia diferente: se centra en la máquina, omite el vínculo a lo humano, plantea un tono más académico y menos comercial.
- Tecnohumanismo. Por un diseño narrativo y estético de la inteligencia artificial. Pabo Sanguinetti (La Huerta Grande).
***
Suscríbete gratis a la Newsletter de WMagazín en este enlace.
Te invitamos a ser mecenas de WMagazín y apoyar el periodismo cultural de calidad e independiente, es muy fácil, las indicaciones las puedes ver en este enlace.
Para quienes conocen poco o nada WMagazín el siguiente es un Fotorrelato de la revista:
Descubre aquí las secciones de WMagazín.
