Modorandom.com.ar

La pregunta sobre el papel de los lenguajes en este presente cruzado por la tecnología, el destino de la creatividad, el lugar incómodo de la copia, la transformación del arte, todos temas fundamentales que, en su cruce con la inteligencia artificial, se vuelven cruciales para la vida dentro y fuera de las pantallas. De todo ello habla Mercedes Bunz, doctora y profesora de Cultura y Sociedad Digital en el Departamento de Humanidades Digitales del King’s College London en esta conversación por videollamada desde Londres. Ocurrió días antes de su participación en el ciclo “Pausar la IA” (del 2 al 4 de octubre en el auditorio de la Asociación Amigos del Museo Nacional de Bellas Artes), organizado por el Goethe-Institut Buenos Aires, Fundación Medifé y Fundación Andreani, y acompañado por Revista Ñ. El domingo 4 de octubre a las 15, Bunz participará por Zoom en la mesa “Los grandes modelos de lenguaje (LLM) y una redefinición de la cultura” junto a la doctora en Ciencias Sociales Margarita Martínez, moderada por Daniela Gutiérrez, gerenta general de Fundación Medifé.

Bunz realizó su tesis doctoral sobre la historia de Internet, impulsada por una profunda curiosidad por las tecnologías digitales. Actualmente, su trabajo se centra especialmente en la IA y el aprendizaje automático (machine learning). En el marco de su investigación sobre estos temas, Mercedes Bunz dirige, junto con otros colegas, el Creative AI Lab, un proyecto de cooperación con la Serpentine Gallery de Londres. Dos de sus libros se pueden conseguir en español, uno es La revolución silenciosa (Cruce) y el otro La utopía de la copia (Interzona).

–¿Qué se entiende hoy por creatividad? ¿Cómo la entendés vos en este presente acelerado?

–La creatividad cambia mucho según las herramientas que usemos. El arte siempre ha sido tecnológico; en el pasado, le dábamos más importancia a la materialidad y en la actualidad nos enfocamos más en los mecanismos y los aspectos técnicos, los procedimientos son tan importantes como el material. Parte del arte actual saca a la luz ciertos procesos de creación. En el laboratorio de IA creativa vemos que muchos de sus mecanismos están ocultos. El trabajo que estoy haciendo con artistas consiste en sacar a la luz los mecanismos que encontramos en la IA. Y eso abarca desde los engranajes técnicos para hacerlos visibles al público, hasta preguntas del tipo: ¿cómo entrenamos la IA? ¿Usamos material que la gente concede, o simplemente lo tomamos? La exposición en la que participé, y sobre la que investigué, fue en la Serpentine Gallery, de los artistas Holly Hendon y Matt Dryhurst. Ellos armaron un archivo de datos de músicos que tocaban y entregaron el audio a Henden y Dryhurst para entrenar su modelo; querían demostrar que también se pueden crear datos de entrenamiento con el consentimiento de las personas y no solo sacarlos de Internet. Podés ser respetuoso con las personas y aún así tener una IA.

–El 31 de octubre de 2017 ofreciste tu testimonio ante un comité de la Cámara de los Lores sobre IA y la importancia de contar con datos accesibles públicamente, considerando el incremento del aprendizaje automático. ¿Qué conclusiones sacaste de esa presentación?

–Es algo que sigue siendo muy importante. A los grandes laboratorios comerciales de IA no les importa si se les presenta una demanda de mil millones. Me refiero a que todas las grandes empresas –OpenAI, Anthropic y demás– se enfrentan en este momento a demandas muy importantes por el uso de datos. Las pequeñas comunidades de IA, en cambio, saben que eso es peligroso para ellas. No tienen el dinero para pagar a tantos abogados. Así que, por ahora, la situación favorece a quienes pueden pagar abogados, y eso está muy mal. También creo que es realmente problemático que la gente no haya entendido el valor de sus propios datos, y no solo los de los artistas, sino también de todos nuestros datos como los que estamos generando con la grabación de esta entrevista.

Si existiera una IA comunitaria, pública que fuera propiedad de la gente, se necesitarían datos de entrenamiento. Y no contamos con ningún mecanismo ni hemos tenido una discusión sobre cómo podemos crear una IA alternativa, que funcione con conjuntos de datos abiertos para el beneficio social de la gente, porque estos modelos de IA no son solo capital, también son para la sociedad, lo cual es realmente importante, ya que vivimos en una época en la que el agua se está volviendo escasa, el clima es realmente adverso y debemos tener cuidado con la electricidad; los datos sociales que producimos a diario son realmente importantes para mejorar todas estas cosas.

–¿Conocés alguna experiencia en la que se estén compartiendo datos de modo social a través de una IA?

–El único ámbito que conozco en el que las personas están muy dispuestas a compartir datos es el de los datos médicos sobre enfermedades raras. Es gente muy dispuesta a compartir sus datos con los investigadores. Y creo que necesitamos con mucha urgencia formas de entregar datos a las comunidades de investigación que trabajan por el bien público, pero sin entregárselos a cualquiera; es decir, no a actores comerciales, sino a ONG y a centros de investigación sin fines de lucro. Eso falta. Y luego está esta paradoja: la gente no quiere que se utilicen sus datos para entrenar modelos como Google, en Anthropic o en OpenAI. Al mismo tiempo, también se vuelve muy importante que, para las generaciones más jóvenes, la IA se convierta en una especie de nuevo motor de búsqueda donde no solo se puedan encontrar datos convencionales, sino también información alternativa. Y eso es un poco problemático cuando decimos: “Ah, la IA tiene que mantenerse al margen. Así que realmente quisiera, una IA comunitaria, pública que sea como una biblioteca. Que todos puedan entrar, sin fines de lucro y esté ahí para ayudar a la gente y no para generar ganancias. Ese es el sueño.

–Hace varios años escribiste sobre la “copia digital”. Decias que la utopía de la copia radicaba en alterar el orden cultural establecido y, por lo tanto, la relación entre originalidad, identidad y autenticidad. ¿Cómo replanteás esta postura hoy, dada la presencia de la IA en estos campos?

–La IA ha complicado más las cosas. La primera reacción es decir: “Ay, Dios, copiar está mal y usar esas copias muy mal”. Pero yo sigo creyendo en el valor de una copia surge del hecho de que existe un cierto potencial de compartir la. Y, desafortunadamente, el marco que lo rodea es muy comercial y muy capitalista en este momento. Sigo pensando que puede haber algo, y que en lo más profundo de lo digital está arraigado el potencial de ser copiado de una manera diferente. Y eso significa que puedo compartir mi copia contigo sin que mi copia deje de existir. Así que es una idea nueva sobre qué es la propiedad. Ese potencial aún no se ha creado realmente. Se ha descuidado porque vivimos en tiempos muy capitalistas. Así que es más un problema de ideología que de tecnología.

–Escribiste sobre la idea de la escritura generada como un nuevo concepto de escritura. ¿Esta forma de escritura, que se está volviendo cada vez más común, tiene un lector o público definido, o está pensada para un contexto poshumano y poshumanista, es decir, una comunicación entre no humanos?

–Ya estamos viviendo lo que el colega Matthew Kirschenbaum llama el apocalipsis de la escritura. Tenemos tanta escritura que ya no podemos leerla como seres humanos. Y eso es muy cierto, hemos hablado de esto en relación con las imágenes. Existe el término “imagen operativa”, que se refiere a las creadas exclusivamente para las máquinas y que los humanos nunca verán. Y ahora tenemos lo mismo en la escritura, mucha escritura. Tanta, que los humanos no pueden leerla toda. Definitivamente tenemos una escritura poshumana o no humana. Y lo absurdo es que es igual, está en el mismo idioma que nuestra escritura. Hasta cierto punto se podría decir que depende de cómo te sientas respecto a vos mismo como ser humano. Si querés ser el centro del universo, sin duda te sentirás amenazado por el hecho de que exista una escritura que ya no sea para los humanos.

–¿Cómo se vive esto en tu entorno laboral?

–Hace poco tuvimos una discusión por correo electrónico en la universidad sobre cómo lidiar con los estudiantes que usan IA. Escribí un correo con dos preguntas y recibí un informe de nueve páginas de una colega que había elaborado… con IA. Tengo tanto que leer: tantos correos, tantos trabajos de estudiantes, trabajos de colegas, mi propio trabajo y no puedo leerlo todo. Leí el informe por encima y le respondí: “Sí, entiendo el punto principal. Pero, por favor, ¿podrías responderme simplemente con un correo electrónico? No puedo leer tanto”. Hay momentos absurdos que no son agradables para los humanos. Si te postulás para un trabajo y te entrevista una IA, es una situación horrible. Pero también hay casos inversos, en los que tenemos que admitir que el lenguaje humano no es solo poesía y literatura, sino también un lenguaje de servicio. Tengo que escribir mucho texto de servicio como profesora y, en esos casos, si puedo hacerlo con la ayuda de la IA, mejor.

–¿Podríamos pensar que escribir un buen prompt, el mejor, es un objetivo, una necesidad vital para cualquiera que esté involucrado en el amplio mundo de la escritura?

–Sigo creyendo que el resultado de la escritura es totalmente aburrido si está escrito completamente por la IA. Es mucho más interesante si te aseguras de que las palabras que están escritas en la página te representan, que están conectadas contigo. Y eso puede significar que algunas partes estén escritas con IA –las que consideras buenas– y otras no. Mover las palabras de un lado a otro en la página hasta que el texto suene bien es, para mí, bastante importante. Sería bastante frustrante, además de muy trabajoso, conseguir que el prompt sea tal que lo que la IA genere se convierta en el nuevo texto. No creo que ese sea el camino a seguir, que la escritura deba ser solo información automática; creo que debería haber una colaboración y que también haya todo tipo de escritos. Habrá escritos en los que la IA no sea tan buena. Al final, ¿lo que importa es si el texto es bueno o no? Y eso no es una cuestión de si ¿lo escribí con pluma o con lápiz? Tendrá un efecto si lo escribo con un lápiz muy grueso o con uno muy fino y bonito; será un texto diferente, pero al mismo tiempo ambos pueden ser buenos y eso es lo importante.

-¿Qué impacto tienen programas como DALL-E, Midjourney y GPT en el arte y las narrativas contemporáneas?

–No me preocupa tanto el arte. El arte contemporáneo está bien, siempre ha sido un objeto único. Chat GPT y Midjourney todavía están intentando producir algo rápidamente. En otro terreno, la escritora Jolie Day, por ejemplo, está trabajando con una editorial británica, que publica poesía y literatura, y ellos no usan IA porque en este campo no es buena. El lenguaje debe ser bien preciso para la IA. Lo que más me preocupa son las editoriales que publican mucha literatura académica, como todos esos ecosistemas donde hay empleos que cambiarán de manera drástica, muchos de carreras artísticas. No es que aquí tengamos arte contemporáneo o literatura por separado; están entrelazados y, si un lado se vuelve cada vez más automatizado, tendrá un efecto indirecto en el otro. Así que me preocupa más, que la industria creativa -como la llaman en Gran Bretaña- cambie y se vuelva profundamente computacional. Tenemos que pensar qué trabajos queremos conservar, dónde tenemos que ponerle fin a esto.

–Hay un tercer actor: el público, que probablemente ha aprendido a ver algo nuevo. ¿Cómo cambia o evoluciona el gusto estético?

–El público nunca ha sido un bloque único. Siempre se escuchan voces muy diferentes. Aquí hay gente muy preocupada por los centros de datos, el uso del agua y la electricidad, aunque hay otras personas a las que les gusta usar la IA. No hay un solo público y creo que al público no le agrada mucho la forma en que el gobierno del Reino Unido acaba de aceptar que empresas estadounidenses se hagan cargo de la infraestructura central del Estado. Tal como el caso de Palantir en la salud pública o que esas empresas sean dueñas de todos los centros de datos. Eso es problemático. No me gusta esta nacionalización de la tecnología, como la que está ocurriendo en otras naciones cuando dicen: “Oh, estamos desarrollando nuestra propia tecnología nacional”. Creo que necesitamos avanzar hacia un mundo global y no hacia pequeños reinos tecnológicos.

–Detectar una foto falsa puede ser un gran desafío. ¿Cuándo deberíamos preocuparnos más? ¿Cuando la imagen no existe o cuando se asemeja a la realidad o a nuestras expectativas?

–Cuando la imagen cumple nuestras expectativas, debemos sospechar. Ocurre que también estamos acostumbrados desde hace mucho tiempo a las imágenes retocadas con Photoshop. Con la IA es más fácil. Eso cambiará el papel de las imágenes y el de los videos. Antes, simplemente decías: “Esto está comprobado”; y ahora: “Bueno, esto… tal vez sea falso o tal vez sea algo que ya no tiene una relación fotográfica con la realidad”. Eso realmente cambia las cosas. Creo que la generación más joven aprende esto con bastante facilidad y nunca tiene ese vínculo que para nuestra generación sigue siendo tan fuerte. Nosotros seguimos pensando: “Si hay una imagen, lo más probable es que esté vinculada a la realidad”. Creo que las generaciones futuras y las más jóvenes ven o van a ver una imagen y, de inmediato, pensarán más bien que alguien la creó y no que muestra la realidad. En el Renacimiento todas las imágenes eran creadas. Así que no es que no hayamos convivido con este tipo de regímenes de imagen diferentes, pero, claro, para nosotros es un poco impactante ese cambio. Es pensar qué ocurre cuando una foto se ajusta demasiado a tus expectativas y encaja demasiado bien, si hay algo sospechoso. En los primeros intentos, en una imagen creada por IA alguien aparecía con 10 dedos, pero ahora ya no.

–Por último, en muchos campos se habla de una posible coexistencia basada en la cocreación. ¿Cuál es tu opinión al respecto?

–Siempre ha habido cocreación. Los humanos cocreamos con un lápiz. Así que, lo que escribo cuando simplemente hablo contigo es muy diferente de cuando escribo algo; el lenguaje es muy diferente. Esto ya es cocreación. Es importante entender eso y tomar decisiones de manera muy consciente. Es como preguntarte: ¿con qué IA cocreás y con qué empresa no querés cocrear? ¿Cuáles son los sistemas políticos y económicos que hay detrás de ellos? Creo que eso es bastante importante. La cocreación tiene un límite: hay que preguntarse cuándo debés hacer algo por tu cuenta. Al trabajo de un estudiante, siempre tenés que leerlo vos mismo. No deberías dárselo a una IA para que lo resuma. Esa es una regla para los maestros. Si el estudiante ha escrito todo con ayuda de una IA, tenés que leerlo. Así que creo que es importante que entendamos que la cocreación necesita ciertas reglas y normas, y que debemos comprender cómo trabajar con ella, porque el “co” ahora ha cobrado más importancia que la mera creación. Y creo que, sí, realmente no lo hemos visto así hasta ahora. Al final, todas las creaciones son también formas de comunicación entre humanos. No creamos de la nada. Creamos a partir de nuestra comunidad, junto con la gente, los colegas que hacen el mismo trabajo que yo y con quienes discuto cómo entenderlo todo. Y nunca estoy simplemente sentada aquí creando. Creo que hay una cocreación entre humanos y no humanos, y solo tenemos que ser un poco sensatos desde el punto de vista humano y así no nos sorprenderá tanto.

• Mesa: “Los grandes modelos de lenguaje (LLM) y una redefinición de la cultura” (modo híbrido).
• Con Margarita Martínez, doctora en Ciencias Sociales y moderadas por Daniela Gutiérrez, gerenta general de Fundación Medifé.
• En: Auditorio de la Asociación Amigos del Museo Nacional de Bellas Artes, Av. Pres. Figueroa Alcorta 2270.
• Día: 3 de octubre, a las 15.
• Entrada: Libre y gratuita, con inscripción previa.