Ética, inteligencia artificial y creación musical. El caso de AIMCAT para el AI Song Contest

En 2021 tuve la suerte de formar parte de un proyecto pionero y estimulante que consistió en crear una pieza musical con inteligencia artificial para participar en el AI song contest, lo que coloquialmente se suele llamar el Eurovisión de la IA. Lo mejor de todo, sin lugar a dudas, fue tener la oportunidad de formar parte de un equipo lleno de talento y multidisciplinar, con creadoras musicales y audiovisuales, escritores, especialistas en Inteligencia Artificial, en ciencia de datos, filosofía, programación, diseño, comunicación o marketing. Personas procedentes de diferentes lugares de Cataluña y de distintos países del mundo. La pieza musical, I feel the wires, fue la más votada por el público del AI song contest.

Fue Tomas NIhlen quien me dio la oportunidad de participar. Como entonces me encontraba en el proceso de investigación del doctorado que hice en inteligencia artificial, ética y comunicación, propuse poner en marcha un proyecto de ética dentro del proyecto global.

Estos días participo como ponente en un curso sobre inteligencia artificial y creación musical que organiza el CUIMPB y se celebra en el CCCB en el que compartiremos, conjuntamente con Pere Pèries, aquella experiencia con el equipo AIMCAT.

En este post quisiera recuperar la entrevista que nos hizo el Observatori d'Ètica en Intel·ligència Artificial de Catalunya a para compartir con las personas interesadas en saber un poco más sobre ética de la IA aplicada a la creación musical. Por cierto, el OEIAC también nos ayudó a dar forma al proyecto de ética. Fue todo un lujo y de esos días conservo el gran recuerdo de haber conocido y compartido grandes momentos con un grupo de personas absolutamente brillantes.

Team AIMCAT 2021 - Credit: AIMCAT

La siguiente entrevista fue publicada en la web de la OEIAC:

Esta entrevista nos servirá para conocer mejor el equipo que representará a Cataluña en el AI Song Contest (AIMCAT), y especialmente a la Patricia Ventura Pocino, que es la persona encargada de llevar a cabo el apartado sobre las consideraciones éticas del proyecto.

1. Para situarnos, ¿qué es AIMCAT y cómo conociste el proyecto?

AIMCAT somos un equipo de cuarenta profesionales de la creación artística y de los sectores audiovisual y tecnológico que trabajamos para conseguir hacer llegar Cataluña al podio de la Eurovisión de la IA, el AI Song Contest, en el que Cataluña competirá con 49 equipos de una veintena de países de todo el mundo. La delegación catalana trabaja en una genuina candidatura escrita tanto en modelos de código abierto como propios.

Conocí el proyecto a través de Tomas Nihlén, que es quien ha promovido esta iniciativa. Tomas me contactó porque quería configurar un equipo lo más diverso posible, que en el ámbito tecnológico no es tarea precisamente sencilla.

2. Un aspecto sobre el proyecto AIMCAT que presentará en el AI Song Contest es un informe sobre sus consideraciones éticas. ¿Cuáles son las consideraciones más importantes en un proyecto creativo de este tipo?

De entrada, hay que considerar los principios transversales comunes a cualquier proyecto con IA que, como sabes, son la justicia, transparencia, responsabilidad, explicabilidad, rendición de cuentas, privacidad y también y fundamental, esta diversidad en los equipos de trabajo. Además, hemos tenido presente otros aspectos importantes y específicos desde la perspectiva de la creación musical con IA, que son las cuestiones relacionadas con el uso adecuado de los datos para evitar sesgos en las letras, por ejemplo, o los temas relacionados con los derechos de autor. También hemos impulsado una reflexión interna sobre qué papel debe tener la IA en la creación musical en el futuro. Por último, hemos evaluado cómo el proyecto podía colaborar en alcanzar los Objetivos de Desarrollo Sostenible, y hemos identificado bastante, por cierto.

3. ¿Hasta qué punto crees que, al pensar sobre estas consideraciones éticas, el equipo de AIMCAT ha avanzado de forma diferente en términos de gestión y organización, de dinámicas de grupo, responsabilidades, etc.?

La identificación inicial de los posibles problemas y la evaluación posterior del proceso han ayudado a garantizar que el equipo haya hecho todo lo que estaba en sus manos para que el proyecto se adecuara a los estándares éticos. Desde un principio todos hemos tenido presentes aquellos aspectos a los que debíamos prestar atención y toda la información para profundizar en ellos si en algún caso ha sido necesario. Al final, cada persona ha hecho su propia valoración ética desde el punto de vista de su disciplina y proceso, y el resultado rebela de forma clara una gran conciencia ética colectiva que se ha acabado imprimiendo en el proyecto global .

4. Un aspecto que ha trascendido es que todo el mundo del equipo de AIMCAT firmará como autor/a. ¿Esto también incluye los sistemas de inteligencia artificial que han permitido desarrollar la canción?

Este aspecto en concreto se ha tratado con la SGAE para encontrar el mejor encaje legal. Sin embargo, se nos transmite que ahora mismo existe un vacío legal en Europa que se está tratando de cubrir con una legislación adecuada. De entrada nos ceñiremos a la legislación existente, pero como asociación AIMCAT estará pendiente de los avances en este sentido. Será interesante conocer la interpretación de las altas instancias jurídicas europeas.

5. Otra característica de su equipo de AIMCAT es su diversidad. Nos podrías describir un poco esa diversidad y su importancia.

¡Por supuesto! El equipo, como te decía, es muy diverso: de entrada se trata de un grupo multidisciplinar en el que, a su vez, participan personas que se especializan en más de 2 áreas. Predomina la creación musical y audiovisual, las especialistas en IA y ciencia de los datos. También participan desarrolladores y diseñadoras, y algunos se dedican a la escritura, a la filosofía, a la comunicación e incluso a la psicología oa la investigación biomédica. Todas las franjas de edad están representadas (desde -25 a +64). En cuanto al género, el masculino predomina, sin embargo, el femenino supera en 15 puntos a la media de la UE en mujeres especializadas en el ámbito tecnológico. El equipo ha integrado a personas que sufren discapacitados y es internacional, de hecho el impulsor de la iniciativa, Tomas, ha nacido en Suecia. También participan personas de Islandia y Portugal. La representación nacional en el equipo es mayoritaria de localidades de fuera de Barcelona: Mallorca, Lleida, Vic, Banyoles, Girona, ¡entre muchas otras! Esta variedad es muy importante para garantizar que el proyecto cuente con el máximo de puntos de vista.

6. En tu opinión, ¿crees que la utilización de sistemas de inteligencia artificial ha aumentado o debilitado el proceso de creación musical? Por ejemplo, ¿le ha aumentado o limitado al seguir su intuición, al tener imprevisibilidad creativa o al emocionarse a medida que iba componiendo, tocando, cantante, etc.?

Ha aumentado el proceso de creación musical. El proceso se trata de una retroalimentación continua entre las dos partes y el equipo creativo enfatiza que la IA ha resultado una herramienta que ha permitido explorar nuevas formas de crear. De hecho, ha obligado a todo el equipo de producción a crear desde fuera de su zona de confort. Esto es de las mejores cosas que le puede ocurrir a un creador. Cada vez que la tecnología ha dotado a la música de un nuevo instrumento, o medio, la música ha evolucionado. A ver qué nuevas músicas inspira la AI...

7. ¿Hasta qué punto crees que los oyentes de su música deben saber que una parte significativa ha sido posible gracias a la utilización de sistemas de inteligencia artificial?

Éste también ha sido un debate que hemos impulsado internamente. En el caso de AIMCAT lo explicamos de la forma más transparente posible, entre otras cosas, porque detallar la participación humana y máquina es un requerimiento de la organización, pero también lo hacemos de forma proactiva a través de los medios de comunicación como medios propios como las redes sociales.

Habrá una versión a concurso en inglés y catalán, pero también una versión únicamente en catalán y otra en inglés, colgadas en la plataforma Soundcloud. Esta plataforma permite introducir breves comentarios que aparecen a medida que avanza la canción. En estos comentarios especificamos qué herramientas hemos usado y exactamente cuándo aparecen.

8. En tu opinión, ¿consideras que la utilización de la inteligencia artificial en la música y en el arte en general genera más rechazo o aceptación? ¿Por qué?

Genera rechazo porque tenemos la sensación de que erosiona nuestra capacidad de juicio y pensamiento crítico. Que a medida que delegamos, renunciemos a nuestra autonomía individual, lo que incluso cuestiona los fundamentos de la sociedades liberales, segunda alguna autores que han reflexionado en ella (Lassalle, Koenig, Harari). Algunos también consideran que la capacidad humana para decidir libremente se está colapsando, y que llegará un momento en que no podremos apagar las máquinas porque seremos dependientes en exceso.

Creo que todo esto ocurre porque la tecnología avanza a una velocidad superior a la capacidad humana para entenderla, ponerla a disposición de sus finalidades y regular su uso desde el punto de vista ético y jurídico. Por suerte, en ese sentido también avanzamos. La declaración de Barcelona es una de las más importantes en este sentido y últimamente, la UE ha dado un gran paso con la Propuesta de Reglamento sobre un enfoque europeo para la inteligencia artificial (IA) El primer marco legal sobre esta tecnología.

Por eso creo que todo proyecto, incluso la creación musical, requiere ser evaluado y comunicado desde la perspectiva de la ética, que se puede resumir en la capacidad de hacer equipo con la tecnología y ponerla al servicio de las finalidades humanas.

9. Mirando al futuro, crees que los sistemas de inteligencia artificial ¿sustituirán o complementarán cada vez más a las personas involucradas en la industria musical?

Creo que la IA debe ayudar al ser humano a alcanzar sus metas, en la creación musical y en cualquier otro ámbito. Éste es otro de los temas que hemos puesto sobre la mesa desde el proyecto de ética de AIMCAT. En su mayoría, el equipo opina que resultará una herramienta de creación potente que ayudará a los músicos, incentivará su creatividad y les permitirá explorar nuevas ideas y métodos de trabajo. Sin embargo, también existe un grado de incertidumbre sobre cómo se acabará integrando la IA en el futuro de la creación.

10. ¿Crees que la experiencia de AIMCAT podría acabar siendo un proyecto de buenas prácticas en la industria musical y cultural catalana que piensa o utiliza sistemas de inteligencia artificial?

Nos gustará que sea así. De hecho, uno de los motivos de constituirnos como asociación AIMCAT es convertirse en un punto de intersección de las artes y los sistemas tecnológicos punteros, y así poder contribuir a detectar y fijar las mejores prácticas en este nuevo campo todavía tan poco explorado.