Ètica, intel·ligència artificial i creació musical. El cas d'AIMCAT per a l' AI Song Contest

L’any 2021 vaig tenir la sort de formar part d’un projecte pioner i engrescador que va consistir en crear una peça musical amb intel·ligència artificial per participar a l’AI song contest, el que col·loquialment se sol anomenar l’Eurovisió de la IA. El millor de tot, sense cap mena de dubte, va ser tenir l’oportunitat de formar part d’un equip ple de talent i multidisciplinari, amb creadores musicals i audiovisuals, escriptors, especialistes en Intel·ligència Artificial, en ciència de dades, filosofia, programació, disseny, comunicació o màrqueting. Persones procedents de diferents llocs de Catalunya i de diferents països del món. La peça musical, I feel the wires, va ser la més votada pel públic de l’AI song contest.

Va ser Tomas NIhlen qui em va donar l’oportunitat de participar-hi. Com llavors em trobava en el procés de recerca del doctorat que vaig fer en intel·ligència artificial, ètica i comunicació, vaig proposar engegar un projecte d’ètica dins el projecte global.

Aquests dies participaré com a ponent en un curs sobre intel·ligència artificial i creació musical que organitza el CUIMPB i es celebra al CCCB en què compartirem aquella experiència amb l’equip AIMCAT.

I feel the wires, by AIMCAT 2021

En aquest post voldria recuperar l’entrevista que ens va fer l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya per compartir amb les persones interessades en saber una mica més sobre ètica de la IA aplicada a la creació musical. Per cert, l’OEIAC també ens va ajudar a donar forma al projecte d’ètica. Va ser tot un luxe i d’aquells dies en conservo el gran record d’haver conegut i compartit grans moments amb un grup de persones absolutament brillants.

Team AIMCAT 2021 - Credit: AIMCAT

La següent entrevista va ser publicada al web de la OEIAC:

Aquesta entrevista ens servirà per conèixer millor l’equip que representarà Catalunya a l’AI Song Contest (AIMCAT), i especialment a la Patrícia Ventura Pocino, que és la persona encarregada de portar a terme l’apartat sobre les consideracions ètiques del projecte.

1. Per situar-nos, què és l’AIMCAT i com vas conèixer el projecte?

AIMCAT som un equip de quaranta professionals de la creació artística i dels sectors audiovisual i tecnològic que treballem per aconseguir fer arribar Catalunya al podi de "l'Eurovisió" de la IA, l’AI Song Contest, en el que Catalunya competirà amb 49 equips d'una vintena de països d’arreu del món. La delegació catalana treballa en una candidatura genuïna escrita tant en models de codi obert com propis.

Vaig conèixer el projecte a través de Tomas Nihlén, que és qui ha promogut aquesta iniciativa. En Tomas em va contactar perquè volia configurar un equip el més divers possible, que en l’àmbit tecnològic no és una tasca precisament senzilla.

2. Un aspecte sobre el projecte AIMCAT que presentareu a l’AI Song Contest és un informe sobre les seves consideracions ètiques. Quines són les consideracions més importants en un projecte creatiu d’aquest tipus?

D’entrada cal considerar els principis transversals comuns a qualsevol projecte amb IA que, com saps, són la justícia, transparència, responsabilitat, explicabilitat, rendició de comptes, privacitat i també i fonamental, aquesta diversitat en els equips de treball. A més, hem tingut presents altres aspectes importants i específics des de la perspectiva de la creació musical amb IA, que són les qüestions relacionades amb l’ús adient de les dades per evitar biaixos en les lletres, per exemple, o els temes relacionats amb els drets d’autor. També hem impulsat una reflexió interna sobre quin paper ha de tenir la IA en la creació musical en el futur. Per últim, hem avaluat com el projecte podia col·laborar a assolir els Objectius de Desenvolupament Sostenible, i n’hem identificat força, per cert.

3. Fins a quin punt creus que, al pensar-hi sobre aquestes consideracions ètiques, l’equip d’AIMCAT ha avançat d’una manera diferent en termes de gestió i organització, de dinàmiques de grup, responsabilitats, etc.?

La identificació inicial dels possibles problemes i l‘avaluació posterior del procés han ajudat a garantir que l’equip hagi fet tot el que estava a les seves mans per tal que el projecte s’adeqüés als estàndards ètics. Des d’un principi tots hem tingut presents aquells aspectes als que havíem de parar atenció i tota la informació per aprofundir-hi si en algun cas ha estat necessari. Al final, cada persona ha fet la seva pròpia valoració ètica des del punt de vista de la seva disciplina i procés, i el resultat rebel·la de manera clara una gran consciència ètica col·lectiva que s’ha acabat imprimint en el projecte global.

4. Un aspecte que ha transcendit és que tothom de l’equip d’AIMCAT signarà com a autor/a. Això també inclou els sistemes d’intel·ligència artificial que han permès desenvolupar la cançó?

Aquest aspecte en concret s'ha tractat amb la SGAE de cara a trobar el millor encaix legal. De tota manera, se'ns transmet que ara mateix existeix un buit legal a Europa que s'està mirant de cobrir amb una legislació adient. D'entrada ens cenyirem a la legislació existent, però com a associació AIMCAT estarà pendent dels avenços en aquest sentit. Serà interessant conèixer la interpretació de les altes instàncies jurídiques europees.

5. Una altra característica del vostre equip d’AIMCAT és la seva diversitat. Ens podries descriure una mica aquesta diversitat i la seva importància.

Per descomptat! L’equip, com et deia, és molt divers: d’entrada es tracta d’un grup multidisciplinar en el que, al seu torn, hi participen persones que s’especialitzen en més de 2 àrees. Predomina la creació musical i audiovisual, les especialistes en IA i ciència de les dades. També hi participen desenvolupadors i dissenyadores, i n’hi ha que es dediquen a l’escriptura, a la filosofia, a la comunicació i fins i tot a la psicologia o a la investigació biomèdica. Totes les franges d’edat hi són representades (des de de -25 a +64). Pel que fa al gènere, el masculí predomina, no obstant, el femení supera en 15 punts la mitjana de la UE en dones especialitzades en l’àmbit tecnològic. L’equip ha integrat persones que pateixen discapacitats i és internacional, de fet l’impulsor de la iniciativa, en Tomas, és nascut a Suècia. També hi participen persones d’Islàndia i de Portugal. La representació nacional a l’equip és majoritària de localitats de fora de Barcelona: Mallorca, Lleida, Vic, Banyoles, Girona, entre moltes d’altres! Aquesta varietat és molt important per garantir que el projecte compti amb el màxim de punts de vista.

6. En la teva opinió, creus que la utilització de sistemes d’intel·ligència artificial ha augmentat o debilitat el procés de creació musical? Per exemple, us ha augmentat o limitat en seguir la vostra intuïció, en tenir imprevisibilitat creativa o en emocionar-vos a mida que anàveu composant, tocant, cantant, etc.?

Ha augmentat el procés de creació musical. El procés es tracta d’una retroalimentació contínua entre les dues parts i l’equip creatiu emfatitza que la IA ha resultat una eina que ha permès explorar noves maneres de crear. De fet, ha obligat tot l'equip de producció a crear des de fora de la seva zona de confort. Això és de les millors coses que li pot passar a un creador. Cada vegada que la tecnologia ha dotat la música d'un nou instrument, o mitjà, la música ha evolucionat. A veure quines noves músiques inspira la AI...

7. Fins a quin punt creus que els oients de la vostra música han de saber que una part significativa ha estat possible gràcies a la utilització de sistemes d’intel·ligència artificial?

Aquest també ha estat una debat que hem impulsat internament. En el cas d’AIMCAT ho expliquem de la manera més transparent possible, entre d’altres coses, perquè detallar la participació humana i màquina és un requeriment de l’organització, però també ho fem de manera proactiva a través dels mitjans de comunicació com dels mitjans propis com les xarxes socials.

Hi haurà una versió a concurs en anglès i català, però també una versió únicament en català i una altra en anglès, penjades a la plataforma Soundcloud. Aquesta plataforma permet introduir breus comentaris que apareixen a mesura que avança la cançó. En aquests comentaris especifiquem quines eines hem usat i exactament quan apareixen.

8. En la teva opinió, consideres que la utilització de la intel·ligència artificial en la música i en l’art en general genera més rebuig o acceptació? Per què?

Genera rebuig perquè tenim la sensació que erosiona la nostra capacitat de judici i pensament crític. Que a mesura que deleguem, renunciem a la nostra autonomia individual, cosa que fins i tot qüestiona els fonaments de la societats liberals, segona alguna autors que hi han reflexionat (Lassalle, Koenig, Harari). Alguns també consideren que la capacitat humana per decidir lliurement s’està col·lapsant, i que arribarà un moment que no podrem apagar les màquines perquè en serem dependents en excés.

Crec que tot això passa perquè la tecnologia avança a una velocitat superior a la capacitat humana per entendre-la, posar-la a disposició de les seves finalitats i regular-ne el seu ús des del punt de vista ètic i jurídic. Per sort, en aquest sentit també avancem. La declaració de Barcelona és una de les més importants en aquest sentit i darrerament, la UE ha fet un gran pas amb la Proposta de Reglament sobre un enfocament europeu per a la intel·ligència artificial (IA) El primer marc legal sobre aquesta tecnologia.

Per això crec que tot projecte, fins i tot la creació musical, requereix ser avaluat i comunicat des de la perspectiva de l’ètica, que es pot resumir en la capacitat de fer equip amb la tecnologia i posar-la al servei de les finalitats humanes.

9. Mirant al futur, creus que els sistemes d’intel·ligència artificial substituiran o complementaran cada vegada més les persones involucrades en la indústria musical?

Crec que la IA ha d’ajudar l’ésser humà a assolir les seves fites, en la creació musical i en qualsevol altre àmbit. Aquest és un altre dels temes que hem posat sobre la taula des del projecte d’ètica d’AIMCAT. En la seva majoria, l’equip opina que resultarà una eina de creació potent que ajudarà els músics, incentivarà la seva creativitat i els permetrà explorar noves idees i mètodes de treball. Tanmateix també existeix un grau d’incertesa sobre com s’acabarà integrant la IA en el futur de la creació.

10. Creus que l’experiència d’AIMCAT podria acabar sent un projecte de bones practiques en la indústria musical i cultural catalana que pensa o ja utilitza sistemes d’intel·ligència artificial?

Ens agradarà que sigui així. De fet, un dels motius de constituir-nos com associació AIMCAT és per esdevenir un punt d'intersecció de les arts i els sistemes tecnològics punters, i així poder contribuir a detectar i fixar les millors pràctiques en aquest nou camp encara tan poc explorat.