- Patrícia
Guies ètiques per a l'ús de la intel·ligència artificial en el periodisme
Updated: Mar 22
Des que a finals del 2021 el Consell de la Informació de Catalunya va publicar l'informe i el decàleg per a l'ús ètic de la intel·ligència artificial als mitjans de comunicació han anat apareixent guies sobre ètica, IA i periodisme que han desenvolupat principalment a mitjans i agències. La majoria, després de la irrupció de ChatGPT.
En aquest article en descriurem algunes i les examinarem. Al final, exposem els patrons que identifiquem entre les guies ètiques.
En aquesta publicació les reunirem a mesura que vagin sortint. Si en coneixeu alguna que no estigui recollida aquí i m'ho dieu als comentaris o per aquí la incorporaré.
DPA
L'agència de notícies alemanya DPA basarà l'ús ètic de la IA en 5 regles. Per elaborar-les sembla ha tingut en compte les directrius per a una IA fiable de la UE Les resumim:
1- DPA utilitza la IA per a diverses finalitats i està oberta a un ús més gran de la IA. La IA ajudarà a fer la nostra feina millor i més ràpid, sempre en interès dels nostres clients i els nostres productes.
2- Només utilitza IA sota supervisió humana. La decisió final sobre l'ús de productes basats en IA la pren un ésser humà. Respectem l'autonomia humana i la primacia de les eleccions humanes.
3- Només utilitza IA legítima que compleix la llei aplicable i les disposicions legals i que compleix els seus principis ètics, com l'autonomia humana, l'equitat i els valors democràtics.
4- Utilitza IA que és tècnicament robusta i segura per minimitzar el risc derrors i ús indegut. Quan el contingut és generat exclusivament per IA, ho fa, diu, de manera transparent i explicable. Sempre hi ha una persona responsable de tot el contingut generat amb IA.
5- Encoratja a totes les persones treballadores a ser obertes i curioses sobre les possibilitats de la IA, provar eines i fer suggeriments per utilitzar en els fluxos de treball. La transparència, obertura i documentació són fonamentals.
Wired
Es centren en la IA generativa i en aquest article expliquen les seves normes d'ús. Els punts bàsics: no la utilitzaran per generar text ni per editar-lo, però deixen clar també que és possible que usin IA per suggerir títols o copies per a les xarxes socials. També es permeten fer-la servir per generar idees de possibles temes, així com per a investigació o com a eina analítica. "No volem que els nostres reporters confiïn en aquestes eines més del que els permetríem confiar en la informació limitada de Wikipedia", asseguren.
Sobre les eines de generació d'imatges:
Només publicaran aquelles imatges que hagin estat generades per artistes on el pes del treball creatiu de l'artista sigui superior al de l'aportació de l'eina. Es prestarà atenció que no imiti feines existents o infringeixi copyright.
No se substituiran imatges d'estoc per les generades amb IA perquè molts professionals de la fotografia es guanyen la vida venent imatges a fitxers d'aquest tipus. No ho faran almenys fins que les empreses d'IA compensin els creadors de les obres amb què s'ha entrenat la seva eina.
És possible que usin IA generativa d'imatges per obtenir idees en processos de brainstorming.
Springer-Nature
A Springer-Nature també focalitzen els grans models lingüístics (tipus GPT) i defensen que "els editors han de reconèixer els seus usos legítims i establir pautes clares per evitar l'abús".
De moment han establert dues normes bàsiques. La primera, una IA no pot signar. La segona, qualsevol ús d'IA ha de ser explicitat:
1- No acceptarà cap eina com a autor acreditat en un treball de recerca. Això és perquè qualsevol atribució d'autoria comporta responsabilitat pel treball, i les eines d'IA no poden assumir aquesta responsabilitat.
2- Els investigadors que utilitzen eines tipus grans models lingüístics han de documentar-ne l'ús a les seccions de mètodes o agraïments. Si un article no inclou aquestes seccions, es pot fer servir la introducció o una altra secció apropiada per explicar-ho.
Heidi News
Asseguren que no volen renunciar als avenços tecnològics, però consideren necessari establir unes pautes per a l'ús de la IA basades en “l'ètica que regeix” la seva activitat, i “sobretot la relació de confiança” amb els seus lectors. Un cop més, en aquest mitjà francès se centren en la IA generativa:
Principis generals:
Es pot utilitzar IA per facilitar o millorar el treball, però la intel·ligència humana seguirà estant al centre de tota la producció editorial. Cap contingut serà publicat sense prèvia supervisió humana.
Dona suport al treball de periodistes, autors, fotògrafs i il·lustradors. Els nostres mitjans no pretenen substituir-los per màquines.
Textos sintètics
Tot article publicat se signarà per un o més periodistes, els quals romanen com a garants de la veracitat i pertinència de la informació que conté.
La intel·ligència artificial pot ajudar la feina dels periodistes per refinar les dades en brut de la mateixa manera que un programari com Excel, i també pot servir com a complement per escriure articles. L'equipara a un diccionari de sinònims en línia o correctors ortogràfics automàtics.
Considera les IA com a eines, però "de cap manera" fonts d'informació.
Imatges sintètiques
Es limitarà a utilitzar les imatges sintètiques amb finalitats il·lustratiuves, i no informatives, per no induir a confusió sobre fets del món real.
No publicarà una imatge sintètica que pugui passar per fotografia, excepte amb finalitats educatives, quan la imatge en qüestió ja sigui pública.
Qualsevol imatge sintètica publicada anirà acompanyada d'una marca visible que n'expliqui l'origen. La llegenda esmentarà el model dIA utilitzat i la instrucció principal que se li va donar.
Els grans temes (investigacions, reportatges, etc.) no s'il·lustraran amb imatges sintètiques, tret que aquestes creacions.
ANP
L'agència de notícies neerlandesa ANP. considera que la IA ha de ser abordada pels seus periodistes amb actitud de “sorpresa, curiositat, crítica i obertura”. “Depèn dels editors si és rellevant i útil si les aplicacions de l'IA s'utilitzen en produccions editorials o periodístiques. En poques paraules, la IA és una eina, no pas un substitut”.
Destaco alguns principis, que tenen a veure amb la necessitat de supervisió de la IA i la necessària assumpció humana de responsabilitat:
Quan la IA té un paper en el procés editorial, una persona sempre ha de fer la verificació final. ANP descriu la cadena de producció editorial com a persona > màquina > persona. “Pensar i decidir comença i s'acaba amb la persona. Per tant, no fem servir contingut informàtic o produït per IA, ni tan sols com a material d'origen, sense que un ésser humà verifiqui aquesta informació”, diuen.
La IA només es podrà fer servir amb l'autorització dels supervisors i caps de redacció. Posarà especial cura a evitar potencials errors (al·lucinacions o biaixos).
BBC
La BBC va publicar fa un temps els seus sis principis rectors i una llista de verificació d'autoauditoria per a equips d'aprenentatge automàtic (enginyers, científics de dades, product managers, etc.). Està basat en valors de servei públic i dissenyat per ser pràctic. Espera que el seu marc "sigui una contribució útil per al desenvolupament de IA i AA responsables i fiables". La guia es reflecteix en aquest procés:
Enfocada de manera específica a la IA generativa, la BBC també ha publicat tres principis rectors que han de guiar-ne el seu ús. Tots coincideixen amb algunes de les recomanacions principals de l'informe del CIC:
1- Actuar en el millor interès del públic i posar la IA al servei de la missió del periodisme.
2- Potenciar el factor humà, prioritzant el talent i la creativitat.
3- Transparència i responsabilitat.
Més endavant, a mes de febrer del 2024, va compartir 3 marcs de treball que neixen d'aquests principis sota els quals desenvolupa projectes interessants. Val la pena compartir-los aquí perquè són bons exemples d'ús de la IA al servei de la missió del periodisme:
1- Maximitzar el valor del contingut existent
2- Proporcionar noves experiències a l'audiència
3- Optimitzar processos "Fer que la manera com fem les coses sigui més ràpida i senzilla".
També en detalla alguns exemples:
1- Maximitzar el valor del contingut existent
1) Traduir a diversos idiomes.
2) Reformatar contingut existent per fer-lo més atractiu.
2- Proporcionar noves experiències a l'audiència
1) Un assistent de la BBC: xatbot per oferir aprenentatge interactiu i personalitzat.
2) Màrqueting més personalitzat.
Crear textos, imatges i vídeos més personalitzats en el contingut i els serveis de màrqueting.
3- Optimitzar processos:
1) Donar suport als periodistes
Explorar com equipar les professionals amb eines d'IA generativa que les ajudin a treballar més ràpid. Per exemple, un “ajudant de titulars” (que podria oferir als periodistes opcions de titulars per triar o la possibilitat de resumir un article) per vincular-los a altres llocs.
2) Simplificar la manera com organitzen i etiqueten el contingut.
Explorar com la IA generativa pot ajudar els equips a trobar contingut dins dels programes a través de pràctiques com un millor etiquetatge. Això els pot ajudar a crear noves formes de contingut més ràpidament, per exemple. A trobar un clip o col·lecció de determinats moments dins un programa o programes.
També al febrer del 2024 va actualitzar la seva guia ètica per a l'ús de la IA.
The Guardian
Ha format un equip multidisciplinari per elaborar la seva guia, enfocada a la IA generativa. Els principis que regeixen l'ús d'aquestes eines són:
1- Per al benefici dels lectors: sempre que contribueixi positivament al seu periodisme original i amb l'aprovació específica d'un editor sènior. Seran transparents sobre el seu ús.
2- Per al benefici de la seva missió, del personal i de la resta de l'organització: Orientada a la millora de la qualitat del producte i de l'eficiència dels processos.
4- Amb respecte per a les persones que creen contingut i són titulars de drets d'autor: Prioritzaran eines respectuoses amb els drets d'autor.
Si esteu pensant en elaborar el vostre propi codi de conducta per a una adopció responsable de la IA, el decàleg de recomanacions que trobareu a la pàgina 34 pot ser una bona eina per començar.
Reuters:
La responsable d'edició, Alessandra Galloni, i l' editor responsable d'ètica, Alix Freedman, van enviar una comunicació al personal de l'agència amb diferents punts relacionats amb l'ús de la IA:
En primer lloc, Reuters considera la tecnologia d'IA, inclosos els models basats en text generatius com ChatGPT, com un avenç que ofereix el potencial de millorar el seu periodisme i empoderar els seus periodistes. Reuters explica que, des de la seva fundació, ha adoptat noves tecnologies per oferir informació al món, "des dels coloms fins al telègraf i Internet". Més recentment, ha utilitzat sistemes automatitzats per informar sobre economia i això ha estat fonamental per donar servei a la velocitat que exigeixen els els seus clients, per tant, l'automatizació del contingut no és cap novetat per a Reuters. A continuació reproduím la guia:
En segon lloc, els periodistes i els editors de Reuters supervisaran el contingut creat amb IA. Una història de Reuters és una història de Reuters, independentment de qui la produeix o com es genera, i s'apliquen els seus estàndards i ètica editorial. Si el el nom del periodista apareix en una història, és el responsable d'assegurar-se que la història compleix aquests estàndards; si una història es publica de manera totalment autònoma, serà perquè els periodistes de Reuters han determinat que la tecnologia subjacent pot oferir la qualitat i els estàndards que necessiten.
En tercer lloc, Reuters comunicarà clarament a l'audiència el propi ús d'aquestes eines. La transparència és una part essencial del seu ethos, diuen. Donaran als seus lectors i clients la màxima informació possible sobre l'origen d'una notícia, des de l'especificitat de la font fins als mètodes utilitzats per crear-la o publicar-la. Això no vol dir que divulgaran tots els passos del procés editorial. Però quan l'ús d'una eina d'IA concreta sigui important per al resultat, seran transparents.
Finalment, explorar les possibilitats que ofereix la nova generació d'eines no és opcional, tot i que encara estan examinant com fer-ne un ús més adequat. Els principis de confiança exigeixen "no escatimar esforços per ampliar, desenvolupar i adaptar" les notícies. També exigeixen que proporcionin notícies "fiables". Donada la proliferació de contingut generat per IA, han de mantenir-se vigilants perquè les fonts de contingut siguin reals. El seu mantra: Sigues escèptic i verifica.
En resum, Reuters aprofitarà la tecnologia d'IA per donar suport al seu periodisme quan estiguin segurs que els resultats compleixen els seus estàndards de qualitat i precisió, i amb una supervisió rigorosa per part dels editors de les redaccions.
Financial Times
"El nostre periodisme continuarà sent reportat, escrit i editat per humans que són els millors en els seus camps", aquest és el missatge que encapçala la carta que l'editor del FT va enviar a l'equip. Les indicacions estan orientades, com en la majoria de casos, als usos de la IA generativa.
Després d'explicar què és la IA generativa, considera les oportunitats de la tecnologia: millorar processos i productivitat. Llavors, esmenta els riscos: manca de rigor, fets fabricats, biaixos...
Es mostra convençut que el periodisme es farà encara més necessari en aquest context:
"En un moment en què la desinformació es pot generar i difondre ràpidament i la confiança en els mitjans de comunicació en general ha disminuït, al FT tenim una responsabilitat més gran de ser transparents, informar els fets i buscar la veritat. És per això que el periodisme del FT en la nova era de la IA continuarà sent informat i escrit pels humans que són els millors en els seus camps i que es dediquen a informar i analitzar el món tal com és, de manera precisa i justa."
Al mateix temps, explica que exploraran nous usos de la IA per fer periodisme, de manera responsable, puntualitza: "com ha demostrat la història recent, l'emoció ha d'anar acompanyada de prudència davant el risc de desinformació i la corrupció de la veritat. El FT seguirà compromès amb la seva missió fonamental i mantindrà informats els lectors a mesura que la pròpia IA generativa i el nostre pensament evolucionen."
USA Today
En aquest cas, l'editor responsable ha d'aprovar l'ús de la IA a la peça informativa, i per fer-ho es basa en el propòsit, és a dir, si l'ús de la IA té sentit a la seva missió. Un cop aprovat, els principis en què s'ha de basar l'ús de la IA són:
Transparència i rigor: contrastar tota informació generada amb IA. Comunicar quan s'ha fet servir IA i verificar qualsevol contingut creat amb IA.
Criteri editorial: assegurar-se que els valors del medi són presents a qualsevol informació.
Ús permès: Assegurar-se que l'ús de la IA és ètic i legal.
IA generativa (imatges): limitar-ne l'ús. En cap cas es faran servir per cobrir contingut d'última hora. Les imatges sintètiques hauran d'estar molt clarament marcades per no deixar cap dubte que no representen fets reals.
Privadesa: Assegurar-se que no viola la privadesa dels usuaris.
Biaixos: tenir la seguretat que el contingut no és discriminatori.
Seguretat: evitar qualsevol tipus d'error o manca de rigor en el contingut sintètic.
Diversitat i inclusió: el contingut ha de reflectir la diversitat de l'audiència.
Agència EFE
Al seu Nuevo libro de estilo urgente, l'agència EFE va decidir introduir un apartat sobre el tema en què reclama la necessitat d'establir principis clars per utilitzar la IA que s'adaptin a la seva ràpida evolució. EFE reconeix que determinades aplicacions d'IA poden resultar útils com a suport per als periodistes, tot i que, diu, mai no han de suplir la seva tasca. Destaca que és essencial actualitzar i supervisar constantment aquestes eines, atesa la seva propensió a inexactituds i manca de verificabilitat. A més, cal identificar clarament quan s'utilitzin, incloent-hi una nota que indiqui el seu origen automàtic al final del text.
Un resum dels punts:
Només una ajuda. Els sistemes d'IA poden, en alguns casos, servir com a ajuda a la feina dels periodistes d'EFE, no fer mai periodisme; aquesta tasca ens correspon a nosaltres.
Cura i actualització constant. La rapidesa amb què evolucionen aquest tipus d'eines aconsella una actualització constant de les normes sobre el tema.
Supervisió sempre. És fonamental revisar, comprovar i verificar cadascuna de les aportacions que prenem de les eines de IA. No cal citar l'ús d'eines com les de traducció o transcripció (de la mateixa manera que no se citen cap altre tipus d'eines que ajuden a elaborar informació).
Imatges. EFE no farà servir aquest tipus de sistemes de creació d'imatges per il·lustrar notícies d'actualitat. Només les considera acceptables si serveixen "per il·lustrar descobriments que no poden tenir una foto: com seria un animal reconstruït a partir d'un fòssil, com es veuria l'espai des d'un lloc inaccessible..." En tot cas, si es fan servir recreacions de aquest tipus, tant pròpies com cedides s'assenyalaran "de manera clara i inequívoca al peu de foto o el text que acompanyi al vídeo, la naturalesa de les mateixes".
Contingut generat automàticament a partir de fonts identificades.
Les informacions creades així han d'identificar la font al text, com totes les altres, i incloure al final una nota aclaridora: “Aquesta informació s'ha generat de manera automàtica a partir de les dades de...”.
Reporters sense Fronteres
RSF també ha presentat recentment la que ha anomenat 'Carta de París' sobre IA i periodisme que es resumeix en els punts següents:
L'ètica ha de regir les decisions tecnològiques al si dels mitjans.
El criteri humà ha de continuar sent central en les decisions editorials.
Els mitjans han d'ajudar la societat a destriar amb confiança entre els continguts autèntics i els sintètics.
Els mitjans han d'implicar-se a la governança mundial de la IA i defensar la viabilitat del periodisme quan negociïn amb empreses tecnològiques.
Patrons que podem extreure de l'anàlisi
Després d'examinar guies i recomanacions, s'identifiquen alguns patrons sobre quins són els principis rectors predominants dels mitjans de comunicació a l'hora d'adoptar la IA generativa. Observem que els valors ètics de veracitat, responsabilitat i transparència són probablement els que tenen més pes a l'hora d'articular les recomanacions. Com a principi general, l'ús de la IA està condicionat al fet que aquest sigui adequat per aconseguir la missió del mitjà mateix, que suposa actuar en el millor interès del públic i la societat. La responsabilitat humana al producte informatiu és una de les directrius més presents. L'ètica i els valors del periodisme tradicional continuen sent fonamentals. Destaquem alguns punts a continuació:
Transparència i supervisió humana:
La majoria de recomanacions destaquen la importància de la transparència en l'ús d'IA, especificant clarament quan s'utilitza IA en la producció de contingut.
S'insisteix en la supervisió humana com a requisit essencial, especialment en la presa de decisions finals sobre el contingut generat per IA.
Responsabilitat i verificació:
La responsabilitat humana és un tema recurrent, amb èmfasi que les eines dIA no poden assumir responsabilitat en qüestions d'autoria.
La verificació humana és un pas essencial en el procés editorial.
Limitacions en l'ús d'IA generativa:
Hi ha precaucions sobre l'ús d'IA generativa per generar text o imatge, amb enfocaments diversos: des de no fer-la servir per generar o editar text (Wired) fins a limitar-ne l'ús i especificar clarament quan s'ha emprat (USA Today).
Drets d'autor i altres assumptes legals
S'emfatitza la importància de respectar els drets d'autor i no fer servir IA per generar contingut que pugui infringir drets.
Pel que fa a les imatges generades, s'estableixen pautes sobre el seu ús, marcatge clar i limitacions per evitar confusions amb fets reals.
La majoria de pautes insisteixen que l'ús d'IA ha de complir la legislació aplicable i seguir principis ètics, com l'autonomia humana, l'equitat i els valors democràtics.
Compromís amb la diversitat i la inclusió:
Tot i que en menor mesura, s'apunta la importància que el contingut generat per IA reflecteixi la diversitat de l'audiència i que no contingui biaixos discriminatoris.
Aquests patrons reflecteixen un consens ampli sobre el fet que els valors ètics del periodisme resulten una guia apropiada per assimilar les eines d'IA en els processos. En aquest sentit, les recomanacions de l'informe del CIC, basades en els valors de l'ètica periodística (veracitat, responsabilitat, justícia i llibertat) resulten una bona guia per a l'adopció de la IA als mitjans de comunicació.
Algunes més: