Albert Cañigueral: "No és una utopia que Catalunya es pugui posicionar en l’àmbit de la IA"

BarcelonaAlbert Cañigueral (Mataró, 1977) és explorador digital vinculat al Barcelona Supercomputing Center i s'ha especialitzat en l'impacte social i econòmic de les innovacions digitals. Aquesta setmana ha participat a Mutare, impulsada per la Fundació Carulla, que en la setena edició ha posat el focus en el paper de la intel·ligència artificial (IA) com a repte i oportunitat per a la creativitat, la llengua, l’ètica i l’accés a la cultura.

Actualment qui controla la IA són grans empreses, i hi ha països, com els Estats Units i la Xina, que ens porten molt avantatge. Hi ha moltes desigualtats?

— S’ha avançat molt sense reflexionar gaire. S’ha imposat el fet d'avançar i córrer, i tanta acceleració és innecessària. Des del Barcelona Supercomputing Center, amb el govern català i l’estatal, estem treballant en una IA pública. De la mateixa manera que per a la societat industrial ens vam dotar de carreteres, electricitat, abastiment d’aigua... volem fer el mateix amb la IA. La IA pública ha de garantir la traçabilitat i la transparència de dades, perquè ara mateix les empreses no es responsabilitzen del que estan fent. Agafen dades i incompleixen els seus propis termes i condicions. Meta va piratejar 7 milions de llibres, i en els seus documents interns diu que no tenen valor econòmic. És bastant inacceptable.

La IA no és mai neutral?

— La IA no és una eina neutra i s’ha de cuidar molt. Hi entren i en surten moltes dades. Hi pot haver un biaix i, segons com estiguin configurades, poden arribar a amplificar certes dades. Moltes vegades s’hi posen mecanismes de control en funció dels valors, el llenguatge, els resultats que es vulguin tenir. En anglès s’anomenen guarda-raïls. Es podria traduir com a barreres de seguretat.

¿Com serà la IA pública a Catalunya?

— En diem Aina i és una infraestructura pública d’intel·ligència artificial. No és una utopia que Catalunya es pugui posicionar en l’àmbit de la IA, però és un projecte a llarg termini. No és una tecnologia que puguem desplegar de manera ràpida i hem de tenir temps d’orientar-la. És una fal·làcia que la innovació tecnològica equivalgui al progrés social. Perquè sigui així hi ha d’haver decisions polítiques i regulacions. I s’ha de decidir de manera col·lectiva.

Fins a quin punt la cultura pot ajudar a crear aquesta IA?

— La IA s’alimenta de dades. Per tant, si volem que tingui diferents contextos culturals i referències, s’han d’aportar aquestes dades i també s’ha de tenir en compte la llengua catalana. Ens trobem davant d’una nova capacitat de la tecnologia i ens hem de fer moltes preguntes. La cultura pot i ha de contribuir a fer noves preguntes, a crear una IA més rica i diversa, perquè si no correm el risc de ser colonitzats. A més, la cultura pot ajudar a pensar usos diferents per a la IA.

I què pot demanar la cultura a la IA?

— És tan nou que se’m fa difícil pensar què demanar-li. És com quan l’electricitat va substituir el vapor. Primer hi va haver la tecnologia i després la reorganització del treball i del model productiu. La pregunta que ens hem de fer és quina reconfiguració ens permeten aquestes eines. Hi ha un projecte molt interessant, per exemple: els comitès augmentats. Al voltant d’un conflicte, es fan entrevistes a diferents grups d’interès i es configuren opinions virtuals. Tens quatre perspectives o més a la vegada.

I la IA també arriba a una conclusió?

— No, la conclusió ha de ser humana. És important perquè ofereix perspectives que potser t’haurien passat per alt i facilita el diàleg entre perspectives, però la conclusió ha de ser humana.

¿La IA no pot substituir-ho tot?

— No és l’objectiu. És un error delegar la nostra intel·ligència i la nostra responsabilitat en la IA. Hem d’anar amb compte de no caure en el sedentarisme intel·lectual. És important ser el conductor, i que la IA sigui el copilot.

La IA, si genera continguts originals, ha de tenir drets d’autor?

— A la Unió Europea això no està resolt. És important pensar-ho des de l’àmbit públic. Tant els drets d’autoria com l’originalitat. El que em preocupa és la manca de responsabilitat d’aquestes empreses i d’exigència dels usuaris i usuàries de la IA. És una anècdota, però l’altre dia la intel·ligència artificial d’Elon Musk va començar a generar respostes sobre un suposat "genocidi blanc" a Sud-àfrica. No importava la pregunta que fessis, la resposta sempre era aquesta. Això demostra el perill de dependre de mecanismes sobre els quals no tenim cap mena de control. Amb la tecnologia digital, socialment, ens hem abstingut de fer certes exigències.