DGUE i Revista IDEES
Els ponents i el moderador del debat virtual

La Delegació del Govern de Catalunya davant la Unió Europea (UE), juntament amb el Centre d’Estudis Contemporanis i la revista IDEES, han impulsat aquest matí un debat virtual sobre les polítiques europees d’intel·ligència artificial (IA) amb la participació de reconeguts experts. A la conversa, que s’ha pogut seguir en directe a través del canal de Youtube del Departament d’Acció Exterior, hi han participat els experts Lorena Jaume-Palasí, Eric Badiqué, Michela Milano i Andrea Renda. 

Els ponents han analitzat l’impacte i el potencial de la IA i han reflexionat sobre les polítiques que està impulsant la UE per regular aquestes noves tecnologies. Tots quatre han coincidit en destacar que, en el context actual de pandèmia, la IA pren més importància que mai. Per aquest motiu, també és clau regular-ne el seu ús amb l’objectiu de fer front als reptes ètics que planteja. Així, han subratllat que cal entendre l’IA des de la vessant més humana i tenir en compte que totes les decisions que es prenguin en el marc regulatori tenen conseqüències per al conjunt de la societat que poden canviar per sempre les democràcies.

La delegada del Govern de Catalunya davant la UE, Meritxell Serret, ha obert la sessió subratllant la necessitat de desenvolupar estratègies per regular les tecnologies de la IA, que estan transformant el món. “Avui volem construir visions comunes en un àmbit també comú, per contribuir a una estratègia europea d’IA que posi al centre valors fonamentals europeus com la llibertat, així com els drets individuals i col·lectius”.

Pere Almeda, el director del Centre d’Estudis de Temes Contemporanis i de la revista IDEES, ha destacat que és necessari promoure una estratègia i un ecosistema d’IA que respecti els valors democràtics i faci front als reptes que es plantegen. “Davant del poder creixent de la tecnologia d’intel·ligència artificial de la Xina, relacionada amb el control social, i davant les corporacions capdavanteres als Estats Units que innoven en relació amb els objectius militars, com a ciutadans europeus estem molt preocupats per promoure la IA dirigida al bé comú, amb un rerefons ètic”.

Per la seva banda, Carles Sierra, moderador de l’acte i director de l’Institut de Recerca sobre Intel·ligència Artificial (IIIA) del Consell Superior d’Investigacions Científiques (CSIC), ha volgut destacar el paper clau de l’educació en l’ús de les tecnologies d’IA. “La manera com eduquem els infants és clau per aconseguir que la societat incorpori una dimensió crítica sobre aquesta tecnologia”.

En les seves intervencions, els ponents han tingut en compte l’actual context de crisi del coronavirus. Lorena Jaume-Palasí, fundadora i directora executiva de The Ethical Teach Society, s’ha centrat en les implicacions ètiques i en els canvis que la IA pot generar a la societat a llarg termini. “Molta de l’arquitectura democràtica que tenim avui en dia va ser creada en situacions tant de guerra com d’epidèmia. Tot allò que es canviï ara quedarà, i influirà en l’evolució de les democràcies. Necessitem una acció concertada, transversal, des de diverses disciplines”.

Michela Milano, vicepresidenta de l’associació EurAI, ha reivindicat la llarga tradició de recerca que té la UE i també els resultats que s’han aconseguit fins ara en l’àmbit de l’IA. Milano ha destacat les limitacions de l’estratègia d’intel·ligència artificial de la UE i ha assenyalat algunes de les claus per millorar-la, com ara la creació d’un ecosistema favorable per retenir el talent, alinear la recerca aplicada amb la recerca més bàsica, facilitar l’accés a la IA als usuaris amb menys formació tecnològica i dotar de més finançament la recerca d’alt nivell. Segons l’experta, la pandèmia de la Covid-19 pot posar en risc aquest plantejament, perquè la Comissió Europea pot tenir pressions per dirigir el finançament per a la recerca cap a altres problemes. “La investigació en IA és molt important a llarg termini i pot marcar la diferència a l’hora de resoldre els problemes de desenvolupament sostenible en el marc del Green Deal”.

El professor Andrea Renda, responsable de governança global, regulació, innovació i economia digital del think tank europeu CEPS, ha assegurat que “la qüestió no és què pot fer la UE en intel·ligència artificial; la qüestió és què pot fer la intel·ligència artificial per ajudar la UE a aconseguir els seus objectius. Per exemple: com pot la IA ajudar-nos amb els ODS?”. Segons Renda, qualsevol marc regulatori ha d’estar basat en una aproximació que posi les persones al centre i, en aquest sentit, ha reivindicat que la UE lideri una aliança internacional per una IA que respecti aquesta premissa. “Hem d’entendre les tecnologies d’IA com un mitjà i no com un objectiu o finalitat. Un dels errors que hem d’evitar és regular l’IA com si fóssim al segle XX, amb l’aproximació de les generacions passades. Quan comencem a regular, hem de pensar en com serà el món d’aquí a 5 anys; les decisions han de ser flexibles i adaptatives”.

Finalment, l’assessor d'intel·ligència artificial de la Comissió Europea, Eric Badiqué, ha remarcat que cal veure les tecnologies d’IA com una manera d’empoderar nens i adults. “Necessitem que la intel·ligència artificial sigui útil per als éssers humans, i això està expressat de manera molt clara en els treballs del grup d’experts de la Comissió. Hem liderat el debat sobre les qüestions ètiques”.

El debat s’ha tancat amb una ronda de preguntes del públic, que han fet arribar a través de l’etiqueta #EUonAI a Twitter i també via el xat en directe de la transmissió. En total, unes 250 persones han seguit la sessió.

DGUE and IDEES newspaper
The panellists and the moderator of the debate

The Delegation of the Government of Catalonia to the EU, together with the Center for Contemporary Studies and the IDEES magazine, launched this morning a virtual debate on European Artificial Intelligence (AI) policies with the participation of renowned experts. Lorena Jaume-Palasí, Eric Badiqué, Michela Milano and Andrea Renda were the panellists of the conversation, that could be followed live on the Youtube channel of the Department of Foreign Affairs.

The panellists analysed the impact and potential of AI and debated on the policies being pursued by the EU to regulate these new technologies. They agreed that in the current pandemic context, AI becomes more important than ever. For this reason, it is key to regulate its use in order to meet the ethical challenges it poses. Thus, they highlighted the need to understand AI from the most humane perspective and to keep in mind that all decisions taken in the regulatory framework have consequences that can change democracies forever.

The representative of the Government of Catalonia to the EU, Meritxell Serret, opened the session by emphasizing the need to develop strategies to regulate AI technologies, which are transforming the world. "Today, we want to build visions at a common level, to contribute to a European AI strategy that puts the EU fundamental values and all the individual and collective rights and principles at the core of the AI".

Pere Almeda, director of the Center for Contemporary Studies and the IDEES magazine, stressed the need to promote an AI strategy and ecosystem that respects democratic values and meets the challenges that arise. "Facing the growing power of China's AI technology related to social control, and also the leading corporations in the United States that innovate with military, as European citizens we are all very concerned to promote AI aimed at the common good, with an ethical background”.

Carles Sierra, moderator of the event and director of the Research Institute on Artificial Intelligence (IIIA) of the Higher Council for Scientific Research (CSIC), emphasised the key role of the education in the use of AI technologies. "The education of children is fundamental to allow the society to have a critical approach to this technology”.

The panellists took into account the current context of the coronavirus crisis during the debate. Lorena Jaume-Palasí, founder and executive director of The Ethical Teach Society, focused on the ethical implications and changes that AI can generate at the society in the long term. "A big part of the democratic architecture that we have today was created in war and epidemic situations. The things we change now will remain and shape the evolution of democracies. We need concerted action from different disciplines".

Michela Milano, vice-president of the EurAI association, defended the EU research tradition on AI and also the results achieved so far in this field. Milano highlighted the limitations of the EU's AI strategy and pointed out some of the keys to improving, such as creating a favorable ecosystem to retain talent, aligning applied research with more basic research, facilitating access to AI for users with less technological training and more funding for high-level research. According to the expert, the Covid-19 pandemic could jeopardize this approach, because the European Commission may be under pressure to prioritise the funding of other fields. "Research in AI is very important in the long term and the EU could use this technology and make a difference by solving sustainable development issues in the framework of the Green Deal".

Professor Andrea Renda, head of global governance, regulation, innovation and digital economy at the European think tank CEPS, said that “the question is not what the EU can do in AI but what can AI do to help the EU to achieve its goals. For example: how can AI help with the SDGs?”. According to Renda, any regulatory framework must be based on an approach that puts people at the center and, in this sense, called the EU to lead an international alliance for an AI that respects this premise. "We need to understand AI technologies as a means and not as an end. One of the mistakes we must avoid is to regulate AI as if we were in the twentieth century, with the approach of past generations. When we start regulating, we have to think about what the world will be like in, at least, five years; decisions must be flexible and adaptive”.

Finally, the European Comission’s AI adviser, Eric Badiqué, emphasized the need to see AI technologies as a way to empower children and adults. "We need AI to be useful to human beings, and this is very clear in the work of the Commission's expert group. We have been leading the discussion on ethics".

The debate ended with a round of questions from the audience, which they sent via the hashtag #EUonAI on Twitter and also via the live chat of the broadcast. Around 250 people attended the session.

2  

Images

The panellists and the moderator of the debate

The panellists and the moderator of the debate 0.03 MB

Els ponents i el moderador del debat

Els ponents i el moderador del debat 0 MB