Llei de la IA Europea

L'investigador de l'Institut Universitari Valencià d'Investigació en Intel·ligència Artificial (VRAIN) de la Universitat Politècnica de València (UPV) i membre de la Unitat Mixta d'Investigació de l'Escola Valenciana de Postgrau i Xarxa d'Investigació en Intel·ligència Artificial (ValgrAI), José Hernández-Orallo, ha sigut seleccionat per a formar part del Comitè Científic que assessorarà l'Oficina d'Intel·ligència Artificial, creat per la Comissió Europea i integrat per 60 persones expertes internacionals.

Aquest Comitè Científic assessorarà en l'aplicació de la Llei d'IA Europea i l'avaluació dels impactes i riscos dels models d'IA de propòsit general (IAPG).

Líder en avaluació de la IA

José Hernández-Orallo és investigador de VRAIN de la UPV i catedràtic de la Universitat Politècnica de València, impulsor de l'AI Evaluation Program de la Fundació ValgrAI i actualment, a més, director d'investigació del Leverhulme Centre for the Future of Intelligence de la Universitat de Cambridge (el Regne Unit).

La seua activitat acadèmica i d'investigació comprèn diversos àmbits de la intel·ligència artificial, l'aprenentatge automàtic, la ciència de dades i el mesurament de la intel·ligència, i se centra en una anàlisi més profunda de les capacitats, la generalitat, el progrés, l'impacte i els riscos de la intel·ligència artificial.

Des de 2017, ha liderat l'agenda científica de l'avaluació de la IA a través de nous paradigmes de mesurament i marcs avaluatius publicats en Nature, Science i les principals conferències tècniques sobre IA. És el fundador d'aievaluation.substack.com i ai-evaluation.org.

Entre les principals responsabilitats del Comitè Científic de la Llei d'IA s'inclouen alertar l'Oficina d'IA sobre els riscos sistèmics, assessorar sobre les metodologies de classificació i avaluació de la IAPG, així com donar suport a les activitats de vigilància del desplegament de la IA a la UE.

Aquest Comitè Científic complementa el Fòrum Consultiu, que proporciona a la Comissió i al Consell d'IA aportacions més àmplies de les parts interessades procedents de la indústria, la societat civil i el món acadèmic.

En la selecció de personal expert s'ha tingut en compte l'equilibri geogràfic i de paritat de gènere. José Hernández-Orallo, ha sigut seleccionat junt amb dos experts més per part d'Espanya: Javier Del Ser i Asunción Gómez-Pérez. I seran nomenats per a formar part del panel per un mandat de 24 mesos, renovable, a títol personal.

IA de propòsit general

En concret, l'investigador de VRAIN de la UPV, José Hernández-Orallo , explica que “el panel se centrarà fonamentalment en la IA de propòsit general amb riscos sistèmics, aquella que per les seues altes capacitats, abast o novetat puga suposar un risc sistèmic, és a dir, una amenaça que pot afectar societats o economies globals o a gran escala”.

En aquest sentit, el panel tindrà una funció d'assessorament mitjançant grups de treball a curt, mitjà i llarg termini, però també de vigilància constant amb la possibilitat de comunicar alertes a l'Oficina Europea de la IA sobre el risc de nous models o fenòmens preocupants per l'ús massiu d'aquests.

José Hernández-Orallo assenyala, a més, que per la seua banda, “intentaré aportar rigor científic en l'avaluació de capacitats i propensions de la IA, basculant el treball del panel més cap a l'anticipació dels riscos dels sistemes frontera i de la superintel·ligència futura, per a complementar el treball d'informació i mitigació”.