La UPV participa en un projecte europeu per a protegir els sistemes d'IA de ciberatacs

La Universitat Politècnica de València (UPV) treballa en un projecte europeu per a protegir els sistemes d’intel·ligència artificial de ciberatacs. En concret, el projecte se centra a millorar la seguretat de la IA davant dels anomenats atacs adversaris (“adversarial attacks”). Són atacs que pretenen enganyar la IA fent que interprete dades malicioses com a bones.

Segons explica Salvador Cuñat, investigador del grup SATRD de la Universitat Politècnica de València, els atacs són especialment crítics en àrees com la seguretat informàtica, la visió per computador o el processament de llenguatge natural (NLP).

Per exemple, poden modificar el codi d’un programari maliciós perquè l’antivirus el classifique com a inofensiu, crear correus electrònics amb xicotets canvis perquè els detectors de pesca (phishing) o de correu brossa (spam) no els reconeguen, modificar empremtes digitals sintètiques per a burlar sistemes de control d’accés o modificar mínimament un text (errors ortogràfics, símbols invisibles) per a enganyar un detector de discursos d’odi o notícies enganyoses o falses (fake news).

“Són atacs que poden derivar en problemes lleus (un model d’IA que confon un animal), però també poden provocar accidents, fraus, filtracions de seguretat, per això la importància de desenvolupar noves eines per a lluitar contra ells”, apunta Salvador Cuñat.

Així, entre els objectius del projecte destaca el desenvolupament d’una nova plataforma de seguretat que permetrà fer més robustos els sistemes d’IA davant d’aquesta mena d’atacs cibernètics. A més, planteja també posar en marxa l’eina Cyber Ranges, per a entrenar professionals d’IA en ciberseguretat.

El projecte es dirigeix fonamentalment a desenvolupadors d’IA i analistes de dades, empreses i organitzacions de tots els sectors que incorporen la intel·ligència artificial en el dia a dia, associacions industrials i proveïdors de ciberseguretat, així com la comunitat científica.

“El projecte vol oferir més protecció i resiliència dels sistemes d’IA davant d’adversarial attacks i posar al seu servei noves eines per a garantir la seguretat i privacitat en la IA, però també contribuir a una major confiança i a una adopció més àmplia de la intel·ligència artificial a Europa”, conclou Cuñat.

Finançat per la Unió Europea, a través del programa Horizon Europe (HORIZON-CL3-2023-CS-01, el projecte CPAID el coordina Uni Systems Luxembourg Sàrl i conclourà al setembre del 2027.