the art of being legal


Guia Completa Sobre el Nou Reglament Europeu d'Intel·ligència Artificial

Inteligencia artificial

 

La intel·ligència artificial (IA) és la protagonista dels debats actuals. La setmana passada, per exemple, Donald Trump va fer soroll en difondre imatges que semblaven donar a entendre falsament que comptava amb el suport de Taylor Swift, moltes de les quals semblen haver estat creades per IA.

Article escrit per

Abigail Sked

Assessora legal mercantil

Abigail Sked és assessora legal a Conesa Legal, especialitzada en dret mercantil i protecció de dades. Acompanya empreses en la redacció i negociació de contractes i en el compliment normatiu.

Veure perfil professional

El objectiu del nou Reglament d'Intel·ligència Artificial 2024/1689 del Parlament Europeu i del Consell (d'ara endavant, «RIA» o «el Reglament») és donar suport a la innovació, millorar el funcionament del mercat interior i promoure l'adopció d'una intel·ligència artificial centrada en la persona i fiable, garantint al mateix temps un nivell elevat de protecció de la salut, la seguretat i els drets fonamentals i la prevenció dels efectes perjudicials de la IA.

Es tracta d'una tasca important i gens fàcil (cosa que es reflecteix en l'amplitud del Reglament, que inclou 180 considerants, 113 articles i 13 annexos), que la UE ha assumit mitjançant un enfocament basat en el risc, tal com es va fer amb el RGPD i la normativa sobre ciberseguretat, amb la finalitat de harmonitzar les normes i, al mateix temps, permetre la flexibilitat necessària per adaptar-se a les noves tecnologies.

Els mètodes basats en el risc exigeixen que les persones que puguin veure's afectades avaluïn la seva posició, i les que considerin que les seves activitats són d'«alt risc» estaran subjectes a obligacions i requisits més estrictes que aquelles les activitats de les quals siguin de «baix risc».

GUIA COMPLETA SOBRE EL NOU REGLAMENT EUROPEU D'INTEL·LIGÈNCIA ARTIFICIAL

Abigail Sked, Especialista en protecció de dades (Subtítols disponibles en castellà i anglès)

El reglament és complex i serà desenvolupat en els propers anys per les opinions dels experts, les directrius oficials i la legislació secundària, de manera que aquest article pretén servir de guia resumida de les 10 qüestions que considerem més crucials i curioses per a les empreses espanyoles.

En resum, haureu de seguir els passos següents:

  • Decidir si us afecta el Reglament.
  • Decidir si el sistema d'IA que utilitzeu es consideraria prohibit, d'alt risc, d'ús general però amb risc sistèmic, o d'ús general.
  • Decidir si sou el proveïdor, importador, distribuïdor o responsable del desplegament d'aquest sistema d'IA (podríeu entrar en més d'una categoria. A continuació ho expliquem amb més detall, però les definicions també es poden trobar a l'article 3 del Reglament).
  • Conèixer i complir les vostres obligacions en funció del tipus de sistema d'IA que utilitzeu i del paper que exerciu en la seva interacció.

Contingut

  1. Àmbit d'aplicació: m'afecta?

Si utilitzes, desenvolupes, importes, distribuïdes o prestes serveis d'IA a títol professional, és probable que aquesta llei t'afecti. Tingues en compte que fins i tot els proveïdors establerts fora de la UE es veuran afectats si els seus serveis s'ofereixen dins de la UE. Per tant, probablement sigui més útil examinar els àmbits/grups que queden exclosos de l'àmbit d'aplicació d'aquest Reglament:

Exclusions de l'àmbit d'aplicació del Reglament (Article 2):

  • Competències dels Estats membres en matèria de seguretat nacional.
  • Sistemes d'IA introduïts al mercat o utilitzats exclusivament amb finalitats militars, de defensa o de seguretat nacional
  • Autoritats públiques d'un tercer país i organitzacions internacionals quan aquestes autoritats o organitzacions utilitzin sistemes d'IA en el marc d'acords o de la cooperació internacional amb finalitats de garantia del compliment del Dret i cooperació judicial amb la Unió i ofereixin garanties adequades dels drets i llibertats fonamentals.
  • Disposicions relatives a la responsabilitat dels prestadors de serveis intermediaris.
  • Sistemes o models d'IA, inclosos els seus resultats de sortida, desenvolupats i posats en servei específicament amb la recerca i el desenvolupament científic com a única finalitat.
  • Activitats de recerca, prova o desenvolupament relatives a sistemes o models d'IA abans de la seva introducció al mercat o posada en servei.
  • Actes jurídics de la Unió relatius a la protecció de dades personals, la protecció dels consumidors i la seguretat dels productes.
  • Persones físiques que utilitzin sistemes d'IA en l'exercici d'una activitat purament personal de caràcter no professional.
(Les definicions figuren a l'article 3 del Reglament, però un terme important que cal conèixer és el de «responsable del desplegament», que significa «una persona física o jurídica, o autoritat pública, òrgan o organisme que utilitzi un sistema d'IA sota la seva pròpia autoritat, llevat que el seu ús s'emmarca en una activitat personal de caràcter no professional».)

 

  1. Alfabetització en matèria d'IA (Article 4)

La teva empresa proporciona o utilitza IA com el ChatGPT? En cas afirmatiu, el RIA t'exigeix que adoptis mesures per garantir que, en la major mesura possible, el teu personal i altres persones que s'encarreguin en nom teu del funcionament i la utilització de sistemes d'IA tinguin un nivell suficient d'alfabetització en matèria d'IA, tenint en compte els seus coneixements tècnics, la seva experiència, la seva educació i la seva formació, així com el context previst d'ús dels sistemes d'IA i les persones o els col·lectius de persones en què s'utilitzaran aquests sistemes.

 

  1. Pràctiques d'IA prohibides (Article 5)

El RIA estableix determinades pràctiques d'IA que considera inadequades i, per tant, prohibeix totalment que es duguin a terme o es desenvolupin, com ara:

  • Tècniques subliminars, manipuladores o enganyoses utilitzades per reduir la capacitat d'una persona per prendre una decisió informada i alterar així el seu comportament.
  • Explotació de les vulnerabilitats de les persones físiques
  • La «qualificació social» de les persones físiques basada en el seu comportament o característiques, que provoca un tracte perjudicial/desfavorable de manera injustificada o desproporcionada o en un context social que no guardi relació amb els contextos on es van recollir les dades originalment.
  • Avaluacions de risc de persones físiques amb la finalitat de valorar o predir el risc que una persona física cometi un delicte, basant-se únicament en l'elaboració del perfil d'una persona física o en l'avaluació dels trets i les característiques de la seva personalitat.
  • Creació o ampliació de bases de dades de reconeixement facial mitjançant l'extracció no selectiva d'imatges facials d'Internet o dels circuits tancats de televisió.
  • Inferència de les emocions d'una persona física als llocs de treball i als centres educatius, excepte quan l'ús del sistema d'IA estigui destinat a ser instal·lat o introduït al mercat per motius mèdics o de seguretat;
  • Els sistemes de categorització biomètrica que classifiquin individualment les persones físiques sobre la base de les seves dades biomètriques per deduir o inferir la seva raça, opinions polítiques, afiliació sindical, conviccions religioses o filosòfiques, vida sexual o orientació sexual (hi ha algunes excepcions).
  • L'ús de sistemes d'identificació biomètrica remota «en temps real» en espais d'accés públic amb finalitats de garantia del compliment del Dret, llevat i en la mesura que aquest ús sigui estrictament necessari per assolir algun dels objectius establerts en el present article.
  • Altres pràctiques d'IA que infringeixen altres disposicions del Dret de la Unió.

 

  1. Sistemes d'IA d'alt risc (Articles 6-49)

Si el sistema d'IA que la vostra empresa utilitza o desenvolupa es classifica com d'alt risc, la vostra interacció amb aquest sistema estarà subjecta a requisits i obligacions especialment estrictes. Un resum molt simplificat és que els sistemes d'IA seran d'alt risc quan siguin o proporcionin característiques de seguretat per a productes subjectes a la normativa d'harmonització de la UE, o quan tinguin per objecte proporcionar característiques de seguretat per a infraestructures crítiques, o quan suposin un risc significatiu de dany per a la salut, la seguretat o els drets fonamentals de les persones físiques, inclosa la influència material en el resultat de la presa de decisions, especialment en el cas de l'elaboració de perfils.

Un sistema es classificarà com d'alt risc quan:

  • el sistema d'IA està destinat a ser utilitzat com a component de seguretat d'un producte, o el propi sistema d'IA és un producte, que entri en l'àmbit d'aplicació dels actes legislatius d'harmonització de la Unió enumerats a l'annex I; I
  • el producte del qual el sistema d'IA sigui component de seguretat, o el propi sistema d'IA com a producte, hagi de sotmetre's a una avaluació de la conformitat de tercers per a la seva introducció al mercat o posada en servei d'acord amb els actes legislatius d'harmonització de la Unió.

L'annex 3 enumera també una sèrie de sistemes que es consideraran d'alt risc. Això serà especialment rellevant per a aquells que interactuïn amb sistemes d'IA en els àmbits següents:

  • Biometria
  • Infraestructures crítiques
  • Educació i formació professional
  • Ocupació, gestió de treballadors i accés a l'autoocupació
  • Accés i gaudi de serveis privats essencials i serveis i prestacions públics essencials.
  • Garantia del compliment del Dret
  • Migració, asil i gestió del control fronterer
  • Administració de justícia i processos democràtics
Si el sistema d'IA que uses o proporciones entra en l'àmbit d'aplicació de l'annex 3 però no el consideres d'alt risc, has de documentar els motius de la teva decisió.

 

Requisits dels sistemes d'IA d'alt risc

Els sistemes d'IA d'alt risc han de complir els requisits establerts a la secció 2 del RIA, tenint en compte les seves finalitats, així com l'estat de la tècnica generalment reconegut en matèria d'IA i tecnologies relacionades amb la IA. El proveïdor del sistema d'IA és el responsable de garantir que el seu producte compleix plenament tots els requisits aplicables.

  • S'establirà, implantarà, documentarà i mantindrà un sistema de gestió de riscos en relació amb els sistemes d'IA d'alt risc (article 9).
  • Els sistemes d'IA d'alt risc que utilitzen tècniques que impliquen l'entrenament de models d'IA amb dades es desenvoluparan a partir de conjunts de dades d'entrenament, validació i prova que compleixin els criteris de qualitat als quals es refereix l'article 10, inclosa l'adopció de mesures per evitar possibles biaixos, garantint que els conjunts de dades siguin suficientment representatius i manquin d'errors.
  • La documentació tècnica es redactarà de manera que demostri que el sistema d'IA d'alt risc compleix els requisits. S'elaborarà abans de la seva introducció al mercat o posada en servei i es mantindrà actualitzada (article 11 i annex IV).
  • Els sistemes d'IA d'alt risc hauran de permetre tècnicament el registre automàtic d'esdeveniments (arxius de registre) al llarg de tot el cicle de vida del sistema per detectar riscos i vigilar el funcionament. (Article 12)
  • Aquests sistemes es dissenyaran i desenvoluparan de manera que es garanteixi que funcionen amb un nivell de transparència suficient perquè els responsables de desplegament interpretin i usin correctament els seus resultats de sortida i compleixin les seves obligacions. Això inclourà instruccions d'ús clares i accessibles posades a disposició dels responsables de desplegament (article 13)
  • La supervisió humana tindrà per objecte prevenir o reduir al mínim els riscos per a la salut, la seguretat o els drets fonamentals que puguin sorgir quan s'utilitza un sistema d'IA d'alt risc d'acord amb la seva finalitat prevista o quan se li dóna un ús indegut raonablement previsible, i els sistemes d'IA d'alt risc es dissenyaran i desenvoluparan de manera que ho permetin (article 14).
  • Disseny i desenvolupament que assoleixin un nivell adequat de precisió, solidesa i ciberseguretat, i que garanteixin que els sistemes d'IA d'alt risc funcionen de manera uniforme en aquests aspectes durant tot el seu cicle de vida (article 15).

 

Obligacions dels proveïdors de sistemes d'IA d'alt risc

Hi ha moltes persones implicades en la cadena de valor de la IA, entre elles els importadors (article 23), els distribuïdors (article 24), els responsables de desplegament (article 26) i tercers, tots els quals estan subjectes a les seves pròpies obligacions, però qualsevol d'ells també pot estar subjecte a les obligacions del proveïdor si:

  • Posen el seu nom o marca en un sistema d'IA d'alt risc;
  • Modifiquen substancialment un sistema d'intel·ligència artificial d'alt risc de manera que continuï sent d'alt risc; o
  • Modifiquen la finalitat prevista d'un sistema d'IA, inclòs un sistema d'IA d'ús general, que no hagi estat considerat d'alt risc, de tal manera que es converteix en sistema d'IA d'alt risc.

Les obligacions dels proveïdors de sistemes d'IA d'alt risc s'estableixen en gran mesura als articles 16 a 22 del RIA i inclouen:

  • Garantir que els sistemes d'IA d'alt risc compleixen els requisits esmentats anteriorment.
  • Indicar la seva empresa i les dades de contacte.
  • Comptar amb un sistema de gestió de la qualitat (article 17).
  • Conservar la documentació pertinent (article 18)
  • Quan estiguin sota el seu control, conservar els arxius de registre generats automàticament pels seus sistemes d'IA d'alt risc (article 19)
  • Assegurar-se que el sistema d'IA sigui sotmès al procediment pertinent d'avaluació de la conformitat a què es refereix l'article 43 abans de la seva introducció al mercat o posada en servei.
  • Elaborar una declaració UE de conformitat i col·locar el marcatge CE en el sistema, l'embalatge o la documentació (articles 47 i 48).
  • Complir les obligacions de registre (article 49).
  • Cooperar amb les autoritats nacionals competents.
  • Notificar qualsevol incident greu relacionat amb el sistema d'IA a les autoritats de vigilància del mercat dels estats membres en els quals s'hagi produït aquest incident (article 73).
  • Vetllar perquè el sistema d'IA d'alt risc compleixi els requisits d'accessibilitat de conformitat amb les Directives (UE) 2016/2102 i (UE) 2019/882.
  • (En el cas de proveïdors establerts en tercers països) Nomenar, mitjançant un mandat escrit, un representant autoritzat que estigui establert a la Unió abans de comercialitzar els seus sistemes d'IA d'alt risc al mercat de la Unió (article 22).

Encara que el proveïdor és el principal responsable que el sistema d'IA d'alt risc compleixi els requisits esmentats, els importadors i distribuïdors tenen la responsabilitat de verificar aquesta conformitat, de no comprometre-la i de cooperar amb les autoritats competents pertinents.

 

Obligacions dels responsables del desplegament de sistemes d'IA d'alt risc (article 26)

Els responsables del desplegament de sistemes d'IA d'alt risc (és a dir, els qui facin ús d'aquests sistemes amb finalitats professionals) hauran de:

  • Adoptar les mesures tècniques i organitzatives adequades per garantir que utilitzen aquests sistemes d'acord amb les instruccions d'ús que els acompanyen.
  • Encomanar la supervisió humana a persones físiques que tinguin la competència, la formació i l'autoritat necessàries.
  • (En la mesura en què exerceixi el control sobre les dades d'entrada) assegurar-se que les dades d'entrada siguin pertinents i suficientment representatives en vista de la finalitat prevista del sistema d'IA d'alt risc.
  • Vigilar el funcionament del sistema d'IA d'alt risc basant-se en les instruccions d'ús.
  • Informar el proveïdor o distribuïdor i l'autoritat de vigilància del mercat pertinent i suspendre l'ús del sistema quan tinguin motius per considerar que la seva utilització d'acord amb les instruccions pot donar lloc a un risc per a la salut, la seguretat o els drets fonamentals de les persones.
  • Conservar els arxius de registre generats automàticament pel sistema d'IA d'alt risc en la mesura en què estiguin sota el seu control
  • Quan escaigui, utilitzar la informació facilitada per complir l'obligació de dur a terme una avaluació d'impacte relativa a la protecció de dades
  • Cooperar amb les autoritats competents pertinents

Alguns casos d'ús específics:

  • Els responsables del desplegament dels sistemes d'IA d'alt risc als quals es refereix l'annex III que prenguin decisions o ajudin a prendre decisions relacionades amb persones físiques informaran les persones físiques que estan exposades a la utilització dels sistemes d'IA d'alt risc.
  • Abans de posar en servei o utilitzar un sistema d'IA d'alt risc en el lloc de treball, els responsables del desplegament que siguin empresaris informaran els representants dels treballadors i els treballadors afectats que estaran exposats a la utilització del sistema d'IA d'alt risc.
  • Els responsables del desplegament de sistemes d'IA d'alt risc que siguin autoritats públiques o institucions, òrgans i organismes de la Unió compliran les obligacions de registre i no utilitzaran sistemes que no hagin estat registrats a la base de dades de la UE.
  • En el cas que els resultats de sortida d'un sistema d'IA d'alt risc s'utilitzin per prendre decisions sobre persones que produeixin efectes jurídics o efectes significatius similars de manera que tinguin un efecte perjudicial per a la seva salut, la seva seguretat o els seus drets fonamentals, els responsables del desplegament han d'atendre les persones afectades en el seu dret a obtenir explicacions clares i significatives sobre el paper que el sistema d'IA ha tingut en el procés de presa de decisions i els principals elements de la decisió adoptada (article 86).
  • En el marc de la investigació penal, els responsables de desplegament de sistemes d'IA d'alt risc per a la identificació biomètrica remota estan subjectes a obligacions específiques (article 26, apartat 10)

 

  1. Avaluació de l'impacte relativa als drets fonamentals per als sistemes d'IA d'alt risc (article 27)

A excepció dels sistemes destinats a ser utilitzats com a components de seguretat d'infraestructures crítiques, els actors següents hauran de dur a terme una avaluació d'impacte relativa als drets fonamentals, seguint el procediment recollit a l'article 27 del RIA, abans de desplegar un sistema d'alt risc:

  • Responsables de desplegament que siguin organismes de dret públic;
  • Responsables de desplegament que siguin entitats privades que prestin serveis públics;
  • Responsables de desplegament de sistemes d'IA d'alt risc que s'utilitzin per avaluar la solvència creditícia o per dur a terme l'avaluació de riscos i la fixació de preus en relació amb les persones físiques en el cas de les assegurances de vida i de salut.

 

  1. Obligacions de transparència (article 50)

A alguns els preocupa que estiguem avançant cap a una època en què ens resulti gairebé impossible saber si els continguts amb què interactuem han estat generats per humans o per IA. Per això, el RIA estableix certes obligacions de transparència tant per a qui proporciona com per a qui desplega (utilitza) determinats sistemes d'IA, independentment de si són d'alt risc o no. Hi ha algunes excepcions, sobre les quals es trobarà més informació a l'article 50.

  • Si sou proveïdor de sistemes d'IA destinats a interactuar directament amb persones físiques, aquestes han de ser informades que estan interactuant amb un sistema d'IA.
  • Si sou proveïdor de sistemes d'IA que generen continguts sintètics d'àudio, imatge, vídeo o text, els resultats de sortida han d'estar marcats en un format llegible per màquina i ser detectables com a generats o manipulats de manera artificial.
  • Si utilitzes un sistema de reconeixement d'emocions o un sistema de categorització biomètrica, has d'informar les persones físiques del seu funcionament i tractar les seves dades personals de conformitat amb la legislació de la Unió.
  • Si utilitzes un sistema d'IA que genera o manipula imatges, o continguts d'àudio o vídeo que constitueixen una ultrasuplantació (que s'assemblen a persones, objectes, llocs, entitats o esdeveniments reals i que poden induir una persona a creure erròniament que són autèntics o verídics), has de fer públic que aquests continguts o imatges han estat generats o manipulats de manera artificial.
  • Si utilitzes un sistema d'IA que genera o manipula text que es publica amb la finalitat d'informar el públic sobre assumptes d'interès públic, has de divulgar que el text ha estat generat o manipulat de manera artificial, llevat que el contingut generat per IA hagi estat sotmès a un procés de revisió humana o de control editorial i quan una persona física o jurídica tingui la responsabilitat editorial per la publicació del contingut.

Aquesta informació s'ha de facilitar de manera clara i distinguible com a màxim en ocasió de la primera interacció o exposició de la persona física.

 

  1. Models d'IA d'ús general (Capítol V)

No només els sistemes d'IA d'alt risc estaran subjectes a obligacions; els proveïdors de models d'IA d'ús general també hauran de respectar certes normes. Si la teva empresa proporciona un model d'IA d'ús general, cal:

  • Elaborar i mantenir actualitzada la documentació tècnica del model, inclosa la informació relativa al procés d'entrenament i realització de proves, i els resultats de la seva avaluació.
  • Elaborar, mantenir actualitzada i posar a disposició dels proveïdors de sistemes d'IA que tinguin la intenció d'integrar el model d'IA d'ús general en els seus sistemes d'IA la informació i documentació necessàries perquè puguin entendre bé les capacitats i limitacions del model i complir les seves obligacions.
  • Establir directrius per complir el Dret de la Unió en matèria de drets d'autor i drets afins i, en particular, per detectar i complir, per exemple mitjançant tecnologies d'avantguarda, una reserva de drets expressada.
  • Elaborar i posar a disposició del públic un resum prou detallat del contingut utilitzat per a l'entrenament del model d'IA d'ús general.
  • Cooperar segons calgui amb la Comissió i les autoritats nacionals competents en l'exercici de les seves competències i facultats.
  • (En el cas de proveïdors establerts en tercers països) Nomenar, mitjançant un mandat escrit, un representant autoritzat que estigui establert a la Unió abans d'introduir al mercat de la Unió un model d'IA d'ús general.

Hi ha algunes excepcions per als models de llicència lliure i de codi obert. Consulteu els articles 53-54.

En canvi, els models d'IA d'ús general que es consideren de risc sistèmic han de complir altres obligacions (Article 55). Es tracta de models que tenen capacitats de gran impacte avaluades a partir d'eines i metodologies tècniques adequades, com ara indicadors i paràmetres de referència. A títol orientatiu, es presumirà que un model d'IA d'ús general té capacitats de gran impacte quan la quantitat acumulada de càlcul utilitzada per al seu entrenament, mesurada en operacions de coma flotant, sigui superior a 1025.

A més de les obligacions per als models d'IA d'ús general esmentades anteriorment, els models d'IA d'ús general amb risc sistèmic també hauran de:

  • Avaluar els models de conformitat amb protocols i eines normalitzats.
  • Avaluar i mitigar els possibles riscos sistèmics a escala de la Unió
  • Vigilar, documentar i comunicar, sense demora indeguda, a l'Oficina d'IA i, si escau, a les autoritats nacionals competents, la informació pertinent sobre incidents greus i les possibles mesures correctores per resoldre'ls.
  • Vetllar perquè s'estableixi un nivell adequat de protecció de la ciberseguretat per al model d'IA d'ús general amb risc sistèmic i la infraestructura física del model.

 

  1. Codis de bones pràctiques (Article 56)

L'Oficina d'IA fomentarà i facilitarà l'elaboració de codis de bones pràctiques a escala de la Unió a fi de contribuir a l'aplicació correcta del present Reglament, tenint en compte els plantejaments internacionals. Aquests codis estaran finalitzats com a molt tard el 2 de maig de 2025.

 

  1. Espais controlats de proves per a la IA («AI Regulatory Sandboxes»)

«Espai controlat de proves per a la IA»: un marc controlat establert per una autoritat competent que ofereix als proveïdors i proveïdors potencials de sistemes d'IA la possibilitat de desenvolupar, entrenar, validar i provar, en condicions reals quan escaigui, un sistema d'IA innovador, d'acord amb un pla d'espai controlat de proves i durant un temps limitat sota supervisió regulatòria. Els Estats membres vetllaran perquè les seves autoritats competents estableixin almenys un espai controlat de proves per a la IA a escala nacional, que estarà operatiu com a molt tard el 2 d'agost de 2026 (article 57).

Qualsevol prova de sistemes d'IA d'alt risc en condicions reals fora dels espais controlats de proves per a la IA ha de complir les condicions establertes a l'article 60 i comptar amb el consentiment previ, lliure i informat dels subjectes de la prova.

 

  1. Sancions (articles 99 - 101)

Els Estats membres establiran el règim de sancions i altres mesures d'execució, com ara advertiments o mesures no pecuniàries. Les sancions previstes hauran de ser efectives, proporcionades i dissuasòries i tenir en compte els interessos de les PIME, incloses les empreses emergents, així com la seva viabilitat econòmica.

El RIA estableix una escala de possibles multes administratives:

  • Per incompliment de la prohibició de determinades pràctiques d'IA: Fins a 35.000.000 EUR o, si l'infractor és una empresa, fins al 7 % del seu volum de negocis mundial total corresponent a l'exercici financer anterior, si aquesta quantia fos superior.
  • Per incompliment de les obligacions i els requisits dels organismes notificats i dels actors de la cadena de valor dels models d'IA d'alt risc: Fins a 15.000.000 EUR o, si l'infractor és una empresa, fins al 3 % del seu volum de negocis mundial total corresponent a l'exercici financer anterior, si aquesta quantia fos superior.
  • Per la presentació d'informació inexacta, incompleta o enganyosa als organismes notificats o a les autoritats nacionals competents en resposta a una sol·licitud: Fins a 7.500.000 EUR o, si l'infractor és una empresa, fins a l'1 % del volum de negocis mundial total corresponent a l'exercici financer anterior, si aquesta quantia fos superior.
  • Multes imposades per la Comissió als proveïdors de models d'IA d'ús general que hagin infringit o incomplit de forma deliberada o per negligència les disposicions del present Reglament: Multes que no superin el 3 % del seu volum de negocis mundial total anual corresponent a l'exercici financer anterior o de 15.000.000 EUR, si aquesta xifra és superior.

Altres conseqüències de l'incompliment inclouen:

  • Ordre de l'autoritat nacional de vigilància del mercat de suspendre, posar fi o modificar les proves en condicions reals que no compleixin les condicions del RIA (article 76).
  • Quan l'autoritat de vigilància del mercat consideri que un sistema d'IA presenta un risc per a la salut, la seguretat o els drets fonamentals de les persones, exigirà que s'adoptin mesures correctives perquè el sistema d'IA sigui conforme, o la retirada o recuperació del sistema d'IA del mercat. (article 79)
  • Ordre de l'autoritat de vigilància del mercat d'esmenar l'incompliment formal de les obligacions relatives al marcatge CE, les declaracions UE de conformitat, la documentació tècnica, etc. (article 83)

 

Aquest Reglament d'IA serà aplicable amb caràcter general a partir del 2 d'agost de 2026.

No obstant això, s'apliquen dates d'aplicació diferents a determinades seccions del Reglament:

  • Els capítols I (Disposicions generals) i II (Pràctiques d'IA prohibides) s'aplicaran a partir del 2 de febrer de 2025;
  • El capítol III, secció 4 (Autoritats notificants i organismes notificats), el capítol V (Models d'IA d'ús general), el capítol VII (Governança) i el capítol XII (Sancions) i l'article 78 (Confidencialitat) s'aplicaran a partir del 2 d'agost de 2025, a excepció de l'article 101 (Multes a proveïdors de models d'IA d'ús general);
  • La classificació de determinats sistemes com a sistemes d'IA d'alt risc d'acord amb l'article 6, apartat 1, pel que fa a les característiques de seguretat d'un producte i als productes subjectes a normes d'harmonització, i les obligacions corresponents del present Reglament s'aplicaran a partir del 2 d'agost de 2027.

 

Busques assessorament respecte al compliment de la normativa de la UE i/o la manera en què la teva empresa tracta les dades personals? Posa't en contacte amb nosaltres per resoldre els teus dubtes:

Abigail Sked

 

Data de publicació: 6 de juliol, 2026

Última actualització: 6 de juliol, 2026