În ultimele luni, Comisia Europeană (CE), prin intermediul AI Office, a accelerat procesul de elaborare a unui cod de practică (CoP) pentru furnizorii de sisteme de inteligență artificială de tip general (GPAI). Inițiativa se înscrie într-un efort mai larg de reglementare, marcat de adoptarea viitorului regulament privind inteligența artificială (AI Act). Cu toate acestea, cea de-a doua variantă a acestui cod a stârnit critici semnificative în rândul industriei și al factorilor de decizie, din cauza caracterului grăbit al consultărilor, a reluării unor măsuri legislative anterior respinse și a extinderii domeniului de aplicare mult dincolo de ceea ce prevede AI Act. Pe fundalul competiției internaționale tot mai intense, preocupările legate de menținerea competitivității și inovării europene în domeniul IA devin din ce în ce mai acute.

1. Un proces grăbit și consultări superficiale
Un prim motiv de îngrijorare îl reprezintă ritmul accelerat impus de CE. Actorii industriei au primit doar 10 zile pentru a furniza comentarii pe prima variantă a CoP, după care, în două săptămâni, a apărut deja a doua versiune. Dată fiind complexitatea domeniului și diversitatea părților interesate, de la mari companii tehnologice și IMM-uri, până la organizații ale societății civile și experți independenți, este dificil de conceput că un interval atât de scurt permite o integrare adecvată a punctelor de vedere într-un text coerent.
Mai mulți membri ai Parlamentului European și asociații industriale au atras atenția că un CoP solid trebuie să fie clădit pe o bază de încredere și pe consultări minuțioase, bazate pe dovezi. Este nevoie de timp suficient pentru analiză și deliberare, astfel încât setul de reguli propus să fie realist, aplicabil și durabil. O procedură accelerată și, pe alocuri, netransparentă riscă să submineze credibilitatea rezultată din îndelungatele negocieri legislative ce au condus la AI Act.

2. Extinderea nejustificată a obligațiilor și revenirea la măsuri respinse anterior
Codul propus introduce detalii și cerințe suplimentare, precum indicatori-cheie de performanță (KPI-uri) și obligații prescriptive care depășesc cu mult prevederile inițiale ale AI Act. În plus, se reiau idei legislative care fuseseră deja respinse în negocierile privind AI Act, cum ar fi evaluările obligatorii realizate de terți pentru toate modelele IA. O astfel de cerință generează costuri ridicate și acces dificil la resurse, în special pentru întreprinderile mici și mijlocii, punând presiune suplimentară pe inovare.

De asemenea, se constată o „alunecare” a domeniului de aplicare în zone conexe, precum drepturile de autor și securitatea cibernetică, ceea ce riscă să conducă la suprapuneri de reglementări și la impunerea unor obligații disproporționate pentru companii. Spre exemplu, se menționează posibilitatea ca „overfitting”-ul să fie considerat o încălcare a drepturilor de autor. Aceasta poate fi o abordare controversată, deoarece tehnica de antrenare excesivă a unui model este mai degrabă o problemă tehnică decât un subiect legal.

Prin introducerea acestor aspecte, noul cod creează confuzie și incertitudine juridică, punând dezvoltatorii de IA în situația de a respecta obligații neclare sau de a-și expune practicile comerciale sensibile. În plus, apare și problema „goldilocks”: un cod prea strict devine greu de aplicat, dar relaxările prea mari pentru IMM-uri pot intra în conflict cu standardele unitare de siguranță stabilite prin AI Act.

3. Riscuri majore pentru competitivitatea și inovația europeană
O temere tot mai prezentă este că Europa ar putea pierde teren într-o competiție globală în care SUA și China sunt deja în avans, atât din punct de vedere al investițiilor, cât și al numărului de brevete și al cercetării în domeniul IA, conform Stanford AI Index 2024. Dacă UE va continua să introducă reglementări complexe și neclare, companiile inovatoare – inclusiv startup-urile – și investitorii de capital de risc s-ar putea orienta către alte regiuni mai favorabile.
Într-un raport recent, Digital Europe a subliniat că finanțarea prin capital de risc se îndreaptă către zone care oferă claritate și predictibilitate legislativă. Prin urmare, deși accentul pe etică și protecția drepturilor fundamentale este lăudabil, excesul de complexitate și constrângerile administrative pot genera „chilling effect”: un fenomen în care dezvoltatorii de IA, confruntându-se cu obligații neclare sau disproporționate, aleg să se mute ori să-și limiteze activitatea în Europa.

Consecințele se resimt nu doar în rândul companiilor de tehnologie, ci în întreaga economie europeană, deoarece sectoare-cheie precum industria, finanțele, sănătatea și transporturile devin din ce în ce mai dependente de soluții bazate pe inteligență artificială. O abordare greșită în reglementare ar putea încetini progresul tehnologic european și ar putea submina ambițiile de a construi un ecosistem de IA competitiv la nivel global.

4. Lecții pentru România și rolul Autorității pentru Digitalizarea României
Într-un context european din ce în ce mai competitiv și dinamic, România trebuie să își dezvolte propria strategie de adoptare, reglementare și promovare a tehnologiilor de IA. Prin implicarea directă și substanțială a Autorității pentru Digitalizarea României (ADR), țara noastră poate obține o poziție influentă la masa deciziilor europene, atât în cadrul negocierilor privind CoP pentru furnizorii de GPAI, cât și în implementarea AI Act. Abordarea strategică a ADR se poate concentra pe câteva direcții esențiale, care să asigure că România contribuie la un cadru legislativ european favorabil inovării și competitivității, menținând în același timp un nivel adecvat de protecție a drepturilor și intereselor cetățenilor.

4.1. De ce sunt necesare consultările autentice și ample?
Adoptarea unor reglementări în domeniul IA nu poate fi un proces exclusiv tehnic sau birocratic, ci trebuie să implice toți actorii relevanți. De la marile companii IT, care investesc în cercetare și dezvoltare, până la IMM-uri și startup-uri, care adesea aduc inovații de nișă, fiecare entitate are o perspectivă și nevoi specifice. Pe lângă sectorul privat, mediul academic și cercetătorii joacă un rol crucial în definirea standardelor științifice și a bunelor practici. Organizațiile societății civile și experții independenți pot oferi o viziune echilibrată, care să pună pe agendă considerente etice, de drepturi și libertăți fundamentale.

4.2. Cum se pot organiza consultările?
• Dezbateri publice: Organizarea unor serii de evenimente tematice (masă rotundă, workshop-uri, consultări online) în care să fie prezentate și discutate diverse capitole ale CoP și ale AI Act.
• Platforme de consultare digitală: ADR ar putea lansa o platformă online, pe modelul unora existente la nivelul CE, unde părțile interesate să poată trimite observații și sugestii într-un mod transparent.
• Parteneriate cu organizații profesionale: Colaborarea cu asociații precum Asociația Patronală a Industriei de Software și Servicii (ANIS), Camere de Comerț, clustere IT și alte structuri reprezentative, care pot centraliza opiniile sectorului privat și le pot transmite decidenților.

4.3. De ce este crucială claritatea și simplificarea?
Una dintre problemele identificate la nivel european este tendința CoP de a introduce cerințe suplimentare – KPI-uri, evaluări, obligații de conformitate – fără a exista o justificare consistentă sau o corelare directă cu AI Act. Un cadru reglementar prea amplu, lipsit de claritate, poate crea situații contradictorii, costuri de conformitate ridicate și chiar descurajarea inovării. Rolul ADR în clarificarea normelor poate include:
• Analiză de impact: ADR poate iniția, în colaborare cu institute de cercetare sau cu experți independenți, studii de impact care să identifice posibilele suprapuneri sau conflicte legislative între CoP și AI Act, precum și cu alte reglementări (de ex. legislația privind drepturile de autor, protecția datelor personale sau securitatea cibernetică).
• Propuneri de simplificare: Pe baza acestor analize, ADR poate propune CE adaptări sau clarificări care să asigure un cadru unitar și coerent. Acest demers va ajuta IMM-urile și startup-urile să înțeleagă mai ușor cerințele și să se conformeze fără a suferi o povară administrativă disproporționată.
• Rol de “mediator”: ADR poate acționa ca interfață între actorii naționali și instituțiile europene, consolidând și rafinând feedback-ul înainte să ajungă la nivelul Comisiei. În acest fel, pozițiile României se prezintă într-o formă coerentă și argumentată.

4.4. De ce sunt IMM-urile esențiale pentru inovație?
În ultimii ani, s-a constatat că un număr considerabil de inovații vin din zona IMM-urilor și a startup-urilor, deoarece aceste entități sunt mai agile, își pot asuma riscuri mai ușor și pot explora soluții de nișă. În România, sectorul IMM-urilor din IT a crescut semnificativ, devenind un motor economic important. Există numeroase modalități de sprijin prin care acestea pot fi susținute, incluzând:
• Programe de finanțare dedicate: ADR, împreună cu alte instituții (de ex. Ministerul Investițiilor și Proiectelor Europene), pot face lobby pentru crearea unor linii de finanțare din fonduri europene sau naționale destinate dezvoltării și testării de produse IA în IMM-uri.
• Hub-uri de inovare și living labs: Crearea sau susținerea hub-urilor de inovare digitală (Digital Innovation Hubs) și a “laboratoarelor vii” (living labs) unde companiile mici pot experimenta, beneficia de infrastructură tehnică și avea acces la expertiză universitară.
• Mentorat și consultanță specializată: De multe ori, IMM-urile nu dispun de resurse juridice sau de conformitate pentru a înțelege pe deplin implicațiile unui nou cadru de reglementare. ADR ar putea oferi suport sau ghiduri practice care explică pas cu pas ce obligații revin furnizorilor de IA, în conformitate cu CoP și AI Act.
• Reprezentare în forurile decizionale: În consultările cu partenerii europeni, ADR ar trebui să sublinieze impactul potențial asupra IMM-urilor și să propună mecanisme de ajustare a cerințelor în funcție de dimensiunea și capacitatea firmelor, pentru a nu bloca inovația încă din faza de start.

4.5. Protejarea proprietății intelectuale și a secretelor comerciale
AI Act și CoP subliniază importanța transparenței, în special în ceea ce privește identificarea riscurilor asociate cu IA și procesul de antrenare a modelelor. Cu toate acestea, anumite prevederi pot ajunge să forțeze dezvoltatorii să divulge informații sensibile despre arhitectura modelelor sau despre metodele de antrenare, sub pretextul asigurării siguranței și verificării conformității. În acest context, devine esențial să se găsească un echilibru între cerințele de transparență și necesitatea de a proteja secretele comerciale.

Una dintre principalele dificultăți constă în expunerea know-how-ului. În absența unor garanții solide privind confidențialitatea, companiile riscă să își piardă avantajul competitiv prin dezvăluirea elementelor cheie ale tehnologiei pe care o dezvoltă. În plus, există și riscul de litigii de copyright, mai ales în situațiile în care tehnica de „overfitting” sau simpla „re-producere” a unui conținut ar putea fi considerată încălcare a drepturilor de autor. O astfel de interpretare deschide calea unor conflicte juridice complicate și costisitoare pentru firmele românești, în special pentru startup-urile și IMM-urile cu resurse limitate.

O primă modalitate prin care ADR poate proteja inovația este susținerea unei definiții clare pentru „transparență”. La nivel european, ADR poate insista ca obligațiile de dezvăluire să fie strict proporționale cu gradul de risc al aplicației IA, evitând astfel practicile comerciale sensibile, protocoalele de antrenare și orice alte informații cruciale pentru competitivitate. Totodată, ADR ar putea propune introducerea unor excepții și mecanisme de protecție, similare altor reglementări europene, care să garanteze că secretele comerciale rămân bine apărate, permițând firmelor să concureze loial pe piață.

Pe lângă aceste măsuri, o colaborare strategică cu Oficiul de Stat pentru Invenții și Mărci (OSIM) poate ajuta la elaborarea unor ghiduri practice pentru protecția proprietății intelectuale, adaptate specific domeniului IA. Astfel, companiile vor înțelege cu mai mare claritate cum să își protejeze propriile inovații, asigurând un echilibru între transparență, competitivitate și respectarea normelor europene.

4.6. Evitarea supra-reglementării și a incertitudinii juridice
Ritmul rapid în care evoluează tehnologiile IA, precum și presiunea de a reglementa acest domeniu pot conduce la texte legislative contradictorii sau neclare. Supra-reglementarea apare atunci când se introduc cerințe inutile, duplicări legislative sau detalii excesive care îngreunează procedurile. În astfel de situații, rezultă incertitudine juridică, o frânare a inovației și, adesea, migrarea companiilor către alte piețe mai puțin restrictive.
O primă măsură o reprezintă promovarea principiului proporționalității în cadrul dezbaterilor la nivel european. ADR trebuie să sublinieze constant necesitatea calibrării obligațiilor în funcție de riscurile reale și de specificul fiecărui tip de aplicație IA, pentru a evita impunerea unor sarcini birocratice exagerate. De asemenea, simplificarea conformității este crucială: propunerea de proceduri unificate, standardizate și ușor de aplicat, mai ales pentru companiile nou-intrate pe piață, contribuie semnificativ la reducerea costurilor și a timpului necesar asigurării conformității.
Pe lângă aceste aspecte, un mecanism de monitorizare și feedback continuu după adoptarea AI Act și a CoP poate ajuta la identificarea din timp a problemelor de interpretare sau a lacunelor legislative, astfel încât ADR să poată semnala către autoritățile europene necesitatea unor ajustări ulterioare. Printr-un asemenea demers, România se poziționează ca partener activ și atent la efectele practice ale reglementării.

Un mediu legislativ previzibil și bine structurat reprezintă un factor esențial pentru atragerea investițiilor și pentru stimularea cercetării în domeniul IA. Dacă actorii privați cunosc în avans cerințele și obligațiile pe termen mediu și lung, vor fi mai înclinați să investească în proiecte ambițioase și să-și mențină activitatea în România. Astfel, claritatea și stabilitatea legislativă nu numai că sprijină dezvoltarea unui ecosistem local de inteligență artificială, dar creează și premisele pentru creșterea competitivității țării la nivel internațional.

5. Poziția Europuls - Centrul de Expertiză Europeană
Europuls consideră că UE are nevoie să-și reevalueze abordarea în elaborarea CoP, în concordanță cu principiile și limitele AI Act. Un proces temeinic de consultare, care să includă toți actorii, de la companii mari și IMM-uri, până la mediul academic, societatea civilă și experți tehnici. Acest lucru este indispensabil pentru a finaliza un document coerent și echitabil.

În egală măsură, este necesar să se evite repetarea unor propuneri legislative respinse anterior și introducerea unor noi obligații fără o justificare clară a necesității și eficacității lor. Dacă Europa dorește să stimuleze inovarea, să încurajeze competiția loială și să își consolideze poziția în cursa globală pentru dezvoltarea IA, trebuie să adopte un cadru de reglementare echilibrat, care să protejeze drepturile și valorile fundamentale, fără să descurajeze creativitatea și investițiile.

România se află într-un moment favorabil pentru a contribui la reglementarea europeană în materie de IA. Printr-o implicare activă și argumentată din partea ADR și a altor instituții relevante, țara noastră poate influența pozitiv modul în care CoP va fi implementat la nivel european. Adoptarea unui cod axat pe claritate, dialog real și proporționalitate a obligațiilor va sprijini atât mediul privat, cât și obiectivele strategice ale României și ale UE. În contextul în care SUA și China investesc masiv în AI și avansează rapid, este vital ca Europa să nu rămână în urma inovării. Un cadru de reglementare excesiv și grăbit riscă să submineze competitivitatea UE, iar România, alături de alte state membre, trebuie să vegheze la menținerea unui echilibru sănătos între siguranță, transparență și inovare.

Pe scurt, un CoP bine fundamentat, care să completeze și să nu denatureze AI Act, reprezintă un pas esențial pentru viitorul IA în Europa. România are șansa de a deveni un factor de echilibru și de progres în această discuție, sprijinind astfel dezvoltarea unui ecosistem european de IA robust, inovator și competitiv.