Ce este și cu ce se mănâncă strategia națională privind inteligența artificială
Scopul acestei strategii este să contribuie la transformarea digitală a țării și să se alinieze la viziunea și valorile Uniunii Europene privind IA. Strategia încearcă o acoperire destul de largă a inteligenței artificiale în România, vizând aproape toate fațetele vieții noastre în această țară. Înțelegem această abordare, având în vedere paginile în care strategia deplânge performanța României în materie de transformare digitală și rămânerea în urmă în ceea ce privește cercetarea și inovarea în general.
Dar tocmai această abordare poate să se întoarcă împotriva implementării, având în direcțiile multiple care trebuie urmărite și numărul de instituții implicate în implementare și monitorizare. Nu zicem că ar trebui restrânsă implicarea instituțională, dar o structură de guvernanță robustă și bine pusă la punct poate duce la îndeplinire această strategie. Asta și încă mai multe se află mai jos în secțiunea „10 moduri prin care putem îmbunătăți strategia IA”.
Principalele aspecte ale documentului:
- Viziune, misiune și principii: Strategia prezintă o viziune asupra dezvoltării IA în România, precum și misiunea de a utiliza IA pentru beneficiul cetățenilor și economiei naționale. Principiile de pornire includ transparența, etica și securitatea datelor. Misiunea este: IA de încredere și excelență, motor de creștere economică și bunăstare socială în România.
- Obiective generale și specifice:
Așa cum am menționat mai sus, putem vedea încercarea de a surprinde toate fațetele vieții societății și economiei românești în această strategie. De la educație la agricultură, cercetare și transport, IA ar trebui să fie peste tot. Totuși, ceva lipsește din această abordare: totul este roz cu picățele, iar abordarea bazată pe risc, exact abordarea pe care o are UE în recent aprobatul Act privind Inteligența Artificială și în Carta Albă privind IA, lipsește. Dovadă? Secțiunea cu privire la “impactul cu privire la drepturile fundamentale ale omului” din Nota de fundamentare care însoțește proiectul de Hotărâre de Guvern este completată astfel: “Nu este cazul”.
3. Rezultate așteptate și impact socio-economic:
Ideile de mai jos le-a extras Copilot:
- Îmbunătățirea calității vieții prin soluții IA inovatoare.
- Creșterea competitivității economice prin adoptarea IA.
- Îmbunătățirea serviciilor publice și a administrației prin implementarea IA.
- Promovarea inovării și a spiritului antreprenorial în domeniul IA.
- Asigurarea securității și rezilienței sistemelor IA.
De aici intervin eu 🙂
În realitate, secțiunea de rezultate așteptate este destul de puțin dezvoltată, aducând în discuție doar elemente generale neadaptate cu adevărat măsurilor și obiectivelor. Pe scurt, nu vedem legătura directă dintre obiective și rezultate sau impact. Aici intervine iarăși “pictura în roz cu picățele” asupra impactului, pentru că toate cifrele și elementele date sunt pozitive. Nu vorbim de job displacement, de necesitatea transformării modelelor de business ale multor companii pentru a rămâne competitive, lucru iarăși greu de realizat fără un ghidaj bine pus la punct sau de intruziuni în drepturile fundamentale ale oamenilor.
În cartea “Power and Progress. Our Thousand-Year Struggle over Technology and Prosperity”, Acemoglu și Johnson (ambii profesori la MIT, deci nu sunt chiar “nime-n drum”) arată că această viziune pozitivă asupra tehnologiei vine cu inegalități și cu efecte nedorite. Depinde de noi ce alegeri facem cu privire la utilizarea tehnologiei. Mai mult, ei aduc argumente în favoarea unui cadru legal și instituțional care să ghideze utilizarea tehnologiei în așa fel încât progresul tehnologic să nu vină cu mai multe inegalități.
10 moduri prin care putem îmbunătăți Strategia privind IA
Ok bun, și ce facem acum? Păi, putem îmbunătăți strategia pentru a reflecta mai bine contextul socio-economic românesc și reglementările și discuțiile internaționale pe temă. Am inclus mai jos 10 moduri prin care strategia poate fi îmbunătățită. Am identificat cele 10 moduri pornind de la misiunea asumată a strategiei, de la alte exemple de strategii și de la necesitatea unei legături cu politicile europene și unei raportări la contextul românesc. Nu sunt singurele 10 moduri posibile, desigur. Sunt structurate pe câteva elemente principale:
Drepturi fundamentale
- Dezvoltarea conținutului strategiei cu aspecte legate de impactul inteligenței artificiale asupra drepturilor omului. Măsurile prevăzute, cum ar fi extinderea utilizării IA în diverse domenii socio-economice, de la transporturi la agricultură, au impact la nivelul autonomiei, libertății individuale și de expresie a cetățenilor. Strategia nu abordează aceste aspecte, decât ca fundamentare a acesteia pe anumite principii. De ce? Strategia vizează IA, o tehnologie cu profund impact asupra drepturilor fundamentale, lucru scos în evidență de politica digitală a Uniunii Europene, mai ales prin prisma Declarației privind Drepturile și Principiile Digitale, aprobată la nivelul UE în 2023. Mai mult, etica în inteligența artificială și grija față de respectarea drepturilor fundamentale este analizată și în raportul grupului consultativ al ONU cu privire la inteligența artificială.
Noi măsuri în linie cu contextul românesc și politicile europene
2. Includerea abordării bazate pe risc. Modificarea titlului OS1.2. din “Creșterea nivelului de înțelegere de bază a populației privind beneficiile, utilizarea și reglementarea tehnologiilor IA” în “Creșterea nivelului de înțelegere de bază a populației privind beneficiile, riscurile, utilizarea și reglementarea tehnologiilor IA” și integrarea de măsuri aferente conștientizării riscurilor. De ce? Această modificare este în concordanță cu abordarea europeană a IA bazată pe risc și echilibrează discursul cu privire la IA.
3. Ce zic românii despre IA? Includerea unei măsuri privind măsurarea percepției și nivelului de înțelegere a IA la nivelul populației ca punct de pornire pentru măsurile de instruire și informare a populației generale cu privire la inteligența artificială. De ce? OS 1.2 se intitulează “creșterea nivelului de înțelegere a populației”, dar acest lucru nu se poate realiza fără o măsurare inițială a nivelului de înțelegere și percepție asupra IA. Nivelul competențelor digitale din România se poate utiliza doar parțial ca “proxy”, având în vedere potențialul și riscurile inteligenței artificiale.
4. Sprijin pentru companiile mici. Includerea în interiorul OS5.2. Adoptarea și valorificarea tehnologiilor de IA în sectoare socio-economice prioritare a unei măsuri de sprijin pentru alinierea la prevederile Actului privind Inteligența Artificială pentru startup-uri și IMM-uri care dezvoltă produse IA. De ce? Actul privind Inteligența Artificială a fost adoptat de curând și prevede o serie de obligații legale în funcție de tipul de produse IA realizate și domeniul în care acestea se utilizează. Costurile cu privire la respectarea prevederilor acestui act variază în funcție de stakeholder implicat și domeniu, dar startupurile au nevoie de sprijin pentru a putea continua dezvoltarea produselor. O astfel de măsură de sprijin legal/financiar/organizațional completează măsurile privind realizarea de infrastructuri de testare și regulatory sandboxes (medii de testare a unor soluții noi al căror impact nu se cunoaște, iar companiile pot testa fără repercusiuni legale) sau de stimulare a inovației în IA.
5. Chat-GPT et co. Includerea unor măsuri privind informarea, integrarea și utilizarea aplicațiilor de tip GenAI în societate și economie, în special cu privire la impactul deepfakes și a “synthetic media” în societatea românească. De ce? Aspectele privind GenAI lipsesc din stategie, cu toate că acestea sunt deja utilizate la nivelul populației. GenAI a devenit una dintre cele mai facile tehnologii IA de utilizat și necesită o serie de măsuri țintite. Această măsură ar trebui coroborată cu proiectul de lege privind deepfake, aflat în proces decizional. Proiectul nu conține prevederi privind informarea populației.
6. Cum ajută IA mediul? Dezvoltarea măsurilor din Programul – Adoptarea și valorificarea IA în sectoarele mediu înconjurător și energie – pentru a include măsuri mai clare cu privire la utilizarea IA în sprijinul mediului înconjurător, mai ales pentru cercetarea în domeniul schimbărilor climatice, spre exemplu. De ce? Utilizarea IA nu trebuie să fie un scop în sine, ci un vehicul pentru rezolvarea unor probleme societale și economice, dincolo de creștere economică etc.
Guvernanță și implementare
7. Dezvoltarea cadrului de guvernanță a strategiei naționale prin:
- operaționalizarea unei structuri de guvernanță care să nu se limiteze doar la un comitet interministerial,
- explicitarea legăturii și a contribuției Comitetului Român pentru Inteligență Artificială, împreună cu toate componentele sale, și Comitetul interministerial,
- implicarea societății civile în Comitetul Român pentru Inteligență artificială cu rol de monitorizare a efectelor inteligenței artificiale asupra societății și drepturilor fundamentale în particular (în momentul de față nu avem cunoștință de un grup de lucru format în acest sens, iar structura Comitetul pentru AI nu cere explicit creionarea unei astfel de inițiative)
- realizarea unei legături dintre viitoarea instituție care va fi parte din structura de guvernanță a AI Act la nivel european și structura de guvernanță a strategiei naționale pentru inteligență artificială. Există deja o arhitectură a inițiativelor strategice privind IA în România, aprobată prin Memorandum în 2022, dar aceasta nu se leagă de Comitetul interministerial propus spre înființare.
De ce? Justificarea ține de caracterul orizontal pe care IA îl are pentru societate și economie, ce cere o structură de guvernanță cu viziune largă asupra schimbărilor prin care vor trece societatea și economia. Also, vezi mai sus ce am mai scris 🙂
8. Clarificarea referirilor cu privire la urmărirea indicatorilor de realizare imediată. Ca să putem urmări tot ce se întâmplă sub umbrela acestei strategii, avem nevoie să știm la ce vrem să ajungem. Pentru asta sunt indicatorii și țintele, care pot urmări măsuri pe termen scurt (indicatori de realizare) sau pe termen mai lung (de rezultat). Ei bine, indicatorii aceștia de urmărit pe termen scurt nu se regăsesc în textul strategiei. Deci, nu știm pașii mărunți care se vor face pentru a ajunge la ceea ce-și dorește strategia. Sau, în limbaj academic: Strategia cuprinde obiective generale cu indicatori de impact aferenți, obiective specifice cu indicatori de rezultat aferenți, dar indicatorii de realizare nu transpar în textul strategiei. De ce? Indicatorii de realizare imediată sunt menționați semnificativă a implementării și monitorizării strategiei, dar nu sunt descriși.
9. Dezvoltarea și asumarea unui buget mai conturat, coroborat cu un calendar general de implementare, pentru a corela direct obiectivele generale și specifice cu un posibil buget. Mai precis: asumarea deschiderii unor linii de finanțare pentru implementarea măsurilor și atingerea țintelor strategiei.
Impact
10. Impactul socio-economic al adoptării strategiei necesită o analiză profundă și mult mai extinsă decât ceea ce se prezintă în acest document. Nu regăsim analize de impact sau corelarea dintre obiectivele asumate și atingerea țintelor. Este nevoie să se integreze analize adaptate la specificul mediului românesc, unde nivelul de competențe digitale este cel mai scăzut din UE și unde integrarea tehnologiilor digitale în companii este la un nivel scăzut. De ce? Do I really have to say it? 🙂 Ok fie: Prezentarea contextului și analiza problemelor se află într-un contrast pregnant cu prezentarea rezultatelor și impactului. Această secțiune nu face legătura aproape deloc cu principalele probleme evidențiate în debutul strategiei. De asemenea, fără date și analize care să se refere exact la specificul socio-economic al României, prezentarea impactului socio-economic din strategie nu are cum să fie strict de natură pozitivă, așa cum este prezentat în strategie.
Concluzionând…
Era o replică într-un serial, de unde parafrazez: în momentul în care nu știi unde să mergi mai departe, te întorci, citești misiunea și ai răspunsul acolo. Misiunea strategiei începe cu: „IA de încredere și excelență”. Partea de excelență e acoperită, dar cea de încredere e cu adevărat acoperită în obiectivele și măsurile strategiei? Dar bunăstarea socială? Avem roz cu picățele. Mai avem nevoie de realitate.
