AuthorMirela Marcut

Fabrica de IA. Cum sprijină UE inițiativele în inteligență artificială

In Uniunea Europeană
De Mirela Marcut
8 minute

Am învățat o expresie nouă în limba germana: Da haben wir den Salat/acuma avem parte de salată! Înseamnă ceva de genul: deci, vezi în ce încurcătură ne-ai băgat?! Sensul vine de la faptul că salata e un mix de mai multe chestii, adică e de fapt un haos.

Putem spune asta și Uniunii Europene dacă ne gândim la reglementarea recent aprobată cu privire la inteligența artificială? Da haben wir den Salat! Discursul care nu vine dinspre UE e cam așa, în mare parte. Companiile europene sunt curtate de alte state să-și mute sediile din UE, vrăjindu-le cu reglementări relaxate și stimulente fiscale. Americanii zic și ei că ar putea reduce potențialul inovator în UE, ceea ce s-ar traduce prin mai puțină competitivitate și mai puțini bani, desigur. Deocamdată, nu avem decât unele calcule inițiale și, desigur, comparații cu alte reglementări (GDPR) care n-ar funcționa cum trebuie.

Dar, stați că e vorba de o salată, deci mai avem câteva ingrediente în plus acolo, nu doar un regulament. Despre asta e vorba în scurta (sper!) analiză: ce anume mai face UE pentru a ține companiile specializate în IA aici în Europa? Cum funcționează oportunitățile pentru IMM-uri pentru valorificarea inteligenței artificiale? Cum sprijină UE inițiativele în inteligență artificială?

Dacă n-ai timp să citești tot, uite aici câteva informații-cheie:

  • UE vrea să creeze niște structuri pentru a sprijini dezvoltarea de produse și servicii pe IA
  • De ce? pentru a antrena modele de IA, ai nevoie de câteva chestii: calculatoare puternice, acces la date care să fie analizate, oameni pregătiți, pe lângă idei. Nu prea multe companii europene își permit să aibă așa ceva la dispoziție.
  • Aici intră Fabricile de inteligență artificială 🙂 Pe scurt, supercalculatoarele europene vor primi upgrades, vor exista centre de date în apropiere, iar mai multe programe și inițiative europene vor fi direcționate pentru a susține aceste fabrici
  • Ce vrem să obținem cu asta? Realizarea de produse și servicii pe bază de IA în diverse domenii pentru a putea face față avalanșei de modele IA venite din SUA. Sau, cum ar spune unii mai fataliști, să nu pierdem cursa tehnologică.

Nu s-a terminat povestea cu inteligența artificială în UE?

Povestea nu se termină după adoptarea celei mai noi legislații privind IA. Povestea de-abia acum începe. Să spunem totuși aici că obligațiile pe care le au companiile în legătură cu această lege se leagă de tipul de risc care este evaluat. Cu cât e mai mare riscul pentru consumatori/cetățeni, cu atât mai mari obligațiile. Da, riscul trebuie evaluat, e nevoie de documentație, deci da, vor fi costuri în plus. Totul în numele “dezvoltării de IA care respectă valorile și regulile UE”.

Dar e nevoie de un sprijin pentru companiile care dezvoltă sisteme de IA, pentru a contracara obligațiile pe care actul le impune (pe bună dreptate) asupra întreprinderilor. Acest sprijin a fost anunțat la începutul lunii ianuarie deodată cu mult mai trâmbițata știre a lansării biroului IA din cadrul Comisiei.

Fabrica de IA. Cum sprijină UE inițiativele în inteligență artificială

Totul pornește de la ingredientele salatei despre care am tot scris mai sus. În cazul IA, salata este formată din: date, putere de calcul, dezvoltare de algoritmi și talente. Aici spune Comisia Europeană că vrea să intervină pentru a pune cap la cap conceptul de AI Factories/Fabrici de IA, care le aduce pe toate laolaltă.

Ce presupune Fabrica de IA?

Fabrica de IA sunt “ecosisteme deschise format în jurul supercalculatoarelor publice europene care adună resurse materiale și umane necesar pentru dezvoltarea aplicațiilor și modelelor GenAI”. Mai simplu spus, fabricile sunt de fapt pentru dezvoltarea de modele IA europene care să poată concura cumva cu cele americane pe care deja le știm și folosim.

Cum se realizează? Cu:

  • supercalculatoare – 8 supercalculatoare există deja la nivelul UE, dintre care 3 sunt cele mai puternice din lume – LEONARDO in Bologna, Italia, LUMI in Kajaani, Finlanda, and MareNostrum din Barcelona, Spania. Acestea vor primi updates pentru a putea antrena aceste modele IA foarte puternice. Cum vor avea acces companiile? Încă nu e foarte clar, dar dacă arați că ceea ce dezvolți respectă valorile europene, atunci ai un loc la coadă 🙂 Avantajul? Păi, multe din companiile europene nu-și permit să investească în aceste cerințe tehnice și atunci e nevoie de un sistem de sprijin pentru ele.
  • stocarea de date: acces la centre de date aflate în apropierea supercalculatoarelor. De ce în apropiere? Păi, și dacă vorbim despre virtual, datele alea tot trebuie să circule. Deci e bine pentru viteza de procesare și analiză a datelor. Datele sunt fundamentul oricărui model de IA care se dezvoltă și cu cât mai puternic e modelul, cu atât trebuie mai multe date și mai multă putere de calcul.
  • servicii de sprijin – bun, avem tehnică, dar trebuie să știm cum să ajungem la ea, să știm bine ce vrem să facem, cum să facem asta și să putem să le și testăm în diverse circumstanțe. Va exista un singur punct de contact prin sistemul EuroHPC Joint Undertaking – o asociere dintre state și UE pentru a dezvolta supercalculatoarele.
  • talente – fabricile ar urma să lucreze îndeaproape cu centrele de cercetare, universitățile și startupurile pentru a pregăti resurse umane calificate să lucreze în domeniu
Supercalculatoarele europene. Sursă: EuroHPC JU

Cine mai poate ajuta? Pentru asta, mai sunt o grămadă de actori, organizații, formate la nivel european care pot aduce acest sprijin către companiile interesate:

  • centre europene de inovare digitală (EDIH-uri) – avem 7 în România – care pot facilita și ele accesul la informație în domeniu având în vedere rețeaua creată la nivel euroepan
  • European Innovation Council – care direcționează investiții către startupuri
  • regulatory sandboxes – care se vor crea odată cu implementarea Actului privind IA – adică sisteme de sprijin legislativ și tehnic ce pot da șansa companiilor să testeze inovații IA fără frica amenzilor că nu au respectat legile.

 

Mai avem și alți “furnizori” pentru fabrici?

Sunt atâtea inițiative europene încât e greu să ții pasul cu ele și să vezi cum se leagă. Căci aici e cheia – să le legăm pe toate. Poate și să le promovăm mai bine, de la nivel european spre cel național. A, și desigur, să sprijinim și conectarea inițiativelor românești la facilitățile europene. Până să ajungem la ce avem de făcut, să vedem cine și ce roluri mai joacă în această “salată”:

  • date: spațiile comune de date care au rolul de a aduna date din diverse domenii – de la mobilitate la energie – să le standardizeze și să le pună la dispoziție pentru analiză și antrenare de modele IA (de parcă chiar așa de ușor e 🙂 )
  • abilități: sunt o grămadă de programe și inițiative europene menite să încurajeze dezvoltarea de abilități în domeniu și pentru pregătirea și adaptarea celor care deja lucrează în diverse domenii la noul context marcat de IA: programe noi create prin Digital Europe Programme, Erasmus+ etc
  • EDIC-uri – consorții europene de infrastructură digitală – organizații formate din mai multe state membre, cu personalitate juridică, care își propun să dezvolte proiecte mari pe care nu le-ar putea implementa pe cont propriu. Există două deja stabilite: unul care-și propune să conecteze “gemenii digitali” locali ai Europei, adică reprezentările virtuale ale orașelor și al doilea, axat pe antrenarea modelelor AI conversaționale (cum este Chat-GPT) dar pentru limbile europene oficiale și regionale.
  • chipuri: încurajarea dezvoltării de ecosisteme de producție a chipurilor și elementelor necesare pentru producția acestora – prin Chips Act, recent adoptat, și sprijinit prin Chips Joint Undertaking. N-ai cipuri, n-ai Chat-GPT, spuneam într-o altă analiză aici. Chips JU este un parteneriat care își propune să dezvolte producția de cipuri avansate pentru că, până la urmă și supercalculatoarele au nevoie de upgrades 🙂

Will it sink or will it float?

Sursă: Designer, Copilot Microsoft. Prompt: a chip in an ocean of data
Era o întrebare de genul acesta la Discovery la o emisiune de știință. Aruncau chestii în apă să vadă dacă plutesc sau nu. La figurat putem să ne întrebăm și noi despre aceste inițiative: will they sink or will they float? Prea devreme să ne pronunțăm totuși. Putem da niște educated guesses, cum spune englezul.

Toate presupun efort, un pic de finanțare (o parte din fondurile pentru realizare vine de la Digital Europe- unde e necesară cofinanțare și de 50%) și musai conectare la nivel european (auzim din nou cuvântul ‘ecosistem’). Pe hârtie, ele toate sunt conectate, așa cum răsare din comunicările Comisiei Europene pe subiect. Sinergie în sus, sinergie în jos. Implementarea de la firul ierbii necesită nu doar cele menționate mai sus, ci și capacitate administrativă din partea autorităților publice inevitabil implicate în aceste sisteme. Deci, avem premisele unor dificultăți deja.

Totuși, când va veni scadența la implementarea Actului privind IA, companiile clar că se vor plânge încă o dată că această reglementare omoară inovația și crește costurile. Comisia va putea arăta către aceste instrumente și va putea spune: da, dar v-am construit fabrici, trebuie să le accesați și noi vă ajutăm. Dar viteza de lucru trebuie să fie la fel de mare cum e cea de procesare din supercalculatoarele cu care ne lăudăm.

Închei citând chiar concluzia Comisiei din Comunicarea publicată în ianuarie 2024: Un sentiment de urgență în implementarea acțiunilor prezentate în această Comunicare este necesar, deoarece lupta nu poate fi întotdeauna câștigată de cei puternici, ci cu siguranță va fi câștigată de cei rapizi.

Referințe

  1. https://digital-strategy.ec.europa.eu/en/policies/high-performance-computing-joint-undertaking
  2. https://ec.europa.eu/commission/presscorner/detail/en/ip_24_383
  3. https://digital-strategy.ec.europa.eu/en/library/communication-boosting-startups-and-innovation-trustworthy-artificial-intelligence
  4. https://www.chips-ju.europa.eu/
CiteșteSalvează

Înapoi în viitor? Cum digitalizăm IMM-urile în România

In România, Uniunea Europeană
De Mirela Marcut
8 minute

Anul e 2027. Suntem în viitorul pe care UE ni l-a făgăduit. 90% din IMM-urile românești au intensitate digitală de bază, 75% din companii utilizează cloud/AI/Big Data. Alegerile pe care le-am făcut la începutul deceniului 20 au dat roade. Efectele economice se văd, productivitatea e ridicată, totul e roz. Or is it?

via GIPHY

Să ne întoarcem la deciziile pe care le-am luat la începutul deceniului 20 ai secolului XXI. Cum anume stimulăm întreprinderile să adopte tehnologii în activitatea lor? Ce finanțăm în acest sens? Cum măsurăm adoptarea tehnologiilor la nivel de întreprinderi? Despre asta e vorba în această analiză. Ne uităm la:

  • Ce finanțări sunt disponibile pentru digitalizare IMM-uri?
  • Cum digitalizam IMM-urile in Romania?
  • Ce urmărește România cu aceste finanțări? Se aliniază asta cu ce ne cere UE?

Dacă n-ai chef să citești până la capăt, uite principalele idei:

  • toate programele regionale au oportunități de finanțare pentru digitalizarea IMM-urilor, pe lângă oportunitățile prin PNRR
  • întreprinderile trebuie să bifeze o listă de 12 elemente care definesc intensitatea digitală
  • la fel ca tehnologia, intensitatea digitală evoluează, deci, chiar și Eurostat spune că posibilitatea de a urmări evoluția în timp a indicatorului e limitată.
  • programele cu finanțare europeană măsoară diferit intensitatea digitală – indicator-cheie care monitorizează digitalizarea întreprinderilor – pentru că folosesc versiuni diferite ale acestui indicator
  • cheltuielile eligibile din programele analizate permit achiziția unei varietății de tehnologii care se leagă indirect de intensitatea digitală cerută, dar accentul cade pe bifarea indicatorilor și nu neapărat pe îmbunătățirea proceselor interne
  • la nivelul a patru dintre cele 8 regiuni de dezvoltare, ghidurile de finanțare folosesc versiunea din 2018 a indicatorului de intensitate digitală
  • programele de digitalizare prin PNRR măsoară intensitatea digitală diferit față de programele regionale – dar folosesc varianta din 2021

Ce finanțări sunt disponibile pentru digitalizare IMM-uri?

Toate programele operaționale au oportunități pentru digitalizarea IMM-urilor., la care mai adăugăm și oportunitatea dată de PNRR. Mici diferențe apar între regiuni referitor la organizarea și gândirea apelurilor:

Cum digitalizam IMM-urile in Romania

Și acum vine dilema: ok, dăm bani, dar pentru ce? Aici intervine intensitatea digitală, o scară de măsurare drăguță venită de la Comisia Europeană și Eurostat care oferă o privire de ansamblu asupra utilizării tehnologiei într-o companie. Deci, finanțarea acoperă achiziție de tehnologie care să contribuie la bifarea indicatorilor aferenți intensității digitale. Bun, și care or fi indicatorii? Păi, depinde de an și aici cităm din Eurostat: indicatorul este unul compus, fiind derivat din chestionarul european cu privire la utilizarea TIC și comerțul electronic în cadrul întreprinderilor. Compoziția acestuia variază, în funcție de întrebările din chestionar. Compararea acestui indicator în timp este astfel limitată”. Deci, indicatorul evolulează aproape anual, ținând pasul cu tehnologia. Actualmente, scara de intensitate digitală pentru anul 2023 arată astfel:

Sursă: Eurostat
Finanțările europene pentru digitalizarea IMM-urilor funcționează deci pe baza acestui indicator, întreprinderile trebuind să bifeze cât mai multe din cele 12 elemente cu ajutorul achizițiilor de tehnologie prin proiect. De regulă, finanțatorii cer obținerea a minim 6-7 elemente din cele 12 pentru a atinge un nivel de bază de intensitate digitală. Cu cât mai multe elemente bifezi, cu atât ai dreptul la mai multă finanțare. Acum să vedem ce anume trebuie să urmărească firmele românești care achiziționează tehnologie pentru creșterea intensității digitale, conform finanțărilor disponibile:

  • POR Centru – varianta din 2018 de intensitate digitală
  • POR NV – varianta din 2018 de intensitate digitală
  • POR Vest – varianta din 2018 de intensitate digitală
  • POR NE – varianta din 2018 de intensitate digitală
  • POR SE – nu avem informații specifice despre apel
  • POR Sud-Muntenia – nu este un apel distinct pe digitalizare, iar apelul disponibil care integrează digitalizarea nu vorbește despre intensitate digitală
  • POR Sud Vest Oltenia – varianta din 2021 de intensitate digitală
  • POR București Ilfov – nu avem informații specifice, știm doar că se vizează și intensitatea digitală ridicată a întreprinderilor (deci cel puțin 9 din 12). Nu știm totuși ce variantă de intensitate se va alege
  • PNRR – varianta din 2021 de intensitate digitală

Să vedem cum arată asta în practică. Ce însemna intensitate digitală pentru anul 2018, respectiv pentru 2021?

Cum digitalizam IMM-urile in Romania
Cum digitalizam IMM-urile in Romania
Anterioară
Următoare
Ce diferențe sunt?
  • elemente legate de procesele interne ale întreprinderii apar mai târziu, în varianta din 2021: ERP, CRM, AI
  • varianta din 2018 era bazată foarte mult pe web – 2 elemente legate de pagini web, două de comerț electronic
  • în 2021 – apar mai multe elemente legate de social media

Cea mai importantă diferență este că….păi, nu se potrivește cu actuala definiție a intensității digitale de mai sus de la nivelul anului 2023. Într-adevăr, varianta din 2021 se apropie mai mult de ceea ce urmărește acum Uniunea Europeană. Oricum, simplul fapt că acest indicator evoluează ne arată că nu putem să condiționăm prea mult adoptarea tehnologiei în mediul privat de bifarea unei liste de tehnologii achiziționate.

Deci, cum vor arăta întreprinderile românești digitalizate cu ajutorul acestor fonduri? Păi, majoritatea fondurilor disponibile, așa cum arată ghidurile acum, vor urmări indicatori care nu se aliniază foarte bine cu trendul tehnologiei:

  • cu accent pe achiziții de dispozitive mobile pentru angajați, pagina web și e-commerce, care nu este dublat în mod direct de exploatarea unor tehnologii pentru îmbunătățirea proceselor interne, cum ar fi ERP sau CRM
  • fără accent pe dezvoltarea unui model de business digital, care să colecteze date cu ajutorul programelor de tip CRM și ERP și care să le analizeze pentru a lua decizii mai bune
  • fără accent pe inteligența artificială

Informație importantă aici: într-adevăr, ghidurile consultate prevăd o listă de cheltuieli eligibile care permit achiziția de tehnologii de genul acesta – AI, CRM sau ERP etc. Dar legătura cu acești indicatori este indirectă și nu stimulează neapărat întreprinderile să își adapteze modelul de business și să-și îmbunătățească procesele interne. Accentul rămâne pe bifarea acestor indicatori, o condiționalitate a programelor de finanțare.

Ce urmărim cu intensitatea asta digitală?

În primul rând, intensitatea digitală a întreprinderilor mici și mijlocii este o țintă semnificativă pentru măsurarea progresului României la nivelul societății și economiei digitale. Ne-o cere Uniunea Europeană. Mai precis, la nivelul anului 2030, 90% din IMM-uri vor avea un nivel de intensitate digitală cel puțin de bază (6/12 tehnologii). Dar problema e că nu știm cum va arăta această intensitate digitală la nivelul anului 2030 pentru că indicatorul evoluează odată cu tehnologia. Iar monitorizările sunt diferite la nivel regional, pare-se.

În al doilea rând, intensitatea digitală este o modalitate de a măsura digitalizarea IMM-urilor, care la rândul ei ar trebui să aducă beneficii socio-economice pentru regiuni. Cheia e aici legată de modalitatea în care sunt folosite aceste tehnologii odată ce sunt achiziționate și modul lor de exploatare. Achiziția nu trebuie să rămână un scop în sine, dar accentul pe bifarea indicatorilor și așa invechiți în unele cazuri și a rezultatelor cerute de finanțator poate să ducă în direcția asta.

Mai există și alte moduri de a măsura digitalizarea IMM-urilor? Mai poți urmări gradul de maturitate digitală, o altă unealtă pusă la dispoziție de către UE pentru IMM-uri prin intermediul centrelor de inovare digitală. Acest indicator se uită mai adânc la procesele interne, aspecte legate de management și pregătirea angajaților sau chiar angajamentul către sustenabilitate în utilizarea tehnologiei.

Câteva recomandări de final…

  • pentru întreprinderi interesate de aceste apeluri: apelați la o analiză consistentă înainte de a alege și a scrie proiectele pentru digitalizare. Analiza trebuie să vizeze nu doar lista echipamentelor care se recomandă, dar a beneficiilor pe care le aduc pentru funcționarea întreprinderii. Aici mergem deja către transformare digitală și nu ne limităm la a digitaliza unele procese deja existente.
  • pentru întreprinderi interesate de apeluri: gândiți-vă și la maturitatea digitală, o analiză mai deep pentru regândirea modelului de business bazat pe date și care vă poate ajuta să inovați.
  • pentru policy-makers: corelați intensitatea digitală la nivel național pentru a asigura acele puncte în plus pe care le vrem cu toți în Indexul Societății și Economiei Digitale.
  • pentru policy-makers: o altă variantă de susținere a IMM-urilor este kitul digital, element care asigură uniformitate în tehnologiile pe care acestea le folosesc în afacerea lor. Spania face asta, de exemplu.

 

CiteșteSalvează

De la roz cu picățele la realitate. 10 moduri prin care putem îmbunătăți strategia IA

In România
De Mirela Marcut
10 minute

Ce este și cu ce se mănâncă strategia națională privind inteligența artificială

Scopul acestei strategii este să contribuie la transformarea digitală a țării și să se alinieze la viziunea și valorile Uniunii Europene privind IA. Strategia încearcă o acoperire destul de largă a inteligenței artificiale în România, vizând aproape toate fațetele vieții noastre în această țară. Înțelegem această abordare, având în vedere paginile în care strategia deplânge performanța României în materie de transformare digitală și rămânerea în urmă în ceea ce privește cercetarea și inovarea în general. 

Dar tocmai această abordare poate să se întoarcă împotriva implementării, având în direcțiile multiple care trebuie urmărite și numărul de instituții implicate în implementare și monitorizare. Nu zicem că ar trebui restrânsă implicarea instituțională, dar o structură de guvernanță robustă și bine pusă la punct poate duce la îndeplinire această strategie. Asta și încă mai multe se află mai jos în secțiunea „10 moduri prin care putem îmbunătăți strategia IA”.

Principalele aspecte ale documentului:

  1. Viziune, misiune și principii: Strategia prezintă o viziune asupra dezvoltării IA în România, precum și misiunea de a utiliza IA pentru beneficiul cetățenilor și economiei naționale. Principiile de pornire includ transparența, etica și securitatea datelor. Misiunea este: IA de încredere și excelență, motor de creștere economică și bunăstare socială în România.
  2. Obiective generale și specifice:
Tabelul nr.1 - Lista obiectivelor generale și specfice. Preluat din SN-IA, p. 73

Așa cum am menționat mai sus, putem vedea încercarea de a surprinde toate fațetele vieții societății și economiei românești în această strategie. De la educație la agricultură, cercetare și transport, IA ar trebui să fie peste tot. Totuși, ceva lipsește din această abordare: totul este roz cu picățele, iar abordarea bazată pe risc, exact abordarea pe care o are UE în recent aprobatul Act privind Inteligența Artificială și în Carta Albă privind IA, lipsește. Dovadă? Secțiunea cu privire la “impactul cu privire la drepturile fundamentale ale omului” din Nota de fundamentare care însoțește proiectul de Hotărâre de Guvern este completată astfel: “Nu este cazul”.

3. Rezultate așteptate și impact socio-economic:

Ideile de mai jos le-a extras Copilot:

  • Îmbunătățirea calității vieții prin soluții IA inovatoare.
  • Creșterea competitivității economice prin adoptarea IA.
  • Îmbunătățirea serviciilor publice și a administrației prin implementarea IA.
  • Promovarea inovării și a spiritului antreprenorial în domeniul IA.
  • Asigurarea securității și rezilienței sistemelor IA.

De aici intervin eu 🙂

În realitate, secțiunea de rezultate așteptate este destul de puțin dezvoltată, aducând în discuție doar elemente generale neadaptate cu adevărat măsurilor și obiectivelor. Pe scurt, nu vedem legătura directă dintre obiective și rezultate sau impact. Aici intervine iarăși “pictura în roz cu picățele” asupra impactului, pentru că toate cifrele și elementele date sunt pozitive. Nu vorbim de job displacement, de necesitatea transformării modelelor de business ale multor companii pentru a rămâne competitive, lucru iarăși greu de realizat fără un ghidaj bine pus la punct sau de intruziuni în drepturile fundamentale ale oamenilor.

În cartea “Power and Progress. Our Thousand-Year Struggle over Technology and Prosperity”, Acemoglu și Johnson (ambii profesori la MIT, deci nu sunt chiar “nime-n drum”) arată că această viziune pozitivă asupra tehnologiei vine cu inegalități și cu efecte nedorite. Depinde de noi ce alegeri facem cu privire la utilizarea tehnologiei. Mai mult, ei aduc argumente în favoarea unui cadru legal și instituțional care să ghideze utilizarea tehnologiei în așa fel încât progresul tehnologic să nu vină cu mai multe inegalități.

10 moduri prin care putem îmbunătăți Strategia privind IA

Imagine generată cu ajutorul Microsoft Designer

Ok bun, și ce facem acum? Păi, putem îmbunătăți strategia pentru a reflecta mai bine contextul socio-economic românesc și reglementările și discuțiile internaționale pe temă. Am inclus mai jos 10 moduri prin care strategia poate fi îmbunătățită. Am identificat cele 10 moduri pornind de la misiunea asumată a strategiei, de la alte exemple de strategii și de la necesitatea unei legături cu politicile europene și unei raportări la contextul românesc. Nu sunt singurele 10 moduri posibile, desigur. Sunt structurate pe câteva elemente principale:

Drepturi fundamentale

  1. Dezvoltarea conținutului strategiei cu aspecte legate de impactul inteligenței artificiale asupra drepturilor omului. Măsurile prevăzute, cum ar fi extinderea utilizării IA în diverse domenii socio-economice, de la transporturi la agricultură, au impact la nivelul autonomiei, libertății individuale și de expresie a cetățenilor. Strategia nu abordează aceste aspecte, decât ca fundamentare a acesteia pe anumite principii. De ce? Strategia vizează IA, o tehnologie cu profund impact asupra drepturilor fundamentale, lucru scos în evidență de politica digitală a Uniunii Europene, mai ales prin prisma Declarației privind Drepturile și Principiile Digitale, aprobată la nivelul UE în 2023. Mai mult, etica în inteligența artificială și grija față de respectarea drepturilor fundamentale este analizată și în raportul grupului consultativ al ONU cu privire la inteligența artificială.

Noi măsuri în linie cu contextul românesc și politicile europene

2. Includerea abordării bazate pe risc. Modificarea titlului OS1.2. din “Creșterea nivelului de înțelegere de bază a populației privind beneficiile, utilizarea și reglementarea tehnologiilor IA” în “Creșterea nivelului de înțelegere de bază a populației privind beneficiile, riscurile, utilizarea și reglementarea tehnologiilor IA” și integrarea de măsuri aferente conștientizării riscurilor. De ce? Această modificare este în concordanță cu abordarea europeană a IA bazată pe risc și echilibrează discursul cu privire la IA.

3. Ce zic românii despre IA? Includerea unei măsuri privind măsurarea percepției și nivelului de înțelegere a IA la nivelul populației ca punct de pornire pentru măsurile de instruire și informare a populației generale cu privire la inteligența artificială. De ce? OS 1.2 se intitulează “creșterea nivelului de înțelegere a populației”, dar acest lucru nu se poate realiza fără o măsurare inițială a nivelului de înțelegere și percepție asupra IA. Nivelul competențelor digitale din România se poate utiliza doar parțial ca “proxy”, având în vedere potențialul și riscurile inteligenței artificiale.

4. Sprijin pentru companiile mici. Includerea în interiorul OS5.2. Adoptarea și valorificarea tehnologiilor de IA în sectoare socio-economice prioritare a unei măsuri de sprijin pentru alinierea la prevederile Actului privind Inteligența Artificială pentru startup-uri și IMM-uri care dezvoltă produse IA. De ce? Actul privind Inteligența Artificială a fost adoptat de curând și prevede o serie de obligații legale în funcție de tipul de produse IA realizate și domeniul în care acestea se utilizează. Costurile cu privire la respectarea prevederilor acestui act variază în funcție de stakeholder implicat și domeniu, dar startupurile au nevoie de sprijin pentru a putea continua dezvoltarea produselor. O astfel de măsură de sprijin legal/financiar/organizațional completează măsurile privind realizarea de infrastructuri de testare și regulatory sandboxes (medii de testare a unor soluții noi al căror impact nu se cunoaște, iar companiile pot testa fără repercusiuni legale) sau de stimulare a inovației în IA.

5. Chat-GPT et co. Includerea unor măsuri privind informarea, integrarea și utilizarea aplicațiilor de tip GenAI în societate și economie, în special cu privire la impactul deepfakes și a “synthetic media” în societatea românească. De ce? Aspectele privind GenAI lipsesc din stategie, cu toate că acestea sunt deja utilizate la nivelul populației. GenAI a devenit una dintre cele mai facile tehnologii IA de utilizat și necesită o serie de măsuri țintite. Această măsură ar trebui coroborată cu proiectul de lege privind deepfake, aflat în proces decizional. Proiectul nu conține prevederi privind informarea populației.

6. Cum ajută IA mediul? Dezvoltarea măsurilor din Programul – Adoptarea și valorificarea IA în sectoarele mediu înconjurător și energie – pentru a include măsuri mai clare cu privire la utilizarea IA în sprijinul mediului înconjurător, mai ales pentru cercetarea în domeniul schimbărilor climatice, spre exemplu. De ce? Utilizarea IA nu trebuie să fie un scop în sine, ci un vehicul pentru rezolvarea unor probleme societale și economice, dincolo de creștere economică etc.

Guvernanță și implementare

7. Dezvoltarea cadrului de guvernanță a strategiei naționale prin:

    • operaționalizarea unei structuri de guvernanță care să nu se limiteze doar la un comitet interministerial,
    • explicitarea legăturii și a contribuției Comitetului Român pentru Inteligență Artificială, împreună cu toate componentele sale, și Comitetul interministerial,
    • implicarea societății civile în Comitetul Român pentru Inteligență artificială cu rol de monitorizare a efectelor inteligenței artificiale asupra societății și drepturilor fundamentale în particular (în momentul de față nu avem cunoștință de un grup de lucru format în acest sens, iar structura Comitetul pentru AI nu cere explicit creionarea unei astfel de inițiative)
    • realizarea unei legături dintre viitoarea instituție care va fi parte din structura de guvernanță a AI Act la nivel european și structura de guvernanță a strategiei naționale pentru inteligență artificială. Există deja o arhitectură a inițiativelor strategice privind IA în România, aprobată prin Memorandum în 2022, dar aceasta nu se leagă de Comitetul interministerial propus spre înființare.

De ce? Justificarea ține de caracterul orizontal pe care IA îl are pentru societate și economie, ce cere o structură de guvernanță cu viziune largă asupra schimbărilor prin care vor trece societatea și economia. Also, vezi mai sus ce am mai scris 🙂

8. Clarificarea referirilor cu privire la urmărirea indicatorilor de realizare imediată. Ca să putem urmări tot ce se întâmplă sub umbrela acestei strategii, avem nevoie să știm la ce vrem să ajungem. Pentru asta sunt indicatorii și țintele, care pot urmări măsuri pe termen scurt (indicatori de realizare) sau pe termen mai lung (de rezultat). Ei bine, indicatorii aceștia de urmărit pe termen scurt nu se regăsesc în textul strategiei. Deci, nu știm pașii mărunți care se vor face pentru a ajunge la ceea ce-și dorește strategia. Sau, în limbaj academic: Strategia cuprinde obiective generale cu indicatori de impact aferenți, obiective specifice cu indicatori de rezultat aferenți, dar indicatorii de realizare nu transpar în textul strategiei. De ce? Indicatorii de realizare imediată sunt menționați semnificativă a implementării și monitorizării strategiei, dar nu sunt descriși.

9. Dezvoltarea și asumarea unui buget mai conturat, coroborat cu un calendar general de implementare, pentru a corela direct obiectivele generale și specifice cu un posibil buget. Mai precis: asumarea deschiderii unor linii de finanțare pentru implementarea măsurilor și atingerea țintelor strategiei.

 

Imagine generată cu ajutorul Microsoft Designer

Impact

10. Impactul socio-economic al adoptării strategiei necesită o analiză profundă și mult mai extinsă decât ceea ce se prezintă în acest document. Nu regăsim analize de impact sau corelarea dintre obiectivele asumate și atingerea țintelor. Este nevoie să se integreze analize adaptate la specificul mediului românesc, unde nivelul de competențe digitale este cel mai scăzut din UE și unde integrarea tehnologiilor digitale în companii este la un nivel scăzut. De ce? Do I really have to say it? 🙂 Ok fie: Prezentarea contextului și analiza problemelor se află într-un contrast pregnant cu prezentarea rezultatelor și impactului. Această secțiune nu face legătura aproape deloc cu principalele probleme evidențiate în debutul strategiei. De asemenea, fără date și analize care să se refere exact la specificul socio-economic al României, prezentarea impactului socio-economic din strategie nu are cum să fie strict de natură pozitivă, așa cum este prezentat în strategie.

Concluzionând…

Era o replică într-un serial, de unde parafrazez: în momentul în care nu știi unde să mergi mai departe, te întorci, citești misiunea și ai răspunsul acolo. Misiunea strategiei începe cu: „IA de încredere și excelență”. Partea de excelență e acoperită, dar cea de încredere e cu adevărat acoperită în obiectivele și măsurile strategiei? Dar bunăstarea socială? Avem roz cu picățele. Mai avem nevoie de realitate.

CiteșteSalvează

Omoară Uniunea Europeană inovația cu atâta reglementare?

In Uniunea Europeană
De Mirela Marcut
6 minute

Am obiceiul să fac “dog ears” la cărți. Iubitorii de cărți sunt șocați acum: cum poți să faci așa ceva?!?! Cartea lui Anu Bradford, Digital Empires. The Global Battle to Regulate, e plină de “dog ears”. Nu se putea să nu fie așa, fiindcă tratează aproape tot ce încerc eu să tratez pe această platformă: relația dintre state și companii tech, modele de reglementare american, european și chinezesc, tehnologiile smart city ca metodă de exportare a principiilor de supraveghere extinsă din China etc.

via GIPHY

Aș fi putut să mă opresc la descrierea celor trei modele de “imperii digitale”, așa cum le numește cercetătoarea, anume SUA, China, Europa și să analizez “bătăliile” dintre acestea. De altfel, aș putea foarte adevărat să deschid oriunde cartea lui Anu Bradford și să găsesc informații demne de analizat și discutat aici pe site.

Am ales să mă opresc la o idee tratată pe finalul cărții care face parte din rețetarul oricărui discurs public legat de incapacitatea UE de a genera inovație sau din playbookul oricărei companii mai ales americane cu privire la “suprareglementarea” europeană: UE omoară inovația cu toate reglementările sale și acesta este motivul pentru care UE nu este cu adevărat o putere tehnologică.

 

Omoară Uniunea Europeană E inovația cu atâta reglementare?

Aceasta e întrebarea.

Anu Bradford contestă această relație de cauzalitate prin simpla idee că UE nu a avut giganți nici înainte de a dezvolta sistemul de reglementări pe care-l are în zilele noastre. Mai mult, arată cu degetul către alte politici sau specificități europene decât politica digitală, din cauza cărora companiile tehnologice din Europa au niște provocări unice pe care cele din SUA sau China nu le au.

 

  • Piață unică digitală fragmentată. Scalarea unei companii e dificilă atunci când are de-a face cu mai multe piețe naționale cu limbi, culturi și reglementări diferite. Dă exemplul Amazon care a putut să crească ca o librărie online pentru că toată lumea vorbea engleză, dar Europa cunoaște o diversitate lingvistică mult mai pronunțată. În Europa, serviciile de video on demand n-au putut crește și din cauză că au trebuit să ofere mixuri diferite de conținut pe diferite piețe. Să nu mai zicem de alte bariere legale și tehnice care creează regimuri diferite de la țară la țară. Fragmentarea aceasta omoară în special IMM-uri care au parte de costuri ridicate și nu pot scala suficient. Acesta e unul din motive pentru care decid să aleagă o piață omogenă, cum e cea americană.

  • Piețe de capital slab dezvoltate. Anu Bradford citează un studiu al McKinsey care spune că accesul la capital este extrem de important mai ales pentru startupurile IA, mai ales în rundele ulterioare de finanțare. Confruntate cu absența unor fonduri mari europene de capital de risc, companiile fug către SUA, unde banii se iau mai ușor. Într-adevăr, Anu Bradford remarcă un semn de optimism în această situație, anume faptul că au crescut semnificativ investițiile americane în startupuri europene, iar unele firme mari de capital de risc din SUA și-au deschis filiale europene. Salvarea ar mai putea veni și de la realizarea Uniunii Piețelor de Capital, inițiativă a Comisiei Europene care nu a avut succesul scontat deocamdată.

  • Bariere culturale și legale care descurajează falimentul și insolvența. Europenii pun preț pe stabilitate și nu pe asumarea de riscuri, “cred că eșecul este o tragedie personală”, ceea ce nu-i face pregătiți să treacă de la o idee la alta până au găsit ideea de business perfectă pentru ei. De altfel, aceste aspecte culturale sunt adesea prinse în legile de insolvență și faliment care penalizează eșecul.

via GIPHY

  • Lipsa unei politici de imigrație active care să atragă talente bine pregătite. Aici vorbim despre “mitul visului american” care atrage mulți imigranți, despre universitățile americane care sunt printre cele mai puternice din lume, iar cei care vin să studieze aici au tendința de a rămâne. Autoarea citează nume de mari fondatori de giganți tech din SUA care sunt imigranți, dar și faptul că că mai mult de jumătate din cercetătorii importanți din IA din țară sunt imigranți sau cetățeni ai altor state.

Ce înseamnă toate astea?

De aici deducem trei aspecte semnificative:
  1. Folosind perspectiva lui Anu Bradford, reglementarea pe stil european a spațiului digital n-ar trebui să fie această sperietoare care e acum pentru companiile europene. Viziunea de a reglementa pentru a apăra valori, cum ar fi solidaritatea, autonomia, viața privată și corectitudinea, nu este de vină că nu avem suficientă inovație și maturitate în ecosistemele europene de tehnologie. În cazul acesta, diversitatea cu care atâta ne lăudăm ca europeni, e una din pietrele de moară semnificative. Cum reglementezi în jurul diversității? Cum creezi povești de succes pornind de la diversitate? Inteligența artificială poate ajuta aici, prin traduceri automate, spre exemplu, pentru produse și servicii europene cu adevărat. IA ne poate ajuta să înțelegem mai bine publicul din altă țară, pentru a putea oferi servicii cu adevărat valoroase pentru acea piață.
  2. De altfel, viziunea europeană asupra societății și economiei este această sabie cu două tăișuri care, pe de o parte, este atractivă deja la nivel global pentru reglementarea societății digitale și care, pe de altă parte, ne face să nu riscăm pentru că ne e teamă de eșec. Dacă am greșit, corect e să plătim. Ne place să avem stabilitate.
  3. Piața Unică există de zeci de ani atât în calitate de concept, cât și ca realitate, și nici acum nu am reușit să eliminăm toate barierele pentru o funcționare corectă pentru europeni. Da, poți cumpăra online din altă țară, dar degeaba poți dacă nu se dezvoltă servicii suficient de relevante pentru consumatori. Există, desigur, câteva excepții, cum ar Zalando sau About You pe piața de retail și fashion, dar totul pălește în fața gigantului Amazon.

Pe final, #foodforthought:

via GIPHY

  • pentru cei care au un startup și vor să-l crească repede, Europa nu e pentru ei. Dar nu mai trăim în era “move fast and break things”. De altfel, una din ideile principale ale Digital Empires este că și SUA se mută încet către un sistem de reglementare asemănător celui european pe fondul problemelor legate de social media, dezinformare, dar și problemele antitrust pe care le pun giganții americani, iar cetățenii ari fi de acord cu asta. Bătălia pe drepturile de autor în antrenarea modelelor de AI care se dă în SUA acum este unul din semne (vezi procesul intentat de New York Times împotriva OpenAI).
  • pentru cei care vor să dezvolte o afacere în Europa, vor trebui să-și pună problema internaționalizării mult mai repede decât și-o pune un startup din SUA pentru că piețele sunt mai mici și mai fragmentate. Fondurile europene sunt o soluție pentru ei, cu toate că e greu să-ți bați capul cu birocrație și cu lipsa predictibilității cu privire la asigurarea finanțării.
CiteșteSalvează

Ce a mers bine și ce a mers prost în 2023? Ediția de #digital

In România, Uniunea Europeană
De Mirela Marcut
7 minute

Ce a mers bine și ce a mers prost în 2023? O scurtă postare de #yearinreview, varianta pe digitalizare. De ce? Păi, în pregătirea pentru această recapitulare, am citit să văd ce au mai scris ziarele pe acest subiect. În România, am găsit un mare nimic, iar în străinătate cam singura poveste a fost legată de inteligența artificială. Not that there’s anything wrong with that, cum ar zice Seinfeld, dar parcă s-au mai întâmplat și alte lucruri. Deci, să purcedem.

Ce a mers bine în UE?

A fost un an foarte foarte foarte încărcat, aș putea zice. Încărcat pentru că se încheie în curând mandatul actualei Comisii și au fost nenumărate propuneri legislative care au trebuit duse la bun sfârșit. Unele mai repede decât altele. Unele mai bine decât altele. Să le vedem, in no apparent order:

  • primele semne de funcționare pentru Digital Services Act și Digital Markets Act. Ce înseamnă asta? Comisia Europeană a desemnat primele companii cu influență semnificativă pe piețele digitale în cazul DMA- vezi mai jos. Ce înseamnă asta pentru noi? Printre altele, vom putea dezinstala aplicații care nu puteau fi dezinstalate până acuma. Nu ne vor mai putea urmări în afara platformei dacă nu consimțim asta (nu uitați să nu mai apăsați “Accept all”)
Sursă: Comisia Europeană
  • pentru DSA – avem o listă de VLOPs și VLOSEs: platforme și motoare de căutare foarte mari. Pornhub e cel mai recent 🙂 Ce înseamnă aceste desemnări pentru noi? Printre altele, existența unor puncte de contact unde ne putem plânge dacă conținutul nostru a fost dat jos de platformă, eliminarea conținutului ilegal, opțiunea de a ști de ce vedem un anumit tip de conținut (asta dacă știm unde să ne uităm, desigur)
  • adoptarea Chips Act – care creează niște mecanisme prin care aparent ar trebui să crească producția de cipuri în UE. Să mai reducem din dependența de alte teritorii. Nu uitați, n-avem cipuri, n-avem nimic.
  • finalizarea negocierilor pe Digital Wallet. Vom avea un portofel digital european, unde ne vom putea încărca actele și vom avea aici și o semnătură digitală. Nu, nu e obligatoriu, nu ne cipează nimeni.
  • adoptarea Data Act. Apar reguli cu privire la utilizarea și partajarea datelor pe care le produc dispozitivele pe care le folosim. Aici regulamentul e cu bătaie către companiile care au nevoie de date pentru a-și antrena sistemele de inteligență artificială
  • Ok, bine bine, vorbim și de inteligența artificială. După luuuuungi negocieri și aproape un eșec, a venit un acord provizoriu pe regulamentul care va marca modul în care sistemele IA sunt puse pe piață. Am vorbit muuult aici și aici despre acest regulament. Aproape că l-am pus la “ce nu a mers bine în UE”, dat fiind că a existat un “last minute push” să nu apară prevederi cu privire la utilizarea sistemelor de tip Chat-GPT în regulament, ceea ce ar fi dus la deraierea întregului dosar.

Ce nu a mers bine în UE?

  • putem pune aici și o mică referire cu privire la inteligența artificială. Societatea civilă și-a exprimat îngrijorările cu privire la utilizarea supravegherii în timp real cu ajutorul acesteia în anumite condiții care deocamdată sunt vagi. Pentru textul final mai avem de așteptat, pentru intrare în vigoare avem și mai mult, undeva până în 2025.
  • alt punct slab: primul raport privind Deceniul Digital care spune că, așa cum merg lucrurile, nu vom atinge țintele asumate pentru 2030. Raportul cere eforturi mai mari din partea statelor membre și o mai bună conectare între politici.
  • eram gata să o scriu pe asta la “ce a mers bine”. Nici acum nu avem un acord cu privire la directiva care ar reglementa munca pe platformele de freelancing sau sharing economy. Eram gata să o pun acolo pentru că Parlamentul și Consiliul ajunseseră la un acord provizoriu, dar până la urmă propunerea nu a primit votul final în Consiliu. Ce ar fi însemnat acest acord? O relație mai clară între persoanele care lucrează și platforma care îi găzduiește și drepturi sociale aferente muncii pe care o prestează. Prezumția angajării – așa cum a fost desemnată de către Comisie – ar apărea dacă relația contractuală ar bifa mai multe criterii (care au fost de fapt mărul discordiei). Oh well, o lăsăm pe asta pentru la anul.

Ce a mers bine în România?

  • lansarea primelor programe de finanțare pentru digitalizare. Într-un final. Am avut celebrul “digitalizare IMM prin PNRR”, dar care de-abia la final de an și-a desemnat primii 1000 de “câștigători”. Am avut diverse programe lansate pentru dezvoltarea competențelor digitale prin tot felul de mecanisme care seamănă mult unul cu altul.
  • avem câteva cadre strategice naționale finalizate – inteligența artificială, centrele de inovare digitală, quantum – care ar trebui să creeze fundamentul pentru niște politici publice coerent pentru aceste tehnologii.
  • pentru prima dată și ceva din sfera guvernanței digitale. Avem comitete și comiții 🙂 Consiliul Științific și de Etică în Inteligența Artificială, Consiliul de Educație în IA, Comitetul de IA. Deocamdată nu știm cum și când funcționează și ce rezultate sunt pe acest palier. Cel mai cu tam-tam ar fi primul Consiliu Științific care conține experți din diaspora care lucrează în domeniu
  • primele finanțări pentru centrele de inovare digitală (Digital Innovation Hubs) prin fonduri europene. Am mai vorbit despre asta, rolul acestor centre este să sprijine companiile să treacă prin procese de digitalizare, nu prin simpla dotare cu echipamente, ci cu sprijin strategic prin realizarea de strategii de transformare digitală, spre exemplu.

Ce nu a mers bine în România?

  • lansarea eID în România. Fără evaluare de impact pentru datele personale, un pic cam inutilă deocamdată pentru că încă nu sunt servicii digitale interoperabile disponibile, dar na, era un deadline de respectat pentru finalizarea proiectului 🙂 Plus posibila suprapunere cu buletinul electronic.
  • avem cadru strategic pentru IA, dar degeaba avem, dacă n-avem un cadru legal care să oficializeze această strategie. E ok, bine că avem strategia națională pentru educație pentru schimbări climatice și mediu. Când vrei să treci cu adevărat ceva, se trece 🙂. Din nou din Seinfeld: not that there’s anything wrong with that…
  • raportul românesc pentru Deceniul Digital, care, desigur, ne situează pe ultimul loc în UE și arată că, dacă totul merge în continuare la fel, nu ne vom atinge țintele pentru 2030…
  • ținte pe care nu le știm foarte clar (în afară de cele care cer să atingem 100% servicii publice digitale de exemplu) pentru că nu avem încă aprobată foaia de parcurs națională pe care o cere Comisia Europeană, anume angajamentele pe care ni le asumăm pentru a realiza acele ținte și pentru a contribui la realizarea țintelor europene – cum ar fi 80% din cetățeni cu competențe digitale de bază. To be fair, n-am găsit foi de parcurs nici la alte state.
  • câteva programe de finanțare în care s-au pus foarte mari speranțe au cam fâsâit. De exemplu, transformarea bibliotecilor în huburi de competențe digitale al cărui apel de finanțare a fost relansat pentru că n-au fost depuse prea multe proiecte. Sau programul pentru Smart Labs în licee, unde, iarăși, au fost mai mulți bani disponibili decât proiecte depuse

Unde să-l pun pe Ion? Nu-l pot cataloga nici la bine, nici la rău pentru că a fost anunțat cu fanfaronadă ca fiind primul consilier guvernamental artificial din lume, ca să aflăm că de fapt a fost pre-programat să zică una-alta. Pentru că n-am aflat cu adevărat ce crede după ce a fost etichetat de sute de mii de ori. Pentru că a fost abandonat pentru că s-a schimbat ministrul, pentru că nici acum nu știm cu ce a fost antrenat. Dar a fost ok și pentru că a mers printr-o caravană prin țară, caravană menită să popularizeze digitalizarea. Care nici asta nu știm ce impact a avut. Ok, m-am răzgândit. E de fapt la “ce nu a mers bine”.

Bilanț la bilanț? Păi, pare că la nivelul UE legiuitorii s-au chinuit să termine ce au început pentru că li se termină mandatul, în timp ce, în România, coaliția e tot la final de mandat, dar de-abia acum au dat drumul proiectelor. Care cine știe cum se vor continua.

 

CiteșteSalvează

L-au legat cu bandă izolatoare. Acord provizoriu pe Actul privind IA

In Uniunea Europeană
De Mirela Marcut
12 minute

Săptămâna trecută tot despre IA am scris și am întrebat retoric “cine v-a lucrat aici?” Era vorba că întreg regulamentul pe IA era în pericol din cauza unor “mofturi” de ultim moment ale câtorva state cruciale pentru atingerea unei majorități calificate – Germania, Franța și Italia.

Iată că, păstrând metafora meșterului venit să repare ce au stricat alții încercând să repare, au pus niște bandă izolatoare, au legat cu niște sârmă și au reușit să o pună de un acord provizoriu între cele trei instituții europene (Consiliu, Parlament și Comisie) pe viitoarea legislație privind inteligența artificială.

Deci, merită să ne uităm peste ce a fost legat cu bandă izolatoare și cum s-a prins laolaltă varianta finală a Actului privind Inteligența Artificială (AIA).

Despre ce e vorba mai jos?

  • contextualizăm un pic discuția răspunzând la câteva “dece-uri” despre această legislație
  • vedem cum anume s-a ajuns la un acord și ce zic principalii actori despre rezultat
  • facem un rezumat al principalelor prevederi ale legislației și ne uităm un pic în viitor

Să purcedem, deci.

 

Câteva "de ce-uri"

De ce te-ar interesa această legislație?

  • legislația despre IA va afecta pe toată lumea pentru că intrarea IA în viața noastră este de-abia la început, iar sistemele de tip IA vor pătrunde în fiecare aspect al vieții noastre. Negreșit.
  • în esență, legislația este despre protecția consumatorilor, iar mare parte din aplicare va fi în “spatele scenei”.
  • chiar dacă noi suntem priviți ca niște “consumatori”, regulamentul e mai degrabă despre protecția “cetățenilor” pentru că o parte din obligațiile companiilor care pun pe piață sisteme IA se leagă de drepturile noastre fundamentale. Deci nu vorbim doar de “clientul are întotdeauna dreptate”, ci despre “clientul este de fapt cetățean și are o serie de drepturi fundamentale”.

De ce e a big deal acest acord ?

  • pentru că inteligența artificială e “tehnologie de uz general”, cam ca electricitatea sau Internetul. UE e prima entitate din lume care are acum o reglementare de protecție a cetățenilor și de ghidare a companiilor care dezvoltă astfel de soluții. SUA are “executive orders” pe acest domeniu, dar care n-au putere de legislație federală care să se aplice asupra întregului teritoriu, așa cum se întâmplă în UE.

De ce a durat atât – 2 ani?

  • pentru că vorbim de procesul decizional european – unde timpul de negociere al unui regulament sare adesea de un an. Să nu uităm că nici definiția IA nu a fost agreată decât acum în ultimul moment.
  • am mai povestit aici de ce a durat atât. Dar, pe scurt: proiectul de reglementare nu conținea la început prevederi despre sistemele IA, cum este Chat-GPT. Având în vedere că aplicația asta a devenit foarte populară în extrem de scurt timp, autoritățile europene – îndeosebi Parlamentul European – au considerat necesară introducerea unor prevederi legate de siguranța celor care utilizează aceste soluții

 

Acord provizoriu pe Actul privind IA

Avem, așadar, un acord cu privire la textul Actului privind Inteligența Artificială. Acord provizoriu. Acord provizoriu înseamnă că instituțiile europene au agreat principalele elemente ale legislației care mai rămăseseră de negociat.

Urmează acum un pas crucial, cel de redactare efectivă a textului final unde va mai fi de lucru. Deci, nu a intrat în vigoare, nu se aplică de mâine, nu omoară inovația încă, nu ne putem plânge încă unei autorități că un sistem IA ne-a discriminat. Apoi urmează un vot final, atât în Parlament (care reprezintă cetățenii), cât și în Consiliu (care reprezintă statele). Iar intrarea în vigoare e prevăzută undeva pentru 2025, deci mai avem de așteptat. Cum va evolua tehnologia până atunci este de urmărit până atunci pentru că, deși regulamentul a fost gândit să fie “future proof”, unele aspecte ale acesteia vor necesita corectură sau adaptare cu siguranță.

Cum am ajuns la acest acord? Păi, n-a fost nevoie decât de niște negocieri maraton și lipsă de somn pentru a se ajunge la un acord. 36 de ore au durat negocierile, oprite doar de câteva pauze de somn. Nimic nu ajută mai mult la rezolvarea unui impas decât lipsa somnului, aș zice eu. Comentariile celor interesați de subiect pe LinkedIn au fost mai degrabă că așa nu se face negociere cu minți private de somn care nu mai gândesc rațional sau nu mai sunt capabile să înțeleagă nuanțe sau idei simple. E și ăsta un punct de vedere. Dar am impresia că, odată ce intri în hora deciziilor europene, ești băgat la un curs special despre cum să stai treaz până târziu pentru că, așa cum am zis aici, marile decizii ale UE s-au luat aproape întotdeauna în orele târzii ale nopții sau devreme ale dimineții. Și asta poate fi catalogată ca o decizie mare, indiferent de câte probleme au semnalat principalii actori implicați.

Ce i-a ținut treji atâta timp?

Imagine din timpul negocierilor. Sursa: Thierry Breton, X

Nu, n-a fost doar cafeaua sau energizantul, ci niște mere. Ale discordiei. Anume sistemele de uz general (de tip Chat-GPT) și utilizarea IA pentru aplicarea legii și supraveghere. Să le luăm pe rând.

De fapt, principala chestie care a întârziat negocierile – anume reglementarea sistemelor de IA de uz general – a trecut relativ repede. Adică, acestea vor fi clasificate pe două categorii în funcție de mai multe criterii – cum ar fi puterea de calcul – exact așa cum a fost în compromisul inițial după care s-au ofticat cele 3 țări.

Toate sistemele vor publica rapoarte cu privire la utilizarea lor și la datele cu care s-au antrenat. Iar cele mai puternice vor trebui să treacă prin mai multe testări, cum ar fi “adversarial testing”, adică să duci la extrem funcționarea aplicației dându-i prompturi și întrebări menite să ofere răspunsuri problematice. Cam cum a făcut tipul de la New York Times cu Bing AI. Acestea vor trebui să ofere și rapoarte de eficiență energetică, fiind cunoscut faptul că sistemele puternice consumă foarte mult curent. Câteva milioane de căutări pe zi pe Chat-GPT ar putea consuma 1 Gwh în fiecare zi, echivalentul consumului zilnic de curent a peste 30 de mii de gospodării, conform calculelor făcute de Universitatea din Washington. Un Birou IA înființat în cadrul Comisiei se va ocupa de supravegherea funcționării acestor sisteme.

Acest model de supraveghere este același din compromisul inițial după care s-au supărat cele trei state. Ceea ce mă face să cred că nu asta a fost toată povestea. Ci celălalt măr al discordiei – adică utilizarea IA pentru aplicarea legii și pentru supraveghere.

IA poate fi utilizată pentru identificarea la distanță a unei persoane în două moduri – în timp real și după un eveniment. Parlamentul a cerut, de exemplu, interzicerea totală a identificării biometrice în timp real. Consiliul nu a fost de acord – adică cei care au monopolul forței. Astfel că a apărut iarăși un compromis – un acord pentru utilizarea sistemelor IA de identificare biometrică în timp real în anumite condiții legale. Deci, autoritățile vor putea utiliza identificare în timp real, spre exemplu pentru a căuta țintit o victimă a unei răpiri sau pentru prevenirea unei amenințări teroriste specifice sau prezente. Sau pentru a localiza o persoană suspectată de infracțiuni grave. Nu știm încă ce înseamnă această infracțiune gravă. Mai mult, o autoritate din sfera aplicării legii va putea folosi o aplicație IA chiar dacă nu are o evaluare de conformitate cu legea în aceste cazuri urgente – ceea ce poate lăsa portițe de utilizare greșită.

În ceea ce privește identificarea biometrică la distanță după un eveniment, există mai puține restricții, dar tot este necesară o autorizație în prealabil în conformitate cu legislația națională. De altfel, în comunicatul său, Consiliul scoate în evidență treaba asta cu legislația națională și faptul că regulamentul nu interferează cu politicile de securitate națională. Ca să fie clar, nu se aplică sistemelor IA utilizare în scopuri militare sau de apărare. Deci, aparatul de forță al statului continuă oarecum nederanjat, conform și organizațiilor de societate civilă care au urmărit subiectul.

Oricum, au mai dres busuiocul cu obligația ca autoritățile publice ce utilizează sisteme cu risc ridicat, adică și acestea de identificare biometrică, să se înscrie într-o bază de date europeană.

Ce a mai ieșit din această negociere?

  • obligație de realizare a unei evaluări de impact cu privire la protecția drepturilor fundamentale în cazul utilizării unor sisteme IA de risc ridicat
  • interzicerea salvării în masă a imaginilor cu persoane de pe Internet. Acestea se utilizează de obicei pentru a face baze de date pentru recunoaștere facială. Clearview AI e o companie americană care a făcut asta și a făcut un soft de recunoaștere facială pe care l-a vândut chiar și autorităților europene, deși e cam ilegal și din punct de vedere al GDPR
  • interzicerea sistemelor care manipulează comportamentul uman pentru a le submina liberul arbitru.
  • interzicerea utilizării sistemelor IA pentru recunoașterea emoțiilor în diverse contexte, cum ar fi la locul de muncă
  • diferențierea amenzilor în funcție de mărimea companiei. IMM-urile care nu respectă prevederile de a pune pe piață sau a utiliza în conformitate cu regulamentul aceste sisteme vor plăti amenzi mai mici
  • posibilitatea de a ne plânge unei autorități competente dacă am fost nedreptățiți de un sistem IA

 

Cu ce preț? versus Doar atât?

Image by Freepik

Dacă nu ești în bula celor interesați de tehnologie sau politici publice sau UE, nu prea ai habar care a fost faza cu negocierile asta. Și uite ce efect au unele sisteme de IA asupra noastră și nici nu știm de fapt. Pentru că, de fapt, un sistem IA de recomandare a conținutului pe rețelele sociale îți creează această bulă. Apropo, versiunea de regulament din Parlament presupunea încadrarea la categoria de risc ridicat a acestor sisteme care ne recomandă conținut pe social media. Asta n-a intrat în varianta agreată de ambele instituții.

Dacă întrebi pe cineva din societatea civilă despre eliminarea acestei prevederi, probabil că o să-ți răspundă că e problematică. Dacă întrebi pe cineva care lucrează cu social media, îți va răspunde că și așa bietele companii sunt prinse cu alte regulamente importante care le creează o grămadă de obligații.

Să vedem totuși ce zic diferiții actori despre forma agreată a AIA. Reacțiile organizațiilor de societate civilă s-au învârtit mai ales în jurul victoriei statelor cu privire la utilizarea IA în domeniile de aplicare a legii. Încă un semn că aici a fost de fapt miza negocierilor. Accentul pozițiilor acestor organizații a căzut pe diferitele lacune prinse intenționat sau nu în legislație, care ar putea permite supravegherea în masă. Conform lor, asta se vede mai ales în împărțirea pozițiilor între Parlament și Consiliu, cel din urmă insistând asupra unor excepții de la regulament pentru domeniile de securitate și apărare, mai ales în ceea ce privește supravegherea în masă cu ajutorul IA.

Digital Europe, principala organizație ce reprezintă BigTech și alte mari companii tech din Europa, se întreabă “Cu ce preț vine acest acord?”, accentuând ideea că reglementarea IA este o povară pentru companiile de tehnologie și că acestea vor trebui să angajeze mai mulți avocați decât inginerii de IA. Aceste idei fac parte din povestea des spusă în UE că legile și regulamentele omoară inovația și că economia este blocată de prea multe reguli. Povestea asta s-a mai spus de fiecare dată când a apărut o reglementare pe tehnologie, dar aici chiar suntem într-un teritoriu nebătătorit pentru că e prima dată când o entitate reglementează IA.

 

Și cu ce mă ajută pe mine, domnișoară?

Pe final, o scurtă recapitulare a ceea ce înseamnă acest act legislativ.

Dacă ești cetățean:

  • conținutul creat de IA va fi desemnat ca atare ca să știi că nu a fost creat de un om. Să vedem dacă rămâne doar aplicarea asta care e deja acum când copiezi un text din Chat-GPT în alt program, pentru că pur și simplu poți să ștergi textul de disclaimer de final.
  • la locul de muncă, șeful nu va putea folosi un sistem de IA pentru a detecta cât de mult nu-l suporți
  • la graniță, sistemele de identificare prin IA vor putea fi utilizate. Oare acestea să fie noile smart borders în Schengen?!
  • dacă un sistem de IA ia decizii care îți afectează viața, tu va trebui să știi că a fost un IA implicat în luarea deciziei și vei putea contesta dacă crezi că ești discriminat.
  • dacă locul tău de munca se va transforma și va include luarea de decizii cu ajutorul IA, să știi că tu vei lua oricum decizia la final. Nu te baza doar pe IA, tu trebuie să gândești cu mintea ta
  • companiile nu-ți vor putea lua imaginile de pe social media pentru a crea o bază de date pentru recunoaștere facială. Nu-i problemă, va supraveghea statul oricum spațiul public. Dacă ai ghinionul să fii o față generică sau să semeni foarte bine cu cineva, s-ar putea să fi confundat/ă cu un răufăcător, cum s-a întâmplat deja în România.

Dacă ești o companie, păi, aici e mai complicat:

  • totul depinde de cine ești. Pui pe piață un sistem IA? Păi, trebuie verificat unde se va folosi și pentru ce și determina ce fel de riscuri aduce. Există câteva domenii de mare risc: educație, loc de muncă, siguranță, control la frontieră etc. Dacă pui pe piață un sistem de mare risc, trebuie să faci evaluări de conformitate înainte de a-l pune pe piață și încă o evaluare de impact cu privire la respectarea drepturilor fundamentale ale utilizatorilor. Încă e fuzzy cum vor arăta aceste rapoarte, dar vor apărea structurile de sprijin pentru aceste evaluări. Oricine ai fi, trebuie să oferi specificații și documentație tehnică pentru sistemul pe care-l pui pe piață.
  • utilizezi sisteme IA? ar cam trebui să realizezi evaluări asupra contextului de utilizare ca să vezi dacă pot apărea efecte nedorite.
  • utilizezi sisteme IA? trebuie să te asiguri că persoanele care supraveghează sistemul sunt “competente, calificate și pregătite în mod adecvat și au resursele pentru a asigura supravegherea sistemului IA”.
  • ai control asupra datelor care intră în antrenarea sistemului? Păi, trebuie să te asiguri că datele sunt de calitate și comprehensive.

Astea sunt doar câteva exemple. Odată ce apare textul final, va fi mult mai clar care sunt obligațiile. Până atunci, să stăm cu ochii și pe noile versiuni de sisteme IA de uz general și pe textul final al legislației.

 

Referințe

  1. https://www.digitaleurope.org/news/23173/
  2. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai
  3. https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/
  4. https://www.euractiv.com/section/artificial-intelligence/news/european-union-squares-the-circle-on-the-worlds-first-ai-rulebook/
  5. https://www.euronews.com/next/2023/12/04/eu-governments-hypocrisy-is-on-full-display-over-dangerous-police-ai
  6. https://www.theguardian.com/world/2023/dec/08/eu-agrees-historic-deal-with-worlds-first-laws-to-regulate-ai
  7. https://algorithmwatch.org/en/ai-act-deal-key-safeguards-and-dangerous-loopholes/
Photo by Lucas van Oort on Unsplash
CiteșteSalvează

Cine v-a lucrat aici? Legislația IA e în pericol

In Uniunea Europeană
De Mirela Marcut
13 minute

Chat-GPT a împlinit ieri un an. DigitalPolicy face azi trei ani. Coincidence?! I think not! 🙂 Dar e momentul potrivit să ne uităm un pic pe unde se mai află instituțiile europene cu negocierea pe Actul privind Inteligența Artificială (AI Act), despre care am scris la vremea lui aici. De fapt, ar trebui să mai adăugăm aici un termen de referință: Chat-GPT a împlinit un an, DigitalPolicy trei, iar procesul de negociere al AI Act are deja 2 ani împliniți. Pare că legislația IA e în pericol.

Da, vorbim încă de un proces de negociere, având în vedere că AI Act încă nu a intrat în vigoare. Ce s-a întâmplat? Dacă nu vrei să mergi mai departe cu cititul, am răspuns la această întrebare deja din prima propoziție. Chat-GPT a împlinit un an, asta s-a întâmplat. Dacă vrei să mergi mai departe, vei afla despre:

  • cum noile aplicabilități ale IA au deturnat textul inițial al regulamentului
  • cum unele state pot deturna toată negocierea unui act legislativ din varii motive (a se citi – interese naționale)
  • cât de divizați sunt toți actorii care au habar cât de cât despre IA. Dacă ei sunt divizați, atunci ce pretenții să mai avem unii de la alții că înțelegem ceva despre IA?

De ce te-ar interesa să mergi mai departe?

  • reglementarea IA a pornit ca o soluție pentru protecția și siguranța consumatorilor. Deci, dacă nu iese, noi, cetățenii, ieșim mai prost.
  • mărul discordiei se învârte în jurul sistemelor de tip Chat-GPT și reglementarea acestora. Sunt acestea riscante sau nu? Dacă ai folosit cel puțin o dată un astfel de sistem, atunci ți-ai făcut o părere despre asta. Cum te situezi? Vezi mai jos ce s-ar putea întâmpla cu acestea.
  • de la “IA va aduce sfârșitul lumii” la “IA o să-mi elimine jobul”, cred că le-am auzit pe toate în ultima vreme. Vorbim cu adevărat despre așa ceva? Ce poate să facă o astfel de reglementare cu privire la aceste amenințări?

Să purcedem, deci.

Unde eram cu AI Act?

Apărută în aprilie 2021, propunerea privind reglementarea inteligenței artificiale (IA) s-a axat, la fel ca majoritatea legislațiilor adoptate pe tehnologii, pe protecția consumatorilor, adică a utilizatorilor de aplicații IA. Ideea era să prevenim jungla tehnologică în care fiecare producător se “auto-reglementează” și spune că va respecta o serie de reguli și poate-poate nu va pune pe piață produse menite să le facă rău oamenilor.

Aici intervine un aspect semnificativ: cum adică un software face rău oamenilor? Păi, atunci când drepturile lor fundamentale nu le sunt respectate sau sunt puse sub amenințare fără un ghidaj adecvat. De exemplu, când fiecare mișcare îți este supravegheată, când un program de acest gen decide ce fel de indemnizație primești sau dacă primești așa ceva. Sau la locul de muncă când o cameră de supraveghere dotată cu recunoaștere facială detectează că te-a enervat șeful, iar acesta primește rapoarte cu privire la recunoașterea emoțiilor tuturor angajaților

Dacă te-a înfricoșat vreuna din chestiile de mai sus, să știi că unele din aceste practici vor fi interzise (supravegherea în timp real cu anumite limitări, recunoașterea emoțiilor la locul de muncă) sau restricționate. Depinde de context și de locul în care se întâmplă. Asta e abordarea bazată pe risc în limbajul birocratic european. Adică o catalogare a riscurilor utilizării de IA în funcție de domeniul și/sau tip de utilizare în care se aplică – locul de muncă, frontieră, securitate etc.

Sursă: Think-tank-ul Parlamentului European

Impresiile cu privire la această abordare pe riscuri au fost și sunt împărțite în clasica diviziune între cei care cred că reglementarea e nașpa și cei care cred că reglementarea nu merge destul de departe.

De ce ar fi reglementarea nașpa în general? Răspunsul e că ar crea mai multe costuri de operare a acestor sisteme și că oricum restricțiile de operare dăunează inovației. Fiindcă nu poți să faci ce vrei, atunci nu poți inova. Dacă nu poți inova, nu poți aduce produse și servicii de valoare pe piață cu care să creezi mai multă valoare. Filosofia asta vine din America unde modelul de reglementare a tehnologiei este mult mai relaxat și pune accentul pe auto-reglementare. Nu mă credeți pe mine, atunci credeți-o pe Anu Bradford care scrie despre acest model în noua sa carte – Digital Empires.

Na și de aici se împute treaba cu toată legislația 🙂 De ce? Pentru că un produs nou a apărut în mijlocul procesului de negociere al AI Act și a direcționat total concentrarea pe utilizarea universală a acesteia, concentrare care intră în conflict cu modul în care erau văzute sistemele IA până atunci – un sistem pentru o utilizare pentru un domeniu.

Produsul era nou prin capabilitățile pe care a reușit să le obțină cu ajutorul infrastucturii și puterii de calcul, dar tehnologia din spate nu era chiar nouă. E vorba despre Chat-GPT, desigur.

Cine v-a lucrat aici?

Vorba aia, când vine meșterul să repare ceva și se ia cu mâinile în cap și zice: cine v-a lucrat aici? Cam așa și cu opinia publică acum cu puțin timp la dispoziție pentru finalizarea negocierilor pentru Actul IA când ne-am trezit cu toții cu o bombă din partea unor state. Dar să păstrăm un pic suspansul aici.

Deci, OpenAI și Chat-GPT ne-au lucrat aici și au determinat negociatorii din Parlamentul European să propună includerea “foundational models” sau “sistemelor de IA de uz general” în textul propunerii de regulament. Până aici toate bune. Dacă ai utilizat cel puțin o dată Chat-GPT și nu ți s-a zburlit părul pe spate când ai văzut că se exprimă bine în română și poate să-ți ușureze destul de mult activitatea, atunci felicitări, ești mult mai echilibrat decât mine. Sau mai optimist.

Hai să-ți stric un pic impresia despre acesta. De fiecare dată când noi îl folosim, îl antrenăm. De fiecare dată când îl folosim, acesta învață. Dar atenție, învață cuvinte și știe că trebuie să-ți livreze ceva ce s-ar potrivi ca răspuns la întrebare. De aceea, poate să inventeze chestii. Am făcut un training pentru profesorii din sistemul preuniversitar despre cum ar putea integra această unealtă la clasă și le-am arătat cum poate inventa bibliografii și cărți atunci când îi ceri surse de informare. Reacția a fost cam așa: 😲

Și din această mică discuție irelevantă cu niște profesori, vine întrebarea care e pe buzele negociatorilor europeni: sunt aceste modele riscante? ar trebui să le punem în categoria aia de risc ridicat (care vine la rândul ei cu niște obligații)?

 

A fi sau a nu fi de mare risc?

Fără a intra foarte mult în aspecte tehnice legate atât de aceste sisteme de uz general, cât și de negocierile europene, e suficient să spunem că reglementarea acestora a intrat în vizorul și a Parlamentului și a Consiliului UE, dar cu abordări oarecum diferite.

Background pentru cine nu știe: Comisia Europeană propune, Parlamentul și Consiliul negociază între ele și extind sau reduc propunerea inițială, iar Comisia poate interveni cu variante de compromis etc. Dar, votul final se dă în ambele instituții pe o variantă pe care se negociază luni bune în general. Sau ani.

Spre exemplu, președinția cehă de anul trecut a propus includerea acestora în categoriile de risc ridicat indiferent de cum se utilizează (să nu uităm că acestea pot fi utilizate în orice domeniu). Parlamentul a venit cu o serie diferită de obligații pentru aceste sisteme de uz general indiferent de categoria de risc în care se află. Aici e dilema. Spre exemplu, Google Maps e considerat un astfel de sistem pentru că are la bază IA. Dacă-l folosești ca să te duci în excursie, treaba ta, e o chestie personală și nu prea există foarte multe riscuri asociate. Dar dacă e folosit ca soft integrat într-o ambulanță sau o mașină de poliție (gen cum sunt BMW-urile noastre :), atunci intervin aspecte legate de securitate, viață privată etc.

Aici a apărut o nouă variantă de compromis – “tiered approach” – din nou din limbajul melodios al birocrației europene. Adică nu toate sistemele de genul acesta sunt cu impact maxim asupra societății, deci Comisia a propus reglementarea pe două categorii: prima care le include pe toate sistemele de uz general (cu obligații de transparență) și a doua cu mai multe obligații pentru sistemele IA cu impact asupra societății. Acestea ar trebui să ofere explicații cu privire la modul de funcționare a sistemelor, spre exemplu.

Responsabilitatea de a desemna pe cele din urmă ar cădea instituției denumite generic AI Office (pe bază de capabilități, număr de utilizatori, investiții etc), care s-ar ocupa de foarte multe aspecte tehnice pentru implementarea reglementării. Aici ar putea intra, de exemplu, Chat-GPT. Acestea ar reprezenta un risc sistemic asupra societății datorită puterii lor și numeroaselor sale utilizări.

Image by Vectorarte on Freepik

Legislația IA e în pericol

Și acum vine detonarea bombei. Pe ultima sută de metri, Franța, Germania și Italia au publicat o scrisoare în care și-au exprimat dezacordul total cu privire la reglementarea acestor sisteme de uz general și limitarea acestei reglementări la realizarea unor coduri de conduită pe care companiile se angajează să le respecte. Mai mult, n-ar fi de acord nici cu sancțiuni, decât după încălcări repetate ale codului de conduită. Toată lumea a fost luată prin surprindere de această poziție, care va paraliza Consiliul UE, iar Parlamentul a menționat clar că nu va da înapoi cu privire la această reglementare.

Care-i problema Franței, Germaniei și a Italiei? Eterna problemă: reglementarea acestor sisteme ar ucide inovația. Inovație realizată în UE. Presa scrie că imboldul pentru această poziție a venit de la 2-3 companii din domeniul IA din țările respective. Veșnicul lobby, adică 🙂 Dar demersul pare oarecum egoist, având în vedere că aceste state au fost de acord cu reglementarea sistemelor IA atunci când ele vin din alte părți. Deja când vorbim de lucruri din ograda noastră, lucrurile se complică.

Motivul tehnic se leagă de faptul că abordarea cu privire la sistemele de tip Chat-GPT se leagă mai degrabă de tehnologie în sine, deci de cei care o pun pe piață, decât de utilizarea lor, spre deosebire de restul propunerii de regulament. Reglementarea ar presupune obligații pentru cei care pun pe piață, nu cei care o utilizează. Dar să nu uităm că aceste sunt sisteme de uz general, deci nu prea ai alte portițe de reglementare pentru că sunt mii de tipuri de utilizări posibile.

De ce acum și nu mai demult când era vorba și de o reglementare poate mai dură? Aceasta e o întrebare bună care poate ține de un demers strategic de a întârzia per total tot regulamentul. Pentru că asta se poate întâmpla. Vine finalul de an și ultimele întâlniri pe acest subiect sunt pe 6 decembrie, apoi se schimbă Președinția de la 1 ianuarie, iar mare lucru nu mai pot face pentru că Parlamentul nu va mai lucra prea mult, având în vedere că vor fi alegeri în iunie.

Am citit reacții de genul din presă: “acum ori niciodată”, “declaration of war” șamd.

Ce mai zic alții?

Dovadă că procesul decizional european e chiar democratic și deschis este numărul relativ mare de scrisori deschise și apeluri publice din jurul acestui regulament. E semn că presiunea, de oricare parte ar fi ea, funcționează. Iar, odată cu apelul lansat de Franța, Germania și Italia, presiunea publică s-a intensificat și ea.

Să începem cu industria. Ce spune?

  • DigitalEurope – una din cele mai mari asociații profesionale care reprezintă companiile din tehnologie – sprijină scrisoarea celor trei țări. Nu sunt de acord cu clasificarea sistemelor de uz general ca fiind de mare risc, iar companiile n-ar trebui să fie împiedicate să utilizeze aceste sisteme. Reglementarea lor ar însemna poate finalul lor: “let’s not regulate them out of existence”
  • scrisoare deschisă a mai multor asociații profesionale și companii din mai multe sectoare, printre care Renault, Siemens, Valeo, Carrefour etc: reglementarea acestor sisteme ar duce la costuri ridicate de conformitate și ar duce la retragerea investițiilor și relocarea companiilor. Ceea ce ar duce la o rămânere în urmă și mai mare față de SUA în ceea ce privește dezvoltarea tehnologiei. De ce n-ar trebui reglementate? Pentru că nu știm încă prea multe despre aceste sisteme. Ar trebui instituite doar o serie de principii generale, subliniind faptul că ele vor deveni aproape ca niște asistenți personali

Pe scurt, ideile sunt aceleași – nu reglementați mai mult decât trebuie, ucideți inovația și dezvoltarea. Într-adevăr, dezvoltarea tehnologică de care ne bucurăm acum este rezultatul unui mediu relaxat de reglementare. Dar să nu uităm unde am ajuns acum: concentrarea informației la o mână de companii, eliminarea competiției, expansiunea necontrolată a social media cu repercusiuni sociale importante.

De aici pornește și un alt punct de vedere enunțat de European Policy Centre. Analiștii acestui think-tank detaliază că lipsa reglementării unor astfel de sisteme de IA va putea aduce același tip de concentrare în mâna corporațiilor mari, lucru care oarecum deja se întâmplă. De altfel, haosul de la compania OpenAI, unde fondatorul Sam Altman a fost dat afară și reinstaurat în decurs de câteva zile, arată limitele abordării private cu privire la auto-reglementare.

Soluția lor vine din două părți. Din reglementare oricum. Mai precis, din politica de competiție, pentru a elimina riscul concentrării puterii IA în mâinile unor companii, așa cum se întâmplă acum cu social media. Dar oricum, realizarea de astfel de modele presupune investiții mari, iar competiția ar fi restrânsă, astfel că aici vine a doua parte a propunerii de reglementare, anume dotarea acestor companii cu statut de “utilități publice” sau cu responsabilități fiduciare care să le lege de un anumit interes public. Cam cum vorbim despre compania de electricitate sau de apă.

Institutul Ada Lovelace, una din vocile cele mai relevante din IA din lume, afirmă fără echivoc: “ar fi iresponsabil să nu reglementăm sistemele IA de uz general pentru a proteja câțiva campioni naționali”. Furnizorii ar trebui să fie reglementați și nu utilizările specifice pentru că aceștia au capacitatea financiară de a asigura conformitate pentru întregul lanț de valoare.

Pe lângă toate argumentele similare cu cei de la EPC, poziția Ada Lovelace vine și din studiul preferințelor și atitudinilor cetățenilor cu privire la IA, despre care am vorbit aici. Oamenii vor reglementare, vor să aibă încredere în soluțiile IA pe care le utilizează.

Cele mai clare poziții cu privire la necesitatea de a trata diferit sistemele IA de uz general vin de la o scrisoare semnată de o grămadă de cercetători și universitari proeminenți din IA. Ei vorbesc despre riscul sistemic inerent al acestor sisteme datorită caracterului lor general sau a potențialului de a afecta aproape orice parte a societății. Ei spun că nu există altă soluție decât de a reglementa “la origini”, acolo unde se pot rezolva destule probleme dinainte de implementare în anumite sectoare.

What now?

Sunt câteva scenarii pe masă la ora actuală. Cel mai des menționat în presa de specialitate este că întreg regulamentul este în pericol și că nu mai este prea mult timp la dispoziție. The clock is ticking.

Dar uităm adesea că politicii europene aproape că îi place acest tip de urgență. Marile decizii din tratate s-au realizat în miezul nopții sau foarte aproape de expirarea unui termen-limită. Astfel de condiții invită la compromis, iar compromisul este la inima procesului decizional european. Acesta este al doilea scenariu: un compromis pe ultima sută de metri între ce vor statele și ce vrea Parlamentul. Problema e că am fost deja la momentul unui compromis – cu acea abordare pe două paliere – și acesta a fost respins.

Închei cu poziția directorului pentru cercetare al Centre for European Policy Studies, care a contribuit cu multă cunoaștere la procesul de realizare și negociere pentru acest dosar legislativ: “finish it already”.

 

Referințe

Image by Freepik
CiteșteSalvează

Cum arată România de la Bruxelles? Cu ce-am rămas după Romanian Digital Day

In Digital, România, Uniunea Europeană
De Mirela Marcut
9 minute

Am participat la Romanian Digital Day în Parlamentul European, eveniment organizat de MEP Victor Negrescu și aflat la a doua ediție. Prima vizită a Digital Policy în Parlamentul European 🙂

Discuțiile din jurul evenimentului s-au legat de necesitatea ca România sa fie mai prezentă in discuțiile legate de politicile digitale, de tehnologie si inovare, simțindu-se și în rândul participanților acest apetit pentru a explora perspectiva României si a actorilor naționali, regionali și locali în ceea ce priveste transformarea digitală.

Aflându-ne in Anul European al Competențelor, mare parte din discutii s-au axat pe ce anume putem să facem ca să creștem competențele digitale ale românilor si să ne adaptăm la noua realitate a inteligenței artificiale și a automatizării.

Dacă tot am discutat o zi întreagă despre asta, e util să punem pe hârtie câteva din contribuțiile cele mai valoroase ale întâlnirii Romanian Digital Day. Astfel, putem să avem un fir roșu asupra transformării digitale a României, atât din interior, cât și din exterior. Asta pentru că am avut și invitați din străinătate care au vorbit despre România.

 

Ce zic românii despre transformarea digitală?

Aspecte relevante pentru cetățeni / sectorul public / sectorul privat

  • o afirmație venită din partea unui actor privat din România care a generat câteva reacții: “România este o țară “răspândită pe toate cele patru revoluții industriale”
  • exemplu de modernitate în România: suntem una din primele țări din lume la plata contactless și numărul 2 în lume la plata biletelor pentru transportul în comun cu ajutorul cardului. DAR, doar 28% din români au cel puțin competențe digitale de bază și doar 10% din IMM-uri vând online.
  • sectorul economiei digitale este în creștere în România, existând loc destul să crească doar că două lucruri pot influența această creștere poate chiar în moduri opuse: competențele digitale relativ scăzute ale românilor, care pot ține în jos acest sector, și “generative AI”, care ar putea ajuta la dezvoltarea de noi modele de business și la creștere economică
  • s-a adus în discuție necesitatea pregătirii angajaților de către companii, atât în ceea ce privește perfecționarea, cât și recalificarea acestora. O idee interesantă aici: retenția angajaților! Degeaba pregătești angajații, dacă nu poți să-i ții la locul de muncă. Lipsa unei strategii cu privire la retenție duce la costuri extra. Aici e valabil și în ceea ce privește retenția la nivel de regiune.
  • succesul programelor de perfecționare și recalificare ține și de flexibilitatea programelor oferite, iar angajații au nevoie de sprijin în acest sens pentru a crește motivația de a participa
  • sprijinirea companiilor aflate în faza de “scale up” (adică de extindere) este una din soluțiile menționate pentru economia românească.
  • în general, discursurile românești din sectorul public se axează pe talentul și finanțările pe care le are România la dispoziție.
  • un punct semnificativ care a fost abordat doar tangențial și doar la capitolul “ar trebui să…”: decidenții ar trebui să comunice mai mult despre legislațiile care privesc trecerea serviciilor digitale în online. Cu precădere despre identitatea digitală. Completare personală: cineva în care oamenii au încredere ar trebui să vorbească despre asta, altfel e efort irosit.
  • DESI este adus în discuție de mai multe ori – câțiva din actorii privați cer fixarea țintelor Deceniului Digital ca ținte relevante pentru țară, nu doar ca aspecte de bifat pentru că ne cere Comisia Europeană.
  • dincolo de banii europeni, am remarcat și multiplele exemple de inițiative private pentru dezvoltarea competențelor digitale și a educației digitale a tinerilor. Completare personală aici: e important să punem cap la cap aceste inițiative și să le “mapăm” pentru a vedea unde există eforturi dublate, unde nu se intervine deloc etc.
  • măsurarea abilităților digitale -atât la clasă, cât și în societate – este de asemenea semnificativă pentru că permite intervenții și follow-up
  • invitații din sectorul de educație au subliniat importanța utilizării tehnologiei la clasă, sugerând că “tehnologia e o ancoră” către cunoaștere. Dilemă exprimată aici de către un profesor: cum ținem copiii departe de telefon la oră? Răspunsul unui alt cadru didactic din același panel: dacă ora e captivantă, nu va sta pe Tik-Tok.
  • “călătoria educațională” trebuie să se schimbe – atât pentru sistemul educațional, cât și pentru programele de formare. Nu mai vorbim de 4 ani de facultate și 40 de ani de muncă. Ar trebui să vorbim despre 4 ani de specializare, 4 ani de muncă și tot așa.

Ce zic străinii despre transformarea digitală a României?

Aspecte relevante pentru cetățeni / sectorul public / sectorul privat

  • în ceea ce privește educația digitală și competențele digitale – Comisia poate oferi doar unelte de sprijin, cum ar fi finanțările și monitorizarea, dar depinde de nivelul național și regional să implementeze proiecte cu impact
  • la nivel regional, e important de identificat nișele regionale și de corelat cu strategiile de specializare inteligentă pentru a pregăti forță de muncă în domenii de impact regional
  • este datoria nivelului național să se ocupe concret de realizarea și implementarea politicilor. Unii au denumit asta “datorie morală” de a rezolva problema diviziunii digitale în materie de competențe și infrastructură
  • România stă bine la echilibru de gen în IT – lucru menționat de mai multe ori de persoane din Comisie și Parlament
  • ce poate face România mai mult în afară de implementare? poate activa mai mult în programul Horizon axat pe cercetare și inovare
  • dar se sugerează și introducerea de aspecte legate de competențe digitale în programa tradițională încă din școala primară. Spre exemplu, instruire cu privire la “legile lumii digitale”, așa cum învață copiii despre legile fizicii, să învețe despre legile lumii digitale. O completare personală: legile fizicii nu se schimbă, în timp ce cele online se pot schimba, dar ideea tot e semnificativă și “jucăria” asta numită Digital Policy se încadrează și ea aici.
  • profesorii trebuie să primească “pregătire țintită” nu doar pentru a preda cu ajutorul tehnologiei, dar să instruiască la rândul lor copiii cu privire la dezinformare, inteligență artificială etc. Asta în condițiile în care în România doar 28% din cetățeni au cel puțin competențe digitale de bază. Aici includem și profesorii.
  • să nu uităm să includem și alți actori care pot contribui la educația digitală – că nu e vorba doar despre instituțiile educaționale.
  • modernizarea procedurilor de achiziții publice (hint: se referă aici la ecosistemul de GovTech) care să permită companiilor care dezvoltă produse inovatoare să crească. Aceasta e considerată una din soluții pentru sprijinul creșterii startupurilor.
  • Piața Unică – adică libertatea de circulație a bunurilor, serviciilor, capitalului și persoanelor – este un sprijin pentru companiile europene care vor să crească. Dar a apărut și altă perspectivă aici – din punctul de vedere al sectorului privat – încă sunt numeroase bariere pentru companii în drumul lor spre piața europeană. Și aici trebuie intervenit pentru a sprijini companiile cu potențial

Ce a zis Digital Policy la Romanian Digital Day?

 

Romanian Digital Day – ediția a doua, noiembrie 2023

Ce putem face pentru a crește gradul de competențe digitale a românilor, dacă ne raportăm la nivel regional? Asta am încercat să abordez în panelul intitulat “Boosting regional talent at a digital level”. La fel de bine se putea intitula si invers – Boosting digital talent at a regional level.

Daca stau bine sa ma gândesc, intervenția Digital Policy s-a încadrat mai mult in acest al doilea titlu, mai specific: cum facem ca mai multi oameni sa aiba competente digitale? Si nu cu intervenții naționale, unde numaram zeci si mii de oameni care au absolvit cursuri de competente digitale, dar poate ei au facut mai multe sau au mai fost numarati o data, pe sistemul „doua la prefectura, doua la primarie etc”. Actiunea cea mai buna pentru dezvoltarea competentelor digitale este la firul ierbii, unde actori locali – pot fi si biblioteci sau huburi de inovare digitale sau chiar si ONG-uri – intervin tintit și raportează mai departe către celelalte nivele.

Deci, ce am spus? Am identificat patru elemente semnificative în relație cu dezvoltarea competențelor digitale la nivel regional:

  • date regionale – așa cum politica regională arată că cea mai bună acțiune este cea mai aproape de cetățean, așa trebuie să se facă și intervenția pentru dezvoltarea competențelor digitale. Dacă stabilim ținte naționale și nu ne uităm la distribuția pe regiuni, riscăm să avem intervenții dublate sau redundante.
  • “streamlining” – să conectăm diferitele inițiative pentru dezvoltarea competențelor, să le monitorizăm și să avem o privire de ansamblu asupra impactului acestora. Astfel, vom putea răspunde la întrebarea: unde trebuie să intervenim mai exact? Unde avem lipsuri? Ținta europeană e 80% din persoane cu competențe digitale de bază, care e cea românească? Care sunt nevoile la nivel regional? Unde s-a mai intervenit? Aici putem conecta ideea menționată mai sus, conform căreia nu doar instituțiile de educație tradițională se ocupă cu asta, ci trebuie un parteneriat cu mai mulți actori pentru acoperire mai mare.
  • “flexibilitate” – dacă ne referim la angajați și nevoile pieței muncii. Trebuie să avem un standard de competențe digitale – cum ar fi cel de promovat de DigComp, despre care am mai vorbit aici – dar cum îl corelăm cu nevoile sectoarelor economice? Atât agricultorii, cât și zidarii poate că trebuie să știe despre securitatea cibernetică, dar ce altceva mai trebuie să știe care e specific sectorului lor de activitate?
  • forecasting – “digital skills trainings are not future-proof”, evoluția tehnologiei ne cere întotdeauna să revizităm ce știm. O combinație de competențe digitale și soft ar putea fi “future-proof”. Ideea e că e important să gândim o serie de instrumente de prevăzut ce nevoi vom avea în viitor – pe sector economic, pe regiune.

Și cu ce rămânem?

Ideea e să rămânem cu niște idei de tip #foodforthought sau care invită la mai multă acțiune din partea decidenților, actorilor privați etc. Cu ce am rămas eu:

  • educația digitală – ține de cooperarea structurată dintre mai multe instituții – școli, licee, sectorul privat și public. Structurată adică parteneriate consistente cu instrumente de livrare și măsurare clare.
  • educația digitală presupune mai mult decât predarea pachetului Office – ci cetățenii trebuie să învețe și “legile spațiului digital”.
  • DESI nu este doar un index transmis anual de către Comisia Europeană, este urmărit atent de sectorul privat (poate mai mult decât sectorul privat), dacă ne raportăm la modul în care a fost abordat în intervenții
  • nivelul regional este semnificativ pentru intervenția pentru dezvoltarea competențelor digitale – biblioteci, huburi de inovare digitală
  • economia din România duce lipsă de companii care să fie sprijinite să crească, dar în același timp are nevoie și de angajați cu competențe digitale. Provocare dublă.

 

CiteșteSalvează

Ce cred britanicii și românii despre inteligența artificială?

In DIGest, România
De Mirela Marcut
7 minute

În contextul publicării cadrului strategic privind AI, a diverselor dezbateri privind inteligența artificială care au pătruns în discuțiile noastre de zi cu zi, ar fi chiar util să vedem exact ce zice populația despre asta.

Așa că azi, mai pe scurt, despre percepțiile populației cu privire la inteligența artificială. Punctul de pornire este un studiu destul de complex. Nu din România. Noi n-am făcut un astfel de sondaj reprezentativ pentru populație pentru fundamentarea strategiei de AI, dar iacătă că britanicii au făcut-o încă de anul trecut. E din UK. Pentru România, am găsit date dintr-un studiu internațional care a cuprins și România în eșantionul său.

Sondajul a fost realizat de Ada Lovelace Institute pe un eșantion reprezentativ de 4000 de britanici și a chestionat aspecte de genul: nivelul de experiență și atitudinile privind diferitele utilizări ale IA (recunoaștere facială, pentru luarea de decizii sau identificarea de riscuri medicale, reclame țintite, robotică etc), care ar fi avantajele și dezavantajele și cum ar vrea ca aceste tehnologii să fie reglementate.

Ce spun britanicii?

  • 72% sunt îngrijorați cu privire la mașinile autonome și 71% cu privire la armele bazate pe IA
  • 90% cred că utilizarea IA pentru detectarea bolilor este benefică, dar mai mult de jumătate din ei sunt îngrijorați de ideea de a conta doar pe IA în luarea unor decizii medicale
  • 47% își exprimă îngrijorarea cu privire la dificultatea de a ști cine e responsabil de greșelile făcute ca urmare a utilizării IA pentru luarea deciziilor medicale
  • eficiența, viteza și creșterea accesibilității – principalele avantaje ale utilizării IA
  • principalele probleme? potențialul de înlocuire a judecății umane, lipsa de transparență și responsabilitate în luarea deciziilor. Desigur, și lipsa unei protecții a datelor personale pentru cazuri, cum ar fi boxele inteligente sau reclamele țintite
  • majoritatea populației își dorește reglementarea IA, iar 59% vor proceduri clare pentru ca decizia ultimă să fie făcută de o persoană și nu de un sistem IA
  • reglementarea în domeniu ar trebui să conțină posibilitatea de contestare și de compensații.

 

Ce cred și ce știu britanicii despre IA?

  • 41% spun că vor o instituție independentă să vegheze la utilizarea sigură a IA. Tinerii sunt mai predispuși să fie de acord cu această idee decât persoanele peste 55 de ani.
  • Interesant este că pe locul 2 regăsim companiile care dezvoltă tehnologiile de IA. Nu ne-am învățat lecția, se pare. E ironic, gândindu-ne că reclamele țintite pe social media și protecția datelor personale (îngrijorări cauzate de auto-reglementarea platformelor) sunt pe primele locuri la aspectele problematice cu privire la IA.

 

  • pentru britanici, e important să știe cum se iau deciziile cu un sistem IA, chiar dacă asta ar reduce acuratețea reducerilor. 31% indică faptul că oamenii ar trebui să ia deciziile finale și să le poată explica
  • cele mai cunoscute utilizări ale IA – recunoașterea facială pentru deblocarea telefonului sau mașinile autonome. Cele mai puțin necunoscute? utilizarea IA pentru luarea deciziilor cu privire la eligibilitatea pentru ajutoare sociale sau utilizarea IA pentru a detecta riscul de cancer. În general, utilizarea IA pentru evaluări de risc și a eligibilității este cea mai puțin cunoscută utilizare, deși unele sunt deja utilizate la ei.
Ce cred britanicii și românii despre IA_4
Ce cred britanicii și românii despre IA_5
Anterioară
Următoare
  • fără surprize – cele mai multe experiențe le au britanicii cu reclamele țintite.
  • surprize la utilizări benefice ale IA: locurile 2 și 3 sunt ocupate de utilizări ale IA la controlul de la frontieră și în activitate de poliție, utilizări de mare risc conform proiectului de regulament AI Act
  • nu există o suprapunere exactă între beneficii și îngrijorări în ceea ce privește utilizările diverse ale IA. Dar există câteva tehnologii pentru care îngrijorările depășesc beneficiile: armele autonome, mașinile autonome, reclamele țintite pentru produse și publicitate politică, și IA pentru evaluarea eligibilității pentru un loc de muncă. Companie “selectă” pentru reclamele țintite 🙂
  • viceversa: detectarea riscului de cancer, simulări pentru cercetarea cu privire la schimbările climatice, aspiratoarele robot, boxele inteligente, evaluarea riscului de neplată a unui împrumut, recunoașterea facială pentru deblocarea telefoanelor, controlul frontierei și pentru poliție
Ce cred britanicii și românii despre IA_6
Ce cred britanicii și românii despre IA_7
Anterioară
Următoare

Ce treabă avem noi cu britanicii? Nu mai sunt nici măcar în UE…

Corect. Dar putem face niște corelări interesante și să luăm niște lecții și pentru România.
  • britanicii au deja o strategie pentru IA care mizează pe inovare și mai puțin pe reglementarea riscurilor. Cu toate acestea, publicul cere reglementare și mai ales pe palierele de siguranță și caracterul explicabil al acestor sisteme.
  • a înțelege cum lucrează sistemele IA presupune să ai un set de abilități digitale deja. Ei bine, putem corela cifrele legate de experiențele cu IA și îngrijorările cu faptul că undeva la 20% din populația UK nu are suficiente competențe digitale pentru a se descurca (cifre de aici). Bun și acum să ne mutăm în România, unde aproximativ 30% AU competențe digitale de bază. Cum ar arăta un astfel de sondaj la noi în țară?
  • avem și noi parte de un cadru strategic privind IA care va genera o serie de măsuri și acțiuni, dar acesta nu pune suficient de mult accent pe impactul socio-economic. Asta poate și pentru că nu a sondat opinia publică cu privire la atitudinile românilor cu privire la IA sau nu ține cont de puținele cercetări făcute pe subiect.

Dar românii ce zic?

Ce cred britanicii și românii despre IA_8
Ce cred britanicii și românii despre IA_9
Ce cred britanicii și românii despre IA_10
Ce cred britanicii și românii despre IA_11
Anterioară
Următoare

De fapt, avem o frântură de percepții ale românilor. Un sondaj Ipsos din acest an s-a uitat la opinia publică din mai multe țări cu privire la IA, printre care și România. Ce a ieșit?

  • 77% din români înțeleg bine ce este IA. Încrezători în ei 🙂. Cum se corelează asta cu datele de la Eurostat că suntem pe ultimul loc la competențele digitale din UE?
  • apropo de încredere, în general, românii au tendința să se încreadă în sistemele IA să nu discrimineze și au încredere în companiile care dezvoltă tehnologii.
  • românii sunt mai entuziasmați de IA decât îngrijorați – 62% față de 54% media internațională.
  • dovadă a acestui entuziasm e că mare parte din ei cred că nu prea le va afecta jobul pe următorii 5 ani. Cumva e în concordanță cu acest acest studiu cu privire la eliminarea joburilor de către IA, revizitat recent de către cercetători de la Oxford. Ei afirmă că, deocamdată, potențialul de eliminare totală a slujbelor e mai limitat decât estimaseră ei inițial, dar sugerează că se vor transforma slujbele. Cele care au loc aproape exclusiv virtual, cum ar fi telemarketingul, au potențial mai mare de eliminare. Sau cele care au loc în “medii structurate”, cum ar fi depozitele. Deci, dragi români, depinde de tipul de slujbe pe care-l aveți. Și aici ar fi mers acel studiu de impact economic pentru cadrul strategic privind IA. Pentru corelarea tipurilor de industrii și de slujbe existente cu cercetările acest tip.
  • studiul care privește România nu este la fel de complex comparat cu cel realizat de Ada Lovelace Institute, deci nu putem ști clar care ar fi motivele de îngrijorare sau de entuziasm sau ce tip de tehnologie îi entuziasmează. Studiul britanic face un lucru bun și pentru dezvoltarea înțelegerii termenului de IA, anume clarifică faptul că nu există O SINGURĂ inteligență artificială.

Deci, există totuși o serie de puncte neclare în ceea ce privește atitudinea românilor cu privire la IA, iar studiul britanic ar putea fi replicat în România pentru mai multă înțelegere și fundamentare a politicilor publice.

Referințe

  • The Ada Lovelace Institute and The Alan Turing Institute (2023), How do people feel about AI? A nationally representative survey of public attitudes to artificial intelligence in Britain, https://attitudestoai.uk
  • Ipsos (2023), Românii și inteligența artificială, între ignoranță și fascinație, https://www.ipsos.com/ro-ro/romanii-si-inteligenta-artificiala-intre-ignoranta-si-fascinatie

 

CiteșteSalvează

Unde suntem cu digitalizarea? Raportul despre România privind Deceniul Digital

In România, Uniunea Europeană
De Mirela Marcut
10 minute

Am fost recent la o conferință internațională destul de mare, conferință axată pe studii europene. Nu am fost surprinsă să observ că programul conținea destul de multe lucrări (raportat la ultimele conferințe și discuții pe care le avusesem cu alții din domeniu) axate pe politici digitale. Baiul care a fost? că trebuia să alerg dintr-un panel în altul, să ajung să le ascult pentru că nu au fost puse într-un panel sau măcar într-o arie tematică. Majoritatea lucrărilor (printre care s-a aflat și a mea) au fost sub panelul “zone gri ale integrării piețelor”, doar că mare parte din lucrări nu s-au ocupat direct de #digital din perspectiva economică, ci mai degrabă de modul în care Comisia și alți actori orchestrează legislația în materie de #digital pentru a acumula mai multă putere la nivel european. Pasăre rară în acest context: lucrarea mea despre rolul statelor în implementarea politicilor digitale.

Nu-i surprinzător să vină o astfel de lucrare dintr-o țară care stă destul de prost la capitolul implementare a elementelor de politici digitale care vin de la UE, dar și care ar fi extrem de necesare pentru adaptarea țării noastre la nivelul civilizației vestice. Din ce am vorbit cu alți cercetători, pentru ei DESI, Indexul Societății și Economiei Digitale, este destul de necunoscut și pentru că nu stau prost în aceste clasamente și nu se pune problema să nu se facă reforme pe servicii publice digitale sau pe a dezvolta economia sau societatea digitală.

Așa e, doamnelor și domnilor, a venit acea perioadă din an. Cea în care ne uităm la Indexul Societății și Economiei Digitale să vedem dacă încă suntem pe locul 27 și să spunem că iar n-au luat datele cele bune sau că “nu se poate să fim ultimii că doar am făcut asta și asta”. Doar că acum nu mai suntem pe ultimul loc 🙂 Asta pentru că nu mai plasează în prim plan clasamentul statelor, ci cum progresează ele spre țintele europene. Convergența digitală, deci. Oricum, am cam verificat, suntem tot ultimii.

Why should you care? De ce ți-ar păsa?

  • ai auzit cu siguranță discursurile întregi referitoare la miliardele și milioanele de Euro care curg spre România. 20% din PNRR ar trebui să meargă pentru proiecte pe #digital și nu mai zic de banii pe toate fondurile structurale care sunt programați pentru #digital. Vezi aici “pomelnicul” lor. Deocamdată sunt doar teoretici și pe hârtie. Și rapoartele europene arată asta.
  • la anul sunt alegeri 🙂 de toate felurile. Vom auzi discursuri despre cum s-a implementat, s-a făcut aia și aia. E bine să știi să întrebi unde sunt serviciile publice digitale, unde sunt programele de competențe digitale promise? Să votezi în cunoștință de cauză.
  • nu se comunică suficient pe tema schimbărilor în materie de legislație digitală în România. UE ne cam împinge de la spate cu legislațiile pe #digital. Viața noastră e din ce în ce mai mult online, dar anumite aspecte încă nu se mișcă. De ce? Îți arată rapoartele Uniunii privind Deceniul Digital.

Deci, azi, despre proaspetele rapoarte privind Deceniul Digital și, în special, despre raportul privind România. Deci să nu-i mai zicem DESI 🙂 că ne dă coșmaruri:

  • cum performează Uniunea Europeană către țintele Deceniului Digital?
  • România pe unde mai e?

Cum arată raportul privind Deceniul Digital?

Așa cum am spus mai sus, rapoartele sunt diferite față de clasicul DESI care a existat începând cu 2015, dacă nu mă înșel. Nu mai facem de rușine statele că sunt pe ultimele locuri. De altfel, plasarea în ranking a dispărut din rapoartele naționale, iar tabelele cu statele lipsesc de tot din întreg raportul european. Puține state sunt luate în vizor sau oferite ca exemplu pozitiv sau negativ. Miza e europeană, nu mai e națională. Cam acesta e mindsetul.

Ce mai e diferit?

  • importanța raportului parcă e altfel – textul menționează că acesta completează rapoartele privind Semestrul European – pe baza cărora s-au realizat și Planurile de Redresare și Reziliență și care oferă orientări clare de politică dinspre Comisie spre state
  • pentru fiecare țintă din Deceniul Digital, prezintă recomandări de politici mult mai clare decât la DESI care nu se leagă doar de intervenții naționale, ci mai ales de legătura cu politicile europene în domeniu
  • deci, raportul e mult mai complex pentru că integrează și elementele de legislație, de fonduri disponibile, cât și aspecte tehnice
  • există parcă o presiune mai mare pe statele membre, pentru că raportul menționează adesea necesitatea unui efort mai mare din partea statelor, și evidențiază și necesitatea implicării părților interesate locale sau regionale. De exemplu, pentru serviciile publice digitale deja încep să se uite și la servicii locale și regionale. Ceea ce e normal
  • există referiri cu privire la progresul către țintele asumate până în 2030. Adică, pe sistemul “dacă continuăm așa, atingem doar o țintă de…până în 2030”. Analiza predictivă pentru politici publice – limbi străine pentru decidenții noștri.
  • suveran – un adjectiv prezent foarte des în textul raportului. Uneori în circumstanțe ciudate, gen “sovereign AI solutions”.
  • geopolitica apare în raport într-un mod explicit. Adesea țintele europene sunt privite în paralel cu performanța americană. Spre exemplu, acoperirea cu 5G este mult mai mare în SUA decât în UE
  • raportul face legătura cu părerea cetățenilor cu privire la tehnologiile digitale și cu îngrijorările lor privind spațiul online. Printre îngrijorări se numără securitatea cibernetică sau protecția datelor
  • să nu uităm de declarația drepturilor digitale – care are o secțiune dedicată în raport – și care se leagă de mai multe elemente de legislație adoptate sau în curs de adoptare în UE

 

Iepurele sau broasca țestoasă?

Cum performează Uniunea Europeană către țintele Deceniului Digital?

Sursă: Comisia Europeană, Raportul privind Deceniul Digital (2023)
Sursă: Comisia Europeană, Raportul privind Deceniul Digital (2023)

Cam așa arată performanța europeană pentru atingerea țintelor Deceniului Digital. Dintre toate, cele legate de nodurile periferice “edge nodes” și quantum computing sunt cele mai întârziate poate și pentru că deocamdată ele țin foarte mult de cercetarea teoretică.

Ce mai iese din evidență pe categorii?

  • conectivitatea e privită și din perspectiva tehnologiilor prin satelit și există referințe la necesitatea finanțării viitorului conectivității. Cum anume finanțăm creșterea vitezei și accesului? Hint: unii au propus să plătească BigTech 🙂
  • există programe naționale de quantum deja pornite. Ungaria, Austria sau Portugalia, iar recomandarea Uniunii e dacă că statele membre intră în programe de quantum computing, să o facă ținând cont de interesele strategice europene. Mai pe scurt: să nu intre în cooperări cu state, gen China 🙂
  • pentru integrarea tehnologiilor în companii, conform analizei, dacă trendul merge tot în acest fel, nu se vor atinge țintele la nivel de 2030 (proiecția arată că doar 20% vor folosi AI). Spania e dată exemplu în raportul european prin inițiativa de tip toolkit digital pentru IMM-uri, despre care am scris și aici.
  • ținta pentru intensitate digitală este relativ mai ușor de atins.
  • Pentru ambele componente mari referitoare la integrarea tehnologiilor digitale în companii, EDIH-urile sunt printre principalii actori pentru sprijinirea dezvoltării soluțiilor pe bază de IA, dar și pentru a sprijini companiile să crească.
  • pentru unicorni, ținta e posibil să fie atinsă dacă se continuă trendul
  • la capitolul competențe digitale – 46% nu au competențe digitale de bază. Conform raportului, dacă nu se acționează coerent, nu se vor atinge țintele până în 2030. S-ar atinge un procent de 59%.
  • Nici ținta specialiștilor IT nu s-ar atinge dacă nu se intervine cu programe educaționale și sprijin pe upskilling și reskilling. Recomandare de politică – să integreze în foile de parcurs recomandările Consiliului privind abilitățile digitale în educație
  • țintele pe servicii publice digitale nu sunt atât de îngrijorătoare, având în vedere progresul realizat deja. DAAAR, există câteva aspecte care au fost până acum ignorate și care trebuie luate în calcul de mai toate statele membre: situația serviciilor publice locale și regionale – a căror digitalizare este mai redusă decât cele centrale. Un alt aspect interesant – nu există investiții suficiente în servicii inovatoare bazate pe IA sau pe date
  • recomandare interesantă pentru statele membre: monitorizarea utilizării serviciilor publice pentru a identifica anumite disparități. Un audit de maturitate digitală

România în raportul privind Deceniul Digital

Există 2 rapoarte referitoare la statele membre – unul scurt și unul lung. Ambele au recomandări de politici pentru România care aproape toate încep cu “Romania should step up..” “Romania should accelerate” șamd.

Nu mai avem clasament, avem doar comparație cu țintele europene și parcursul spre 2030. Ce iese în evidență aici?

  • raportul recunoaște din nou lipsa unei strategii “adusă la zi și complexe” privind transformarea digitală. Iar speranța vine de la foaia de parcurs națională care ajunge să fie văzută ca înlocuitor de strategie. E bine, nu e bine? E bine că monitorizarea va fi făcută extern, de către Comisie. Nu e bine pentru că nu tragem speranțe că ceea ce va fi scris acolo va fi pe bune.

 

  • Cenușăreasa este capitolul privind abilitățile digitale – unde suntem mult în urmă și considerați un risc la adresa atingerii țintelor colective la nivel european
  • e pusă presiune pe autorități, dar și pe stakeholderii privați, pentru a reduce aceste disparități de scor. 28% au abilități digitale de bază, în timp ce media europeană e dublă.
  • interesant aici: raportul remarcă și necesitatea de investiții ale companiilor în pregătirea angajaților lor, subliniind că nu e doar apanajul statului. Aici vine și o recomandare: stakeholderii privați să fie mai implicați în dezvoltare și livrare de politici

 

  • conectivitatea este încă o excepție și încă un element care ne ține cât de cât sus. Doar că pierdem avansul din cauză că 5G nu este încă dezvoltat la noi. Aici mai vine o întrebare: oamenii simpli au nevoie de 5G?
  • pentru zonele albe „rămâne de văzut cum vor fi utilizate investițiile din PNRR sau fondurile structurale“ vor fi folosite. Sugerează aici lipsă de încredere în rostul investițiilor.

 

  • cea mai mare problemă este la integrarea Big Data, cloud și IA. La IA, de exemplu, încă nu s-a progresat față de anul trecut, tot 1% din companii folosesc soluții IA
  • strategia IA, recent lansată în consultare publică, și comitetul privind IA sunt menționate ca sprijin pentru oportunitățile IA în România. Și aici implementarea e cheia.
  • Pe cât a fost de hulit și criticat, proiectul ION este scos în evidență ca bună practică pentru a facilita înțelegerea cetățenilor asupra inteligenței artificiale
  • EDIH-urile apar iarăși ca structuri menționate cu rol de sprijin pentru autorități și companii în ceea ce privește transformarea digitală a companiilor

 

Bonus: dacă tot s-a lansat cadrul strategic privind inteligența artificială, să vedem și unde suntem în ceea ce privește adoptarea inteligenței artificiale în companii.

  • altă Cenușăreasă – serviciile publice digitale. Raportul integrează și elemente din alte rapoarte, de ex. eGovernment Benchmark – pentru a furniza un context cu privire la dezvoltarea serviciilor și calitatea lor. Una e digitalizarea, alta e apoi experiența utilizatorului 🙂 Și aici suntem relativ în urmă.
  • îmbunătățirile descrise în raport sunt strict din prisma cadrului legal.
  • câteva proiecte menționate: PSCID, eID care se testează, sistem de e-health. Și astea în derulare.

Unde suntem?

Nu foarte departe de unde am fost anul trecut. Rapoartele pe UE și pe statele membre punctează mult responsabilitatea statelor membre în ceea ce privește transformarea digitală. E normal și în alte state, așa cum am aflat, de la conferința de care am vorbit mai sus, nici măcar nu e o chestie de discuție. La noi e.

Foaia de parcurs pe care trebuie să o facă fiecare stat membru va ajuta cumva? Va ajuta la monitorizare și expertiza Comisiei va putea fi utilă pentru a recomanda modificări sau ajustări. Problema e tot la noi în ogradă.

 

CiteșteSalvează

 

Digital Policy este o platformă de analize de politici publice digitale, axată pe nivelurile european, național și local.

Pagini

Newsletter