CategorieUniunea Europeană

Provocări pentru digitalizarea României: Ce arată cel mai recent raport?

In România, Uniunea Europeană
De Mirela Marcut
8 minute

Credeați că vorbim iarăși despre Indexul Societății și Economiei Digitale?!?! Țeapă 🙂 Printre primele postări pe acest site, way back în 2020, vorbeam despre ce nebunii/declarații și-a mai asumat România? Era vorba despre Declarația de la Berlin privind Societatea Digitală și Guvernare Digitală bazată pe Valori, venită la inițiativa președinției germane la Consiliul UE. N-ați auzit prea mult despre ea, că..nu face vizualizări of course. Deși conținutul și acțiunile care ar fi trebuit/trebuie întreprinse ar fi putut să aibă priză la public #numazic.

În esență, o declarație de bune intenții poate rămâne chiar așa, doar că știm cum le place germanilor să măsoare tot 🙂 Așa că și aici s-a măsurat (împreună cu Președinția maghiară și cu Comisia Europeană) și s-a venit cu un raport de implementare a liniilor de politică publică pe care statele semnatare și le-au asumat. Ok, mai clar, declarația propunea câteva linii de acțiune:

  • Pilonul 1 – Promovarea drepturilor fundamentale și a valorilor democratice în sfera digitală – spre exemplu, integrarea principiilor de nediscriminare în regulile legate de achizițiile publice de tehnologii sau designul soluțiilor digitale pentru a fi cât mai incluzive
  • Pilonul 2 – Facilitarea participării sociale și incluziunea – servicii digitale fără discriminare care ar trebui să ralieze preferințelor digitale ale cetățenilor. Aici intră, de exemplu, ideea de a construi servicii digitale pe mobil sau încurajarea participării societății civile la procesele de consultare pentru designul serviciilor publice
  • Pilonul 3 – Facilitarea alfabetizării digitale și a “digital empowerment” – aici e cam self-explanatory 🙂
  • Pilonul 4 – Întărirea încrederii prin intermediul securității în sfera digitală – toți cetățenii ar trebui să navigheze în siguranță, să poată să folosească identitatea digitală etc
  • Pilonul 5 – Întărirea suveranității digitale și interoperabilitatea în UE – abilitatea cetățenilor și administrației de a acționa independent și autonom în spațiul digital, importanța utilizării echipamentelor tehnologice care respectă cerințele europene și dezvoltarea de servicii europene cheie
  • Pilonul 6 – Crearea de sisteme de inteligență artificială centrate pe om și bazate pe valori pentru utilizare în sectorul public – aplicațiile IA utilizate de stat să nu dăuneze drepturilor omului, să fie utilizate responsabil și să nu creeze biasuri economice sau sociale
  • Pilonul 7 – Sprijinirea rezilienței și sustenabilității – măsurarea impactului asupra mediului pe care îl au soluțiile IT folosite de state și aspecte legate de utilizarea tehnologiei în sănătate.

Fiecare pilon conține o serie de măsuri de implementat la nivel de țară, le puteți vedea mai jos.

Ok, avem pilonii, avem explicațiile, să vedem evaluarea. Raportul conține detalii despre măsurile implementate de fiecare stat și cum stă acesta față de fiecare pilon. You know what’s coming next 🙂 Ne uităm la România.

A zis cineva provocări pentru digitalizarea României?

Provocări pentru digitalizarea României
În general, suntem sub media UE pe toți pilonii evaluați, dar cu creștere substanțială pe pilonul 4 și pilonul 7 în 2023 față de 2022. În rest, gapul (că tot e la modă acest cuvânt) este măricel față de UE, mai ales în ceea ce privește pilonul legat de IA sau cel referitor la promovarea incluziunii și participării sociale.

Să vedem un pic mai clar lucrurile:

  • la pilonul 1 – suntem la media UE în ceea ce privește promovarea transformării digitale bazate pe valori – sau raise awareness pentru fanii romgleză. Suntem, de asemenea, la media UE pe acțiunea din acest pilon referitoare la desemnarea consiliilor de experți în tehnologie și etică. Desemnare..nici o vorbă despre funcționare 🙂

  • la pilonul 2 – avem mult de lucrat. Nu încurajăm participarea în procesul de luare a deciziilor, dar e ok că nici alte state nu o fac prea mult 🙂 Accesibilitatea serviciilor este o problemă, la fel și accesul lor pe mobil.

Provocări pentru digitalizarea României

  • la pilonul 3 – stăm bine la partea cu workshopurile și trainingurile, se vede că avem în PNRR și în fondurile europene astfel de priorități. Procentul de 51% legat de oferta de servicii digitale accesibile confirmă cumva și scorul din Indexul e-Guvernării de 48 din 100. Știu, e altă metodologie acolo, dar arată că tot pe la jumătate suntem.

Provocări pentru digitalizarea României

  • pilonul 4 – suntem și noi undeva peste media UE, la promovarea principiilor de Open Data 🙂

Provocări pentru digitalizarea României

  • la pilonul 5 – stăm prost la standarde pentru servicii publice transfrontaliere

Provocări pentru digitalizarea României

  • la pilonul 6 iacă-tă că am identificat o greșeală. Acesta repetă numele măsurilor aferente pilonului 2 în graficul aferent României și altor țări, așa că pot să arat doar situația la nivel general pe UE. Dar, cifrele sunt ok, iar situația la nivel de România stă cam așa: acțiuni referitoare la transparența cu privire la luare automată a deciziilor față de cetățeni -25% , schimbul de bune practici cu privire la dezvoltarea de IA centrată pe om în sectorul public – 0% și schimbul de experiență în ceea ce privește strategiile și exemplele de tehnologii centrate pe om folosite în administrația publică – 50%

Provocări pentru digitalizarea României

  • la pilonul 7 – singura linie de acțiune care are o evoluție peste media UE este inițierea de consultări asupra utilizării adecvate a tehnologiilor digitale.

Provocări pentru digitalizarea României

Indiferent de evaluări și piloni, acest raport vine și cu o serie de idei bune de implementat pentru societatea digitală din România. Unele sunt chiar aspecte la care se lucrează, cum este identitatea electronică, și care costă mulți bani, dar altele sunt “low hanging fruit” care pot ajuta administrația centrală să pună pe tapet servicii publice digitale mai bune și poate chiar să câștige un pic de bunăvoință din partea partenerilor de dialog. Aici mă gândesc la câteva măsuri de politică, cum ar fi:

  • cam toate punctele de la pilonul 6
  • inovarea în achizițiile publice legate de tehnologie. Să poți testa unele lucruri cu administrația locală, să poată startupurile să-și încerce norocul cu idei noi pentru digitalizarea administrației, spre exemplu.
  • evaluarea amprentei de carbon a sistemelor folosite la nivelul administrației publice (știu, aici e SF)
  • preferata mea – pe care nu ezit de fiecare dată să o tot arunc în față – consultarea cetățenilor și a societății civile când vine vorba de designul acestor servicii
  • poate chiar și funcționarea acestor comitete etice și de tehnologie. Cum? Acordarea unui buget de cercetare, spre exemplu, acestor comitete.

Marea noastră durere este digitalizarea sectorului public. Da, știm, avem bani pentru asta și se lucrează la aceasta. Dar acest mecanism de raportare nu se uită neapărat la aceste proiecte mari de tip cloud guvernamental, ci se uită și la eforturile de a construi ceva relevant pentru cetățeni, ceva care să ajute și să nu încurce. Într-un anume sens, aceasta e o radiografie mai bună a guvernanței digitale în România decât raportul privind Deceniul Digital pentru că se uită la eforturile administrației publice de a contura o societate digitală.

 

Ce fac alte state?

Secțiunile statelor conține și mici exemple de best practices ale fiecărui stat. România scrie despre “Digital Innovation Centers” care sunt de fapt Digital Innovation Hubs 🙂 și despre proiectul de conectare a satelor la Internet – cred. Căci linkul pus în raport duce la …total altceva. La un site de recenzii. Dar ce putem fura de la alte state totuși?

  • Spania a implementat un program de alfabetizare digitală pentru femeile din mediul rural
  • Olanda a implementat un proces consultativ pentru stabilirea unor standarde de dezvoltare și utilizare a Generative AI în sectorul public.
  • Grecia a implementat un asistent digital în platforma gov.gr, care ajută cetățenii să găsească informații despre serviciile publice și proceduri administrative.
  • Germania pune bazele unui Institut pentru Date pentru a standardiza și a da acces la date de calitate
  • Polonia a dezvoltat servicii de e-sănătate și a realizat o campanie de informare pentru promovarea noilor servicii de rețele electronice.

Există tot felul de exemple, mai clare sau mai vagi. Cheia este să ne documentăm că nu trebuie să inventăm gaura în macaroană. Chiar și acest raport conține măsuri propuse care încurajează cooperarea și schimbul de bune practici.

Cum au calculat totuși?

Ok, nu putem încheia până nu explicăm ce sunt procentele alea de mai sus și ce înseamnă x% la un anumit pilon. Adică ne uităm la metodologia cercetării:

Provocări pentru digitalizarea României

  • există 7 piloni și 22 de măsuri de politică publică analizate. Fiecare măsură are cel puțin un KPI care măsoară în ce proporție este această măsură dusă la îndeplinit.
  • datele acestor KPI vin din două surse: surse deschise, rapoarte deja realizate la nivelul Comisiei, și dintr-un chestionar aplicat direct punctelor de contact din statele membre. Deci, aici e o limitare adusă datelor – e vorba și de auto-evaluare.
  • deci, fiecare KPI este un scor procentual, iar media aritmetică a acestor indicatori face scorul pe acea măsură. Media măsurilor duce la scorul pe pilonul mare.
CiteșteSalvează

What will be the digital priorities of the EU?

In English, Uniunea Europeană
De Mirela Marcut
5 minute

I recently played the cliche “Two Truths and One Lie” icebreaker at an event. One of the items I mentioned in the list was: I like reading boring policy documents. Everybody said that this was my one lie in the game (the others were that I am working on improving my German and that I had switched 3 planes to get to that event).

Well, I am here to prove that what I said is the truth. How exactly? Well, I spent some time going through the Political Guidelines of the newly reelected President of the Commission so that you don’t have to 🙂 . Why? Well, this document is the starting point of the next five years of the new Commission. It’s the blueprint for future policies, actions and activities until 2029.

The main question I aim to answer is: precisely what role does #digital play in the next five years? What kind of world does the new President envision and what role does digital policy play in it?

Why should you care? The answer to this question is almost the same as the previous question. It’s all about the wild wild world we live in. Additionally, we spent the last five years looking at the complicated world of policy-making for the digital space.

We saw the Commission point the finger at BigTech time and time again and we heard them saying that they would make platforms more accountable for the stuff that is happening within their spaces.

We heard the Commission also say that the EU is doing things differently than the US and China, all the while struggling to pass very complicated pieces of legislation that affect a lot of American and Chinese tech companies. Well, it’s go time now.

What’s it all about? I highlight the major digital policy elements mentioned in the Political Guidelines posted today and the ones that got Ursula von der Leyen her second mandate. It’s revamp of a section I will from now on call: the DI-GIST of it :)

 

What will be the digital priorities of the EU?

The Di-GIST OF IT.

What kind of world do we live in?

  • a conflictual world, where the major players are racing to be the first to be climate neutral (I’m not so sure about the US here though) and the providers of the technologies that will shape the world in the coming years (it’s not only AI)
  • companies are leaving the Europe for the USA in search for investment opportunities
  • there are still a lot of risks and challenges in the online world – addictive design of online services, there is the pressure to be always on, deepfakes and disinformation

Where does the EU stand here?

  • on-going investments in tech and green due to the Resilience and Recovery Framework
  • major legislation passed during the previous mandate
  • there’s an acute need to boost innovation and to “make business easier” to stay in the race (no words about winning it though)

 

What will be the digital priorities of the EU?

What will be the digital priorities of the EU?

It all starts from the European Prosperity Plan (bad acronym though – EPP). There are both general and specific actions:

  • Actions for completing the Single Market for domains, including electronic communications and digital
  • A Clean Industrial Deal – with actions to support the digitalisation of the energy system
  • Single Digital Booking and Ticketing Regulation that aims to simplify cross-border train travel in Europe – Europeans can buy one single ticket on one single platform and get passengers’ rights for their whole trip.
  • “ramping up” actions for the implementation and enforcement of the digital laws adopted – from the AI Act to the DSA and DMA
  • one particular item related to the application of the AI Act – ensuring that transparency requirements related to synthetic content will be implemented
  • in the first 100 days – ensuring access to supercomputing capacities within the AI Factories initiatives
  • the Apply AI Strategy developed with Member States, industry and civil society to enhance the use of AI in various sectors
  • the setup of the European AI Research Council – a so-called CERN AI, as it has been called in the press
  • a European Data Union Strategy – to make it easier for businesses and administrations to share data “seamlessly and at scale”
  • several actions to make it easier for companies to find investment in Europe – a proposed European Savings and Investments Union, the European Competitiveness Fund to “ensure that we develop strategic technologies and manufacture them here in Europe”.
  • on the social side – an Action Plan for the European Pillar of Social Rights – that will also include initiatives on how digitalisation is impacting the world of work. There will be a proposed “right to disconnect”
  • further actions on “the addictive design of online services, such as infinite scroll, autoplay or constant push notifications”
  • building a new European Democracy Shield. As part of this, we will work to counter foreign information manipulation and interference online

 

What’s the overall picture of it?

It seems that three things are certain in the digital EU: funding, data, AI. The focus is on ensuring the conditions for development of new tech within Europe: access to data and computing power, as well as facilitating investment. On AI, institutionalization that complements the AI Office (the CERN AI) will continue in tandem with the efforts to boost application of AI technologies.

Additionally, it seems that the social aspects related to digital will be in the spotlight in the new regulatory framework of the Commission with initiatives on the design of online services or fact-checking and protecting democracy.

 

CiteșteSalvează

Care vor fi prioritățile digitale ale UE?

In DIGest, Uniunea Europeană
De Mirela Marcut
5 minute
Am jucat recent celebrul icebreaker, „Două adevăruri și o minciună” la un eveniment. Unul dintre lucrurile menționate de mine în listă a fost: îmi place să citesc documente de politică publică plictisitoare. Toată lumea a spus că aceasta este minciuna mea în acel joc (celelate două fiind că lucrez la îmbunătățirea limbii germane și că am schimbat 3 avioane pentru a ajunge la acel eveniment).

Ei bine, sunt aici să dovedesc că ceea ce am spus este adevărat. Cum anume? Am petrecut ceva timp parcurgând Orientările politice ale noii Președinte realese a Comisiei pentru ca voi să nu fie nevoie să o faceți 🙂. De ce? Păi, acest document este punctul de plecare pentru următorii cinci ani ai Uniunii Europene. Este planul pentru politicile, acțiunile și activitățile viitoare până în 2029.

Întrebarea principală la care vreau să răspund este: ce rol joacă exact #digitalul în următorii cinci ani? Care vor fi prioritățile digitale ale UE?

Dar, înainte de asta, de ce ar trebui să-ți pese? Răspunsul la această întrebare este aproape același cu întrebarea precedentă. Totul ține de lumea asta nebună în care trăim. În plus, am petrecut ultimii cinci ani urmărind lumea complicată a elaborării politicilor pentru spațiul digital. Am văzut cum Comisia a arătat cu degetul spre BigTech de nenumărate ori și i-am auzit spunând că vor face platformele mai responsabile pentru lucrurile care se întâmplă în cadrul acestora.

Am auzit de asemenea Comisia spunând că UE face lucrurile diferit față de SUA și China, în timp ce se străduia să adopte acte legislative foarte complicate care afectează multe companii de tehnologie americane și chineze. Ei bine, acum e momentul acțiunii. Deci, despre ce este vorba? Evidențiez principalele elemente de politică digitală menționate în Orientările politice postate zilele astea și cele care i-au adus Ursulei von der Leyen al doilea mandat.

Care vor fi prioritățile digitale ale UE?

What will be the digital priorities of the EU?
Sursă foto: Unsplash

Ce fel de lume este cea în care trăim?

  • o lume conflictuală, unde jucătorii majori se întrec să fie primii care devin neutri din punct de vedere climatic (nu sunt prea sigură în privința SUA aici) și furnizorii tehnologiilor care vor modela lumea în anii următori (nu e vorba doar de AI)
  • companiile părăsesc Europa pentru SUA în căutare de oportunități de investiții
  • există încă multe riscuri și provocări în lumea online – designul adictiv al serviciilor online, presiunea de a fi mereu conectat, deepfake-urile și dezinformarea

Unde se situează UE aici?

  • investiții continue în tehnologie și tranziție verde datorită Mecanismului de Reziliență și Redresare
  • legislație majoră adoptată în mandatul anterior
  • o nevoie acută de a stimula inovația și de a „ușura desfășurarea afacerilor” pentru a rămâne în cursă (fără a se menționa însă câștigarea ei)

Care sunt promisiunile digitale?

Totul începe de la Planul European de Prosperitate (acronimul în engleză nu e prea reușit – EPP). Există atât acțiuni generale cât și specifice:

  • Acțiuni pentru completarea Pieței Unice pentru domenii diverse, inclusiv comunicațiile electronice și domeniul digital
  • Un Clean Industrial Deal – cu acțiuni pentru a sprijini digitalizarea sistemului energetic
  • Regulamentul Unic de Rezervare și Ticketing Digital, care urmărește să simplifice călătoriile transfrontaliere cu trenul în Europa – europenii pot cumpăra un singur bilet pe o singură platformă și beneficiază de drepturile pasagerilor pentru întreaga călătorie.
  • acțiuni de „intensificare” a implementării și aplicării legilor digitale adoptate – de la Actul IA la DSA și DMA
  • un punct specific legat de aplicarea Actului IA – asigurarea implementării cerințelor de transparență legate de conținutul sintetic – deepfakes
  • în primele 100 de zile – asigurarea accesului la capacități de supercomputing în cadrul inițiativelor AI Factories
  • Strategia de Aplicare a IA dezvoltată împreună cu Statele Membre, industria și societatea civilă pentru a spori utilizarea AI în diverse sectoare
  • înființarea Consiliului European de Cercetare IA – un așa-numit CERN AI, așa cum a fost numit în presă
  • o Strategie a Uniunii Europene pentru Date – pentru a facilita schimbul de date „fără întreruperi și la scară” între afaceri și administrații
  • mai multe acțiuni pentru a facilita găsirea investițiilor în Europa pentru companii – o propusă Uniunea Economiilor și Investițiilor și Fondul European de Competitivitate pentru a „asigura dezvoltarea tehnologiilor strategice și fabricarea acestora aici, în Europa”
  • pe partea socială – un Plan de Acțiune pentru Pilonul European al Drepturilor Sociale – care va include și inițiative privind impactul digitalizării asupra lumii muncii. Se va propune un „drept de a te deconecta”
  • acțiuni suplimentare privind „designul adictiv al serviciilor online, cum ar fi derularea infinită, redarea automată sau notificările push constante”
  • construirea unui nou Scut European pentru Democrație. Ca parte a acestuia, vom lucra pentru a contracara manipularea și interferențele străine în informațiile online.

Care este imaginea de ansamblu?

Se pare că trei lucruri sunt certe în UE digitală: finanțarea, datele și IA-ul. Accentul se pune pe asigurarea condițiilor pentru dezvoltarea de noi tehnologii în Europa: accesul la date și puterea de calcul, precum și facilitarea investițiilor. În ceea ce privește AI-ul, instituționalizarea care completează AI Office al Comisiei va continua în tandem cu eforturile de a stimula aplicarea tehnologiilor AI.

În plus, se pare că aspectele sociale legate de digital vor fi în centrul atenției în noul cadru de reglementare al Comisiei, cu inițiative privind designul serviciilor online, verificarea faptelor și protejarea democrației.

 

CiteșteSalvează

Ce mai înseamnă libertatea pe internet zilele astea?

In DIGest, Uniunea Europeană
De Mirela Marcut
5 minute

Văd o grămadă de postări pe social media cu hashtagul #blessed sau #appreciation sau #proud. Și poate că și această postare pusă pe social media ar trebui să înceapă tot așa ca să poată plăcea algoritmului mai mult. De fapt, poate ar trebui să scriem mai des #blessed că avem acces la Internet sau #proud că am putut realiza tot felul de lucruri în online. Sau #appreciation pentru reglementările și așa imperfecte pe care le avem sau pentru toate organizațiile și oamenii care trag tare pentru ca Internetul să rămână un loc liber, unde să putem să ne exprimăm. Dar ce mai înseamnă libertatea pe Internet zilele astea?

Ce voiam să zic de fapt este că am participat la Regional Freedom of Internet Summit în Macedonia de Nord zilele trecute, organizat de către American Bar Association – Rule of Law Initiative. Tema libertății pe Internet e mai actuală ca oricând. Libertatea pe Internet înseamnă nu doar dreptul de a te exprima liber pe Internet, ci și posibilitatea de a fi în control asupra tehnologiei și asupra amprentei lor digitale. Mai mult ca oricând, libertatea pe Internet este și o temă geopolitică, dacă ne gândim că o parte din discuții s-a axat pe cum putem fi spionați sau pe soluția închiderii siteurilor care propagă dezinformare și manipulează. Tema libertății pe Internet se extinde și asupra inteligenței artificiale, de la modul în care se extrag date despre noi pentru a antrena modele de inteligență artificială la modul în care un sistem IA poate decide asupra vieților noastre.

Libertatea pe internet. Ce am învățat și ce m-a pus pe gânduri.

  • oamenii stau cu ochii pe legislația europeană, chiar dacă nu sunt în UE, mai ales pe cea al cărui nume nu-l voi pronunța pentru că mă pedepsește algoritmul, da’ e aia prin care poți raporta conținut ilegal și companiile mari din domeniu sunt supravegheate de la nivelul Comisiei Europene
  • țările din vecinătate au deja implementate unele elemente de legislație europeană – pe securitate cibernetică sau pe protecția datelor cu caracter personal – de aici vedem forța gravitațională, pardon de reglementare a Uniunii Europene 🙂
  • organizațiile de societate civilă au o misiune destul de grea, anume de a veghea că aceste legislații noi de la nivelul Uniunii Europene sunt aplicate corect. Cu mai mult sau mai puțin succes în diferite state europene. Spre exemplu, ne-a fost prezentat modelul german de guvernanță pentru supravegherea social media, în cadrul căruia s-a creat un consiliu consultativ al ONG-urilor cu interes în domeniu. Încă nu e clar cum va funcționa și dacă ONG-urile membre sunt cu adevărat independente, dar e un pas în direcția bună.
  • în majoritatea țărilor din vecinătate, educația privind drepturile digitale nu este parte a programei școlare pe partea de tehnologie, fiind oarecum externalizată către societatea civilă și eventual proiecte de CSR. Nu suntem nici noi departe.
  • n-a putut lipsi eterna dilemă: cum facem cu dezinformarea? cum facem cu propaganda? dar răspunsul e clar încă din titlul evenimentului: FREEDOM of the Internet. Deci, Internetul ar trebui să rămână un loc liber pentru că avem libertate de exprimare și pentru că, prin efectul său de rețea, interzicerea unui site va determina apariția altor 10.
  • n-a putut să existe o întâlnire fără să avem discuții despre IA. Actualele modele de învățare sunt oarecum limitative pentru că sunt dependente de date, iar datele de pe Internet am înțeles că sunt tratate ca fiind de proastă calitate 🙂 Mai mult, modelele IA nu au context. Avem și aici dileme de drepturi, de ownership a datelor de exemplu.
  • eliminarea factorului uman din funcționarea acestei tehnologii este o altă problemă, adică ideea de a fi eliminați din antrenarea acestor modele este periculoasă tocmai din cauza lipsei contextului. A fost o discuție despre cum antrenăm un model IA să recunoască o glumă sau ceea ce e umor. Soluția tehnică propusă a fost paradigma “human-in-the-loop”, care înseamnă că oamenii sunt incluși în procesul de realizare a sistemelor IA în diferite faze ale acestuia, de la sprijin pentru antrenarea modelelor IA prin oferirea de feedback în fazele de testare până la intervenția umană în momentul în care un sistem automatizat dă greș. Dar este cu adevărat această idee cea care respectă drepturile omului? In the loop poate însemna “pe acolo și omul, dar nu central”.

 

All in all, chiar dacă suntem sau nu în UE, cam avem aceleași probleme: viață privată online, probleme cauzate de social media, deficit de competențe digitale, nesiguranța cu privire la utilizarea inteligenței artificiale. Diferența este că la noi există crâmpeie de legislație, pentru care cam trebuie să ne luptăm și despre care cetățenii trebuie să știe mai multe. Dar, revenind la ideea de la început, cum ar fi să ne oprim din când în când și să spunem: #blessed că avem Internet, #proud că avem competențe digitale și #appreciation pentru că avem organizații civice care își fac treaba?

CiteșteSalvează

Să fie bine să nu fie rău. Cum va arăta viitoarea politică digitală a UE?

In Digital, Uniunea Europeană
De Mirela Marcut
11 minute
Suntem în săptămâna alegerilor europarlamentare și locale, iar dezbaterea e peste tot, dar de fapt nicăieri. La următorul ciclu electoral, cred că dezbaterea va avea următorul sens în dicționar, cu referire la o perioadă electorală: realizarea unei postări pe social media, atent analizată și cu comentarii moderate prin care un candidat prezintă către audiența sa și ea atent aleasă proiectele sale. Cam aici suntem cu nivelul dezbaterii și discuției pe subiecte de interes. Atât la nivel local, cât și la nivel european. Cu atât mai mult lipsește dezbaterea și discuția în România pe teme de transformare digitală, cu toate că în ultimii 5 ani am avut o avalanșă de reglementări, am văzut o grămadă de proiecte naționale și am auzit cuvântul digitalizare tot la a doua știre la televizor. Totuși, cum va arăta viitoarea politică digitală a UE?

Nu vor ei să vorbească, hai că vorbim noi și vedem ce ofertă există pe acest subiect 🙂 De ce e important și de ce ar trebui să te intereseze?

  • bani mulți cheltuiți și investiți – următorul ciclu electoral european – 2024-2029 – va vedea închiderea mecanismului “magic” al PNRR, închiderea ciclului de fonduri europene tradiționale, dar și cursa spre “finișul” Deceniului Digital. Deci, o să auzim mult mai des că se cheltuie, se face și se drege.
  • cine decide în ce vom investi pe viitor? Spre exemplu, noi de-abia avem 5G, dar deja trebuie să vorbim de 6G, iar anii următori vor cere o grămadă de bani publici și privați pentru noul Internet, atât cel mobil, cât și cel fix. Vor exista bani pentru așa ceva? Sau ne îndreptăm spre o economie de război mai degrabă?
  • ce ne facem cu IA? Accelerarea inteligenței artificiale o să creeze tot mai multe provocări și trebuie să vedem care e orizontul pentru societate, de la slujbele noastre până la a putea deosebi adevărul de artificial.
  • câtă intruziune acceptăm în viețile noastre private? mai putem trăi cu modelul toxic al social media? Cum e cu securitatea cibernetică? Și temele mai pot continua…

Dacă nu există un tablou public asupra rolului tehnologiei în viitorul legislativ, am zis că-l facem noi 🙂 Politica digitală poate deveni o temă tot mai “politică” în sensul că vorbim despre nevoia de investiții publice versus investiții private, câtă intruziune a tehnologiei suportăm în viața noastră, ce fel de drepturi fundamentale și sociale vom avea și ce fel de model al muncii vom aplica? Așa că analiza aceasta, acest #special Digital Policy, pune cap la cap temele principale legate de tehnologie, digitalizare, inovație pe care le propun partidele europene, dar și Consiliul Uniunii Europene.

 

Cum văd partidele europene viitorul digital?

Pentru a răspunde la această întrebare, am trecut prin manifestele fiecărei familii mari europene care a lansat un Manifest. Am găsit la PPE (populari), PES (socialiștii europeni) Verzi, Renew și ECR (conservatorii europeni). În general, candidații noștri aliniați la aceste familii europene vor susține/vote aceste teme pentru că, de regulă, păstrează linia de partid.

 

Sursă foto: Creat cu Copilot

Ce vrea PPE pentru politica digitală?

Începem cu PPE – partidul popular european – principala forță politică care conduce și acum coaliția din PE care a votat-o pe Ursula von der Leyen. Tema principală: digital awakening. Trezirea la realitatea digitală care va avea loc în 6 puncte:

  • extinderea rețelei de 5G și 6G în UE
  • dezvoltarea capabilităților în ceea ce privește inteligența artificială fără a împovăra domeniul cu “suprareglementare” și “reajustarea normelor de protecție a datelor la cerințele lumii digitale”. Să fie vorba de o regândire a normelor privind datele noastre personale?!
  • aducerea la zi a Cartei Drepturilor Fundamentale ale UE cu drepturile noastre digitale
  • dezvoltarea unei Uniuni a Inovării prin, spre exemplu, crearea de centre de excelență, cum ar fi un CERN pentru IA
  • ultima e foarte tare: să facem rost de fonduri 🙂

La categoria “Alte mențiuni”, mai putem aduce în discuție câteva teme importante lansate în manifest:

  • plan de acțiune pentru combaterea cyberbullying-ului – ei susțin mai multe măsuri de supraveghere cibernetică în cazul unor astfel de fărădelegi
  • crearea unei Garanții Europene a Muncitorilor în Piața Digitală pentru asigurarea drepturilor lucrătorilor de pe platforme, spre exemplu

Ce vor socialiștii europeni cu politica digitală?

Tema principală? Oamenii în control – Planuri de investiții pentru produse/servicii “Made in Europe”, protejarea drepturilor fundamentale. Spicuim din manifest:

  • Plan de Investiții pentru Tranziția Verde și Digitală pentru a reindustrializa economia și a o face circulară și competitivă
  • Strategie “Made in Europe” și finanțare comună pentru proiecte de interes comun în Europa. Aici e dezbaterea care a fost și cu ocazia Mecanismului RRF – ne împrumutăm împreună pe piețele financiare sau nu? Socialiștii zic da.
  • Sprijinirea a noi tipuri de activități economice, începând cu IMM-uri și continuând cu cooperative și afaceri sociale
  • principiul “oamenii sunt în control” – căutarea de profit din partea Big Tech este vizată aici, manifestul accentuând că nu ar trebui să ne submineze drepturile fundamentale.

 

Ce vrea Renew pentru politica digitală?

Tema principală? Investiții – Comisia următoare trebuie să fie o “Comisie a Investițiilor” pentru cercetare, dezvoltare și inovare. Legat specific de politica digitală, cei din coaliția Renew zic că trebuie să ne axăm pe implementarea numeroaselor reglementări noi realizate. Manifestul lor parafrazează pe MC Hammer: It’s implementation time.

Ce vor Verzii pentru politica digitală?

Aici vedem niște lucruri diferite față de establishment, în sensul că manifestul discută despre descentralizare în abordarea tehnologiei, despre demnitatea datelor și despre “digital fairness”. Să vedem mai exact:

  • drepturi garantate la informare, implicare prin negociere colectivă pentru muncitorii afectați de tranziția verde și digitală
  • crearea unui spațiu de date anonimizate pentru a sprijini cercetarea în domeniul medical și justiție climatică, pentru “binele comun” și aici e nevoie de mai multe eforturi pentru dezvoltarea interoperabilității
  • propunerea unui “Digital Fairness Act” – un posibil regulament pentru a contracara efectele nocive ale modelului de publicitate intruzivă asupra oamenilor
  • propunere de legislație pentru promovarea reutilizării și reciclării dispozitivelor digitale și pentru a promova reducerea consumului de energie necesar pentru criptomonede și procesarea datelor
  • promovarea unei legislații pentru a proteja cetățenii de tehnologia de tip spyware și pentru a bloca invocarea ideii de securitate națională pentru utilizarea spyware asupra cetățenilor
  • etichetarea deepfakes și a chatboților ca atare
  • dreptul de deconectare de la sistemele IA la locul de muncă
  • sprijinul implementării conceptului de “demnitate a datelor”, anume faptul că datele generate de acțiunile umane nu pot fi colectate pe gratis de dezvoltatorii de aplicații IA, iar datele aparțin oamenilor care le-au creat.

Ce vor conservatorii și reformiștii pentru politica digitală?

În ceea ce privește inovația și tehnologia, motorul cu combustie internă e șeful 🙂 Ce măsuri prevede manifestul?

  • eliminarea birocrației, oprire temporară a noilor reguli UE pentru noile întreprinderi și direcționarea resurselor pentru implementarea noilor legislații
  • propunerea de strategii care să fie “în linie cu ce vor companiile și nu împotriva lor” 🙂
  • în timp ce gândim noi tehnologii despre “combustibili cu emisii scăzute”, motorul cu combustie internă e viabil comercial “pentru anii ce urmează”

Cum vede Consiliul viitorul digital?

Sursă foto: EU2017EE Estonian Presidency - European Council
Pe final de mai, Consiliul UE a emis un document așa de concluzie a mandatului actual și pentru a oferi o serie de orientări despre viitorul politicii digitale. Ne putem contura o imagine de ansamblu mai clară uitându-ne la preocupările Consiliului, care reprezintă statele membre:
  • nevoia de investiții comune pentru a asigura viitorul transformării digitale – pe lângă investițiile publice și private la nivel național
  • accentuează nevoia de a prioritiza implementarea lor în următorul mandat al Comisiei și cere o analiză asupra interferențelor dintre diferitele reguli digitale.
  • nevoia unei abordări coordonate asupra structurilor de guvernanță necesare implementării acestor legislații – dacă tot au apărut numeroase instituții, de la AI Office la Centrul European de Guvernanță Algoritmică și toate instituțiile europene care au apărut în ultimii ani care se uită la spațiul digital
  • Consiliul se îngrijorează cu privire la acest schimb de date ale utilizatorilor în schimbul serviciilor digitale, fără ca aceștia să înțeleagă implicațiile și modul în care se folosesc datele, deci ar trebui să existe o serie de măsuri pentru adresa aceste riscuri societale care vin din modul de colectare al datelor pentru publicitate țintită
  • încurajează Comisia să dezvolte modele de utilizare a serviciilor publice și private cu ajutorul portofelului digital european care să contribuie la dezvoltarea acestui produs
  • încurajează dezvoltarea de ecosisteme dinamice care să se învârtă în jurul tehnologiilor digitale cheie – inclusiv EDICs, EDIH-uri și alte proiecte comune de interes european
  • încurajează dezvoltarea unei viziuni pe termen lung pentru rețelele digitale și viitorul conectivității
  • identifică potențialul “micro-credențialelor” pentru creșterea competențelor digitale și necesitatea de a ajuta la creșterea competențelor digitale ale fetelor pentru că ele pot crea crea și gândi servicii digital noi
  • avem parte aici și de alt termen nou: digital sobriety – sobrietate digitală. Consiliul cere promovarea acestui concept, înțeles ca “utilizarea responsabilă și moderată a tehnologiei pentru a reduce impactul asupra mediului și pentru a promova un stil de viață echilibrat. Acest concept implică reducerea consumului de energie al dispozitivelor, limitarea timpului petrecut online și conștientizarea impactului negativ al utilizării excesive a tehnologiei” (concept explicat cu ajutorul Chat-GPT 4o).
  • invită Comisia să analizeze ideea actualizării țintelor Deceniului Digital cu o țintă legată de tranziția digitală și verde
  • cere Comisiei și Înaltului Reprezentant pentru politică externă să pregătească o comunicare comună pe subiectul politicii digitale internaționale și modul în care UE se poate folosi de expertiza diplomatică și tehnică la nivel internațional.

Cum arată viitorul digital al UE?

Ne putem face un tablou de ansamblu cu privire la ce ar putea deveni subiecte de discuție, strategii și idei pentru viitorul mandat pentru că observăm câteva puncte comune:
  • nevoia de a lucra pe implementare decât pe regulamente noi
  • nevoia de a verifica interferențele dintre diferite legislații. Sunt multe legislații care se intersectează sau care se bat în cap. Cel mai simplu este să ne uităm la cadrul legal pentru date unde avem 3 regulamente pentru date plus altele sectoriale pe construcția de spații de date
  • nevoia de a face toate instituțiile noi să lucreze mai bine
  • nevoia de a asigura drepturile fundamentale ale europenilor și în spațiul digital.
  • nevoia de noi investiții pentru dezvoltare și inovare, dar la comun pentru proiecte de interes comun – o Uniune a Inovării
  • nevoia de a asigura viitorul conectivității europene cu noi investiții publice sau private
  • nevoia de a conecta mai bine obiectivele de tranziție climatică cu cele ale tranziției digitale
  • nevoia de a reglementa practicile de publicitate țintită bazată pe țintirea cu ajutorul datelor colectate pe social media
  • protejarea muncitorilor din piețele digitale – cum ar fi cei de pe platformele de tip gig economy
Observăm câteva concepte noi care ar putea marca discursurile europene în următorii ani:
  • digital awakening – trezirea la realitatea digitală
  • digital commons – bunuri comune digitale, dezvoltarea unor resurse comune digitale pentru utilizare la comun
  • digital sobriety – sobrietate digitală pe care am menționat-o mai sus
  • digital fairness – ideea tratării corecte a utilizatorilor în mediul online și a datelor pe care le generează
Să facem totuși și o mențiune a lucrurilor mai deosebite care au intrat pe agendele partidelor europene și despre care vom ști exact de unde vin, dacă apar în discursurile publice ale Comisiei sau Consiliului:
  • amprenta de carbon a criptomonedelor și sistemelor de IA și reutilizarea dispozitivelor digitale
  • supremația motorului cu combustie internă 🙂 față de cercetările cu privire la motorul electric
  • dreptul de a ne deconecta de la sistemele IA
  • sprijinirea cooperativelor digitale
  • dezvoltarea unei strategii pentru produse și servicii “Made in Europe”
A mai rămas o singură variabilă aici: cât din legislativul european și din legislativele naționale vor fi acaparate de partide din familii politice populiste și de extremă dreaptă? Ce teme gen 6G ne prăjește creierele vom vedea? Sau că portofelul digital ne limitează libertatea de mișcare? Pentru că tematicele europene ar putea fi destul de diferite dacă vedem o alianță între PPE și conservatori, spre exemplu. Cheltuielile cu cercetarea și inovarea ar putea scădea, în timp ce practicile incorecte cu utilizatorii ar rămâne netaxate. Oricum, motorul cu combustie internă va fi șeful, aia e clar 🙂

Referințe

  • https://data.consilium.europa.eu/doc/document/ST-9957-2024-INIT/en/pdf
  • https://drive.google.com/file/d/1GWy-8garJEV8pSRpSZBOlOo3wxBPp06p/view
  • https://www.datocms-assets.com/87481/1708539548-egp_manifesto-2024_courage-to-change.pdf
  • https://www.reneweuropenow.eu/priorities
  • https://pes.eu/wp-content/uploads/2024/03/2024_PES_Manifesto_EN.pdf
  • https://www.epp.eu/papers/epp-manifesto-2024
CiteșteSalvează

Fabrica de IA. Cum sprijină UE inițiativele în inteligență artificială

In Uniunea Europeană
De Mirela Marcut
8 minute

Am învățat o expresie nouă în limba germana: Da haben wir den Salat/acuma avem parte de salată! Înseamnă ceva de genul: deci, vezi în ce încurcătură ne-ai băgat?! Sensul vine de la faptul că salata e un mix de mai multe chestii, adică e de fapt un haos.

Putem spune asta și Uniunii Europene dacă ne gândim la reglementarea recent aprobată cu privire la inteligența artificială? Da haben wir den Salat! Discursul care nu vine dinspre UE e cam așa, în mare parte. Companiile europene sunt curtate de alte state să-și mute sediile din UE, vrăjindu-le cu reglementări relaxate și stimulente fiscale. Americanii zic și ei că ar putea reduce potențialul inovator în UE, ceea ce s-ar traduce prin mai puțină competitivitate și mai puțini bani, desigur. Deocamdată, nu avem decât unele calcule inițiale și, desigur, comparații cu alte reglementări (GDPR) care n-ar funcționa cum trebuie.

Dar, stați că e vorba de o salată, deci mai avem câteva ingrediente în plus acolo, nu doar un regulament. Despre asta e vorba în scurta (sper!) analiză: ce anume mai face UE pentru a ține companiile specializate în IA aici în Europa? Cum funcționează oportunitățile pentru IMM-uri pentru valorificarea inteligenței artificiale? Cum sprijină UE inițiativele în inteligență artificială?

Dacă n-ai timp să citești tot, uite aici câteva informații-cheie:

  • UE vrea să creeze niște structuri pentru a sprijini dezvoltarea de produse și servicii pe IA
  • De ce? pentru a antrena modele de IA, ai nevoie de câteva chestii: calculatoare puternice, acces la date care să fie analizate, oameni pregătiți, pe lângă idei. Nu prea multe companii europene își permit să aibă așa ceva la dispoziție.
  • Aici intră Fabricile de inteligență artificială 🙂 Pe scurt, supercalculatoarele europene vor primi upgrades, vor exista centre de date în apropiere, iar mai multe programe și inițiative europene vor fi direcționate pentru a susține aceste fabrici
  • Ce vrem să obținem cu asta? Realizarea de produse și servicii pe bază de IA în diverse domenii pentru a putea face față avalanșei de modele IA venite din SUA. Sau, cum ar spune unii mai fataliști, să nu pierdem cursa tehnologică.

Nu s-a terminat povestea cu inteligența artificială în UE?

Povestea nu se termină după adoptarea celei mai noi legislații privind IA. Povestea de-abia acum începe. Să spunem totuși aici că obligațiile pe care le au companiile în legătură cu această lege se leagă de tipul de risc care este evaluat. Cu cât e mai mare riscul pentru consumatori/cetățeni, cu atât mai mari obligațiile. Da, riscul trebuie evaluat, e nevoie de documentație, deci da, vor fi costuri în plus. Totul în numele “dezvoltării de IA care respectă valorile și regulile UE”.

Dar e nevoie de un sprijin pentru companiile care dezvoltă sisteme de IA, pentru a contracara obligațiile pe care actul le impune (pe bună dreptate) asupra întreprinderilor. Acest sprijin a fost anunțat la începutul lunii ianuarie deodată cu mult mai trâmbițata știre a lansării biroului IA din cadrul Comisiei.

Fabrica de IA. Cum sprijină UE inițiativele în inteligență artificială

Totul pornește de la ingredientele salatei despre care am tot scris mai sus. În cazul IA, salata este formată din: date, putere de calcul, dezvoltare de algoritmi și talente. Aici spune Comisia Europeană că vrea să intervină pentru a pune cap la cap conceptul de AI Factories/Fabrici de IA, care le aduce pe toate laolaltă.

Ce presupune Fabrica de IA?

Fabrica de IA sunt “ecosisteme deschise format în jurul supercalculatoarelor publice europene care adună resurse materiale și umane necesar pentru dezvoltarea aplicațiilor și modelelor GenAI”. Mai simplu spus, fabricile sunt de fapt pentru dezvoltarea de modele IA europene care să poată concura cumva cu cele americane pe care deja le știm și folosim.

Cum se realizează? Cu:

  • supercalculatoare – 8 supercalculatoare există deja la nivelul UE, dintre care 3 sunt cele mai puternice din lume – LEONARDO in Bologna, Italia, LUMI in Kajaani, Finlanda, and MareNostrum din Barcelona, Spania. Acestea vor primi updates pentru a putea antrena aceste modele IA foarte puternice. Cum vor avea acces companiile? Încă nu e foarte clar, dar dacă arați că ceea ce dezvolți respectă valorile europene, atunci ai un loc la coadă 🙂 Avantajul? Păi, multe din companiile europene nu-și permit să investească în aceste cerințe tehnice și atunci e nevoie de un sistem de sprijin pentru ele.
  • stocarea de date: acces la centre de date aflate în apropierea supercalculatoarelor. De ce în apropiere? Păi, și dacă vorbim despre virtual, datele alea tot trebuie să circule. Deci e bine pentru viteza de procesare și analiză a datelor. Datele sunt fundamentul oricărui model de IA care se dezvoltă și cu cât mai puternic e modelul, cu atât trebuie mai multe date și mai multă putere de calcul.
  • servicii de sprijin – bun, avem tehnică, dar trebuie să știm cum să ajungem la ea, să știm bine ce vrem să facem, cum să facem asta și să putem să le și testăm în diverse circumstanțe. Va exista un singur punct de contact prin sistemul EuroHPC Joint Undertaking – o asociere dintre state și UE pentru a dezvolta supercalculatoarele.
  • talente – fabricile ar urma să lucreze îndeaproape cu centrele de cercetare, universitățile și startupurile pentru a pregăti resurse umane calificate să lucreze în domeniu
Supercalculatoarele europene. Sursă: EuroHPC JU

Cine mai poate ajuta? Pentru asta, mai sunt o grămadă de actori, organizații, formate la nivel european care pot aduce acest sprijin către companiile interesate:

  • centre europene de inovare digitală (EDIH-uri) – avem 7 în România – care pot facilita și ele accesul la informație în domeniu având în vedere rețeaua creată la nivel euroepan
  • European Innovation Council – care direcționează investiții către startupuri
  • regulatory sandboxes – care se vor crea odată cu implementarea Actului privind IA – adică sisteme de sprijin legislativ și tehnic ce pot da șansa companiilor să testeze inovații IA fără frica amenzilor că nu au respectat legile.

 

Mai avem și alți “furnizori” pentru fabrici?

Sunt atâtea inițiative europene încât e greu să ții pasul cu ele și să vezi cum se leagă. Căci aici e cheia – să le legăm pe toate. Poate și să le promovăm mai bine, de la nivel european spre cel național. A, și desigur, să sprijinim și conectarea inițiativelor românești la facilitățile europene. Până să ajungem la ce avem de făcut, să vedem cine și ce roluri mai joacă în această “salată”:

  • date: spațiile comune de date care au rolul de a aduna date din diverse domenii – de la mobilitate la energie – să le standardizeze și să le pună la dispoziție pentru analiză și antrenare de modele IA (de parcă chiar așa de ușor e 🙂 )
  • abilități: sunt o grămadă de programe și inițiative europene menite să încurajeze dezvoltarea de abilități în domeniu și pentru pregătirea și adaptarea celor care deja lucrează în diverse domenii la noul context marcat de IA: programe noi create prin Digital Europe Programme, Erasmus+ etc
  • EDIC-uri – consorții europene de infrastructură digitală – organizații formate din mai multe state membre, cu personalitate juridică, care își propun să dezvolte proiecte mari pe care nu le-ar putea implementa pe cont propriu. Există două deja stabilite: unul care-și propune să conecteze “gemenii digitali” locali ai Europei, adică reprezentările virtuale ale orașelor și al doilea, axat pe antrenarea modelelor AI conversaționale (cum este Chat-GPT) dar pentru limbile europene oficiale și regionale.
  • chipuri: încurajarea dezvoltării de ecosisteme de producție a chipurilor și elementelor necesare pentru producția acestora – prin Chips Act, recent adoptat, și sprijinit prin Chips Joint Undertaking. N-ai cipuri, n-ai Chat-GPT, spuneam într-o altă analiză aici. Chips JU este un parteneriat care își propune să dezvolte producția de cipuri avansate pentru că, până la urmă și supercalculatoarele au nevoie de upgrades 🙂

Will it sink or will it float?

Sursă: Designer, Copilot Microsoft. Prompt: a chip in an ocean of data
Era o întrebare de genul acesta la Discovery la o emisiune de știință. Aruncau chestii în apă să vadă dacă plutesc sau nu. La figurat putem să ne întrebăm și noi despre aceste inițiative: will they sink or will they float? Prea devreme să ne pronunțăm totuși. Putem da niște educated guesses, cum spune englezul.

Toate presupun efort, un pic de finanțare (o parte din fondurile pentru realizare vine de la Digital Europe- unde e necesară cofinanțare și de 50%) și musai conectare la nivel european (auzim din nou cuvântul ‘ecosistem’). Pe hârtie, ele toate sunt conectate, așa cum răsare din comunicările Comisiei Europene pe subiect. Sinergie în sus, sinergie în jos. Implementarea de la firul ierbii necesită nu doar cele menționate mai sus, ci și capacitate administrativă din partea autorităților publice inevitabil implicate în aceste sisteme. Deci, avem premisele unor dificultăți deja.

Totuși, când va veni scadența la implementarea Actului privind IA, companiile clar că se vor plânge încă o dată că această reglementare omoară inovația și crește costurile. Comisia va putea arăta către aceste instrumente și va putea spune: da, dar v-am construit fabrici, trebuie să le accesați și noi vă ajutăm. Dar viteza de lucru trebuie să fie la fel de mare cum e cea de procesare din supercalculatoarele cu care ne lăudăm.

Închei citând chiar concluzia Comisiei din Comunicarea publicată în ianuarie 2024: Un sentiment de urgență în implementarea acțiunilor prezentate în această Comunicare este necesar, deoarece lupta nu poate fi întotdeauna câștigată de cei puternici, ci cu siguranță va fi câștigată de cei rapizi.

Referințe

  1. https://digital-strategy.ec.europa.eu/en/policies/high-performance-computing-joint-undertaking
  2. https://ec.europa.eu/commission/presscorner/detail/en/ip_24_383
  3. https://digital-strategy.ec.europa.eu/en/library/communication-boosting-startups-and-innovation-trustworthy-artificial-intelligence
  4. https://www.chips-ju.europa.eu/
CiteșteSalvează

Înapoi în viitor? Cum digitalizăm IMM-urile în România

In România, Uniunea Europeană
De Mirela Marcut
8 minute

Anul e 2027. Suntem în viitorul pe care UE ni l-a făgăduit. 90% din IMM-urile românești au intensitate digitală de bază, 75% din companii utilizează cloud/AI/Big Data. Alegerile pe care le-am făcut la începutul deceniului 20 au dat roade. Efectele economice se văd, productivitatea e ridicată, totul e roz. Or is it?

via GIPHY

Să ne întoarcem la deciziile pe care le-am luat la începutul deceniului 20 ai secolului XXI. Cum anume stimulăm întreprinderile să adopte tehnologii în activitatea lor? Ce finanțăm în acest sens? Cum măsurăm adoptarea tehnologiilor la nivel de întreprinderi? Despre asta e vorba în această analiză. Ne uităm la:

  • Ce finanțări sunt disponibile pentru digitalizare IMM-uri?
  • Cum digitalizam IMM-urile in Romania?
  • Ce urmărește România cu aceste finanțări? Se aliniază asta cu ce ne cere UE?

Dacă n-ai chef să citești până la capăt, uite principalele idei:

  • toate programele regionale au oportunități de finanțare pentru digitalizarea IMM-urilor, pe lângă oportunitățile prin PNRR
  • întreprinderile trebuie să bifeze o listă de 12 elemente care definesc intensitatea digitală
  • la fel ca tehnologia, intensitatea digitală evoluează, deci, chiar și Eurostat spune că posibilitatea de a urmări evoluția în timp a indicatorului e limitată.
  • programele cu finanțare europeană măsoară diferit intensitatea digitală – indicator-cheie care monitorizează digitalizarea întreprinderilor – pentru că folosesc versiuni diferite ale acestui indicator
  • cheltuielile eligibile din programele analizate permit achiziția unei varietății de tehnologii care se leagă indirect de intensitatea digitală cerută, dar accentul cade pe bifarea indicatorilor și nu neapărat pe îmbunătățirea proceselor interne
  • la nivelul a patru dintre cele 8 regiuni de dezvoltare, ghidurile de finanțare folosesc versiunea din 2018 a indicatorului de intensitate digitală
  • programele de digitalizare prin PNRR măsoară intensitatea digitală diferit față de programele regionale – dar folosesc varianta din 2021

Ce finanțări sunt disponibile pentru digitalizare IMM-uri?

Toate programele operaționale au oportunități pentru digitalizarea IMM-urilor., la care mai adăugăm și oportunitatea dată de PNRR. Mici diferențe apar între regiuni referitor la organizarea și gândirea apelurilor:

Cum digitalizam IMM-urile in Romania

Și acum vine dilema: ok, dăm bani, dar pentru ce? Aici intervine intensitatea digitală, o scară de măsurare drăguță venită de la Comisia Europeană și Eurostat care oferă o privire de ansamblu asupra utilizării tehnologiei într-o companie. Deci, finanțarea acoperă achiziție de tehnologie care să contribuie la bifarea indicatorilor aferenți intensității digitale. Bun, și care or fi indicatorii? Păi, depinde de an și aici cităm din Eurostat: indicatorul este unul compus, fiind derivat din chestionarul european cu privire la utilizarea TIC și comerțul electronic în cadrul întreprinderilor. Compoziția acestuia variază, în funcție de întrebările din chestionar. Compararea acestui indicator în timp este astfel limitată”. Deci, indicatorul evolulează aproape anual, ținând pasul cu tehnologia. Actualmente, scara de intensitate digitală pentru anul 2023 arată astfel:

Sursă: Eurostat
Finanțările europene pentru digitalizarea IMM-urilor funcționează deci pe baza acestui indicator, întreprinderile trebuind să bifeze cât mai multe din cele 12 elemente cu ajutorul achizițiilor de tehnologie prin proiect. De regulă, finanțatorii cer obținerea a minim 6-7 elemente din cele 12 pentru a atinge un nivel de bază de intensitate digitală. Cu cât mai multe elemente bifezi, cu atât ai dreptul la mai multă finanțare. Acum să vedem ce anume trebuie să urmărească firmele românești care achiziționează tehnologie pentru creșterea intensității digitale, conform finanțărilor disponibile:

  • POR Centru – varianta din 2018 de intensitate digitală
  • POR NV – varianta din 2018 de intensitate digitală
  • POR Vest – varianta din 2018 de intensitate digitală
  • POR NE – varianta din 2018 de intensitate digitală
  • POR SE – nu avem informații specifice despre apel
  • POR Sud-Muntenia – nu este un apel distinct pe digitalizare, iar apelul disponibil care integrează digitalizarea nu vorbește despre intensitate digitală
  • POR Sud Vest Oltenia – varianta din 2021 de intensitate digitală
  • POR București Ilfov – nu avem informații specifice, știm doar că se vizează și intensitatea digitală ridicată a întreprinderilor (deci cel puțin 9 din 12). Nu știm totuși ce variantă de intensitate se va alege
  • PNRR – varianta din 2021 de intensitate digitală

Să vedem cum arată asta în practică. Ce însemna intensitate digitală pentru anul 2018, respectiv pentru 2021?

Cum digitalizam IMM-urile in Romania
Cum digitalizam IMM-urile in Romania
Anterioară
Următoare
Ce diferențe sunt?
  • elemente legate de procesele interne ale întreprinderii apar mai târziu, în varianta din 2021: ERP, CRM, AI
  • varianta din 2018 era bazată foarte mult pe web – 2 elemente legate de pagini web, două de comerț electronic
  • în 2021 – apar mai multe elemente legate de social media

Cea mai importantă diferență este că….păi, nu se potrivește cu actuala definiție a intensității digitale de mai sus de la nivelul anului 2023. Într-adevăr, varianta din 2021 se apropie mai mult de ceea ce urmărește acum Uniunea Europeană. Oricum, simplul fapt că acest indicator evoluează ne arată că nu putem să condiționăm prea mult adoptarea tehnologiei în mediul privat de bifarea unei liste de tehnologii achiziționate.

Deci, cum vor arăta întreprinderile românești digitalizate cu ajutorul acestor fonduri? Păi, majoritatea fondurilor disponibile, așa cum arată ghidurile acum, vor urmări indicatori care nu se aliniază foarte bine cu trendul tehnologiei:

  • cu accent pe achiziții de dispozitive mobile pentru angajați, pagina web și e-commerce, care nu este dublat în mod direct de exploatarea unor tehnologii pentru îmbunătățirea proceselor interne, cum ar fi ERP sau CRM
  • fără accent pe dezvoltarea unui model de business digital, care să colecteze date cu ajutorul programelor de tip CRM și ERP și care să le analizeze pentru a lua decizii mai bune
  • fără accent pe inteligența artificială

Informație importantă aici: într-adevăr, ghidurile consultate prevăd o listă de cheltuieli eligibile care permit achiziția de tehnologii de genul acesta – AI, CRM sau ERP etc. Dar legătura cu acești indicatori este indirectă și nu stimulează neapărat întreprinderile să își adapteze modelul de business și să-și îmbunătățească procesele interne. Accentul rămâne pe bifarea acestor indicatori, o condiționalitate a programelor de finanțare.

Ce urmărim cu intensitatea asta digitală?

În primul rând, intensitatea digitală a întreprinderilor mici și mijlocii este o țintă semnificativă pentru măsurarea progresului României la nivelul societății și economiei digitale. Ne-o cere Uniunea Europeană. Mai precis, la nivelul anului 2030, 90% din IMM-uri vor avea un nivel de intensitate digitală cel puțin de bază (6/12 tehnologii). Dar problema e că nu știm cum va arăta această intensitate digitală la nivelul anului 2030 pentru că indicatorul evoluează odată cu tehnologia. Iar monitorizările sunt diferite la nivel regional, pare-se.

În al doilea rând, intensitatea digitală este o modalitate de a măsura digitalizarea IMM-urilor, care la rândul ei ar trebui să aducă beneficii socio-economice pentru regiuni. Cheia e aici legată de modalitatea în care sunt folosite aceste tehnologii odată ce sunt achiziționate și modul lor de exploatare. Achiziția nu trebuie să rămână un scop în sine, dar accentul pe bifarea indicatorilor și așa invechiți în unele cazuri și a rezultatelor cerute de finanțator poate să ducă în direcția asta.

Mai există și alte moduri de a măsura digitalizarea IMM-urilor? Mai poți urmări gradul de maturitate digitală, o altă unealtă pusă la dispoziție de către UE pentru IMM-uri prin intermediul centrelor de inovare digitală. Acest indicator se uită mai adânc la procesele interne, aspecte legate de management și pregătirea angajaților sau chiar angajamentul către sustenabilitate în utilizarea tehnologiei.

Câteva recomandări de final…

  • pentru întreprinderi interesate de aceste apeluri: apelați la o analiză consistentă înainte de a alege și a scrie proiectele pentru digitalizare. Analiza trebuie să vizeze nu doar lista echipamentelor care se recomandă, dar a beneficiilor pe care le aduc pentru funcționarea întreprinderii. Aici mergem deja către transformare digitală și nu ne limităm la a digitaliza unele procese deja existente.
  • pentru întreprinderi interesate de apeluri: gândiți-vă și la maturitatea digitală, o analiză mai deep pentru regândirea modelului de business bazat pe date și care vă poate ajuta să inovați.
  • pentru policy-makers: corelați intensitatea digitală la nivel național pentru a asigura acele puncte în plus pe care le vrem cu toți în Indexul Societății și Economiei Digitale.
  • pentru policy-makers: o altă variantă de susținere a IMM-urilor este kitul digital, element care asigură uniformitate în tehnologiile pe care acestea le folosesc în afacerea lor. Spania face asta, de exemplu.

 

CiteșteSalvează

Omoară Uniunea Europeană inovația cu atâta reglementare?

In Uniunea Europeană
De Mirela Marcut
6 minute

Am obiceiul să fac “dog ears” la cărți. Iubitorii de cărți sunt șocați acum: cum poți să faci așa ceva?!?! Cartea lui Anu Bradford, Digital Empires. The Global Battle to Regulate, e plină de “dog ears”. Nu se putea să nu fie așa, fiindcă tratează aproape tot ce încerc eu să tratez pe această platformă: relația dintre state și companii tech, modele de reglementare american, european și chinezesc, tehnologiile smart city ca metodă de exportare a principiilor de supraveghere extinsă din China etc.

via GIPHY

Aș fi putut să mă opresc la descrierea celor trei modele de “imperii digitale”, așa cum le numește cercetătoarea, anume SUA, China, Europa și să analizez “bătăliile” dintre acestea. De altfel, aș putea foarte adevărat să deschid oriunde cartea lui Anu Bradford și să găsesc informații demne de analizat și discutat aici pe site.

Am ales să mă opresc la o idee tratată pe finalul cărții care face parte din rețetarul oricărui discurs public legat de incapacitatea UE de a genera inovație sau din playbookul oricărei companii mai ales americane cu privire la “suprareglementarea” europeană: UE omoară inovația cu toate reglementările sale și acesta este motivul pentru care UE nu este cu adevărat o putere tehnologică.

 

Omoară Uniunea Europeană E inovația cu atâta reglementare?

Aceasta e întrebarea.

Anu Bradford contestă această relație de cauzalitate prin simpla idee că UE nu a avut giganți nici înainte de a dezvolta sistemul de reglementări pe care-l are în zilele noastre. Mai mult, arată cu degetul către alte politici sau specificități europene decât politica digitală, din cauza cărora companiile tehnologice din Europa au niște provocări unice pe care cele din SUA sau China nu le au.

 

  • Piață unică digitală fragmentată. Scalarea unei companii e dificilă atunci când are de-a face cu mai multe piețe naționale cu limbi, culturi și reglementări diferite. Dă exemplul Amazon care a putut să crească ca o librărie online pentru că toată lumea vorbea engleză, dar Europa cunoaște o diversitate lingvistică mult mai pronunțată. În Europa, serviciile de video on demand n-au putut crește și din cauză că au trebuit să ofere mixuri diferite de conținut pe diferite piețe. Să nu mai zicem de alte bariere legale și tehnice care creează regimuri diferite de la țară la țară. Fragmentarea aceasta omoară în special IMM-uri care au parte de costuri ridicate și nu pot scala suficient. Acesta e unul din motive pentru care decid să aleagă o piață omogenă, cum e cea americană.

  • Piețe de capital slab dezvoltate. Anu Bradford citează un studiu al McKinsey care spune că accesul la capital este extrem de important mai ales pentru startupurile IA, mai ales în rundele ulterioare de finanțare. Confruntate cu absența unor fonduri mari europene de capital de risc, companiile fug către SUA, unde banii se iau mai ușor. Într-adevăr, Anu Bradford remarcă un semn de optimism în această situație, anume faptul că au crescut semnificativ investițiile americane în startupuri europene, iar unele firme mari de capital de risc din SUA și-au deschis filiale europene. Salvarea ar mai putea veni și de la realizarea Uniunii Piețelor de Capital, inițiativă a Comisiei Europene care nu a avut succesul scontat deocamdată.

  • Bariere culturale și legale care descurajează falimentul și insolvența. Europenii pun preț pe stabilitate și nu pe asumarea de riscuri, “cred că eșecul este o tragedie personală”, ceea ce nu-i face pregătiți să treacă de la o idee la alta până au găsit ideea de business perfectă pentru ei. De altfel, aceste aspecte culturale sunt adesea prinse în legile de insolvență și faliment care penalizează eșecul.

via GIPHY

  • Lipsa unei politici de imigrație active care să atragă talente bine pregătite. Aici vorbim despre “mitul visului american” care atrage mulți imigranți, despre universitățile americane care sunt printre cele mai puternice din lume, iar cei care vin să studieze aici au tendința de a rămâne. Autoarea citează nume de mari fondatori de giganți tech din SUA care sunt imigranți, dar și faptul că că mai mult de jumătate din cercetătorii importanți din IA din țară sunt imigranți sau cetățeni ai altor state.

Ce înseamnă toate astea?

De aici deducem trei aspecte semnificative:
  1. Folosind perspectiva lui Anu Bradford, reglementarea pe stil european a spațiului digital n-ar trebui să fie această sperietoare care e acum pentru companiile europene. Viziunea de a reglementa pentru a apăra valori, cum ar fi solidaritatea, autonomia, viața privată și corectitudinea, nu este de vină că nu avem suficientă inovație și maturitate în ecosistemele europene de tehnologie. În cazul acesta, diversitatea cu care atâta ne lăudăm ca europeni, e una din pietrele de moară semnificative. Cum reglementezi în jurul diversității? Cum creezi povești de succes pornind de la diversitate? Inteligența artificială poate ajuta aici, prin traduceri automate, spre exemplu, pentru produse și servicii europene cu adevărat. IA ne poate ajuta să înțelegem mai bine publicul din altă țară, pentru a putea oferi servicii cu adevărat valoroase pentru acea piață.
  2. De altfel, viziunea europeană asupra societății și economiei este această sabie cu două tăișuri care, pe de o parte, este atractivă deja la nivel global pentru reglementarea societății digitale și care, pe de altă parte, ne face să nu riscăm pentru că ne e teamă de eșec. Dacă am greșit, corect e să plătim. Ne place să avem stabilitate.
  3. Piața Unică există de zeci de ani atât în calitate de concept, cât și ca realitate, și nici acum nu am reușit să eliminăm toate barierele pentru o funcționare corectă pentru europeni. Da, poți cumpăra online din altă țară, dar degeaba poți dacă nu se dezvoltă servicii suficient de relevante pentru consumatori. Există, desigur, câteva excepții, cum ar Zalando sau About You pe piața de retail și fashion, dar totul pălește în fața gigantului Amazon.

Pe final, #foodforthought:

via GIPHY

  • pentru cei care au un startup și vor să-l crească repede, Europa nu e pentru ei. Dar nu mai trăim în era “move fast and break things”. De altfel, una din ideile principale ale Digital Empires este că și SUA se mută încet către un sistem de reglementare asemănător celui european pe fondul problemelor legate de social media, dezinformare, dar și problemele antitrust pe care le pun giganții americani, iar cetățenii ari fi de acord cu asta. Bătălia pe drepturile de autor în antrenarea modelelor de AI care se dă în SUA acum este unul din semne (vezi procesul intentat de New York Times împotriva OpenAI).
  • pentru cei care vor să dezvolte o afacere în Europa, vor trebui să-și pună problema internaționalizării mult mai repede decât și-o pune un startup din SUA pentru că piețele sunt mai mici și mai fragmentate. Fondurile europene sunt o soluție pentru ei, cu toate că e greu să-ți bați capul cu birocrație și cu lipsa predictibilității cu privire la asigurarea finanțării.
CiteșteSalvează

Ce a mers bine și ce a mers prost în 2023? Ediția de #digital

In România, Uniunea Europeană
De Mirela Marcut
7 minute

Ce a mers bine și ce a mers prost în 2023? O scurtă postare de #yearinreview, varianta pe digitalizare. De ce? Păi, în pregătirea pentru această recapitulare, am citit să văd ce au mai scris ziarele pe acest subiect. În România, am găsit un mare nimic, iar în străinătate cam singura poveste a fost legată de inteligența artificială. Not that there’s anything wrong with that, cum ar zice Seinfeld, dar parcă s-au mai întâmplat și alte lucruri. Deci, să purcedem.

Ce a mers bine în UE?

A fost un an foarte foarte foarte încărcat, aș putea zice. Încărcat pentru că se încheie în curând mandatul actualei Comisii și au fost nenumărate propuneri legislative care au trebuit duse la bun sfârșit. Unele mai repede decât altele. Unele mai bine decât altele. Să le vedem, in no apparent order:

  • primele semne de funcționare pentru Digital Services Act și Digital Markets Act. Ce înseamnă asta? Comisia Europeană a desemnat primele companii cu influență semnificativă pe piețele digitale în cazul DMA- vezi mai jos. Ce înseamnă asta pentru noi? Printre altele, vom putea dezinstala aplicații care nu puteau fi dezinstalate până acuma. Nu ne vor mai putea urmări în afara platformei dacă nu consimțim asta (nu uitați să nu mai apăsați “Accept all”)
Sursă: Comisia Europeană
  • pentru DSA – avem o listă de VLOPs și VLOSEs: platforme și motoare de căutare foarte mari. Pornhub e cel mai recent 🙂 Ce înseamnă aceste desemnări pentru noi? Printre altele, existența unor puncte de contact unde ne putem plânge dacă conținutul nostru a fost dat jos de platformă, eliminarea conținutului ilegal, opțiunea de a ști de ce vedem un anumit tip de conținut (asta dacă știm unde să ne uităm, desigur)
  • adoptarea Chips Act – care creează niște mecanisme prin care aparent ar trebui să crească producția de cipuri în UE. Să mai reducem din dependența de alte teritorii. Nu uitați, n-avem cipuri, n-avem nimic.
  • finalizarea negocierilor pe Digital Wallet. Vom avea un portofel digital european, unde ne vom putea încărca actele și vom avea aici și o semnătură digitală. Nu, nu e obligatoriu, nu ne cipează nimeni.
  • adoptarea Data Act. Apar reguli cu privire la utilizarea și partajarea datelor pe care le produc dispozitivele pe care le folosim. Aici regulamentul e cu bătaie către companiile care au nevoie de date pentru a-și antrena sistemele de inteligență artificială
  • Ok, bine bine, vorbim și de inteligența artificială. După luuuuungi negocieri și aproape un eșec, a venit un acord provizoriu pe regulamentul care va marca modul în care sistemele IA sunt puse pe piață. Am vorbit muuult aici și aici despre acest regulament. Aproape că l-am pus la “ce nu a mers bine în UE”, dat fiind că a existat un “last minute push” să nu apară prevederi cu privire la utilizarea sistemelor de tip Chat-GPT în regulament, ceea ce ar fi dus la deraierea întregului dosar.

Ce nu a mers bine în UE?

  • putem pune aici și o mică referire cu privire la inteligența artificială. Societatea civilă și-a exprimat îngrijorările cu privire la utilizarea supravegherii în timp real cu ajutorul acesteia în anumite condiții care deocamdată sunt vagi. Pentru textul final mai avem de așteptat, pentru intrare în vigoare avem și mai mult, undeva până în 2025.
  • alt punct slab: primul raport privind Deceniul Digital care spune că, așa cum merg lucrurile, nu vom atinge țintele asumate pentru 2030. Raportul cere eforturi mai mari din partea statelor membre și o mai bună conectare între politici.
  • eram gata să o scriu pe asta la “ce a mers bine”. Nici acum nu avem un acord cu privire la directiva care ar reglementa munca pe platformele de freelancing sau sharing economy. Eram gata să o pun acolo pentru că Parlamentul și Consiliul ajunseseră la un acord provizoriu, dar până la urmă propunerea nu a primit votul final în Consiliu. Ce ar fi însemnat acest acord? O relație mai clară între persoanele care lucrează și platforma care îi găzduiește și drepturi sociale aferente muncii pe care o prestează. Prezumția angajării – așa cum a fost desemnată de către Comisie – ar apărea dacă relația contractuală ar bifa mai multe criterii (care au fost de fapt mărul discordiei). Oh well, o lăsăm pe asta pentru la anul.

Ce a mers bine în România?

  • lansarea primelor programe de finanțare pentru digitalizare. Într-un final. Am avut celebrul “digitalizare IMM prin PNRR”, dar care de-abia la final de an și-a desemnat primii 1000 de “câștigători”. Am avut diverse programe lansate pentru dezvoltarea competențelor digitale prin tot felul de mecanisme care seamănă mult unul cu altul.
  • avem câteva cadre strategice naționale finalizate – inteligența artificială, centrele de inovare digitală, quantum – care ar trebui să creeze fundamentul pentru niște politici publice coerent pentru aceste tehnologii.
  • pentru prima dată și ceva din sfera guvernanței digitale. Avem comitete și comiții 🙂 Consiliul Științific și de Etică în Inteligența Artificială, Consiliul de Educație în IA, Comitetul de IA. Deocamdată nu știm cum și când funcționează și ce rezultate sunt pe acest palier. Cel mai cu tam-tam ar fi primul Consiliu Științific care conține experți din diaspora care lucrează în domeniu
  • primele finanțări pentru centrele de inovare digitală (Digital Innovation Hubs) prin fonduri europene. Am mai vorbit despre asta, rolul acestor centre este să sprijine companiile să treacă prin procese de digitalizare, nu prin simpla dotare cu echipamente, ci cu sprijin strategic prin realizarea de strategii de transformare digitală, spre exemplu.

Ce nu a mers bine în România?

  • lansarea eID în România. Fără evaluare de impact pentru datele personale, un pic cam inutilă deocamdată pentru că încă nu sunt servicii digitale interoperabile disponibile, dar na, era un deadline de respectat pentru finalizarea proiectului 🙂 Plus posibila suprapunere cu buletinul electronic.
  • avem cadru strategic pentru IA, dar degeaba avem, dacă n-avem un cadru legal care să oficializeze această strategie. E ok, bine că avem strategia națională pentru educație pentru schimbări climatice și mediu. Când vrei să treci cu adevărat ceva, se trece 🙂. Din nou din Seinfeld: not that there’s anything wrong with that…
  • raportul românesc pentru Deceniul Digital, care, desigur, ne situează pe ultimul loc în UE și arată că, dacă totul merge în continuare la fel, nu ne vom atinge țintele pentru 2030…
  • ținte pe care nu le știm foarte clar (în afară de cele care cer să atingem 100% servicii publice digitale de exemplu) pentru că nu avem încă aprobată foaia de parcurs națională pe care o cere Comisia Europeană, anume angajamentele pe care ni le asumăm pentru a realiza acele ținte și pentru a contribui la realizarea țintelor europene – cum ar fi 80% din cetățeni cu competențe digitale de bază. To be fair, n-am găsit foi de parcurs nici la alte state.
  • câteva programe de finanțare în care s-au pus foarte mari speranțe au cam fâsâit. De exemplu, transformarea bibliotecilor în huburi de competențe digitale al cărui apel de finanțare a fost relansat pentru că n-au fost depuse prea multe proiecte. Sau programul pentru Smart Labs în licee, unde, iarăși, au fost mai mulți bani disponibili decât proiecte depuse

Unde să-l pun pe Ion? Nu-l pot cataloga nici la bine, nici la rău pentru că a fost anunțat cu fanfaronadă ca fiind primul consilier guvernamental artificial din lume, ca să aflăm că de fapt a fost pre-programat să zică una-alta. Pentru că n-am aflat cu adevărat ce crede după ce a fost etichetat de sute de mii de ori. Pentru că a fost abandonat pentru că s-a schimbat ministrul, pentru că nici acum nu știm cu ce a fost antrenat. Dar a fost ok și pentru că a mers printr-o caravană prin țară, caravană menită să popularizeze digitalizarea. Care nici asta nu știm ce impact a avut. Ok, m-am răzgândit. E de fapt la “ce nu a mers bine”.

Bilanț la bilanț? Păi, pare că la nivelul UE legiuitorii s-au chinuit să termine ce au început pentru că li se termină mandatul, în timp ce, în România, coaliția e tot la final de mandat, dar de-abia acum au dat drumul proiectelor. Care cine știe cum se vor continua.

 

CiteșteSalvează

L-au legat cu bandă izolatoare. Acord provizoriu pe Actul privind IA

In Uniunea Europeană
De Mirela Marcut
12 minute

Săptămâna trecută tot despre IA am scris și am întrebat retoric “cine v-a lucrat aici?” Era vorba că întreg regulamentul pe IA era în pericol din cauza unor “mofturi” de ultim moment ale câtorva state cruciale pentru atingerea unei majorități calificate – Germania, Franța și Italia.

Iată că, păstrând metafora meșterului venit să repare ce au stricat alții încercând să repare, au pus niște bandă izolatoare, au legat cu niște sârmă și au reușit să o pună de un acord provizoriu între cele trei instituții europene (Consiliu, Parlament și Comisie) pe viitoarea legislație privind inteligența artificială.

Deci, merită să ne uităm peste ce a fost legat cu bandă izolatoare și cum s-a prins laolaltă varianta finală a Actului privind Inteligența Artificială (AIA).

Despre ce e vorba mai jos?

  • contextualizăm un pic discuția răspunzând la câteva “dece-uri” despre această legislație
  • vedem cum anume s-a ajuns la un acord și ce zic principalii actori despre rezultat
  • facem un rezumat al principalelor prevederi ale legislației și ne uităm un pic în viitor

Să purcedem, deci.

 

Câteva "de ce-uri"

De ce te-ar interesa această legislație?

  • legislația despre IA va afecta pe toată lumea pentru că intrarea IA în viața noastră este de-abia la început, iar sistemele de tip IA vor pătrunde în fiecare aspect al vieții noastre. Negreșit.
  • în esență, legislația este despre protecția consumatorilor, iar mare parte din aplicare va fi în “spatele scenei”.
  • chiar dacă noi suntem priviți ca niște “consumatori”, regulamentul e mai degrabă despre protecția “cetățenilor” pentru că o parte din obligațiile companiilor care pun pe piață sisteme IA se leagă de drepturile noastre fundamentale. Deci nu vorbim doar de “clientul are întotdeauna dreptate”, ci despre “clientul este de fapt cetățean și are o serie de drepturi fundamentale”.

De ce e a big deal acest acord ?

  • pentru că inteligența artificială e “tehnologie de uz general”, cam ca electricitatea sau Internetul. UE e prima entitate din lume care are acum o reglementare de protecție a cetățenilor și de ghidare a companiilor care dezvoltă astfel de soluții. SUA are “executive orders” pe acest domeniu, dar care n-au putere de legislație federală care să se aplice asupra întregului teritoriu, așa cum se întâmplă în UE.

De ce a durat atât – 2 ani?

  • pentru că vorbim de procesul decizional european – unde timpul de negociere al unui regulament sare adesea de un an. Să nu uităm că nici definiția IA nu a fost agreată decât acum în ultimul moment.
  • am mai povestit aici de ce a durat atât. Dar, pe scurt: proiectul de reglementare nu conținea la început prevederi despre sistemele IA, cum este Chat-GPT. Având în vedere că aplicația asta a devenit foarte populară în extrem de scurt timp, autoritățile europene – îndeosebi Parlamentul European – au considerat necesară introducerea unor prevederi legate de siguranța celor care utilizează aceste soluții

 

Acord provizoriu pe Actul privind IA

Avem, așadar, un acord cu privire la textul Actului privind Inteligența Artificială. Acord provizoriu. Acord provizoriu înseamnă că instituțiile europene au agreat principalele elemente ale legislației care mai rămăseseră de negociat.

Urmează acum un pas crucial, cel de redactare efectivă a textului final unde va mai fi de lucru. Deci, nu a intrat în vigoare, nu se aplică de mâine, nu omoară inovația încă, nu ne putem plânge încă unei autorități că un sistem IA ne-a discriminat. Apoi urmează un vot final, atât în Parlament (care reprezintă cetățenii), cât și în Consiliu (care reprezintă statele). Iar intrarea în vigoare e prevăzută undeva pentru 2025, deci mai avem de așteptat. Cum va evolua tehnologia până atunci este de urmărit până atunci pentru că, deși regulamentul a fost gândit să fie “future proof”, unele aspecte ale acesteia vor necesita corectură sau adaptare cu siguranță.

Cum am ajuns la acest acord? Păi, n-a fost nevoie decât de niște negocieri maraton și lipsă de somn pentru a se ajunge la un acord. 36 de ore au durat negocierile, oprite doar de câteva pauze de somn. Nimic nu ajută mai mult la rezolvarea unui impas decât lipsa somnului, aș zice eu. Comentariile celor interesați de subiect pe LinkedIn au fost mai degrabă că așa nu se face negociere cu minți private de somn care nu mai gândesc rațional sau nu mai sunt capabile să înțeleagă nuanțe sau idei simple. E și ăsta un punct de vedere. Dar am impresia că, odată ce intri în hora deciziilor europene, ești băgat la un curs special despre cum să stai treaz până târziu pentru că, așa cum am zis aici, marile decizii ale UE s-au luat aproape întotdeauna în orele târzii ale nopții sau devreme ale dimineții. Și asta poate fi catalogată ca o decizie mare, indiferent de câte probleme au semnalat principalii actori implicați.

Ce i-a ținut treji atâta timp?

Imagine din timpul negocierilor. Sursa: Thierry Breton, X

Nu, n-a fost doar cafeaua sau energizantul, ci niște mere. Ale discordiei. Anume sistemele de uz general (de tip Chat-GPT) și utilizarea IA pentru aplicarea legii și supraveghere. Să le luăm pe rând.

De fapt, principala chestie care a întârziat negocierile – anume reglementarea sistemelor de IA de uz general – a trecut relativ repede. Adică, acestea vor fi clasificate pe două categorii în funcție de mai multe criterii – cum ar fi puterea de calcul – exact așa cum a fost în compromisul inițial după care s-au ofticat cele 3 țări.

Toate sistemele vor publica rapoarte cu privire la utilizarea lor și la datele cu care s-au antrenat. Iar cele mai puternice vor trebui să treacă prin mai multe testări, cum ar fi “adversarial testing”, adică să duci la extrem funcționarea aplicației dându-i prompturi și întrebări menite să ofere răspunsuri problematice. Cam cum a făcut tipul de la New York Times cu Bing AI. Acestea vor trebui să ofere și rapoarte de eficiență energetică, fiind cunoscut faptul că sistemele puternice consumă foarte mult curent. Câteva milioane de căutări pe zi pe Chat-GPT ar putea consuma 1 Gwh în fiecare zi, echivalentul consumului zilnic de curent a peste 30 de mii de gospodării, conform calculelor făcute de Universitatea din Washington. Un Birou IA înființat în cadrul Comisiei se va ocupa de supravegherea funcționării acestor sisteme.

Acest model de supraveghere este același din compromisul inițial după care s-au supărat cele trei state. Ceea ce mă face să cred că nu asta a fost toată povestea. Ci celălalt măr al discordiei – adică utilizarea IA pentru aplicarea legii și pentru supraveghere.

IA poate fi utilizată pentru identificarea la distanță a unei persoane în două moduri – în timp real și după un eveniment. Parlamentul a cerut, de exemplu, interzicerea totală a identificării biometrice în timp real. Consiliul nu a fost de acord – adică cei care au monopolul forței. Astfel că a apărut iarăși un compromis – un acord pentru utilizarea sistemelor IA de identificare biometrică în timp real în anumite condiții legale. Deci, autoritățile vor putea utiliza identificare în timp real, spre exemplu pentru a căuta țintit o victimă a unei răpiri sau pentru prevenirea unei amenințări teroriste specifice sau prezente. Sau pentru a localiza o persoană suspectată de infracțiuni grave. Nu știm încă ce înseamnă această infracțiune gravă. Mai mult, o autoritate din sfera aplicării legii va putea folosi o aplicație IA chiar dacă nu are o evaluare de conformitate cu legea în aceste cazuri urgente – ceea ce poate lăsa portițe de utilizare greșită.

În ceea ce privește identificarea biometrică la distanță după un eveniment, există mai puține restricții, dar tot este necesară o autorizație în prealabil în conformitate cu legislația națională. De altfel, în comunicatul său, Consiliul scoate în evidență treaba asta cu legislația națională și faptul că regulamentul nu interferează cu politicile de securitate națională. Ca să fie clar, nu se aplică sistemelor IA utilizare în scopuri militare sau de apărare. Deci, aparatul de forță al statului continuă oarecum nederanjat, conform și organizațiilor de societate civilă care au urmărit subiectul.

Oricum, au mai dres busuiocul cu obligația ca autoritățile publice ce utilizează sisteme cu risc ridicat, adică și acestea de identificare biometrică, să se înscrie într-o bază de date europeană.

Ce a mai ieșit din această negociere?

  • obligație de realizare a unei evaluări de impact cu privire la protecția drepturilor fundamentale în cazul utilizării unor sisteme IA de risc ridicat
  • interzicerea salvării în masă a imaginilor cu persoane de pe Internet. Acestea se utilizează de obicei pentru a face baze de date pentru recunoaștere facială. Clearview AI e o companie americană care a făcut asta și a făcut un soft de recunoaștere facială pe care l-a vândut chiar și autorităților europene, deși e cam ilegal și din punct de vedere al GDPR
  • interzicerea sistemelor care manipulează comportamentul uman pentru a le submina liberul arbitru.
  • interzicerea utilizării sistemelor IA pentru recunoașterea emoțiilor în diverse contexte, cum ar fi la locul de muncă
  • diferențierea amenzilor în funcție de mărimea companiei. IMM-urile care nu respectă prevederile de a pune pe piață sau a utiliza în conformitate cu regulamentul aceste sisteme vor plăti amenzi mai mici
  • posibilitatea de a ne plânge unei autorități competente dacă am fost nedreptățiți de un sistem IA

 

Cu ce preț? versus Doar atât?

Image by Freepik

Dacă nu ești în bula celor interesați de tehnologie sau politici publice sau UE, nu prea ai habar care a fost faza cu negocierile asta. Și uite ce efect au unele sisteme de IA asupra noastră și nici nu știm de fapt. Pentru că, de fapt, un sistem IA de recomandare a conținutului pe rețelele sociale îți creează această bulă. Apropo, versiunea de regulament din Parlament presupunea încadrarea la categoria de risc ridicat a acestor sisteme care ne recomandă conținut pe social media. Asta n-a intrat în varianta agreată de ambele instituții.

Dacă întrebi pe cineva din societatea civilă despre eliminarea acestei prevederi, probabil că o să-ți răspundă că e problematică. Dacă întrebi pe cineva care lucrează cu social media, îți va răspunde că și așa bietele companii sunt prinse cu alte regulamente importante care le creează o grămadă de obligații.

Să vedem totuși ce zic diferiții actori despre forma agreată a AIA. Reacțiile organizațiilor de societate civilă s-au învârtit mai ales în jurul victoriei statelor cu privire la utilizarea IA în domeniile de aplicare a legii. Încă un semn că aici a fost de fapt miza negocierilor. Accentul pozițiilor acestor organizații a căzut pe diferitele lacune prinse intenționat sau nu în legislație, care ar putea permite supravegherea în masă. Conform lor, asta se vede mai ales în împărțirea pozițiilor între Parlament și Consiliu, cel din urmă insistând asupra unor excepții de la regulament pentru domeniile de securitate și apărare, mai ales în ceea ce privește supravegherea în masă cu ajutorul IA.

Digital Europe, principala organizație ce reprezintă BigTech și alte mari companii tech din Europa, se întreabă “Cu ce preț vine acest acord?”, accentuând ideea că reglementarea IA este o povară pentru companiile de tehnologie și că acestea vor trebui să angajeze mai mulți avocați decât inginerii de IA. Aceste idei fac parte din povestea des spusă în UE că legile și regulamentele omoară inovația și că economia este blocată de prea multe reguli. Povestea asta s-a mai spus de fiecare dată când a apărut o reglementare pe tehnologie, dar aici chiar suntem într-un teritoriu nebătătorit pentru că e prima dată când o entitate reglementează IA.

 

Și cu ce mă ajută pe mine, domnișoară?

Pe final, o scurtă recapitulare a ceea ce înseamnă acest act legislativ.

Dacă ești cetățean:

  • conținutul creat de IA va fi desemnat ca atare ca să știi că nu a fost creat de un om. Să vedem dacă rămâne doar aplicarea asta care e deja acum când copiezi un text din Chat-GPT în alt program, pentru că pur și simplu poți să ștergi textul de disclaimer de final.
  • la locul de muncă, șeful nu va putea folosi un sistem de IA pentru a detecta cât de mult nu-l suporți
  • la graniță, sistemele de identificare prin IA vor putea fi utilizate. Oare acestea să fie noile smart borders în Schengen?!
  • dacă un sistem de IA ia decizii care îți afectează viața, tu va trebui să știi că a fost un IA implicat în luarea deciziei și vei putea contesta dacă crezi că ești discriminat.
  • dacă locul tău de munca se va transforma și va include luarea de decizii cu ajutorul IA, să știi că tu vei lua oricum decizia la final. Nu te baza doar pe IA, tu trebuie să gândești cu mintea ta
  • companiile nu-ți vor putea lua imaginile de pe social media pentru a crea o bază de date pentru recunoaștere facială. Nu-i problemă, va supraveghea statul oricum spațiul public. Dacă ai ghinionul să fii o față generică sau să semeni foarte bine cu cineva, s-ar putea să fi confundat/ă cu un răufăcător, cum s-a întâmplat deja în România.

Dacă ești o companie, păi, aici e mai complicat:

  • totul depinde de cine ești. Pui pe piață un sistem IA? Păi, trebuie verificat unde se va folosi și pentru ce și determina ce fel de riscuri aduce. Există câteva domenii de mare risc: educație, loc de muncă, siguranță, control la frontieră etc. Dacă pui pe piață un sistem de mare risc, trebuie să faci evaluări de conformitate înainte de a-l pune pe piață și încă o evaluare de impact cu privire la respectarea drepturilor fundamentale ale utilizatorilor. Încă e fuzzy cum vor arăta aceste rapoarte, dar vor apărea structurile de sprijin pentru aceste evaluări. Oricine ai fi, trebuie să oferi specificații și documentație tehnică pentru sistemul pe care-l pui pe piață.
  • utilizezi sisteme IA? ar cam trebui să realizezi evaluări asupra contextului de utilizare ca să vezi dacă pot apărea efecte nedorite.
  • utilizezi sisteme IA? trebuie să te asiguri că persoanele care supraveghează sistemul sunt “competente, calificate și pregătite în mod adecvat și au resursele pentru a asigura supravegherea sistemului IA”.
  • ai control asupra datelor care intră în antrenarea sistemului? Păi, trebuie să te asiguri că datele sunt de calitate și comprehensive.

Astea sunt doar câteva exemple. Odată ce apare textul final, va fi mult mai clar care sunt obligațiile. Până atunci, să stăm cu ochii și pe noile versiuni de sisteme IA de uz general și pe textul final al legislației.

 

Referințe

  1. https://www.digitaleurope.org/news/23173/
  2. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai
  3. https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/
  4. https://www.euractiv.com/section/artificial-intelligence/news/european-union-squares-the-circle-on-the-worlds-first-ai-rulebook/
  5. https://www.euronews.com/next/2023/12/04/eu-governments-hypocrisy-is-on-full-display-over-dangerous-police-ai
  6. https://www.theguardian.com/world/2023/dec/08/eu-agrees-historic-deal-with-worlds-first-laws-to-regulate-ai
  7. https://algorithmwatch.org/en/ai-act-deal-key-safeguards-and-dangerous-loopholes/
Photo by Lucas van Oort on Unsplash
CiteșteSalvează

 

Digital Policy este o platformă de analize de politici publice digitale, axată pe nivelurile european, național și local.

Pagini

Newsletter