AuthorMirela Marcut

Care vor fi prioritățile digitale ale UE?

In DIGest, Uniunea Europeană
De Mirela Marcut
5 minute
Am jucat recent celebrul icebreaker, „Două adevăruri și o minciună” la un eveniment. Unul dintre lucrurile menționate de mine în listă a fost: îmi place să citesc documente de politică publică plictisitoare. Toată lumea a spus că aceasta este minciuna mea în acel joc (celelate două fiind că lucrez la îmbunătățirea limbii germane și că am schimbat 3 avioane pentru a ajunge la acel eveniment).

Ei bine, sunt aici să dovedesc că ceea ce am spus este adevărat. Cum anume? Am petrecut ceva timp parcurgând Orientările politice ale noii Președinte realese a Comisiei pentru ca voi să nu fie nevoie să o faceți 🙂. De ce? Păi, acest document este punctul de plecare pentru următorii cinci ani ai Uniunii Europene. Este planul pentru politicile, acțiunile și activitățile viitoare până în 2029.

Întrebarea principală la care vreau să răspund este: ce rol joacă exact #digitalul în următorii cinci ani? Care vor fi prioritățile digitale ale UE?

Dar, înainte de asta, de ce ar trebui să-ți pese? Răspunsul la această întrebare este aproape același cu întrebarea precedentă. Totul ține de lumea asta nebună în care trăim. În plus, am petrecut ultimii cinci ani urmărind lumea complicată a elaborării politicilor pentru spațiul digital. Am văzut cum Comisia a arătat cu degetul spre BigTech de nenumărate ori și i-am auzit spunând că vor face platformele mai responsabile pentru lucrurile care se întâmplă în cadrul acestora.

Am auzit de asemenea Comisia spunând că UE face lucrurile diferit față de SUA și China, în timp ce se străduia să adopte acte legislative foarte complicate care afectează multe companii de tehnologie americane și chineze. Ei bine, acum e momentul acțiunii. Deci, despre ce este vorba? Evidențiez principalele elemente de politică digitală menționate în Orientările politice postate zilele astea și cele care i-au adus Ursulei von der Leyen al doilea mandat.

Care vor fi prioritățile digitale ale UE?

What will be the digital priorities of the EU?
Sursă foto: Unsplash

Ce fel de lume este cea în care trăim?

  • o lume conflictuală, unde jucătorii majori se întrec să fie primii care devin neutri din punct de vedere climatic (nu sunt prea sigură în privința SUA aici) și furnizorii tehnologiilor care vor modela lumea în anii următori (nu e vorba doar de AI)
  • companiile părăsesc Europa pentru SUA în căutare de oportunități de investiții
  • există încă multe riscuri și provocări în lumea online – designul adictiv al serviciilor online, presiunea de a fi mereu conectat, deepfake-urile și dezinformarea

Unde se situează UE aici?

  • investiții continue în tehnologie și tranziție verde datorită Mecanismului de Reziliență și Redresare
  • legislație majoră adoptată în mandatul anterior
  • o nevoie acută de a stimula inovația și de a „ușura desfășurarea afacerilor” pentru a rămâne în cursă (fără a se menționa însă câștigarea ei)

Care sunt promisiunile digitale?

Totul începe de la Planul European de Prosperitate (acronimul în engleză nu e prea reușit – EPP). Există atât acțiuni generale cât și specifice:

  • Acțiuni pentru completarea Pieței Unice pentru domenii diverse, inclusiv comunicațiile electronice și domeniul digital
  • Un Clean Industrial Deal – cu acțiuni pentru a sprijini digitalizarea sistemului energetic
  • Regulamentul Unic de Rezervare și Ticketing Digital, care urmărește să simplifice călătoriile transfrontaliere cu trenul în Europa – europenii pot cumpăra un singur bilet pe o singură platformă și beneficiază de drepturile pasagerilor pentru întreaga călătorie.
  • acțiuni de „intensificare” a implementării și aplicării legilor digitale adoptate – de la Actul IA la DSA și DMA
  • un punct specific legat de aplicarea Actului IA – asigurarea implementării cerințelor de transparență legate de conținutul sintetic – deepfakes
  • în primele 100 de zile – asigurarea accesului la capacități de supercomputing în cadrul inițiativelor AI Factories
  • Strategia de Aplicare a IA dezvoltată împreună cu Statele Membre, industria și societatea civilă pentru a spori utilizarea AI în diverse sectoare
  • înființarea Consiliului European de Cercetare IA – un așa-numit CERN AI, așa cum a fost numit în presă
  • o Strategie a Uniunii Europene pentru Date – pentru a facilita schimbul de date „fără întreruperi și la scară” între afaceri și administrații
  • mai multe acțiuni pentru a facilita găsirea investițiilor în Europa pentru companii – o propusă Uniunea Economiilor și Investițiilor și Fondul European de Competitivitate pentru a „asigura dezvoltarea tehnologiilor strategice și fabricarea acestora aici, în Europa”
  • pe partea socială – un Plan de Acțiune pentru Pilonul European al Drepturilor Sociale – care va include și inițiative privind impactul digitalizării asupra lumii muncii. Se va propune un „drept de a te deconecta”
  • acțiuni suplimentare privind „designul adictiv al serviciilor online, cum ar fi derularea infinită, redarea automată sau notificările push constante”
  • construirea unui nou Scut European pentru Democrație. Ca parte a acestuia, vom lucra pentru a contracara manipularea și interferențele străine în informațiile online.

Care este imaginea de ansamblu?

Se pare că trei lucruri sunt certe în UE digitală: finanțarea, datele și IA-ul. Accentul se pune pe asigurarea condițiilor pentru dezvoltarea de noi tehnologii în Europa: accesul la date și puterea de calcul, precum și facilitarea investițiilor. În ceea ce privește AI-ul, instituționalizarea care completează AI Office al Comisiei va continua în tandem cu eforturile de a stimula aplicarea tehnologiilor AI.

În plus, se pare că aspectele sociale legate de digital vor fi în centrul atenției în noul cadru de reglementare al Comisiei, cu inițiative privind designul serviciilor online, verificarea faptelor și protejarea democrației.

 

CiteșteSalvează

Ce mai înseamnă libertatea pe internet zilele astea?

In DIGest, Uniunea Europeană
De Mirela Marcut
5 minute

Văd o grămadă de postări pe social media cu hashtagul #blessed sau #appreciation sau #proud. Și poate că și această postare pusă pe social media ar trebui să înceapă tot așa ca să poată plăcea algoritmului mai mult. De fapt, poate ar trebui să scriem mai des #blessed că avem acces la Internet sau #proud că am putut realiza tot felul de lucruri în online. Sau #appreciation pentru reglementările și așa imperfecte pe care le avem sau pentru toate organizațiile și oamenii care trag tare pentru ca Internetul să rămână un loc liber, unde să putem să ne exprimăm. Dar ce mai înseamnă libertatea pe Internet zilele astea?

Ce voiam să zic de fapt este că am participat la Regional Freedom of Internet Summit în Macedonia de Nord zilele trecute, organizat de către American Bar Association – Rule of Law Initiative. Tema libertății pe Internet e mai actuală ca oricând. Libertatea pe Internet înseamnă nu doar dreptul de a te exprima liber pe Internet, ci și posibilitatea de a fi în control asupra tehnologiei și asupra amprentei lor digitale. Mai mult ca oricând, libertatea pe Internet este și o temă geopolitică, dacă ne gândim că o parte din discuții s-a axat pe cum putem fi spionați sau pe soluția închiderii siteurilor care propagă dezinformare și manipulează. Tema libertății pe Internet se extinde și asupra inteligenței artificiale, de la modul în care se extrag date despre noi pentru a antrena modele de inteligență artificială la modul în care un sistem IA poate decide asupra vieților noastre.

Libertatea pe internet. Ce am învățat și ce m-a pus pe gânduri.

  • oamenii stau cu ochii pe legislația europeană, chiar dacă nu sunt în UE, mai ales pe cea al cărui nume nu-l voi pronunța pentru că mă pedepsește algoritmul, da’ e aia prin care poți raporta conținut ilegal și companiile mari din domeniu sunt supravegheate de la nivelul Comisiei Europene
  • țările din vecinătate au deja implementate unele elemente de legislație europeană – pe securitate cibernetică sau pe protecția datelor cu caracter personal – de aici vedem forța gravitațională, pardon de reglementare a Uniunii Europene 🙂
  • organizațiile de societate civilă au o misiune destul de grea, anume de a veghea că aceste legislații noi de la nivelul Uniunii Europene sunt aplicate corect. Cu mai mult sau mai puțin succes în diferite state europene. Spre exemplu, ne-a fost prezentat modelul german de guvernanță pentru supravegherea social media, în cadrul căruia s-a creat un consiliu consultativ al ONG-urilor cu interes în domeniu. Încă nu e clar cum va funcționa și dacă ONG-urile membre sunt cu adevărat independente, dar e un pas în direcția bună.
  • în majoritatea țărilor din vecinătate, educația privind drepturile digitale nu este parte a programei școlare pe partea de tehnologie, fiind oarecum externalizată către societatea civilă și eventual proiecte de CSR. Nu suntem nici noi departe.
  • n-a putut lipsi eterna dilemă: cum facem cu dezinformarea? cum facem cu propaganda? dar răspunsul e clar încă din titlul evenimentului: FREEDOM of the Internet. Deci, Internetul ar trebui să rămână un loc liber pentru că avem libertate de exprimare și pentru că, prin efectul său de rețea, interzicerea unui site va determina apariția altor 10.
  • n-a putut să existe o întâlnire fără să avem discuții despre IA. Actualele modele de învățare sunt oarecum limitative pentru că sunt dependente de date, iar datele de pe Internet am înțeles că sunt tratate ca fiind de proastă calitate 🙂 Mai mult, modelele IA nu au context. Avem și aici dileme de drepturi, de ownership a datelor de exemplu.
  • eliminarea factorului uman din funcționarea acestei tehnologii este o altă problemă, adică ideea de a fi eliminați din antrenarea acestor modele este periculoasă tocmai din cauza lipsei contextului. A fost o discuție despre cum antrenăm un model IA să recunoască o glumă sau ceea ce e umor. Soluția tehnică propusă a fost paradigma “human-in-the-loop”, care înseamnă că oamenii sunt incluși în procesul de realizare a sistemelor IA în diferite faze ale acestuia, de la sprijin pentru antrenarea modelelor IA prin oferirea de feedback în fazele de testare până la intervenția umană în momentul în care un sistem automatizat dă greș. Dar este cu adevărat această idee cea care respectă drepturile omului? In the loop poate însemna “pe acolo și omul, dar nu central”.

 

All in all, chiar dacă suntem sau nu în UE, cam avem aceleași probleme: viață privată online, probleme cauzate de social media, deficit de competențe digitale, nesiguranța cu privire la utilizarea inteligenței artificiale. Diferența este că la noi există crâmpeie de legislație, pentru care cam trebuie să ne luptăm și despre care cetățenii trebuie să știe mai multe. Dar, revenind la ideea de la început, cum ar fi să ne oprim din când în când și să spunem: #blessed că avem Internet, #proud că avem competențe digitale și #appreciation pentru că avem organizații civice care își fac treaba?

CiteșteSalvează

Să fie bine să nu fie rău. Cum va arăta viitoarea politică digitală a UE?

In Digital, Uniunea Europeană
De Mirela Marcut
11 minute
Suntem în săptămâna alegerilor europarlamentare și locale, iar dezbaterea e peste tot, dar de fapt nicăieri. La următorul ciclu electoral, cred că dezbaterea va avea următorul sens în dicționar, cu referire la o perioadă electorală: realizarea unei postări pe social media, atent analizată și cu comentarii moderate prin care un candidat prezintă către audiența sa și ea atent aleasă proiectele sale. Cam aici suntem cu nivelul dezbaterii și discuției pe subiecte de interes. Atât la nivel local, cât și la nivel european. Cu atât mai mult lipsește dezbaterea și discuția în România pe teme de transformare digitală, cu toate că în ultimii 5 ani am avut o avalanșă de reglementări, am văzut o grămadă de proiecte naționale și am auzit cuvântul digitalizare tot la a doua știre la televizor. Totuși, cum va arăta viitoarea politică digitală a UE?

Nu vor ei să vorbească, hai că vorbim noi și vedem ce ofertă există pe acest subiect 🙂 De ce e important și de ce ar trebui să te intereseze?

  • bani mulți cheltuiți și investiți – următorul ciclu electoral european – 2024-2029 – va vedea închiderea mecanismului “magic” al PNRR, închiderea ciclului de fonduri europene tradiționale, dar și cursa spre “finișul” Deceniului Digital. Deci, o să auzim mult mai des că se cheltuie, se face și se drege.
  • cine decide în ce vom investi pe viitor? Spre exemplu, noi de-abia avem 5G, dar deja trebuie să vorbim de 6G, iar anii următori vor cere o grămadă de bani publici și privați pentru noul Internet, atât cel mobil, cât și cel fix. Vor exista bani pentru așa ceva? Sau ne îndreptăm spre o economie de război mai degrabă?
  • ce ne facem cu IA? Accelerarea inteligenței artificiale o să creeze tot mai multe provocări și trebuie să vedem care e orizontul pentru societate, de la slujbele noastre până la a putea deosebi adevărul de artificial.
  • câtă intruziune acceptăm în viețile noastre private? mai putem trăi cu modelul toxic al social media? Cum e cu securitatea cibernetică? Și temele mai pot continua…

Dacă nu există un tablou public asupra rolului tehnologiei în viitorul legislativ, am zis că-l facem noi 🙂 Politica digitală poate deveni o temă tot mai “politică” în sensul că vorbim despre nevoia de investiții publice versus investiții private, câtă intruziune a tehnologiei suportăm în viața noastră, ce fel de drepturi fundamentale și sociale vom avea și ce fel de model al muncii vom aplica? Așa că analiza aceasta, acest #special Digital Policy, pune cap la cap temele principale legate de tehnologie, digitalizare, inovație pe care le propun partidele europene, dar și Consiliul Uniunii Europene.

 

Cum văd partidele europene viitorul digital?

Pentru a răspunde la această întrebare, am trecut prin manifestele fiecărei familii mari europene care a lansat un Manifest. Am găsit la PPE (populari), PES (socialiștii europeni) Verzi, Renew și ECR (conservatorii europeni). În general, candidații noștri aliniați la aceste familii europene vor susține/vote aceste teme pentru că, de regulă, păstrează linia de partid.

 

Sursă foto: Creat cu Copilot

Ce vrea PPE pentru politica digitală?

Începem cu PPE – partidul popular european – principala forță politică care conduce și acum coaliția din PE care a votat-o pe Ursula von der Leyen. Tema principală: digital awakening. Trezirea la realitatea digitală care va avea loc în 6 puncte:

  • extinderea rețelei de 5G și 6G în UE
  • dezvoltarea capabilităților în ceea ce privește inteligența artificială fără a împovăra domeniul cu “suprareglementare” și “reajustarea normelor de protecție a datelor la cerințele lumii digitale”. Să fie vorba de o regândire a normelor privind datele noastre personale?!
  • aducerea la zi a Cartei Drepturilor Fundamentale ale UE cu drepturile noastre digitale
  • dezvoltarea unei Uniuni a Inovării prin, spre exemplu, crearea de centre de excelență, cum ar fi un CERN pentru IA
  • ultima e foarte tare: să facem rost de fonduri 🙂

La categoria “Alte mențiuni”, mai putem aduce în discuție câteva teme importante lansate în manifest:

  • plan de acțiune pentru combaterea cyberbullying-ului – ei susțin mai multe măsuri de supraveghere cibernetică în cazul unor astfel de fărădelegi
  • crearea unei Garanții Europene a Muncitorilor în Piața Digitală pentru asigurarea drepturilor lucrătorilor de pe platforme, spre exemplu

Ce vor socialiștii europeni cu politica digitală?

Tema principală? Oamenii în control – Planuri de investiții pentru produse/servicii “Made in Europe”, protejarea drepturilor fundamentale. Spicuim din manifest:

  • Plan de Investiții pentru Tranziția Verde și Digitală pentru a reindustrializa economia și a o face circulară și competitivă
  • Strategie “Made in Europe” și finanțare comună pentru proiecte de interes comun în Europa. Aici e dezbaterea care a fost și cu ocazia Mecanismului RRF – ne împrumutăm împreună pe piețele financiare sau nu? Socialiștii zic da.
  • Sprijinirea a noi tipuri de activități economice, începând cu IMM-uri și continuând cu cooperative și afaceri sociale
  • principiul “oamenii sunt în control” – căutarea de profit din partea Big Tech este vizată aici, manifestul accentuând că nu ar trebui să ne submineze drepturile fundamentale.

 

Ce vrea Renew pentru politica digitală?

Tema principală? Investiții – Comisia următoare trebuie să fie o “Comisie a Investițiilor” pentru cercetare, dezvoltare și inovare. Legat specific de politica digitală, cei din coaliția Renew zic că trebuie să ne axăm pe implementarea numeroaselor reglementări noi realizate. Manifestul lor parafrazează pe MC Hammer: It’s implementation time.

Ce vor Verzii pentru politica digitală?

Aici vedem niște lucruri diferite față de establishment, în sensul că manifestul discută despre descentralizare în abordarea tehnologiei, despre demnitatea datelor și despre “digital fairness”. Să vedem mai exact:

  • drepturi garantate la informare, implicare prin negociere colectivă pentru muncitorii afectați de tranziția verde și digitală
  • crearea unui spațiu de date anonimizate pentru a sprijini cercetarea în domeniul medical și justiție climatică, pentru “binele comun” și aici e nevoie de mai multe eforturi pentru dezvoltarea interoperabilității
  • propunerea unui “Digital Fairness Act” – un posibil regulament pentru a contracara efectele nocive ale modelului de publicitate intruzivă asupra oamenilor
  • propunere de legislație pentru promovarea reutilizării și reciclării dispozitivelor digitale și pentru a promova reducerea consumului de energie necesar pentru criptomonede și procesarea datelor
  • promovarea unei legislații pentru a proteja cetățenii de tehnologia de tip spyware și pentru a bloca invocarea ideii de securitate națională pentru utilizarea spyware asupra cetățenilor
  • etichetarea deepfakes și a chatboților ca atare
  • dreptul de deconectare de la sistemele IA la locul de muncă
  • sprijinul implementării conceptului de “demnitate a datelor”, anume faptul că datele generate de acțiunile umane nu pot fi colectate pe gratis de dezvoltatorii de aplicații IA, iar datele aparțin oamenilor care le-au creat.

Ce vor conservatorii și reformiștii pentru politica digitală?

În ceea ce privește inovația și tehnologia, motorul cu combustie internă e șeful 🙂 Ce măsuri prevede manifestul?

  • eliminarea birocrației, oprire temporară a noilor reguli UE pentru noile întreprinderi și direcționarea resurselor pentru implementarea noilor legislații
  • propunerea de strategii care să fie “în linie cu ce vor companiile și nu împotriva lor” 🙂
  • în timp ce gândim noi tehnologii despre “combustibili cu emisii scăzute”, motorul cu combustie internă e viabil comercial “pentru anii ce urmează”

Cum vede Consiliul viitorul digital?

Sursă foto: EU2017EE Estonian Presidency - European Council
Pe final de mai, Consiliul UE a emis un document așa de concluzie a mandatului actual și pentru a oferi o serie de orientări despre viitorul politicii digitale. Ne putem contura o imagine de ansamblu mai clară uitându-ne la preocupările Consiliului, care reprezintă statele membre:
  • nevoia de investiții comune pentru a asigura viitorul transformării digitale – pe lângă investițiile publice și private la nivel național
  • accentuează nevoia de a prioritiza implementarea lor în următorul mandat al Comisiei și cere o analiză asupra interferențelor dintre diferitele reguli digitale.
  • nevoia unei abordări coordonate asupra structurilor de guvernanță necesare implementării acestor legislații – dacă tot au apărut numeroase instituții, de la AI Office la Centrul European de Guvernanță Algoritmică și toate instituțiile europene care au apărut în ultimii ani care se uită la spațiul digital
  • Consiliul se îngrijorează cu privire la acest schimb de date ale utilizatorilor în schimbul serviciilor digitale, fără ca aceștia să înțeleagă implicațiile și modul în care se folosesc datele, deci ar trebui să existe o serie de măsuri pentru adresa aceste riscuri societale care vin din modul de colectare al datelor pentru publicitate țintită
  • încurajează Comisia să dezvolte modele de utilizare a serviciilor publice și private cu ajutorul portofelului digital european care să contribuie la dezvoltarea acestui produs
  • încurajează dezvoltarea de ecosisteme dinamice care să se învârtă în jurul tehnologiilor digitale cheie – inclusiv EDICs, EDIH-uri și alte proiecte comune de interes european
  • încurajează dezvoltarea unei viziuni pe termen lung pentru rețelele digitale și viitorul conectivității
  • identifică potențialul “micro-credențialelor” pentru creșterea competențelor digitale și necesitatea de a ajuta la creșterea competențelor digitale ale fetelor pentru că ele pot crea crea și gândi servicii digital noi
  • avem parte aici și de alt termen nou: digital sobriety – sobrietate digitală. Consiliul cere promovarea acestui concept, înțeles ca “utilizarea responsabilă și moderată a tehnologiei pentru a reduce impactul asupra mediului și pentru a promova un stil de viață echilibrat. Acest concept implică reducerea consumului de energie al dispozitivelor, limitarea timpului petrecut online și conștientizarea impactului negativ al utilizării excesive a tehnologiei” (concept explicat cu ajutorul Chat-GPT 4o).
  • invită Comisia să analizeze ideea actualizării țintelor Deceniului Digital cu o țintă legată de tranziția digitală și verde
  • cere Comisiei și Înaltului Reprezentant pentru politică externă să pregătească o comunicare comună pe subiectul politicii digitale internaționale și modul în care UE se poate folosi de expertiza diplomatică și tehnică la nivel internațional.

Cum arată viitorul digital al UE?

Ne putem face un tablou de ansamblu cu privire la ce ar putea deveni subiecte de discuție, strategii și idei pentru viitorul mandat pentru că observăm câteva puncte comune:
  • nevoia de a lucra pe implementare decât pe regulamente noi
  • nevoia de a verifica interferențele dintre diferite legislații. Sunt multe legislații care se intersectează sau care se bat în cap. Cel mai simplu este să ne uităm la cadrul legal pentru date unde avem 3 regulamente pentru date plus altele sectoriale pe construcția de spații de date
  • nevoia de a face toate instituțiile noi să lucreze mai bine
  • nevoia de a asigura drepturile fundamentale ale europenilor și în spațiul digital.
  • nevoia de noi investiții pentru dezvoltare și inovare, dar la comun pentru proiecte de interes comun – o Uniune a Inovării
  • nevoia de a asigura viitorul conectivității europene cu noi investiții publice sau private
  • nevoia de a conecta mai bine obiectivele de tranziție climatică cu cele ale tranziției digitale
  • nevoia de a reglementa practicile de publicitate țintită bazată pe țintirea cu ajutorul datelor colectate pe social media
  • protejarea muncitorilor din piețele digitale – cum ar fi cei de pe platformele de tip gig economy
Observăm câteva concepte noi care ar putea marca discursurile europene în următorii ani:
  • digital awakening – trezirea la realitatea digitală
  • digital commons – bunuri comune digitale, dezvoltarea unor resurse comune digitale pentru utilizare la comun
  • digital sobriety – sobrietate digitală pe care am menționat-o mai sus
  • digital fairness – ideea tratării corecte a utilizatorilor în mediul online și a datelor pe care le generează
Să facem totuși și o mențiune a lucrurilor mai deosebite care au intrat pe agendele partidelor europene și despre care vom ști exact de unde vin, dacă apar în discursurile publice ale Comisiei sau Consiliului:
  • amprenta de carbon a criptomonedelor și sistemelor de IA și reutilizarea dispozitivelor digitale
  • supremația motorului cu combustie internă 🙂 față de cercetările cu privire la motorul electric
  • dreptul de a ne deconecta de la sistemele IA
  • sprijinirea cooperativelor digitale
  • dezvoltarea unei strategii pentru produse și servicii “Made in Europe”
A mai rămas o singură variabilă aici: cât din legislativul european și din legislativele naționale vor fi acaparate de partide din familii politice populiste și de extremă dreaptă? Ce teme gen 6G ne prăjește creierele vom vedea? Sau că portofelul digital ne limitează libertatea de mișcare? Pentru că tematicele europene ar putea fi destul de diferite dacă vedem o alianță între PPE și conservatori, spre exemplu. Cheltuielile cu cercetarea și inovarea ar putea scădea, în timp ce practicile incorecte cu utilizatorii ar rămâne netaxate. Oricum, motorul cu combustie internă va fi șeful, aia e clar 🙂

Referințe

  • https://data.consilium.europa.eu/doc/document/ST-9957-2024-INIT/en/pdf
  • https://drive.google.com/file/d/1GWy-8garJEV8pSRpSZBOlOo3wxBPp06p/view
  • https://www.datocms-assets.com/87481/1708539548-egp_manifesto-2024_courage-to-change.pdf
  • https://www.reneweuropenow.eu/priorities
  • https://pes.eu/wp-content/uploads/2024/03/2024_PES_Manifesto_EN.pdf
  • https://www.epp.eu/papers/epp-manifesto-2024
CiteșteSalvează

Ne arătăm durerea? Impactul social al digitalizării în România

In Digital, România
De Mirela Marcut
6 minute

Două studii apărute la câteva zile unul de altul par a arăta o nouă preocupare a instituțiilor europene (au fost cerute de Comisie și Parlament, respectiv), anume transformarea digitală și efectele sale sociale. O preocupare care n-a mai fost în prim plan în ultimii ani, ocupați cu accentul pe aspectele economice de finalizare a pieței unice digitale și accentul pe reglementarea spațiului digital și inteligența artificială.

Dar până acolo, nu trebuie să uităm că nu toți suntem pe net, nu toți știm să ne folosim de tehnologie la adevărata sa capacitate, nu toți putem lucra cu tehnologia și mare parte din motivele pentru care suntem aici vin din disparități socio-economice. Mai mult, unii dintre noi stăm în slujbe care sunt supuse riscului automatizării, iar asta nu face decât să adauge la aceste probleme cunoscute sub numele de diviziune digitală/digital divide. Aceste aspecte sunt subiectul acestor două studii.

Acestea se uită la întreaga Uniune Europeană și analizează și performanțele statelor membre. De aici a venit întrebarea: Cum arată România? Ne arătăm durerea? Impactul social al digitalizării în România nu este foarte evident în discursurile publice.

Cine ce a scris?

Cine ce a scris? Primul studiu e cerut de Comisie și se numește Study on poverty and income inequality in the context of the digital transformation și se uită la piața muncii, competențele digitale ale populației și aspecte legate de protecția socială, încercând să înțeleagă dacă statele membre au capacitatea și politicile publice pentru nu lăsa oamenii pe dinafară în era automatizării și transformării digitale. Al doilea e cerut de Parlament și se numește Implications of digital transformation on different social groups și se uită la impactul digitalizării asupra grupurilor sociale vulnerabile – de la persoane cu dizabilități la persoane care locuiesc în zone rurale sau izolate.

Unde apare România în aceste studii? Cum arată România transformării digitale? Este ea corectă cu grupurile vulnerabile? Păi, arată cam ca în acest meme intitulat Hide the pain Harold:

Impactul social al digitalizării în România. Piața muncii

  • Producția (19,9%), comerțul (17%) și agricultura (10,8%) sunt sectoarele economice cu cele mai mari rate de angajare în 2022. Dintre toate acestea, sectorul agriculturii va pierde angajați până în 2035 (o estimare de -4,4% până în 2035)
  • Serviciile IT, serviciile profesionale și furnizare de energie sunt sectoarele economice cu cel mai mare număr de specialiști IT angajați (considerat de studiu ca un indicator relevant al transformării digitale a unei întreprinderi)
  • Cum se compară gradul de transformare digitală cu rata de angajare și perspectivele de angajare pe viitor? sectorul producției – locul 6 la transformare digitală – are o rată de creștere estimată de 1,2% până în 2035, cu o proiecție de rată de angajare de 23,6%. până atunci. Serviciile IT ar ajunge la 3,8%, iar cea serviciile profesionale ar avea cea mai mare rată de creștere anuală de 5,0%, ajungând la 5,6% din rata de angajare. Având în vedere poziția în clasamentul de transformare digitală și rata de creștere, putem să deducem că vor rămâne în acest top. În general, se identifică o corelare pozitivă între nivelul de transformare digitală (prin specialiști IT) și rata anuală estimată de creștere la nivel de angajați
  • Producția e cel mai interesant sector pentru că aici pot interveni și automatizarea și robotizarea, ceea ce ar putea reduce ratele de angajare, dar datele din acest studiu sunt că România are o “densitate a roboților” mult mai scăzută decât media europeană, deși recuperează decalajul (cf. Industrial and Service Robots, date citate din studiul CEPS)
  • Dacă ne uităm la slujbe – cele din domeniul manufacturii și al comerțului – operatori și meseriașii și cei din vânzări sunt cei mai expuși automatizării, conform Cedefop. Adică acele sectoare cu cea mai mare rată de angajare. Desigur, nu toți operatorii vor fi înlocuiți și nu tot sectorul de productie e format din operatori, așa cum se vede în imaginea de mai jos. Dar e o tendință de urmărit. De asemenea, acest studiu prezintă date dinainte de era Chat-GPT, deci se pot schimba aceste procente și sectoare.

Impactul social al digitalizării în România. Protecția socială.

Studiile pornesc de la premisa că statele cu sisteme de protecție socială cuprinzătoare pot fi poziționate mai bine pentru a face față unui impact negativ al transformării digitale asupra cetățenilor

  • din start, România are “dezavantaje semnificative” în domeniul protecției sociale – a doua ce mai mare rată a populației la risc de sărăcie după prestații sociale, rata de beneficii acordate pentru populația la risc de sărăcie înainte de prestații sociale este 7,4% (procentul indivizilor capabili de muncă și înainte de pensionare care primesc orice tip de beneficii sociale în afară de pensie sau ajutor de urmaș), impactul prestațiilor sociale asupra reducerii sărăciei este 17,9% – al doilea cel mai mic din UE.
  • domeniile în care este marcantă diviziunea digitală sunt comerțul electronic, internet banking și accesul la informație
  • la nivel de utilizare a tehnologiei în rândul persoanelor dezavantajate, avem următorul tablou:
    • 5% din vârstnici cumpără online (65-74 de ani) – 2022 – tot cele mai scăzute niveluri din UE
    • 12,32% din persoanele cu educație scăzută (creștere de la 1,55% în 2013) cumpără online
    • 4,28% din vârstnici utilizează internet banking, iar la persoanele cu grad scăzut de educație procentul e de 3%
    • 73% din persoanele șomere au folosit internetul cel putin o dată in 12 luni

Deci, cum rămâne cu România?

  • Suntem o țară a contrastelor sociale care se reproduc și în mediul online. Mai adăugăm aici și că suntem pe ultimul loc în toate clasamentele europene și rezultă că avem nevoie de intervenții țintite pentru a readuce aceste contraste. Soluția până acum: bibliotecile – centre de competențe digitale? Bun, cum funcționează bibliotecile în mediul rural față de mediul urban? Câte biblioteci din orașele mici pot deveni cu adevărat? Există resurse pentru a ține aceste centre funcționale? Mai departe, cum ții un curs de competențe digitale unor persoane șomere? E același curs ca întotdeauna? Aici avem nevoie de un cadru de competențe digitale, la care am înțeles că se lucrează.
  • Sistemul de protecție socială nu oferă premisele pentru reducerea acestor disparități, iar o intervenție singulară de tip “hai să-i trecem printr-un curs de competențe digitale” nu rezolvă problema. Iar o strategie de incluziune digitală nu avem.
  • Dar cu automatizarea cum facem? studiul CEPS privind piața muncii și inegalitatea în termen de venit ne arată o imagine a pieței muncii în România angrenată în sectoare unde transformarea digitală încă nu a ajuns complet (producția) sau unde vom pierde angajați ca urmare a automatizării (comerț, vânzări, agricultură). Desigur, trebuie să menționăm că indicatorul folosit pentru transformarea digitală (numărul de specialiști IT angajați) este imperfect.
CiteșteSalvează

Fabrica de IA. Cum sprijină UE inițiativele în inteligență artificială

In Uniunea Europeană
De Mirela Marcut
8 minute

Am învățat o expresie nouă în limba germana: Da haben wir den Salat/acuma avem parte de salată! Înseamnă ceva de genul: deci, vezi în ce încurcătură ne-ai băgat?! Sensul vine de la faptul că salata e un mix de mai multe chestii, adică e de fapt un haos.

Putem spune asta și Uniunii Europene dacă ne gândim la reglementarea recent aprobată cu privire la inteligența artificială? Da haben wir den Salat! Discursul care nu vine dinspre UE e cam așa, în mare parte. Companiile europene sunt curtate de alte state să-și mute sediile din UE, vrăjindu-le cu reglementări relaxate și stimulente fiscale. Americanii zic și ei că ar putea reduce potențialul inovator în UE, ceea ce s-ar traduce prin mai puțină competitivitate și mai puțini bani, desigur. Deocamdată, nu avem decât unele calcule inițiale și, desigur, comparații cu alte reglementări (GDPR) care n-ar funcționa cum trebuie.

Dar, stați că e vorba de o salată, deci mai avem câteva ingrediente în plus acolo, nu doar un regulament. Despre asta e vorba în scurta (sper!) analiză: ce anume mai face UE pentru a ține companiile specializate în IA aici în Europa? Cum funcționează oportunitățile pentru IMM-uri pentru valorificarea inteligenței artificiale? Cum sprijină UE inițiativele în inteligență artificială?

Dacă n-ai timp să citești tot, uite aici câteva informații-cheie:

  • UE vrea să creeze niște structuri pentru a sprijini dezvoltarea de produse și servicii pe IA
  • De ce? pentru a antrena modele de IA, ai nevoie de câteva chestii: calculatoare puternice, acces la date care să fie analizate, oameni pregătiți, pe lângă idei. Nu prea multe companii europene își permit să aibă așa ceva la dispoziție.
  • Aici intră Fabricile de inteligență artificială 🙂 Pe scurt, supercalculatoarele europene vor primi upgrades, vor exista centre de date în apropiere, iar mai multe programe și inițiative europene vor fi direcționate pentru a susține aceste fabrici
  • Ce vrem să obținem cu asta? Realizarea de produse și servicii pe bază de IA în diverse domenii pentru a putea face față avalanșei de modele IA venite din SUA. Sau, cum ar spune unii mai fataliști, să nu pierdem cursa tehnologică.

Nu s-a terminat povestea cu inteligența artificială în UE?

Povestea nu se termină după adoptarea celei mai noi legislații privind IA. Povestea de-abia acum începe. Să spunem totuși aici că obligațiile pe care le au companiile în legătură cu această lege se leagă de tipul de risc care este evaluat. Cu cât e mai mare riscul pentru consumatori/cetățeni, cu atât mai mari obligațiile. Da, riscul trebuie evaluat, e nevoie de documentație, deci da, vor fi costuri în plus. Totul în numele “dezvoltării de IA care respectă valorile și regulile UE”.

Dar e nevoie de un sprijin pentru companiile care dezvoltă sisteme de IA, pentru a contracara obligațiile pe care actul le impune (pe bună dreptate) asupra întreprinderilor. Acest sprijin a fost anunțat la începutul lunii ianuarie deodată cu mult mai trâmbițata știre a lansării biroului IA din cadrul Comisiei.

Fabrica de IA. Cum sprijină UE inițiativele în inteligență artificială

Totul pornește de la ingredientele salatei despre care am tot scris mai sus. În cazul IA, salata este formată din: date, putere de calcul, dezvoltare de algoritmi și talente. Aici spune Comisia Europeană că vrea să intervină pentru a pune cap la cap conceptul de AI Factories/Fabrici de IA, care le aduce pe toate laolaltă.

Ce presupune Fabrica de IA?

Fabrica de IA sunt “ecosisteme deschise format în jurul supercalculatoarelor publice europene care adună resurse materiale și umane necesar pentru dezvoltarea aplicațiilor și modelelor GenAI”. Mai simplu spus, fabricile sunt de fapt pentru dezvoltarea de modele IA europene care să poată concura cumva cu cele americane pe care deja le știm și folosim.

Cum se realizează? Cu:

  • supercalculatoare – 8 supercalculatoare există deja la nivelul UE, dintre care 3 sunt cele mai puternice din lume – LEONARDO in Bologna, Italia, LUMI in Kajaani, Finlanda, and MareNostrum din Barcelona, Spania. Acestea vor primi updates pentru a putea antrena aceste modele IA foarte puternice. Cum vor avea acces companiile? Încă nu e foarte clar, dar dacă arați că ceea ce dezvolți respectă valorile europene, atunci ai un loc la coadă 🙂 Avantajul? Păi, multe din companiile europene nu-și permit să investească în aceste cerințe tehnice și atunci e nevoie de un sistem de sprijin pentru ele.
  • stocarea de date: acces la centre de date aflate în apropierea supercalculatoarelor. De ce în apropiere? Păi, și dacă vorbim despre virtual, datele alea tot trebuie să circule. Deci e bine pentru viteza de procesare și analiză a datelor. Datele sunt fundamentul oricărui model de IA care se dezvoltă și cu cât mai puternic e modelul, cu atât trebuie mai multe date și mai multă putere de calcul.
  • servicii de sprijin – bun, avem tehnică, dar trebuie să știm cum să ajungem la ea, să știm bine ce vrem să facem, cum să facem asta și să putem să le și testăm în diverse circumstanțe. Va exista un singur punct de contact prin sistemul EuroHPC Joint Undertaking – o asociere dintre state și UE pentru a dezvolta supercalculatoarele.
  • talente – fabricile ar urma să lucreze îndeaproape cu centrele de cercetare, universitățile și startupurile pentru a pregăti resurse umane calificate să lucreze în domeniu
Supercalculatoarele europene. Sursă: EuroHPC JU

Cine mai poate ajuta? Pentru asta, mai sunt o grămadă de actori, organizații, formate la nivel european care pot aduce acest sprijin către companiile interesate:

  • centre europene de inovare digitală (EDIH-uri) – avem 7 în România – care pot facilita și ele accesul la informație în domeniu având în vedere rețeaua creată la nivel euroepan
  • European Innovation Council – care direcționează investiții către startupuri
  • regulatory sandboxes – care se vor crea odată cu implementarea Actului privind IA – adică sisteme de sprijin legislativ și tehnic ce pot da șansa companiilor să testeze inovații IA fără frica amenzilor că nu au respectat legile.

 

Mai avem și alți “furnizori” pentru fabrici?

Sunt atâtea inițiative europene încât e greu să ții pasul cu ele și să vezi cum se leagă. Căci aici e cheia – să le legăm pe toate. Poate și să le promovăm mai bine, de la nivel european spre cel național. A, și desigur, să sprijinim și conectarea inițiativelor românești la facilitățile europene. Până să ajungem la ce avem de făcut, să vedem cine și ce roluri mai joacă în această “salată”:

  • date: spațiile comune de date care au rolul de a aduna date din diverse domenii – de la mobilitate la energie – să le standardizeze și să le pună la dispoziție pentru analiză și antrenare de modele IA (de parcă chiar așa de ușor e 🙂 )
  • abilități: sunt o grămadă de programe și inițiative europene menite să încurajeze dezvoltarea de abilități în domeniu și pentru pregătirea și adaptarea celor care deja lucrează în diverse domenii la noul context marcat de IA: programe noi create prin Digital Europe Programme, Erasmus+ etc
  • EDIC-uri – consorții europene de infrastructură digitală – organizații formate din mai multe state membre, cu personalitate juridică, care își propun să dezvolte proiecte mari pe care nu le-ar putea implementa pe cont propriu. Există două deja stabilite: unul care-și propune să conecteze “gemenii digitali” locali ai Europei, adică reprezentările virtuale ale orașelor și al doilea, axat pe antrenarea modelelor AI conversaționale (cum este Chat-GPT) dar pentru limbile europene oficiale și regionale.
  • chipuri: încurajarea dezvoltării de ecosisteme de producție a chipurilor și elementelor necesare pentru producția acestora – prin Chips Act, recent adoptat, și sprijinit prin Chips Joint Undertaking. N-ai cipuri, n-ai Chat-GPT, spuneam într-o altă analiză aici. Chips JU este un parteneriat care își propune să dezvolte producția de cipuri avansate pentru că, până la urmă și supercalculatoarele au nevoie de upgrades 🙂

Will it sink or will it float?

Sursă: Designer, Copilot Microsoft. Prompt: a chip in an ocean of data
Era o întrebare de genul acesta la Discovery la o emisiune de știință. Aruncau chestii în apă să vadă dacă plutesc sau nu. La figurat putem să ne întrebăm și noi despre aceste inițiative: will they sink or will they float? Prea devreme să ne pronunțăm totuși. Putem da niște educated guesses, cum spune englezul.

Toate presupun efort, un pic de finanțare (o parte din fondurile pentru realizare vine de la Digital Europe- unde e necesară cofinanțare și de 50%) și musai conectare la nivel european (auzim din nou cuvântul ‘ecosistem’). Pe hârtie, ele toate sunt conectate, așa cum răsare din comunicările Comisiei Europene pe subiect. Sinergie în sus, sinergie în jos. Implementarea de la firul ierbii necesită nu doar cele menționate mai sus, ci și capacitate administrativă din partea autorităților publice inevitabil implicate în aceste sisteme. Deci, avem premisele unor dificultăți deja.

Totuși, când va veni scadența la implementarea Actului privind IA, companiile clar că se vor plânge încă o dată că această reglementare omoară inovația și crește costurile. Comisia va putea arăta către aceste instrumente și va putea spune: da, dar v-am construit fabrici, trebuie să le accesați și noi vă ajutăm. Dar viteza de lucru trebuie să fie la fel de mare cum e cea de procesare din supercalculatoarele cu care ne lăudăm.

Închei citând chiar concluzia Comisiei din Comunicarea publicată în ianuarie 2024: Un sentiment de urgență în implementarea acțiunilor prezentate în această Comunicare este necesar, deoarece lupta nu poate fi întotdeauna câștigată de cei puternici, ci cu siguranță va fi câștigată de cei rapizi.

Referințe

  1. https://digital-strategy.ec.europa.eu/en/policies/high-performance-computing-joint-undertaking
  2. https://ec.europa.eu/commission/presscorner/detail/en/ip_24_383
  3. https://digital-strategy.ec.europa.eu/en/library/communication-boosting-startups-and-innovation-trustworthy-artificial-intelligence
  4. https://www.chips-ju.europa.eu/
CiteșteSalvează

Înapoi în viitor? Cum digitalizăm IMM-urile în România

In România, Uniunea Europeană
De Mirela Marcut
8 minute

Anul e 2027. Suntem în viitorul pe care UE ni l-a făgăduit. 90% din IMM-urile românești au intensitate digitală de bază, 75% din companii utilizează cloud/AI/Big Data. Alegerile pe care le-am făcut la începutul deceniului 20 au dat roade. Efectele economice se văd, productivitatea e ridicată, totul e roz. Or is it?

via GIPHY

Să ne întoarcem la deciziile pe care le-am luat la începutul deceniului 20 ai secolului XXI. Cum anume stimulăm întreprinderile să adopte tehnologii în activitatea lor? Ce finanțăm în acest sens? Cum măsurăm adoptarea tehnologiilor la nivel de întreprinderi? Despre asta e vorba în această analiză. Ne uităm la:

  • Ce finanțări sunt disponibile pentru digitalizare IMM-uri?
  • Cum digitalizam IMM-urile in Romania?
  • Ce urmărește România cu aceste finanțări? Se aliniază asta cu ce ne cere UE?

Dacă n-ai chef să citești până la capăt, uite principalele idei:

  • toate programele regionale au oportunități de finanțare pentru digitalizarea IMM-urilor, pe lângă oportunitățile prin PNRR
  • întreprinderile trebuie să bifeze o listă de 12 elemente care definesc intensitatea digitală
  • la fel ca tehnologia, intensitatea digitală evoluează, deci, chiar și Eurostat spune că posibilitatea de a urmări evoluția în timp a indicatorului e limitată.
  • programele cu finanțare europeană măsoară diferit intensitatea digitală – indicator-cheie care monitorizează digitalizarea întreprinderilor – pentru că folosesc versiuni diferite ale acestui indicator
  • cheltuielile eligibile din programele analizate permit achiziția unei varietății de tehnologii care se leagă indirect de intensitatea digitală cerută, dar accentul cade pe bifarea indicatorilor și nu neapărat pe îmbunătățirea proceselor interne
  • la nivelul a patru dintre cele 8 regiuni de dezvoltare, ghidurile de finanțare folosesc versiunea din 2018 a indicatorului de intensitate digitală
  • programele de digitalizare prin PNRR măsoară intensitatea digitală diferit față de programele regionale – dar folosesc varianta din 2021

Ce finanțări sunt disponibile pentru digitalizare IMM-uri?

Toate programele operaționale au oportunități pentru digitalizarea IMM-urilor., la care mai adăugăm și oportunitatea dată de PNRR. Mici diferențe apar între regiuni referitor la organizarea și gândirea apelurilor:

Cum digitalizam IMM-urile in Romania

Și acum vine dilema: ok, dăm bani, dar pentru ce? Aici intervine intensitatea digitală, o scară de măsurare drăguță venită de la Comisia Europeană și Eurostat care oferă o privire de ansamblu asupra utilizării tehnologiei într-o companie. Deci, finanțarea acoperă achiziție de tehnologie care să contribuie la bifarea indicatorilor aferenți intensității digitale. Bun, și care or fi indicatorii? Păi, depinde de an și aici cităm din Eurostat: indicatorul este unul compus, fiind derivat din chestionarul european cu privire la utilizarea TIC și comerțul electronic în cadrul întreprinderilor. Compoziția acestuia variază, în funcție de întrebările din chestionar. Compararea acestui indicator în timp este astfel limitată”. Deci, indicatorul evolulează aproape anual, ținând pasul cu tehnologia. Actualmente, scara de intensitate digitală pentru anul 2023 arată astfel:

Sursă: Eurostat
Finanțările europene pentru digitalizarea IMM-urilor funcționează deci pe baza acestui indicator, întreprinderile trebuind să bifeze cât mai multe din cele 12 elemente cu ajutorul achizițiilor de tehnologie prin proiect. De regulă, finanțatorii cer obținerea a minim 6-7 elemente din cele 12 pentru a atinge un nivel de bază de intensitate digitală. Cu cât mai multe elemente bifezi, cu atât ai dreptul la mai multă finanțare. Acum să vedem ce anume trebuie să urmărească firmele românești care achiziționează tehnologie pentru creșterea intensității digitale, conform finanțărilor disponibile:

  • POR Centru – varianta din 2018 de intensitate digitală
  • POR NV – varianta din 2018 de intensitate digitală
  • POR Vest – varianta din 2018 de intensitate digitală
  • POR NE – varianta din 2018 de intensitate digitală
  • POR SE – nu avem informații specifice despre apel
  • POR Sud-Muntenia – nu este un apel distinct pe digitalizare, iar apelul disponibil care integrează digitalizarea nu vorbește despre intensitate digitală
  • POR Sud Vest Oltenia – varianta din 2021 de intensitate digitală
  • POR București Ilfov – nu avem informații specifice, știm doar că se vizează și intensitatea digitală ridicată a întreprinderilor (deci cel puțin 9 din 12). Nu știm totuși ce variantă de intensitate se va alege
  • PNRR – varianta din 2021 de intensitate digitală

Să vedem cum arată asta în practică. Ce însemna intensitate digitală pentru anul 2018, respectiv pentru 2021?

Cum digitalizam IMM-urile in Romania
Cum digitalizam IMM-urile in Romania
Anterioară
Următoare
Ce diferențe sunt?
  • elemente legate de procesele interne ale întreprinderii apar mai târziu, în varianta din 2021: ERP, CRM, AI
  • varianta din 2018 era bazată foarte mult pe web – 2 elemente legate de pagini web, două de comerț electronic
  • în 2021 – apar mai multe elemente legate de social media

Cea mai importantă diferență este că….păi, nu se potrivește cu actuala definiție a intensității digitale de mai sus de la nivelul anului 2023. Într-adevăr, varianta din 2021 se apropie mai mult de ceea ce urmărește acum Uniunea Europeană. Oricum, simplul fapt că acest indicator evoluează ne arată că nu putem să condiționăm prea mult adoptarea tehnologiei în mediul privat de bifarea unei liste de tehnologii achiziționate.

Deci, cum vor arăta întreprinderile românești digitalizate cu ajutorul acestor fonduri? Păi, majoritatea fondurilor disponibile, așa cum arată ghidurile acum, vor urmări indicatori care nu se aliniază foarte bine cu trendul tehnologiei:

  • cu accent pe achiziții de dispozitive mobile pentru angajați, pagina web și e-commerce, care nu este dublat în mod direct de exploatarea unor tehnologii pentru îmbunătățirea proceselor interne, cum ar fi ERP sau CRM
  • fără accent pe dezvoltarea unui model de business digital, care să colecteze date cu ajutorul programelor de tip CRM și ERP și care să le analizeze pentru a lua decizii mai bune
  • fără accent pe inteligența artificială

Informație importantă aici: într-adevăr, ghidurile consultate prevăd o listă de cheltuieli eligibile care permit achiziția de tehnologii de genul acesta – AI, CRM sau ERP etc. Dar legătura cu acești indicatori este indirectă și nu stimulează neapărat întreprinderile să își adapteze modelul de business și să-și îmbunătățească procesele interne. Accentul rămâne pe bifarea acestor indicatori, o condiționalitate a programelor de finanțare.

Ce urmărim cu intensitatea asta digitală?

În primul rând, intensitatea digitală a întreprinderilor mici și mijlocii este o țintă semnificativă pentru măsurarea progresului României la nivelul societății și economiei digitale. Ne-o cere Uniunea Europeană. Mai precis, la nivelul anului 2030, 90% din IMM-uri vor avea un nivel de intensitate digitală cel puțin de bază (6/12 tehnologii). Dar problema e că nu știm cum va arăta această intensitate digitală la nivelul anului 2030 pentru că indicatorul evoluează odată cu tehnologia. Iar monitorizările sunt diferite la nivel regional, pare-se.

În al doilea rând, intensitatea digitală este o modalitate de a măsura digitalizarea IMM-urilor, care la rândul ei ar trebui să aducă beneficii socio-economice pentru regiuni. Cheia e aici legată de modalitatea în care sunt folosite aceste tehnologii odată ce sunt achiziționate și modul lor de exploatare. Achiziția nu trebuie să rămână un scop în sine, dar accentul pe bifarea indicatorilor și așa invechiți în unele cazuri și a rezultatelor cerute de finanțator poate să ducă în direcția asta.

Mai există și alte moduri de a măsura digitalizarea IMM-urilor? Mai poți urmări gradul de maturitate digitală, o altă unealtă pusă la dispoziție de către UE pentru IMM-uri prin intermediul centrelor de inovare digitală. Acest indicator se uită mai adânc la procesele interne, aspecte legate de management și pregătirea angajaților sau chiar angajamentul către sustenabilitate în utilizarea tehnologiei.

Câteva recomandări de final…

  • pentru întreprinderi interesate de aceste apeluri: apelați la o analiză consistentă înainte de a alege și a scrie proiectele pentru digitalizare. Analiza trebuie să vizeze nu doar lista echipamentelor care se recomandă, dar a beneficiilor pe care le aduc pentru funcționarea întreprinderii. Aici mergem deja către transformare digitală și nu ne limităm la a digitaliza unele procese deja existente.
  • pentru întreprinderi interesate de apeluri: gândiți-vă și la maturitatea digitală, o analiză mai deep pentru regândirea modelului de business bazat pe date și care vă poate ajuta să inovați.
  • pentru policy-makers: corelați intensitatea digitală la nivel național pentru a asigura acele puncte în plus pe care le vrem cu toți în Indexul Societății și Economiei Digitale.
  • pentru policy-makers: o altă variantă de susținere a IMM-urilor este kitul digital, element care asigură uniformitate în tehnologiile pe care acestea le folosesc în afacerea lor. Spania face asta, de exemplu.

 

CiteșteSalvează

De la roz cu picățele la realitate. 10 moduri prin care putem îmbunătăți strategia IA

In România
De Mirela Marcut
10 minute

Ce este și cu ce se mănâncă strategia națională privind inteligența artificială

Scopul acestei strategii este să contribuie la transformarea digitală a țării și să se alinieze la viziunea și valorile Uniunii Europene privind IA. Strategia încearcă o acoperire destul de largă a inteligenței artificiale în România, vizând aproape toate fațetele vieții noastre în această țară. Înțelegem această abordare, având în vedere paginile în care strategia deplânge performanța României în materie de transformare digitală și rămânerea în urmă în ceea ce privește cercetarea și inovarea în general. 

Dar tocmai această abordare poate să se întoarcă împotriva implementării, având în direcțiile multiple care trebuie urmărite și numărul de instituții implicate în implementare și monitorizare. Nu zicem că ar trebui restrânsă implicarea instituțională, dar o structură de guvernanță robustă și bine pusă la punct poate duce la îndeplinire această strategie. Asta și încă mai multe se află mai jos în secțiunea „10 moduri prin care putem îmbunătăți strategia IA”.

Principalele aspecte ale documentului:

  1. Viziune, misiune și principii: Strategia prezintă o viziune asupra dezvoltării IA în România, precum și misiunea de a utiliza IA pentru beneficiul cetățenilor și economiei naționale. Principiile de pornire includ transparența, etica și securitatea datelor. Misiunea este: IA de încredere și excelență, motor de creștere economică și bunăstare socială în România.
  2. Obiective generale și specifice:
Tabelul nr.1 - Lista obiectivelor generale și specfice. Preluat din SN-IA, p. 73

Așa cum am menționat mai sus, putem vedea încercarea de a surprinde toate fațetele vieții societății și economiei românești în această strategie. De la educație la agricultură, cercetare și transport, IA ar trebui să fie peste tot. Totuși, ceva lipsește din această abordare: totul este roz cu picățele, iar abordarea bazată pe risc, exact abordarea pe care o are UE în recent aprobatul Act privind Inteligența Artificială și în Carta Albă privind IA, lipsește. Dovadă? Secțiunea cu privire la “impactul cu privire la drepturile fundamentale ale omului” din Nota de fundamentare care însoțește proiectul de Hotărâre de Guvern este completată astfel: “Nu este cazul”.

3. Rezultate așteptate și impact socio-economic:

Ideile de mai jos le-a extras Copilot:

  • Îmbunătățirea calității vieții prin soluții IA inovatoare.
  • Creșterea competitivității economice prin adoptarea IA.
  • Îmbunătățirea serviciilor publice și a administrației prin implementarea IA.
  • Promovarea inovării și a spiritului antreprenorial în domeniul IA.
  • Asigurarea securității și rezilienței sistemelor IA.

De aici intervin eu 🙂

În realitate, secțiunea de rezultate așteptate este destul de puțin dezvoltată, aducând în discuție doar elemente generale neadaptate cu adevărat măsurilor și obiectivelor. Pe scurt, nu vedem legătura directă dintre obiective și rezultate sau impact. Aici intervine iarăși “pictura în roz cu picățele” asupra impactului, pentru că toate cifrele și elementele date sunt pozitive. Nu vorbim de job displacement, de necesitatea transformării modelelor de business ale multor companii pentru a rămâne competitive, lucru iarăși greu de realizat fără un ghidaj bine pus la punct sau de intruziuni în drepturile fundamentale ale oamenilor.

În cartea “Power and Progress. Our Thousand-Year Struggle over Technology and Prosperity”, Acemoglu și Johnson (ambii profesori la MIT, deci nu sunt chiar “nime-n drum”) arată că această viziune pozitivă asupra tehnologiei vine cu inegalități și cu efecte nedorite. Depinde de noi ce alegeri facem cu privire la utilizarea tehnologiei. Mai mult, ei aduc argumente în favoarea unui cadru legal și instituțional care să ghideze utilizarea tehnologiei în așa fel încât progresul tehnologic să nu vină cu mai multe inegalități.

10 moduri prin care putem îmbunătăți Strategia privind IA

Imagine generată cu ajutorul Microsoft Designer

Ok bun, și ce facem acum? Păi, putem îmbunătăți strategia pentru a reflecta mai bine contextul socio-economic românesc și reglementările și discuțiile internaționale pe temă. Am inclus mai jos 10 moduri prin care strategia poate fi îmbunătățită. Am identificat cele 10 moduri pornind de la misiunea asumată a strategiei, de la alte exemple de strategii și de la necesitatea unei legături cu politicile europene și unei raportări la contextul românesc. Nu sunt singurele 10 moduri posibile, desigur. Sunt structurate pe câteva elemente principale:

Drepturi fundamentale

  1. Dezvoltarea conținutului strategiei cu aspecte legate de impactul inteligenței artificiale asupra drepturilor omului. Măsurile prevăzute, cum ar fi extinderea utilizării IA în diverse domenii socio-economice, de la transporturi la agricultură, au impact la nivelul autonomiei, libertății individuale și de expresie a cetățenilor. Strategia nu abordează aceste aspecte, decât ca fundamentare a acesteia pe anumite principii. De ce? Strategia vizează IA, o tehnologie cu profund impact asupra drepturilor fundamentale, lucru scos în evidență de politica digitală a Uniunii Europene, mai ales prin prisma Declarației privind Drepturile și Principiile Digitale, aprobată la nivelul UE în 2023. Mai mult, etica în inteligența artificială și grija față de respectarea drepturilor fundamentale este analizată și în raportul grupului consultativ al ONU cu privire la inteligența artificială.

Noi măsuri în linie cu contextul românesc și politicile europene

2. Includerea abordării bazate pe risc. Modificarea titlului OS1.2. din “Creșterea nivelului de înțelegere de bază a populației privind beneficiile, utilizarea și reglementarea tehnologiilor IA” în “Creșterea nivelului de înțelegere de bază a populației privind beneficiile, riscurile, utilizarea și reglementarea tehnologiilor IA” și integrarea de măsuri aferente conștientizării riscurilor. De ce? Această modificare este în concordanță cu abordarea europeană a IA bazată pe risc și echilibrează discursul cu privire la IA.

3. Ce zic românii despre IA? Includerea unei măsuri privind măsurarea percepției și nivelului de înțelegere a IA la nivelul populației ca punct de pornire pentru măsurile de instruire și informare a populației generale cu privire la inteligența artificială. De ce? OS 1.2 se intitulează “creșterea nivelului de înțelegere a populației”, dar acest lucru nu se poate realiza fără o măsurare inițială a nivelului de înțelegere și percepție asupra IA. Nivelul competențelor digitale din România se poate utiliza doar parțial ca “proxy”, având în vedere potențialul și riscurile inteligenței artificiale.

4. Sprijin pentru companiile mici. Includerea în interiorul OS5.2. Adoptarea și valorificarea tehnologiilor de IA în sectoare socio-economice prioritare a unei măsuri de sprijin pentru alinierea la prevederile Actului privind Inteligența Artificială pentru startup-uri și IMM-uri care dezvoltă produse IA. De ce? Actul privind Inteligența Artificială a fost adoptat de curând și prevede o serie de obligații legale în funcție de tipul de produse IA realizate și domeniul în care acestea se utilizează. Costurile cu privire la respectarea prevederilor acestui act variază în funcție de stakeholder implicat și domeniu, dar startupurile au nevoie de sprijin pentru a putea continua dezvoltarea produselor. O astfel de măsură de sprijin legal/financiar/organizațional completează măsurile privind realizarea de infrastructuri de testare și regulatory sandboxes (medii de testare a unor soluții noi al căror impact nu se cunoaște, iar companiile pot testa fără repercusiuni legale) sau de stimulare a inovației în IA.

5. Chat-GPT et co. Includerea unor măsuri privind informarea, integrarea și utilizarea aplicațiilor de tip GenAI în societate și economie, în special cu privire la impactul deepfakes și a “synthetic media” în societatea românească. De ce? Aspectele privind GenAI lipsesc din stategie, cu toate că acestea sunt deja utilizate la nivelul populației. GenAI a devenit una dintre cele mai facile tehnologii IA de utilizat și necesită o serie de măsuri țintite. Această măsură ar trebui coroborată cu proiectul de lege privind deepfake, aflat în proces decizional. Proiectul nu conține prevederi privind informarea populației.

6. Cum ajută IA mediul? Dezvoltarea măsurilor din Programul – Adoptarea și valorificarea IA în sectoarele mediu înconjurător și energie – pentru a include măsuri mai clare cu privire la utilizarea IA în sprijinul mediului înconjurător, mai ales pentru cercetarea în domeniul schimbărilor climatice, spre exemplu. De ce? Utilizarea IA nu trebuie să fie un scop în sine, ci un vehicul pentru rezolvarea unor probleme societale și economice, dincolo de creștere economică etc.

Guvernanță și implementare

7. Dezvoltarea cadrului de guvernanță a strategiei naționale prin:

    • operaționalizarea unei structuri de guvernanță care să nu se limiteze doar la un comitet interministerial,
    • explicitarea legăturii și a contribuției Comitetului Român pentru Inteligență Artificială, împreună cu toate componentele sale, și Comitetul interministerial,
    • implicarea societății civile în Comitetul Român pentru Inteligență artificială cu rol de monitorizare a efectelor inteligenței artificiale asupra societății și drepturilor fundamentale în particular (în momentul de față nu avem cunoștință de un grup de lucru format în acest sens, iar structura Comitetul pentru AI nu cere explicit creionarea unei astfel de inițiative)
    • realizarea unei legături dintre viitoarea instituție care va fi parte din structura de guvernanță a AI Act la nivel european și structura de guvernanță a strategiei naționale pentru inteligență artificială. Există deja o arhitectură a inițiativelor strategice privind IA în România, aprobată prin Memorandum în 2022, dar aceasta nu se leagă de Comitetul interministerial propus spre înființare.

De ce? Justificarea ține de caracterul orizontal pe care IA îl are pentru societate și economie, ce cere o structură de guvernanță cu viziune largă asupra schimbărilor prin care vor trece societatea și economia. Also, vezi mai sus ce am mai scris 🙂

8. Clarificarea referirilor cu privire la urmărirea indicatorilor de realizare imediată. Ca să putem urmări tot ce se întâmplă sub umbrela acestei strategii, avem nevoie să știm la ce vrem să ajungem. Pentru asta sunt indicatorii și țintele, care pot urmări măsuri pe termen scurt (indicatori de realizare) sau pe termen mai lung (de rezultat). Ei bine, indicatorii aceștia de urmărit pe termen scurt nu se regăsesc în textul strategiei. Deci, nu știm pașii mărunți care se vor face pentru a ajunge la ceea ce-și dorește strategia. Sau, în limbaj academic: Strategia cuprinde obiective generale cu indicatori de impact aferenți, obiective specifice cu indicatori de rezultat aferenți, dar indicatorii de realizare nu transpar în textul strategiei. De ce? Indicatorii de realizare imediată sunt menționați semnificativă a implementării și monitorizării strategiei, dar nu sunt descriși.

9. Dezvoltarea și asumarea unui buget mai conturat, coroborat cu un calendar general de implementare, pentru a corela direct obiectivele generale și specifice cu un posibil buget. Mai precis: asumarea deschiderii unor linii de finanțare pentru implementarea măsurilor și atingerea țintelor strategiei.

 

Imagine generată cu ajutorul Microsoft Designer

Impact

10. Impactul socio-economic al adoptării strategiei necesită o analiză profundă și mult mai extinsă decât ceea ce se prezintă în acest document. Nu regăsim analize de impact sau corelarea dintre obiectivele asumate și atingerea țintelor. Este nevoie să se integreze analize adaptate la specificul mediului românesc, unde nivelul de competențe digitale este cel mai scăzut din UE și unde integrarea tehnologiilor digitale în companii este la un nivel scăzut. De ce? Do I really have to say it? 🙂 Ok fie: Prezentarea contextului și analiza problemelor se află într-un contrast pregnant cu prezentarea rezultatelor și impactului. Această secțiune nu face legătura aproape deloc cu principalele probleme evidențiate în debutul strategiei. De asemenea, fără date și analize care să se refere exact la specificul socio-economic al României, prezentarea impactului socio-economic din strategie nu are cum să fie strict de natură pozitivă, așa cum este prezentat în strategie.

Concluzionând…

Era o replică într-un serial, de unde parafrazez: în momentul în care nu știi unde să mergi mai departe, te întorci, citești misiunea și ai răspunsul acolo. Misiunea strategiei începe cu: „IA de încredere și excelență”. Partea de excelență e acoperită, dar cea de încredere e cu adevărat acoperită în obiectivele și măsurile strategiei? Dar bunăstarea socială? Avem roz cu picățele. Mai avem nevoie de realitate.

CiteșteSalvează

Omoară Uniunea Europeană inovația cu atâta reglementare?

In Uniunea Europeană
De Mirela Marcut
6 minute

Am obiceiul să fac “dog ears” la cărți. Iubitorii de cărți sunt șocați acum: cum poți să faci așa ceva?!?! Cartea lui Anu Bradford, Digital Empires. The Global Battle to Regulate, e plină de “dog ears”. Nu se putea să nu fie așa, fiindcă tratează aproape tot ce încerc eu să tratez pe această platformă: relația dintre state și companii tech, modele de reglementare american, european și chinezesc, tehnologiile smart city ca metodă de exportare a principiilor de supraveghere extinsă din China etc.

via GIPHY

Aș fi putut să mă opresc la descrierea celor trei modele de “imperii digitale”, așa cum le numește cercetătoarea, anume SUA, China, Europa și să analizez “bătăliile” dintre acestea. De altfel, aș putea foarte adevărat să deschid oriunde cartea lui Anu Bradford și să găsesc informații demne de analizat și discutat aici pe site.

Am ales să mă opresc la o idee tratată pe finalul cărții care face parte din rețetarul oricărui discurs public legat de incapacitatea UE de a genera inovație sau din playbookul oricărei companii mai ales americane cu privire la “suprareglementarea” europeană: UE omoară inovația cu toate reglementările sale și acesta este motivul pentru care UE nu este cu adevărat o putere tehnologică.

 

Omoară Uniunea Europeană E inovația cu atâta reglementare?

Aceasta e întrebarea.

Anu Bradford contestă această relație de cauzalitate prin simpla idee că UE nu a avut giganți nici înainte de a dezvolta sistemul de reglementări pe care-l are în zilele noastre. Mai mult, arată cu degetul către alte politici sau specificități europene decât politica digitală, din cauza cărora companiile tehnologice din Europa au niște provocări unice pe care cele din SUA sau China nu le au.

 

  • Piață unică digitală fragmentată. Scalarea unei companii e dificilă atunci când are de-a face cu mai multe piețe naționale cu limbi, culturi și reglementări diferite. Dă exemplul Amazon care a putut să crească ca o librărie online pentru că toată lumea vorbea engleză, dar Europa cunoaște o diversitate lingvistică mult mai pronunțată. În Europa, serviciile de video on demand n-au putut crește și din cauză că au trebuit să ofere mixuri diferite de conținut pe diferite piețe. Să nu mai zicem de alte bariere legale și tehnice care creează regimuri diferite de la țară la țară. Fragmentarea aceasta omoară în special IMM-uri care au parte de costuri ridicate și nu pot scala suficient. Acesta e unul din motive pentru care decid să aleagă o piață omogenă, cum e cea americană.

  • Piețe de capital slab dezvoltate. Anu Bradford citează un studiu al McKinsey care spune că accesul la capital este extrem de important mai ales pentru startupurile IA, mai ales în rundele ulterioare de finanțare. Confruntate cu absența unor fonduri mari europene de capital de risc, companiile fug către SUA, unde banii se iau mai ușor. Într-adevăr, Anu Bradford remarcă un semn de optimism în această situație, anume faptul că au crescut semnificativ investițiile americane în startupuri europene, iar unele firme mari de capital de risc din SUA și-au deschis filiale europene. Salvarea ar mai putea veni și de la realizarea Uniunii Piețelor de Capital, inițiativă a Comisiei Europene care nu a avut succesul scontat deocamdată.

  • Bariere culturale și legale care descurajează falimentul și insolvența. Europenii pun preț pe stabilitate și nu pe asumarea de riscuri, “cred că eșecul este o tragedie personală”, ceea ce nu-i face pregătiți să treacă de la o idee la alta până au găsit ideea de business perfectă pentru ei. De altfel, aceste aspecte culturale sunt adesea prinse în legile de insolvență și faliment care penalizează eșecul.

via GIPHY

  • Lipsa unei politici de imigrație active care să atragă talente bine pregătite. Aici vorbim despre “mitul visului american” care atrage mulți imigranți, despre universitățile americane care sunt printre cele mai puternice din lume, iar cei care vin să studieze aici au tendința de a rămâne. Autoarea citează nume de mari fondatori de giganți tech din SUA care sunt imigranți, dar și faptul că că mai mult de jumătate din cercetătorii importanți din IA din țară sunt imigranți sau cetățeni ai altor state.

Ce înseamnă toate astea?

De aici deducem trei aspecte semnificative:
  1. Folosind perspectiva lui Anu Bradford, reglementarea pe stil european a spațiului digital n-ar trebui să fie această sperietoare care e acum pentru companiile europene. Viziunea de a reglementa pentru a apăra valori, cum ar fi solidaritatea, autonomia, viața privată și corectitudinea, nu este de vină că nu avem suficientă inovație și maturitate în ecosistemele europene de tehnologie. În cazul acesta, diversitatea cu care atâta ne lăudăm ca europeni, e una din pietrele de moară semnificative. Cum reglementezi în jurul diversității? Cum creezi povești de succes pornind de la diversitate? Inteligența artificială poate ajuta aici, prin traduceri automate, spre exemplu, pentru produse și servicii europene cu adevărat. IA ne poate ajuta să înțelegem mai bine publicul din altă țară, pentru a putea oferi servicii cu adevărat valoroase pentru acea piață.
  2. De altfel, viziunea europeană asupra societății și economiei este această sabie cu două tăișuri care, pe de o parte, este atractivă deja la nivel global pentru reglementarea societății digitale și care, pe de altă parte, ne face să nu riscăm pentru că ne e teamă de eșec. Dacă am greșit, corect e să plătim. Ne place să avem stabilitate.
  3. Piața Unică există de zeci de ani atât în calitate de concept, cât și ca realitate, și nici acum nu am reușit să eliminăm toate barierele pentru o funcționare corectă pentru europeni. Da, poți cumpăra online din altă țară, dar degeaba poți dacă nu se dezvoltă servicii suficient de relevante pentru consumatori. Există, desigur, câteva excepții, cum ar Zalando sau About You pe piața de retail și fashion, dar totul pălește în fața gigantului Amazon.

Pe final, #foodforthought:

via GIPHY

  • pentru cei care au un startup și vor să-l crească repede, Europa nu e pentru ei. Dar nu mai trăim în era “move fast and break things”. De altfel, una din ideile principale ale Digital Empires este că și SUA se mută încet către un sistem de reglementare asemănător celui european pe fondul problemelor legate de social media, dezinformare, dar și problemele antitrust pe care le pun giganții americani, iar cetățenii ari fi de acord cu asta. Bătălia pe drepturile de autor în antrenarea modelelor de AI care se dă în SUA acum este unul din semne (vezi procesul intentat de New York Times împotriva OpenAI).
  • pentru cei care vor să dezvolte o afacere în Europa, vor trebui să-și pună problema internaționalizării mult mai repede decât și-o pune un startup din SUA pentru că piețele sunt mai mici și mai fragmentate. Fondurile europene sunt o soluție pentru ei, cu toate că e greu să-ți bați capul cu birocrație și cu lipsa predictibilității cu privire la asigurarea finanțării.
CiteșteSalvează

Ce a mers bine și ce a mers prost în 2023? Ediția de #digital

In România, Uniunea Europeană
De Mirela Marcut
7 minute

Ce a mers bine și ce a mers prost în 2023? O scurtă postare de #yearinreview, varianta pe digitalizare. De ce? Păi, în pregătirea pentru această recapitulare, am citit să văd ce au mai scris ziarele pe acest subiect. În România, am găsit un mare nimic, iar în străinătate cam singura poveste a fost legată de inteligența artificială. Not that there’s anything wrong with that, cum ar zice Seinfeld, dar parcă s-au mai întâmplat și alte lucruri. Deci, să purcedem.

Ce a mers bine în UE?

A fost un an foarte foarte foarte încărcat, aș putea zice. Încărcat pentru că se încheie în curând mandatul actualei Comisii și au fost nenumărate propuneri legislative care au trebuit duse la bun sfârșit. Unele mai repede decât altele. Unele mai bine decât altele. Să le vedem, in no apparent order:

  • primele semne de funcționare pentru Digital Services Act și Digital Markets Act. Ce înseamnă asta? Comisia Europeană a desemnat primele companii cu influență semnificativă pe piețele digitale în cazul DMA- vezi mai jos. Ce înseamnă asta pentru noi? Printre altele, vom putea dezinstala aplicații care nu puteau fi dezinstalate până acuma. Nu ne vor mai putea urmări în afara platformei dacă nu consimțim asta (nu uitați să nu mai apăsați “Accept all”)
Sursă: Comisia Europeană
  • pentru DSA – avem o listă de VLOPs și VLOSEs: platforme și motoare de căutare foarte mari. Pornhub e cel mai recent 🙂 Ce înseamnă aceste desemnări pentru noi? Printre altele, existența unor puncte de contact unde ne putem plânge dacă conținutul nostru a fost dat jos de platformă, eliminarea conținutului ilegal, opțiunea de a ști de ce vedem un anumit tip de conținut (asta dacă știm unde să ne uităm, desigur)
  • adoptarea Chips Act – care creează niște mecanisme prin care aparent ar trebui să crească producția de cipuri în UE. Să mai reducem din dependența de alte teritorii. Nu uitați, n-avem cipuri, n-avem nimic.
  • finalizarea negocierilor pe Digital Wallet. Vom avea un portofel digital european, unde ne vom putea încărca actele și vom avea aici și o semnătură digitală. Nu, nu e obligatoriu, nu ne cipează nimeni.
  • adoptarea Data Act. Apar reguli cu privire la utilizarea și partajarea datelor pe care le produc dispozitivele pe care le folosim. Aici regulamentul e cu bătaie către companiile care au nevoie de date pentru a-și antrena sistemele de inteligență artificială
  • Ok, bine bine, vorbim și de inteligența artificială. După luuuuungi negocieri și aproape un eșec, a venit un acord provizoriu pe regulamentul care va marca modul în care sistemele IA sunt puse pe piață. Am vorbit muuult aici și aici despre acest regulament. Aproape că l-am pus la “ce nu a mers bine în UE”, dat fiind că a existat un “last minute push” să nu apară prevederi cu privire la utilizarea sistemelor de tip Chat-GPT în regulament, ceea ce ar fi dus la deraierea întregului dosar.

Ce nu a mers bine în UE?

  • putem pune aici și o mică referire cu privire la inteligența artificială. Societatea civilă și-a exprimat îngrijorările cu privire la utilizarea supravegherii în timp real cu ajutorul acesteia în anumite condiții care deocamdată sunt vagi. Pentru textul final mai avem de așteptat, pentru intrare în vigoare avem și mai mult, undeva până în 2025.
  • alt punct slab: primul raport privind Deceniul Digital care spune că, așa cum merg lucrurile, nu vom atinge țintele asumate pentru 2030. Raportul cere eforturi mai mari din partea statelor membre și o mai bună conectare între politici.
  • eram gata să o scriu pe asta la “ce a mers bine”. Nici acum nu avem un acord cu privire la directiva care ar reglementa munca pe platformele de freelancing sau sharing economy. Eram gata să o pun acolo pentru că Parlamentul și Consiliul ajunseseră la un acord provizoriu, dar până la urmă propunerea nu a primit votul final în Consiliu. Ce ar fi însemnat acest acord? O relație mai clară între persoanele care lucrează și platforma care îi găzduiește și drepturi sociale aferente muncii pe care o prestează. Prezumția angajării – așa cum a fost desemnată de către Comisie – ar apărea dacă relația contractuală ar bifa mai multe criterii (care au fost de fapt mărul discordiei). Oh well, o lăsăm pe asta pentru la anul.

Ce a mers bine în România?

  • lansarea primelor programe de finanțare pentru digitalizare. Într-un final. Am avut celebrul “digitalizare IMM prin PNRR”, dar care de-abia la final de an și-a desemnat primii 1000 de “câștigători”. Am avut diverse programe lansate pentru dezvoltarea competențelor digitale prin tot felul de mecanisme care seamănă mult unul cu altul.
  • avem câteva cadre strategice naționale finalizate – inteligența artificială, centrele de inovare digitală, quantum – care ar trebui să creeze fundamentul pentru niște politici publice coerent pentru aceste tehnologii.
  • pentru prima dată și ceva din sfera guvernanței digitale. Avem comitete și comiții 🙂 Consiliul Științific și de Etică în Inteligența Artificială, Consiliul de Educație în IA, Comitetul de IA. Deocamdată nu știm cum și când funcționează și ce rezultate sunt pe acest palier. Cel mai cu tam-tam ar fi primul Consiliu Științific care conține experți din diaspora care lucrează în domeniu
  • primele finanțări pentru centrele de inovare digitală (Digital Innovation Hubs) prin fonduri europene. Am mai vorbit despre asta, rolul acestor centre este să sprijine companiile să treacă prin procese de digitalizare, nu prin simpla dotare cu echipamente, ci cu sprijin strategic prin realizarea de strategii de transformare digitală, spre exemplu.

Ce nu a mers bine în România?

  • lansarea eID în România. Fără evaluare de impact pentru datele personale, un pic cam inutilă deocamdată pentru că încă nu sunt servicii digitale interoperabile disponibile, dar na, era un deadline de respectat pentru finalizarea proiectului 🙂 Plus posibila suprapunere cu buletinul electronic.
  • avem cadru strategic pentru IA, dar degeaba avem, dacă n-avem un cadru legal care să oficializeze această strategie. E ok, bine că avem strategia națională pentru educație pentru schimbări climatice și mediu. Când vrei să treci cu adevărat ceva, se trece 🙂. Din nou din Seinfeld: not that there’s anything wrong with that…
  • raportul românesc pentru Deceniul Digital, care, desigur, ne situează pe ultimul loc în UE și arată că, dacă totul merge în continuare la fel, nu ne vom atinge țintele pentru 2030…
  • ținte pe care nu le știm foarte clar (în afară de cele care cer să atingem 100% servicii publice digitale de exemplu) pentru că nu avem încă aprobată foaia de parcurs națională pe care o cere Comisia Europeană, anume angajamentele pe care ni le asumăm pentru a realiza acele ținte și pentru a contribui la realizarea țintelor europene – cum ar fi 80% din cetățeni cu competențe digitale de bază. To be fair, n-am găsit foi de parcurs nici la alte state.
  • câteva programe de finanțare în care s-au pus foarte mari speranțe au cam fâsâit. De exemplu, transformarea bibliotecilor în huburi de competențe digitale al cărui apel de finanțare a fost relansat pentru că n-au fost depuse prea multe proiecte. Sau programul pentru Smart Labs în licee, unde, iarăși, au fost mai mulți bani disponibili decât proiecte depuse

Unde să-l pun pe Ion? Nu-l pot cataloga nici la bine, nici la rău pentru că a fost anunțat cu fanfaronadă ca fiind primul consilier guvernamental artificial din lume, ca să aflăm că de fapt a fost pre-programat să zică una-alta. Pentru că n-am aflat cu adevărat ce crede după ce a fost etichetat de sute de mii de ori. Pentru că a fost abandonat pentru că s-a schimbat ministrul, pentru că nici acum nu știm cu ce a fost antrenat. Dar a fost ok și pentru că a mers printr-o caravană prin țară, caravană menită să popularizeze digitalizarea. Care nici asta nu știm ce impact a avut. Ok, m-am răzgândit. E de fapt la “ce nu a mers bine”.

Bilanț la bilanț? Păi, pare că la nivelul UE legiuitorii s-au chinuit să termine ce au început pentru că li se termină mandatul, în timp ce, în România, coaliția e tot la final de mandat, dar de-abia acum au dat drumul proiectelor. Care cine știe cum se vor continua.

 

CiteșteSalvează

L-au legat cu bandă izolatoare. Acord provizoriu pe Actul privind IA

In Uniunea Europeană
De Mirela Marcut
12 minute

Săptămâna trecută tot despre IA am scris și am întrebat retoric “cine v-a lucrat aici?” Era vorba că întreg regulamentul pe IA era în pericol din cauza unor “mofturi” de ultim moment ale câtorva state cruciale pentru atingerea unei majorități calificate – Germania, Franța și Italia.

Iată că, păstrând metafora meșterului venit să repare ce au stricat alții încercând să repare, au pus niște bandă izolatoare, au legat cu niște sârmă și au reușit să o pună de un acord provizoriu între cele trei instituții europene (Consiliu, Parlament și Comisie) pe viitoarea legislație privind inteligența artificială.

Deci, merită să ne uităm peste ce a fost legat cu bandă izolatoare și cum s-a prins laolaltă varianta finală a Actului privind Inteligența Artificială (AIA).

Despre ce e vorba mai jos?

  • contextualizăm un pic discuția răspunzând la câteva “dece-uri” despre această legislație
  • vedem cum anume s-a ajuns la un acord și ce zic principalii actori despre rezultat
  • facem un rezumat al principalelor prevederi ale legislației și ne uităm un pic în viitor

Să purcedem, deci.

 

Câteva "de ce-uri"

De ce te-ar interesa această legislație?

  • legislația despre IA va afecta pe toată lumea pentru că intrarea IA în viața noastră este de-abia la început, iar sistemele de tip IA vor pătrunde în fiecare aspect al vieții noastre. Negreșit.
  • în esență, legislația este despre protecția consumatorilor, iar mare parte din aplicare va fi în “spatele scenei”.
  • chiar dacă noi suntem priviți ca niște “consumatori”, regulamentul e mai degrabă despre protecția “cetățenilor” pentru că o parte din obligațiile companiilor care pun pe piață sisteme IA se leagă de drepturile noastre fundamentale. Deci nu vorbim doar de “clientul are întotdeauna dreptate”, ci despre “clientul este de fapt cetățean și are o serie de drepturi fundamentale”.

De ce e a big deal acest acord ?

  • pentru că inteligența artificială e “tehnologie de uz general”, cam ca electricitatea sau Internetul. UE e prima entitate din lume care are acum o reglementare de protecție a cetățenilor și de ghidare a companiilor care dezvoltă astfel de soluții. SUA are “executive orders” pe acest domeniu, dar care n-au putere de legislație federală care să se aplice asupra întregului teritoriu, așa cum se întâmplă în UE.

De ce a durat atât – 2 ani?

  • pentru că vorbim de procesul decizional european – unde timpul de negociere al unui regulament sare adesea de un an. Să nu uităm că nici definiția IA nu a fost agreată decât acum în ultimul moment.
  • am mai povestit aici de ce a durat atât. Dar, pe scurt: proiectul de reglementare nu conținea la început prevederi despre sistemele IA, cum este Chat-GPT. Având în vedere că aplicația asta a devenit foarte populară în extrem de scurt timp, autoritățile europene – îndeosebi Parlamentul European – au considerat necesară introducerea unor prevederi legate de siguranța celor care utilizează aceste soluții

 

Acord provizoriu pe Actul privind IA

Avem, așadar, un acord cu privire la textul Actului privind Inteligența Artificială. Acord provizoriu. Acord provizoriu înseamnă că instituțiile europene au agreat principalele elemente ale legislației care mai rămăseseră de negociat.

Urmează acum un pas crucial, cel de redactare efectivă a textului final unde va mai fi de lucru. Deci, nu a intrat în vigoare, nu se aplică de mâine, nu omoară inovația încă, nu ne putem plânge încă unei autorități că un sistem IA ne-a discriminat. Apoi urmează un vot final, atât în Parlament (care reprezintă cetățenii), cât și în Consiliu (care reprezintă statele). Iar intrarea în vigoare e prevăzută undeva pentru 2025, deci mai avem de așteptat. Cum va evolua tehnologia până atunci este de urmărit până atunci pentru că, deși regulamentul a fost gândit să fie “future proof”, unele aspecte ale acesteia vor necesita corectură sau adaptare cu siguranță.

Cum am ajuns la acest acord? Păi, n-a fost nevoie decât de niște negocieri maraton și lipsă de somn pentru a se ajunge la un acord. 36 de ore au durat negocierile, oprite doar de câteva pauze de somn. Nimic nu ajută mai mult la rezolvarea unui impas decât lipsa somnului, aș zice eu. Comentariile celor interesați de subiect pe LinkedIn au fost mai degrabă că așa nu se face negociere cu minți private de somn care nu mai gândesc rațional sau nu mai sunt capabile să înțeleagă nuanțe sau idei simple. E și ăsta un punct de vedere. Dar am impresia că, odată ce intri în hora deciziilor europene, ești băgat la un curs special despre cum să stai treaz până târziu pentru că, așa cum am zis aici, marile decizii ale UE s-au luat aproape întotdeauna în orele târzii ale nopții sau devreme ale dimineții. Și asta poate fi catalogată ca o decizie mare, indiferent de câte probleme au semnalat principalii actori implicați.

Ce i-a ținut treji atâta timp?

Imagine din timpul negocierilor. Sursa: Thierry Breton, X

Nu, n-a fost doar cafeaua sau energizantul, ci niște mere. Ale discordiei. Anume sistemele de uz general (de tip Chat-GPT) și utilizarea IA pentru aplicarea legii și supraveghere. Să le luăm pe rând.

De fapt, principala chestie care a întârziat negocierile – anume reglementarea sistemelor de IA de uz general – a trecut relativ repede. Adică, acestea vor fi clasificate pe două categorii în funcție de mai multe criterii – cum ar fi puterea de calcul – exact așa cum a fost în compromisul inițial după care s-au ofticat cele 3 țări.

Toate sistemele vor publica rapoarte cu privire la utilizarea lor și la datele cu care s-au antrenat. Iar cele mai puternice vor trebui să treacă prin mai multe testări, cum ar fi “adversarial testing”, adică să duci la extrem funcționarea aplicației dându-i prompturi și întrebări menite să ofere răspunsuri problematice. Cam cum a făcut tipul de la New York Times cu Bing AI. Acestea vor trebui să ofere și rapoarte de eficiență energetică, fiind cunoscut faptul că sistemele puternice consumă foarte mult curent. Câteva milioane de căutări pe zi pe Chat-GPT ar putea consuma 1 Gwh în fiecare zi, echivalentul consumului zilnic de curent a peste 30 de mii de gospodării, conform calculelor făcute de Universitatea din Washington. Un Birou IA înființat în cadrul Comisiei se va ocupa de supravegherea funcționării acestor sisteme.

Acest model de supraveghere este același din compromisul inițial după care s-au supărat cele trei state. Ceea ce mă face să cred că nu asta a fost toată povestea. Ci celălalt măr al discordiei – adică utilizarea IA pentru aplicarea legii și pentru supraveghere.

IA poate fi utilizată pentru identificarea la distanță a unei persoane în două moduri – în timp real și după un eveniment. Parlamentul a cerut, de exemplu, interzicerea totală a identificării biometrice în timp real. Consiliul nu a fost de acord – adică cei care au monopolul forței. Astfel că a apărut iarăși un compromis – un acord pentru utilizarea sistemelor IA de identificare biometrică în timp real în anumite condiții legale. Deci, autoritățile vor putea utiliza identificare în timp real, spre exemplu pentru a căuta țintit o victimă a unei răpiri sau pentru prevenirea unei amenințări teroriste specifice sau prezente. Sau pentru a localiza o persoană suspectată de infracțiuni grave. Nu știm încă ce înseamnă această infracțiune gravă. Mai mult, o autoritate din sfera aplicării legii va putea folosi o aplicație IA chiar dacă nu are o evaluare de conformitate cu legea în aceste cazuri urgente – ceea ce poate lăsa portițe de utilizare greșită.

În ceea ce privește identificarea biometrică la distanță după un eveniment, există mai puține restricții, dar tot este necesară o autorizație în prealabil în conformitate cu legislația națională. De altfel, în comunicatul său, Consiliul scoate în evidență treaba asta cu legislația națională și faptul că regulamentul nu interferează cu politicile de securitate națională. Ca să fie clar, nu se aplică sistemelor IA utilizare în scopuri militare sau de apărare. Deci, aparatul de forță al statului continuă oarecum nederanjat, conform și organizațiilor de societate civilă care au urmărit subiectul.

Oricum, au mai dres busuiocul cu obligația ca autoritățile publice ce utilizează sisteme cu risc ridicat, adică și acestea de identificare biometrică, să se înscrie într-o bază de date europeană.

Ce a mai ieșit din această negociere?

  • obligație de realizare a unei evaluări de impact cu privire la protecția drepturilor fundamentale în cazul utilizării unor sisteme IA de risc ridicat
  • interzicerea salvării în masă a imaginilor cu persoane de pe Internet. Acestea se utilizează de obicei pentru a face baze de date pentru recunoaștere facială. Clearview AI e o companie americană care a făcut asta și a făcut un soft de recunoaștere facială pe care l-a vândut chiar și autorităților europene, deși e cam ilegal și din punct de vedere al GDPR
  • interzicerea sistemelor care manipulează comportamentul uman pentru a le submina liberul arbitru.
  • interzicerea utilizării sistemelor IA pentru recunoașterea emoțiilor în diverse contexte, cum ar fi la locul de muncă
  • diferențierea amenzilor în funcție de mărimea companiei. IMM-urile care nu respectă prevederile de a pune pe piață sau a utiliza în conformitate cu regulamentul aceste sisteme vor plăti amenzi mai mici
  • posibilitatea de a ne plânge unei autorități competente dacă am fost nedreptățiți de un sistem IA

 

Cu ce preț? versus Doar atât?

Image by Freepik

Dacă nu ești în bula celor interesați de tehnologie sau politici publice sau UE, nu prea ai habar care a fost faza cu negocierile asta. Și uite ce efect au unele sisteme de IA asupra noastră și nici nu știm de fapt. Pentru că, de fapt, un sistem IA de recomandare a conținutului pe rețelele sociale îți creează această bulă. Apropo, versiunea de regulament din Parlament presupunea încadrarea la categoria de risc ridicat a acestor sisteme care ne recomandă conținut pe social media. Asta n-a intrat în varianta agreată de ambele instituții.

Dacă întrebi pe cineva din societatea civilă despre eliminarea acestei prevederi, probabil că o să-ți răspundă că e problematică. Dacă întrebi pe cineva care lucrează cu social media, îți va răspunde că și așa bietele companii sunt prinse cu alte regulamente importante care le creează o grămadă de obligații.

Să vedem totuși ce zic diferiții actori despre forma agreată a AIA. Reacțiile organizațiilor de societate civilă s-au învârtit mai ales în jurul victoriei statelor cu privire la utilizarea IA în domeniile de aplicare a legii. Încă un semn că aici a fost de fapt miza negocierilor. Accentul pozițiilor acestor organizații a căzut pe diferitele lacune prinse intenționat sau nu în legislație, care ar putea permite supravegherea în masă. Conform lor, asta se vede mai ales în împărțirea pozițiilor între Parlament și Consiliu, cel din urmă insistând asupra unor excepții de la regulament pentru domeniile de securitate și apărare, mai ales în ceea ce privește supravegherea în masă cu ajutorul IA.

Digital Europe, principala organizație ce reprezintă BigTech și alte mari companii tech din Europa, se întreabă “Cu ce preț vine acest acord?”, accentuând ideea că reglementarea IA este o povară pentru companiile de tehnologie și că acestea vor trebui să angajeze mai mulți avocați decât inginerii de IA. Aceste idei fac parte din povestea des spusă în UE că legile și regulamentele omoară inovația și că economia este blocată de prea multe reguli. Povestea asta s-a mai spus de fiecare dată când a apărut o reglementare pe tehnologie, dar aici chiar suntem într-un teritoriu nebătătorit pentru că e prima dată când o entitate reglementează IA.

 

Și cu ce mă ajută pe mine, domnișoară?

Pe final, o scurtă recapitulare a ceea ce înseamnă acest act legislativ.

Dacă ești cetățean:

  • conținutul creat de IA va fi desemnat ca atare ca să știi că nu a fost creat de un om. Să vedem dacă rămâne doar aplicarea asta care e deja acum când copiezi un text din Chat-GPT în alt program, pentru că pur și simplu poți să ștergi textul de disclaimer de final.
  • la locul de muncă, șeful nu va putea folosi un sistem de IA pentru a detecta cât de mult nu-l suporți
  • la graniță, sistemele de identificare prin IA vor putea fi utilizate. Oare acestea să fie noile smart borders în Schengen?!
  • dacă un sistem de IA ia decizii care îți afectează viața, tu va trebui să știi că a fost un IA implicat în luarea deciziei și vei putea contesta dacă crezi că ești discriminat.
  • dacă locul tău de munca se va transforma și va include luarea de decizii cu ajutorul IA, să știi că tu vei lua oricum decizia la final. Nu te baza doar pe IA, tu trebuie să gândești cu mintea ta
  • companiile nu-ți vor putea lua imaginile de pe social media pentru a crea o bază de date pentru recunoaștere facială. Nu-i problemă, va supraveghea statul oricum spațiul public. Dacă ai ghinionul să fii o față generică sau să semeni foarte bine cu cineva, s-ar putea să fi confundat/ă cu un răufăcător, cum s-a întâmplat deja în România.

Dacă ești o companie, păi, aici e mai complicat:

  • totul depinde de cine ești. Pui pe piață un sistem IA? Păi, trebuie verificat unde se va folosi și pentru ce și determina ce fel de riscuri aduce. Există câteva domenii de mare risc: educație, loc de muncă, siguranță, control la frontieră etc. Dacă pui pe piață un sistem de mare risc, trebuie să faci evaluări de conformitate înainte de a-l pune pe piață și încă o evaluare de impact cu privire la respectarea drepturilor fundamentale ale utilizatorilor. Încă e fuzzy cum vor arăta aceste rapoarte, dar vor apărea structurile de sprijin pentru aceste evaluări. Oricine ai fi, trebuie să oferi specificații și documentație tehnică pentru sistemul pe care-l pui pe piață.
  • utilizezi sisteme IA? ar cam trebui să realizezi evaluări asupra contextului de utilizare ca să vezi dacă pot apărea efecte nedorite.
  • utilizezi sisteme IA? trebuie să te asiguri că persoanele care supraveghează sistemul sunt “competente, calificate și pregătite în mod adecvat și au resursele pentru a asigura supravegherea sistemului IA”.
  • ai control asupra datelor care intră în antrenarea sistemului? Păi, trebuie să te asiguri că datele sunt de calitate și comprehensive.

Astea sunt doar câteva exemple. Odată ce apare textul final, va fi mult mai clar care sunt obligațiile. Până atunci, să stăm cu ochii și pe noile versiuni de sisteme IA de uz general și pe textul final al legislației.

 

Referințe

  1. https://www.digitaleurope.org/news/23173/
  2. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai
  3. https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/
  4. https://www.euractiv.com/section/artificial-intelligence/news/european-union-squares-the-circle-on-the-worlds-first-ai-rulebook/
  5. https://www.euronews.com/next/2023/12/04/eu-governments-hypocrisy-is-on-full-display-over-dangerous-police-ai
  6. https://www.theguardian.com/world/2023/dec/08/eu-agrees-historic-deal-with-worlds-first-laws-to-regulate-ai
  7. https://algorithmwatch.org/en/ai-act-deal-key-safeguards-and-dangerous-loopholes/
Photo by Lucas van Oort on Unsplash
CiteșteSalvează

 

Digital Policy este o platformă de analize de politici publice digitale, axată pe nivelurile european, național și local.

Pagini

Newsletter