AuthorMirela Marcut

Cum arată România de la Bruxelles? Cu ce-am rămas după Romanian Digital Day

In Digital, România, Uniunea Europeană
De Mirela Marcut
9 minute

Am participat la Romanian Digital Day în Parlamentul European, eveniment organizat de MEP Victor Negrescu și aflat la a doua ediție. Prima vizită a Digital Policy în Parlamentul European 🙂

Discuțiile din jurul evenimentului s-au legat de necesitatea ca România sa fie mai prezentă in discuțiile legate de politicile digitale, de tehnologie si inovare, simțindu-se și în rândul participanților acest apetit pentru a explora perspectiva României si a actorilor naționali, regionali și locali în ceea ce priveste transformarea digitală.

Aflându-ne in Anul European al Competențelor, mare parte din discutii s-au axat pe ce anume putem să facem ca să creștem competențele digitale ale românilor si să ne adaptăm la noua realitate a inteligenței artificiale și a automatizării.

Dacă tot am discutat o zi întreagă despre asta, e util să punem pe hârtie câteva din contribuțiile cele mai valoroase ale întâlnirii Romanian Digital Day. Astfel, putem să avem un fir roșu asupra transformării digitale a României, atât din interior, cât și din exterior. Asta pentru că am avut și invitați din străinătate care au vorbit despre România.

 

Ce zic românii despre transformarea digitală?

Aspecte relevante pentru cetățeni / sectorul public / sectorul privat

  • o afirmație venită din partea unui actor privat din România care a generat câteva reacții: “România este o țară “răspândită pe toate cele patru revoluții industriale”
  • exemplu de modernitate în România: suntem una din primele țări din lume la plata contactless și numărul 2 în lume la plata biletelor pentru transportul în comun cu ajutorul cardului. DAR, doar 28% din români au cel puțin competențe digitale de bază și doar 10% din IMM-uri vând online.
  • sectorul economiei digitale este în creștere în România, existând loc destul să crească doar că două lucruri pot influența această creștere poate chiar în moduri opuse: competențele digitale relativ scăzute ale românilor, care pot ține în jos acest sector, și “generative AI”, care ar putea ajuta la dezvoltarea de noi modele de business și la creștere economică
  • s-a adus în discuție necesitatea pregătirii angajaților de către companii, atât în ceea ce privește perfecționarea, cât și recalificarea acestora. O idee interesantă aici: retenția angajaților! Degeaba pregătești angajații, dacă nu poți să-i ții la locul de muncă. Lipsa unei strategii cu privire la retenție duce la costuri extra. Aici e valabil și în ceea ce privește retenția la nivel de regiune.
  • succesul programelor de perfecționare și recalificare ține și de flexibilitatea programelor oferite, iar angajații au nevoie de sprijin în acest sens pentru a crește motivația de a participa
  • sprijinirea companiilor aflate în faza de “scale up” (adică de extindere) este una din soluțiile menționate pentru economia românească.
  • în general, discursurile românești din sectorul public se axează pe talentul și finanțările pe care le are România la dispoziție.
  • un punct semnificativ care a fost abordat doar tangențial și doar la capitolul “ar trebui să…”: decidenții ar trebui să comunice mai mult despre legislațiile care privesc trecerea serviciilor digitale în online. Cu precădere despre identitatea digitală. Completare personală: cineva în care oamenii au încredere ar trebui să vorbească despre asta, altfel e efort irosit.
  • DESI este adus în discuție de mai multe ori – câțiva din actorii privați cer fixarea țintelor Deceniului Digital ca ținte relevante pentru țară, nu doar ca aspecte de bifat pentru că ne cere Comisia Europeană.
  • dincolo de banii europeni, am remarcat și multiplele exemple de inițiative private pentru dezvoltarea competențelor digitale și a educației digitale a tinerilor. Completare personală aici: e important să punem cap la cap aceste inițiative și să le “mapăm” pentru a vedea unde există eforturi dublate, unde nu se intervine deloc etc.
  • măsurarea abilităților digitale -atât la clasă, cât și în societate – este de asemenea semnificativă pentru că permite intervenții și follow-up
  • invitații din sectorul de educație au subliniat importanța utilizării tehnologiei la clasă, sugerând că “tehnologia e o ancoră” către cunoaștere. Dilemă exprimată aici de către un profesor: cum ținem copiii departe de telefon la oră? Răspunsul unui alt cadru didactic din același panel: dacă ora e captivantă, nu va sta pe Tik-Tok.
  • “călătoria educațională” trebuie să se schimbe – atât pentru sistemul educațional, cât și pentru programele de formare. Nu mai vorbim de 4 ani de facultate și 40 de ani de muncă. Ar trebui să vorbim despre 4 ani de specializare, 4 ani de muncă și tot așa.

Ce zic străinii despre transformarea digitală a României?

Aspecte relevante pentru cetățeni / sectorul public / sectorul privat

  • în ceea ce privește educația digitală și competențele digitale – Comisia poate oferi doar unelte de sprijin, cum ar fi finanțările și monitorizarea, dar depinde de nivelul național și regional să implementeze proiecte cu impact
  • la nivel regional, e important de identificat nișele regionale și de corelat cu strategiile de specializare inteligentă pentru a pregăti forță de muncă în domenii de impact regional
  • este datoria nivelului național să se ocupe concret de realizarea și implementarea politicilor. Unii au denumit asta “datorie morală” de a rezolva problema diviziunii digitale în materie de competențe și infrastructură
  • România stă bine la echilibru de gen în IT – lucru menționat de mai multe ori de persoane din Comisie și Parlament
  • ce poate face România mai mult în afară de implementare? poate activa mai mult în programul Horizon axat pe cercetare și inovare
  • dar se sugerează și introducerea de aspecte legate de competențe digitale în programa tradițională încă din școala primară. Spre exemplu, instruire cu privire la “legile lumii digitale”, așa cum învață copiii despre legile fizicii, să învețe despre legile lumii digitale. O completare personală: legile fizicii nu se schimbă, în timp ce cele online se pot schimba, dar ideea tot e semnificativă și “jucăria” asta numită Digital Policy se încadrează și ea aici.
  • profesorii trebuie să primească “pregătire țintită” nu doar pentru a preda cu ajutorul tehnologiei, dar să instruiască la rândul lor copiii cu privire la dezinformare, inteligență artificială etc. Asta în condițiile în care în România doar 28% din cetățeni au cel puțin competențe digitale de bază. Aici includem și profesorii.
  • să nu uităm să includem și alți actori care pot contribui la educația digitală – că nu e vorba doar despre instituțiile educaționale.
  • modernizarea procedurilor de achiziții publice (hint: se referă aici la ecosistemul de GovTech) care să permită companiilor care dezvoltă produse inovatoare să crească. Aceasta e considerată una din soluții pentru sprijinul creșterii startupurilor.
  • Piața Unică – adică libertatea de circulație a bunurilor, serviciilor, capitalului și persoanelor – este un sprijin pentru companiile europene care vor să crească. Dar a apărut și altă perspectivă aici – din punctul de vedere al sectorului privat – încă sunt numeroase bariere pentru companii în drumul lor spre piața europeană. Și aici trebuie intervenit pentru a sprijini companiile cu potențial

Ce a zis Digital Policy la Romanian Digital Day?

 

Romanian Digital Day – ediția a doua, noiembrie 2023

Ce putem face pentru a crește gradul de competențe digitale a românilor, dacă ne raportăm la nivel regional? Asta am încercat să abordez în panelul intitulat “Boosting regional talent at a digital level”. La fel de bine se putea intitula si invers – Boosting digital talent at a regional level.

Daca stau bine sa ma gândesc, intervenția Digital Policy s-a încadrat mai mult in acest al doilea titlu, mai specific: cum facem ca mai multi oameni sa aiba competente digitale? Si nu cu intervenții naționale, unde numaram zeci si mii de oameni care au absolvit cursuri de competente digitale, dar poate ei au facut mai multe sau au mai fost numarati o data, pe sistemul “doua la prefectura, doua la primarie etc”. Actiunea cea mai buna pentru dezvoltarea competentelor digitale este la firul ierbii, unde actori locali – pot fi si biblioteci sau huburi de inovare digitale sau chiar si ONG-uri – intervin tintit și raportează mai departe către celelalte nivele.

Deci, ce am spus? Am identificat patru elemente semnificative în relație cu dezvoltarea competențelor digitale la nivel regional:

  • date regionale – așa cum politica regională arată că cea mai bună acțiune este cea mai aproape de cetățean, așa trebuie să se facă și intervenția pentru dezvoltarea competențelor digitale. Dacă stabilim ținte naționale și nu ne uităm la distribuția pe regiuni, riscăm să avem intervenții dublate sau redundante.
  • “streamlining” – să conectăm diferitele inițiative pentru dezvoltarea competențelor, să le monitorizăm și să avem o privire de ansamblu asupra impactului acestora. Astfel, vom putea răspunde la întrebarea: unde trebuie să intervenim mai exact? Unde avem lipsuri? Ținta europeană e 80% din persoane cu competențe digitale de bază, care e cea românească? Care sunt nevoile la nivel regional? Unde s-a mai intervenit? Aici putem conecta ideea menționată mai sus, conform căreia nu doar instituțiile de educație tradițională se ocupă cu asta, ci trebuie un parteneriat cu mai mulți actori pentru acoperire mai mare.
  • “flexibilitate” – dacă ne referim la angajați și nevoile pieței muncii. Trebuie să avem un standard de competențe digitale – cum ar fi cel de promovat de DigComp, despre care am mai vorbit aici – dar cum îl corelăm cu nevoile sectoarelor economice? Atât agricultorii, cât și zidarii poate că trebuie să știe despre securitatea cibernetică, dar ce altceva mai trebuie să știe care e specific sectorului lor de activitate?
  • forecasting – “digital skills trainings are not future-proof”, evoluția tehnologiei ne cere întotdeauna să revizităm ce știm. O combinație de competențe digitale și soft ar putea fi “future-proof”. Ideea e că e important să gândim o serie de instrumente de prevăzut ce nevoi vom avea în viitor – pe sector economic, pe regiune.

Și cu ce rămânem?

Ideea e să rămânem cu niște idei de tip #foodforthought sau care invită la mai multă acțiune din partea decidenților, actorilor privați etc. Cu ce am rămas eu:

  • educația digitală – ține de cooperarea structurată dintre mai multe instituții – școli, licee, sectorul privat și public. Structurată adică parteneriate consistente cu instrumente de livrare și măsurare clare.
  • educația digitală presupune mai mult decât predarea pachetului Office – ci cetățenii trebuie să învețe și “legile spațiului digital”.
  • DESI nu este doar un index transmis anual de către Comisia Europeană, este urmărit atent de sectorul privat (poate mai mult decât sectorul privat), dacă ne raportăm la modul în care a fost abordat în intervenții
  • nivelul regional este semnificativ pentru intervenția pentru dezvoltarea competențelor digitale – biblioteci, huburi de inovare digitală
  • economia din România duce lipsă de companii care să fie sprijinite să crească, dar în același timp are nevoie și de angajați cu competențe digitale. Provocare dublă.

 

CiteșteSalvează

Ce cred britanicii și românii despre inteligența artificială?

In DIGest, România
De Mirela Marcut
7 minute

În contextul publicării cadrului strategic privind AI, a diverselor dezbateri privind inteligența artificială care au pătruns în discuțiile noastre de zi cu zi, ar fi chiar util să vedem exact ce zice populația despre asta.

Așa că azi, mai pe scurt, despre percepțiile populației cu privire la inteligența artificială. Punctul de pornire este un studiu destul de complex. Nu din România. Noi n-am făcut un astfel de sondaj reprezentativ pentru populație pentru fundamentarea strategiei de AI, dar iacătă că britanicii au făcut-o încă de anul trecut. E din UK. Pentru România, am găsit date dintr-un studiu internațional care a cuprins și România în eșantionul său.

Sondajul a fost realizat de Ada Lovelace Institute pe un eșantion reprezentativ de 4000 de britanici și a chestionat aspecte de genul: nivelul de experiență și atitudinile privind diferitele utilizări ale IA (recunoaștere facială, pentru luarea de decizii sau identificarea de riscuri medicale, reclame țintite, robotică etc), care ar fi avantajele și dezavantajele și cum ar vrea ca aceste tehnologii să fie reglementate.

Ce spun britanicii?

  • 72% sunt îngrijorați cu privire la mașinile autonome și 71% cu privire la armele bazate pe IA
  • 90% cred că utilizarea IA pentru detectarea bolilor este benefică, dar mai mult de jumătate din ei sunt îngrijorați de ideea de a conta doar pe IA în luarea unor decizii medicale
  • 47% își exprimă îngrijorarea cu privire la dificultatea de a ști cine e responsabil de greșelile făcute ca urmare a utilizării IA pentru luarea deciziilor medicale
  • eficiența, viteza și creșterea accesibilității – principalele avantaje ale utilizării IA
  • principalele probleme? potențialul de înlocuire a judecății umane, lipsa de transparență și responsabilitate în luarea deciziilor. Desigur, și lipsa unei protecții a datelor personale pentru cazuri, cum ar fi boxele inteligente sau reclamele țintite
  • majoritatea populației își dorește reglementarea IA, iar 59% vor proceduri clare pentru ca decizia ultimă să fie făcută de o persoană și nu de un sistem IA
  • reglementarea în domeniu ar trebui să conțină posibilitatea de contestare și de compensații.

 

Ce cred și ce știu britanicii despre IA?

  • 41% spun că vor o instituție independentă să vegheze la utilizarea sigură a IA. Tinerii sunt mai predispuși să fie de acord cu această idee decât persoanele peste 55 de ani.
  • Interesant este că pe locul 2 regăsim companiile care dezvoltă tehnologiile de IA. Nu ne-am învățat lecția, se pare. E ironic, gândindu-ne că reclamele țintite pe social media și protecția datelor personale (îngrijorări cauzate de auto-reglementarea platformelor) sunt pe primele locuri la aspectele problematice cu privire la IA.

 

  • pentru britanici, e important să știe cum se iau deciziile cu un sistem IA, chiar dacă asta ar reduce acuratețea reducerilor. 31% indică faptul că oamenii ar trebui să ia deciziile finale și să le poată explica
  • cele mai cunoscute utilizări ale IA – recunoașterea facială pentru deblocarea telefonului sau mașinile autonome. Cele mai puțin necunoscute? utilizarea IA pentru luarea deciziilor cu privire la eligibilitatea pentru ajutoare sociale sau utilizarea IA pentru a detecta riscul de cancer. În general, utilizarea IA pentru evaluări de risc și a eligibilității este cea mai puțin cunoscută utilizare, deși unele sunt deja utilizate la ei.
Ce cred britanicii și românii despre IA_4
Ce cred britanicii și românii despre IA_5
Anterioară
Următoare
  • fără surprize – cele mai multe experiențe le au britanicii cu reclamele țintite.
  • surprize la utilizări benefice ale IA: locurile 2 și 3 sunt ocupate de utilizări ale IA la controlul de la frontieră și în activitate de poliție, utilizări de mare risc conform proiectului de regulament AI Act
  • nu există o suprapunere exactă între beneficii și îngrijorări în ceea ce privește utilizările diverse ale IA. Dar există câteva tehnologii pentru care îngrijorările depășesc beneficiile: armele autonome, mașinile autonome, reclamele țintite pentru produse și publicitate politică, și IA pentru evaluarea eligibilității pentru un loc de muncă. Companie “selectă” pentru reclamele țintite 🙂
  • viceversa: detectarea riscului de cancer, simulări pentru cercetarea cu privire la schimbările climatice, aspiratoarele robot, boxele inteligente, evaluarea riscului de neplată a unui împrumut, recunoașterea facială pentru deblocarea telefoanelor, controlul frontierei și pentru poliție
Ce cred britanicii și românii despre IA_6
Ce cred britanicii și românii despre IA_7
Anterioară
Următoare

Ce treabă avem noi cu britanicii? Nu mai sunt nici măcar în UE…

Corect. Dar putem face niște corelări interesante și să luăm niște lecții și pentru România.
  • britanicii au deja o strategie pentru IA care mizează pe inovare și mai puțin pe reglementarea riscurilor. Cu toate acestea, publicul cere reglementare și mai ales pe palierele de siguranță și caracterul explicabil al acestor sisteme.
  • a înțelege cum lucrează sistemele IA presupune să ai un set de abilități digitale deja. Ei bine, putem corela cifrele legate de experiențele cu IA și îngrijorările cu faptul că undeva la 20% din populația UK nu are suficiente competențe digitale pentru a se descurca (cifre de aici). Bun și acum să ne mutăm în România, unde aproximativ 30% AU competențe digitale de bază. Cum ar arăta un astfel de sondaj la noi în țară?
  • avem și noi parte de un cadru strategic privind IA care va genera o serie de măsuri și acțiuni, dar acesta nu pune suficient de mult accent pe impactul socio-economic. Asta poate și pentru că nu a sondat opinia publică cu privire la atitudinile românilor cu privire la IA sau nu ține cont de puținele cercetări făcute pe subiect.

Dar românii ce zic?

Ce cred britanicii și românii despre IA_8
Ce cred britanicii și românii despre IA_9
Ce cred britanicii și românii despre IA_10
Ce cred britanicii și românii despre IA_11
Anterioară
Următoare

De fapt, avem o frântură de percepții ale românilor. Un sondaj Ipsos din acest an s-a uitat la opinia publică din mai multe țări cu privire la IA, printre care și România. Ce a ieșit?

  • 77% din români înțeleg bine ce este IA. Încrezători în ei 🙂. Cum se corelează asta cu datele de la Eurostat că suntem pe ultimul loc la competențele digitale din UE?
  • apropo de încredere, în general, românii au tendința să se încreadă în sistemele IA să nu discrimineze și au încredere în companiile care dezvoltă tehnologii.
  • românii sunt mai entuziasmați de IA decât îngrijorați – 62% față de 54% media internațională.
  • dovadă a acestui entuziasm e că mare parte din ei cred că nu prea le va afecta jobul pe următorii 5 ani. Cumva e în concordanță cu acest acest studiu cu privire la eliminarea joburilor de către IA, revizitat recent de către cercetători de la Oxford. Ei afirmă că, deocamdată, potențialul de eliminare totală a slujbelor e mai limitat decât estimaseră ei inițial, dar sugerează că se vor transforma slujbele. Cele care au loc aproape exclusiv virtual, cum ar fi telemarketingul, au potențial mai mare de eliminare. Sau cele care au loc în “medii structurate”, cum ar fi depozitele. Deci, dragi români, depinde de tipul de slujbe pe care-l aveți. Și aici ar fi mers acel studiu de impact economic pentru cadrul strategic privind IA. Pentru corelarea tipurilor de industrii și de slujbe existente cu cercetările acest tip.
  • studiul care privește România nu este la fel de complex comparat cu cel realizat de Ada Lovelace Institute, deci nu putem ști clar care ar fi motivele de îngrijorare sau de entuziasm sau ce tip de tehnologie îi entuziasmează. Studiul britanic face un lucru bun și pentru dezvoltarea înțelegerii termenului de IA, anume clarifică faptul că nu există O SINGURĂ inteligență artificială.

Deci, există totuși o serie de puncte neclare în ceea ce privește atitudinea românilor cu privire la IA, iar studiul britanic ar putea fi replicat în România pentru mai multă înțelegere și fundamentare a politicilor publice.

Referințe

  • The Ada Lovelace Institute and The Alan Turing Institute (2023), How do people feel about AI? A nationally representative survey of public attitudes to artificial intelligence in Britain, https://attitudestoai.uk
  • Ipsos (2023), Românii și inteligența artificială, între ignoranță și fascinație, https://www.ipsos.com/ro-ro/romanii-si-inteligenta-artificiala-intre-ignoranta-si-fascinatie

 

CiteșteSalvează

Unde suntem cu digitalizarea? Raportul despre România privind Deceniul Digital

In România, Uniunea Europeană
De Mirela Marcut
10 minute

Am fost recent la o conferință internațională destul de mare, conferință axată pe studii europene. Nu am fost surprinsă să observ că programul conținea destul de multe lucrări (raportat la ultimele conferințe și discuții pe care le avusesem cu alții din domeniu) axate pe politici digitale. Baiul care a fost? că trebuia să alerg dintr-un panel în altul, să ajung să le ascult pentru că nu au fost puse într-un panel sau măcar într-o arie tematică. Majoritatea lucrărilor (printre care s-a aflat și a mea) au fost sub panelul “zone gri ale integrării piețelor”, doar că mare parte din lucrări nu s-au ocupat direct de #digital din perspectiva economică, ci mai degrabă de modul în care Comisia și alți actori orchestrează legislația în materie de #digital pentru a acumula mai multă putere la nivel european. Pasăre rară în acest context: lucrarea mea despre rolul statelor în implementarea politicilor digitale.

Nu-i surprinzător să vină o astfel de lucrare dintr-o țară care stă destul de prost la capitolul implementare a elementelor de politici digitale care vin de la UE, dar și care ar fi extrem de necesare pentru adaptarea țării noastre la nivelul civilizației vestice. Din ce am vorbit cu alți cercetători, pentru ei DESI, Indexul Societății și Economiei Digitale, este destul de necunoscut și pentru că nu stau prost în aceste clasamente și nu se pune problema să nu se facă reforme pe servicii publice digitale sau pe a dezvolta economia sau societatea digitală.

Așa e, doamnelor și domnilor, a venit acea perioadă din an. Cea în care ne uităm la Indexul Societății și Economiei Digitale să vedem dacă încă suntem pe locul 27 și să spunem că iar n-au luat datele cele bune sau că “nu se poate să fim ultimii că doar am făcut asta și asta”. Doar că acum nu mai suntem pe ultimul loc 🙂 Asta pentru că nu mai plasează în prim plan clasamentul statelor, ci cum progresează ele spre țintele europene. Convergența digitală, deci. Oricum, am cam verificat, suntem tot ultimii.

Why should you care? De ce ți-ar păsa?

  • ai auzit cu siguranță discursurile întregi referitoare la miliardele și milioanele de Euro care curg spre România. 20% din PNRR ar trebui să meargă pentru proiecte pe #digital și nu mai zic de banii pe toate fondurile structurale care sunt programați pentru #digital. Vezi aici “pomelnicul” lor. Deocamdată sunt doar teoretici și pe hârtie. Și rapoartele europene arată asta.
  • la anul sunt alegeri 🙂 de toate felurile. Vom auzi discursuri despre cum s-a implementat, s-a făcut aia și aia. E bine să știi să întrebi unde sunt serviciile publice digitale, unde sunt programele de competențe digitale promise? Să votezi în cunoștință de cauză.
  • nu se comunică suficient pe tema schimbărilor în materie de legislație digitală în România. UE ne cam împinge de la spate cu legislațiile pe #digital. Viața noastră e din ce în ce mai mult online, dar anumite aspecte încă nu se mișcă. De ce? Îți arată rapoartele Uniunii privind Deceniul Digital.

Deci, azi, despre proaspetele rapoarte privind Deceniul Digital și, în special, despre raportul privind România. Deci să nu-i mai zicem DESI 🙂 că ne dă coșmaruri:

  • cum performează Uniunea Europeană către țintele Deceniului Digital?
  • România pe unde mai e?

Cum arată raportul privind Deceniul Digital?

Așa cum am spus mai sus, rapoartele sunt diferite față de clasicul DESI care a existat începând cu 2015, dacă nu mă înșel. Nu mai facem de rușine statele că sunt pe ultimele locuri. De altfel, plasarea în ranking a dispărut din rapoartele naționale, iar tabelele cu statele lipsesc de tot din întreg raportul european. Puține state sunt luate în vizor sau oferite ca exemplu pozitiv sau negativ. Miza e europeană, nu mai e națională. Cam acesta e mindsetul.

Ce mai e diferit?

  • importanța raportului parcă e altfel – textul menționează că acesta completează rapoartele privind Semestrul European – pe baza cărora s-au realizat și Planurile de Redresare și Reziliență și care oferă orientări clare de politică dinspre Comisie spre state
  • pentru fiecare țintă din Deceniul Digital, prezintă recomandări de politici mult mai clare decât la DESI care nu se leagă doar de intervenții naționale, ci mai ales de legătura cu politicile europene în domeniu
  • deci, raportul e mult mai complex pentru că integrează și elementele de legislație, de fonduri disponibile, cât și aspecte tehnice
  • există parcă o presiune mai mare pe statele membre, pentru că raportul menționează adesea necesitatea unui efort mai mare din partea statelor, și evidențiază și necesitatea implicării părților interesate locale sau regionale. De exemplu, pentru serviciile publice digitale deja încep să se uite și la servicii locale și regionale. Ceea ce e normal
  • există referiri cu privire la progresul către țintele asumate până în 2030. Adică, pe sistemul “dacă continuăm așa, atingem doar o țintă de…până în 2030”. Analiza predictivă pentru politici publice – limbi străine pentru decidenții noștri.
  • suveran – un adjectiv prezent foarte des în textul raportului. Uneori în circumstanțe ciudate, gen “sovereign AI solutions”.
  • geopolitica apare în raport într-un mod explicit. Adesea țintele europene sunt privite în paralel cu performanța americană. Spre exemplu, acoperirea cu 5G este mult mai mare în SUA decât în UE
  • raportul face legătura cu părerea cetățenilor cu privire la tehnologiile digitale și cu îngrijorările lor privind spațiul online. Printre îngrijorări se numără securitatea cibernetică sau protecția datelor
  • să nu uităm de declarația drepturilor digitale – care are o secțiune dedicată în raport – și care se leagă de mai multe elemente de legislație adoptate sau în curs de adoptare în UE

 

Iepurele sau broasca țestoasă?

Cum performează Uniunea Europeană către țintele Deceniului Digital?

Sursă: Comisia Europeană, Raportul privind Deceniul Digital (2023)
Sursă: Comisia Europeană, Raportul privind Deceniul Digital (2023)

Cam așa arată performanța europeană pentru atingerea țintelor Deceniului Digital. Dintre toate, cele legate de nodurile periferice “edge nodes” și quantum computing sunt cele mai întârziate poate și pentru că deocamdată ele țin foarte mult de cercetarea teoretică.

Ce mai iese din evidență pe categorii?

  • conectivitatea e privită și din perspectiva tehnologiilor prin satelit și există referințe la necesitatea finanțării viitorului conectivității. Cum anume finanțăm creșterea vitezei și accesului? Hint: unii au propus să plătească BigTech 🙂
  • există programe naționale de quantum deja pornite. Ungaria, Austria sau Portugalia, iar recomandarea Uniunii e dacă că statele membre intră în programe de quantum computing, să o facă ținând cont de interesele strategice europene. Mai pe scurt: să nu intre în cooperări cu state, gen China 🙂
  • pentru integrarea tehnologiilor în companii, conform analizei, dacă trendul merge tot în acest fel, nu se vor atinge țintele la nivel de 2030 (proiecția arată că doar 20% vor folosi AI). Spania e dată exemplu în raportul european prin inițiativa de tip toolkit digital pentru IMM-uri, despre care am scris și aici.
  • ținta pentru intensitate digitală este relativ mai ușor de atins.
  • Pentru ambele componente mari referitoare la integrarea tehnologiilor digitale în companii, EDIH-urile sunt printre principalii actori pentru sprijinirea dezvoltării soluțiilor pe bază de IA, dar și pentru a sprijini companiile să crească.
  • pentru unicorni, ținta e posibil să fie atinsă dacă se continuă trendul
  • la capitolul competențe digitale – 46% nu au competențe digitale de bază. Conform raportului, dacă nu se acționează coerent, nu se vor atinge țintele până în 2030. S-ar atinge un procent de 59%.
  • Nici ținta specialiștilor IT nu s-ar atinge dacă nu se intervine cu programe educaționale și sprijin pe upskilling și reskilling. Recomandare de politică – să integreze în foile de parcurs recomandările Consiliului privind abilitățile digitale în educație
  • țintele pe servicii publice digitale nu sunt atât de îngrijorătoare, având în vedere progresul realizat deja. DAAAR, există câteva aspecte care au fost până acum ignorate și care trebuie luate în calcul de mai toate statele membre: situația serviciilor publice locale și regionale – a căror digitalizare este mai redusă decât cele centrale. Un alt aspect interesant – nu există investiții suficiente în servicii inovatoare bazate pe IA sau pe date
  • recomandare interesantă pentru statele membre: monitorizarea utilizării serviciilor publice pentru a identifica anumite disparități. Un audit de maturitate digitală

România în raportul privind Deceniul Digital

Există 2 rapoarte referitoare la statele membre – unul scurt și unul lung. Ambele au recomandări de politici pentru România care aproape toate încep cu “Romania should step up..” “Romania should accelerate” șamd.

Nu mai avem clasament, avem doar comparație cu țintele europene și parcursul spre 2030. Ce iese în evidență aici?

  • raportul recunoaște din nou lipsa unei strategii “adusă la zi și complexe” privind transformarea digitală. Iar speranța vine de la foaia de parcurs națională care ajunge să fie văzută ca înlocuitor de strategie. E bine, nu e bine? E bine că monitorizarea va fi făcută extern, de către Comisie. Nu e bine pentru că nu tragem speranțe că ceea ce va fi scris acolo va fi pe bune.

 

  • Cenușăreasa este capitolul privind abilitățile digitale – unde suntem mult în urmă și considerați un risc la adresa atingerii țintelor colective la nivel european
  • e pusă presiune pe autorități, dar și pe stakeholderii privați, pentru a reduce aceste disparități de scor. 28% au abilități digitale de bază, în timp ce media europeană e dublă.
  • interesant aici: raportul remarcă și necesitatea de investiții ale companiilor în pregătirea angajaților lor, subliniind că nu e doar apanajul statului. Aici vine și o recomandare: stakeholderii privați să fie mai implicați în dezvoltare și livrare de politici

 

  • conectivitatea este încă o excepție și încă un element care ne ține cât de cât sus. Doar că pierdem avansul din cauză că 5G nu este încă dezvoltat la noi. Aici mai vine o întrebare: oamenii simpli au nevoie de 5G?
  • pentru zonele albe „rămâne de văzut cum vor fi utilizate investițiile din PNRR sau fondurile structurale“ vor fi folosite. Sugerează aici lipsă de încredere în rostul investițiilor.

 

  • cea mai mare problemă este la integrarea Big Data, cloud și IA. La IA, de exemplu, încă nu s-a progresat față de anul trecut, tot 1% din companii folosesc soluții IA
  • strategia IA, recent lansată în consultare publică, și comitetul privind IA sunt menționate ca sprijin pentru oportunitățile IA în România. Și aici implementarea e cheia.
  • Pe cât a fost de hulit și criticat, proiectul ION este scos în evidență ca bună practică pentru a facilita înțelegerea cetățenilor asupra inteligenței artificiale
  • EDIH-urile apar iarăși ca structuri menționate cu rol de sprijin pentru autorități și companii în ceea ce privește transformarea digitală a companiilor

 

Bonus: dacă tot s-a lansat cadrul strategic privind inteligența artificială, să vedem și unde suntem în ceea ce privește adoptarea inteligenței artificiale în companii.

  • altă Cenușăreasă – serviciile publice digitale. Raportul integrează și elemente din alte rapoarte, de ex. eGovernment Benchmark – pentru a furniza un context cu privire la dezvoltarea serviciilor și calitatea lor. Una e digitalizarea, alta e apoi experiența utilizatorului 🙂 Și aici suntem relativ în urmă.
  • îmbunătățirile descrise în raport sunt strict din prisma cadrului legal.
  • câteva proiecte menționate: PSCID, eID care se testează, sistem de e-health. Și astea în derulare.

Unde suntem?

Nu foarte departe de unde am fost anul trecut. Rapoartele pe UE și pe statele membre punctează mult responsabilitatea statelor membre în ceea ce privește transformarea digitală. E normal și în alte state, așa cum am aflat, de la conferința de care am vorbit mai sus, nici măcar nu e o chestie de discuție. La noi e.

Foaia de parcurs pe care trebuie să o facă fiecare stat membru va ajuta cumva? Va ajuta la monitorizare și expertiza Comisiei va putea fi utilă pentru a recomanda modificări sau ajustări. Problema e tot la noi în ogradă.

 

CiteșteSalvează

DIGEST. Lansare la apă pentru Strategia privind Inteligența Artificială

In DIGest, România
De Mirela Marcut
3 minute

Digest este un exercițiu de făcut ordine în informație mai mult decât orice altceva. Deci, Digest îți dă și rezumatul știrilor pe subiecte legate de politici digitale. Azi câteva cuvinte despre ceva mult-așteptat în peisajul de politici digitale românești: lansarea strategiei privind inteligența artificială.

Lansarea a avut loc în cadrul evenimentului “Inovație în România prin IA”, cu 2 paneluri cu mai multe sau mai puține de spus: panel de policy-makers și panel de experți din zona privată și din universități. Cadrul strategic e disponibil aici.

Cu ce rămânem după lansarea cadrului strategic național privind inteligența artificială?

  • un demers așteptat deja de ceva vreme, lansarea cadrului strategic a redeschis discuția despre IA la nivelul de policymakers, dincolo de declarațiile de bune intenții și de faptul că “IA ne va lua sau nu joburile”
  • paneliștii din zona de policy au vorbit mult despre colaborare și despre cum trebuie să lucrăm împreună pentru a transforma documentul în realitate. N-am auzit foarte multe direct acolo despre structurile menite chiar să implementeze ceea ce e scris acolo, deși sunt și se formează încet-încet – Coaliția IA, Comitetul pentru Educația IA, Consiliul Științific etc. Cum le operaționalizăm pe acestea și cum ne aducem parteneri împreună pentru a sprijini implementarea strategiei și dezvoltarea sectorului IA și educația în domeniu? Asta ar fi meritat un panel sau o explorare în detaliu.
  • un exemplu concludent: istoricul foarte interesant al hubului român pentru inteligență artificială, o idee apărută încă din 2018, conform celor de la UTCN. Menirea sa? Să coaguleze eforturile chiar din interiorul universității în materie de cercetare pe IA. Fără finanțare, cu întârzieri birocratice, a sfârșit în a fi susținut chiar din fonduri proprii ale universității. Deocamdată.
  • au apărut în discuție alte două elemente favorizante: regulatory sandbox și DIH-urile. Sandbox e cadrul acela aprobat de o autoritate publică ce permite testarea unor soluții fără frica amenzilor sau repercusiunilor din partea autorităților. DIH-urile permit testarea soluțiilor din punct de vedere al viabilității ideii de business și dpdv tehnic. O idee interesantă aici: DIH-urile mai au componenta de audit, care poate fi adaptată pentru a sprijini companiile să facă o evaluare de impact în ceea ce privește categoriile de risc în care se încadrează soluțiile IA dezvoltate (aspect cerut de către viitorul #AIAct)
  • panelul 2 a arătat mai divers din punct de vedere al opiniilor și ideilor prezentate. Că startupurile de IA nu trebuie să se uite la România ca o piață țintă, că nu stăm așa de rău în ceea ce privește dezvoltarea de softuri bazate pe IA. Comparativ, poziția academică a văzut un pic mai critic lucrurile și a spus că suntem întârziați și că e nevoie de mai multă cooperare dintre universități și mediul privat.
  • Comparativ, s-a adus vorba de Spania, despre care am mai scris pe DigitalPolicy, prima țară care și-a creat organism de reglementare pe IA, care a dezvoltat un sandbox pentru testarea soluțiilor IA din perspectiva riscurilor. Să nu uităm că are deja de ceva vreme o cartă a drepturilor digitale. Asta înainte de eforturile europene în domeniu.
  • partea de etică și-a avut un loc binemeritat în discuție și poate cel mai semnificativ lucru punctat a fost ideea că trebuie să avem o reprezentativitate în antrenarea modelelor IA și trebuie ținut cont de diversitatea culturală și valorile diferite care există. Asta apropo de intervenția de final care a întrebat cum vor fi integrate principiile CREȘTINE în reglementarea IA (?!). Și apropo de ideea care a fost adusă în discuție că asiaticii n-au ei treabă cu protecția datelor și ce bine stau ei cu cercetarea și inovarea în AI (?!)

 

CiteșteSalvează

What are the effects of AI and data regulations on companies?

In English, Uniunea Europeană
De Mirela Marcut
14 minute

This article has been translated from Romanian with the help of Notion AI.

What are the effects of AI and data legislations on companies? To understand this, we need to start with American movies versus European movies 🙂 Who hasn’t seen one of those Marvel movies, of which there have been over (I believe) 30?

Action, explosions, noise, fantastic events, successes despite all adversities, and in the end, the good triumphs. In contrast to this picture, the European film is artistic, slow-paced, perhaps black and white, with sadness, complications, and not always a happy ending. The classic separation between Europe and America, American superiority versus European backwardness.

The same goes for technology. America is the country of Marvel, where everything is possible in terms of innovation and companies are mega successes, while Europe is the country of slow-paced films, companies that don’t innovate, and seem sad compared to their American counterparts. We hear these things quite often, and the main reason why European companies are seen this way is that there is not enough venture capital to encourage innovation. Oh, and there’s also the issue of regulation. Apparently, there are too many regulations that stifle innovation. Is it really true?

This is where we find ourselves with the dilemma, and this is what we want to investigate in this analysis. Specifically, we will explore the impact of new EU regulations on data and artificial intelligence on companies.

Why do we care?

  • If you work in a tech company and/or probably develop tech products, interesting times lie ahead. How do you prepare for that?
  • We often hear about European legislation and European bureaucracy versus the allure of investment and regulation climate in the US. Is it really that bad?

So what is it about?

  • We will discuss the main elements of European legislation regarding data and artificial intelligence
  • We will see the impact on companies and how or if the EU can help in other ways to reduce the impact.
  • We will conclude by discussing how you should prepare for a series of changes.

Let’s get started, then.

 

What is the EU up to this time?

What isn’t it doing? 🙂 That’s the question. We are approaching the end of the Von der Leyen Commission’s mandate, and there have been numerous regulations and reform proposals related to the digital space. Here are just a few of them, noting that you can see the entire universe here:

  • Legislation on artificial intelligence
  • Data legislations (data governance and data act)
  • Cybersecurity resilience act
  • Gigabit act
  • Digital identity legislation
  • Regulation of work on ride-sharing platforms
  • European chip act
  • Cybersecurity solidarity act
  • Digital services act
  • Digital markets act
  • Network and information systems directive 2

We have already discussed most of them on the website, but more from the perspective of their influence on Romania and its citizens. But what about the private sector? Is it really being strangled by cumbersome and hard-to-implement regulations? Some regulations apply to all companies (such as GDPR, which regulates data protection), others are sector-specific (the draft directive on platform work), and others focus more on consumer protection, impacting companies through consumer protection.

Let’s briefly look at some of them that have an impact on the IT sector as well as non-IT companies that are more advanced and have an impact:

  • AI Act
  • data legislations

effects of AI and data legislations on companies - AI Act

We have discussed the AI Act here, but let’s briefly review the main elements of the legislation to establish a foundation for the anticipated impact on companies. It has not yet come into effect but is expected to do so in 2024. The key points of the legislation are:

  • Definition of an AI system: a machine-based system that is designed to operate with varying levels of autonomy and can, for explicit or implicit objectives, generate outputs such as predictions, recommendations, or decisions that influence physical or virtual environments.
  • Classification of AI systems into 4 risk categories:

Who has obligations?

The legislation classifies several types of actors involved in the development, commercialization, import, or distribution of AI systems, namely: suppliers, implementers, importers, distributors, and manufacturers of devices. The main obligations they have will only materialize IF any of these actors put high-risk systems on the market. According to some estimates, 30% of AI systems produced in the EU would fall into this category, but the EU’s impact assessment suggests that it is around 15%. The situation will only become clear after these high-risk systems are registered in the European database required by the legislation.

Let’s highlight some key points from the compromise text between the Parliament and the Council.

Suppliers must:

  • Conduct conformity assessments before placing high-risk systems on the market (these can be done internally or outsourced) in three areas: quality management system, technical documentation, and conformity assessment between technical documentation and the design and development process.
  • Ensure that individuals providing human oversight of AI systems are informed about the risk of confirmation bias (i.e., they should not rely solely on the output of the AI system in making decisions).
  • Provide specifications for the data used to train the AI system, including information about limitations and possible existing assumptions within the dataset. For example, if the data is predominantly from a specific geographic region, which could create limitations in using the systems in other regions.
  • Prepare technical documentation.
  • Take corrective actions to bring the system into conformity and inform the importer and implementer.

Attention! You become a supplier if you make substantial modifications to an AI system already on the market, whether it becomes high-risk or if you put your brand on an existing system.

Implementers of such systems must:

  • Ensure that they put the systems into operation in accordance with the instructions for use.
  • If they exercise control over the system, implement human oversight.
  • Ensure that individuals overseeing the system are “competent, qualified, and adequately trained and have the resources to ensure the supervision of the AI system.”
  • Monitor the implemented cybersecurity measures.
  • If they exercise control over the input data, ensure that the data is relevant and representative for the intended purpose of the system.
  • Inform the manufacturer, importer, distributor, and competent national authorities if the use of the system could entail risks to health, safety, or fundamental rights of individuals and suspend the use of the system if necessary.
  • Maintain a log automatically generated if they have access and control over it.
  • [in labour situations] Before putting a system to work, inform employee representatives and reach an agreement regarding its use. If necessary, conduct a data protection impact assessment.
  • Conduct an impact assessment in the intended context of use (with a few exceptions, such as safety systems in traffic management or utility provision).

Importers must ensure that:

  • The supplier has conducted a conformity assessment.
  • There are technical documentation and instructions for use.
  • The system bears the conformity marking.

If the system interacts with individuals, suppliers must inform users that they are interacting with an AI system. Users of deep-fake systems must also highlight that the content is falsified or artificially created.

Counterbalancing these obligations, from which I have listed only a part, is the inclusion of measures to stimulate innovation in this act. The main instrument is the “regulatory sandbox,” a tool for experimenting with products and testing innovations before they are brought to market under the supervision of competent authorities. This is not presented as an obligation of the Member States, but rather an option. Furthermore, the proposal states that startups and small providers should have priority access to such instruments.

Now, let’s look at the impact and complaints from the main actors targeted by this legislation. Let’s start with the perspective on sandboxes:

  • An organization representing EU startups states that the legislation on sandboxes should be clearer because startups often do not necessarily fit into a specific domain or may change their location.
  • Others are more pessimistic. A report by AI Austria shows that two-thirds of the surveyed startups believe that their activity would be slowed down due to the required adaptations. Approximately 30% of the included startups would classify their systems as high-risk, and the costs of adaptation could reach several hundred thousand euros.
  • Not to mention the venture capital climate. The same report indicates that venture capital funds could redirect their investments, considering the decreased interest in high-risk systems that would become more expensive.

So, how is it? Is there too much regulation? As we can see, most of the rules apply to high-risk AI systems, and the market for such systems is limited. At least for now. According to estimates by the Commission, up to 15% of systems would fall into the high-risk category. However, the estimates from the cited reports indicate that around 30% of systems would be affected. The AI market will continue to grow, especially after the explosion of generative AI, such as Chat-GPT, which will have different rules within this legislation. But let’s not digress now.

At first glance, there doesn’t seem to be a great balance between the regulations in the legislation and the proposed regulatory sandbox. Does this compensate for the exodus of venture capital from the EU? Perhaps not, but the funds made available at the EU level through programs like the Digital Europe Programme could help. The problem is that the pitch in front of a venture capitalist is very different from the funding application required to access such funds.

Let’s not forget about the Digital Innovation Hubs (DIHs), whose role is to support companies in testing solutions before bringing them to the market. The problem here is visibility, as confirmation bias, which the AI Act aims to reduce, is present in companies. Confirmation bias of the form “it’s easier with venture capital, I don’t bother because I don’t know what I gain here, etc.”

effects of AI and data legislations on companies - Data, data, data

There is no artificial intelligence without data. The Data Act and the Data Governance Act aim to facilitate access to data to stimulate innovation. More data, well-trained systems, better results, and so on. But wait, wasn’t there something about data protection and minimizing data collection? Yes, there is, but that pertains to the protection of personal data, and the principles can be found in these two regulations. Here, we mainly talk about non-personal data emitted by intelligent devices, for instance.

Speaking of which, Bard was confused when it comes to these two regulations:

Ce efecte au legislațiile pentru date și IA asupra companiilor / effects of AI and data regulations on companies

The idea is that the Data Act refers to who accesses and how data is accessed, who can benefit from it, while data governance creates the framework for companies to grant access to data or request access to data, including from the public sector, to create value from it.

As a company, you can find yourself in two situations here:

  • You may have data that others would need. Perhaps you have a series of devices that measure the energy efficiency of a building or data regarding the speed at which QA is performed on a production line. What do you do with this data? You might not want to give it away because it belongs to you. But what if you can gain something from it?
  • You may need data to develop a new product. Where do you get the data from? Do you directly test with a potential customer? Perhaps the datasets are too limited, or maybe you want to scale an existing product for a different industry and need access to data from another company in a different sector. Maybe you can obtain the data from a third-party organization that acts as a “data intermediary.”

This is where the two legislations come into play. What are the obligations and rights?

  • Users who generate data through the devices they use will be able to port their data to other companies. For example, users could transfer their usage data to a third-party repair service to fix a device without limitations from the original manufacturer.
  • Device manufacturers will need to provide information about the quantity of data generated, how users can access the data, and how users can request the transfer of data to third parties, among other details.
  • The transfer of data from data holders to data recipients will be done with reasonable compensation, with the only limitations being related to trade secrets.
  • The legislation includes provisions that limit unfair terms in contracts for data distribution, particularly with regard to small and medium-sized enterprises (SMEs). The legislation also introduces the concept of a “trade secret holder,” which allows companies to refuse access to data for legitimate competitive reasons.
  • it also introduces intermediaries that facilitate data transfers. If you are unsure where or to whom you should request data from, you could use such a service.
  • For certain situations of public interest and emergencies, public sector organizations can request companies access to their data.
  • The legislation introduces the concept of “data altruism,” which allows for the voluntary distribution of generated data by companies, not only upon request but also proactively.

What do the affected parties say about this?

  • DigitalEurope, an organization representing large technology companies in the EU, states that the Data Act is a “leap into the unknown” that does not clearly explain what data needs to be distributed and to whom.
  • The Alliance for Digital SMEs, which represents SMEs in Europe, emphasizes that SMEs should have more protection under this legislation but praises the explicit provisions regarding contractual terms for SMEs.
  • The International Road Transport Union, an organization representing companies in the transport and logistics sector, considers this legislation beneficial because they already had data distribution agreements and purchased devices to access data, such as fuel consumption data.
  • Siemens, on the other hand, suggests that such laws could jeopardize trade secrets, especially for companies that produce aftermarket parts.

So, what is the verdict? Is there too much regulation? It seems that the criticism is less about excessive regulation and more about the need to protect trade secrets. Data markets are crucial for the digital transformation of companies. It is not just about the products they create but also about the data they generate.

 

How companies "suffer"

The intentions of European regulations are to promote ethical values in the digital space, but they also consider market perspectives, especially considering the competitive landscape where the EU stands between the US and China.

What will be new for European companies?

  • For AI, there will be transparency obligations toward users regarding the AI systems they produce, distribute, import, or use, regardless of the risk category they fall into.
  • For AI, there will be conformity assessments for high-risk systems, resulting in a declaration of conformity and the famous CE marking.
  • For AI, there will be impact assessments regarding the fundamental rights of Europeans for high-risk AI systems.
  • Developers of AI applications will have the possibility to participate in regulatory sandboxes together with national authorities.
  • Implementers of AI systems will be required to designate a person responsible for overseeing the system if they exercise control

Always be prepared...

Finally, a non-exhaustive list of things to consider implementing when it comes to digitizing or digitally transforming your business.

What do you need to do to adapt to these new legislations?

  1. Get information. The regulations we discussed are in the final stages of adoption (those related to data are more advanced, the Data Governance Act is already adopted, and the Data Act is yet to be adopted, while the AI Act is still in the final negotiation stages). But that doesn’t mean we should wait for them to be applied to get up to speed with what needs to be done at the last minute.
  2. Analyze the state of your company in terms of data governance (what and how it is collected, where it resides, where it goes, what we don’t collect) – but not just for personal data. For that, we already have GDPR, and the provisions related to data in the new regulations complement aspects of the latter.
  3. A piece of advice also from EY regarding preparation for the AI Act – analyze the AI models you already use, but also consider what you plan to acquire. AI is expanding and it is trendy, but you need to consider what and where you will use it. Consult here (the list may evolve) the category of high-risk AI systems to know what kind of obligations you are heading towards, both as a developer and as a business user.
  4. Prepare your human resources to better use and understand how AI works, what confirmation bias is. Also, consider implementing human oversight of these systems, and don’t forget about transparency requirements. People – customers, employees – need to be informed if they will interact with an AI system.
  5. Start collecting data, standardize it, try to understand its value both for your business and as a value in a data market.

References

  1. https://www.digitalsme.eu/digital/uploads/DIGITAL-SME-Position-Paper-on-the-Data-Act.pdf
  2. https://www.eu-startups.com/2023/05/eu-ai-act-how-ai-regulation-could-affect-your-startup/#
  3. https://alliedforstartups.org/wp-content/uploads/2023/06/AI-Act-Open-Letter.pdf
  4. https://www.europarl.europa.eu/resources/library/media/20230516RES90302/20230516RES90302.pdf
  5. https://www.euractiv.com/section/data-privacy/news/data-act-eu-institutions-finalise-agreement-on-industrial-data-law/
  6. https://cdn.digitaleurope.org/uploads/2023/06/DIGITALEUROPE-Data-Act-trilogue-recommendations-June-2023.pdf
  7. https://www.digitaleurope.org/news/joint-statement-the-data-act-is-a-leap-into-the-unknown/
  8. https://www.politico.eu/article/europe-new-data-act-explained/
  9. https://www.ey.com/en_ch/forensic-integrity-services/the-eu-ai-act-what-it-means-for-your-business

 

CiteșteSalvează

Ce efecte au legislațiile pentru date și IA asupra companiilor?

In România, Uniunea Europeană
De Mirela Marcut
15 minute

Ce efecte au legislațiile pentru date și IA asupra companiilor? Ca să ajungem aici trebuie să pornim de la filmele americane versus filmele europene 🙂

Cine n-a văzut un film Marvel din alea peste (cred) 30 care au apărut? Acțiune, bubuieli, gălăgie, întâmplări fantastice, reușite în ciuda tuturor adversităților, iar, în final, binele învinge. Spre deosebire de acest tablou, filmul european e artistic, încet, poate alb-negru, există tristețe, eforturi, nu se termină cu bine întotdeauna. Clasica separație dintre Europa și America, superioritatea americană versus înapoierea europeană.

La fel e și când vorbim despre tehnologie. America e țara Marvel, unde totul e posibil din punct de vedere al inovației și filmele companiile sunt mega succese, iar Europa e țara filmelor companiilor încete, care nu inovează și care par triste în comparație cu partenerii americani. Auzim chestiile astea destul de des, iar marele motiv pentru care companiile europene sunt văzute astfel este că nu există suficient capital de risc care să încurajeze inovația. Ah, și mai e și treaba aia cu reglementarea. Cică sunt prea multe reglementări care sufocă companiile. Chiar așa o fi?

Cam aici ne aflăm cu dilema și asta vreau să investigăm în acestă analiză. Mai exact, investigăm care e impactul reglementărilor noi cu privire la date și inteligență asupra companiilor. Ne-am concentrat până acum pe cetățeni, dar trebuie să vedem și alte puncte de vedere, deoarece transformarea digitală afectează cetățenii, statul, dar și sectorul privat.

Why do we care?

  • dacă lucrezi într-o companie de tech sau probabil faci produse tech, urmează perioade interesante. Cum te pregătești pentru asta?
  • auzim mult de legislația europeană și de birocrația europeană versus mirajul climatului investițional și de reglementare din SUA. Oare chiar așa de nasol ar fi?

Deci despre ce e vorba?

  • discutăm despre elementele principale ale legislațiilor europene în materie de date, inteligență artificială și securitate cibernetică
  • vedem care e impactul asupra companiilor și cum sau dacă poate ajuta UE în alte feluri pentru a reduce impactul
  • concluzionăm prin a discuta cum ar trebui să vă pregătiți pentru o serie de schimbări

Să purcedem, deci.

 

Ce mai face UE de data asta?

Ce nu face? 🙂 Aceasta este întrebarea. Ne apropiem de finalul mandatului Comisiei Von der Leyen, iar regulamentele și propunerile de reforme legate de spațiul digital au fost în număr mare. Enumăr aici doar câteva dintre ele, cu mențiunea că vedeți aici întreg universul:

  • legislație privind inteligența artificială
  • legislații privind datele (guvernanța datelor și actul privind datelor)
  • actul privind reziliența cibernetică
  • actul Gigabit
  • legislație privind identitatea digitală
  • legislație privind reglementarea muncii pe platforme de ride-sharing
  • actul european privind cipurile
  • actul privind solidaritatea cibernetică
  • actul privind serviciile digitale
  • actul privind piețele digitale
  • directiva privind “network and information systems” 2

Despre majoritatea din ele am discutat deja pe site, dar mai degrabă din perspectiva influenței asupra României și a cetățenilor. Dar cu sectorul privat cum rămâne? Vorbim cu adevărat de strangularea inovației și a sectorului privat prin reglementări stufoase și greu de aplicat? Unele reglementări se aplică tuturor companiilor (cum ar fi GDPR, care reglementează protecția datelor), altele doar sectorial (proiectul de directivă privind munca pe platforme), altele se axează mai degrabă pentru protecția consumatorilor și impactează companiile prin prisma protecției consumatorilor.

O să ne oprim pe scurt la câteva din ele, cu impact asupra sectorului IT, cât și a companiilor non-IT, care sunt mai avansate și mai cu impact:

  • actul privind inteligența artificială
  • legislațiile privind datele

Actul privind Inteligența Artificială

Am mai discutat aici despre actul privind inteligența artificială, dar să reluăm pe scurt principalele elemente ale legislației pentru a avea o fundație cu privire la impactul previzionat asupra companiilor. Încă nu a intrat în vigoare, dar se așteaptă că va intra în vigoare în anul 2024. Principalele chestii ale legislației sunt:

  • definiția sistemului IA: un sistem bazat pe mașină care este proiectat să funcționeze cu niveluri variabile de autonomie și care poate, pentru obiective explicite sau implicite, să genereze output-uri precum predicții, recomandări sau decizii care influențează medii fizice sau virtuale. (traducere realizată cu Bard)
  • clasificarea sistemelor IA pe 4 categorii de risc:
Sursă: Comisia Europeană

Cine ce obligații are?

Legislația clasifică mai multe tipuri de actori care sunt implicați în realizarea, comercializarea, importul sau distribuirea sistemelor de IA, anume: furnizori, cei care implementează aceste sisteme, importatorii, distribuitorii și producătorii de dispozitive. Principalele obligații pe care le au aceștia se vor materializa DOAR DACĂ oricare din acești actori vor pune pe piață sisteme cu risc ridicat. După unele estimări, 30% din sistemele IA produse la nivelul UE ar fi în această categorie, evaluarea de impact a UE spune că sunt mai puține, în jur de 15%. Va fi clară treaba doar după ce aceste sisteme de mare risc se vor înregistra în baza de date europeană cerută de legislație.

Să spicuim din textul de compromis realizat între Parlament și Consiliu.

Furnizorii trebuie:

  • să realizeze evaluări de conformitate înainte de a pune pe piață sisteme de risc ridicat (se pot face intern dar și externalizat) pe 3 paliere – sistemul de management al calității, documentația tehnică și evaluarea conformității dintre documentația tehnică și procesul de design și dezvoltare
  • să se asigure că persoanele fizice care realizează supravegherea umană a sistemelor IA sunt informate despre riscul biasului de confirmare (adică să știe că nu ar trebui să se bazeze în luarea deciziilor doar pe rezultatul dat de sistemul IA)
  • să ofere specificații pentru datele cu care sistemul IA se antrenează, inclusiv informații despre limitările și posibilele ipoteze deja existente în interiorul setului de date. De ex., dacă datele sunt preponderent dintr-o anumită regiune geografică, ceea ce ar putea crea limitări în utilizarea sistemelor în alte regiuni
  • să realizeze documentație tehnică
  • să realizeze acțiuni de corecție pentru a duce sistemul în conformitate și să informeze importatorul și cel care implementează

Atenție! Devii furnizor dacă faci modificări substanțiale la un sistem IA deja pus pe piață, fie de risc ridicat, fie dacă-l schimbi și devine de risc ridicat. Sau dacă îți pui marca pe un sistem care există deja.

Cei care implementează astfel de sisteme trebuie:

  • să se asigure că pun în funcțiune sistemele în conformitate cu instrucțiunile de folosință
  • dacă exercită control asupra sistemului, să implementeze sisteme de supravegherea umană
  • să se asigure că persoanele care supraveghează sistemul sunt “competente, calificate și pregătite în mod adecvat și au resursele pentru a asigura supravegherea sistemului IA”
  • să se asigure că monitorizează măsurile de securitate cibernetică puse în aplicare
  • (dacă exercită control asupra datelor de intrare), trebuie să se asigure că sunt relevante și reprezentative pentru scopul intenționat al sistemului
  • să informeze producătorul, importatorul sau distribuitor și autoritățile naționale competente dacă utilizarea sistemului ar putea rezulta într-un risc la adresa sănătății, siguranței sau la adresa drepturilor fundamentale ale cetățenilor și vor suspenda folosirea sistemului
  • să țină jurnalul generat în mod automat, dacă au acces și se află sub controlul lor
  • înainte de a pune în funcțiune un sistem la locul de muncă, trebuie să informeze reprezentanții angajaților și să ajungă la un acord cu privire la utilizarea sa. Dacă e necesar, trebuie să facă și o evaluare de impact asupra protecției datelor
  • să realizeze o evaluare de impact în contextul destinat de utilizare (cu câteva excepții – cum ar fi sistemele de siguranță din managementul traficului sau furnizarea de utilități)

Importatorii trebuie să se asigure că:

  • furnizorul a realizat o evaluare de impact
  • există documentație tehnică și instrucțiuni de utilizare
  • sistemul are marca de conformitate

Dacă sistemul interacționează cu persoane fizice, atunci furnizorii trebuie să informeze utilizatorii că aceștia interacționează cu un sistem IA. Utilizatorii de sisteme din categoria deep-fake trebuie să scoată în evidență că acel conținut este falsificat sau creat în mod artificial.

Contrabalansarea acestor obligații, din care am enumerat doar o parte, stă prin măsurile conținute pentru stimularea inovației care sunt cuprinse în acest act. Principalul instrument este “regulatory sandbox”, o unealtă de experimentare a unor produse, de testare a unor inovații înainte de a fi puse pe piață sub supravegherea unor autorități competente. Nu prezintă asta ca o obligație a statelor membre, ci e o opțiune. Mai mult, propunerea cere ca startupurile și furnizorii mici să aibă prioritate la intrarea în astfel de instrumente.

Aici cred că e momentul să ne uităm la impactul și plângerile pe care le au principalii actori țintiți de această legislație. Putem începe cu asta cu privire la sandboxes:

  • o organizație care reprezintă startupurile din UE afirmă că ar trebuie să fie mai clară legislația cu privire la aceste “cutii de nisip pentru joacă” pentru că startupurile adesea nu țin neapărat de un domeniu sau poate că-și mai schimbă locația
  • alții sunt mai pesimiști. Un raport al AI Austria arată că 2/3 din startupurile chestionate consideră că activitatea le-ar fi încetinită, având în vedere adaptările pe care trebuie să le facă. Aproximativ 30% din startupurile incluse și-ar încadra sistemele la risc ridicat, iar costurile de adaptare s-ar ridica până la câteva sute de mii de euro
  • să nu mai zicem de climatul de capital de risc, același raport arată că fondurile de capital s-ar putea reorienta, având în vedere scăderea interesului pentru sisteme de risc ridicat care ar deveni mai scumpe

Deci, cum e? Prea multă reglementare? După cum vedem, majoritatea regulilor se aplică sistemelor IA de mare risc, iar piața acestora este limitată. Încă. După estimările Comisiei, până în 15% din sisteme ar fi de mare risc. Estimările rapoartelor citate arată că undeva la 30% din sisteme ar fi afectate. Piața de IA va crește oricum, mai ales după explozia IA generativă de tipul Chat-GPT, care oricum va beneficia de alte reguli în interiorul acestei legislații, dar să nu ne lungim acum.

La o primă vedere, nu există un echilibru foarte mare între regulile puse în legislație și măsura de regulatory sandbox propusă. Compensează asta exodul capitalului de risc din UE? Poate că nu, dar fondurile puse la dispoziție la nivelul UE, prin programe cum este Digital Europe Programme, ar putea. Problema e că pitchul în fața unui VC este foarte diferit de cererea de finanțare care trebuie completată pentru a accesa astfel de fonduri. Să nu uităm că există și DIH-urile, al căror rol este să sprijine companiile să testeze soluțiile pe care vor să le pună pe piață. Problema aici e de vizibilitate, când confirmation biasul pe care AI Act vrea să-l reducă este prezent în companii. Confirmation bias de forma “mai ușor e cu VC, nu-mi bat capul că nu știu ce câștig aici etc”.

Legislațiile privind datele

Nu există inteligență artificială fără date. Actul privind Datele și Actul privind Guvernanța Datelor își propun să ușureze accesul la date pentru a putea stimula inovația. Mai multe date, mai bine antrenate sistemele, rezultate mai bune și tot așa. Wait, parcă era o chestie cu protecția datelor și minimizarea colectării? Da, așa e, dar acea chestie se referă la protecția datelor cu caracter personal, iar principiile acesteia se regăsesc în cele două regulamente. Aici vorbim mai ales despre date non-personale, cele emise de dispozitive inteligente, spre exemplu.

Speaking of, Bard a fost confuz când e vorba de cele două regulamente 🙂

Ce efecte au legislațiile pentru date și IA asupra companiilor / effects of AI and data regulations on companies

Ideea e că actul privind datele se referă la cine și cum dă acces la date, cine poate beneficia de ele, iar guvernanța datelor creează cadrul prin care companiile între ele pot da acces la date sau pot cere acces la date inclusiv de la sectorul public pentru a crea valoare din ele.

Ca o companie, te poți afla în două situații aici:

  • să ai date care le-ar trebui altora. Poate ai o serie de dispozitive care măsoară eficiența energetică a clădirii sau date cu privire la viteza prin care se realizează QA pe bandă. Ce faci cu ele? Nu prea-ți vine să le dai că sunt ale tale. Dar dacă poți să câștigi ceva din ele?
  • să ai nevoie de date ca să dezvolți un nou produs. De unde iei datele? Testezi direct la un potențial client? Poate sunt prea limitate seturile de date sau poate vrei să scalezi deja un produs pentru altă industrie și vrei să ai acces la datele unei companii din alt sector. Poate le poți lua de la o organizație terță cu rol de “intermediar de date”

Aici intervin cele două legislații. Obligații/drepturi?

  • utilizatorii care produc date prin dispozitivele pe care le folosesc, vor avea posibilitatea de a-și porta datele către alte companii. Spre exemplu, utilizatorii ar putea să-și transfere datele de utilizare pentru un serviciu de reparații terț pentru a-și repara un dispozitiv, fără limitare din partea producătorului.
  • producătorii de dispozitive vor trebui să ofere informații despre cantitatea de date generate, modul de accesare a datelor din partea utilizatorului, modul de solicitare a transferului către părți terțe etc
  • transferul de date de la deținătorul datelor la destinatarul datelor se va face cu compensare rezonabilă, singurele limitări fiind când vine vorba de secrete comerciale
  • legislația conține prevederi care limitează prevederi incorecte față de IMM-uri în contracte de distribuire a datelor, dar creează și conceptul de “deținător de secret comercial”, cu ajutorul căruia companiile pot refuza accesul la date pe motive întemeiate concurențiale
  • (din Actul privind Guvernanța Datelor) apar companii care intermediază transferul de date, deci dacă nu știi unde și cui trebuie să ceri, ai putea să apelezi la un astfel de serviciu
  • pentru anumite situații de interes public și de urgență, organizațiile din sectorul public pot cere companiilor acces la datele lor
  • apare posibilitatea de distribuire a datelor generate și de companii sub forma ideii de “altruism legat de date”. Distribuirea datelor nu doar atunci când există o cerere în acest sens, ci din proprie inițiativă

Ce zic cei afectați?

  • DigitalEurope – organizație care reprezintă companiile mari de tehnologie din UE – spune că Actul privind Datele este o “săritură către necunoscut”, care nu explică foarte clar ce și dacă trebuie să distribuie datele
  • Alianța Digital SMEs – ce reprezință IMM-urile din Europa – accentuează că IMM-urile ar trebui să fie mai protejate în această legislație, dar laudă prevederile exprese cu privire la prevederile contractuale față de IMM-uri
  • International Road Transport Union – organizație care reprezintă companiile din transport și logistică – consideră benefică această legislație pentru că ei oricum făceau acorduri de distribuire a datelor și cumpărau dispozitive pentru acces la date despre consumul de combustibil, spre exemplu.
  • Siemens – pe de altă parte – spune că astfel de legi ar putea pune în pericol secretul comercial – mai ales pentru companiile care fac piese after-market

Deci, cum e? Prea multă reglementare? Parcă aici problema nu e prea multă reglementare, având în vedere că cei care și-au dat cu părerea se leagă mai degrabă de ideea de a-și păstra secretul comercial. Piețele de date sunt necesare pentru transformarea digitală a companiilor. Nu mai e vorba doar de produsul pe care-l realizezi, ci și despre datele pe care le generezi.

 

Cum "suferă" companiile?

Intențiile reglementărilor europene se referă la promovarea valorilor etice pentru spațiul digital, dar nu lasă în urmă și perspectivele de piață, mai ales având în vedere climatul de competiție unde se află UE, exact între SUA și China.

Ce va fi nou pentru companiile europene?

  • pentru IA – obligațiile de transparență față de utilizator cu privire la sistemele de inteligență artificială pe care le produc, distribuie, importă și folosesc (indiferent de categoria de risc pe care o reprezintă)
  • pentru IA – evaluarea de conformitate pentru sistemele de risc ridicat care se va concretiza cu o declarație de conformitate și faimoasa marca CE
  • evaluarea de impact cu privire la drepturile fundamentale ale europenilor pentru sistemele IA cu risc ridicat
  • tot pentru dezvoltatorii de aplicații IA – posiblitatea realizării de “regulatory sandboxes” împreună cu autoritățile naționale
  • pentru cei care implementează astfel de sisteme, obligația de a desemna o persoană cu atribuții de supraveghere a sistemului, dacă exercită control asupra acestora
  • pentru cei care implementează astfel de sisteme, trebuie să informeze angajații dacă vor fi utilizate sisteme IA la locul de muncă după un acord în prealabil cu reprezentanții acestora
  • pentru cei care implementează astfel de sisteme, să realizeze evaluări de impact al utilizării acestor sisteme
  • în ceea ce privește legislațiile privind datele, chiar dacă nu pare, majoritatea companiilor care produc date sub o formă sau alta vor fi afectate, apărând posibilitatea de data sharing între companii sub o formă mai clară. Există potențial de realizare de venituri deoarece accesul la date este dat în schimbul unei compensații financiare corespunzătoare.
  • companiile trebuie să fie bine informate și să aibă date și proceduri puse la punct cu privire la data sharing pentru a putea să se implice în acest nou ecosistem

 

Always be prepared...

Pe final o mică listă non-exhaustivă de lucruri la care trebuie să te gândești să implementezi când vine vorba de digitalizarea sau transformarea digitală a afacerii tale.

Ce trebuie să faci pentru a te adapta la aceste noi legislații?

  1. informează-te. Regulamentele despre care am vorbit sunt în fazele finale spre adoptare (cele legate de date sunt mai avansate, Actul privind Guvernanța Datelor este deja adoptat, iar Actul privind Datele urmează să fie adoptat, în timp ce Actul IA este încă în fazele finale de negociere). Dar asta nu înseamnă că trebuie să stăm cu mâinile în sân să așteptăm să se aplice pentru a ne pune la punct cu ce trebuie făcut pe ultima sută de metri.
  2. analizează stadiul companiei în ceea ce privește guvernanța datelor (ce și cum se colectează, unde stau, unde se duc, ce nu colectăm) – dar nu doar pentru datele personale. Pentru asta avem deja și GDPR, iar prevederile legate de date din regulamentele noi completează aspectele celui din urmă.
  3. un sfat venit și de la EY în ceea ce privește pregătirea pentru Actul privind IA – analizează ce modele de IA folosești deja, dar trebuie să te gândești și la ce ai în plan să achiziționezi. IA e în expansiune și “la modă”, dar trebuie să ții cont de ce și unde vei utiliza. Consultă aici (lista poate evolua) categoria de sisteme de IA de mare risc pentru a ști către ce fel de obligații te îndrepți, atât ca dezvoltator, cât și ca utilizator de business.
  4. pregătește resursa umană să utilizeze și să înțeleagă mai bine cum funcționează IA, ce este biasul de confirmare. De asemenea, trebuie să ai în vedere să implementezi supraveghere umană a acestor sisteme și nu uita de condițiile de transparență. Oamenii – clienții, angajații – trebuie informați dacă vor interacționa cu un sistem IA.
  5. începe să colectezi date, standardizează-le, încearcă să înțelegi valoarea lor atât pentru business, cât și ca valoare pe o piață a datelor.

Referințe

  1. https://www.digitalsme.eu/digital/uploads/DIGITAL-SME-Position-Paper-on-the-Data-Act.pdf
  2. https://www.eu-startups.com/2023/05/eu-ai-act-how-ai-regulation-could-affect-your-startup/#
  3. https://alliedforstartups.org/wp-content/uploads/2023/06/AI-Act-Open-Letter.pdf
  4. https://www.europarl.europa.eu/resources/library/media/20230516RES90302/20230516RES90302.pdf
  5. https://www.euractiv.com/section/data-privacy/news/data-act-eu-institutions-finalise-agreement-on-industrial-data-law/
  6. https://cdn.digitaleurope.org/uploads/2023/06/DIGITALEUROPE-Data-Act-trilogue-recommendations-June-2023.pdf
  7. https://www.digitaleurope.org/news/joint-statement-the-data-act-is-a-leap-into-the-unknown/
  8. https://www.politico.eu/article/europe-new-data-act-explained/
  9. https://www.ey.com/en_ch/forensic-integrity-services/the-eu-ai-act-what-it-means-for-your-business
CiteșteSalvează

There has to be a better way. GovTech for digital public services

In English
De Mirela Marcut
16 minute

(for this introduction, please imagine a teleshopping ad context. Black and white images with apps of the Romanian state that don’t really work followed by frustrated users whose app has been blocked and cannot make payments. All very frustrating, and the copy would sound something like this

ROeID – an application intended to create a digital identity for us. Which is actually just one of the other national and European attempts to think of an “electronic” identity. The application has been recently launched – fanfare and trumpets, you know. With an video and audio identity check, all very nice. But it didn’t work, and my social media bubble was full of people whose identity checks were refused. Even if you manage to create an identity, you can’t really do anything with it. Yet.

The e-Romania portal (remember that?), the portal of “participatory democracy”, was supposed to bring everything together, from information about all the country’s localities to electronic public services. Fast-forward, 10 years later, the portal no longer exists, the money is gone.

I think I can fill whole pages with such examples of applications, programs, services, developed by or for the Romanian state, but that would not solve anything, except frustrate us by reminding us of the long line of failures. But let’s not forget that teleshopping always goes from black and white images to colorful ones and happy people. On the system: But wait, there’s got to be a better way! Yes, that’s right, and it’s called GovTech.

What is this all about?

  • I will paint an alternative portrait of the possibility of creating/improving digital public services offered to us as citizens through the GovTech sector.
  • I will describe some GovTech mechanisms that are currently working in Europe.
  • And, inevitably, I will address the possibility that these mechanisms exist/will be developed in Romania.

How does it help you?

  • you need to know that there are also variants of cooperation between the private and public sectors for public digital services that do NOT involve the development of a costly and extremely unfriendly application with citizens
  • there is room for involvement from citizens or small businesses if there is openness from the state.
  • it helps you to ask for something different from those who lead/want to lead us (naive, I know).

So let’s get started.

 

How does the state implement digital public services?

Let’s go back to the teleshopping image. What causes all those black and white images of angry and frustrated people with the services? Well, some poorly designed and executed products, based on too much trust in the ability to deliver things. Or the rush that, as we know, ruins things. Or, let’s not forget the Romanian case, the intention to spend a lot of money without responsibility and without a satisfactory result.

If we go back to theory, there are several “philosophies” related to how to create and deliver public services:

  • Classical governance – the state knows everything, does everything. So, the state is a large, bureaucratic apparatus and a consumer of resources.
  • New public management – the state is too big, it needs to be reorganized, it consumes too many resources, we need to introduce principles from the private sector into the functioning of the public sector, reduce costs, the private sector knows better. Technology here is the means to lower costs at any price.
  • Digital governance – which we have written about here before – it’s good to have a smaller state, with outsourcing to other private entities, but others should also participate in the creation and implementation of public services, and let’s not forget that technology is a tool for the benefit of citizens, and they should be involved in creating public policies.

It may be reductionist for those who have a more thorough knowledge of the phenomena, but it’s good for an overview of the possibilities to respond to challenges related to how the state provides digital public services.

The downsides of the first two approaches are clear – the state doesn’t always know everything or can do everything (especially if the resources it needs have been diminished under the umbrella of a “lean” state), and let’s not forget the example of Romania where outsourcing the implementation of a service to the private sector was done poorly, without taking into account the citizen’s experience to say the least.

What now? GovTech is now.

 

Gov...WHAT?

We’re not reinventing the wheel here, let’s get that straight. GovTech is described as an IT sector that deals with creating innovative technological solutions for public administrations at any level. Clearly, there’s nothing new under the sun. However, the way of creating these new solutions is different. It doesn’t start from the idea that the state doesn’t know how to make good services and only the private sector can, and we must transfer expertise directly there. It actually starts from the idea that the state needs collaboration to solve problems, and these collaboration perspectives are found in several places and in several ways, and solving a problem related to public administration is not just about acquiring software or an application. More is needed.

So let’s recap. GovTech is:

  • the partnership between public sector organizations and innovative startups and SMEs to solve societal problems (according to the definition provided by the JRC of the European Commission)
  • close cooperation between the state and young and innovative companies, such as startups, with the aim of delivering better public services (definition aggregated from the literature)
  • an integrated approach to modernizing the public sector, encompassing three aspects: citizen-centeredness, accessible public services, and an integrated approach to digital transformation (definition from the World Bank)

The literature also shows that there are two types of activities in which such initiatives can get involved:

  • corrective activities for the public sector. When it’s clear that something isn’t working well in terms of digital public service provision or there is this push towards digital transformation, as done by the EU. Like “how do we issue the tax certificate online?” Nothing out of the ordinary, but maybe things that others have already done.
  • innovation activities for the public sector. When there is a new challenge or when you can’t find a key solution on the market. Or maybe you can find it, but you don’t want to spend so much money on it and it can be done cheaper.

Many approaches, many definitions. What is clear is that it depends on the “think outside the box” mentality. What is also clear is that it is more than an IT sector that churns out applications for the state, but it is about the collaboration between the private and public sectors to solve a problem and it is not something that happens once and that’s it. It involves supporting this collaboration in the long term to be able to change the logic of digital public services. From the simple “how to enroll my child in school” to internal matters, such as budget simulation with the help of data. Still, I don’t think it’s clear yet how it works, and it’s best to look at the dynamics of the sector and a few examples from Europe.

 

GovTech in Europe

Several countries with better or worse rankings in the EU Digital Economy and Society Index have shown openness towards such initiatives and have established government or mixed programs to support the development of tech solutions for their public services. The map below shows just a few initiatives.

If you look at their names, you don’t always know if they are public entities or not. And that’s the point. Some are laboratories, some are competence centers, some are research centers, directly under the government (Scotland) or a government agency (Israel). Others are supported by a consortium, such as Accelerate Estonia (a consortium made up of the Tallinn city government, Tallinn University of Technology, and the government). What all these names have in common is that they are often places where you can experiment. And that’s also the point. European Commission research shows that most of these entities benefit from strong government or leadership support, which gives credibility to the initiative. But they are somewhat independent.

 

How does it work? One of the main characteristics is that the budget for such initiatives is limited, but suitable for thinking on a small scale of digital public service solutions, leaving room for scaling at the end. Anyway, there is room for experimentation, and that means failure is part of the activity. But research also shows that a delicate balance must be struck between experimentation and performance. Something’s gotta give.

What exactly are they doing? The European Commission identifies about 6 modes of operation:

  • “challenge” activities – the state comes up with a problem and offers a prize for solving it. The solution can be funded and tested directly in ministries or other corners of the public administration, and those who have innovated have a chance to use the public sector infrastructure. What’s good is that the solution is first validated before it is extended to its use
  • hackathons – for rapid mobilization of resources and energy and efficient cost-effective solution creation. Hackathons take place over several days, and the complete solution is only modeled, not actually realized, which can lead to the loss of the idea if no concrete intervention is made for its implementation
  • accelerator programs, structured training, mentoring, and support programs for developing solutions (usually tech), where teams participate for a limited period of time. At the end of this program, there is a “demo day”, a day when teams present their ideas to potential clients from the public space or investment funds. The problem is that these clients are not required to choose the winning solutions, and of course, for this approach to work, the government needs “a lot of maturity”
  • piloting – partnership with a specific company to test a program under well-defined conditions. It also needs openness from the state, but also legal framework for access from an external party. The advantage is that the two entities work closely together, and the exchange of information and collaboration is beneficial for the public authority
  • research and development scholarships – awarded by the state following a competition. Winning companies or teams have a limited time to work on a solution, needing to justify the spending of funds to some extent. However, research is often conducted outside a framework of collaboration with the state, and leadership cannot quickly exploit the results from a political perspective because research takes time.
  • last but not least – ecosystem creation – the meeting of several experts, companies, people from the public administration – who can offer guidance and expertise. It may be the hardest type of activity to quantify and justify, but it may also be the most significant. Why? Because such an initiative lays the foundation for more collaboration and exchange of ideas and does not focus solely on developing specific solutions but also on creating a much more open organizational culture that is so necessary for public institutions. Because it does not solve a specific problem or have direct results but requires financial resources, it can be difficult to justify.

All of this is already happening in Europe.

  • Poland – the laboratory has been operating since 2018, under the direct leadership of the prime minister, has managed to grow relatively quickly, and receives multi-year funding. The set goal was to increase the efficiency of the public sector and contribute to obtaining data on citizens’ needs. What are they doing? Challenges, hackathons, ecosystem creation. They aim to increase SMEs’ interest in creating tools for administration, create a digital marketplace for state solutions, or create a base for training investors.
  • Estonia – has been operating since 2019 as an association between the government, the municipality of Tallinn, and Tallinn University of Technology. The types of activities they carry out are ecosystem creation and contests with prizes for working on certain missions – such as mental health (yes, that is a public policy problem for them)
  • Scotland – CivTech has been operating since 2017, and its main activity is the challenge competition, catalogued in the Commission’s analysis as an example of good practice replicated in other laboratories. How does it work? The organization sets open challenges to which any organization, team, or even individual can apply with a possible solution. There is an evaluation process for applications, and successful ones go through an exploration phase where they are refined, and the best ones from here go into the accelerator phase, where they will actually be built. They promote themselves as helping to create companies because most of the challenges they publish are universal, beyond jurisdictions. Among the recent challenges: how can technology help identify and prioritize support for people in vulnerable situations, starting with those with energy-related problems? or how can technology help manage infrastructure used by commercial operations in isolated or rural areas?

These are national-level examples, but GovTech is of interest to the European Union, and it is enough to think only of the avalanche of regulations that are coming over us or that are already implemented and that are related to “connecting” different public services from several countries. The main project that will stimulate the growth of the GovTech sector refers to the future regulation for stimulating the development of interoperable services at the EU level. That is? We have a single digital market, being able to order online from another country without any other restrictions, we circulate and use the Internet subscription as if we were already in the country, we can open our Netflix when we are on a city break. Why not have a single space for digital public services (where Union competencies and policies permit, of course)?! Attention, not unique services at the European level, but national services that communicate with each other.

Moreover, just a few weeks ago, the European Commission launched the GovTech Incubator – a collaboration space between ministries, national agencies working for digitalization and digital transformation, the private sector, or research. In fact, it is a consortium made up of over 20 partners – which will develop pilot programs at a transnational level, two of which are focused on information security in cross-border data spaces and support for obtaining social benefits with the help of personal assistants.

 

What about Romania?

From what I managed to find online, Romania is not part of the GovTech4all association, but that does not mean that it will not be in the future. But, even so, are there any GovTech initiatives in Romania that we can talk about?

The World Bank has an index called the GovTech Maturity Index which places Romania in group B of countries with a “significant focus” on GovTech, but the index focuses more on the use of technology in public administration, looking at questions like – if there is a data protection authority or if there are online forms for tax payment or if there is a portal for public procurement. Although interesting, the index does not necessarily apply to the discussion of encouraging innovation in public administration. It is good that, globally, we are significantly focused on GovTech, while DESI shows us at the bottom of the ranking 🙂 Another perspective: Ukraine is in group A of GovTech leaders 🙂

Returning… I will briefly list here a few GovTech initiatives according to the definitions and conceptualizations mentioned above, which I have seen in Romania:

  • TechBridge hackathon – May 2023 – a hackathon organized jointly by our Ministry of Digitalization and the Electronic Governance Agency of the Republic of Moldova. The winning solutions are here. The Commission’s research shows that the downside of such activities is that they can be abandoned quite quickly if there is no framework to support their development. Indeed, I have not seen a word about prizes or next steps for product development following this event. Also, the parallel Moldovan press release shows that these solutions can already be integrated with their services, but we cannot say the same about this thing back in Romania. Not yet.
  • Of course, Ion – “the first AI governmental advisor” – an exercise of cooperation between public institutions, universities and private companies – who have outlined a system that collects data about Romanians. For now, it only collects data – it would be interesting to develop a system like CivicTech Scotland with challenges to exploit the collected data. It is not clear Ion’s exploitation program, for now, it seems like an exercise to familiarize citizens with technology through the Ion caravan throughout the country. With the change of leadership in the ministry, the future is uncertain.
  • GovITHub – a truly GovTech project from Romania, which gathered fellows (a kind of scholars) who have managed to create a series of tech solutions for the governmental sector. Like any good thing, it ended quite quickly. It falls under GovTech, being similar to the research and development scholarships identified by the European Commission. Unfortunately, it is no longer active.
  • eBay and Romanian Post – a partnership for the development of a platform for “increasing the online exports of Romanian business products”. Practically a space where companies can register to ship products worldwide. The site is here. By the way, as the Commission said, GovTech is often reserved for large companies.

There are similar initiatives between companies and local public authorities, such as the development of a chatbot at the local authority level, but what is generally missing is coordination and the institutional and structural framework that allows innovation. Is that what is missing? Well, it’s hard to verbalize, but the spirit of experimentation characteristic of an innovation laboratory is what is missing. Maybe because most of the sought-after actions are corrective, maybe because we are concerned with achieving urgent, basic things.

 

Finally...

Finally, I will mention a few barriers identified by the European Commission in the development of such initiatives, with the caveat that this is still a growing field due to the need for interoperability at the European level. And to reflect on why we do not have such an activity in Romania:

  • (problem for companies) expectations related to growth in a limited market space – often there is only one buyer, and if you move to another state, there are additional costs and services need to be adapted
  • (problem for the sector) there is domination by large integrators of services, companies that are all-service and often buy out smaller competitors and this leaves the GovTech sector without great prospects of truly growing as a diversified sector
  • (problem for state) we are dealing with a traditionally discouraging public procurement process, for example, the specifications require figures that startups cannot cover. Or they are too complex in terms of requirements – multi-year aspects
  • (problem for state) the bureaucratic culture of the state, profoundly different from that of a startup

 

References

 

CiteșteSalvează

Eu cu cine moderez? despre ANCOM și poliția Internetului

In România, Uniunea Europeană
De Mirela Marcut
12 minute

Ultimele luni au văzut o pleiadă de notificări, știri, postări pe social media despre o grămadă de proiecte de regulamente europene care vizează tehnologia și transformarea digitală. Actul privind Inteligența Artificială, Actul privind Datele, regulamentul privind portofelul european, Actul privind Serviciile Digitale și Actul privind Piețele Digitale. Și mai pot continua: actul privind reziliența cibernetică, regulamentul Gigabit…ok, mă opresc aici. Pentru cine nu e nici în domeniul afacerilor europene, nici în domeniul politicilor digitale, totul pare cam abstract și de neînțeles. Să nu mai zic că mare parte din proiectele de mai sus încă sunt în proces de negociere, deci chiar dacă ai auzit că Parlamentul a decis una sau că s-a realizat un acord pe alta, nu e obligatoriu să și fie ceva definitiv.

Mai adăugăm aici un element semnificativ: mai toate elementele de legislație despre care auzim la știri, pe internet sau la radio sunt implementate în mare parte și prin autoritățile naționale. Deci, când auzi că “Actul legislativ privind serviciile digitale va conține și reguli care să garanteze că produsele vândute online sunt sigure și respectă standardele înalte stabilite de UE*” sau că Actul privind Serviciile digitale “e așa-numita poliție a internetului”, dai de două chestii:

  1. limbajul e între două extreme – fie prea complicat și nu înțelegi, fie e prea simplist și prost explicat
  2. cineva undeva trebuie să se asigure că aceste regulamente sunt puse în aplicare corect și în interesul cetățeanului. Nu rezolvă textul de lege, pardon regulament, singur chestia asta.

Punctul 1 este chiar misiunea acestei platforme, dar punctul 2 este ceea ce aș vrea să abordăm în analiza de luna asta de pe Digital Policy. Cine și ce instituții din România se ocupă/se vor ocupa cu implementarea noilor regulamente legate de ceea ce facem noi online? Voi răspunde aplicat la această problemă folosindu-mă de Actul privind Serviciile Digitale, unul din regulamentele care își propun să schimbe modul în care ne petrecem timpul pe Internet, cu predilecție pe social media, despre care auzim puțin sau spre deloc pe Internet, deși a intrat în vigoare deja.

Deci, ce e de interes?

  • drepturile pe care le vei avea în relațiile cu principalele aplicații pe care le folosești, dar și în relație cu alte site-uri
  • cine va veghea că sunt respectate și cine va aplica regulamentul? cine este și cum ar trebui să arate această instituție

Să purcedem, deci.

Ce zice la hârtie, dom’le?

Iată câteva din drepturile-cheie prevăzute de Actul privind Serviciile Digitale (listă generată cu ajutorul Notion AI, care a mai inclus unele drepturi pe care le-am scos că nu erau de fapt din regulamentul acesta):

  • Dreptul de a fi informat despre modul în care platformele moderează conținutul și aplică termenii și condițiile lor de utilizare – corespunzând obligației platformei de a da mai multe detalii despre modul în care aceasta funcționează
  • Dreptul de a contesta eliminarea sau restricționarea conținutului – corespunzând obligației platformelor de a oferi un răspuns la această contestare
  • Dreptul de a primi informații clare și accesibile cu privire la modul în care sunt colectate, utilizate și procesate datele personale – în traducere liberă – eliminarea acelor bannere uriașe de pe siteuri care ne păcălesc să acceptăm colectarea datelor
  • Dreptul de a ști când o postare reprezintă o reclamă plătită
  • Dreptul de a fi informat cu privire la funcționarea algoritmilor care afectează accesul utilizatorilor la informații sau oportunități – corespunzând obligației platformei de a ne informa cum ne-a recomandat anumite postări sau anumite videoclipuri
  • și să nu uităm de obligația platformelor de a elimina orice fel de conținut ilegal care le-a fost semnalat
De asemenea, mare parte din lucrurile care se vor întâmpla datorită acestui regulament se află cumva după cortină deoarece privesc modul în care Comisia Europeană și statele membre vor obliga platformele social media să fie mai deschise, să dea acces la date pentru cercetare cu scopul de a monitoriza mai atent modul în care sute de milioane de europeni se informează. Ajungem, deci, la cine va veghea la respectarea acestor drepturi.

Cine veghează?

Am identificat trei nivele de veghe pentru aceste drepturi și, desigur, că peisajul e foarte complicat. Asta e pentru că serviciile digitale pe care le accesăm zilnic sunt atât de întrepătrunse în viețile noastre și noi ne luăm foarte multe de acolo încât ai nevoie de intervenții din partea mai multor instituții. Deci, trei nivele:
  • nivelul european – Comisia Europeană va sta cu ochii pe platformele peste 45 de milioane de utilizatori, va cere rapoarte de transparență, date și le va obliga să se supună unui audit independent cel puțin o dată pe an
  • nivelul național – fiecare țară va avea un Coordonator al Serviciilor Digitale – despre asta mai multe mai jos
  • nivelul academic/societate civilă – cercetătorii și organizațiile de societate civilă se pot acredita să devină persoane/entități de încredere care să semnaleze existența conținutului ilegal pe platforme sau să aibă acces la date pentru a cerceta anumite riscuri legate de activitatea platformelor.
Desigur, toate cele trei niveluri vor colabora și își vor coordona eforturile. De exemplu, cercetătorii și membrii societății civile se vor acredita la Coordonatorul din țara unde locuiesc, care, la rândul său, va trimite cereri de acces la date la Coordonatorul de Servicii Digitale din țara unde are sediul acea platformă foarte mare sau la Comisie pentru a realiza cercetări cu privire la riscuri sistemice, cum ar fi posibilitatea de nerespectare a drepturilor fundamentale. Am simplificat un pic aici, dar tot e complicat. E un lanț al aplicării regulamentului, dar dacă o verigă e slabă, știm cu toți că devine lanțul slăbiciunilor. Iar experiența reglementării europene este că autoritatea națională e adesea veriga slabă.

Sursa: Unsplash

Poliția Internetului?

Sau mai bine spus: este Coordonatorul de Servicii Digitale noua poliție a Internetului? Răspuns simplu: nu. Și nici nu e bine să-i spui așa. Hai să vedem cum trebuie să fie și ce atribuții trebuie să aibă și apoi să vedem de ce nu e OK să-i zici așa.

  • să-și ducă la îndeplinire sarcinile într-o manieră independentă, imparțială, transparentă și de îndată
  • să aibă resurse puse la dispoziție de către statul membru – inclusiv resurse tehnice, financiare și de resurse umane
  • să aibă autonomie în managementul bugetului și să nu i se afecteze independența
  • nu vor fi supuși niciunei influențe externe, directe sau indirecte și nu vor “cere sau prelua instrucțiuni de la vreo autoritate publică sau parte privată”

Mai aplicat de atât?

  • coordonatorul reprezintă punct de contact pentru companiile ce prestează servicii digitale din teritoriul național
  • la nivel european, reprezintă poziția națională în Boardul european de servicii digitale.
  • realizează investigații comune cu alte state cu privire la nerespectarea unor drepturi sau riscuri sistemice – conținut ilegal, nerespectarea drepturilor, manipularea prin mijloace automate a rețelei
  • ridică probleme de investigat pentru Comisie – în special pentru platformele social media
  • acreditează entitățile de tip “notificator de încredere” și propun cercetători care să aibă acces la date de pe platformele social media
  • primesc plângeri legate de drepturile utilizatorilor și fie le rezolvă, fie le redirecționează la coordonatorul responsabil sau la Comisie

OK, no pressure, cum zice englezul. Cercetarea pe care am mai făcut-o pe subiect [1, 2] spune că autoritățile naționale se confruntă cu un mecanism diferit de reglementare comparat cu ce s-au confruntat până acum pentru că:

  • reglementarea serviciilor digitale presupune domenii diferite – confidențialitatea datelor, competiție, discriminare, media și audiovizual sau protecția consumatorilor, iar coordonatorul va trebui să aibă abilități pe toate aceste paliere și să se coordoneze cu celelalte instituții pe subiect
  • revine eterna problemă David versus Goliat. Resursele serviciilor digitale adesea sunt mult mai mari decât cele ale unei instituții de stat care “tocmai” a mai primit încă o atribuție de gestionat
  • activitatea de supraveghere e bazată “pe proces”, adică e un fel de supraveghere pe mai multe niveluri care cere implicare din partea mai multor actori la nivel european și național – de la societate civilă și alte instituții până la cetățenii simpli. Deci, această instituție trebuie să facă și foarte multă educație pe subiect
  • să nu uităm că trebuie să înțeleagă logica de funcționare a platformelor și a altor tipuri de servicii digitale

După portretul acesta, pare foarte facil să-i spui poliția Internetului. De ce nu e așa?

  • la nivel semantic – poliția ne duce cu gândul că cineva/ceva controlează și are autoritate asupra unui spațiu. Nu e așa, după cum am explicat mai sus. Autoritatea este împărțită pe mai multe niveluri și nu e vorba de o instituție de forță.
  • tot la nivel semantic – coordonatorul de servicii digitale nu interzice, nu moderează conținut, nu monitorizează direct Internetul pentru a elimina conținut ilegal. Pentru asta există alte entități cu rol de notificare a conținutului ilegal, iar Comisia Europeană joacă un rol important în verificare și monitorizare
  • mare parte din timp ni-l petrecem pe VLOPs și VLOSEs (platforme și motoare de căutare foarte mari), care sunt sub directa monitorizare nu doar de către Comisie, ci și de coordonatorul din țara unde-și au sediul – anume Irlanda pentru mare parte din serviciile astea mari. Deci nu coordonatorul din România, spre exemplu, poate cere eliminarea unui conținut ilegal de pe o platformă, ci, atunci când vine vorba de așa ceva, se desfășoară un întreg lanț de entități care trebuie să ducă la rezolvarea problemei.

Apropo de România, la noi cine și cum e coordonatorul de servicii digitale?

ANCOM - coordonatorul de servicii digitale

șa cum am mai spus, tema aceasta a fost discutată puțin spre deloc în media mainstream. Doar ApTI a preluat tema desemnării acestei instituții. Mai apoi, la începutul lunii martie, a apărut timid un memorandum al Guvernului care propune desemnarea ANCOM în calitate de coordonator al serviciilor digitale, iar mare parte din presă a preluat comunicatul fără a interoga prea mult ce înseamnă asta. La două luni distanță, a mai apărut așa un “vârf” al știrilor depre acest domeniu, când un anume politician a fost votat ca președinte al ANCOM. Aici a apărut ideea că acest politician va conduce “poliția internetului”.

Pe scurt, să vedem cine este și cu ce se ocupă ANCOM și dacă este într-adevăr potrivită pentru aplicarea DSA:

  • “autoritate publică autonomă cu personalitate juridică, sub control parlamentar, finanţată integral din venituri proprii”
  • “are ca rol punerea în aplicare a politicii naţionale în domeniul comunicaţiilor electronice, comunicaţiilor audiovizuale şi al serviciilor poştale, inclusiv prin reglementarea pieţei şi reglementarea tehnică în aceste domenii”… DAR ȘI funcții, cum ar fi:
  • administrarea spectrului radio prin planificarea, atribuirea, alocarea benzilor de frecvenţe, asignarea şi monitorizarea frecvenţelor radio din benzile de frecvenţe [3].

Deocamdată, ANCOM se ocupă acum de partea de fundament, de “scheletul tehnic” al comunicațiilor electronice, dar acum a primit sarcina de a intra și în rețea pentru a supraveghea ce circulă pe aceste unde pe care le monitorizează.

Și asta practic obligă la un set de resurse pe care-l poate obține numai prin cooperare instituțională cu instituții, cum ar fi Autoritatea pentru Digitalizarea României, Autoritatea Națională pentru Protecția Consumatorului, Consiliul Național pentru Combaterea Discriminării, Consiliul Național al Audiovizualului și instituțiile pot continua.

DigitalPolicy

Să nu mai spunem de (practic) obligația de a-și constitui o rețea de experți cu adevărat independenți în materie de platforme și social media. De altfel, mare parte din discuțiile la nivel european (pe care le-am putut înțelege în germană și engleză) pun accent pe necesitatea dezvoltării unui departament puternic de data science și a unei unități de cercetare pentru a putea pune în aplicare cu adevărat prevederile DSA. Ce zic “frații mai mari?” Astfel de departamente sunt utile:

  • pentru construirea de expertiză la nivel instituțional – e de învățat mult pe acest subiect
  • ca imbold și sprijin pentru eforturile Comisiei – dacă vor să lucreze pe picior de egalitate sau să înțeleagă ce se spune la nivel de Comisie, atunci trebuie să aibă echipă de data science + expertiză la nivel național
  • pentru impulsionarea acreditării de “notificatori de încredere” și de cercetători
  • ca sprijin pentru coordonarea între diferite instituții, mai ales că platformele se mișcă foarte repede, iar autoritățile trebuie să țină pasul
Ok, cam pe aici veți zice: și cu ce dracu mă ajută pe mine, domnișoară?

Ce treabă are România să mai angajeze pe unii-alții din bugetul de stat pe salarii foarte mari? Ca să ce? După cum se vede treaba, parcă noi nu contăm oricum că doar țări, gen Irlanda sau Luxembourg vor avea treabă pe subiect. Păi, hai să vedem câteva motive pentru care e relevantă și activitatea în Românica:

  • riscuri sistemice – conținut ilegal – se vând o grămadă de prostii pe Internet, iar site-urile mari de social media n-au chef să acorde resurse pentru a închide niște conturi dintr-o țară puțin relevantă “for their bottom line”. Exemplu de știre pe subiect aici. Să mai zic de informațiile cu privire la traficul de persoane umane realizat pe Facebook? (informație descoperită la nivel internațional, dar relevantă pentru România dat fiind că suntem campionii la trafic de persoane în Europa). Desigur, asta nu va rămâne doar în sarcina coordonatorului, fiind vorba și de fapte penale, dar monitorizarea este un rol semnificativ pe care-l joacă coordonatorul care acreditează și pe acei notificatori de încredere
  • riscuri sistemice – protecția drepturilor fundamentale – coordonatorul național, așa cum scrie mai sus, este cel care știe cel mai bine ce pericole sunt la nivel de țară. Bula de Facebook devine din ce în ce mai săracă în empatie, iar tendințele populiste și chiar legionare ies la suprafață. Coordonatorul este cel care trebuie să urmărească aceste tendințe, să sesizeze Comisia și pe alți coordonatori pentru a investiga anumite derapaje, cum ar fi discursul urii față de unele etnii.
  • riscuri sistemice – aspecte menite să perturbeze procesul electoral sau discursul civic. Poate că e prea devreme, dar anul viitor, an în care trebuie să funcționeze deja Coordonatorul, avem 3 seturi de alegeri ale căror rezultate pot fi infuențate prin social media.
  • să nu uităm de cea mai simplă, dar foarte importantă misiune a Coordonatorului: să ai cui să te plângi atunci când platforma ți-a făcut o nedreptate și să ai unde să-ți cauți dreptatea printr-un mecanism de soluționare a litigiilor

Pe final...

Puncte-cheie de reținut. Generate de Notion AI
  • Articolul discută despre noul regulament european privind serviciile digitale și rolul coordonatorului de servicii digitale în fiecare țară.
  • Se discută despre nivelurile de colaborare și atribuțiile coordonatorului, precum și despre ANCOM ca viitor coordonator în România.
  • Se subliniază importanța coordonatorului în monitorizarea conținutului ilegal, protecția drepturilor fundamentale și procesul electoral, dar și în soluționarea litigiilor dintre utilizatori și platforme.

Referințe

 

CiteșteSalvează

Există o cale mai bună. Govtech pentru servicii publice digitale

In România, Uniunea Europeană
De Mirela Marcut
16 minute
(pentru această introducere, vă rog să vă închipuiți un context de reclamă de tip teleshopping. Imagini alb-negru cu aplicații ale statului român care funcționează și nu prea, utilizatori frustrați că li s-a blocat aplicația și nu pot face plăți. Totul foarte frustrant, iar copy-ul ar suna cam așa:)

ROeID – aplicație menită să ne creeze o identitate digitală. Care de fapt este doar una din celelalte încercări la nivel național și european de a gândi o identitate, hai să-i zicem “electronică”. Aplicația lansată de curând – surle și trâmbițe, you know. O verificare de identitate prin video și audio, totul foarte drăguț, dar n-a funcționat, iar bula a fost plină de oameni ale căror verificări de identitate au fost refuzate.

Portalul e-Romania (remember that?), portalul “democrației participative”, trebuie să ne aducă toate la un loc, de la informații despre toate localitățile țării până la servicii publice electronice. Fast-forward, 10 ani mai târziu, portalul nu mai există, banii-s dați. Alte tipuri de site-uri, portaluri, aplicații care mai degrabă sunt făcute pentru funcționari decât pentru cetățeni și care adesea mai degrabă încurcă sau poate dublează activitățile administrației.

Cred că pot să umplu pagini întregi cu astfel de exemple de aplicații, programe, servicii, dezvoltate de către sau pentru statul român, dar asta n-ar rezolva nimic, ci doar ne-ar frustra amintindu-ne de lungul șir al eșecurilor. Dar să nu uităm că teleshopping-ul întotdeauna trece de la imaginile alb-negru la cele colorate și la oameni fericiți. Pe sistemul: But wait, there’s got to be a better way! Da, așa și este și se numește GovTech.

Despre ce e vorba?
  • voi face un portret alternativ al posibilității de creare/îmbunătățire a serviciilor publice digitale care ni se oferă ca cetățeni prin intermediul sectorului GovTech.
  • voi descrie câteva mecanisme GovTech care funcționează în Europa la ora actuală
  • și, inevitabil, voi adresa posibilitatea ca aceste mecanisme să existe/să se dezvolte în România
Cu ce te ajută?
  • trebuie să știi că există și variante de cooperare între sectorul privat și cel public pentru servicii publice digitale care NU presupun realizarea unei aplicații costisitoare și extrem de neprietenoasă cu cetățenii
  • este loc și pentru implicare din partea cetățenilor sau a companiilor mici, dacă există deschidere din partea statului. Desigur, va fi adresată și întrebarea: “de ce să lucrez cu statul?”
  • te ajută să poți să ceri ceva diferit din partea celor care ne conduc/vor să ne conducă (naiv, știu).
Să purcedem, deci.

Cum face statul servicii publice digitale?

Înapoi la imaginea de la teleshopping. Ce cauzează toate imaginile alea alb-negru cu oameni supărați și frustrați de serviciile pe care le cumpărau? Păi, unele produse prost-gândite, prost-executate, bazate pe prea multă încredere în capacitatea de a executa lucruri. Sau graba care, știm, strică treaba. Sau, să nu uităm cazul românesc, intenția de a cheltui mulți bani fără responsabilitate și fără un rezultat satisfăcător.

Dacă ne întoarcem la teorie, există câteva “filosofii” legate de modul de a realiza și livra servicii publice:

  • guvernarea clasică – statul știe tot, face tot. Deci, statul este un aparat mare, birocratic și consumator de resurse
  • noul management public – statul e prea mare, trebuie reorganizat, consumă prea multe resurse, trebuie să introducem principii din sectorul privat în funcționarea sectorului public, reducem costurile, privatul știe mai bine. Tehnologia aici e mijlocul către costuri mai scăzute cu orice preț
  • guvernanța digitală – despre care am mai scris aici – e bine și cu stat mai mic, cu externalizarea către alte entități private, dar trebuie și participarea altora la realizarea și implementarea serviciilor publice și să nu uităm că tehnologia e o unealtă pentru binele cetățenilor, iar aceștia trebuie implicați în crearea politicilor publice

Reducționist pentru cei care vă pricepeți, dar e bun pentru un tablou în linii mari asupra posibilităților de a răspunde unor provocări legate de cum ne pune statul la dispoziție servicii publice digitale.

Minusurile primelor două sunt clare – statul nu întotdeauna știe tot sau nu poate tot (mai ales dacă resursele de care are nevoie s-au subțiat sub umbrela statului “subțirel”) și să nu uităm exemplul României unde externalizarea către privat a realizării unui serviciu s-a realizat defectuos, fără a lua în calcul experiența cetățeanului to say the least.

What now? GovTech is now.

 

Gov…ce?

Nu e roata inventată din nou, să ne înțelegem. GovTech este descris ca un sector IT care se ocupă cu realizarea soluțiilor tehnologice inovatoare pentru administrații publice de orice nivel. Ceea ce clar nu e nimic nou sub soare. Modalitatea de a realiza aceste soluții noi este diferită. Nu pornește de la ideea că statul nu știe, nu poate, și doar privatul poate și știe și transferăm expertiza direct într-acolo. Pornește, de fapt, de la ideea că statul are nevoie de colaborare pentru a rezolva problemele și perspectivele astea de colaborare se regăsesc în mai multe locuri și în mai multe feluri, iar rezolvarea unei probleme legate de administrația publică nu se realizează doar prin achiziționarea unui soft, unei aplicații. E nevoie de mai mult.

Să recapitulăm, deci. GovTech este:

  • parteneriatul dintre organizațiile sectorului public și start-upuri inovatoare sau IMM-uri pentru a rezolva probleme societale (conform definiției oferite de către Joint Research Centre al Comisiei Europene)
  • cooperarea strânsă dintre stat și companii tinere și inovatoare, cum ar fi startupurile, cu scopul de a livra servicii publice mai bine (definiție agregată din literatura de specialitate)
  • abordare integrată la nivelul sectorului guvernamental cu privire la modernizarea sectorului public, cuprinzând trei aspecte ale acesteia: centrare pe cetățean, servicii publice accesibile, abordare integrată cu privire la transformarea digitală (definiția Băncii Mondiale)

Literatura de specialitate consultată mai arată că ar fi două tipuri de activități în care inițiative de genul acesta se pot implica:

  • activități corective pentru sectorul public. Atunci când e clar că ceva nu funcționează bine la nivel de ofertă de servicii publice digitale sau există acest push către transformare digitală, cum e cel făcut de UE și prin care trebuie să trecem și noi. Gen “cum facem să emitem certificatul fiscal online”. Nu e nimic ieșit din comun, ci poate lucruri pe care alții le-au făcut deja.
  • activități de inovare pentru sectorul public. Atunci când există o provocare nouă sau când nu mai găsești pe piață o soluție la cheie. Sau poate găsești, dar nu vrei să dai atâția bani pe ea și eventual se poate face mai ieftin.

Câte abordări, atâtea definiții. Ce e clar e că ține de mentalitatea de “think outside the box”. Ce mai e clar e și că e mai mult decât un sector IT care face aplicații pe bandă rulantă pentru stat, ci ține de colaborarea dintre cele privat și public pentru a rezolva o problemă și nu e o chestie care se întâmplă o dată și aia e. Presupune susținerea acestei cooperări pe termen îndelungat pentru a putea schimba logica serviciilor publice digitale. De la simplul “cum să-mi înscriu copilul la școală” până la chestii ce țin de bucătăria internă, gen simulare de buget cu ajutorul datelor. Ok, ok, avioane, știu. Totuși nu cred că e chiar clar până acum cum funcționează și cel mai bine e să ne uităm la dinamica sectorului și la câteva exemple din Europa.

 

GovTech în Europa

Mai multe state care stau mai bine sau mai prost în Indicele Societății și Economiei Digitale al UE au arătat deschidere către astfel de inițiative și au înființat programe guvernamentale sau mixte care să sprijine dezvoltarea de soluții tech pentru serviciile lor publice. Harta de mai jos arată doar câteva inițiative.

Dacă te uiți la denumirile acestora, nu întotdeauna îți dai seama dacă sunt entități publice sau nu. And that’s the point. Unele sunt laboratoare, altele centre de competență, altele de cercetare, situate direct în subordinea guvernului (Scoția) sau a unei agenții guvernamentale (Israel). Altele sunt sprijinite de un consorțiu, cum e Accelerate Estonia (consorțiu format din administrația publică a Tallin, universitatea de tehnologie din Tallinn și guvern). Ce au toate aceste denumiri în comun este că adesea sunt locuri unde poți să experimentezi. And that’s also the point. Cercetarea Comisiei Europene arată că mai toate aceste entități beneficiază de un sprijin puternic al guvernului sau al leadershipului, ceea ce dă credibilitate demersului. Dar rămân oarecum independente.

 

Sursă: JRC European Commission (2021), GovTech Dynamics in the EU.

Cum funcționează? Una din caracteristicile principale este că bugetul pentru astfel de inițiative este limitat, dar potrivit pentru gândirea la scară mică a unor soluții de servicii publice digitale, lăsând loc la final pentru scalare. Oricum, e loc de experimentare și asta înseamnă că eșecul e parte din activitate. Dar cercetarea mai arată că trebuie atins un echilibru fin între experimente și performanță. Something’s gotta give.

Cu ce se ocupă mai exact? Comisia Europeană identifică vreo 6 moduri de operare:

  • activități de tip “challenge” – statul vine cu o problemă și oferă un premiu pentru rezolvarea acesteia. Soluția poate fi finanțată și testată direct în ministere sau în alte colțuri ale administrației publice, iar cei care au realizat inovația au și șansa de a folosi infrastructura sectorului public. Ce mai e bine e că soluția se validează mai întâi înainte de a fi extinsă utilizarea acesteia
  • hackathons – pentru mobilizare rapidă a resurselor și energiei și crearea de soluții într-un mod eficient din punct de vedere al costurilor. Hackathoanele au loc timp de câteva zile, iar soluția completă este doar modelată, nu și realizată efectiv, ceea ce poate duce la pierderea ideii dacă nu se intervine concret pentru implementarea acesteia
  • programe de accelerare, adică programe structurate de pregătire, mentorat și sprijin pentru dezvoltarea unor soluții (de obicei tech), unde participă echipe pentru o perioadă limitată de timp. La finalul acestui program, există “demo day”, o zi în care echipele își prezintă ideile pentru potențiali clienți din spațiul public sau de la fonduri de investiții. Baiul e că nu e obligatoriu ca acești clienți să aleagă soluțiile câștigătoare și, desigur, ca această abordare să funcționeze trebuie “multă maturitate” din partea guvernului
  • pilotare – parteneriat cu o anumită companie pentru a testa un program în condiții bine definite. Are nevoie și aici de deschidere din partea statului, dar și de cadru legal pentru acces din partea unei părți externe. Avantajul e că cele două entități lucrează îndeaproape, iar schimbul de informație și colaborarea sunt benefice pentru autoritatea publică
  • burse de cercetare-dezvoltare – le acordă statul în urma unei competiții. Companiile sau echipele câștigătoare au un timp limitat la dispoziție pentru a lucra la o soluție, trebuind să justifice oarecum cheltuirea banilor. Cu toate acestea, cercetarea adesea se face în afara unui cadru de colaborare cu statul, iar leadershipul nu poate exploata repede rezultatele din punct de vedere politic pentru că cercetarea are nevoie de timp.
  • ultima, dar nu cea din urmă – crearea de ecosisteme – întâlnirea dintre mai mulți experți, companii, oameni din administrația publică – ce pot oferi ghidaj și expertiză. Poate tipul de activitate cel mai greu de cuantificat și justificat, dar poate și cel mai semnificativ. De ce? Pentru că o astfel de inițiativă pune bazele pentru mai multă colaborare și schimb de idei și nu se axează doar pe dezvoltarea de soluții punctuale, ci și pe crearea unei culturi organizaționale mult mai deschise și atât de necesare pentru instituțiile publice. Fiindcă nu rezolvă o problemă punctuală sau nu are rezultate direct, dar are nevoie de resurse financiare, poate fi greu de justificat.

Toate acestea se întâmplă deja în Europa.

  • Polonia – laboratorul GovTech Poland funcționează din 2018, sub leadershipul direct al primului ministru, a reușit să crească relativ repede și primește finanțare multianuală. Scopul trasat a fost să crească eficiența sectorului public și să contribuie la obținerea de date despre nevoile cetățenilor. Cu ce se ocupă? Provocări, hackathons, creare și construcție ecosistem. Își propun să crească interesul IMM-urilor pentru realizarea de unelte pentru administrație, să creeze un marketplace digital pentru soluții pentru stat sau să creeze o bază pentru antrenarea investitorilor.
  • Estonia – Accelerate Estonia funcționează din 2019 ca o asociere dintre guvern, primăria din Tallinn și Universitatea de Tehnologie din Tallinn. Tipurile de activități pe care le desfășoară sunt crearea de ecosistem și realizează concursuri cu premii pentru lucrul pe anumite misiuni – cum ar fi sănătatea mentală (da, la ei asta e o problemă de politică publică)
  • Scoția – CivTech Scotland funcționează din 2017, iar principala lor activitate este competiția de challenges, catalogată în analiza Comisiei ca fiind un exemplu de bună practică replicat în alte laboratoare. Cum funcționează? Organizația setează provocări deschise la care orice organizație, echipă sau chiar individ se poate înscrie cu o posibilă rezolvare. Există un proces de evaluare a candidaturilor, iar cele de succes trec printr-o fază de explorare unde sunt finisate, iar cele mai bune de aici trec în faza de accelerator, unde chiar vor fi construite. Ei se promovează că ajută la crearea de companii pentru că majoritatea provocărilor pe care le publică sunt universale, dincolo de jurisdicții. Printre provocările recente: cum poate ajuta tehnologia la identificarea și prioritizarea sprijinului pentru oameni în situații vulnerabile, începând cu cei cu probleme legate de energie? sau cum poate ajuta tehnologia la managementul infrastructurii utilizate de către operațiuni comerciale în zone izolate sau rurale?

Astea sunt exemple la nivel național, dar GovTech prezintă interes pentru Uniunea Europeană și e suficient să ne gândim doar la avalanșa de reglementări care vin peste noi sau care sunt deja implementate și care sunt legate de “conectarea” diferitelor servicii publice din mai multe țări. Principalul proiect care va stimula creșterea sectorului de GovTech se referă la viitorul regulament pentru stimularea dezvoltării de servicii interoperabile la nivel de UE. Adică? Avem o piață digitală unică, putând comanda online din altă țară fără alte restricții, circulăm și folosim abonamentul de Internet ca și cum am fi deja în țară, putem deschide Netflixul nostru când suntem plecați în city break. De ce n-am avea un spațiu unic pentru serviciile publice digitale (acolo unde permit competențele și politicile Uniunii, desigur)?! Atenție, nu servicii unice la nivel european, ci servicii naționale care să comunice între ele.

De altfel, chiar săptămânile trecute, Comisia Europeană a lansat GovTech Incubator – un spațiu de colaborare dintre ministere, agenții naționale care lucrează pentru digitalizare și transformare digitală, dintre sectorul privat sau cercetare. De fapt, e un consorțiu format din peste 20 de parteneri – care va dezvolta programe pilot la nivel transfrontalier, două dintre ele fiind axate pe securitatea informațiilor în spații de date transfrontaliere și sprijin pentru obținerea beneficiilor sociale cu ajutorul asistenților personali.

La noi?

Din ce am reușit să găsesc pe net, România nu face parte din asocierea GovTech4all, dar asta nu înseamnă că nu va fi pe viitor. Dar, chiar așa, în România există fărâme de GovTech despre care putem vorbi?

Banca Mondială are un index numit GovTech Maturity Index care plasează România în grupa B al țărilor cu “significant focus” pe GovTech, dar indexul se concentrează mai degrabă pe utilizarea tehnologiei în administrația publică, urmărind întrebări de genul – există o autoritate de protecție a datelor sau dacă există formulare online pentru plata taxelor sau dacă există un portal pentru achiziții publice. Deși interesant, indexul nu se aplică neapărat discuției despre încurajarea inovației în administrația publică. E bine că, la scară mondială, suntem cu focus semnificativ pe GovTech, în timp ce DESI ne arată la finalul clasamentului 🙂 . O altă perspectivă: Ucraina e în grupa A a liderilor GovTech 🙂

Revenind… enumăr aici pe scurt câteva inițiative de tip GovTech conform definițiilor și conceptualizării de mai sus, pe care le-am văzut prin România, cu mențiunea că va urma o analiză detaliată pe România în curând:

  • hackathonul TechBridge – mai 2023 – hackathon organizat în comun de către MCID al nostru și Agenția de Guvernare Electronică din Republica Moldova. Soluțiile câștigătoare aici. Cercetarea Comisiei arată că păcatul unor astfel de activități este că pot fi abandonate destul de repede, dacă nu există un cadru pentru sprijinirea dezvoltării lor. Nicio vorbă despre premii sau pașii următori la acest eveniment. De asemenea, lectura în paralel a comunicatului de presă moldovean arată că aceste soluții se pot integra deja cu serviciile lor, dar nicio vorbă despre asta la noi. Încă.
  • desigur, Ion – “primul consilier guvernamental AI” – un exercițiu de cooperare între instituții publice, universități și companii private – care au creionat un sistem care adună date despre români. Deocamdată doar adună date – interesant ar fi să se dezvolte un sistem ca la CivicTech Scoția cu provocări de fructificare a datelor colectate. Nu e clar programul de exploatare al lui Ion, deocamdată pare un exercițiu de familiarizare a cetățenilor cu tehnologia cu ajutorul caravanei Ion.
  • GovITHub – un proiect cu adevărat de GovTech din România, care a adunat fellows (un fel de bursieri) ce au reușit să creeze o serie de soluții tech pentru sectorul guvernamental. Ca orice chestie bună, s-a sfârșit destul de repede. Se încadrează la GovTech, fiind similar cu bursele de cercetare-dezvoltare identificată de către Comisia Europeană. Din păcate, nu mai este activ.
  • eBay și Poșta Română – un parteneriat pentru dezvoltarea unei platforme pentru “creșterea exporturilor online de produse ale afacerilor românești”. Practic un spațiu unde companiile se pot înscrie pentru a expedia produse în toată lumea. Site-ul e aici. Apropo de ce zicea Comisia, adesea GovTech e rezervat pentru companiile mari.

Mai sunt inițiative similare dintre companii și autorități publice locale, cum ar fi dezvoltarea unui chatbot la nivel de autoritate locală, dar ceea ce lipsește în general este coordonarea și cadrul instituțional și structural care să permită inovarea. Chiar așa, ce lipsește? Scânteia 🙂 greu de pus în cuvinte, dar spiritul de încercare caracteristic unui laborator de inovare e ceea ce lipsește. Poate pentru că majoritatea acțiunilor căutate sunt corective, poate pentru că ne preocupăm cu realizarea chestiilor urgente, de bază.

Pe final...

Pe final, las câteva bariere identificate de către Comisia Europeană în dezvoltarea unor astfel de inițiative, cu mențiunea, din nou, că este un domeniu în creștere datorită nevoii de interoperabilitate la nivel european. Și pentru a avea o reflecție cu privire la de ce nu avem în România o astfel de activitate:

  • (problema pentru companii) așteptările legate de creștere într-un spațiu limitat de piață – adesea există doar un singur cumpărător, iar dacă te muți în alt stat, există costuri în plus și serviciile trebuie adaptate
  • (problema pentru sector) există dominația din partea integratorilor mari de servicii, companii care sunt all-service și adesea cumpără competitorii mai mici
  • (problemă pentru stat) avem de-a face cu un proces descurajant tradițional de achziiții publice, spre exemplu caietele de sarcini cer cifre pe care startupurile nu le pot acoperi
    • sau sunt prea stufoase dpdv al cerințelor – aspecte multianuale
  • (problemă pentru stat) cultura birocratică a statului, profund diferită de cea a unui startup

 

Referințe

 

CiteșteSalvează

Ai, n-ai date, dai la poartă.

In Digital, Uniunea Europeană
De Mirela Marcut
15 minute

Că tot e Paștele în perioada asta…să ne imaginăm o pășune unde pasc mai multe mioare care provin de la mai mulți ciobani. Oile fiecărui cioban nu sunt în numere mari, nu sunt egoiste și acaparează toată pășunea, iarba se regenerează în fiecare an, toată lumea e fericită.

Anul următor, câțiva ciobani devin un pic lacomi, aduc mai multe oi ca să facă mai multe lactate și mai multă lână, să le meargă lor bine. Poate ridică și niște garduri pe pășune că așa vor mușchii lor. Ce se întâmplă? Păi, oile ciobanilor lacomi sunt mai bine hrănite, produc mai mult lapte, mai bune beneficii economice pentru proprietari. Dar cu restul? O duc mai prost, nu mai au atât loc de pășune, gardurile îi limitează. Pășunea suferă la rândul ei. Nu se regenerează iarba, în timp terenul devine arid, și ghici ce, poate nu mai e bun nici pentru oile ciobanilor lacomi.

Alegoria asta face referire la “tragedia comunelor”, un concept provenit din ecologie, care “scoate în evidență conflictul dintre raționalitatea individuală și cea colectivă”. Mai simplu spus, actorii care sunt raționali și acționează în interes propriu nu împart beneficiile acțiunilor lor (pe termen scurt, profitul adus de oile în plus), ci doar costurile (pe termen lung, faptul că pășunea devine impracticabilă).

OK OK și ce treabă are asta cu datele? Alegoria pășunatului arată că există unele bunuri care e mai potrivit să fie administrate/reglementate în sprijinul comunității, așa-numitele bunuri comune – produse sau servicii care nu creează rivalități – aerul curat, educația, securitatea, infrastructura. Putem încadra aici și datele. Adică acele informații neinterpretate care sunt emise de toți și toate sau secvențele de simboluri care așteaptă interpretare. Pe pășunea Internetului, paștem și producem date, atât noi, indivizii, cât și senzorii, programele sau orice alte sisteme care produc date. În acest scenariu, datele sunt ale tuturor și toți le putem folosi pentru a hrăni poate pășunea. Pare că acestui scenariu îi mai lipsesc niște inorogi care pasc și niște curcubee în fundal pentru a completa fantezia.

De ce? Păi, am mai scris aici că datele nu sunt noul petrol, așa cum s-a perpetuat clișeul de la Bruxelles în ultimii ani. Știm cu toții ce face petrolul din unele state – e suficient doar să spunem trei litere – S – U – A și ne vin în minte intervențiile militare în state bogate în această resursă pentru a securiza accesul la petrol. În acest scenariu, datele sunt o resursă – sursă de rivalități pentru că cel ce are acces neîngrădit la ele controlează economia și, desigur, face o grămadă de bani.

Vom trece în acest articol de la pășunat la tehnologie și la scena internațională plină atât de state sau organizații care-și doresc acces la date, cât și de companii care dețin date cu grămada, colectate prin diverse procedee și tertipuri de la utilizatori. În contextul altor litere care ne marchează experiența online – G D P R , e important să ne uităm și la alte modalități de a utiliza datele, fie ele personale sau non-personale.

Despre ce e vorba?

  • voi aduce în discuție o altă modalitate de a ne gândi la date ca bunuri comune – ca cetățeni, utilizatori ai serviciilor de Internet, antreprenori sau angajați – provenită din literatura de specialitate
  • ne vom uita pe pășunea europeană să vedem dacă se potrivește scenariul accesului la date cu cultura protecției și limitării colectării datelor pe care o propovăduiește UE
  • vom arunca o privire și la alte state pentru a vedea care e filosofia din spate

Cu ce te ajută?

  • trebuie să ne schimbăm mindsetul cu privire la date și la experiența de utilizare a tehnologiei – avem nevoie să înțelegem alte modalități de a privi datele și de a le folosi pentru a lua decizii mai bune
  • în contextul în care toată lumea mai nou a învățat alte litere – GPT – trebuie să înțelegem că ceea ce produce acest Chat-GPT este rezultatul datelor care îi sunt furnizate. Garbage in – Garbage out.
  • în context european – urmează o regândire a regimului datelor, determinată de câteva regulamente despre care am mai scris aici și aici și care ne vor influența activitatea

Să purcedem, zic.

Datele ca bun comun..

Acord de prelucrare a datelor, gedepere, bannere care ne păcălesc să acceptăm colectarea datelor pe diferite siteuri și aplicații. Dacă stăm cel puțin o oră pe Internet, toate astea ne sunt familiare și fac parte din universul protecției datelor cu caracter personal, regulament european care pentru majoritatea dintre noi înseamnă să semnăm sau să acceptăm ceva fără să ne uităm cu adevărat ce e. Cam la asta ne gândim adesea când ne gândim la date. Noi avem ceva care este folositor companiilor tech, iar acestea minează aceste date prin modul în care stăm online. Acesta este scenariul capitalismului supravegherii, în care datele au devenit resurse semnificative pentru modelul de business al companiilor tech, iar autoritățile publice nu au reușit încă să stăvilească puterea lor.

Aici trebuie făcute două distincții pe care adesea le uităm: 1. nu toate datele sunt personale și 2. și alte companii folosesc sau au nevoie de aceste date (fie personale, fie non-personale), poate pentru ceva mai folositor decât acea reclamă la pantofi care te urmărește după ce ai intrat în mod inocent pe un site. Spre exemplu, un startup din domeniul medicinii care s-ar putea folosi de date ale radiografiilor ca să antreneze un sistem IA să identifice anumite malformații sau probleme de sănătate. (Hint: deja există sisteme de genul acesta). Sau un bloc de apartamente care deține date de consum și le poate da unei companii pentru a crea un sistem de economisire a energiei. Unul folosește date medicale – super personale – altul folosește date provenite din senzori care nu ar intra în categoria datelor personale. Un spital care schimbă date cu o firmă și un bloc care schimbă date cu o companie.

Aici intervine cartea la care vreau să fac referire: Access Rules de Viktor Mayer Schönberger și Thomas Ramge. Ei pornesc de la premisa că trăim într-o eră unde puterea este dată de date, fie personale, fie non-personale, unde datele sunt resursele prețioase care dau putere celor care pot să le colecteze și utilizeze. Această situație creează asimetrie informațională, unii au prea multă informație, alții mai puțină, devenind din ce în ce mai greu să inovezi. Cei care încearcă să inoveze cu adevărat nu mai au loc de manevră pentru că sunt luați în vizor de companiile mari. Autorii arată că inovația a scăzut de fapt în ultimii ani – comparat cu acum 60-70 de ani și o exprimă într-o manieră interesantă: trăim în vremuri plictisitoare. Sau: trăim în vremuri ale stagnării frenetice a inovației. Ei pun accent pe faptul că lipsa accesului la date este una din cauzele acestei situații, accesul la date fiind restricționat prin lipsa unui cadru legal adecvat, prin practicile de business sau prin competiția internațională menită să creeze suveranitate digitală.

Atunci, cum ar trebui să ne gândim la date? Câteva idei din carte – care toate pornesc de la ideea că datele sunt un bun public și nu unul deținut de companii, spre exemplu:

  • sunt un bun “non-rival”, pot deveni un bun public mai important decât orice resursă economică de până acum pentru că…
  • datele nu dispar atunci când sunt folosite, ci de fapt le crește valoarea atunci când sunt folosite de mai multe ori – pentru că dau semn că sunt utile
  • datele sunt folosite în mod diferit în funcție de sectorul economic, conform autorilor, sectoarele tradiționale le folosesc mai mult intern pentru creșterea eficienței lor, dar asta nu e suficient – e o abordare pur funcțională. Companiile tehnologice le folosesc pentru a experimenta, inova, crea noi produse. O astfel de utilizare creează valoare semnificativă pentru economie
  • 80% din datele colectate nu sunt folosite nici măcar o dată – pentru că cei care le-ar putea folosi nu au acces la ele
  • avantajele utilizării datelor:
    • reutilizarea este eficientă din punct de vedere economic, dar și de mediu
    • fiindcă nu știm ce aduce valoare, are sens să poată fi folosite de mai multe ori – pentru mai multe scopuri
    • și pentru aceleași scopuri, are sens să poată fi folosite pentru că creează competiție între companii

Nu pare prea familiară această caracterizare ca bun public. Cel puțin pentru “muritorii de rând”. Asta pentru că suntem obișnuiți cu paradigma GDPR doar, care, conform autorilor, a devenit “aproape o religie” și una din sursele “superiorității morale” a europenilor față de americani și chinezi. Conform lor, GDPR este un cadru legal defensiv care este obsedat de limitarea accesului la date, exagerând obținerea consimțământului, în timp ce companiile mari de tehnologie au resursele necesare pentru a naviga cadrul legal complicat și de a-și spori puterea informațională.

Care e faza cu datele acum?

Cred că deja e clar că majoritatea lumii vede de fapt datele ca resursă și toată treaba ca pe un joc de sumă nulă – cu cât mai multe pentru mine, cu atât mai puține pentru tine și sucks to be you. Trei elemente sunt relevante pentru discuția curentă:
  • războiul tehnologic rece dintre SUA și China
  • problemele cauzate de dominația BigTech în economia globală
  • strategia UE cu privire la date
Un termen așa de catchy ca război rece tehnologic face destule clicuri și vizualizări, deci date 🙂 E vorba de competiția acerbă dintre cele două state în ceea ce privește producția de cipuri, inteligența artificială sau hardware. Accesul la date e crucial pentru aceste bătălii. Deci, datele = resursă care trebuie exploatată pentru succesul în această competiție. Dar datele nu se află strict în posesia statelor membre și nici nu există un drept de preempțiune pentru “descoperirea” de date pe teritoriul național. Încă un semn că datele nu sunt ca petrolul. Datele sunt generate de sectorul public care își asumă adesea publicarea lor ca date deschise – deci ar trebui să fie un bun comun. Doar că adesea statul este cam reticent să ofere acces la informații. Apoi, sectorul privat este cel care generează, colectează și procesează date, iar aici discuția merge clar către BigTech ca principali actori. Conform lui Schönberger și Ramge, accesul lor la date a permis creșterea puterii lor ajungându-se până la situații de duopol – cum este cazul Apple și Google în ceea ce privește piața de telefonie mobilă și magazinele de aplicații. Autorii explorează câteva posibilități de reducere a acestei dominații, printre care se numără și intervenția statului pentru a “sparge” aceste conglomerate în companii mai mici. Ei ajung la concluzia că mai productivă este crearea unui cadru legal care să oblige companiile să ofere acces la date, în proporție cu mărimea lor. Cam ceea ce vrea să face UE prin poziția sa privind datele – marcată de două elemente: obsesia pentru suveranitatea digitală și a ține cât mai multe date în spațiul european și “bipolaritatea” pe care o diagnostichează cei doi autori – anume pendularea între optimismul fervent și pesimismul amar cu privire la potențialul european în ceea ce privește tehnologia. Marcată de pandemie, criza cipurilor și războiul din Ucraina, abordarea UE cu privire la date a trecut la un tipar bine-știut deja – Fortress Europe – dar cu un twist:
  • crearea unei piețe unice pentru date cu fluxuri de date intrasectoriale pentru beneficiul tuturor, unde regulile europene (hint: protecția datelor) sunt respectate… plusată de…
  • o politică industrială care să sprijine jucătorii europeni și crearea de spații de date comune pe diferite domenii pentru a ușura accesul și a impulsiona inovațiile
Fortress Europe desemnează politica de a ridica ziduri spre exterior pentru a încuraja dezvoltarea în interiorul Uniunii, doar că problema este mai complicată de atât – majoritatea datelor sunt colectate, procesate de către giganți americani sau chinezi. Chiar dacă creezi cadrul pentru a-i forța să țină datele europenilor în Europa, datele vor fi tot procesate de americani și nu de către europeni. Greu de bătut giganții.

Aici intervine ideea cărții citate – Access Rules – de fapt un joc de cuvinte în engleză care merge în două direcții:

  • Access Rules – cartea putând fi interpretată ca un manual de acces la date pentru legiferatori
  • Access Rules – accesul la date e regele, este cheia pentru prosperitate, și poate fi impulsionat printr-un cadru legal menit să ajute la valorificarea datelor

 

Cum să valorificăm datele?

După ce fac analiza climatului actual și a poveștilor cu privire la date care se spun în presă și de către decidenți (datele sunt petrol, trebuie să creem piețe de date etc), autorii detaliază viziunea lor cu privire la accesul la date. Pentru cei inițiați deja: un sistem descentralizat și deschis pentru acces la date. Pentru cei care nu sunt în domeniu: un sistem de tip “carte de telefon” unde companiile listează seturile de date pe care le au la dispoziție pe diverse categorii – căutări pe Internet, recomandări de produse, date cu privire la mobilitatea oamenilor, date de training pentru sisteme de inteligență artificială etc.

Wait, carte de telefon așa cum era pe vremuri? Well, nu chiar așa, dar asemănător:

  • un sistem de tip director cu companiile înscrise și datele pe care le dețin
  • doar categoriile de date care există, nu cele care ar putea fi
  • datele sunt non-personale sau anonimizate
  • nu există specificații despre cum ar trebui implementate/utilizate – pentru a lăsa frâu liber inovației
  • datele trebuie să aibă metadate pentru a le putea pune în context – dacă sunt date de temperatură, să fie clar cu ce scară sunt măsurate
  • înscrierea ar fi reglementată și proporțională cu mărimea companiei – pentru a nu împovăra IMM-urile, dar și pentru a crea un cadru prin care companiile mari ar trebui să acționeze proporțional cu mărimea și importanța lor (companii mari = eventual calculate în funcție de număr de clienți- cum este cu reglementarea platformelor foarte mari în UE – sau peste un prag de venit)
  • sistemul presupune reciprocitate. Iei, trebuie să și pui la dispoziție

Dacă citești cu atenție, vei vedea povestea cu oile printre rânduri. Companiile pun la comun seturi de date care ar fi benefice pentru mai multe entități pentru “pășunat”, pășunea e reglementată de către autorități, nimeni nu e lacom. Iei, dar trebui să și dai “îngrășământ” pentru pășune. Sună cam prea utopic, iar aici poate e un minus al cărții – nu prea are exemple analoge care să arate că acest sistem a funcționat în realitate, cu excepția a două povești:

  • cea cu care începe cartea și care face referire la modul de distribuție al ziarelor prin poștă în America prerevoluționară care favoriza un singur ziar și cum Benjamin Franklin, când a ajuns diriginte de poștă, a eliminat monopolul unui singur ziar transmis prin poștă, permițând transmiterea presei în mod egal folosind infrastructura poștei. Morala: accesul la informație este fundamentul unui proces democratic de luare a deciziilor.
  • a doua – mult după anii 1700 – ce implică AT&T, companie care a monopolizat comunicațiile în SUA pentru mult timp și care a intrat în vizorul autorităților americane în anii 50 pentru abuz de putere. AT&T a scăpat în mare neatinsă, dar a trebuit să pună la dispoziție mare parte din patentele Bell Labs, laboratorul de cercetare al companiei. Nu doar atât, dar toate patentele viitoare ale laboratorului ar fi urmat să fie disponibile companiilor la costuri mici. Printre invențiile care au devenit disponibile ca urmare a acestei decizii? Tranzistorul. Da, ăla care sta la baza tuturor cipurilor și dispozitivelor noastre electronice.

Ambele povești au totuși ceva în comun: reglementarea autorității care a intervenit și a creat contextul pentru circulația informației. Seamănă poveștile astea cu ce face UE? Da și nu.

  • DA – prin Digital Services Act și Digital Markets Act – platformele social media mari trebuie să se supună unor audituri și să pună la dispoziția cercetătorilor date despre modalitatea de funcționare a algoritmului acestora. De ce? Pentru a vedea mai clară dacă algoritmul care maximizează timpul nostru petrecut online are și alte efecte adverse.
  • DA – prin strategia de date și reglementările propuse și/sau votate deja privind datele și guvernanța datelor, UE cere ca datele să circule, să fie refolosite, totul sub umbrela protecției datelor.
  • DA – își propune crearea de data spaces pe sectoare strategice – cum ar fi sănătatea sau agricultura – și creează sisteme de sprijin pentru integrarea companiilor în aceste ecosisteme
  • NU – filosofia de reutilizare a datelor pe care o propune UE e să creeze intermediari – servicii de intermediere a datelor sau data fiduciaries – entități care certifică calitatea, cantitatea și transferul datelor. Problema pe care o ridică și autorii Access Rules legată de aceste servici este simplă: cine sunt aceștia? why should I trust them? UE zice că vor fi entități non-profit care vor fi certificate și vor fi furnizori de încredere.
  • NU – nu există nicio obligație din regulamentele privind datele de a da acces la date. Cum convingi tu un gigant tech să-ți dea acces? Nu zic că nu dă acces acum (vezi Google Trends sau Crowdtangler), dar cu siguranță o poate face mult mai bine.

 

Ai, n-ai date..

Pășune, teren de fotbal, suntem tot pe acolo. Pentru final aș vrea să fac referire la titlul articolului. Noi toți – stat, companii private, organizații non-profit, cetățeni – avem nevoie de date să luăm decizii în fiecare zi. Deciziile pe care le luăm, ideile pe care le avem, toate sunt bazate pe seturile de date/informații care ne sunt la dispoziție. Deci indiferent de ce date avem, tragem la poartă. Cu cât avem date mai utile, nu neapărat mai multe, cu atât putem să fim mai preciși.

Deci, dacă nu funcționează metafora cu pășunea și că trebuie să o întreținem pentru binele nostru, atunci mai vin cu una: ai, n-ai date, dai la poartă. Ca să marchezi, ai nevoie de date. Utile.

 

Referințe

CiteșteSalvează

 

Digital Policy este o platformă de analize de politici publice digitale, axată pe nivelurile european, național și local.

Pagini

Newsletter