CategorieUniunea Europeană

Ce a mers bine și ce a mers prost în 2023? Ediția de #digital

In România, Uniunea Europeană
De Mirela Marcut
7 minute

Ce a mers bine și ce a mers prost în 2023? O scurtă postare de #yearinreview, varianta pe digitalizare. De ce? Păi, în pregătirea pentru această recapitulare, am citit să văd ce au mai scris ziarele pe acest subiect. În România, am găsit un mare nimic, iar în străinătate cam singura poveste a fost legată de inteligența artificială. Not that there’s anything wrong with that, cum ar zice Seinfeld, dar parcă s-au mai întâmplat și alte lucruri. Deci, să purcedem.

Ce a mers bine în UE?

A fost un an foarte foarte foarte încărcat, aș putea zice. Încărcat pentru că se încheie în curând mandatul actualei Comisii și au fost nenumărate propuneri legislative care au trebuit duse la bun sfârșit. Unele mai repede decât altele. Unele mai bine decât altele. Să le vedem, in no apparent order:

  • primele semne de funcționare pentru Digital Services Act și Digital Markets Act. Ce înseamnă asta? Comisia Europeană a desemnat primele companii cu influență semnificativă pe piețele digitale în cazul DMA- vezi mai jos. Ce înseamnă asta pentru noi? Printre altele, vom putea dezinstala aplicații care nu puteau fi dezinstalate până acuma. Nu ne vor mai putea urmări în afara platformei dacă nu consimțim asta (nu uitați să nu mai apăsați “Accept all”)
Sursă: Comisia Europeană
  • pentru DSA – avem o listă de VLOPs și VLOSEs: platforme și motoare de căutare foarte mari. Pornhub e cel mai recent 🙂 Ce înseamnă aceste desemnări pentru noi? Printre altele, existența unor puncte de contact unde ne putem plânge dacă conținutul nostru a fost dat jos de platformă, eliminarea conținutului ilegal, opțiunea de a ști de ce vedem un anumit tip de conținut (asta dacă știm unde să ne uităm, desigur)
  • adoptarea Chips Act – care creează niște mecanisme prin care aparent ar trebui să crească producția de cipuri în UE. Să mai reducem din dependența de alte teritorii. Nu uitați, n-avem cipuri, n-avem nimic.
  • finalizarea negocierilor pe Digital Wallet. Vom avea un portofel digital european, unde ne vom putea încărca actele și vom avea aici și o semnătură digitală. Nu, nu e obligatoriu, nu ne cipează nimeni.
  • adoptarea Data Act. Apar reguli cu privire la utilizarea și partajarea datelor pe care le produc dispozitivele pe care le folosim. Aici regulamentul e cu bătaie către companiile care au nevoie de date pentru a-și antrena sistemele de inteligență artificială
  • Ok, bine bine, vorbim și de inteligența artificială. După luuuuungi negocieri și aproape un eșec, a venit un acord provizoriu pe regulamentul care va marca modul în care sistemele IA sunt puse pe piață. Am vorbit muuult aici și aici despre acest regulament. Aproape că l-am pus la “ce nu a mers bine în UE”, dat fiind că a existat un “last minute push” să nu apară prevederi cu privire la utilizarea sistemelor de tip Chat-GPT în regulament, ceea ce ar fi dus la deraierea întregului dosar.

Ce nu a mers bine în UE?

  • putem pune aici și o mică referire cu privire la inteligența artificială. Societatea civilă și-a exprimat îngrijorările cu privire la utilizarea supravegherii în timp real cu ajutorul acesteia în anumite condiții care deocamdată sunt vagi. Pentru textul final mai avem de așteptat, pentru intrare în vigoare avem și mai mult, undeva până în 2025.
  • alt punct slab: primul raport privind Deceniul Digital care spune că, așa cum merg lucrurile, nu vom atinge țintele asumate pentru 2030. Raportul cere eforturi mai mari din partea statelor membre și o mai bună conectare între politici.
  • eram gata să o scriu pe asta la “ce a mers bine”. Nici acum nu avem un acord cu privire la directiva care ar reglementa munca pe platformele de freelancing sau sharing economy. Eram gata să o pun acolo pentru că Parlamentul și Consiliul ajunseseră la un acord provizoriu, dar până la urmă propunerea nu a primit votul final în Consiliu. Ce ar fi însemnat acest acord? O relație mai clară între persoanele care lucrează și platforma care îi găzduiește și drepturi sociale aferente muncii pe care o prestează. Prezumția angajării – așa cum a fost desemnată de către Comisie – ar apărea dacă relația contractuală ar bifa mai multe criterii (care au fost de fapt mărul discordiei). Oh well, o lăsăm pe asta pentru la anul.

Ce a mers bine în România?

  • lansarea primelor programe de finanțare pentru digitalizare. Într-un final. Am avut celebrul “digitalizare IMM prin PNRR”, dar care de-abia la final de an și-a desemnat primii 1000 de “câștigători”. Am avut diverse programe lansate pentru dezvoltarea competențelor digitale prin tot felul de mecanisme care seamănă mult unul cu altul.
  • avem câteva cadre strategice naționale finalizate – inteligența artificială, centrele de inovare digitală, quantum – care ar trebui să creeze fundamentul pentru niște politici publice coerent pentru aceste tehnologii.
  • pentru prima dată și ceva din sfera guvernanței digitale. Avem comitete și comiții 🙂 Consiliul Științific și de Etică în Inteligența Artificială, Consiliul de Educație în IA, Comitetul de IA. Deocamdată nu știm cum și când funcționează și ce rezultate sunt pe acest palier. Cel mai cu tam-tam ar fi primul Consiliu Științific care conține experți din diaspora care lucrează în domeniu
  • primele finanțări pentru centrele de inovare digitală (Digital Innovation Hubs) prin fonduri europene. Am mai vorbit despre asta, rolul acestor centre este să sprijine companiile să treacă prin procese de digitalizare, nu prin simpla dotare cu echipamente, ci cu sprijin strategic prin realizarea de strategii de transformare digitală, spre exemplu.

Ce nu a mers bine în România?

  • lansarea eID în România. Fără evaluare de impact pentru datele personale, un pic cam inutilă deocamdată pentru că încă nu sunt servicii digitale interoperabile disponibile, dar na, era un deadline de respectat pentru finalizarea proiectului 🙂 Plus posibila suprapunere cu buletinul electronic.
  • avem cadru strategic pentru IA, dar degeaba avem, dacă n-avem un cadru legal care să oficializeze această strategie. E ok, bine că avem strategia națională pentru educație pentru schimbări climatice și mediu. Când vrei să treci cu adevărat ceva, se trece 🙂. Din nou din Seinfeld: not that there’s anything wrong with that…
  • raportul românesc pentru Deceniul Digital, care, desigur, ne situează pe ultimul loc în UE și arată că, dacă totul merge în continuare la fel, nu ne vom atinge țintele pentru 2030…
  • ținte pe care nu le știm foarte clar (în afară de cele care cer să atingem 100% servicii publice digitale de exemplu) pentru că nu avem încă aprobată foaia de parcurs națională pe care o cere Comisia Europeană, anume angajamentele pe care ni le asumăm pentru a realiza acele ținte și pentru a contribui la realizarea țintelor europene – cum ar fi 80% din cetățeni cu competențe digitale de bază. To be fair, n-am găsit foi de parcurs nici la alte state.
  • câteva programe de finanțare în care s-au pus foarte mari speranțe au cam fâsâit. De exemplu, transformarea bibliotecilor în huburi de competențe digitale al cărui apel de finanțare a fost relansat pentru că n-au fost depuse prea multe proiecte. Sau programul pentru Smart Labs în licee, unde, iarăși, au fost mai mulți bani disponibili decât proiecte depuse

Unde să-l pun pe Ion? Nu-l pot cataloga nici la bine, nici la rău pentru că a fost anunțat cu fanfaronadă ca fiind primul consilier guvernamental artificial din lume, ca să aflăm că de fapt a fost pre-programat să zică una-alta. Pentru că n-am aflat cu adevărat ce crede după ce a fost etichetat de sute de mii de ori. Pentru că a fost abandonat pentru că s-a schimbat ministrul, pentru că nici acum nu știm cu ce a fost antrenat. Dar a fost ok și pentru că a mers printr-o caravană prin țară, caravană menită să popularizeze digitalizarea. Care nici asta nu știm ce impact a avut. Ok, m-am răzgândit. E de fapt la “ce nu a mers bine”.

Bilanț la bilanț? Păi, pare că la nivelul UE legiuitorii s-au chinuit să termine ce au început pentru că li se termină mandatul, în timp ce, în România, coaliția e tot la final de mandat, dar de-abia acum au dat drumul proiectelor. Care cine știe cum se vor continua.

 

CiteșteSalvează

L-au legat cu bandă izolatoare. Acord provizoriu pe Actul privind IA

In Uniunea Europeană
De Mirela Marcut
12 minute

Săptămâna trecută tot despre IA am scris și am întrebat retoric “cine v-a lucrat aici?” Era vorba că întreg regulamentul pe IA era în pericol din cauza unor “mofturi” de ultim moment ale câtorva state cruciale pentru atingerea unei majorități calificate – Germania, Franța și Italia.

Iată că, păstrând metafora meșterului venit să repare ce au stricat alții încercând să repare, au pus niște bandă izolatoare, au legat cu niște sârmă și au reușit să o pună de un acord provizoriu între cele trei instituții europene (Consiliu, Parlament și Comisie) pe viitoarea legislație privind inteligența artificială.

Deci, merită să ne uităm peste ce a fost legat cu bandă izolatoare și cum s-a prins laolaltă varianta finală a Actului privind Inteligența Artificială (AIA).

Despre ce e vorba mai jos?

  • contextualizăm un pic discuția răspunzând la câteva “dece-uri” despre această legislație
  • vedem cum anume s-a ajuns la un acord și ce zic principalii actori despre rezultat
  • facem un rezumat al principalelor prevederi ale legislației și ne uităm un pic în viitor

Să purcedem, deci.

 

Câteva "de ce-uri"

De ce te-ar interesa această legislație?

  • legislația despre IA va afecta pe toată lumea pentru că intrarea IA în viața noastră este de-abia la început, iar sistemele de tip IA vor pătrunde în fiecare aspect al vieții noastre. Negreșit.
  • în esență, legislația este despre protecția consumatorilor, iar mare parte din aplicare va fi în “spatele scenei”.
  • chiar dacă noi suntem priviți ca niște “consumatori”, regulamentul e mai degrabă despre protecția “cetățenilor” pentru că o parte din obligațiile companiilor care pun pe piață sisteme IA se leagă de drepturile noastre fundamentale. Deci nu vorbim doar de “clientul are întotdeauna dreptate”, ci despre “clientul este de fapt cetățean și are o serie de drepturi fundamentale”.

De ce e a big deal acest acord ?

  • pentru că inteligența artificială e “tehnologie de uz general”, cam ca electricitatea sau Internetul. UE e prima entitate din lume care are acum o reglementare de protecție a cetățenilor și de ghidare a companiilor care dezvoltă astfel de soluții. SUA are “executive orders” pe acest domeniu, dar care n-au putere de legislație federală care să se aplice asupra întregului teritoriu, așa cum se întâmplă în UE.

De ce a durat atât – 2 ani?

  • pentru că vorbim de procesul decizional european – unde timpul de negociere al unui regulament sare adesea de un an. Să nu uităm că nici definiția IA nu a fost agreată decât acum în ultimul moment.
  • am mai povestit aici de ce a durat atât. Dar, pe scurt: proiectul de reglementare nu conținea la început prevederi despre sistemele IA, cum este Chat-GPT. Având în vedere că aplicația asta a devenit foarte populară în extrem de scurt timp, autoritățile europene – îndeosebi Parlamentul European – au considerat necesară introducerea unor prevederi legate de siguranța celor care utilizează aceste soluții

 

Acord provizoriu pe Actul privind IA

Avem, așadar, un acord cu privire la textul Actului privind Inteligența Artificială. Acord provizoriu. Acord provizoriu înseamnă că instituțiile europene au agreat principalele elemente ale legislației care mai rămăseseră de negociat.

Urmează acum un pas crucial, cel de redactare efectivă a textului final unde va mai fi de lucru. Deci, nu a intrat în vigoare, nu se aplică de mâine, nu omoară inovația încă, nu ne putem plânge încă unei autorități că un sistem IA ne-a discriminat. Apoi urmează un vot final, atât în Parlament (care reprezintă cetățenii), cât și în Consiliu (care reprezintă statele). Iar intrarea în vigoare e prevăzută undeva pentru 2025, deci mai avem de așteptat. Cum va evolua tehnologia până atunci este de urmărit până atunci pentru că, deși regulamentul a fost gândit să fie “future proof”, unele aspecte ale acesteia vor necesita corectură sau adaptare cu siguranță.

Cum am ajuns la acest acord? Păi, n-a fost nevoie decât de niște negocieri maraton și lipsă de somn pentru a se ajunge la un acord. 36 de ore au durat negocierile, oprite doar de câteva pauze de somn. Nimic nu ajută mai mult la rezolvarea unui impas decât lipsa somnului, aș zice eu. Comentariile celor interesați de subiect pe LinkedIn au fost mai degrabă că așa nu se face negociere cu minți private de somn care nu mai gândesc rațional sau nu mai sunt capabile să înțeleagă nuanțe sau idei simple. E și ăsta un punct de vedere. Dar am impresia că, odată ce intri în hora deciziilor europene, ești băgat la un curs special despre cum să stai treaz până târziu pentru că, așa cum am zis aici, marile decizii ale UE s-au luat aproape întotdeauna în orele târzii ale nopții sau devreme ale dimineții. Și asta poate fi catalogată ca o decizie mare, indiferent de câte probleme au semnalat principalii actori implicați.

Ce i-a ținut treji atâta timp?

Imagine din timpul negocierilor. Sursa: Thierry Breton, X

Nu, n-a fost doar cafeaua sau energizantul, ci niște mere. Ale discordiei. Anume sistemele de uz general (de tip Chat-GPT) și utilizarea IA pentru aplicarea legii și supraveghere. Să le luăm pe rând.

De fapt, principala chestie care a întârziat negocierile – anume reglementarea sistemelor de IA de uz general – a trecut relativ repede. Adică, acestea vor fi clasificate pe două categorii în funcție de mai multe criterii – cum ar fi puterea de calcul – exact așa cum a fost în compromisul inițial după care s-au ofticat cele 3 țări.

Toate sistemele vor publica rapoarte cu privire la utilizarea lor și la datele cu care s-au antrenat. Iar cele mai puternice vor trebui să treacă prin mai multe testări, cum ar fi “adversarial testing”, adică să duci la extrem funcționarea aplicației dându-i prompturi și întrebări menite să ofere răspunsuri problematice. Cam cum a făcut tipul de la New York Times cu Bing AI. Acestea vor trebui să ofere și rapoarte de eficiență energetică, fiind cunoscut faptul că sistemele puternice consumă foarte mult curent. Câteva milioane de căutări pe zi pe Chat-GPT ar putea consuma 1 Gwh în fiecare zi, echivalentul consumului zilnic de curent a peste 30 de mii de gospodării, conform calculelor făcute de Universitatea din Washington. Un Birou IA înființat în cadrul Comisiei se va ocupa de supravegherea funcționării acestor sisteme.

Acest model de supraveghere este același din compromisul inițial după care s-au supărat cele trei state. Ceea ce mă face să cred că nu asta a fost toată povestea. Ci celălalt măr al discordiei – adică utilizarea IA pentru aplicarea legii și pentru supraveghere.

IA poate fi utilizată pentru identificarea la distanță a unei persoane în două moduri – în timp real și după un eveniment. Parlamentul a cerut, de exemplu, interzicerea totală a identificării biometrice în timp real. Consiliul nu a fost de acord – adică cei care au monopolul forței. Astfel că a apărut iarăși un compromis – un acord pentru utilizarea sistemelor IA de identificare biometrică în timp real în anumite condiții legale. Deci, autoritățile vor putea utiliza identificare în timp real, spre exemplu pentru a căuta țintit o victimă a unei răpiri sau pentru prevenirea unei amenințări teroriste specifice sau prezente. Sau pentru a localiza o persoană suspectată de infracțiuni grave. Nu știm încă ce înseamnă această infracțiune gravă. Mai mult, o autoritate din sfera aplicării legii va putea folosi o aplicație IA chiar dacă nu are o evaluare de conformitate cu legea în aceste cazuri urgente – ceea ce poate lăsa portițe de utilizare greșită.

În ceea ce privește identificarea biometrică la distanță după un eveniment, există mai puține restricții, dar tot este necesară o autorizație în prealabil în conformitate cu legislația națională. De altfel, în comunicatul său, Consiliul scoate în evidență treaba asta cu legislația națională și faptul că regulamentul nu interferează cu politicile de securitate națională. Ca să fie clar, nu se aplică sistemelor IA utilizare în scopuri militare sau de apărare. Deci, aparatul de forță al statului continuă oarecum nederanjat, conform și organizațiilor de societate civilă care au urmărit subiectul.

Oricum, au mai dres busuiocul cu obligația ca autoritățile publice ce utilizează sisteme cu risc ridicat, adică și acestea de identificare biometrică, să se înscrie într-o bază de date europeană.

Ce a mai ieșit din această negociere?

  • obligație de realizare a unei evaluări de impact cu privire la protecția drepturilor fundamentale în cazul utilizării unor sisteme IA de risc ridicat
  • interzicerea salvării în masă a imaginilor cu persoane de pe Internet. Acestea se utilizează de obicei pentru a face baze de date pentru recunoaștere facială. Clearview AI e o companie americană care a făcut asta și a făcut un soft de recunoaștere facială pe care l-a vândut chiar și autorităților europene, deși e cam ilegal și din punct de vedere al GDPR
  • interzicerea sistemelor care manipulează comportamentul uman pentru a le submina liberul arbitru.
  • interzicerea utilizării sistemelor IA pentru recunoașterea emoțiilor în diverse contexte, cum ar fi la locul de muncă
  • diferențierea amenzilor în funcție de mărimea companiei. IMM-urile care nu respectă prevederile de a pune pe piață sau a utiliza în conformitate cu regulamentul aceste sisteme vor plăti amenzi mai mici
  • posibilitatea de a ne plânge unei autorități competente dacă am fost nedreptățiți de un sistem IA

 

Cu ce preț? versus Doar atât?

Image by Freepik

Dacă nu ești în bula celor interesați de tehnologie sau politici publice sau UE, nu prea ai habar care a fost faza cu negocierile asta. Și uite ce efect au unele sisteme de IA asupra noastră și nici nu știm de fapt. Pentru că, de fapt, un sistem IA de recomandare a conținutului pe rețelele sociale îți creează această bulă. Apropo, versiunea de regulament din Parlament presupunea încadrarea la categoria de risc ridicat a acestor sisteme care ne recomandă conținut pe social media. Asta n-a intrat în varianta agreată de ambele instituții.

Dacă întrebi pe cineva din societatea civilă despre eliminarea acestei prevederi, probabil că o să-ți răspundă că e problematică. Dacă întrebi pe cineva care lucrează cu social media, îți va răspunde că și așa bietele companii sunt prinse cu alte regulamente importante care le creează o grămadă de obligații.

Să vedem totuși ce zic diferiții actori despre forma agreată a AIA. Reacțiile organizațiilor de societate civilă s-au învârtit mai ales în jurul victoriei statelor cu privire la utilizarea IA în domeniile de aplicare a legii. Încă un semn că aici a fost de fapt miza negocierilor. Accentul pozițiilor acestor organizații a căzut pe diferitele lacune prinse intenționat sau nu în legislație, care ar putea permite supravegherea în masă. Conform lor, asta se vede mai ales în împărțirea pozițiilor între Parlament și Consiliu, cel din urmă insistând asupra unor excepții de la regulament pentru domeniile de securitate și apărare, mai ales în ceea ce privește supravegherea în masă cu ajutorul IA.

Digital Europe, principala organizație ce reprezintă BigTech și alte mari companii tech din Europa, se întreabă “Cu ce preț vine acest acord?”, accentuând ideea că reglementarea IA este o povară pentru companiile de tehnologie și că acestea vor trebui să angajeze mai mulți avocați decât inginerii de IA. Aceste idei fac parte din povestea des spusă în UE că legile și regulamentele omoară inovația și că economia este blocată de prea multe reguli. Povestea asta s-a mai spus de fiecare dată când a apărut o reglementare pe tehnologie, dar aici chiar suntem într-un teritoriu nebătătorit pentru că e prima dată când o entitate reglementează IA.

 

Și cu ce mă ajută pe mine, domnișoară?

Pe final, o scurtă recapitulare a ceea ce înseamnă acest act legislativ.

Dacă ești cetățean:

  • conținutul creat de IA va fi desemnat ca atare ca să știi că nu a fost creat de un om. Să vedem dacă rămâne doar aplicarea asta care e deja acum când copiezi un text din Chat-GPT în alt program, pentru că pur și simplu poți să ștergi textul de disclaimer de final.
  • la locul de muncă, șeful nu va putea folosi un sistem de IA pentru a detecta cât de mult nu-l suporți
  • la graniță, sistemele de identificare prin IA vor putea fi utilizate. Oare acestea să fie noile smart borders în Schengen?!
  • dacă un sistem de IA ia decizii care îți afectează viața, tu va trebui să știi că a fost un IA implicat în luarea deciziei și vei putea contesta dacă crezi că ești discriminat.
  • dacă locul tău de munca se va transforma și va include luarea de decizii cu ajutorul IA, să știi că tu vei lua oricum decizia la final. Nu te baza doar pe IA, tu trebuie să gândești cu mintea ta
  • companiile nu-ți vor putea lua imaginile de pe social media pentru a crea o bază de date pentru recunoaștere facială. Nu-i problemă, va supraveghea statul oricum spațiul public. Dacă ai ghinionul să fii o față generică sau să semeni foarte bine cu cineva, s-ar putea să fi confundat/ă cu un răufăcător, cum s-a întâmplat deja în România.

Dacă ești o companie, păi, aici e mai complicat:

  • totul depinde de cine ești. Pui pe piață un sistem IA? Păi, trebuie verificat unde se va folosi și pentru ce și determina ce fel de riscuri aduce. Există câteva domenii de mare risc: educație, loc de muncă, siguranță, control la frontieră etc. Dacă pui pe piață un sistem de mare risc, trebuie să faci evaluări de conformitate înainte de a-l pune pe piață și încă o evaluare de impact cu privire la respectarea drepturilor fundamentale ale utilizatorilor. Încă e fuzzy cum vor arăta aceste rapoarte, dar vor apărea structurile de sprijin pentru aceste evaluări. Oricine ai fi, trebuie să oferi specificații și documentație tehnică pentru sistemul pe care-l pui pe piață.
  • utilizezi sisteme IA? ar cam trebui să realizezi evaluări asupra contextului de utilizare ca să vezi dacă pot apărea efecte nedorite.
  • utilizezi sisteme IA? trebuie să te asiguri că persoanele care supraveghează sistemul sunt “competente, calificate și pregătite în mod adecvat și au resursele pentru a asigura supravegherea sistemului IA”.
  • ai control asupra datelor care intră în antrenarea sistemului? Păi, trebuie să te asiguri că datele sunt de calitate și comprehensive.

Astea sunt doar câteva exemple. Odată ce apare textul final, va fi mult mai clar care sunt obligațiile. Până atunci, să stăm cu ochii și pe noile versiuni de sisteme IA de uz general și pe textul final al legislației.

 

Referințe

  1. https://www.digitaleurope.org/news/23173/
  2. https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai
  3. https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/
  4. https://www.euractiv.com/section/artificial-intelligence/news/european-union-squares-the-circle-on-the-worlds-first-ai-rulebook/
  5. https://www.euronews.com/next/2023/12/04/eu-governments-hypocrisy-is-on-full-display-over-dangerous-police-ai
  6. https://www.theguardian.com/world/2023/dec/08/eu-agrees-historic-deal-with-worlds-first-laws-to-regulate-ai
  7. https://algorithmwatch.org/en/ai-act-deal-key-safeguards-and-dangerous-loopholes/
Photo by Lucas van Oort on Unsplash
CiteșteSalvează

Cine v-a lucrat aici? Legislația IA e în pericol

In Uniunea Europeană
De Mirela Marcut
13 minute

Chat-GPT a împlinit ieri un an. DigitalPolicy face azi trei ani. Coincidence?! I think not! 🙂 Dar e momentul potrivit să ne uităm un pic pe unde se mai află instituțiile europene cu negocierea pe Actul privind Inteligența Artificială (AI Act), despre care am scris la vremea lui aici. De fapt, ar trebui să mai adăugăm aici un termen de referință: Chat-GPT a împlinit un an, DigitalPolicy trei, iar procesul de negociere al AI Act are deja 2 ani împliniți. Pare că legislația IA e în pericol.

Da, vorbim încă de un proces de negociere, având în vedere că AI Act încă nu a intrat în vigoare. Ce s-a întâmplat? Dacă nu vrei să mergi mai departe cu cititul, am răspuns la această întrebare deja din prima propoziție. Chat-GPT a împlinit un an, asta s-a întâmplat. Dacă vrei să mergi mai departe, vei afla despre:

  • cum noile aplicabilități ale IA au deturnat textul inițial al regulamentului
  • cum unele state pot deturna toată negocierea unui act legislativ din varii motive (a se citi – interese naționale)
  • cât de divizați sunt toți actorii care au habar cât de cât despre IA. Dacă ei sunt divizați, atunci ce pretenții să mai avem unii de la alții că înțelegem ceva despre IA?

De ce te-ar interesa să mergi mai departe?

  • reglementarea IA a pornit ca o soluție pentru protecția și siguranța consumatorilor. Deci, dacă nu iese, noi, cetățenii, ieșim mai prost.
  • mărul discordiei se învârte în jurul sistemelor de tip Chat-GPT și reglementarea acestora. Sunt acestea riscante sau nu? Dacă ai folosit cel puțin o dată un astfel de sistem, atunci ți-ai făcut o părere despre asta. Cum te situezi? Vezi mai jos ce s-ar putea întâmpla cu acestea.
  • de la “IA va aduce sfârșitul lumii” la “IA o să-mi elimine jobul”, cred că le-am auzit pe toate în ultima vreme. Vorbim cu adevărat despre așa ceva? Ce poate să facă o astfel de reglementare cu privire la aceste amenințări?

Să purcedem, deci.

Unde eram cu AI Act?

Apărută în aprilie 2021, propunerea privind reglementarea inteligenței artificiale (IA) s-a axat, la fel ca majoritatea legislațiilor adoptate pe tehnologii, pe protecția consumatorilor, adică a utilizatorilor de aplicații IA. Ideea era să prevenim jungla tehnologică în care fiecare producător se “auto-reglementează” și spune că va respecta o serie de reguli și poate-poate nu va pune pe piață produse menite să le facă rău oamenilor.

Aici intervine un aspect semnificativ: cum adică un software face rău oamenilor? Păi, atunci când drepturile lor fundamentale nu le sunt respectate sau sunt puse sub amenințare fără un ghidaj adecvat. De exemplu, când fiecare mișcare îți este supravegheată, când un program de acest gen decide ce fel de indemnizație primești sau dacă primești așa ceva. Sau la locul de muncă când o cameră de supraveghere dotată cu recunoaștere facială detectează că te-a enervat șeful, iar acesta primește rapoarte cu privire la recunoașterea emoțiilor tuturor angajaților

Dacă te-a înfricoșat vreuna din chestiile de mai sus, să știi că unele din aceste practici vor fi interzise (supravegherea în timp real cu anumite limitări, recunoașterea emoțiilor la locul de muncă) sau restricționate. Depinde de context și de locul în care se întâmplă. Asta e abordarea bazată pe risc în limbajul birocratic european. Adică o catalogare a riscurilor utilizării de IA în funcție de domeniul și/sau tip de utilizare în care se aplică – locul de muncă, frontieră, securitate etc.

Sursă: Think-tank-ul Parlamentului European

Impresiile cu privire la această abordare pe riscuri au fost și sunt împărțite în clasica diviziune între cei care cred că reglementarea e nașpa și cei care cred că reglementarea nu merge destul de departe.

De ce ar fi reglementarea nașpa în general? Răspunsul e că ar crea mai multe costuri de operare a acestor sisteme și că oricum restricțiile de operare dăunează inovației. Fiindcă nu poți să faci ce vrei, atunci nu poți inova. Dacă nu poți inova, nu poți aduce produse și servicii de valoare pe piață cu care să creezi mai multă valoare. Filosofia asta vine din America unde modelul de reglementare a tehnologiei este mult mai relaxat și pune accentul pe auto-reglementare. Nu mă credeți pe mine, atunci credeți-o pe Anu Bradford care scrie despre acest model în noua sa carte – Digital Empires.

Na și de aici se împute treaba cu toată legislația 🙂 De ce? Pentru că un produs nou a apărut în mijlocul procesului de negociere al AI Act și a direcționat total concentrarea pe utilizarea universală a acesteia, concentrare care intră în conflict cu modul în care erau văzute sistemele IA până atunci – un sistem pentru o utilizare pentru un domeniu.

Produsul era nou prin capabilitățile pe care a reușit să le obțină cu ajutorul infrastucturii și puterii de calcul, dar tehnologia din spate nu era chiar nouă. E vorba despre Chat-GPT, desigur.

Cine v-a lucrat aici?

Vorba aia, când vine meșterul să repare ceva și se ia cu mâinile în cap și zice: cine v-a lucrat aici? Cam așa și cu opinia publică acum cu puțin timp la dispoziție pentru finalizarea negocierilor pentru Actul IA când ne-am trezit cu toții cu o bombă din partea unor state. Dar să păstrăm un pic suspansul aici.

Deci, OpenAI și Chat-GPT ne-au lucrat aici și au determinat negociatorii din Parlamentul European să propună includerea “foundational models” sau “sistemelor de IA de uz general” în textul propunerii de regulament. Până aici toate bune. Dacă ai utilizat cel puțin o dată Chat-GPT și nu ți s-a zburlit părul pe spate când ai văzut că se exprimă bine în română și poate să-ți ușureze destul de mult activitatea, atunci felicitări, ești mult mai echilibrat decât mine. Sau mai optimist.

Hai să-ți stric un pic impresia despre acesta. De fiecare dată când noi îl folosim, îl antrenăm. De fiecare dată când îl folosim, acesta învață. Dar atenție, învață cuvinte și știe că trebuie să-ți livreze ceva ce s-ar potrivi ca răspuns la întrebare. De aceea, poate să inventeze chestii. Am făcut un training pentru profesorii din sistemul preuniversitar despre cum ar putea integra această unealtă la clasă și le-am arătat cum poate inventa bibliografii și cărți atunci când îi ceri surse de informare. Reacția a fost cam așa: 😲

Și din această mică discuție irelevantă cu niște profesori, vine întrebarea care e pe buzele negociatorilor europeni: sunt aceste modele riscante? ar trebui să le punem în categoria aia de risc ridicat (care vine la rândul ei cu niște obligații)?

 

A fi sau a nu fi de mare risc?

Fără a intra foarte mult în aspecte tehnice legate atât de aceste sisteme de uz general, cât și de negocierile europene, e suficient să spunem că reglementarea acestora a intrat în vizorul și a Parlamentului și a Consiliului UE, dar cu abordări oarecum diferite.

Background pentru cine nu știe: Comisia Europeană propune, Parlamentul și Consiliul negociază între ele și extind sau reduc propunerea inițială, iar Comisia poate interveni cu variante de compromis etc. Dar, votul final se dă în ambele instituții pe o variantă pe care se negociază luni bune în general. Sau ani.

Spre exemplu, președinția cehă de anul trecut a propus includerea acestora în categoriile de risc ridicat indiferent de cum se utilizează (să nu uităm că acestea pot fi utilizate în orice domeniu). Parlamentul a venit cu o serie diferită de obligații pentru aceste sisteme de uz general indiferent de categoria de risc în care se află. Aici e dilema. Spre exemplu, Google Maps e considerat un astfel de sistem pentru că are la bază IA. Dacă-l folosești ca să te duci în excursie, treaba ta, e o chestie personală și nu prea există foarte multe riscuri asociate. Dar dacă e folosit ca soft integrat într-o ambulanță sau o mașină de poliție (gen cum sunt BMW-urile noastre :), atunci intervin aspecte legate de securitate, viață privată etc.

Aici a apărut o nouă variantă de compromis – “tiered approach” – din nou din limbajul melodios al birocrației europene. Adică nu toate sistemele de genul acesta sunt cu impact maxim asupra societății, deci Comisia a propus reglementarea pe două categorii: prima care le include pe toate sistemele de uz general (cu obligații de transparență) și a doua cu mai multe obligații pentru sistemele IA cu impact asupra societății. Acestea ar trebui să ofere explicații cu privire la modul de funcționare a sistemelor, spre exemplu.

Responsabilitatea de a desemna pe cele din urmă ar cădea instituției denumite generic AI Office (pe bază de capabilități, număr de utilizatori, investiții etc), care s-ar ocupa de foarte multe aspecte tehnice pentru implementarea reglementării. Aici ar putea intra, de exemplu, Chat-GPT. Acestea ar reprezenta un risc sistemic asupra societății datorită puterii lor și numeroaselor sale utilizări.

Image by Vectorarte on Freepik

Legislația IA e în pericol

Și acum vine detonarea bombei. Pe ultima sută de metri, Franța, Germania și Italia au publicat o scrisoare în care și-au exprimat dezacordul total cu privire la reglementarea acestor sisteme de uz general și limitarea acestei reglementări la realizarea unor coduri de conduită pe care companiile se angajează să le respecte. Mai mult, n-ar fi de acord nici cu sancțiuni, decât după încălcări repetate ale codului de conduită. Toată lumea a fost luată prin surprindere de această poziție, care va paraliza Consiliul UE, iar Parlamentul a menționat clar că nu va da înapoi cu privire la această reglementare.

Care-i problema Franței, Germaniei și a Italiei? Eterna problemă: reglementarea acestor sisteme ar ucide inovația. Inovație realizată în UE. Presa scrie că imboldul pentru această poziție a venit de la 2-3 companii din domeniul IA din țările respective. Veșnicul lobby, adică 🙂 Dar demersul pare oarecum egoist, având în vedere că aceste state au fost de acord cu reglementarea sistemelor IA atunci când ele vin din alte părți. Deja când vorbim de lucruri din ograda noastră, lucrurile se complică.

Motivul tehnic se leagă de faptul că abordarea cu privire la sistemele de tip Chat-GPT se leagă mai degrabă de tehnologie în sine, deci de cei care o pun pe piață, decât de utilizarea lor, spre deosebire de restul propunerii de regulament. Reglementarea ar presupune obligații pentru cei care pun pe piață, nu cei care o utilizează. Dar să nu uităm că aceste sunt sisteme de uz general, deci nu prea ai alte portițe de reglementare pentru că sunt mii de tipuri de utilizări posibile.

De ce acum și nu mai demult când era vorba și de o reglementare poate mai dură? Aceasta e o întrebare bună care poate ține de un demers strategic de a întârzia per total tot regulamentul. Pentru că asta se poate întâmpla. Vine finalul de an și ultimele întâlniri pe acest subiect sunt pe 6 decembrie, apoi se schimbă Președinția de la 1 ianuarie, iar mare lucru nu mai pot face pentru că Parlamentul nu va mai lucra prea mult, având în vedere că vor fi alegeri în iunie.

Am citit reacții de genul din presă: “acum ori niciodată”, “declaration of war” șamd.

Ce mai zic alții?

Dovadă că procesul decizional european e chiar democratic și deschis este numărul relativ mare de scrisori deschise și apeluri publice din jurul acestui regulament. E semn că presiunea, de oricare parte ar fi ea, funcționează. Iar, odată cu apelul lansat de Franța, Germania și Italia, presiunea publică s-a intensificat și ea.

Să începem cu industria. Ce spune?

  • DigitalEurope – una din cele mai mari asociații profesionale care reprezintă companiile din tehnologie – sprijină scrisoarea celor trei țări. Nu sunt de acord cu clasificarea sistemelor de uz general ca fiind de mare risc, iar companiile n-ar trebui să fie împiedicate să utilizeze aceste sisteme. Reglementarea lor ar însemna poate finalul lor: “let’s not regulate them out of existence”
  • scrisoare deschisă a mai multor asociații profesionale și companii din mai multe sectoare, printre care Renault, Siemens, Valeo, Carrefour etc: reglementarea acestor sisteme ar duce la costuri ridicate de conformitate și ar duce la retragerea investițiilor și relocarea companiilor. Ceea ce ar duce la o rămânere în urmă și mai mare față de SUA în ceea ce privește dezvoltarea tehnologiei. De ce n-ar trebui reglementate? Pentru că nu știm încă prea multe despre aceste sisteme. Ar trebui instituite doar o serie de principii generale, subliniind faptul că ele vor deveni aproape ca niște asistenți personali

Pe scurt, ideile sunt aceleași – nu reglementați mai mult decât trebuie, ucideți inovația și dezvoltarea. Într-adevăr, dezvoltarea tehnologică de care ne bucurăm acum este rezultatul unui mediu relaxat de reglementare. Dar să nu uităm unde am ajuns acum: concentrarea informației la o mână de companii, eliminarea competiției, expansiunea necontrolată a social media cu repercusiuni sociale importante.

De aici pornește și un alt punct de vedere enunțat de European Policy Centre. Analiștii acestui think-tank detaliază că lipsa reglementării unor astfel de sisteme de IA va putea aduce același tip de concentrare în mâna corporațiilor mari, lucru care oarecum deja se întâmplă. De altfel, haosul de la compania OpenAI, unde fondatorul Sam Altman a fost dat afară și reinstaurat în decurs de câteva zile, arată limitele abordării private cu privire la auto-reglementare.

Soluția lor vine din două părți. Din reglementare oricum. Mai precis, din politica de competiție, pentru a elimina riscul concentrării puterii IA în mâinile unor companii, așa cum se întâmplă acum cu social media. Dar oricum, realizarea de astfel de modele presupune investiții mari, iar competiția ar fi restrânsă, astfel că aici vine a doua parte a propunerii de reglementare, anume dotarea acestor companii cu statut de “utilități publice” sau cu responsabilități fiduciare care să le lege de un anumit interes public. Cam cum vorbim despre compania de electricitate sau de apă.

Institutul Ada Lovelace, una din vocile cele mai relevante din IA din lume, afirmă fără echivoc: “ar fi iresponsabil să nu reglementăm sistemele IA de uz general pentru a proteja câțiva campioni naționali”. Furnizorii ar trebui să fie reglementați și nu utilizările specifice pentru că aceștia au capacitatea financiară de a asigura conformitate pentru întregul lanț de valoare.

Pe lângă toate argumentele similare cu cei de la EPC, poziția Ada Lovelace vine și din studiul preferințelor și atitudinilor cetățenilor cu privire la IA, despre care am vorbit aici. Oamenii vor reglementare, vor să aibă încredere în soluțiile IA pe care le utilizează.

Cele mai clare poziții cu privire la necesitatea de a trata diferit sistemele IA de uz general vin de la o scrisoare semnată de o grămadă de cercetători și universitari proeminenți din IA. Ei vorbesc despre riscul sistemic inerent al acestor sisteme datorită caracterului lor general sau a potențialului de a afecta aproape orice parte a societății. Ei spun că nu există altă soluție decât de a reglementa “la origini”, acolo unde se pot rezolva destule probleme dinainte de implementare în anumite sectoare.

What now?

Sunt câteva scenarii pe masă la ora actuală. Cel mai des menționat în presa de specialitate este că întreg regulamentul este în pericol și că nu mai este prea mult timp la dispoziție. The clock is ticking.

Dar uităm adesea că politicii europene aproape că îi place acest tip de urgență. Marile decizii din tratate s-au realizat în miezul nopții sau foarte aproape de expirarea unui termen-limită. Astfel de condiții invită la compromis, iar compromisul este la inima procesului decizional european. Acesta este al doilea scenariu: un compromis pe ultima sută de metri între ce vor statele și ce vrea Parlamentul. Problema e că am fost deja la momentul unui compromis – cu acea abordare pe două paliere – și acesta a fost respins.

Închei cu poziția directorului pentru cercetare al Centre for European Policy Studies, care a contribuit cu multă cunoaștere la procesul de realizare și negociere pentru acest dosar legislativ: “finish it already”.

 

Referințe

Image by Freepik
CiteșteSalvează

Cum arată România de la Bruxelles? Cu ce-am rămas după Romanian Digital Day

In Digital, România, Uniunea Europeană
De Mirela Marcut
9 minute

Am participat la Romanian Digital Day în Parlamentul European, eveniment organizat de MEP Victor Negrescu și aflat la a doua ediție. Prima vizită a Digital Policy în Parlamentul European 🙂

Discuțiile din jurul evenimentului s-au legat de necesitatea ca România sa fie mai prezentă in discuțiile legate de politicile digitale, de tehnologie si inovare, simțindu-se și în rândul participanților acest apetit pentru a explora perspectiva României si a actorilor naționali, regionali și locali în ceea ce priveste transformarea digitală.

Aflându-ne in Anul European al Competențelor, mare parte din discutii s-au axat pe ce anume putem să facem ca să creștem competențele digitale ale românilor si să ne adaptăm la noua realitate a inteligenței artificiale și a automatizării.

Dacă tot am discutat o zi întreagă despre asta, e util să punem pe hârtie câteva din contribuțiile cele mai valoroase ale întâlnirii Romanian Digital Day. Astfel, putem să avem un fir roșu asupra transformării digitale a României, atât din interior, cât și din exterior. Asta pentru că am avut și invitați din străinătate care au vorbit despre România.

 

Ce zic românii despre transformarea digitală?

Aspecte relevante pentru cetățeni / sectorul public / sectorul privat

  • o afirmație venită din partea unui actor privat din România care a generat câteva reacții: “România este o țară “răspândită pe toate cele patru revoluții industriale”
  • exemplu de modernitate în România: suntem una din primele țări din lume la plata contactless și numărul 2 în lume la plata biletelor pentru transportul în comun cu ajutorul cardului. DAR, doar 28% din români au cel puțin competențe digitale de bază și doar 10% din IMM-uri vând online.
  • sectorul economiei digitale este în creștere în România, existând loc destul să crească doar că două lucruri pot influența această creștere poate chiar în moduri opuse: competențele digitale relativ scăzute ale românilor, care pot ține în jos acest sector, și “generative AI”, care ar putea ajuta la dezvoltarea de noi modele de business și la creștere economică
  • s-a adus în discuție necesitatea pregătirii angajaților de către companii, atât în ceea ce privește perfecționarea, cât și recalificarea acestora. O idee interesantă aici: retenția angajaților! Degeaba pregătești angajații, dacă nu poți să-i ții la locul de muncă. Lipsa unei strategii cu privire la retenție duce la costuri extra. Aici e valabil și în ceea ce privește retenția la nivel de regiune.
  • succesul programelor de perfecționare și recalificare ține și de flexibilitatea programelor oferite, iar angajații au nevoie de sprijin în acest sens pentru a crește motivația de a participa
  • sprijinirea companiilor aflate în faza de “scale up” (adică de extindere) este una din soluțiile menționate pentru economia românească.
  • în general, discursurile românești din sectorul public se axează pe talentul și finanțările pe care le are România la dispoziție.
  • un punct semnificativ care a fost abordat doar tangențial și doar la capitolul “ar trebui să…”: decidenții ar trebui să comunice mai mult despre legislațiile care privesc trecerea serviciilor digitale în online. Cu precădere despre identitatea digitală. Completare personală: cineva în care oamenii au încredere ar trebui să vorbească despre asta, altfel e efort irosit.
  • DESI este adus în discuție de mai multe ori – câțiva din actorii privați cer fixarea țintelor Deceniului Digital ca ținte relevante pentru țară, nu doar ca aspecte de bifat pentru că ne cere Comisia Europeană.
  • dincolo de banii europeni, am remarcat și multiplele exemple de inițiative private pentru dezvoltarea competențelor digitale și a educației digitale a tinerilor. Completare personală aici: e important să punem cap la cap aceste inițiative și să le “mapăm” pentru a vedea unde există eforturi dublate, unde nu se intervine deloc etc.
  • măsurarea abilităților digitale -atât la clasă, cât și în societate – este de asemenea semnificativă pentru că permite intervenții și follow-up
  • invitații din sectorul de educație au subliniat importanța utilizării tehnologiei la clasă, sugerând că “tehnologia e o ancoră” către cunoaștere. Dilemă exprimată aici de către un profesor: cum ținem copiii departe de telefon la oră? Răspunsul unui alt cadru didactic din același panel: dacă ora e captivantă, nu va sta pe Tik-Tok.
  • “călătoria educațională” trebuie să se schimbe – atât pentru sistemul educațional, cât și pentru programele de formare. Nu mai vorbim de 4 ani de facultate și 40 de ani de muncă. Ar trebui să vorbim despre 4 ani de specializare, 4 ani de muncă și tot așa.

Ce zic străinii despre transformarea digitală a României?

Aspecte relevante pentru cetățeni / sectorul public / sectorul privat

  • în ceea ce privește educația digitală și competențele digitale – Comisia poate oferi doar unelte de sprijin, cum ar fi finanțările și monitorizarea, dar depinde de nivelul național și regional să implementeze proiecte cu impact
  • la nivel regional, e important de identificat nișele regionale și de corelat cu strategiile de specializare inteligentă pentru a pregăti forță de muncă în domenii de impact regional
  • este datoria nivelului național să se ocupe concret de realizarea și implementarea politicilor. Unii au denumit asta “datorie morală” de a rezolva problema diviziunii digitale în materie de competențe și infrastructură
  • România stă bine la echilibru de gen în IT – lucru menționat de mai multe ori de persoane din Comisie și Parlament
  • ce poate face România mai mult în afară de implementare? poate activa mai mult în programul Horizon axat pe cercetare și inovare
  • dar se sugerează și introducerea de aspecte legate de competențe digitale în programa tradițională încă din școala primară. Spre exemplu, instruire cu privire la “legile lumii digitale”, așa cum învață copiii despre legile fizicii, să învețe despre legile lumii digitale. O completare personală: legile fizicii nu se schimbă, în timp ce cele online se pot schimba, dar ideea tot e semnificativă și “jucăria” asta numită Digital Policy se încadrează și ea aici.
  • profesorii trebuie să primească “pregătire țintită” nu doar pentru a preda cu ajutorul tehnologiei, dar să instruiască la rândul lor copiii cu privire la dezinformare, inteligență artificială etc. Asta în condițiile în care în România doar 28% din cetățeni au cel puțin competențe digitale de bază. Aici includem și profesorii.
  • să nu uităm să includem și alți actori care pot contribui la educația digitală – că nu e vorba doar despre instituțiile educaționale.
  • modernizarea procedurilor de achiziții publice (hint: se referă aici la ecosistemul de GovTech) care să permită companiilor care dezvoltă produse inovatoare să crească. Aceasta e considerată una din soluții pentru sprijinul creșterii startupurilor.
  • Piața Unică – adică libertatea de circulație a bunurilor, serviciilor, capitalului și persoanelor – este un sprijin pentru companiile europene care vor să crească. Dar a apărut și altă perspectivă aici – din punctul de vedere al sectorului privat – încă sunt numeroase bariere pentru companii în drumul lor spre piața europeană. Și aici trebuie intervenit pentru a sprijini companiile cu potențial

Ce a zis Digital Policy la Romanian Digital Day?

 

Romanian Digital Day – ediția a doua, noiembrie 2023

Ce putem face pentru a crește gradul de competențe digitale a românilor, dacă ne raportăm la nivel regional? Asta am încercat să abordez în panelul intitulat “Boosting regional talent at a digital level”. La fel de bine se putea intitula si invers – Boosting digital talent at a regional level.

Daca stau bine sa ma gândesc, intervenția Digital Policy s-a încadrat mai mult in acest al doilea titlu, mai specific: cum facem ca mai multi oameni sa aiba competente digitale? Si nu cu intervenții naționale, unde numaram zeci si mii de oameni care au absolvit cursuri de competente digitale, dar poate ei au facut mai multe sau au mai fost numarati o data, pe sistemul „doua la prefectura, doua la primarie etc”. Actiunea cea mai buna pentru dezvoltarea competentelor digitale este la firul ierbii, unde actori locali – pot fi si biblioteci sau huburi de inovare digitale sau chiar si ONG-uri – intervin tintit și raportează mai departe către celelalte nivele.

Deci, ce am spus? Am identificat patru elemente semnificative în relație cu dezvoltarea competențelor digitale la nivel regional:

  • date regionale – așa cum politica regională arată că cea mai bună acțiune este cea mai aproape de cetățean, așa trebuie să se facă și intervenția pentru dezvoltarea competențelor digitale. Dacă stabilim ținte naționale și nu ne uităm la distribuția pe regiuni, riscăm să avem intervenții dublate sau redundante.
  • “streamlining” – să conectăm diferitele inițiative pentru dezvoltarea competențelor, să le monitorizăm și să avem o privire de ansamblu asupra impactului acestora. Astfel, vom putea răspunde la întrebarea: unde trebuie să intervenim mai exact? Unde avem lipsuri? Ținta europeană e 80% din persoane cu competențe digitale de bază, care e cea românească? Care sunt nevoile la nivel regional? Unde s-a mai intervenit? Aici putem conecta ideea menționată mai sus, conform căreia nu doar instituțiile de educație tradițională se ocupă cu asta, ci trebuie un parteneriat cu mai mulți actori pentru acoperire mai mare.
  • “flexibilitate” – dacă ne referim la angajați și nevoile pieței muncii. Trebuie să avem un standard de competențe digitale – cum ar fi cel de promovat de DigComp, despre care am mai vorbit aici – dar cum îl corelăm cu nevoile sectoarelor economice? Atât agricultorii, cât și zidarii poate că trebuie să știe despre securitatea cibernetică, dar ce altceva mai trebuie să știe care e specific sectorului lor de activitate?
  • forecasting – “digital skills trainings are not future-proof”, evoluția tehnologiei ne cere întotdeauna să revizităm ce știm. O combinație de competențe digitale și soft ar putea fi “future-proof”. Ideea e că e important să gândim o serie de instrumente de prevăzut ce nevoi vom avea în viitor – pe sector economic, pe regiune.

Și cu ce rămânem?

Ideea e să rămânem cu niște idei de tip #foodforthought sau care invită la mai multă acțiune din partea decidenților, actorilor privați etc. Cu ce am rămas eu:

  • educația digitală – ține de cooperarea structurată dintre mai multe instituții – școli, licee, sectorul privat și public. Structurată adică parteneriate consistente cu instrumente de livrare și măsurare clare.
  • educația digitală presupune mai mult decât predarea pachetului Office – ci cetățenii trebuie să învețe și “legile spațiului digital”.
  • DESI nu este doar un index transmis anual de către Comisia Europeană, este urmărit atent de sectorul privat (poate mai mult decât sectorul privat), dacă ne raportăm la modul în care a fost abordat în intervenții
  • nivelul regional este semnificativ pentru intervenția pentru dezvoltarea competențelor digitale – biblioteci, huburi de inovare digitală
  • economia din România duce lipsă de companii care să fie sprijinite să crească, dar în același timp are nevoie și de angajați cu competențe digitale. Provocare dublă.

 

CiteșteSalvează

Unde suntem cu digitalizarea? Raportul despre România privind Deceniul Digital

In România, Uniunea Europeană
De Mirela Marcut
10 minute

Am fost recent la o conferință internațională destul de mare, conferință axată pe studii europene. Nu am fost surprinsă să observ că programul conținea destul de multe lucrări (raportat la ultimele conferințe și discuții pe care le avusesem cu alții din domeniu) axate pe politici digitale. Baiul care a fost? că trebuia să alerg dintr-un panel în altul, să ajung să le ascult pentru că nu au fost puse într-un panel sau măcar într-o arie tematică. Majoritatea lucrărilor (printre care s-a aflat și a mea) au fost sub panelul “zone gri ale integrării piețelor”, doar că mare parte din lucrări nu s-au ocupat direct de #digital din perspectiva economică, ci mai degrabă de modul în care Comisia și alți actori orchestrează legislația în materie de #digital pentru a acumula mai multă putere la nivel european. Pasăre rară în acest context: lucrarea mea despre rolul statelor în implementarea politicilor digitale.

Nu-i surprinzător să vină o astfel de lucrare dintr-o țară care stă destul de prost la capitolul implementare a elementelor de politici digitale care vin de la UE, dar și care ar fi extrem de necesare pentru adaptarea țării noastre la nivelul civilizației vestice. Din ce am vorbit cu alți cercetători, pentru ei DESI, Indexul Societății și Economiei Digitale, este destul de necunoscut și pentru că nu stau prost în aceste clasamente și nu se pune problema să nu se facă reforme pe servicii publice digitale sau pe a dezvolta economia sau societatea digitală.

Așa e, doamnelor și domnilor, a venit acea perioadă din an. Cea în care ne uităm la Indexul Societății și Economiei Digitale să vedem dacă încă suntem pe locul 27 și să spunem că iar n-au luat datele cele bune sau că “nu se poate să fim ultimii că doar am făcut asta și asta”. Doar că acum nu mai suntem pe ultimul loc 🙂 Asta pentru că nu mai plasează în prim plan clasamentul statelor, ci cum progresează ele spre țintele europene. Convergența digitală, deci. Oricum, am cam verificat, suntem tot ultimii.

Why should you care? De ce ți-ar păsa?

  • ai auzit cu siguranță discursurile întregi referitoare la miliardele și milioanele de Euro care curg spre România. 20% din PNRR ar trebui să meargă pentru proiecte pe #digital și nu mai zic de banii pe toate fondurile structurale care sunt programați pentru #digital. Vezi aici “pomelnicul” lor. Deocamdată sunt doar teoretici și pe hârtie. Și rapoartele europene arată asta.
  • la anul sunt alegeri 🙂 de toate felurile. Vom auzi discursuri despre cum s-a implementat, s-a făcut aia și aia. E bine să știi să întrebi unde sunt serviciile publice digitale, unde sunt programele de competențe digitale promise? Să votezi în cunoștință de cauză.
  • nu se comunică suficient pe tema schimbărilor în materie de legislație digitală în România. UE ne cam împinge de la spate cu legislațiile pe #digital. Viața noastră e din ce în ce mai mult online, dar anumite aspecte încă nu se mișcă. De ce? Îți arată rapoartele Uniunii privind Deceniul Digital.

Deci, azi, despre proaspetele rapoarte privind Deceniul Digital și, în special, despre raportul privind România. Deci să nu-i mai zicem DESI 🙂 că ne dă coșmaruri:

  • cum performează Uniunea Europeană către țintele Deceniului Digital?
  • România pe unde mai e?

Cum arată raportul privind Deceniul Digital?

Așa cum am spus mai sus, rapoartele sunt diferite față de clasicul DESI care a existat începând cu 2015, dacă nu mă înșel. Nu mai facem de rușine statele că sunt pe ultimele locuri. De altfel, plasarea în ranking a dispărut din rapoartele naționale, iar tabelele cu statele lipsesc de tot din întreg raportul european. Puține state sunt luate în vizor sau oferite ca exemplu pozitiv sau negativ. Miza e europeană, nu mai e națională. Cam acesta e mindsetul.

Ce mai e diferit?

  • importanța raportului parcă e altfel – textul menționează că acesta completează rapoartele privind Semestrul European – pe baza cărora s-au realizat și Planurile de Redresare și Reziliență și care oferă orientări clare de politică dinspre Comisie spre state
  • pentru fiecare țintă din Deceniul Digital, prezintă recomandări de politici mult mai clare decât la DESI care nu se leagă doar de intervenții naționale, ci mai ales de legătura cu politicile europene în domeniu
  • deci, raportul e mult mai complex pentru că integrează și elementele de legislație, de fonduri disponibile, cât și aspecte tehnice
  • există parcă o presiune mai mare pe statele membre, pentru că raportul menționează adesea necesitatea unui efort mai mare din partea statelor, și evidențiază și necesitatea implicării părților interesate locale sau regionale. De exemplu, pentru serviciile publice digitale deja încep să se uite și la servicii locale și regionale. Ceea ce e normal
  • există referiri cu privire la progresul către țintele asumate până în 2030. Adică, pe sistemul “dacă continuăm așa, atingem doar o țintă de…până în 2030”. Analiza predictivă pentru politici publice – limbi străine pentru decidenții noștri.
  • suveran – un adjectiv prezent foarte des în textul raportului. Uneori în circumstanțe ciudate, gen “sovereign AI solutions”.
  • geopolitica apare în raport într-un mod explicit. Adesea țintele europene sunt privite în paralel cu performanța americană. Spre exemplu, acoperirea cu 5G este mult mai mare în SUA decât în UE
  • raportul face legătura cu părerea cetățenilor cu privire la tehnologiile digitale și cu îngrijorările lor privind spațiul online. Printre îngrijorări se numără securitatea cibernetică sau protecția datelor
  • să nu uităm de declarația drepturilor digitale – care are o secțiune dedicată în raport – și care se leagă de mai multe elemente de legislație adoptate sau în curs de adoptare în UE

 

Iepurele sau broasca țestoasă?

Cum performează Uniunea Europeană către țintele Deceniului Digital?

Sursă: Comisia Europeană, Raportul privind Deceniul Digital (2023)
Sursă: Comisia Europeană, Raportul privind Deceniul Digital (2023)

Cam așa arată performanța europeană pentru atingerea țintelor Deceniului Digital. Dintre toate, cele legate de nodurile periferice “edge nodes” și quantum computing sunt cele mai întârziate poate și pentru că deocamdată ele țin foarte mult de cercetarea teoretică.

Ce mai iese din evidență pe categorii?

  • conectivitatea e privită și din perspectiva tehnologiilor prin satelit și există referințe la necesitatea finanțării viitorului conectivității. Cum anume finanțăm creșterea vitezei și accesului? Hint: unii au propus să plătească BigTech 🙂
  • există programe naționale de quantum deja pornite. Ungaria, Austria sau Portugalia, iar recomandarea Uniunii e dacă că statele membre intră în programe de quantum computing, să o facă ținând cont de interesele strategice europene. Mai pe scurt: să nu intre în cooperări cu state, gen China 🙂
  • pentru integrarea tehnologiilor în companii, conform analizei, dacă trendul merge tot în acest fel, nu se vor atinge țintele la nivel de 2030 (proiecția arată că doar 20% vor folosi AI). Spania e dată exemplu în raportul european prin inițiativa de tip toolkit digital pentru IMM-uri, despre care am scris și aici.
  • ținta pentru intensitate digitală este relativ mai ușor de atins.
  • Pentru ambele componente mari referitoare la integrarea tehnologiilor digitale în companii, EDIH-urile sunt printre principalii actori pentru sprijinirea dezvoltării soluțiilor pe bază de IA, dar și pentru a sprijini companiile să crească.
  • pentru unicorni, ținta e posibil să fie atinsă dacă se continuă trendul
  • la capitolul competențe digitale – 46% nu au competențe digitale de bază. Conform raportului, dacă nu se acționează coerent, nu se vor atinge țintele până în 2030. S-ar atinge un procent de 59%.
  • Nici ținta specialiștilor IT nu s-ar atinge dacă nu se intervine cu programe educaționale și sprijin pe upskilling și reskilling. Recomandare de politică – să integreze în foile de parcurs recomandările Consiliului privind abilitățile digitale în educație
  • țintele pe servicii publice digitale nu sunt atât de îngrijorătoare, având în vedere progresul realizat deja. DAAAR, există câteva aspecte care au fost până acum ignorate și care trebuie luate în calcul de mai toate statele membre: situația serviciilor publice locale și regionale – a căror digitalizare este mai redusă decât cele centrale. Un alt aspect interesant – nu există investiții suficiente în servicii inovatoare bazate pe IA sau pe date
  • recomandare interesantă pentru statele membre: monitorizarea utilizării serviciilor publice pentru a identifica anumite disparități. Un audit de maturitate digitală

România în raportul privind Deceniul Digital

Există 2 rapoarte referitoare la statele membre – unul scurt și unul lung. Ambele au recomandări de politici pentru România care aproape toate încep cu “Romania should step up..” “Romania should accelerate” șamd.

Nu mai avem clasament, avem doar comparație cu țintele europene și parcursul spre 2030. Ce iese în evidență aici?

  • raportul recunoaște din nou lipsa unei strategii “adusă la zi și complexe” privind transformarea digitală. Iar speranța vine de la foaia de parcurs națională care ajunge să fie văzută ca înlocuitor de strategie. E bine, nu e bine? E bine că monitorizarea va fi făcută extern, de către Comisie. Nu e bine pentru că nu tragem speranțe că ceea ce va fi scris acolo va fi pe bune.

 

  • Cenușăreasa este capitolul privind abilitățile digitale – unde suntem mult în urmă și considerați un risc la adresa atingerii țintelor colective la nivel european
  • e pusă presiune pe autorități, dar și pe stakeholderii privați, pentru a reduce aceste disparități de scor. 28% au abilități digitale de bază, în timp ce media europeană e dublă.
  • interesant aici: raportul remarcă și necesitatea de investiții ale companiilor în pregătirea angajaților lor, subliniind că nu e doar apanajul statului. Aici vine și o recomandare: stakeholderii privați să fie mai implicați în dezvoltare și livrare de politici

 

  • conectivitatea este încă o excepție și încă un element care ne ține cât de cât sus. Doar că pierdem avansul din cauză că 5G nu este încă dezvoltat la noi. Aici mai vine o întrebare: oamenii simpli au nevoie de 5G?
  • pentru zonele albe „rămâne de văzut cum vor fi utilizate investițiile din PNRR sau fondurile structurale“ vor fi folosite. Sugerează aici lipsă de încredere în rostul investițiilor.

 

  • cea mai mare problemă este la integrarea Big Data, cloud și IA. La IA, de exemplu, încă nu s-a progresat față de anul trecut, tot 1% din companii folosesc soluții IA
  • strategia IA, recent lansată în consultare publică, și comitetul privind IA sunt menționate ca sprijin pentru oportunitățile IA în România. Și aici implementarea e cheia.
  • Pe cât a fost de hulit și criticat, proiectul ION este scos în evidență ca bună practică pentru a facilita înțelegerea cetățenilor asupra inteligenței artificiale
  • EDIH-urile apar iarăși ca structuri menționate cu rol de sprijin pentru autorități și companii în ceea ce privește transformarea digitală a companiilor

 

Bonus: dacă tot s-a lansat cadrul strategic privind inteligența artificială, să vedem și unde suntem în ceea ce privește adoptarea inteligenței artificiale în companii.

  • altă Cenușăreasă – serviciile publice digitale. Raportul integrează și elemente din alte rapoarte, de ex. eGovernment Benchmark – pentru a furniza un context cu privire la dezvoltarea serviciilor și calitatea lor. Una e digitalizarea, alta e apoi experiența utilizatorului 🙂 Și aici suntem relativ în urmă.
  • îmbunătățirile descrise în raport sunt strict din prisma cadrului legal.
  • câteva proiecte menționate: PSCID, eID care se testează, sistem de e-health. Și astea în derulare.

Unde suntem?

Nu foarte departe de unde am fost anul trecut. Rapoartele pe UE și pe statele membre punctează mult responsabilitatea statelor membre în ceea ce privește transformarea digitală. E normal și în alte state, așa cum am aflat, de la conferința de care am vorbit mai sus, nici măcar nu e o chestie de discuție. La noi e.

Foaia de parcurs pe care trebuie să o facă fiecare stat membru va ajuta cumva? Va ajuta la monitorizare și expertiza Comisiei va putea fi utilă pentru a recomanda modificări sau ajustări. Problema e tot la noi în ogradă.

 

CiteșteSalvează

What are the effects of AI and data regulations on companies?

In English, Uniunea Europeană
De Mirela Marcut
14 minute

This article has been translated from Romanian with the help of Notion AI.

What are the effects of AI and data legislations on companies? To understand this, we need to start with American movies versus European movies 🙂 Who hasn’t seen one of those Marvel movies, of which there have been over (I believe) 30?

Action, explosions, noise, fantastic events, successes despite all adversities, and in the end, the good triumphs. In contrast to this picture, the European film is artistic, slow-paced, perhaps black and white, with sadness, complications, and not always a happy ending. The classic separation between Europe and America, American superiority versus European backwardness.

The same goes for technology. America is the country of Marvel, where everything is possible in terms of innovation and companies are mega successes, while Europe is the country of slow-paced films, companies that don’t innovate, and seem sad compared to their American counterparts. We hear these things quite often, and the main reason why European companies are seen this way is that there is not enough venture capital to encourage innovation. Oh, and there’s also the issue of regulation. Apparently, there are too many regulations that stifle innovation. Is it really true?

This is where we find ourselves with the dilemma, and this is what we want to investigate in this analysis. Specifically, we will explore the impact of new EU regulations on data and artificial intelligence on companies.

Why do we care?

  • If you work in a tech company and/or probably develop tech products, interesting times lie ahead. How do you prepare for that?
  • We often hear about European legislation and European bureaucracy versus the allure of investment and regulation climate in the US. Is it really that bad?

So what is it about?

  • We will discuss the main elements of European legislation regarding data and artificial intelligence
  • We will see the impact on companies and how or if the EU can help in other ways to reduce the impact.
  • We will conclude by discussing how you should prepare for a series of changes.

Let’s get started, then.

 

What is the EU up to this time?

What isn’t it doing? 🙂 That’s the question. We are approaching the end of the Von der Leyen Commission’s mandate, and there have been numerous regulations and reform proposals related to the digital space. Here are just a few of them, noting that you can see the entire universe here:

  • Legislation on artificial intelligence
  • Data legislations (data governance and data act)
  • Cybersecurity resilience act
  • Gigabit act
  • Digital identity legislation
  • Regulation of work on ride-sharing platforms
  • European chip act
  • Cybersecurity solidarity act
  • Digital services act
  • Digital markets act
  • Network and information systems directive 2

We have already discussed most of them on the website, but more from the perspective of their influence on Romania and its citizens. But what about the private sector? Is it really being strangled by cumbersome and hard-to-implement regulations? Some regulations apply to all companies (such as GDPR, which regulates data protection), others are sector-specific (the draft directive on platform work), and others focus more on consumer protection, impacting companies through consumer protection.

Let’s briefly look at some of them that have an impact on the IT sector as well as non-IT companies that are more advanced and have an impact:

  • AI Act
  • data legislations

effects of AI and data legislations on companies - AI Act

We have discussed the AI Act here, but let’s briefly review the main elements of the legislation to establish a foundation for the anticipated impact on companies. It has not yet come into effect but is expected to do so in 2024. The key points of the legislation are:

  • Definition of an AI system: a machine-based system that is designed to operate with varying levels of autonomy and can, for explicit or implicit objectives, generate outputs such as predictions, recommendations, or decisions that influence physical or virtual environments.
  • Classification of AI systems into 4 risk categories:

Who has obligations?

The legislation classifies several types of actors involved in the development, commercialization, import, or distribution of AI systems, namely: suppliers, implementers, importers, distributors, and manufacturers of devices. The main obligations they have will only materialize IF any of these actors put high-risk systems on the market. According to some estimates, 30% of AI systems produced in the EU would fall into this category, but the EU’s impact assessment suggests that it is around 15%. The situation will only become clear after these high-risk systems are registered in the European database required by the legislation.

Let’s highlight some key points from the compromise text between the Parliament and the Council.

Suppliers must:

  • Conduct conformity assessments before placing high-risk systems on the market (these can be done internally or outsourced) in three areas: quality management system, technical documentation, and conformity assessment between technical documentation and the design and development process.
  • Ensure that individuals providing human oversight of AI systems are informed about the risk of confirmation bias (i.e., they should not rely solely on the output of the AI system in making decisions).
  • Provide specifications for the data used to train the AI system, including information about limitations and possible existing assumptions within the dataset. For example, if the data is predominantly from a specific geographic region, which could create limitations in using the systems in other regions.
  • Prepare technical documentation.
  • Take corrective actions to bring the system into conformity and inform the importer and implementer.

Attention! You become a supplier if you make substantial modifications to an AI system already on the market, whether it becomes high-risk or if you put your brand on an existing system.

Implementers of such systems must:

  • Ensure that they put the systems into operation in accordance with the instructions for use.
  • If they exercise control over the system, implement human oversight.
  • Ensure that individuals overseeing the system are „competent, qualified, and adequately trained and have the resources to ensure the supervision of the AI system.”
  • Monitor the implemented cybersecurity measures.
  • If they exercise control over the input data, ensure that the data is relevant and representative for the intended purpose of the system.
  • Inform the manufacturer, importer, distributor, and competent national authorities if the use of the system could entail risks to health, safety, or fundamental rights of individuals and suspend the use of the system if necessary.
  • Maintain a log automatically generated if they have access and control over it.
  • [in labour situations] Before putting a system to work, inform employee representatives and reach an agreement regarding its use. If necessary, conduct a data protection impact assessment.
  • Conduct an impact assessment in the intended context of use (with a few exceptions, such as safety systems in traffic management or utility provision).

Importers must ensure that:

  • The supplier has conducted a conformity assessment.
  • There are technical documentation and instructions for use.
  • The system bears the conformity marking.

If the system interacts with individuals, suppliers must inform users that they are interacting with an AI system. Users of deep-fake systems must also highlight that the content is falsified or artificially created.

Counterbalancing these obligations, from which I have listed only a part, is the inclusion of measures to stimulate innovation in this act. The main instrument is the „regulatory sandbox,” a tool for experimenting with products and testing innovations before they are brought to market under the supervision of competent authorities. This is not presented as an obligation of the Member States, but rather an option. Furthermore, the proposal states that startups and small providers should have priority access to such instruments.

Now, let’s look at the impact and complaints from the main actors targeted by this legislation. Let’s start with the perspective on sandboxes:

  • An organization representing EU startups states that the legislation on sandboxes should be clearer because startups often do not necessarily fit into a specific domain or may change their location.
  • Others are more pessimistic. A report by AI Austria shows that two-thirds of the surveyed startups believe that their activity would be slowed down due to the required adaptations. Approximately 30% of the included startups would classify their systems as high-risk, and the costs of adaptation could reach several hundred thousand euros.
  • Not to mention the venture capital climate. The same report indicates that venture capital funds could redirect their investments, considering the decreased interest in high-risk systems that would become more expensive.

So, how is it? Is there too much regulation? As we can see, most of the rules apply to high-risk AI systems, and the market for such systems is limited. At least for now. According to estimates by the Commission, up to 15% of systems would fall into the high-risk category. However, the estimates from the cited reports indicate that around 30% of systems would be affected. The AI market will continue to grow, especially after the explosion of generative AI, such as Chat-GPT, which will have different rules within this legislation. But let’s not digress now.

At first glance, there doesn’t seem to be a great balance between the regulations in the legislation and the proposed regulatory sandbox. Does this compensate for the exodus of venture capital from the EU? Perhaps not, but the funds made available at the EU level through programs like the Digital Europe Programme could help. The problem is that the pitch in front of a venture capitalist is very different from the funding application required to access such funds.

Let’s not forget about the Digital Innovation Hubs (DIHs), whose role is to support companies in testing solutions before bringing them to the market. The problem here is visibility, as confirmation bias, which the AI Act aims to reduce, is present in companies. Confirmation bias of the form „it’s easier with venture capital, I don’t bother because I don’t know what I gain here, etc.”

effects of AI and data legislations on companies - Data, data, data

There is no artificial intelligence without data. The Data Act and the Data Governance Act aim to facilitate access to data to stimulate innovation. More data, well-trained systems, better results, and so on. But wait, wasn’t there something about data protection and minimizing data collection? Yes, there is, but that pertains to the protection of personal data, and the principles can be found in these two regulations. Here, we mainly talk about non-personal data emitted by intelligent devices, for instance.

Speaking of which, Bard was confused when it comes to these two regulations:

Ce efecte au legislațiile pentru date și IA asupra companiilor / effects of AI and data regulations on companies

The idea is that the Data Act refers to who accesses and how data is accessed, who can benefit from it, while data governance creates the framework for companies to grant access to data or request access to data, including from the public sector, to create value from it.

As a company, you can find yourself in two situations here:

  • You may have data that others would need. Perhaps you have a series of devices that measure the energy efficiency of a building or data regarding the speed at which QA is performed on a production line. What do you do with this data? You might not want to give it away because it belongs to you. But what if you can gain something from it?
  • You may need data to develop a new product. Where do you get the data from? Do you directly test with a potential customer? Perhaps the datasets are too limited, or maybe you want to scale an existing product for a different industry and need access to data from another company in a different sector. Maybe you can obtain the data from a third-party organization that acts as a „data intermediary.”

This is where the two legislations come into play. What are the obligations and rights?

  • Users who generate data through the devices they use will be able to port their data to other companies. For example, users could transfer their usage data to a third-party repair service to fix a device without limitations from the original manufacturer.
  • Device manufacturers will need to provide information about the quantity of data generated, how users can access the data, and how users can request the transfer of data to third parties, among other details.
  • The transfer of data from data holders to data recipients will be done with reasonable compensation, with the only limitations being related to trade secrets.
  • The legislation includes provisions that limit unfair terms in contracts for data distribution, particularly with regard to small and medium-sized enterprises (SMEs). The legislation also introduces the concept of a „trade secret holder,” which allows companies to refuse access to data for legitimate competitive reasons.
  • it also introduces intermediaries that facilitate data transfers. If you are unsure where or to whom you should request data from, you could use such a service.
  • For certain situations of public interest and emergencies, public sector organizations can request companies access to their data.
  • The legislation introduces the concept of „data altruism,” which allows for the voluntary distribution of generated data by companies, not only upon request but also proactively.

What do the affected parties say about this?

  • DigitalEurope, an organization representing large technology companies in the EU, states that the Data Act is a „leap into the unknown” that does not clearly explain what data needs to be distributed and to whom.
  • The Alliance for Digital SMEs, which represents SMEs in Europe, emphasizes that SMEs should have more protection under this legislation but praises the explicit provisions regarding contractual terms for SMEs.
  • The International Road Transport Union, an organization representing companies in the transport and logistics sector, considers this legislation beneficial because they already had data distribution agreements and purchased devices to access data, such as fuel consumption data.
  • Siemens, on the other hand, suggests that such laws could jeopardize trade secrets, especially for companies that produce aftermarket parts.

So, what is the verdict? Is there too much regulation? It seems that the criticism is less about excessive regulation and more about the need to protect trade secrets. Data markets are crucial for the digital transformation of companies. It is not just about the products they create but also about the data they generate.

 

How companies "suffer"

The intentions of European regulations are to promote ethical values in the digital space, but they also consider market perspectives, especially considering the competitive landscape where the EU stands between the US and China.

What will be new for European companies?

  • For AI, there will be transparency obligations toward users regarding the AI systems they produce, distribute, import, or use, regardless of the risk category they fall into.
  • For AI, there will be conformity assessments for high-risk systems, resulting in a declaration of conformity and the famous CE marking.
  • For AI, there will be impact assessments regarding the fundamental rights of Europeans for high-risk AI systems.
  • Developers of AI applications will have the possibility to participate in regulatory sandboxes together with national authorities.
  • Implementers of AI systems will be required to designate a person responsible for overseeing the system if they exercise control

Always be prepared...

Finally, a non-exhaustive list of things to consider implementing when it comes to digitizing or digitally transforming your business.

What do you need to do to adapt to these new legislations?

  1. Get information. The regulations we discussed are in the final stages of adoption (those related to data are more advanced, the Data Governance Act is already adopted, and the Data Act is yet to be adopted, while the AI Act is still in the final negotiation stages). But that doesn’t mean we should wait for them to be applied to get up to speed with what needs to be done at the last minute.
  2. Analyze the state of your company in terms of data governance (what and how it is collected, where it resides, where it goes, what we don’t collect) – but not just for personal data. For that, we already have GDPR, and the provisions related to data in the new regulations complement aspects of the latter.
  3. A piece of advice also from EY regarding preparation for the AI Act – analyze the AI models you already use, but also consider what you plan to acquire. AI is expanding and it is trendy, but you need to consider what and where you will use it. Consult here (the list may evolve) the category of high-risk AI systems to know what kind of obligations you are heading towards, both as a developer and as a business user.
  4. Prepare your human resources to better use and understand how AI works, what confirmation bias is. Also, consider implementing human oversight of these systems, and don’t forget about transparency requirements. People – customers, employees – need to be informed if they will interact with an AI system.
  5. Start collecting data, standardize it, try to understand its value both for your business and as a value in a data market.

References

  1. https://www.digitalsme.eu/digital/uploads/DIGITAL-SME-Position-Paper-on-the-Data-Act.pdf
  2. https://www.eu-startups.com/2023/05/eu-ai-act-how-ai-regulation-could-affect-your-startup/#
  3. https://alliedforstartups.org/wp-content/uploads/2023/06/AI-Act-Open-Letter.pdf
  4. https://www.europarl.europa.eu/resources/library/media/20230516RES90302/20230516RES90302.pdf
  5. https://www.euractiv.com/section/data-privacy/news/data-act-eu-institutions-finalise-agreement-on-industrial-data-law/
  6. https://cdn.digitaleurope.org/uploads/2023/06/DIGITALEUROPE-Data-Act-trilogue-recommendations-June-2023.pdf
  7. https://www.digitaleurope.org/news/joint-statement-the-data-act-is-a-leap-into-the-unknown/
  8. https://www.politico.eu/article/europe-new-data-act-explained/
  9. https://www.ey.com/en_ch/forensic-integrity-services/the-eu-ai-act-what-it-means-for-your-business

 

CiteșteSalvează

Ce efecte au legislațiile pentru date și IA asupra companiilor?

In România, Uniunea Europeană
De Mirela Marcut
15 minute

Ce efecte au legislațiile pentru date și IA asupra companiilor? Ca să ajungem aici trebuie să pornim de la filmele americane versus filmele europene 🙂

Cine n-a văzut un film Marvel din alea peste (cred) 30 care au apărut? Acțiune, bubuieli, gălăgie, întâmplări fantastice, reușite în ciuda tuturor adversităților, iar, în final, binele învinge. Spre deosebire de acest tablou, filmul european e artistic, încet, poate alb-negru, există tristețe, eforturi, nu se termină cu bine întotdeauna. Clasica separație dintre Europa și America, superioritatea americană versus înapoierea europeană.

La fel e și când vorbim despre tehnologie. America e țara Marvel, unde totul e posibil din punct de vedere al inovației și filmele companiile sunt mega succese, iar Europa e țara filmelor companiilor încete, care nu inovează și care par triste în comparație cu partenerii americani. Auzim chestiile astea destul de des, iar marele motiv pentru care companiile europene sunt văzute astfel este că nu există suficient capital de risc care să încurajeze inovația. Ah, și mai e și treaba aia cu reglementarea. Cică sunt prea multe reglementări care sufocă companiile. Chiar așa o fi?

Cam aici ne aflăm cu dilema și asta vreau să investigăm în acestă analiză. Mai exact, investigăm care e impactul reglementărilor noi cu privire la date și inteligență asupra companiilor. Ne-am concentrat până acum pe cetățeni, dar trebuie să vedem și alte puncte de vedere, deoarece transformarea digitală afectează cetățenii, statul, dar și sectorul privat.

Why do we care?

  • dacă lucrezi într-o companie de tech sau probabil faci produse tech, urmează perioade interesante. Cum te pregătești pentru asta?
  • auzim mult de legislația europeană și de birocrația europeană versus mirajul climatului investițional și de reglementare din SUA. Oare chiar așa de nasol ar fi?

Deci despre ce e vorba?

  • discutăm despre elementele principale ale legislațiilor europene în materie de date, inteligență artificială și securitate cibernetică
  • vedem care e impactul asupra companiilor și cum sau dacă poate ajuta UE în alte feluri pentru a reduce impactul
  • concluzionăm prin a discuta cum ar trebui să vă pregătiți pentru o serie de schimbări

Să purcedem, deci.

 

Ce mai face UE de data asta?

Ce nu face? 🙂 Aceasta este întrebarea. Ne apropiem de finalul mandatului Comisiei Von der Leyen, iar regulamentele și propunerile de reforme legate de spațiul digital au fost în număr mare. Enumăr aici doar câteva dintre ele, cu mențiunea că vedeți aici întreg universul:

  • legislație privind inteligența artificială
  • legislații privind datele (guvernanța datelor și actul privind datelor)
  • actul privind reziliența cibernetică
  • actul Gigabit
  • legislație privind identitatea digitală
  • legislație privind reglementarea muncii pe platforme de ride-sharing
  • actul european privind cipurile
  • actul privind solidaritatea cibernetică
  • actul privind serviciile digitale
  • actul privind piețele digitale
  • directiva privind “network and information systems” 2

Despre majoritatea din ele am discutat deja pe site, dar mai degrabă din perspectiva influenței asupra României și a cetățenilor. Dar cu sectorul privat cum rămâne? Vorbim cu adevărat de strangularea inovației și a sectorului privat prin reglementări stufoase și greu de aplicat? Unele reglementări se aplică tuturor companiilor (cum ar fi GDPR, care reglementează protecția datelor), altele doar sectorial (proiectul de directivă privind munca pe platforme), altele se axează mai degrabă pentru protecția consumatorilor și impactează companiile prin prisma protecției consumatorilor.

O să ne oprim pe scurt la câteva din ele, cu impact asupra sectorului IT, cât și a companiilor non-IT, care sunt mai avansate și mai cu impact:

  • actul privind inteligența artificială
  • legislațiile privind datele

Actul privind Inteligența Artificială

Am mai discutat aici despre actul privind inteligența artificială, dar să reluăm pe scurt principalele elemente ale legislației pentru a avea o fundație cu privire la impactul previzionat asupra companiilor. Încă nu a intrat în vigoare, dar se așteaptă că va intra în vigoare în anul 2024. Principalele chestii ale legislației sunt:

  • definiția sistemului IA: un sistem bazat pe mașină care este proiectat să funcționeze cu niveluri variabile de autonomie și care poate, pentru obiective explicite sau implicite, să genereze output-uri precum predicții, recomandări sau decizii care influențează medii fizice sau virtuale. (traducere realizată cu Bard)
  • clasificarea sistemelor IA pe 4 categorii de risc:
Sursă: Comisia Europeană

Cine ce obligații are?

Legislația clasifică mai multe tipuri de actori care sunt implicați în realizarea, comercializarea, importul sau distribuirea sistemelor de IA, anume: furnizori, cei care implementează aceste sisteme, importatorii, distribuitorii și producătorii de dispozitive. Principalele obligații pe care le au aceștia se vor materializa DOAR DACĂ oricare din acești actori vor pune pe piață sisteme cu risc ridicat. După unele estimări, 30% din sistemele IA produse la nivelul UE ar fi în această categorie, evaluarea de impact a UE spune că sunt mai puține, în jur de 15%. Va fi clară treaba doar după ce aceste sisteme de mare risc se vor înregistra în baza de date europeană cerută de legislație.

Să spicuim din textul de compromis realizat între Parlament și Consiliu.

Furnizorii trebuie:

  • să realizeze evaluări de conformitate înainte de a pune pe piață sisteme de risc ridicat (se pot face intern dar și externalizat) pe 3 paliere – sistemul de management al calității, documentația tehnică și evaluarea conformității dintre documentația tehnică și procesul de design și dezvoltare
  • să se asigure că persoanele fizice care realizează supravegherea umană a sistemelor IA sunt informate despre riscul biasului de confirmare (adică să știe că nu ar trebui să se bazeze în luarea deciziilor doar pe rezultatul dat de sistemul IA)
  • să ofere specificații pentru datele cu care sistemul IA se antrenează, inclusiv informații despre limitările și posibilele ipoteze deja existente în interiorul setului de date. De ex., dacă datele sunt preponderent dintr-o anumită regiune geografică, ceea ce ar putea crea limitări în utilizarea sistemelor în alte regiuni
  • să realizeze documentație tehnică
  • să realizeze acțiuni de corecție pentru a duce sistemul în conformitate și să informeze importatorul și cel care implementează

Atenție! Devii furnizor dacă faci modificări substanțiale la un sistem IA deja pus pe piață, fie de risc ridicat, fie dacă-l schimbi și devine de risc ridicat. Sau dacă îți pui marca pe un sistem care există deja.

Cei care implementează astfel de sisteme trebuie:

  • să se asigure că pun în funcțiune sistemele în conformitate cu instrucțiunile de folosință
  • dacă exercită control asupra sistemului, să implementeze sisteme de supravegherea umană
  • să se asigure că persoanele care supraveghează sistemul sunt “competente, calificate și pregătite în mod adecvat și au resursele pentru a asigura supravegherea sistemului IA”
  • să se asigure că monitorizează măsurile de securitate cibernetică puse în aplicare
  • (dacă exercită control asupra datelor de intrare), trebuie să se asigure că sunt relevante și reprezentative pentru scopul intenționat al sistemului
  • să informeze producătorul, importatorul sau distribuitor și autoritățile naționale competente dacă utilizarea sistemului ar putea rezulta într-un risc la adresa sănătății, siguranței sau la adresa drepturilor fundamentale ale cetățenilor și vor suspenda folosirea sistemului
  • să țină jurnalul generat în mod automat, dacă au acces și se află sub controlul lor
  • înainte de a pune în funcțiune un sistem la locul de muncă, trebuie să informeze reprezentanții angajaților și să ajungă la un acord cu privire la utilizarea sa. Dacă e necesar, trebuie să facă și o evaluare de impact asupra protecției datelor
  • să realizeze o evaluare de impact în contextul destinat de utilizare (cu câteva excepții – cum ar fi sistemele de siguranță din managementul traficului sau furnizarea de utilități)

Importatorii trebuie să se asigure că:

  • furnizorul a realizat o evaluare de impact
  • există documentație tehnică și instrucțiuni de utilizare
  • sistemul are marca de conformitate

Dacă sistemul interacționează cu persoane fizice, atunci furnizorii trebuie să informeze utilizatorii că aceștia interacționează cu un sistem IA. Utilizatorii de sisteme din categoria deep-fake trebuie să scoată în evidență că acel conținut este falsificat sau creat în mod artificial.

Contrabalansarea acestor obligații, din care am enumerat doar o parte, stă prin măsurile conținute pentru stimularea inovației care sunt cuprinse în acest act. Principalul instrument este “regulatory sandbox”, o unealtă de experimentare a unor produse, de testare a unor inovații înainte de a fi puse pe piață sub supravegherea unor autorități competente. Nu prezintă asta ca o obligație a statelor membre, ci e o opțiune. Mai mult, propunerea cere ca startupurile și furnizorii mici să aibă prioritate la intrarea în astfel de instrumente.

Aici cred că e momentul să ne uităm la impactul și plângerile pe care le au principalii actori țintiți de această legislație. Putem începe cu asta cu privire la sandboxes:

  • o organizație care reprezintă startupurile din UE afirmă că ar trebuie să fie mai clară legislația cu privire la aceste “cutii de nisip pentru joacă” pentru că startupurile adesea nu țin neapărat de un domeniu sau poate că-și mai schimbă locația
  • alții sunt mai pesimiști. Un raport al AI Austria arată că 2/3 din startupurile chestionate consideră că activitatea le-ar fi încetinită, având în vedere adaptările pe care trebuie să le facă. Aproximativ 30% din startupurile incluse și-ar încadra sistemele la risc ridicat, iar costurile de adaptare s-ar ridica până la câteva sute de mii de euro
  • să nu mai zicem de climatul de capital de risc, același raport arată că fondurile de capital s-ar putea reorienta, având în vedere scăderea interesului pentru sisteme de risc ridicat care ar deveni mai scumpe

Deci, cum e? Prea multă reglementare? După cum vedem, majoritatea regulilor se aplică sistemelor IA de mare risc, iar piața acestora este limitată. Încă. După estimările Comisiei, până în 15% din sisteme ar fi de mare risc. Estimările rapoartelor citate arată că undeva la 30% din sisteme ar fi afectate. Piața de IA va crește oricum, mai ales după explozia IA generativă de tipul Chat-GPT, care oricum va beneficia de alte reguli în interiorul acestei legislații, dar să nu ne lungim acum.

La o primă vedere, nu există un echilibru foarte mare între regulile puse în legislație și măsura de regulatory sandbox propusă. Compensează asta exodul capitalului de risc din UE? Poate că nu, dar fondurile puse la dispoziție la nivelul UE, prin programe cum este Digital Europe Programme, ar putea. Problema e că pitchul în fața unui VC este foarte diferit de cererea de finanțare care trebuie completată pentru a accesa astfel de fonduri. Să nu uităm că există și DIH-urile, al căror rol este să sprijine companiile să testeze soluțiile pe care vor să le pună pe piață. Problema aici e de vizibilitate, când confirmation biasul pe care AI Act vrea să-l reducă este prezent în companii. Confirmation bias de forma “mai ușor e cu VC, nu-mi bat capul că nu știu ce câștig aici etc”.

Legislațiile privind datele

Nu există inteligență artificială fără date. Actul privind Datele și Actul privind Guvernanța Datelor își propun să ușureze accesul la date pentru a putea stimula inovația. Mai multe date, mai bine antrenate sistemele, rezultate mai bune și tot așa. Wait, parcă era o chestie cu protecția datelor și minimizarea colectării? Da, așa e, dar acea chestie se referă la protecția datelor cu caracter personal, iar principiile acesteia se regăsesc în cele două regulamente. Aici vorbim mai ales despre date non-personale, cele emise de dispozitive inteligente, spre exemplu.

Speaking of, Bard a fost confuz când e vorba de cele două regulamente 🙂

Ce efecte au legislațiile pentru date și IA asupra companiilor / effects of AI and data regulations on companies

Ideea e că actul privind datele se referă la cine și cum dă acces la date, cine poate beneficia de ele, iar guvernanța datelor creează cadrul prin care companiile între ele pot da acces la date sau pot cere acces la date inclusiv de la sectorul public pentru a crea valoare din ele.

Ca o companie, te poți afla în două situații aici:

  • să ai date care le-ar trebui altora. Poate ai o serie de dispozitive care măsoară eficiența energetică a clădirii sau date cu privire la viteza prin care se realizează QA pe bandă. Ce faci cu ele? Nu prea-ți vine să le dai că sunt ale tale. Dar dacă poți să câștigi ceva din ele?
  • să ai nevoie de date ca să dezvolți un nou produs. De unde iei datele? Testezi direct la un potențial client? Poate sunt prea limitate seturile de date sau poate vrei să scalezi deja un produs pentru altă industrie și vrei să ai acces la datele unei companii din alt sector. Poate le poți lua de la o organizație terță cu rol de “intermediar de date”

Aici intervin cele două legislații. Obligații/drepturi?

  • utilizatorii care produc date prin dispozitivele pe care le folosesc, vor avea posibilitatea de a-și porta datele către alte companii. Spre exemplu, utilizatorii ar putea să-și transfere datele de utilizare pentru un serviciu de reparații terț pentru a-și repara un dispozitiv, fără limitare din partea producătorului.
  • producătorii de dispozitive vor trebui să ofere informații despre cantitatea de date generate, modul de accesare a datelor din partea utilizatorului, modul de solicitare a transferului către părți terțe etc
  • transferul de date de la deținătorul datelor la destinatarul datelor se va face cu compensare rezonabilă, singurele limitări fiind când vine vorba de secrete comerciale
  • legislația conține prevederi care limitează prevederi incorecte față de IMM-uri în contracte de distribuire a datelor, dar creează și conceptul de “deținător de secret comercial”, cu ajutorul căruia companiile pot refuza accesul la date pe motive întemeiate concurențiale
  • (din Actul privind Guvernanța Datelor) apar companii care intermediază transferul de date, deci dacă nu știi unde și cui trebuie să ceri, ai putea să apelezi la un astfel de serviciu
  • pentru anumite situații de interes public și de urgență, organizațiile din sectorul public pot cere companiilor acces la datele lor
  • apare posibilitatea de distribuire a datelor generate și de companii sub forma ideii de “altruism legat de date”. Distribuirea datelor nu doar atunci când există o cerere în acest sens, ci din proprie inițiativă

Ce zic cei afectați?

  • DigitalEurope – organizație care reprezintă companiile mari de tehnologie din UE – spune că Actul privind Datele este o “săritură către necunoscut”, care nu explică foarte clar ce și dacă trebuie să distribuie datele
  • Alianța Digital SMEs – ce reprezință IMM-urile din Europa – accentuează că IMM-urile ar trebui să fie mai protejate în această legislație, dar laudă prevederile exprese cu privire la prevederile contractuale față de IMM-uri
  • International Road Transport Union – organizație care reprezintă companiile din transport și logistică – consideră benefică această legislație pentru că ei oricum făceau acorduri de distribuire a datelor și cumpărau dispozitive pentru acces la date despre consumul de combustibil, spre exemplu.
  • Siemens – pe de altă parte – spune că astfel de legi ar putea pune în pericol secretul comercial – mai ales pentru companiile care fac piese after-market

Deci, cum e? Prea multă reglementare? Parcă aici problema nu e prea multă reglementare, având în vedere că cei care și-au dat cu părerea se leagă mai degrabă de ideea de a-și păstra secretul comercial. Piețele de date sunt necesare pentru transformarea digitală a companiilor. Nu mai e vorba doar de produsul pe care-l realizezi, ci și despre datele pe care le generezi.

 

Cum "suferă" companiile?

Intențiile reglementărilor europene se referă la promovarea valorilor etice pentru spațiul digital, dar nu lasă în urmă și perspectivele de piață, mai ales având în vedere climatul de competiție unde se află UE, exact între SUA și China.

Ce va fi nou pentru companiile europene?

  • pentru IA – obligațiile de transparență față de utilizator cu privire la sistemele de inteligență artificială pe care le produc, distribuie, importă și folosesc (indiferent de categoria de risc pe care o reprezintă)
  • pentru IA – evaluarea de conformitate pentru sistemele de risc ridicat care se va concretiza cu o declarație de conformitate și faimoasa marca CE
  • evaluarea de impact cu privire la drepturile fundamentale ale europenilor pentru sistemele IA cu risc ridicat
  • tot pentru dezvoltatorii de aplicații IA – posiblitatea realizării de “regulatory sandboxes” împreună cu autoritățile naționale
  • pentru cei care implementează astfel de sisteme, obligația de a desemna o persoană cu atribuții de supraveghere a sistemului, dacă exercită control asupra acestora
  • pentru cei care implementează astfel de sisteme, trebuie să informeze angajații dacă vor fi utilizate sisteme IA la locul de muncă după un acord în prealabil cu reprezentanții acestora
  • pentru cei care implementează astfel de sisteme, să realizeze evaluări de impact al utilizării acestor sisteme
  • în ceea ce privește legislațiile privind datele, chiar dacă nu pare, majoritatea companiilor care produc date sub o formă sau alta vor fi afectate, apărând posibilitatea de data sharing între companii sub o formă mai clară. Există potențial de realizare de venituri deoarece accesul la date este dat în schimbul unei compensații financiare corespunzătoare.
  • companiile trebuie să fie bine informate și să aibă date și proceduri puse la punct cu privire la data sharing pentru a putea să se implice în acest nou ecosistem

 

Always be prepared...

Pe final o mică listă non-exhaustivă de lucruri la care trebuie să te gândești să implementezi când vine vorba de digitalizarea sau transformarea digitală a afacerii tale.

Ce trebuie să faci pentru a te adapta la aceste noi legislații?

  1. informează-te. Regulamentele despre care am vorbit sunt în fazele finale spre adoptare (cele legate de date sunt mai avansate, Actul privind Guvernanța Datelor este deja adoptat, iar Actul privind Datele urmează să fie adoptat, în timp ce Actul IA este încă în fazele finale de negociere). Dar asta nu înseamnă că trebuie să stăm cu mâinile în sân să așteptăm să se aplice pentru a ne pune la punct cu ce trebuie făcut pe ultima sută de metri.
  2. analizează stadiul companiei în ceea ce privește guvernanța datelor (ce și cum se colectează, unde stau, unde se duc, ce nu colectăm) – dar nu doar pentru datele personale. Pentru asta avem deja și GDPR, iar prevederile legate de date din regulamentele noi completează aspectele celui din urmă.
  3. un sfat venit și de la EY în ceea ce privește pregătirea pentru Actul privind IA – analizează ce modele de IA folosești deja, dar trebuie să te gândești și la ce ai în plan să achiziționezi. IA e în expansiune și “la modă”, dar trebuie să ții cont de ce și unde vei utiliza. Consultă aici (lista poate evolua) categoria de sisteme de IA de mare risc pentru a ști către ce fel de obligații te îndrepți, atât ca dezvoltator, cât și ca utilizator de business.
  4. pregătește resursa umană să utilizeze și să înțeleagă mai bine cum funcționează IA, ce este biasul de confirmare. De asemenea, trebuie să ai în vedere să implementezi supraveghere umană a acestor sisteme și nu uita de condițiile de transparență. Oamenii – clienții, angajații – trebuie informați dacă vor interacționa cu un sistem IA.
  5. începe să colectezi date, standardizează-le, încearcă să înțelegi valoarea lor atât pentru business, cât și ca valoare pe o piață a datelor.

Referințe

  1. https://www.digitalsme.eu/digital/uploads/DIGITAL-SME-Position-Paper-on-the-Data-Act.pdf
  2. https://www.eu-startups.com/2023/05/eu-ai-act-how-ai-regulation-could-affect-your-startup/#
  3. https://alliedforstartups.org/wp-content/uploads/2023/06/AI-Act-Open-Letter.pdf
  4. https://www.europarl.europa.eu/resources/library/media/20230516RES90302/20230516RES90302.pdf
  5. https://www.euractiv.com/section/data-privacy/news/data-act-eu-institutions-finalise-agreement-on-industrial-data-law/
  6. https://cdn.digitaleurope.org/uploads/2023/06/DIGITALEUROPE-Data-Act-trilogue-recommendations-June-2023.pdf
  7. https://www.digitaleurope.org/news/joint-statement-the-data-act-is-a-leap-into-the-unknown/
  8. https://www.politico.eu/article/europe-new-data-act-explained/
  9. https://www.ey.com/en_ch/forensic-integrity-services/the-eu-ai-act-what-it-means-for-your-business
CiteșteSalvează

Eu cu cine moderez? despre ANCOM și poliția Internetului

In România, Uniunea Europeană
De Mirela Marcut
12 minute

Ultimele luni au văzut o pleiadă de notificări, știri, postări pe social media despre o grămadă de proiecte de regulamente europene care vizează tehnologia și transformarea digitală. Actul privind Inteligența Artificială, Actul privind Datele, regulamentul privind portofelul european, Actul privind Serviciile Digitale și Actul privind Piețele Digitale. Și mai pot continua: actul privind reziliența cibernetică, regulamentul Gigabit…ok, mă opresc aici. Pentru cine nu e nici în domeniul afacerilor europene, nici în domeniul politicilor digitale, totul pare cam abstract și de neînțeles. Să nu mai zic că mare parte din proiectele de mai sus încă sunt în proces de negociere, deci chiar dacă ai auzit că Parlamentul a decis una sau că s-a realizat un acord pe alta, nu e obligatoriu să și fie ceva definitiv.

Mai adăugăm aici un element semnificativ: mai toate elementele de legislație despre care auzim la știri, pe internet sau la radio sunt implementate în mare parte și prin autoritățile naționale. Deci, când auzi că “Actul legislativ privind serviciile digitale va conține și reguli care să garanteze că produsele vândute online sunt sigure și respectă standardele înalte stabilite de UE*” sau că Actul privind Serviciile digitale “e așa-numita poliție a internetului”, dai de două chestii:

  1. limbajul e între două extreme – fie prea complicat și nu înțelegi, fie e prea simplist și prost explicat
  2. cineva undeva trebuie să se asigure că aceste regulamente sunt puse în aplicare corect și în interesul cetățeanului. Nu rezolvă textul de lege, pardon regulament, singur chestia asta.

Punctul 1 este chiar misiunea acestei platforme, dar punctul 2 este ceea ce aș vrea să abordăm în analiza de luna asta de pe Digital Policy. Cine și ce instituții din România se ocupă/se vor ocupa cu implementarea noilor regulamente legate de ceea ce facem noi online? Voi răspunde aplicat la această problemă folosindu-mă de Actul privind Serviciile Digitale, unul din regulamentele care își propun să schimbe modul în care ne petrecem timpul pe Internet, cu predilecție pe social media, despre care auzim puțin sau spre deloc pe Internet, deși a intrat în vigoare deja.

Deci, ce e de interes?

  • drepturile pe care le vei avea în relațiile cu principalele aplicații pe care le folosești, dar și în relație cu alte site-uri
  • cine va veghea că sunt respectate și cine va aplica regulamentul? cine este și cum ar trebui să arate această instituție

Să purcedem, deci.

Ce zice la hârtie, dom’le?

Iată câteva din drepturile-cheie prevăzute de Actul privind Serviciile Digitale (listă generată cu ajutorul Notion AI, care a mai inclus unele drepturi pe care le-am scos că nu erau de fapt din regulamentul acesta):

  • Dreptul de a fi informat despre modul în care platformele moderează conținutul și aplică termenii și condițiile lor de utilizare – corespunzând obligației platformei de a da mai multe detalii despre modul în care aceasta funcționează
  • Dreptul de a contesta eliminarea sau restricționarea conținutului – corespunzând obligației platformelor de a oferi un răspuns la această contestare
  • Dreptul de a primi informații clare și accesibile cu privire la modul în care sunt colectate, utilizate și procesate datele personale – în traducere liberă – eliminarea acelor bannere uriașe de pe siteuri care ne păcălesc să acceptăm colectarea datelor
  • Dreptul de a ști când o postare reprezintă o reclamă plătită
  • Dreptul de a fi informat cu privire la funcționarea algoritmilor care afectează accesul utilizatorilor la informații sau oportunități – corespunzând obligației platformei de a ne informa cum ne-a recomandat anumite postări sau anumite videoclipuri
  • și să nu uităm de obligația platformelor de a elimina orice fel de conținut ilegal care le-a fost semnalat
De asemenea, mare parte din lucrurile care se vor întâmpla datorită acestui regulament se află cumva după cortină deoarece privesc modul în care Comisia Europeană și statele membre vor obliga platformele social media să fie mai deschise, să dea acces la date pentru cercetare cu scopul de a monitoriza mai atent modul în care sute de milioane de europeni se informează. Ajungem, deci, la cine va veghea la respectarea acestor drepturi.

Cine veghează?

Am identificat trei nivele de veghe pentru aceste drepturi și, desigur, că peisajul e foarte complicat. Asta e pentru că serviciile digitale pe care le accesăm zilnic sunt atât de întrepătrunse în viețile noastre și noi ne luăm foarte multe de acolo încât ai nevoie de intervenții din partea mai multor instituții. Deci, trei nivele:
  • nivelul european – Comisia Europeană va sta cu ochii pe platformele peste 45 de milioane de utilizatori, va cere rapoarte de transparență, date și le va obliga să se supună unui audit independent cel puțin o dată pe an
  • nivelul național – fiecare țară va avea un Coordonator al Serviciilor Digitale – despre asta mai multe mai jos
  • nivelul academic/societate civilă – cercetătorii și organizațiile de societate civilă se pot acredita să devină persoane/entități de încredere care să semnaleze existența conținutului ilegal pe platforme sau să aibă acces la date pentru a cerceta anumite riscuri legate de activitatea platformelor.
Desigur, toate cele trei niveluri vor colabora și își vor coordona eforturile. De exemplu, cercetătorii și membrii societății civile se vor acredita la Coordonatorul din țara unde locuiesc, care, la rândul său, va trimite cereri de acces la date la Coordonatorul de Servicii Digitale din țara unde are sediul acea platformă foarte mare sau la Comisie pentru a realiza cercetări cu privire la riscuri sistemice, cum ar fi posibilitatea de nerespectare a drepturilor fundamentale. Am simplificat un pic aici, dar tot e complicat. E un lanț al aplicării regulamentului, dar dacă o verigă e slabă, știm cu toți că devine lanțul slăbiciunilor. Iar experiența reglementării europene este că autoritatea națională e adesea veriga slabă.

Sursa: Unsplash

Poliția Internetului?

Sau mai bine spus: este Coordonatorul de Servicii Digitale noua poliție a Internetului? Răspuns simplu: nu. Și nici nu e bine să-i spui așa. Hai să vedem cum trebuie să fie și ce atribuții trebuie să aibă și apoi să vedem de ce nu e OK să-i zici așa.

  • să-și ducă la îndeplinire sarcinile într-o manieră independentă, imparțială, transparentă și de îndată
  • să aibă resurse puse la dispoziție de către statul membru – inclusiv resurse tehnice, financiare și de resurse umane
  • să aibă autonomie în managementul bugetului și să nu i se afecteze independența
  • nu vor fi supuși niciunei influențe externe, directe sau indirecte și nu vor “cere sau prelua instrucțiuni de la vreo autoritate publică sau parte privată”

Mai aplicat de atât?

  • coordonatorul reprezintă punct de contact pentru companiile ce prestează servicii digitale din teritoriul național
  • la nivel european, reprezintă poziția națională în Boardul european de servicii digitale.
  • realizează investigații comune cu alte state cu privire la nerespectarea unor drepturi sau riscuri sistemice – conținut ilegal, nerespectarea drepturilor, manipularea prin mijloace automate a rețelei
  • ridică probleme de investigat pentru Comisie – în special pentru platformele social media
  • acreditează entitățile de tip “notificator de încredere” și propun cercetători care să aibă acces la date de pe platformele social media
  • primesc plângeri legate de drepturile utilizatorilor și fie le rezolvă, fie le redirecționează la coordonatorul responsabil sau la Comisie

OK, no pressure, cum zice englezul. Cercetarea pe care am mai făcut-o pe subiect [1, 2] spune că autoritățile naționale se confruntă cu un mecanism diferit de reglementare comparat cu ce s-au confruntat până acum pentru că:

  • reglementarea serviciilor digitale presupune domenii diferite – confidențialitatea datelor, competiție, discriminare, media și audiovizual sau protecția consumatorilor, iar coordonatorul va trebui să aibă abilități pe toate aceste paliere și să se coordoneze cu celelalte instituții pe subiect
  • revine eterna problemă David versus Goliat. Resursele serviciilor digitale adesea sunt mult mai mari decât cele ale unei instituții de stat care “tocmai” a mai primit încă o atribuție de gestionat
  • activitatea de supraveghere e bazată “pe proces”, adică e un fel de supraveghere pe mai multe niveluri care cere implicare din partea mai multor actori la nivel european și național – de la societate civilă și alte instituții până la cetățenii simpli. Deci, această instituție trebuie să facă și foarte multă educație pe subiect
  • să nu uităm că trebuie să înțeleagă logica de funcționare a platformelor și a altor tipuri de servicii digitale

După portretul acesta, pare foarte facil să-i spui poliția Internetului. De ce nu e așa?

  • la nivel semantic – poliția ne duce cu gândul că cineva/ceva controlează și are autoritate asupra unui spațiu. Nu e așa, după cum am explicat mai sus. Autoritatea este împărțită pe mai multe niveluri și nu e vorba de o instituție de forță.
  • tot la nivel semantic – coordonatorul de servicii digitale nu interzice, nu moderează conținut, nu monitorizează direct Internetul pentru a elimina conținut ilegal. Pentru asta există alte entități cu rol de notificare a conținutului ilegal, iar Comisia Europeană joacă un rol important în verificare și monitorizare
  • mare parte din timp ni-l petrecem pe VLOPs și VLOSEs (platforme și motoare de căutare foarte mari), care sunt sub directa monitorizare nu doar de către Comisie, ci și de coordonatorul din țara unde-și au sediul – anume Irlanda pentru mare parte din serviciile astea mari. Deci nu coordonatorul din România, spre exemplu, poate cere eliminarea unui conținut ilegal de pe o platformă, ci, atunci când vine vorba de așa ceva, se desfășoară un întreg lanț de entități care trebuie să ducă la rezolvarea problemei.

Apropo de România, la noi cine și cum e coordonatorul de servicii digitale?

ANCOM - coordonatorul de servicii digitale

șa cum am mai spus, tema aceasta a fost discutată puțin spre deloc în media mainstream. Doar ApTI a preluat tema desemnării acestei instituții. Mai apoi, la începutul lunii martie, a apărut timid un memorandum al Guvernului care propune desemnarea ANCOM în calitate de coordonator al serviciilor digitale, iar mare parte din presă a preluat comunicatul fără a interoga prea mult ce înseamnă asta. La două luni distanță, a mai apărut așa un “vârf” al știrilor depre acest domeniu, când un anume politician a fost votat ca președinte al ANCOM. Aici a apărut ideea că acest politician va conduce “poliția internetului”.

Pe scurt, să vedem cine este și cu ce se ocupă ANCOM și dacă este într-adevăr potrivită pentru aplicarea DSA:

  • “autoritate publică autonomă cu personalitate juridică, sub control parlamentar, finanţată integral din venituri proprii”
  • “are ca rol punerea în aplicare a politicii naţionale în domeniul comunicaţiilor electronice, comunicaţiilor audiovizuale şi al serviciilor poştale, inclusiv prin reglementarea pieţei şi reglementarea tehnică în aceste domenii”… DAR ȘI funcții, cum ar fi:
  • administrarea spectrului radio prin planificarea, atribuirea, alocarea benzilor de frecvenţe, asignarea şi monitorizarea frecvenţelor radio din benzile de frecvenţe [3].

Deocamdată, ANCOM se ocupă acum de partea de fundament, de “scheletul tehnic” al comunicațiilor electronice, dar acum a primit sarcina de a intra și în rețea pentru a supraveghea ce circulă pe aceste unde pe care le monitorizează.

Și asta practic obligă la un set de resurse pe care-l poate obține numai prin cooperare instituțională cu instituții, cum ar fi Autoritatea pentru Digitalizarea României, Autoritatea Națională pentru Protecția Consumatorului, Consiliul Național pentru Combaterea Discriminării, Consiliul Național al Audiovizualului și instituțiile pot continua.

DigitalPolicy

Să nu mai spunem de (practic) obligația de a-și constitui o rețea de experți cu adevărat independenți în materie de platforme și social media. De altfel, mare parte din discuțiile la nivel european (pe care le-am putut înțelege în germană și engleză) pun accent pe necesitatea dezvoltării unui departament puternic de data science și a unei unități de cercetare pentru a putea pune în aplicare cu adevărat prevederile DSA. Ce zic “frații mai mari?” Astfel de departamente sunt utile:

  • pentru construirea de expertiză la nivel instituțional – e de învățat mult pe acest subiect
  • ca imbold și sprijin pentru eforturile Comisiei – dacă vor să lucreze pe picior de egalitate sau să înțeleagă ce se spune la nivel de Comisie, atunci trebuie să aibă echipă de data science + expertiză la nivel național
  • pentru impulsionarea acreditării de “notificatori de încredere” și de cercetători
  • ca sprijin pentru coordonarea între diferite instituții, mai ales că platformele se mișcă foarte repede, iar autoritățile trebuie să țină pasul
Ok, cam pe aici veți zice: și cu ce dracu mă ajută pe mine, domnișoară?

Ce treabă are România să mai angajeze pe unii-alții din bugetul de stat pe salarii foarte mari? Ca să ce? După cum se vede treaba, parcă noi nu contăm oricum că doar țări, gen Irlanda sau Luxembourg vor avea treabă pe subiect. Păi, hai să vedem câteva motive pentru care e relevantă și activitatea în Românica:

  • riscuri sistemice – conținut ilegal – se vând o grămadă de prostii pe Internet, iar site-urile mari de social media n-au chef să acorde resurse pentru a închide niște conturi dintr-o țară puțin relevantă “for their bottom line”. Exemplu de știre pe subiect aici. Să mai zic de informațiile cu privire la traficul de persoane umane realizat pe Facebook? (informație descoperită la nivel internațional, dar relevantă pentru România dat fiind că suntem campionii la trafic de persoane în Europa). Desigur, asta nu va rămâne doar în sarcina coordonatorului, fiind vorba și de fapte penale, dar monitorizarea este un rol semnificativ pe care-l joacă coordonatorul care acreditează și pe acei notificatori de încredere
  • riscuri sistemice – protecția drepturilor fundamentale – coordonatorul național, așa cum scrie mai sus, este cel care știe cel mai bine ce pericole sunt la nivel de țară. Bula de Facebook devine din ce în ce mai săracă în empatie, iar tendințele populiste și chiar legionare ies la suprafață. Coordonatorul este cel care trebuie să urmărească aceste tendințe, să sesizeze Comisia și pe alți coordonatori pentru a investiga anumite derapaje, cum ar fi discursul urii față de unele etnii.
  • riscuri sistemice – aspecte menite să perturbeze procesul electoral sau discursul civic. Poate că e prea devreme, dar anul viitor, an în care trebuie să funcționeze deja Coordonatorul, avem 3 seturi de alegeri ale căror rezultate pot fi infuențate prin social media.
  • să nu uităm de cea mai simplă, dar foarte importantă misiune a Coordonatorului: să ai cui să te plângi atunci când platforma ți-a făcut o nedreptate și să ai unde să-ți cauți dreptatea printr-un mecanism de soluționare a litigiilor

Pe final...

Puncte-cheie de reținut. Generate de Notion AI
  • Articolul discută despre noul regulament european privind serviciile digitale și rolul coordonatorului de servicii digitale în fiecare țară.
  • Se discută despre nivelurile de colaborare și atribuțiile coordonatorului, precum și despre ANCOM ca viitor coordonator în România.
  • Se subliniază importanța coordonatorului în monitorizarea conținutului ilegal, protecția drepturilor fundamentale și procesul electoral, dar și în soluționarea litigiilor dintre utilizatori și platforme.

Referințe

 

CiteșteSalvează

Există o cale mai bună. Govtech pentru servicii publice digitale

In România, Uniunea Europeană
De Mirela Marcut
16 minute
(pentru această introducere, vă rog să vă închipuiți un context de reclamă de tip teleshopping. Imagini alb-negru cu aplicații ale statului român care funcționează și nu prea, utilizatori frustrați că li s-a blocat aplicația și nu pot face plăți. Totul foarte frustrant, iar copy-ul ar suna cam așa:)

ROeID – aplicație menită să ne creeze o identitate digitală. Care de fapt este doar una din celelalte încercări la nivel național și european de a gândi o identitate, hai să-i zicem “electronică”. Aplicația lansată de curând – surle și trâmbițe, you know. O verificare de identitate prin video și audio, totul foarte drăguț, dar n-a funcționat, iar bula a fost plină de oameni ale căror verificări de identitate au fost refuzate.

Portalul e-Romania (remember that?), portalul “democrației participative”, trebuie să ne aducă toate la un loc, de la informații despre toate localitățile țării până la servicii publice electronice. Fast-forward, 10 ani mai târziu, portalul nu mai există, banii-s dați. Alte tipuri de site-uri, portaluri, aplicații care mai degrabă sunt făcute pentru funcționari decât pentru cetățeni și care adesea mai degrabă încurcă sau poate dublează activitățile administrației.

Cred că pot să umplu pagini întregi cu astfel de exemple de aplicații, programe, servicii, dezvoltate de către sau pentru statul român, dar asta n-ar rezolva nimic, ci doar ne-ar frustra amintindu-ne de lungul șir al eșecurilor. Dar să nu uităm că teleshopping-ul întotdeauna trece de la imaginile alb-negru la cele colorate și la oameni fericiți. Pe sistemul: But wait, there’s got to be a better way! Da, așa și este și se numește GovTech.

Despre ce e vorba?
  • voi face un portret alternativ al posibilității de creare/îmbunătățire a serviciilor publice digitale care ni se oferă ca cetățeni prin intermediul sectorului GovTech.
  • voi descrie câteva mecanisme GovTech care funcționează în Europa la ora actuală
  • și, inevitabil, voi adresa posibilitatea ca aceste mecanisme să existe/să se dezvolte în România
Cu ce te ajută?
  • trebuie să știi că există și variante de cooperare între sectorul privat și cel public pentru servicii publice digitale care NU presupun realizarea unei aplicații costisitoare și extrem de neprietenoasă cu cetățenii
  • este loc și pentru implicare din partea cetățenilor sau a companiilor mici, dacă există deschidere din partea statului. Desigur, va fi adresată și întrebarea: “de ce să lucrez cu statul?”
  • te ajută să poți să ceri ceva diferit din partea celor care ne conduc/vor să ne conducă (naiv, știu).
Să purcedem, deci.

Cum face statul servicii publice digitale?

Înapoi la imaginea de la teleshopping. Ce cauzează toate imaginile alea alb-negru cu oameni supărați și frustrați de serviciile pe care le cumpărau? Păi, unele produse prost-gândite, prost-executate, bazate pe prea multă încredere în capacitatea de a executa lucruri. Sau graba care, știm, strică treaba. Sau, să nu uităm cazul românesc, intenția de a cheltui mulți bani fără responsabilitate și fără un rezultat satisfăcător.

Dacă ne întoarcem la teorie, există câteva “filosofii” legate de modul de a realiza și livra servicii publice:

  • guvernarea clasică – statul știe tot, face tot. Deci, statul este un aparat mare, birocratic și consumator de resurse
  • noul management public – statul e prea mare, trebuie reorganizat, consumă prea multe resurse, trebuie să introducem principii din sectorul privat în funcționarea sectorului public, reducem costurile, privatul știe mai bine. Tehnologia aici e mijlocul către costuri mai scăzute cu orice preț
  • guvernanța digitală – despre care am mai scris aici – e bine și cu stat mai mic, cu externalizarea către alte entități private, dar trebuie și participarea altora la realizarea și implementarea serviciilor publice și să nu uităm că tehnologia e o unealtă pentru binele cetățenilor, iar aceștia trebuie implicați în crearea politicilor publice

Reducționist pentru cei care vă pricepeți, dar e bun pentru un tablou în linii mari asupra posibilităților de a răspunde unor provocări legate de cum ne pune statul la dispoziție servicii publice digitale.

Minusurile primelor două sunt clare – statul nu întotdeauna știe tot sau nu poate tot (mai ales dacă resursele de care are nevoie s-au subțiat sub umbrela statului “subțirel”) și să nu uităm exemplul României unde externalizarea către privat a realizării unui serviciu s-a realizat defectuos, fără a lua în calcul experiența cetățeanului to say the least.

What now? GovTech is now.

 

Gov…ce?

Nu e roata inventată din nou, să ne înțelegem. GovTech este descris ca un sector IT care se ocupă cu realizarea soluțiilor tehnologice inovatoare pentru administrații publice de orice nivel. Ceea ce clar nu e nimic nou sub soare. Modalitatea de a realiza aceste soluții noi este diferită. Nu pornește de la ideea că statul nu știe, nu poate, și doar privatul poate și știe și transferăm expertiza direct într-acolo. Pornește, de fapt, de la ideea că statul are nevoie de colaborare pentru a rezolva problemele și perspectivele astea de colaborare se regăsesc în mai multe locuri și în mai multe feluri, iar rezolvarea unei probleme legate de administrația publică nu se realizează doar prin achiziționarea unui soft, unei aplicații. E nevoie de mai mult.

Să recapitulăm, deci. GovTech este:

  • parteneriatul dintre organizațiile sectorului public și start-upuri inovatoare sau IMM-uri pentru a rezolva probleme societale (conform definiției oferite de către Joint Research Centre al Comisiei Europene)
  • cooperarea strânsă dintre stat și companii tinere și inovatoare, cum ar fi startupurile, cu scopul de a livra servicii publice mai bine (definiție agregată din literatura de specialitate)
  • abordare integrată la nivelul sectorului guvernamental cu privire la modernizarea sectorului public, cuprinzând trei aspecte ale acesteia: centrare pe cetățean, servicii publice accesibile, abordare integrată cu privire la transformarea digitală (definiția Băncii Mondiale)

Literatura de specialitate consultată mai arată că ar fi două tipuri de activități în care inițiative de genul acesta se pot implica:

  • activități corective pentru sectorul public. Atunci când e clar că ceva nu funcționează bine la nivel de ofertă de servicii publice digitale sau există acest push către transformare digitală, cum e cel făcut de UE și prin care trebuie să trecem și noi. Gen “cum facem să emitem certificatul fiscal online”. Nu e nimic ieșit din comun, ci poate lucruri pe care alții le-au făcut deja.
  • activități de inovare pentru sectorul public. Atunci când există o provocare nouă sau când nu mai găsești pe piață o soluție la cheie. Sau poate găsești, dar nu vrei să dai atâția bani pe ea și eventual se poate face mai ieftin.

Câte abordări, atâtea definiții. Ce e clar e că ține de mentalitatea de “think outside the box”. Ce mai e clar e și că e mai mult decât un sector IT care face aplicații pe bandă rulantă pentru stat, ci ține de colaborarea dintre cele privat și public pentru a rezolva o problemă și nu e o chestie care se întâmplă o dată și aia e. Presupune susținerea acestei cooperări pe termen îndelungat pentru a putea schimba logica serviciilor publice digitale. De la simplul “cum să-mi înscriu copilul la școală” până la chestii ce țin de bucătăria internă, gen simulare de buget cu ajutorul datelor. Ok, ok, avioane, știu. Totuși nu cred că e chiar clar până acum cum funcționează și cel mai bine e să ne uităm la dinamica sectorului și la câteva exemple din Europa.

 

GovTech în Europa

Mai multe state care stau mai bine sau mai prost în Indicele Societății și Economiei Digitale al UE au arătat deschidere către astfel de inițiative și au înființat programe guvernamentale sau mixte care să sprijine dezvoltarea de soluții tech pentru serviciile lor publice. Harta de mai jos arată doar câteva inițiative.

Dacă te uiți la denumirile acestora, nu întotdeauna îți dai seama dacă sunt entități publice sau nu. And that’s the point. Unele sunt laboratoare, altele centre de competență, altele de cercetare, situate direct în subordinea guvernului (Scoția) sau a unei agenții guvernamentale (Israel). Altele sunt sprijinite de un consorțiu, cum e Accelerate Estonia (consorțiu format din administrația publică a Tallin, universitatea de tehnologie din Tallinn și guvern). Ce au toate aceste denumiri în comun este că adesea sunt locuri unde poți să experimentezi. And that’s also the point. Cercetarea Comisiei Europene arată că mai toate aceste entități beneficiază de un sprijin puternic al guvernului sau al leadershipului, ceea ce dă credibilitate demersului. Dar rămân oarecum independente.

 

Sursă: JRC European Commission (2021), GovTech Dynamics in the EU.

Cum funcționează? Una din caracteristicile principale este că bugetul pentru astfel de inițiative este limitat, dar potrivit pentru gândirea la scară mică a unor soluții de servicii publice digitale, lăsând loc la final pentru scalare. Oricum, e loc de experimentare și asta înseamnă că eșecul e parte din activitate. Dar cercetarea mai arată că trebuie atins un echilibru fin între experimente și performanță. Something’s gotta give.

Cu ce se ocupă mai exact? Comisia Europeană identifică vreo 6 moduri de operare:

  • activități de tip “challenge” – statul vine cu o problemă și oferă un premiu pentru rezolvarea acesteia. Soluția poate fi finanțată și testată direct în ministere sau în alte colțuri ale administrației publice, iar cei care au realizat inovația au și șansa de a folosi infrastructura sectorului public. Ce mai e bine e că soluția se validează mai întâi înainte de a fi extinsă utilizarea acesteia
  • hackathons – pentru mobilizare rapidă a resurselor și energiei și crearea de soluții într-un mod eficient din punct de vedere al costurilor. Hackathoanele au loc timp de câteva zile, iar soluția completă este doar modelată, nu și realizată efectiv, ceea ce poate duce la pierderea ideii dacă nu se intervine concret pentru implementarea acesteia
  • programe de accelerare, adică programe structurate de pregătire, mentorat și sprijin pentru dezvoltarea unor soluții (de obicei tech), unde participă echipe pentru o perioadă limitată de timp. La finalul acestui program, există “demo day”, o zi în care echipele își prezintă ideile pentru potențiali clienți din spațiul public sau de la fonduri de investiții. Baiul e că nu e obligatoriu ca acești clienți să aleagă soluțiile câștigătoare și, desigur, ca această abordare să funcționeze trebuie “multă maturitate” din partea guvernului
  • pilotare – parteneriat cu o anumită companie pentru a testa un program în condiții bine definite. Are nevoie și aici de deschidere din partea statului, dar și de cadru legal pentru acces din partea unei părți externe. Avantajul e că cele două entități lucrează îndeaproape, iar schimbul de informație și colaborarea sunt benefice pentru autoritatea publică
  • burse de cercetare-dezvoltare – le acordă statul în urma unei competiții. Companiile sau echipele câștigătoare au un timp limitat la dispoziție pentru a lucra la o soluție, trebuind să justifice oarecum cheltuirea banilor. Cu toate acestea, cercetarea adesea se face în afara unui cadru de colaborare cu statul, iar leadershipul nu poate exploata repede rezultatele din punct de vedere politic pentru că cercetarea are nevoie de timp.
  • ultima, dar nu cea din urmă – crearea de ecosisteme – întâlnirea dintre mai mulți experți, companii, oameni din administrația publică – ce pot oferi ghidaj și expertiză. Poate tipul de activitate cel mai greu de cuantificat și justificat, dar poate și cel mai semnificativ. De ce? Pentru că o astfel de inițiativă pune bazele pentru mai multă colaborare și schimb de idei și nu se axează doar pe dezvoltarea de soluții punctuale, ci și pe crearea unei culturi organizaționale mult mai deschise și atât de necesare pentru instituțiile publice. Fiindcă nu rezolvă o problemă punctuală sau nu are rezultate direct, dar are nevoie de resurse financiare, poate fi greu de justificat.

Toate acestea se întâmplă deja în Europa.

  • Polonia – laboratorul GovTech Poland funcționează din 2018, sub leadershipul direct al primului ministru, a reușit să crească relativ repede și primește finanțare multianuală. Scopul trasat a fost să crească eficiența sectorului public și să contribuie la obținerea de date despre nevoile cetățenilor. Cu ce se ocupă? Provocări, hackathons, creare și construcție ecosistem. Își propun să crească interesul IMM-urilor pentru realizarea de unelte pentru administrație, să creeze un marketplace digital pentru soluții pentru stat sau să creeze o bază pentru antrenarea investitorilor.
  • Estonia – Accelerate Estonia funcționează din 2019 ca o asociere dintre guvern, primăria din Tallinn și Universitatea de Tehnologie din Tallinn. Tipurile de activități pe care le desfășoară sunt crearea de ecosistem și realizează concursuri cu premii pentru lucrul pe anumite misiuni – cum ar fi sănătatea mentală (da, la ei asta e o problemă de politică publică)
  • Scoția – CivTech Scotland funcționează din 2017, iar principala lor activitate este competiția de challenges, catalogată în analiza Comisiei ca fiind un exemplu de bună practică replicat în alte laboratoare. Cum funcționează? Organizația setează provocări deschise la care orice organizație, echipă sau chiar individ se poate înscrie cu o posibilă rezolvare. Există un proces de evaluare a candidaturilor, iar cele de succes trec printr-o fază de explorare unde sunt finisate, iar cele mai bune de aici trec în faza de accelerator, unde chiar vor fi construite. Ei se promovează că ajută la crearea de companii pentru că majoritatea provocărilor pe care le publică sunt universale, dincolo de jurisdicții. Printre provocările recente: cum poate ajuta tehnologia la identificarea și prioritizarea sprijinului pentru oameni în situații vulnerabile, începând cu cei cu probleme legate de energie? sau cum poate ajuta tehnologia la managementul infrastructurii utilizate de către operațiuni comerciale în zone izolate sau rurale?

Astea sunt exemple la nivel național, dar GovTech prezintă interes pentru Uniunea Europeană și e suficient să ne gândim doar la avalanșa de reglementări care vin peste noi sau care sunt deja implementate și care sunt legate de “conectarea” diferitelor servicii publice din mai multe țări. Principalul proiect care va stimula creșterea sectorului de GovTech se referă la viitorul regulament pentru stimularea dezvoltării de servicii interoperabile la nivel de UE. Adică? Avem o piață digitală unică, putând comanda online din altă țară fără alte restricții, circulăm și folosim abonamentul de Internet ca și cum am fi deja în țară, putem deschide Netflixul nostru când suntem plecați în city break. De ce n-am avea un spațiu unic pentru serviciile publice digitale (acolo unde permit competențele și politicile Uniunii, desigur)?! Atenție, nu servicii unice la nivel european, ci servicii naționale care să comunice între ele.

De altfel, chiar săptămânile trecute, Comisia Europeană a lansat GovTech Incubator – un spațiu de colaborare dintre ministere, agenții naționale care lucrează pentru digitalizare și transformare digitală, dintre sectorul privat sau cercetare. De fapt, e un consorțiu format din peste 20 de parteneri – care va dezvolta programe pilot la nivel transfrontalier, două dintre ele fiind axate pe securitatea informațiilor în spații de date transfrontaliere și sprijin pentru obținerea beneficiilor sociale cu ajutorul asistenților personali.

La noi?

Din ce am reușit să găsesc pe net, România nu face parte din asocierea GovTech4all, dar asta nu înseamnă că nu va fi pe viitor. Dar, chiar așa, în România există fărâme de GovTech despre care putem vorbi?

Banca Mondială are un index numit GovTech Maturity Index care plasează România în grupa B al țărilor cu “significant focus” pe GovTech, dar indexul se concentrează mai degrabă pe utilizarea tehnologiei în administrația publică, urmărind întrebări de genul – există o autoritate de protecție a datelor sau dacă există formulare online pentru plata taxelor sau dacă există un portal pentru achiziții publice. Deși interesant, indexul nu se aplică neapărat discuției despre încurajarea inovației în administrația publică. E bine că, la scară mondială, suntem cu focus semnificativ pe GovTech, în timp ce DESI ne arată la finalul clasamentului 🙂 . O altă perspectivă: Ucraina e în grupa A a liderilor GovTech 🙂

Revenind… enumăr aici pe scurt câteva inițiative de tip GovTech conform definițiilor și conceptualizării de mai sus, pe care le-am văzut prin România, cu mențiunea că va urma o analiză detaliată pe România în curând:

  • hackathonul TechBridge – mai 2023 – hackathon organizat în comun de către MCID al nostru și Agenția de Guvernare Electronică din Republica Moldova. Soluțiile câștigătoare aici. Cercetarea Comisiei arată că păcatul unor astfel de activități este că pot fi abandonate destul de repede, dacă nu există un cadru pentru sprijinirea dezvoltării lor. Nicio vorbă despre premii sau pașii următori la acest eveniment. De asemenea, lectura în paralel a comunicatului de presă moldovean arată că aceste soluții se pot integra deja cu serviciile lor, dar nicio vorbă despre asta la noi. Încă.
  • desigur, Ion – “primul consilier guvernamental AI” – un exercițiu de cooperare între instituții publice, universități și companii private – care au creionat un sistem care adună date despre români. Deocamdată doar adună date – interesant ar fi să se dezvolte un sistem ca la CivicTech Scoția cu provocări de fructificare a datelor colectate. Nu e clar programul de exploatare al lui Ion, deocamdată pare un exercițiu de familiarizare a cetățenilor cu tehnologia cu ajutorul caravanei Ion.
  • GovITHub – un proiect cu adevărat de GovTech din România, care a adunat fellows (un fel de bursieri) ce au reușit să creeze o serie de soluții tech pentru sectorul guvernamental. Ca orice chestie bună, s-a sfârșit destul de repede. Se încadrează la GovTech, fiind similar cu bursele de cercetare-dezvoltare identificată de către Comisia Europeană. Din păcate, nu mai este activ.
  • eBay și Poșta Română – un parteneriat pentru dezvoltarea unei platforme pentru “creșterea exporturilor online de produse ale afacerilor românești”. Practic un spațiu unde companiile se pot înscrie pentru a expedia produse în toată lumea. Site-ul e aici. Apropo de ce zicea Comisia, adesea GovTech e rezervat pentru companiile mari.

Mai sunt inițiative similare dintre companii și autorități publice locale, cum ar fi dezvoltarea unui chatbot la nivel de autoritate locală, dar ceea ce lipsește în general este coordonarea și cadrul instituțional și structural care să permită inovarea. Chiar așa, ce lipsește? Scânteia 🙂 greu de pus în cuvinte, dar spiritul de încercare caracteristic unui laborator de inovare e ceea ce lipsește. Poate pentru că majoritatea acțiunilor căutate sunt corective, poate pentru că ne preocupăm cu realizarea chestiilor urgente, de bază.

Pe final...

Pe final, las câteva bariere identificate de către Comisia Europeană în dezvoltarea unor astfel de inițiative, cu mențiunea, din nou, că este un domeniu în creștere datorită nevoii de interoperabilitate la nivel european. Și pentru a avea o reflecție cu privire la de ce nu avem în România o astfel de activitate:

  • (problema pentru companii) așteptările legate de creștere într-un spațiu limitat de piață – adesea există doar un singur cumpărător, iar dacă te muți în alt stat, există costuri în plus și serviciile trebuie adaptate
  • (problema pentru sector) există dominația din partea integratorilor mari de servicii, companii care sunt all-service și adesea cumpără competitorii mai mici
  • (problemă pentru stat) avem de-a face cu un proces descurajant tradițional de achziiții publice, spre exemplu caietele de sarcini cer cifre pe care startupurile nu le pot acoperi
    • sau sunt prea stufoase dpdv al cerințelor – aspecte multianuale
  • (problemă pentru stat) cultura birocratică a statului, profund diferită de cea a unui startup

 

Referințe

 

CiteșteSalvează

Ai, n-ai date, dai la poartă.

In Digital, Uniunea Europeană
De Mirela Marcut
15 minute

Că tot e Paștele în perioada asta…să ne imaginăm o pășune unde pasc mai multe mioare care provin de la mai mulți ciobani. Oile fiecărui cioban nu sunt în numere mari, nu sunt egoiste și acaparează toată pășunea, iarba se regenerează în fiecare an, toată lumea e fericită.

Anul următor, câțiva ciobani devin un pic lacomi, aduc mai multe oi ca să facă mai multe lactate și mai multă lână, să le meargă lor bine. Poate ridică și niște garduri pe pășune că așa vor mușchii lor. Ce se întâmplă? Păi, oile ciobanilor lacomi sunt mai bine hrănite, produc mai mult lapte, mai bune beneficii economice pentru proprietari. Dar cu restul? O duc mai prost, nu mai au atât loc de pășune, gardurile îi limitează. Pășunea suferă la rândul ei. Nu se regenerează iarba, în timp terenul devine arid, și ghici ce, poate nu mai e bun nici pentru oile ciobanilor lacomi.

Alegoria asta face referire la “tragedia comunelor”, un concept provenit din ecologie, care “scoate în evidență conflictul dintre raționalitatea individuală și cea colectivă”. Mai simplu spus, actorii care sunt raționali și acționează în interes propriu nu împart beneficiile acțiunilor lor (pe termen scurt, profitul adus de oile în plus), ci doar costurile (pe termen lung, faptul că pășunea devine impracticabilă).

OK OK și ce treabă are asta cu datele? Alegoria pășunatului arată că există unele bunuri care e mai potrivit să fie administrate/reglementate în sprijinul comunității, așa-numitele bunuri comune – produse sau servicii care nu creează rivalități – aerul curat, educația, securitatea, infrastructura. Putem încadra aici și datele. Adică acele informații neinterpretate care sunt emise de toți și toate sau secvențele de simboluri care așteaptă interpretare. Pe pășunea Internetului, paștem și producem date, atât noi, indivizii, cât și senzorii, programele sau orice alte sisteme care produc date. În acest scenariu, datele sunt ale tuturor și toți le putem folosi pentru a hrăni poate pășunea. Pare că acestui scenariu îi mai lipsesc niște inorogi care pasc și niște curcubee în fundal pentru a completa fantezia.

De ce? Păi, am mai scris aici că datele nu sunt noul petrol, așa cum s-a perpetuat clișeul de la Bruxelles în ultimii ani. Știm cu toții ce face petrolul din unele state – e suficient doar să spunem trei litere – S – U – A și ne vin în minte intervențiile militare în state bogate în această resursă pentru a securiza accesul la petrol. În acest scenariu, datele sunt o resursă – sursă de rivalități pentru că cel ce are acces neîngrădit la ele controlează economia și, desigur, face o grămadă de bani.

Vom trece în acest articol de la pășunat la tehnologie și la scena internațională plină atât de state sau organizații care-și doresc acces la date, cât și de companii care dețin date cu grămada, colectate prin diverse procedee și tertipuri de la utilizatori. În contextul altor litere care ne marchează experiența online – G D P R , e important să ne uităm și la alte modalități de a utiliza datele, fie ele personale sau non-personale.

Despre ce e vorba?

  • voi aduce în discuție o altă modalitate de a ne gândi la date ca bunuri comune – ca cetățeni, utilizatori ai serviciilor de Internet, antreprenori sau angajați – provenită din literatura de specialitate
  • ne vom uita pe pășunea europeană să vedem dacă se potrivește scenariul accesului la date cu cultura protecției și limitării colectării datelor pe care o propovăduiește UE
  • vom arunca o privire și la alte state pentru a vedea care e filosofia din spate

Cu ce te ajută?

  • trebuie să ne schimbăm mindsetul cu privire la date și la experiența de utilizare a tehnologiei – avem nevoie să înțelegem alte modalități de a privi datele și de a le folosi pentru a lua decizii mai bune
  • în contextul în care toată lumea mai nou a învățat alte litere – GPT – trebuie să înțelegem că ceea ce produce acest Chat-GPT este rezultatul datelor care îi sunt furnizate. Garbage in – Garbage out.
  • în context european – urmează o regândire a regimului datelor, determinată de câteva regulamente despre care am mai scris aici și aici și care ne vor influența activitatea

Să purcedem, zic.

Datele ca bun comun..

Acord de prelucrare a datelor, gedepere, bannere care ne păcălesc să acceptăm colectarea datelor pe diferite siteuri și aplicații. Dacă stăm cel puțin o oră pe Internet, toate astea ne sunt familiare și fac parte din universul protecției datelor cu caracter personal, regulament european care pentru majoritatea dintre noi înseamnă să semnăm sau să acceptăm ceva fără să ne uităm cu adevărat ce e. Cam la asta ne gândim adesea când ne gândim la date. Noi avem ceva care este folositor companiilor tech, iar acestea minează aceste date prin modul în care stăm online. Acesta este scenariul capitalismului supravegherii, în care datele au devenit resurse semnificative pentru modelul de business al companiilor tech, iar autoritățile publice nu au reușit încă să stăvilească puterea lor.

Aici trebuie făcute două distincții pe care adesea le uităm: 1. nu toate datele sunt personale și 2. și alte companii folosesc sau au nevoie de aceste date (fie personale, fie non-personale), poate pentru ceva mai folositor decât acea reclamă la pantofi care te urmărește după ce ai intrat în mod inocent pe un site. Spre exemplu, un startup din domeniul medicinii care s-ar putea folosi de date ale radiografiilor ca să antreneze un sistem IA să identifice anumite malformații sau probleme de sănătate. (Hint: deja există sisteme de genul acesta). Sau un bloc de apartamente care deține date de consum și le poate da unei companii pentru a crea un sistem de economisire a energiei. Unul folosește date medicale – super personale – altul folosește date provenite din senzori care nu ar intra în categoria datelor personale. Un spital care schimbă date cu o firmă și un bloc care schimbă date cu o companie.

Aici intervine cartea la care vreau să fac referire: Access Rules de Viktor Mayer Schönberger și Thomas Ramge. Ei pornesc de la premisa că trăim într-o eră unde puterea este dată de date, fie personale, fie non-personale, unde datele sunt resursele prețioase care dau putere celor care pot să le colecteze și utilizeze. Această situație creează asimetrie informațională, unii au prea multă informație, alții mai puțină, devenind din ce în ce mai greu să inovezi. Cei care încearcă să inoveze cu adevărat nu mai au loc de manevră pentru că sunt luați în vizor de companiile mari. Autorii arată că inovația a scăzut de fapt în ultimii ani – comparat cu acum 60-70 de ani și o exprimă într-o manieră interesantă: trăim în vremuri plictisitoare. Sau: trăim în vremuri ale stagnării frenetice a inovației. Ei pun accent pe faptul că lipsa accesului la date este una din cauzele acestei situații, accesul la date fiind restricționat prin lipsa unui cadru legal adecvat, prin practicile de business sau prin competiția internațională menită să creeze suveranitate digitală.

Atunci, cum ar trebui să ne gândim la date? Câteva idei din carte – care toate pornesc de la ideea că datele sunt un bun public și nu unul deținut de companii, spre exemplu:

  • sunt un bun “non-rival”, pot deveni un bun public mai important decât orice resursă economică de până acum pentru că…
  • datele nu dispar atunci când sunt folosite, ci de fapt le crește valoarea atunci când sunt folosite de mai multe ori – pentru că dau semn că sunt utile
  • datele sunt folosite în mod diferit în funcție de sectorul economic, conform autorilor, sectoarele tradiționale le folosesc mai mult intern pentru creșterea eficienței lor, dar asta nu e suficient – e o abordare pur funcțională. Companiile tehnologice le folosesc pentru a experimenta, inova, crea noi produse. O astfel de utilizare creează valoare semnificativă pentru economie
  • 80% din datele colectate nu sunt folosite nici măcar o dată – pentru că cei care le-ar putea folosi nu au acces la ele
  • avantajele utilizării datelor:
    • reutilizarea este eficientă din punct de vedere economic, dar și de mediu
    • fiindcă nu știm ce aduce valoare, are sens să poată fi folosite de mai multe ori – pentru mai multe scopuri
    • și pentru aceleași scopuri, are sens să poată fi folosite pentru că creează competiție între companii

Nu pare prea familiară această caracterizare ca bun public. Cel puțin pentru “muritorii de rând”. Asta pentru că suntem obișnuiți cu paradigma GDPR doar, care, conform autorilor, a devenit “aproape o religie” și una din sursele “superiorității morale” a europenilor față de americani și chinezi. Conform lor, GDPR este un cadru legal defensiv care este obsedat de limitarea accesului la date, exagerând obținerea consimțământului, în timp ce companiile mari de tehnologie au resursele necesare pentru a naviga cadrul legal complicat și de a-și spori puterea informațională.

Care e faza cu datele acum?

Cred că deja e clar că majoritatea lumii vede de fapt datele ca resursă și toată treaba ca pe un joc de sumă nulă – cu cât mai multe pentru mine, cu atât mai puține pentru tine și sucks to be you. Trei elemente sunt relevante pentru discuția curentă:
  • războiul tehnologic rece dintre SUA și China
  • problemele cauzate de dominația BigTech în economia globală
  • strategia UE cu privire la date
Un termen așa de catchy ca război rece tehnologic face destule clicuri și vizualizări, deci date 🙂 E vorba de competiția acerbă dintre cele două state în ceea ce privește producția de cipuri, inteligența artificială sau hardware. Accesul la date e crucial pentru aceste bătălii. Deci, datele = resursă care trebuie exploatată pentru succesul în această competiție. Dar datele nu se află strict în posesia statelor membre și nici nu există un drept de preempțiune pentru “descoperirea” de date pe teritoriul național. Încă un semn că datele nu sunt ca petrolul. Datele sunt generate de sectorul public care își asumă adesea publicarea lor ca date deschise – deci ar trebui să fie un bun comun. Doar că adesea statul este cam reticent să ofere acces la informații. Apoi, sectorul privat este cel care generează, colectează și procesează date, iar aici discuția merge clar către BigTech ca principali actori. Conform lui Schönberger și Ramge, accesul lor la date a permis creșterea puterii lor ajungându-se până la situații de duopol – cum este cazul Apple și Google în ceea ce privește piața de telefonie mobilă și magazinele de aplicații. Autorii explorează câteva posibilități de reducere a acestei dominații, printre care se numără și intervenția statului pentru a “sparge” aceste conglomerate în companii mai mici. Ei ajung la concluzia că mai productivă este crearea unui cadru legal care să oblige companiile să ofere acces la date, în proporție cu mărimea lor. Cam ceea ce vrea să face UE prin poziția sa privind datele – marcată de două elemente: obsesia pentru suveranitatea digitală și a ține cât mai multe date în spațiul european și “bipolaritatea” pe care o diagnostichează cei doi autori – anume pendularea între optimismul fervent și pesimismul amar cu privire la potențialul european în ceea ce privește tehnologia. Marcată de pandemie, criza cipurilor și războiul din Ucraina, abordarea UE cu privire la date a trecut la un tipar bine-știut deja – Fortress Europe – dar cu un twist:
  • crearea unei piețe unice pentru date cu fluxuri de date intrasectoriale pentru beneficiul tuturor, unde regulile europene (hint: protecția datelor) sunt respectate… plusată de…
  • o politică industrială care să sprijine jucătorii europeni și crearea de spații de date comune pe diferite domenii pentru a ușura accesul și a impulsiona inovațiile
Fortress Europe desemnează politica de a ridica ziduri spre exterior pentru a încuraja dezvoltarea în interiorul Uniunii, doar că problema este mai complicată de atât – majoritatea datelor sunt colectate, procesate de către giganți americani sau chinezi. Chiar dacă creezi cadrul pentru a-i forța să țină datele europenilor în Europa, datele vor fi tot procesate de americani și nu de către europeni. Greu de bătut giganții.

Aici intervine ideea cărții citate – Access Rules – de fapt un joc de cuvinte în engleză care merge în două direcții:

  • Access Rules – cartea putând fi interpretată ca un manual de acces la date pentru legiferatori
  • Access Rules – accesul la date e regele, este cheia pentru prosperitate, și poate fi impulsionat printr-un cadru legal menit să ajute la valorificarea datelor

 

Cum să valorificăm datele?

După ce fac analiza climatului actual și a poveștilor cu privire la date care se spun în presă și de către decidenți (datele sunt petrol, trebuie să creem piețe de date etc), autorii detaliază viziunea lor cu privire la accesul la date. Pentru cei inițiați deja: un sistem descentralizat și deschis pentru acces la date. Pentru cei care nu sunt în domeniu: un sistem de tip “carte de telefon” unde companiile listează seturile de date pe care le au la dispoziție pe diverse categorii – căutări pe Internet, recomandări de produse, date cu privire la mobilitatea oamenilor, date de training pentru sisteme de inteligență artificială etc.

Wait, carte de telefon așa cum era pe vremuri? Well, nu chiar așa, dar asemănător:

  • un sistem de tip director cu companiile înscrise și datele pe care le dețin
  • doar categoriile de date care există, nu cele care ar putea fi
  • datele sunt non-personale sau anonimizate
  • nu există specificații despre cum ar trebui implementate/utilizate – pentru a lăsa frâu liber inovației
  • datele trebuie să aibă metadate pentru a le putea pune în context – dacă sunt date de temperatură, să fie clar cu ce scară sunt măsurate
  • înscrierea ar fi reglementată și proporțională cu mărimea companiei – pentru a nu împovăra IMM-urile, dar și pentru a crea un cadru prin care companiile mari ar trebui să acționeze proporțional cu mărimea și importanța lor (companii mari = eventual calculate în funcție de număr de clienți- cum este cu reglementarea platformelor foarte mari în UE – sau peste un prag de venit)
  • sistemul presupune reciprocitate. Iei, trebuie să și pui la dispoziție

Dacă citești cu atenție, vei vedea povestea cu oile printre rânduri. Companiile pun la comun seturi de date care ar fi benefice pentru mai multe entități pentru “pășunat”, pășunea e reglementată de către autorități, nimeni nu e lacom. Iei, dar trebui să și dai “îngrășământ” pentru pășune. Sună cam prea utopic, iar aici poate e un minus al cărții – nu prea are exemple analoge care să arate că acest sistem a funcționat în realitate, cu excepția a două povești:

  • cea cu care începe cartea și care face referire la modul de distribuție al ziarelor prin poștă în America prerevoluționară care favoriza un singur ziar și cum Benjamin Franklin, când a ajuns diriginte de poștă, a eliminat monopolul unui singur ziar transmis prin poștă, permițând transmiterea presei în mod egal folosind infrastructura poștei. Morala: accesul la informație este fundamentul unui proces democratic de luare a deciziilor.
  • a doua – mult după anii 1700 – ce implică AT&T, companie care a monopolizat comunicațiile în SUA pentru mult timp și care a intrat în vizorul autorităților americane în anii 50 pentru abuz de putere. AT&T a scăpat în mare neatinsă, dar a trebuit să pună la dispoziție mare parte din patentele Bell Labs, laboratorul de cercetare al companiei. Nu doar atât, dar toate patentele viitoare ale laboratorului ar fi urmat să fie disponibile companiilor la costuri mici. Printre invențiile care au devenit disponibile ca urmare a acestei decizii? Tranzistorul. Da, ăla care sta la baza tuturor cipurilor și dispozitivelor noastre electronice.

Ambele povești au totuși ceva în comun: reglementarea autorității care a intervenit și a creat contextul pentru circulația informației. Seamănă poveștile astea cu ce face UE? Da și nu.

  • DA – prin Digital Services Act și Digital Markets Act – platformele social media mari trebuie să se supună unor audituri și să pună la dispoziția cercetătorilor date despre modalitatea de funcționare a algoritmului acestora. De ce? Pentru a vedea mai clară dacă algoritmul care maximizează timpul nostru petrecut online are și alte efecte adverse.
  • DA – prin strategia de date și reglementările propuse și/sau votate deja privind datele și guvernanța datelor, UE cere ca datele să circule, să fie refolosite, totul sub umbrela protecției datelor.
  • DA – își propune crearea de data spaces pe sectoare strategice – cum ar fi sănătatea sau agricultura – și creează sisteme de sprijin pentru integrarea companiilor în aceste ecosisteme
  • NU – filosofia de reutilizare a datelor pe care o propune UE e să creeze intermediari – servicii de intermediere a datelor sau data fiduciaries – entități care certifică calitatea, cantitatea și transferul datelor. Problema pe care o ridică și autorii Access Rules legată de aceste servici este simplă: cine sunt aceștia? why should I trust them? UE zice că vor fi entități non-profit care vor fi certificate și vor fi furnizori de încredere.
  • NU – nu există nicio obligație din regulamentele privind datele de a da acces la date. Cum convingi tu un gigant tech să-ți dea acces? Nu zic că nu dă acces acum (vezi Google Trends sau Crowdtangler), dar cu siguranță o poate face mult mai bine.

 

Ai, n-ai date..

Pășune, teren de fotbal, suntem tot pe acolo. Pentru final aș vrea să fac referire la titlul articolului. Noi toți – stat, companii private, organizații non-profit, cetățeni – avem nevoie de date să luăm decizii în fiecare zi. Deciziile pe care le luăm, ideile pe care le avem, toate sunt bazate pe seturile de date/informații care ne sunt la dispoziție. Deci indiferent de ce date avem, tragem la poartă. Cu cât avem date mai utile, nu neapărat mai multe, cu atât putem să fim mai preciși.

Deci, dacă nu funcționează metafora cu pășunea și că trebuie să o întreținem pentru binele nostru, atunci mai vin cu una: ai, n-ai date, dai la poartă. Ca să marchezi, ai nevoie de date. Utile.

 

Referințe

CiteșteSalvează

 

Digital Policy este o platformă de analize de politici publice digitale, axată pe nivelurile european, național și local.

Pagini

Newsletter