CategorieUniunea Europeană

Fabrica de IA. Cum sprijină UE inițiativele în inteligență artificială

Am învățat o expresie nouă în limba germana: Da haben wir den Salat/acuma avem parte de salată! Înseamnă ceva de genul: deci, vezi în ce încurcătură ne-ai băgat?! Sensul vine de la faptul că salata e un mix de mai multe chestii, adică e de fapt un haos.

Putem spune asta și Uniunii Europene dacă ne gândim la reglementarea recent aprobată cu privire la inteligența artificială? Da haben wir den Salat! Discursul care nu vine dinspre UE e cam așa, în mare parte. Companiile europene sunt curtate de alte state să-și mute sediile din UE, vrăjindu-le cu reglementări relaxate și stimulente fiscale. Americanii zic și ei că ar putea reduce potențialul inovator în UE, ceea ce s-ar traduce prin mai puțină competitivitate și mai puțini bani, desigur. Deocamdată, nu avem decât unele calcule inițiale și, desigur, comparații cu alte reglementări (GDPR) care n-ar funcționa cum trebuie.

Dar, stați că e vorba de o salată, deci mai avem câteva ingrediente în plus acolo, nu doar un regulament. Despre asta e vorba în scurta (sper!) analiză: ce anume mai face UE pentru a ține companiile specializate în IA aici în Europa? Cum funcționează oportunitățile pentru IMM-uri pentru valorificarea inteligenței artificiale? Cum sprijină UE inițiativele în inteligență artificială?

Dacă n-ai timp să citești tot, uite aici câteva informații-cheie:

  • UE vrea să creeze niște structuri pentru a sprijini dezvoltarea de produse și servicii pe IA
  • De ce? pentru a antrena modele de IA, ai nevoie de câteva chestii: calculatoare puternice, acces la date care să fie analizate, oameni pregătiți, pe lângă idei. Nu prea multe companii europene își permit să aibă așa ceva la dispoziție.
  • Aici intră Fabricile de inteligență artificială 🙂 Pe scurt, supercalculatoarele europene vor primi upgrades, vor exista centre de date în apropiere, iar mai multe programe și inițiative europene vor fi direcționate pentru a susține aceste fabrici
  • Ce vrem să obținem cu asta? Realizarea de produse și servicii pe bază de IA în diverse domenii pentru a putea face față avalanșei de modele IA venite din SUA. Sau, cum ar spune unii mai fataliști, să nu pierdem cursa tehnologică.

Nu s-a terminat povestea cu inteligența artificială în UE?

Povestea nu se termină după adoptarea celei mai noi legislații privind IA. Povestea de-abia acum începe. Să spunem totuși aici că obligațiile pe care le au companiile în legătură cu această lege se leagă de tipul de risc care este evaluat. Cu cât e mai mare riscul pentru consumatori/cetățeni, cu atât mai mari obligațiile. Da, riscul trebuie evaluat, e nevoie de documentație, deci da, vor fi costuri în plus. Totul în numele “dezvoltării de IA care respectă valorile și regulile UE”.

Dar e nevoie de un sprijin pentru companiile care dezvoltă sisteme de IA, pentru a contracara obligațiile pe care actul le impune (pe bună dreptate) asupra întreprinderilor. Acest sprijin a fost anunțat la începutul lunii ianuarie deodată cu mult mai trâmbițata știre a lansării biroului IA din cadrul Comisiei.

Fabrica de IA. Cum sprijină UE inițiativele în inteligență artificială

Totul pornește de la ingredientele salatei despre care am tot scris mai sus. În cazul IA, salata este formată din: date, putere de calcul, dezvoltare de algoritmi și talente. Aici spune Comisia Europeană că vrea să intervină pentru a pune cap la cap conceptul de AI Factories/Fabrici de IA, care le aduce pe toate laolaltă.

Ce presupune Fabrica de IA?

Fabrica de IA sunt “ecosisteme deschise format în jurul supercalculatoarelor publice europene care adună resurse materiale și umane necesar pentru dezvoltarea aplicațiilor și modelelor GenAI”. Mai simplu spus, fabricile sunt de fapt pentru dezvoltarea de modele IA europene care să poată concura cumva cu cele americane pe care deja le știm și folosim.

Cum se realizează? Cu:

  • supercalculatoare – 8 supercalculatoare există deja la nivelul UE, dintre care 3 sunt cele mai puternice din lume – LEONARDO in Bologna, Italia, LUMI in Kajaani, Finlanda, and MareNostrum din Barcelona, Spania. Acestea vor primi updates pentru a putea antrena aceste modele IA foarte puternice. Cum vor avea acces companiile? Încă nu e foarte clar, dar dacă arați că ceea ce dezvolți respectă valorile europene, atunci ai un loc la coadă 🙂 Avantajul? Păi, multe din companiile europene nu-și permit să investească în aceste cerințe tehnice și atunci e nevoie de un sistem de sprijin pentru ele.
  • stocarea de date: acces la centre de date aflate în apropierea supercalculatoarelor. De ce în apropiere? Păi, și dacă vorbim despre virtual, datele alea tot trebuie să circule. Deci e bine pentru viteza de procesare și analiză a datelor. Datele sunt fundamentul oricărui model de IA care se dezvoltă și cu cât mai puternic e modelul, cu atât trebuie mai multe date și mai multă putere de calcul.
  • servicii de sprijin – bun, avem tehnică, dar trebuie să știm cum să ajungem la ea, să știm bine ce vrem să facem, cum să facem asta și să putem să le și testăm în diverse circumstanțe. Va exista un singur punct de contact prin sistemul EuroHPC Joint Undertaking – o asociere dintre state și UE pentru a dezvolta supercalculatoarele.
  • talente – fabricile ar urma să lucreze îndeaproape cu centrele de cercetare, universitățile și startupurile pentru a pregăti resurse umane calificate să lucreze în domeniu
Supercalculatoarele europene. Sursă: EuroHPC JU

Cine mai poate ajuta? Pentru asta, mai sunt o grămadă de actori, organizații, formate la nivel european care pot aduce acest sprijin către companiile interesate:

  • centre europene de inovare digitală (EDIH-uri) – avem 7 în România – care pot facilita și ele accesul la informație în domeniu având în vedere rețeaua creată la nivel euroepan
  • European Innovation Council – care direcționează investiții către startupuri
  • regulatory sandboxes – care se vor crea odată cu implementarea Actului privind IA – adică sisteme de sprijin legislativ și tehnic ce pot da șansa companiilor să testeze inovații IA fără frica amenzilor că nu au respectat legile.

 

Mai avem și alți “furnizori” pentru fabrici?

Sunt atâtea inițiative europene încât e greu să ții pasul cu ele și să vezi cum se leagă. Căci aici e cheia – să le legăm pe toate. Poate și să le promovăm mai bine, de la nivel european spre cel național. A, și desigur, să sprijinim și conectarea inițiativelor românești la facilitățile europene. Până să ajungem la ce avem de făcut, să vedem cine și ce roluri mai joacă în această “salată”:

  • date: spațiile comune de date care au rolul de a aduna date din diverse domenii – de la mobilitate la energie – să le standardizeze și să le pună la dispoziție pentru analiză și antrenare de modele IA (de parcă chiar așa de ușor e 🙂 )
  • abilități: sunt o grămadă de programe și inițiative europene menite să încurajeze dezvoltarea de abilități în domeniu și pentru pregătirea și adaptarea celor care deja lucrează în diverse domenii la noul context marcat de IA: programe noi create prin Digital Europe Programme, Erasmus+ etc
  • EDIC-uri – consorții europene de infrastructură digitală – organizații formate din mai multe state membre, cu personalitate juridică, care își propun să dezvolte proiecte mari pe care nu le-ar putea implementa pe cont propriu. Există două deja stabilite: unul care-și propune să conecteze “gemenii digitali” locali ai Europei, adică reprezentările virtuale ale orașelor și al doilea, axat pe antrenarea modelelor AI conversaționale (cum este Chat-GPT) dar pentru limbile europene oficiale și regionale.
  • chipuri: încurajarea dezvoltării de ecosisteme de producție a chipurilor și elementelor necesare pentru producția acestora – prin Chips Act, recent adoptat, și sprijinit prin Chips Joint Undertaking. N-ai cipuri, n-ai Chat-GPT, spuneam într-o altă analiză aici. Chips JU este un parteneriat care își propune să dezvolte producția de cipuri avansate pentru că, până la urmă și supercalculatoarele au nevoie de upgrades 🙂

Will it sink or will it float?

Sursă: Designer, Copilot Microsoft. Prompt: a chip in an ocean of data
Era o întrebare de genul acesta la Discovery la o emisiune de știință. Aruncau chestii în apă să vadă dacă plutesc sau nu. La figurat putem să ne întrebăm și noi despre aceste inițiative: will they sink or will they float? Prea devreme să ne pronunțăm totuși. Putem da niște educated guesses, cum spune englezul.

Toate presupun efort, un pic de finanțare (o parte din fondurile pentru realizare vine de la Digital Europe- unde e necesară cofinanțare și de 50%) și musai conectare la nivel european (auzim din nou cuvântul ‘ecosistem’). Pe hârtie, ele toate sunt conectate, așa cum răsare din comunicările Comisiei Europene pe subiect. Sinergie în sus, sinergie în jos. Implementarea de la firul ierbii necesită nu doar cele menționate mai sus, ci și capacitate administrativă din partea autorităților publice inevitabil implicate în aceste sisteme. Deci, avem premisele unor dificultăți deja.

Totuși, când va veni scadența la implementarea Actului privind IA, companiile clar că se vor plânge încă o dată că această reglementare omoară inovația și crește costurile. Comisia va putea arăta către aceste instrumente și va putea spune: da, dar v-am construit fabrici, trebuie să le accesați și noi vă ajutăm. Dar viteza de lucru trebuie să fie la fel de mare cum e cea de procesare din supercalculatoarele cu care ne lăudăm.

Închei citând chiar concluzia Comisiei din Comunicarea publicată în ianuarie 2024: Un sentiment de urgență în implementarea acțiunilor prezentate în această Comunicare este necesar, deoarece lupta nu poate fi întotdeauna câștigată de cei puternici, ci cu siguranță va fi câștigată de cei rapizi.

Referințe

  1. https://digital-strategy.ec.europa.eu/en/policies/high-performance-computing-joint-undertaking
  2. https://ec.europa.eu/commission/presscorner/detail/en/ip_24_383
  3. https://digital-strategy.ec.europa.eu/en/library/communication-boosting-startups-and-innovation-trustworthy-artificial-intelligence
  4. https://www.chips-ju.europa.eu/

Înapoi în viitor? Cum digitalizăm IMM-urile în România

Anul e 2027. Suntem în viitorul pe care UE ni l-a făgăduit. 90% din IMM-urile românești au intensitate digitală de bază, 75% din companii utilizează cloud/AI/Big Data. Alegerile pe care le-am făcut la începutul deceniului 20 au dat roade. Efectele economice se văd, productivitatea e ridicată, totul e roz. Or is it?

Să ne întoarcem la deciziile pe care le-am luat la începutul deceniului 20 ai secolului XXI. Cum anume stimulăm întreprinderile să adopte tehnologii în activitatea lor? Ce finanțăm în acest sens? Cum măsurăm adoptarea tehnologiilor la nivel de întreprinderi? Despre asta e vorba în această analiză. Ne uităm la:

  • Ce finanțări sunt disponibile pentru digitalizare IMM-uri?
  • Cum digitalizam IMM-urile in Romania?
  • Ce urmărește România cu aceste finanțări? Se aliniază asta cu ce ne cere UE?

Dacă n-ai chef să citești până la capăt, uite principalele idei:

  • toate programele regionale au oportunități de finanțare pentru digitalizarea IMM-urilor, pe lângă oportunitățile prin PNRR
  • întreprinderile trebuie să bifeze o listă de 12 elemente care definesc intensitatea digitală
  • la fel ca tehnologia, intensitatea digitală evoluează, deci, chiar și Eurostat spune că posibilitatea de a urmări evoluția în timp a indicatorului e limitată.
  • programele cu finanțare europeană măsoară diferit intensitatea digitală – indicator-cheie care monitorizează digitalizarea întreprinderilor – pentru că folosesc versiuni diferite ale acestui indicator
  • cheltuielile eligibile din programele analizate permit achiziția unei varietății de tehnologii care se leagă indirect de intensitatea digitală cerută, dar accentul cade pe bifarea indicatorilor și nu neapărat pe îmbunătățirea proceselor interne
  • la nivelul a patru dintre cele 8 regiuni de dezvoltare, ghidurile de finanțare folosesc versiunea din 2018 a indicatorului de intensitate digitală
  • programele de digitalizare prin PNRR măsoară intensitatea digitală diferit față de programele regionale – dar folosesc varianta din 2021

Ce finanțări sunt disponibile pentru digitalizare IMM-uri?

Toate programele operaționale au oportunități pentru digitalizarea IMM-urilor., la care mai adăugăm și oportunitatea dată de PNRR. Mici diferențe apar între regiuni referitor la organizarea și gândirea apelurilor:

Cum digitalizam IMM-urile in Romania

Și acum vine dilema: ok, dăm bani, dar pentru ce? Aici intervine intensitatea digitală, o scară de măsurare drăguță venită de la Comisia Europeană și Eurostat care oferă o privire de ansamblu asupra utilizării tehnologiei într-o companie. Deci, finanțarea acoperă achiziție de tehnologie care să contribuie la bifarea indicatorilor aferenți intensității digitale. Bun, și care or fi indicatorii? Păi, depinde de an și aici cităm din Eurostat: indicatorul este unul compus, fiind derivat din chestionarul european cu privire la utilizarea TIC și comerțul electronic în cadrul întreprinderilor. Compoziția acestuia variază, în funcție de întrebările din chestionar. Compararea acestui indicator în timp este astfel limitată”. Deci, indicatorul evolulează aproape anual, ținând pasul cu tehnologia. Actualmente, scara de intensitate digitală pentru anul 2023 arată astfel:

Sursă: Eurostat
Finanțările europene pentru digitalizarea IMM-urilor funcționează deci pe baza acestui indicator, întreprinderile trebuind să bifeze cât mai multe din cele 12 elemente cu ajutorul achizițiilor de tehnologie prin proiect. De regulă, finanțatorii cer obținerea a minim 6-7 elemente din cele 12 pentru a atinge un nivel de bază de intensitate digitală. Cu cât mai multe elemente bifezi, cu atât ai dreptul la mai multă finanțare. Acum să vedem ce anume trebuie să urmărească firmele românești care achiziționează tehnologie pentru creșterea intensității digitale, conform finanțărilor disponibile:

  • POR Centru – varianta din 2018 de intensitate digitală
  • POR NV – varianta din 2018 de intensitate digitală
  • POR Vest – varianta din 2018 de intensitate digitală
  • POR NE – varianta din 2018 de intensitate digitală
  • POR SE – nu avem informații specifice despre apel
  • POR Sud-Muntenia – nu este un apel distinct pe digitalizare, iar apelul disponibil care integrează digitalizarea nu vorbește despre intensitate digitală
  • POR Sud Vest Oltenia – varianta din 2021 de intensitate digitală
  • POR București Ilfov – nu avem informații specifice, știm doar că se vizează și intensitatea digitală ridicată a întreprinderilor (deci cel puțin 9 din 12). Nu știm totuși ce variantă de intensitate se va alege
  • PNRR – varianta din 2021 de intensitate digitală

Să vedem cum arată asta în practică. Ce însemna intensitate digitală pentru anul 2018, respectiv pentru 2021?

Ce diferențe sunt?
  • elemente legate de procesele interne ale întreprinderii apar mai târziu, în varianta din 2021: ERP, CRM, AI
  • varianta din 2018 era bazată foarte mult pe web – 2 elemente legate de pagini web, două de comerț electronic
  • în 2021 – apar mai multe elemente legate de social media

Cea mai importantă diferență este că….păi, nu se potrivește cu actuala definiție a intensității digitale de mai sus de la nivelul anului 2023. Într-adevăr, varianta din 2021 se apropie mai mult de ceea ce urmărește acum Uniunea Europeană. Oricum, simplul fapt că acest indicator evoluează ne arată că nu putem să condiționăm prea mult adoptarea tehnologiei în mediul privat de bifarea unei liste de tehnologii achiziționate.

Deci, cum vor arăta întreprinderile românești digitalizate cu ajutorul acestor fonduri? Păi, majoritatea fondurilor disponibile, așa cum arată ghidurile acum, vor urmări indicatori care nu se aliniază foarte bine cu trendul tehnologiei:

  • cu accent pe achiziții de dispozitive mobile pentru angajați, pagina web și e-commerce, care nu este dublat în mod direct de exploatarea unor tehnologii pentru îmbunătățirea proceselor interne, cum ar fi ERP sau CRM
  • fără accent pe dezvoltarea unui model de business digital, care să colecteze date cu ajutorul programelor de tip CRM și ERP și care să le analizeze pentru a lua decizii mai bune
  • fără accent pe inteligența artificială

Informație importantă aici: într-adevăr, ghidurile consultate prevăd o listă de cheltuieli eligibile care permit achiziția de tehnologii de genul acesta – AI, CRM sau ERP etc. Dar legătura cu acești indicatori este indirectă și nu stimulează neapărat întreprinderile să își adapteze modelul de business și să-și îmbunătățească procesele interne. Accentul rămâne pe bifarea acestor indicatori, o condiționalitate a programelor de finanțare.

Ce urmărim cu intensitatea asta digitală?

În primul rând, intensitatea digitală a întreprinderilor mici și mijlocii este o țintă semnificativă pentru măsurarea progresului României la nivelul societății și economiei digitale. Ne-o cere Uniunea Europeană. Mai precis, la nivelul anului 2030, 90% din IMM-uri vor avea un nivel de intensitate digitală cel puțin de bază (6/12 tehnologii). Dar problema e că nu știm cum va arăta această intensitate digitală la nivelul anului 2030 pentru că indicatorul evoluează odată cu tehnologia. Iar monitorizările sunt diferite la nivel regional, pare-se.

În al doilea rând, intensitatea digitală este o modalitate de a măsura digitalizarea IMM-urilor, care la rândul ei ar trebui să aducă beneficii socio-economice pentru regiuni. Cheia e aici legată de modalitatea în care sunt folosite aceste tehnologii odată ce sunt achiziționate și modul lor de exploatare. Achiziția nu trebuie să rămână un scop în sine, dar accentul pe bifarea indicatorilor și așa invechiți în unele cazuri și a rezultatelor cerute de finanțator poate să ducă în direcția asta.

Mai există și alte moduri de a măsura digitalizarea IMM-urilor? Mai poți urmări gradul de maturitate digitală, o altă unealtă pusă la dispoziție de către UE pentru IMM-uri prin intermediul centrelor de inovare digitală. Acest indicator se uită mai adânc la procesele interne, aspecte legate de management și pregătirea angajaților sau chiar angajamentul către sustenabilitate în utilizarea tehnologiei.

Câteva recomandări de final…

  • pentru întreprinderi interesate de aceste apeluri: apelați la o analiză consistentă înainte de a alege și a scrie proiectele pentru digitalizare. Analiza trebuie să vizeze nu doar lista echipamentelor care se recomandă, dar a beneficiilor pe care le aduc pentru funcționarea întreprinderii. Aici mergem deja către transformare digitală și nu ne limităm la a digitaliza unele procese deja existente.
  • pentru întreprinderi interesate de apeluri: gândiți-vă și la maturitatea digitală, o analiză mai deep pentru regândirea modelului de business bazat pe date și care vă poate ajuta să inovați.
  • pentru policy-makers: corelați intensitatea digitală la nivel național pentru a asigura acele puncte în plus pe care le vrem cu toți în Indexul Societății și Economiei Digitale.
  • pentru policy-makers: o altă variantă de susținere a IMM-urilor este kitul digital, element care asigură uniformitate în tehnologiile pe care acestea le folosesc în afacerea lor. Spania face asta, de exemplu.

 

Omoară Uniunea Europeană inovația cu atâta reglementare?

Am obiceiul să fac “dog ears” la cărți. Iubitorii de cărți sunt șocați acum: cum poți să faci așa ceva?!?! Cartea lui Anu Bradford, Digital Empires. The Global Battle to Regulate, e plină de “dog ears”. Nu se putea să nu fie așa, fiindcă tratează aproape tot ce încerc eu să tratez pe această platformă: relația dintre state și companii tech, modele de reglementare american, european și chinezesc, tehnologiile smart city ca metodă de exportare a principiilor de supraveghere extinsă din China etc.

Aș fi putut să mă opresc la descrierea celor trei modele de “imperii digitale”, așa cum le numește cercetătoarea, anume SUA, China, Europa și să analizez “bătăliile” dintre acestea. De altfel, aș putea foarte adevărat să deschid oriunde cartea lui Anu Bradford și să găsesc informații demne de analizat și discutat aici pe site.

Am ales să mă opresc la o idee tratată pe finalul cărții care face parte din rețetarul oricărui discurs public legat de incapacitatea UE de a genera inovație sau din playbookul oricărei companii mai ales americane cu privire la “suprareglementarea” europeană: UE omoară inovația cu toate reglementările sale și acesta este motivul pentru care UE nu este cu adevărat o putere tehnologică.

 

Omoară Uniunea Europeană E inovația cu atâta reglementare?

Aceasta e întrebarea.

Anu Bradford contestă această relație de cauzalitate prin simpla idee că UE nu a avut giganți nici înainte de a dezvolta sistemul de reglementări pe care-l are în zilele noastre. Mai mult, arată cu degetul către alte politici sau specificități europene decât politica digitală, din cauza cărora companiile tehnologice din Europa au niște provocări unice pe care cele din SUA sau China nu le au.

 

  • Piață unică digitală fragmentată. Scalarea unei companii e dificilă atunci când are de-a face cu mai multe piețe naționale cu limbi, culturi și reglementări diferite. Dă exemplul Amazon care a putut să crească ca o librărie online pentru că toată lumea vorbea engleză, dar Europa cunoaște o diversitate lingvistică mult mai pronunțată. În Europa, serviciile de video on demand n-au putut crește și din cauză că au trebuit să ofere mixuri diferite de conținut pe diferite piețe. Să nu mai zicem de alte bariere legale și tehnice care creează regimuri diferite de la țară la țară. Fragmentarea aceasta omoară în special IMM-uri care au parte de costuri ridicate și nu pot scala suficient. Acesta e unul din motive pentru care decid să aleagă o piață omogenă, cum e cea americană.

  • Piețe de capital slab dezvoltate. Anu Bradford citează un studiu al McKinsey care spune că accesul la capital este extrem de important mai ales pentru startupurile IA, mai ales în rundele ulterioare de finanțare. Confruntate cu absența unor fonduri mari europene de capital de risc, companiile fug către SUA, unde banii se iau mai ușor. Într-adevăr, Anu Bradford remarcă un semn de optimism în această situație, anume faptul că au crescut semnificativ investițiile americane în startupuri europene, iar unele firme mari de capital de risc din SUA și-au deschis filiale europene. Salvarea ar mai putea veni și de la realizarea Uniunii Piețelor de Capital, inițiativă a Comisiei Europene care nu a avut succesul scontat deocamdată.
  • Bariere culturale și legale care descurajează falimentul și insolvența. Europenii pun preț pe stabilitate și nu pe asumarea de riscuri, “cred că eșecul este o tragedie personală”, ceea ce nu-i face pregătiți să treacă de la o idee la alta până au găsit ideea de business perfectă pentru ei. De altfel, aceste aspecte culturale sunt adesea prinse în legile de insolvență și faliment care penalizează eșecul.
  • Lipsa unei politici de imigrație active care să atragă talente bine pregătite. Aici vorbim despre “mitul visului american” care atrage mulți imigranți, despre universitățile americane care sunt printre cele mai puternice din lume, iar cei care vin să studieze aici au tendința de a rămâne. Autoarea citează nume de mari fondatori de giganți tech din SUA care sunt imigranți, dar și faptul că că mai mult de jumătate din cercetătorii importanți din IA din țară sunt imigranți sau cetățeni ai altor state.

Ce înseamnă toate astea?

De aici deducem trei aspecte semnificative:
  1. Folosind perspectiva lui Anu Bradford, reglementarea pe stil european a spațiului digital n-ar trebui să fie această sperietoare care e acum pentru companiile europene. Viziunea de a reglementa pentru a apăra valori, cum ar fi solidaritatea, autonomia, viața privată și corectitudinea, nu este de vină că nu avem suficientă inovație și maturitate în ecosistemele europene de tehnologie. În cazul acesta, diversitatea cu care atâta ne lăudăm ca europeni, e una din pietrele de moară semnificative. Cum reglementezi în jurul diversității? Cum creezi povești de succes pornind de la diversitate? Inteligența artificială poate ajuta aici, prin traduceri automate, spre exemplu, pentru produse și servicii europene cu adevărat. IA ne poate ajuta să înțelegem mai bine publicul din altă țară, pentru a putea oferi servicii cu adevărat valoroase pentru acea piață.
  2. De altfel, viziunea europeană asupra societății și economiei este această sabie cu două tăișuri care, pe de o parte, este atractivă deja la nivel global pentru reglementarea societății digitale și care, pe de altă parte, ne face să nu riscăm pentru că ne e teamă de eșec. Dacă am greșit, corect e să plătim. Ne place să avem stabilitate.
  3. Piața Unică există de zeci de ani atât în calitate de concept, cât și ca realitate, și nici acum nu am reușit să eliminăm toate barierele pentru o funcționare corectă pentru europeni. Da, poți cumpăra online din altă țară, dar degeaba poți dacă nu se dezvoltă servicii suficient de relevante pentru consumatori. Există, desigur, câteva excepții, cum ar Zalando sau About You pe piața de retail și fashion, dar totul pălește în fața gigantului Amazon.

Pe final, #foodforthought:

  • pentru cei care au un startup și vor să-l crească repede, Europa nu e pentru ei. Dar nu mai trăim în era “move fast and break things”. De altfel, una din ideile principale ale Digital Empires este că și SUA se mută încet către un sistem de reglementare asemănător celui european pe fondul problemelor legate de social media, dezinformare, dar și problemele antitrust pe care le pun giganții americani, iar cetățenii ari fi de acord cu asta. Bătălia pe drepturile de autor în antrenarea modelelor de AI care se dă în SUA acum este unul din semne (vezi procesul intentat de New York Times împotriva OpenAI).
  • pentru cei care vor să dezvolte o afacere în Europa, vor trebui să-și pună problema internaționalizării mult mai repede decât și-o pune un startup din SUA pentru că piețele sunt mai mici și mai fragmentate. Fondurile europene sunt o soluție pentru ei, cu toate că e greu să-ți bați capul cu birocrație și cu lipsa predictibilității cu privire la asigurarea finanțării.

Ce a mers bine și ce a mers prost în 2023? Ediția de #digital

Ce a mers bine și ce a mers prost în 2023? O scurtă postare de #yearinreview, varianta pe digitalizare. De ce? Păi, în pregătirea pentru această recapitulare, am citit să văd ce au mai scris ziarele pe acest subiect. În România, am găsit un mare nimic, iar în străinătate cam singura poveste a fost legată de inteligența artificială. Not that there’s anything wrong with that, cum ar zice Seinfeld, dar parcă s-au mai întâmplat și alte lucruri. Deci, să purcedem.

Ce a mers bine în UE?

A fost un an foarte foarte foarte încărcat, aș putea zice. Încărcat pentru că se încheie în curând mandatul actualei Comisii și au fost nenumărate propuneri legislative care au trebuit duse la bun sfârșit. Unele mai repede decât altele. Unele mai bine decât altele. Să le vedem, in no apparent order:

  • primele semne de funcționare pentru Digital Services Act și Digital Markets Act. Ce înseamnă asta? Comisia Europeană a desemnat primele companii cu influență semnificativă pe piețele digitale în cazul DMA- vezi mai jos. Ce înseamnă asta pentru noi? Printre altele, vom putea dezinstala aplicații care nu puteau fi dezinstalate până acuma. Nu ne vor mai putea urmări în afara platformei dacă nu consimțim asta (nu uitați să nu mai apăsați “Accept all”)
Sursă: Comisia Europeană
  • pentru DSA – avem o listă de VLOPs și VLOSEs: platforme și motoare de căutare foarte mari. Pornhub e cel mai recent 🙂 Ce înseamnă aceste desemnări pentru noi? Printre altele, existența unor puncte de contact unde ne putem plânge dacă conținutul nostru a fost dat jos de platformă, eliminarea conținutului ilegal, opțiunea de a ști de ce vedem un anumit tip de conținut (asta dacă știm unde să ne uităm, desigur)
  • adoptarea Chips Act – care creează niște mecanisme prin care aparent ar trebui să crească producția de cipuri în UE. Să mai reducem din dependența de alte teritorii. Nu uitați, n-avem cipuri, n-avem nimic.
  • finalizarea negocierilor pe Digital Wallet. Vom avea un portofel digital european, unde ne vom putea încărca actele și vom avea aici și o semnătură digitală. Nu, nu e obligatoriu, nu ne cipează nimeni.
  • adoptarea Data Act. Apar reguli cu privire la utilizarea și partajarea datelor pe care le produc dispozitivele pe care le folosim. Aici regulamentul e cu bătaie către companiile care au nevoie de date pentru a-și antrena sistemele de inteligență artificială
  • Ok, bine bine, vorbim și de inteligența artificială. După luuuuungi negocieri și aproape un eșec, a venit un acord provizoriu pe regulamentul care va marca modul în care sistemele IA sunt puse pe piață. Am vorbit muuult aici și aici despre acest regulament. Aproape că l-am pus la “ce nu a mers bine în UE”, dat fiind că a existat un “last minute push” să nu apară prevederi cu privire la utilizarea sistemelor de tip Chat-GPT în regulament, ceea ce ar fi dus la deraierea întregului dosar.

Ce nu a mers bine în UE?

  • putem pune aici și o mică referire cu privire la inteligența artificială. Societatea civilă și-a exprimat îngrijorările cu privire la utilizarea supravegherii în timp real cu ajutorul acesteia în anumite condiții care deocamdată sunt vagi. Pentru textul final mai avem de așteptat, pentru intrare în vigoare avem și mai mult, undeva până în 2025.
  • alt punct slab: primul raport privind Deceniul Digital care spune că, așa cum merg lucrurile, nu vom atinge țintele asumate pentru 2030. Raportul cere eforturi mai mari din partea statelor membre și o mai bună conectare între politici.
  • eram gata să o scriu pe asta la “ce a mers bine”. Nici acum nu avem un acord cu privire la directiva care ar reglementa munca pe platformele de freelancing sau sharing economy. Eram gata să o pun acolo pentru că Parlamentul și Consiliul ajunseseră la un acord provizoriu, dar până la urmă propunerea nu a primit votul final în Consiliu. Ce ar fi însemnat acest acord? O relație mai clară între persoanele care lucrează și platforma care îi găzduiește și drepturi sociale aferente muncii pe care o prestează. Prezumția angajării – așa cum a fost desemnată de către Comisie – ar apărea dacă relația contractuală ar bifa mai multe criterii (care au fost de fapt mărul discordiei). Oh well, o lăsăm pe asta pentru la anul.

Ce a mers bine în România?

  • lansarea primelor programe de finanțare pentru digitalizare. Într-un final. Am avut celebrul “digitalizare IMM prin PNRR”, dar care de-abia la final de an și-a desemnat primii 1000 de “câștigători”. Am avut diverse programe lansate pentru dezvoltarea competențelor digitale prin tot felul de mecanisme care seamănă mult unul cu altul.
  • avem câteva cadre strategice naționale finalizate – inteligența artificială, centrele de inovare digitală, quantum – care ar trebui să creeze fundamentul pentru niște politici publice coerent pentru aceste tehnologii.
  • pentru prima dată și ceva din sfera guvernanței digitale. Avem comitete și comiții 🙂 Consiliul Științific și de Etică în Inteligența Artificială, Consiliul de Educație în IA, Comitetul de IA. Deocamdată nu știm cum și când funcționează și ce rezultate sunt pe acest palier. Cel mai cu tam-tam ar fi primul Consiliu Științific care conține experți din diaspora care lucrează în domeniu
  • primele finanțări pentru centrele de inovare digitală (Digital Innovation Hubs) prin fonduri europene. Am mai vorbit despre asta, rolul acestor centre este să sprijine companiile să treacă prin procese de digitalizare, nu prin simpla dotare cu echipamente, ci cu sprijin strategic prin realizarea de strategii de transformare digitală, spre exemplu.

Ce nu a mers bine în România?

  • lansarea eID în România. Fără evaluare de impact pentru datele personale, un pic cam inutilă deocamdată pentru că încă nu sunt servicii digitale interoperabile disponibile, dar na, era un deadline de respectat pentru finalizarea proiectului 🙂 Plus posibila suprapunere cu buletinul electronic.
  • avem cadru strategic pentru IA, dar degeaba avem, dacă n-avem un cadru legal care să oficializeze această strategie. E ok, bine că avem strategia națională pentru educație pentru schimbări climatice și mediu. Când vrei să treci cu adevărat ceva, se trece 🙂. Din nou din Seinfeld: not that there’s anything wrong with that…
  • raportul românesc pentru Deceniul Digital, care, desigur, ne situează pe ultimul loc în UE și arată că, dacă totul merge în continuare la fel, nu ne vom atinge țintele pentru 2030…
  • ținte pe care nu le știm foarte clar (în afară de cele care cer să atingem 100% servicii publice digitale de exemplu) pentru că nu avem încă aprobată foaia de parcurs națională pe care o cere Comisia Europeană, anume angajamentele pe care ni le asumăm pentru a realiza acele ținte și pentru a contribui la realizarea țintelor europene – cum ar fi 80% din cetățeni cu competențe digitale de bază. To be fair, n-am găsit foi de parcurs nici la alte state.
  • câteva programe de finanțare în care s-au pus foarte mari speranțe au cam fâsâit. De exemplu, transformarea bibliotecilor în huburi de competențe digitale al cărui apel de finanțare a fost relansat pentru că n-au fost depuse prea multe proiecte. Sau programul pentru Smart Labs în licee, unde, iarăși, au fost mai mulți bani disponibili decât proiecte depuse

Unde să-l pun pe Ion? Nu-l pot cataloga nici la bine, nici la rău pentru că a fost anunțat cu fanfaronadă ca fiind primul consilier guvernamental artificial din lume, ca să aflăm că de fapt a fost pre-programat să zică una-alta. Pentru că n-am aflat cu adevărat ce crede după ce a fost etichetat de sute de mii de ori. Pentru că a fost abandonat pentru că s-a schimbat ministrul, pentru că nici acum nu știm cu ce a fost antrenat. Dar a fost ok și pentru că a mers printr-o caravană prin țară, caravană menită să popularizeze digitalizarea. Care nici asta nu știm ce impact a avut. Ok, m-am răzgândit. E de fapt la “ce nu a mers bine”.

Bilanț la bilanț? Păi, pare că la nivelul UE legiuitorii s-au chinuit să termine ce au început pentru că li se termină mandatul, în timp ce, în România, coaliția e tot la final de mandat, dar de-abia acum au dat drumul proiectelor. Care cine știe cum se vor continua.

 

L-au legat cu bandă izolatoare. Acord provizoriu pe Actul privind IA

Săptămâna trecută tot despre IA am scris și am întrebat retoric “cine v-a lucrat aici?” Era vorba că întreg regulamentul pe IA era în pericol din cauza unor “mofturi” de ultim moment ale câtorva state cruciale pentru atingerea unei majorități calificate – Germania, Franța și Italia.

Iată că, păstrând metafora meșterului venit să repare ce au stricat alții încercând să repare, au pus niște bandă izolatoare, au legat cu niște sârmă și au reușit să o pună de un acord provizoriu între cele trei instituții europene (Consiliu, Parlament și Comisie) pe viitoarea legislație privind inteligența artificială.

Deci, merită să ne uităm peste ce a fost legat cu bandă izolatoare și cum s-a prins laolaltă varianta finală a Actului privind Inteligența Artificială (AIA).

Despre ce e vorba mai jos?

  • contextualizăm un pic discuția răspunzând la câteva “dece-uri” despre această legislație
  • vedem cum anume s-a ajuns la un acord și ce zic principalii actori despre rezultat
  • facem un rezumat al principalelor prevederi ale legislației și ne uităm un pic în viitor

Să purcedem, deci.

 

Câteva "de ce-uri"

De ce te-ar interesa această legislație?

  • legislația despre IA va afecta pe toată lumea pentru că intrarea IA în viața noastră este de-abia la început, iar sistemele de tip IA vor pătrunde în fiecare aspect al vieții noastre. Negreșit.
  • în esență, legislația este despre protecția consumatorilor, iar mare parte din aplicare va fi în “spatele scenei”.
  • chiar dacă noi suntem priviți ca niște “consumatori”, regulamentul e mai degrabă despre protecția “cetățenilor” pentru că o parte din obligațiile companiilor care pun pe piață sisteme IA se leagă de drepturile noastre fundamentale. Deci nu vorbim doar de “clientul are întotdeauna dreptate”, ci despre “clientul este de fapt cetățean și are o serie de drepturi fundamentale”.

De ce e a big deal acest acord ?

  • pentru că inteligența artificială e “tehnologie de uz general”, cam ca electricitatea sau Internetul. UE e prima entitate din lume care are acum o reglementare de protecție a cetățenilor și de ghidare a companiilor care dezvoltă astfel de soluții. SUA are “executive orders” pe acest domeniu, dar care n-au putere de legislație federală care să se aplice asupra întregului teritoriu, așa cum se întâmplă în UE.

De ce a durat atât – 2 ani?

  • pentru că vorbim de procesul decizional european – unde timpul de negociere al unui regulament sare adesea de un an. Să nu uităm că nici definiția IA nu a fost agreată decât acum în ultimul moment.
  • am mai povestit aici de ce a durat atât. Dar, pe scurt: proiectul de reglementare nu conținea la început prevederi despre sistemele IA, cum este Chat-GPT. Având în vedere că aplicația asta a devenit foarte populară în extrem de scurt timp, autoritățile europene – îndeosebi Parlamentul European – au considerat necesară introducerea unor prevederi legate de siguranța celor care utilizează aceste soluții

 

Acord provizoriu pe Actul privind IA

Avem, așadar, un acord cu privire la textul Actului privind Inteligența Artificială. Acord provizoriu. Acord provizoriu înseamnă că instituțiile europene au agreat principalele elemente ale legislației care mai rămăseseră de negociat.

Urmează acum un pas crucial, cel de redactare efectivă a textului final unde va mai fi de lucru. Deci, nu a intrat în vigoare, nu se aplică de mâine, nu omoară inovația încă, nu ne putem plânge încă unei autorități că un sistem IA ne-a discriminat. Apoi urmează un vot final, atât în Parlament (care reprezintă cetățenii), cât și în Consiliu (care reprezintă statele). Iar intrarea în vigoare e prevăzută undeva pentru 2025, deci mai avem de așteptat. Cum va evolua tehnologia până atunci este de urmărit până atunci pentru că, deși regulamentul a fost gândit să fie “future proof”, unele aspecte ale acesteia vor necesita corectură sau adaptare cu siguranță.

Cum am ajuns la acest acord? Păi, n-a fost nevoie decât de niște negocieri maraton și lipsă de somn pentru a se ajunge la un acord. 36 de ore au durat negocierile, oprite doar de câteva pauze de somn. Nimic nu ajută mai mult la rezolvarea unui impas decât lipsa somnului, aș zice eu. Comentariile celor interesați de subiect pe LinkedIn au fost mai degrabă că așa nu se face negociere cu minți private de somn care nu mai gândesc rațional sau nu mai sunt capabile să înțeleagă nuanțe sau idei simple. E și ăsta un punct de vedere. Dar am impresia că, odată ce intri în hora deciziilor europene, ești băgat la un curs special despre cum să stai treaz până târziu pentru că, așa cum am zis aici, marile decizii ale UE s-au luat aproape întotdeauna în orele târzii ale nopții sau devreme ale dimineții. Și asta poate fi catalogată ca o decizie mare, indiferent de câte probleme au semnalat principalii actori implicați.

Ce i-a ținut treji atâta timp?

Imagine din timpul negocierilor. Sursa: Thierry Breton, X

Nu, n-a fost doar cafeaua sau energizantul, ci niște mere. Ale discordiei. Anume sistemele de uz general (de tip Chat-GPT) și utilizarea IA pentru aplicarea legii și supraveghere. Să le luăm pe rând.

De fapt, principala chestie care a întârziat negocierile – anume reglementarea sistemelor de IA de uz general – a trecut relativ repede. Adică, acestea vor fi clasificate pe două categorii în funcție de mai multe criterii – cum ar fi puterea de calcul – exact așa cum a fost în compromisul inițial după care s-au ofticat cele 3 țări.

Toate sistemele vor publica rapoarte cu privire la utilizarea lor și la datele cu care s-au antrenat. Iar cele mai puternice vor trebui să treacă prin mai multe testări, cum ar fi “adversarial testing”, adică să duci la extrem funcționarea aplicației dându-i prompturi și întrebări menite să ofere răspunsuri problematice. Cam cum a făcut tipul de la New York Times cu Bing AI. Acestea vor trebui să ofere și rapoarte de eficiență energetică, fiind cunoscut faptul că sistemele puternice consumă foarte mult curent. Câteva milioane de căutări pe zi pe Chat-GPT ar putea consuma 1 Gwh în fiecare zi, echivalentul consumului zilnic de curent a peste 30 de mii de gospodării, conform calculelor făcute de Universitatea din Washington. Un Birou IA înființat în cadrul Comisiei se va ocupa de supravegherea funcționării acestor sisteme.

Acest model de supraveghere este același din compromisul inițial după care s-au supărat cele trei state. Ceea ce mă face să cred că nu asta a fost toată povestea. Ci celălalt măr al discordiei – adică utilizarea IA pentru aplicarea legii și pentru supraveghere.

IA poate fi utilizată pentru identificarea la distanță a unei persoane în două moduri – în timp real și după un eveniment. Parlamentul a cerut, de exemplu, interzicerea totală a identificării biometrice în timp real. Consiliul nu a fost de acord – adică cei care au monopolul forței. Astfel că a apărut iarăși un compromis – un acord pentru utilizarea sistemelor IA de identificare biometrică în timp real în anumite condiții legale. Deci, autoritățile vor putea utiliza identificare în timp real, spre exemplu pentru a căuta țintit o victimă a unei răpiri sau pentru prevenirea unei amenințări teroriste specifice sau prezente. Sau pentru a localiza o persoană suspectată de infracțiuni grave. Nu știm încă ce înseamnă această infracțiune gravă. Mai mult, o autoritate din sfera aplicării legii va putea folosi o aplicație IA chiar dacă nu are o evaluare de conformitate cu legea în aceste cazuri urgente – ceea ce poate lăsa portițe de utilizare greșită.

În ceea ce privește identificarea biometrică la distanță după un eveniment, există mai puține restricții, dar tot este necesară o autorizație în prealabil în conformitate cu legislația națională. De altfel, în comunicatul său, Consiliul scoate în evidență treaba asta cu legislația națională și faptul că regulamentul nu interferează cu politicile de securitate națională. Ca să fie clar, nu se aplică sistemelor IA utilizare în scopuri militare sau de apărare. Deci, aparatul de forță al statului continuă oarecum nederanjat, conform și organizațiilor de societate civilă care au urmărit subiectul.

Oricum, au mai dres busuiocul cu obligația ca autoritățile publice ce utilizează sisteme cu risc ridicat, adică și acestea de identificare biometrică, să se înscrie într-o bază de date europeană.

Ce a mai ieșit din această negociere?

  • obligație de realizare a unei evaluări de impact cu privire la protecția drepturilor fundamentale în cazul utilizării unor sisteme IA de risc ridicat
  • interzicerea salvării în masă a imaginilor cu persoane de pe Internet. Acestea se utilizează de obicei pentru a face baze de date pentru recunoaștere facială. Clearview AI e o companie americană care a făcut asta și a făcut un soft de recunoaștere facială pe care l-a vândut chiar și autorităților europene, deși e cam ilegal și din punct de vedere al GDPR
  • interzicerea sistemelor care manipulează comportamentul uman pentru a le submina liberul arbitru.
  • interzicerea utilizării sistemelor IA pentru recunoașterea emoțiilor în diverse contexte, cum ar fi la locul de muncă
  • diferențierea amenzilor în funcție de mărimea companiei. IMM-urile care nu respectă prevederile de a pune pe piață sau a utiliza în conformitate cu regulamentul aceste sisteme vor plăti amenzi mai mici
  • posibilitatea de a ne plânge unei autorități competente dacă am fost nedreptățiți de un sistem IA

 

Cu ce preț? versus Doar atât?

Image by Freepik

Dacă nu ești în bula celor interesați de tehnologie sau politici publice sau UE, nu prea ai habar care a fost faza cu negocierile asta. Și uite ce efect au unele sisteme de IA asupra noastră și nici nu știm de fapt. Pentru că, de fapt, un sistem IA de recomandare a conținutului pe rețelele sociale îți creează această bulă. Apropo, versiunea de regulament din Parlament presupunea încadrarea la categoria de risc ridicat a acestor sisteme care ne recomandă conținut pe social media. Asta n-a intrat în varianta agreată de ambele instituții.

Dacă întrebi pe cineva din societatea civilă despre eliminarea acestei prevederi, probabil că o să-ți răspundă că e problematică. Dacă întrebi pe cineva care lucrează cu social media, îți va răspunde că și așa bietele companii sunt prinse cu alte regulamente importante care le creează o grămadă de obligații.

Să vedem totuși ce zic diferiții actori despre forma agreată a AIA. Reacțiile organizațiilor de societate civilă s-au învârtit mai ales în jurul victoriei statelor cu privire la utilizarea IA în domeniile de aplicare a legii. Încă un semn că aici a fost de fapt miza negocierilor. Accentul pozițiilor acestor organizații a căzut pe diferitele lacune prinse intenționat sau nu în legislație, care ar putea permite supravegherea în masă. Conform lor, asta se vede mai ales în împărțirea pozițiilor între Parlament și Consiliu, cel din urmă insistând asupra unor excepții de la regulament pentru domeniile de securitate și apărare, mai ales în ceea ce privește supravegherea în masă cu ajutorul IA.

Digital Europe, principala organizație ce reprezintă BigTech și alte mari companii tech din Europa, se întreabă “Cu ce preț vine acest acord?”, accentuând ideea că reglementarea IA este o povară pentru companiile de tehnologie și că acestea vor trebui să angajeze mai mulți avocați decât inginerii de IA. Aceste idei fac parte din povestea des spusă în UE că legile și regulamentele omoară inovația și că economia este blocată de prea multe reguli. Povestea asta s-a mai spus de fiecare dată când a apărut o reglementare pe tehnologie, dar aici chiar suntem într-un teritoriu nebătătorit pentru că e prima dată când o entitate reglementează IA.

 

Și cu ce mă ajută pe mine, domnișoară?

Pe final, o scurtă recapitulare a ceea ce înseamnă acest act legislativ.

Dacă ești cetățean:

  • conținutul creat de IA va fi desemnat ca atare ca să știi că nu a fost creat de un om. Să vedem dacă rămâne doar aplicarea asta care e deja acum când copiezi un text din Chat-GPT în alt program, pentru că pur și simplu poți să ștergi textul de disclaimer de final.
  • la locul de muncă, șeful nu va putea folosi un sistem de IA pentru a detecta cât de mult nu-l suporți
  • la graniță, sistemele de identificare prin IA vor putea fi utilizate. Oare acestea să fie noile smart borders în Schengen?!
  • dacă un sistem de IA ia decizii care îți afectează viața, tu va trebui să știi că a fost un IA implicat în luarea deciziei și vei putea contesta dacă crezi că ești discriminat.
  • dacă locul tău de munca se va transforma și va include luarea de decizii cu ajutorul IA, să știi că tu vei lua oricum decizia la final. Nu te baza doar pe IA, tu trebuie să gândești cu mintea ta
  • companiile nu-ți vor putea lua imaginile de pe social media pentru a crea o bază de date pentru recunoaștere facială. Nu-i problemă, va supraveghea statul oricum spațiul public. Dacă ai ghinionul să fii o față generică sau să semeni foarte bine cu cineva, s-ar putea să fi confundat/ă cu un răufăcător, cum s-a întâmplat deja în România.

Dacă ești o companie, păi, aici e mai complicat:

  • totul depinde de cine ești. Pui pe piață un sistem IA? Păi, trebuie verificat unde se va folosi și pentru ce și determina ce fel de riscuri aduce. Există câteva domenii de mare risc: educație, loc de muncă, siguranță, control la frontieră etc. Dacă pui pe piață un sistem de mare risc, trebuie să faci evaluări de conformitate înainte de a-l pune pe piață și încă o evaluare de impact cu privire la respectarea drepturilor fundamentale ale utilizatorilor. Încă e fuzzy cum vor arăta aceste rapoarte, dar vor apărea structurile de sprijin pentru aceste evaluări. Oricine ai fi, trebuie să oferi specificații și documentație tehnică pentru sistemul pe care-l pui pe piață.
  • utilizezi sisteme IA? ar cam trebui să realizezi evaluări asupra contextului de utilizare ca să vezi dacă pot apărea efecte nedorite.
  • utilizezi sisteme IA? trebuie să te asiguri că persoanele care supraveghează sistemul sunt “competente, calificate și pregătite în mod adecvat și au resursele pentru a asigura supravegherea sistemului IA”.
  • ai control asupra datelor care intră în antrenarea sistemului? Păi, trebuie să te asiguri că datele sunt de calitate și comprehensive.

Astea sunt doar câteva exemple. Odată ce apare textul final, va fi mult mai clar care sunt obligațiile. Până atunci, să stăm cu ochii și pe noile versiuni de sisteme IA de uz general și pe textul final al legislației.

 

Referințe

Cine v-a lucrat aici? Legislația IA e în pericol

Chat-GPT a împlinit ieri un an. DigitalPolicy face azi trei ani. Coincidence?! I think not! 🙂 Dar e momentul potrivit să ne uităm un pic pe unde se mai află instituțiile europene cu negocierea pe Actul privind Inteligența Artificială (AI Act), despre care am scris la vremea lui aici. De fapt, ar trebui să mai adăugăm aici un termen de referință: Chat-GPT a împlinit un an, DigitalPolicy trei, iar procesul de negociere al AI Act are deja 2 ani împliniți. Pare că legislația IA e în pericol.

Da, vorbim încă de un proces de negociere, având în vedere că AI Act încă nu a intrat în vigoare. Ce s-a întâmplat? Dacă nu vrei să mergi mai departe cu cititul, am răspuns la această întrebare deja din prima propoziție. Chat-GPT a împlinit un an, asta s-a întâmplat. Dacă vrei să mergi mai departe, vei afla despre:

  • cum noile aplicabilități ale IA au deturnat textul inițial al regulamentului
  • cum unele state pot deturna toată negocierea unui act legislativ din varii motive (a se citi – interese naționale)
  • cât de divizați sunt toți actorii care au habar cât de cât despre IA. Dacă ei sunt divizați, atunci ce pretenții să mai avem unii de la alții că înțelegem ceva despre IA?

De ce te-ar interesa să mergi mai departe?

  • reglementarea IA a pornit ca o soluție pentru protecția și siguranța consumatorilor. Deci, dacă nu iese, noi, cetățenii, ieșim mai prost.
  • mărul discordiei se învârte în jurul sistemelor de tip Chat-GPT și reglementarea acestora. Sunt acestea riscante sau nu? Dacă ai folosit cel puțin o dată un astfel de sistem, atunci ți-ai făcut o părere despre asta. Cum te situezi? Vezi mai jos ce s-ar putea întâmpla cu acestea.
  • de la “IA va aduce sfârșitul lumii” la “IA o să-mi elimine jobul”, cred că le-am auzit pe toate în ultima vreme. Vorbim cu adevărat despre așa ceva? Ce poate să facă o astfel de reglementare cu privire la aceste amenințări?

Să purcedem, deci.

Unde eram cu AI Act?

Apărută în aprilie 2021, propunerea privind reglementarea inteligenței artificiale (IA) s-a axat, la fel ca majoritatea legislațiilor adoptate pe tehnologii, pe protecția consumatorilor, adică a utilizatorilor de aplicații IA. Ideea era să prevenim jungla tehnologică în care fiecare producător se “auto-reglementează” și spune că va respecta o serie de reguli și poate-poate nu va pune pe piață produse menite să le facă rău oamenilor.

Aici intervine un aspect semnificativ: cum adică un software face rău oamenilor? Păi, atunci când drepturile lor fundamentale nu le sunt respectate sau sunt puse sub amenințare fără un ghidaj adecvat. De exemplu, când fiecare mișcare îți este supravegheată, când un program de acest gen decide ce fel de indemnizație primești sau dacă primești așa ceva. Sau la locul de muncă când o cameră de supraveghere dotată cu recunoaștere facială detectează că te-a enervat șeful, iar acesta primește rapoarte cu privire la recunoașterea emoțiilor tuturor angajaților

Dacă te-a înfricoșat vreuna din chestiile de mai sus, să știi că unele din aceste practici vor fi interzise (supravegherea în timp real cu anumite limitări, recunoașterea emoțiilor la locul de muncă) sau restricționate. Depinde de context și de locul în care se întâmplă. Asta e abordarea bazată pe risc în limbajul birocratic european. Adică o catalogare a riscurilor utilizării de IA în funcție de domeniul și/sau tip de utilizare în care se aplică – locul de muncă, frontieră, securitate etc.

Sursă: Think-tank-ul Parlamentului European

Impresiile cu privire la această abordare pe riscuri au fost și sunt împărțite în clasica diviziune între cei care cred că reglementarea e nașpa și cei care cred că reglementarea nu merge destul de departe.

De ce ar fi reglementarea nașpa în general? Răspunsul e că ar crea mai multe costuri de operare a acestor sisteme și că oricum restricțiile de operare dăunează inovației. Fiindcă nu poți să faci ce vrei, atunci nu poți inova. Dacă nu poți inova, nu poți aduce produse și servicii de valoare pe piață cu care să creezi mai multă valoare. Filosofia asta vine din America unde modelul de reglementare a tehnologiei este mult mai relaxat și pune accentul pe auto-reglementare. Nu mă credeți pe mine, atunci credeți-o pe Anu Bradford care scrie despre acest model în noua sa carte – Digital Empires.

Na și de aici se împute treaba cu toată legislația 🙂 De ce? Pentru că un produs nou a apărut în mijlocul procesului de negociere al AI Act și a direcționat total concentrarea pe utilizarea universală a acesteia, concentrare care intră în conflict cu modul în care erau văzute sistemele IA până atunci – un sistem pentru o utilizare pentru un domeniu.

Produsul era nou prin capabilitățile pe care a reușit să le obțină cu ajutorul infrastucturii și puterii de calcul, dar tehnologia din spate nu era chiar nouă. E vorba despre Chat-GPT, desigur.

Cine v-a lucrat aici?

Vorba aia, când vine meșterul să repare ceva și se ia cu mâinile în cap și zice: cine v-a lucrat aici? Cam așa și cu opinia publică acum cu puțin timp la dispoziție pentru finalizarea negocierilor pentru Actul IA când ne-am trezit cu toții cu o bombă din partea unor state. Dar să păstrăm un pic suspansul aici.

Deci, OpenAI și Chat-GPT ne-au lucrat aici și au determinat negociatorii din Parlamentul European să propună includerea “foundational models” sau “sistemelor de IA de uz general” în textul propunerii de regulament. Până aici toate bune. Dacă ai utilizat cel puțin o dată Chat-GPT și nu ți s-a zburlit părul pe spate când ai văzut că se exprimă bine în română și poate să-ți ușureze destul de mult activitatea, atunci felicitări, ești mult mai echilibrat decât mine. Sau mai optimist.

Hai să-ți stric un pic impresia despre acesta. De fiecare dată când noi îl folosim, îl antrenăm. De fiecare dată când îl folosim, acesta învață. Dar atenție, învață cuvinte și știe că trebuie să-ți livreze ceva ce s-ar potrivi ca răspuns la întrebare. De aceea, poate să inventeze chestii. Am făcut un training pentru profesorii din sistemul preuniversitar despre cum ar putea integra această unealtă la clasă și le-am arătat cum poate inventa bibliografii și cărți atunci când îi ceri surse de informare. Reacția a fost cam așa: 😲

Și din această mică discuție irelevantă cu niște profesori, vine întrebarea care e pe buzele negociatorilor europeni: sunt aceste modele riscante? ar trebui să le punem în categoria aia de risc ridicat (care vine la rândul ei cu niște obligații)?

 

A fi sau a nu fi de mare risc?

Fără a intra foarte mult în aspecte tehnice legate atât de aceste sisteme de uz general, cât și de negocierile europene, e suficient să spunem că reglementarea acestora a intrat în vizorul și a Parlamentului și a Consiliului UE, dar cu abordări oarecum diferite.

Background pentru cine nu știe: Comisia Europeană propune, Parlamentul și Consiliul negociază între ele și extind sau reduc propunerea inițială, iar Comisia poate interveni cu variante de compromis etc. Dar, votul final se dă în ambele instituții pe o variantă pe care se negociază luni bune în general. Sau ani.

Spre exemplu, președinția cehă de anul trecut a propus includerea acestora în categoriile de risc ridicat indiferent de cum se utilizează (să nu uităm că acestea pot fi utilizate în orice domeniu). Parlamentul a venit cu o serie diferită de obligații pentru aceste sisteme de uz general indiferent de categoria de risc în care se află. Aici e dilema. Spre exemplu, Google Maps e considerat un astfel de sistem pentru că are la bază IA. Dacă-l folosești ca să te duci în excursie, treaba ta, e o chestie personală și nu prea există foarte multe riscuri asociate. Dar dacă e folosit ca soft integrat într-o ambulanță sau o mașină de poliție (gen cum sunt BMW-urile noastre :), atunci intervin aspecte legate de securitate, viață privată etc.

Aici a apărut o nouă variantă de compromis – “tiered approach” – din nou din limbajul melodios al birocrației europene. Adică nu toate sistemele de genul acesta sunt cu impact maxim asupra societății, deci Comisia a propus reglementarea pe două categorii: prima care le include pe toate sistemele de uz general (cu obligații de transparență) și a doua cu mai multe obligații pentru sistemele IA cu impact asupra societății. Acestea ar trebui să ofere explicații cu privire la modul de funcționare a sistemelor, spre exemplu.

Responsabilitatea de a desemna pe cele din urmă ar cădea instituției denumite generic AI Office (pe bază de capabilități, număr de utilizatori, investiții etc), care s-ar ocupa de foarte multe aspecte tehnice pentru implementarea reglementării. Aici ar putea intra, de exemplu, Chat-GPT. Acestea ar reprezenta un risc sistemic asupra societății datorită puterii lor și numeroaselor sale utilizări.

Legislația IA e în pericol

Și acum vine detonarea bombei. Pe ultima sută de metri, Franța, Germania și Italia au publicat o scrisoare în care și-au exprimat dezacordul total cu privire la reglementarea acestor sisteme de uz general și limitarea acestei reglementări la realizarea unor coduri de conduită pe care companiile se angajează să le respecte. Mai mult, n-ar fi de acord nici cu sancțiuni, decât după încălcări repetate ale codului de conduită. Toată lumea a fost luată prin surprindere de această poziție, care va paraliza Consiliul UE, iar Parlamentul a menționat clar că nu va da înapoi cu privire la această reglementare.

Care-i problema Franței, Germaniei și a Italiei? Eterna problemă: reglementarea acestor sisteme ar ucide inovația. Inovație realizată în UE. Presa scrie că imboldul pentru această poziție a venit de la 2-3 companii din domeniul IA din țările respective. Veșnicul lobby, adică 🙂 Dar demersul pare oarecum egoist, având în vedere că aceste state au fost de acord cu reglementarea sistemelor IA atunci când ele vin din alte părți. Deja când vorbim de lucruri din ograda noastră, lucrurile se complică.

Motivul tehnic se leagă de faptul că abordarea cu privire la sistemele de tip Chat-GPT se leagă mai degrabă de tehnologie în sine, deci de cei care o pun pe piață, decât de utilizarea lor, spre deosebire de restul propunerii de regulament. Reglementarea ar presupune obligații pentru cei care pun pe piață, nu cei care o utilizează. Dar să nu uităm că aceste sunt sisteme de uz general, deci nu prea ai alte portițe de reglementare pentru că sunt mii de tipuri de utilizări posibile.

De ce acum și nu mai demult când era vorba și de o reglementare poate mai dură? Aceasta e o întrebare bună care poate ține de un demers strategic de a întârzia per total tot regulamentul. Pentru că asta se poate întâmpla. Vine finalul de an și ultimele întâlniri pe acest subiect sunt pe 6 decembrie, apoi se schimbă Președinția de la 1 ianuarie, iar mare lucru nu mai pot face pentru că Parlamentul nu va mai lucra prea mult, având în vedere că vor fi alegeri în iunie.

Am citit reacții de genul din presă: “acum ori niciodată”, “declaration of war” șamd.

Ce mai zic alții?

Dovadă că procesul decizional european e chiar democratic și deschis este numărul relativ mare de scrisori deschise și apeluri publice din jurul acestui regulament. E semn că presiunea, de oricare parte ar fi ea, funcționează. Iar, odată cu apelul lansat de Franța, Germania și Italia, presiunea publică s-a intensificat și ea.

Să începem cu industria. Ce spune?

  • DigitalEurope – una din cele mai mari asociații profesionale care reprezintă companiile din tehnologie – sprijină scrisoarea celor trei țări. Nu sunt de acord cu clasificarea sistemelor de uz general ca fiind de mare risc, iar companiile n-ar trebui să fie împiedicate să utilizeze aceste sisteme. Reglementarea lor ar însemna poate finalul lor: “let’s not regulate them out of existence”
  • scrisoare deschisă a mai multor asociații profesionale și companii din mai multe sectoare, printre care Renault, Siemens, Valeo, Carrefour etc: reglementarea acestor sisteme ar duce la costuri ridicate de conformitate și ar duce la retragerea investițiilor și relocarea companiilor. Ceea ce ar duce la o rămânere în urmă și mai mare față de SUA în ceea ce privește dezvoltarea tehnologiei. De ce n-ar trebui reglementate? Pentru că nu știm încă prea multe despre aceste sisteme. Ar trebui instituite doar o serie de principii generale, subliniind faptul că ele vor deveni aproape ca niște asistenți personali

Pe scurt, ideile sunt aceleași – nu reglementați mai mult decât trebuie, ucideți inovația și dezvoltarea. Într-adevăr, dezvoltarea tehnologică de care ne bucurăm acum este rezultatul unui mediu relaxat de reglementare. Dar să nu uităm unde am ajuns acum: concentrarea informației la o mână de companii, eliminarea competiției, expansiunea necontrolată a social media cu repercusiuni sociale importante.

De aici pornește și un alt punct de vedere enunțat de European Policy Centre. Analiștii acestui think-tank detaliază că lipsa reglementării unor astfel de sisteme de IA va putea aduce același tip de concentrare în mâna corporațiilor mari, lucru care oarecum deja se întâmplă. De altfel, haosul de la compania OpenAI, unde fondatorul Sam Altman a fost dat afară și reinstaurat în decurs de câteva zile, arată limitele abordării private cu privire la auto-reglementare.

Soluția lor vine din două părți. Din reglementare oricum. Mai precis, din politica de competiție, pentru a elimina riscul concentrării puterii IA în mâinile unor companii, așa cum se întâmplă acum cu social media. Dar oricum, realizarea de astfel de modele presupune investiții mari, iar competiția ar fi restrânsă, astfel că aici vine a doua parte a propunerii de reglementare, anume dotarea acestor companii cu statut de “utilități publice” sau cu responsabilități fiduciare care să le lege de un anumit interes public. Cam cum vorbim despre compania de electricitate sau de apă.

Institutul Ada Lovelace, una din vocile cele mai relevante din IA din lume, afirmă fără echivoc: “ar fi iresponsabil să nu reglementăm sistemele IA de uz general pentru a proteja câțiva campioni naționali”. Furnizorii ar trebui să fie reglementați și nu utilizările specifice pentru că aceștia au capacitatea financiară de a asigura conformitate pentru întregul lanț de valoare.

Pe lângă toate argumentele similare cu cei de la EPC, poziția Ada Lovelace vine și din studiul preferințelor și atitudinilor cetățenilor cu privire la IA, despre care am vorbit aici. Oamenii vor reglementare, vor să aibă încredere în soluțiile IA pe care le utilizează.

Cele mai clare poziții cu privire la necesitatea de a trata diferit sistemele IA de uz general vin de la o scrisoare semnată de o grămadă de cercetători și universitari proeminenți din IA. Ei vorbesc despre riscul sistemic inerent al acestor sisteme datorită caracterului lor general sau a potențialului de a afecta aproape orice parte a societății. Ei spun că nu există altă soluție decât de a reglementa “la origini”, acolo unde se pot rezolva destule probleme dinainte de implementare în anumite sectoare.

What now?

Sunt câteva scenarii pe masă la ora actuală. Cel mai des menționat în presa de specialitate este că întreg regulamentul este în pericol și că nu mai este prea mult timp la dispoziție. The clock is ticking.

Dar uităm adesea că politicii europene aproape că îi place acest tip de urgență. Marile decizii din tratate s-au realizat în miezul nopții sau foarte aproape de expirarea unui termen-limită. Astfel de condiții invită la compromis, iar compromisul este la inima procesului decizional european. Acesta este al doilea scenariu: un compromis pe ultima sută de metri între ce vor statele și ce vrea Parlamentul. Problema e că am fost deja la momentul unui compromis – cu acea abordare pe două paliere – și acesta a fost respins.

Închei cu poziția directorului pentru cercetare al Centre for European Policy Studies, care a contribuit cu multă cunoaștere la procesul de realizare și negociere pentru acest dosar legislativ: “finish it already”.

 

Referințe

Image by Freepik

Cum arată România de la Bruxelles? Cu ce-am rămas după Romanian Digital Day

Am participat la Romanian Digital Day în Parlamentul European, eveniment organizat de MEP Victor Negrescu și aflat la a doua ediție. Prima vizită a Digital Policy în Parlamentul European 🙂

Discuțiile din jurul evenimentului s-au legat de necesitatea ca România sa fie mai prezentă in discuțiile legate de politicile digitale, de tehnologie si inovare, simțindu-se și în rândul participanților acest apetit pentru a explora perspectiva României si a actorilor naționali, regionali și locali în ceea ce priveste transformarea digitală.

Aflându-ne in Anul European al Competențelor, mare parte din discutii s-au axat pe ce anume putem să facem ca să creștem competențele digitale ale românilor si să ne adaptăm la noua realitate a inteligenței artificiale și a automatizării.

Dacă tot am discutat o zi întreagă despre asta, e util să punem pe hârtie câteva din contribuțiile cele mai valoroase ale întâlnirii Romanian Digital Day. Astfel, putem să avem un fir roșu asupra transformării digitale a României, atât din interior, cât și din exterior. Asta pentru că am avut și invitați din străinătate care au vorbit despre România.

 

Ce zic românii despre transformarea digitală?

Aspecte relevante pentru cetățeni / sectorul public / sectorul privat

  • o afirmație venită din partea unui actor privat din România care a generat câteva reacții: “România este o țară “răspândită pe toate cele patru revoluții industriale”
  • exemplu de modernitate în România: suntem una din primele țări din lume la plata contactless și numărul 2 în lume la plata biletelor pentru transportul în comun cu ajutorul cardului. DAR, doar 28% din români au cel puțin competențe digitale de bază și doar 10% din IMM-uri vând online.
  • sectorul economiei digitale este în creștere în România, existând loc destul să crească doar că două lucruri pot influența această creștere poate chiar în moduri opuse: competențele digitale relativ scăzute ale românilor, care pot ține în jos acest sector, și “generative AI”, care ar putea ajuta la dezvoltarea de noi modele de business și la creștere economică
  • s-a adus în discuție necesitatea pregătirii angajaților de către companii, atât în ceea ce privește perfecționarea, cât și recalificarea acestora. O idee interesantă aici: retenția angajaților! Degeaba pregătești angajații, dacă nu poți să-i ții la locul de muncă. Lipsa unei strategii cu privire la retenție duce la costuri extra. Aici e valabil și în ceea ce privește retenția la nivel de regiune.
  • succesul programelor de perfecționare și recalificare ține și de flexibilitatea programelor oferite, iar angajații au nevoie de sprijin în acest sens pentru a crește motivația de a participa
  • sprijinirea companiilor aflate în faza de “scale up” (adică de extindere) este una din soluțiile menționate pentru economia românească.
  • în general, discursurile românești din sectorul public se axează pe talentul și finanțările pe care le are România la dispoziție.
  • un punct semnificativ care a fost abordat doar tangențial și doar la capitolul “ar trebui să…”: decidenții ar trebui să comunice mai mult despre legislațiile care privesc trecerea serviciilor digitale în online. Cu precădere despre identitatea digitală. Completare personală: cineva în care oamenii au încredere ar trebui să vorbească despre asta, altfel e efort irosit.
  • DESI este adus în discuție de mai multe ori – câțiva din actorii privați cer fixarea țintelor Deceniului Digital ca ținte relevante pentru țară, nu doar ca aspecte de bifat pentru că ne cere Comisia Europeană.
  • dincolo de banii europeni, am remarcat și multiplele exemple de inițiative private pentru dezvoltarea competențelor digitale și a educației digitale a tinerilor. Completare personală aici: e important să punem cap la cap aceste inițiative și să le “mapăm” pentru a vedea unde există eforturi dublate, unde nu se intervine deloc etc.
  • măsurarea abilităților digitale -atât la clasă, cât și în societate – este de asemenea semnificativă pentru că permite intervenții și follow-up
  • invitații din sectorul de educație au subliniat importanța utilizării tehnologiei la clasă, sugerând că “tehnologia e o ancoră” către cunoaștere. Dilemă exprimată aici de către un profesor: cum ținem copiii departe de telefon la oră? Răspunsul unui alt cadru didactic din același panel: dacă ora e captivantă, nu va sta pe Tik-Tok.
  • “călătoria educațională” trebuie să se schimbe – atât pentru sistemul educațional, cât și pentru programele de formare. Nu mai vorbim de 4 ani de facultate și 40 de ani de muncă. Ar trebui să vorbim despre 4 ani de specializare, 4 ani de muncă și tot așa.

Ce zic străinii despre transformarea digitală a României?

Aspecte relevante pentru cetățeni / sectorul public / sectorul privat

  • în ceea ce privește educația digitală și competențele digitale – Comisia poate oferi doar unelte de sprijin, cum ar fi finanțările și monitorizarea, dar depinde de nivelul național și regional să implementeze proiecte cu impact
  • la nivel regional, e important de identificat nișele regionale și de corelat cu strategiile de specializare inteligentă pentru a pregăti forță de muncă în domenii de impact regional
  • este datoria nivelului național să se ocupe concret de realizarea și implementarea politicilor. Unii au denumit asta “datorie morală” de a rezolva problema diviziunii digitale în materie de competențe și infrastructură
  • România stă bine la echilibru de gen în IT – lucru menționat de mai multe ori de persoane din Comisie și Parlament
  • ce poate face România mai mult în afară de implementare? poate activa mai mult în programul Horizon axat pe cercetare și inovare
  • dar se sugerează și introducerea de aspecte legate de competențe digitale în programa tradițională încă din școala primară. Spre exemplu, instruire cu privire la “legile lumii digitale”, așa cum învață copiii despre legile fizicii, să învețe despre legile lumii digitale. O completare personală: legile fizicii nu se schimbă, în timp ce cele online se pot schimba, dar ideea tot e semnificativă și “jucăria” asta numită Digital Policy se încadrează și ea aici.
  • profesorii trebuie să primească “pregătire țintită” nu doar pentru a preda cu ajutorul tehnologiei, dar să instruiască la rândul lor copiii cu privire la dezinformare, inteligență artificială etc. Asta în condițiile în care în România doar 28% din cetățeni au cel puțin competențe digitale de bază. Aici includem și profesorii.
  • să nu uităm să includem și alți actori care pot contribui la educația digitală – că nu e vorba doar despre instituțiile educaționale.
  • modernizarea procedurilor de achiziții publice (hint: se referă aici la ecosistemul de GovTech) care să permită companiilor care dezvoltă produse inovatoare să crească. Aceasta e considerată una din soluții pentru sprijinul creșterii startupurilor.
  • Piața Unică – adică libertatea de circulație a bunurilor, serviciilor, capitalului și persoanelor – este un sprijin pentru companiile europene care vor să crească. Dar a apărut și altă perspectivă aici – din punctul de vedere al sectorului privat – încă sunt numeroase bariere pentru companii în drumul lor spre piața europeană. Și aici trebuie intervenit pentru a sprijini companiile cu potențial

Ce a zis Digital Policy la Romanian Digital Day?

 

Romanian Digital Day – ediția a doua, noiembrie 2023

Ce putem face pentru a crește gradul de competențe digitale a românilor, dacă ne raportăm la nivel regional? Asta am încercat să abordez în panelul intitulat “Boosting regional talent at a digital level”. La fel de bine se putea intitula si invers – Boosting digital talent at a regional level.

Daca stau bine sa ma gândesc, intervenția Digital Policy s-a încadrat mai mult in acest al doilea titlu, mai specific: cum facem ca mai multi oameni sa aiba competente digitale? Si nu cu intervenții naționale, unde numaram zeci si mii de oameni care au absolvit cursuri de competente digitale, dar poate ei au facut mai multe sau au mai fost numarati o data, pe sistemul „doua la prefectura, doua la primarie etc”. Actiunea cea mai buna pentru dezvoltarea competentelor digitale este la firul ierbii, unde actori locali – pot fi si biblioteci sau huburi de inovare digitale sau chiar si ONG-uri – intervin tintit și raportează mai departe către celelalte nivele.

Deci, ce am spus? Am identificat patru elemente semnificative în relație cu dezvoltarea competențelor digitale la nivel regional:

  • date regionale – așa cum politica regională arată că cea mai bună acțiune este cea mai aproape de cetățean, așa trebuie să se facă și intervenția pentru dezvoltarea competențelor digitale. Dacă stabilim ținte naționale și nu ne uităm la distribuția pe regiuni, riscăm să avem intervenții dublate sau redundante.
  • streamlining” – să conectăm diferitele inițiative pentru dezvoltarea competențelor, să le monitorizăm și să avem o privire de ansamblu asupra impactului acestora. Astfel, vom putea răspunde la întrebarea: unde trebuie să intervenim mai exact? Unde avem lipsuri? Ținta europeană e 80% din persoane cu competențe digitale de bază, care e cea românească? Care sunt nevoile la nivel regional? Unde s-a mai intervenit? Aici putem conecta ideea menționată mai sus, conform căreia nu doar instituțiile de educație tradițională se ocupă cu asta, ci trebuie un parteneriat cu mai mulți actori pentru acoperire mai mare.
  • flexibilitate” – dacă ne referim la angajați și nevoile pieței muncii. Trebuie să avem un standard de competențe digitale – cum ar fi cel de promovat de DigComp, despre care am mai vorbit aici – dar cum îl corelăm cu nevoile sectoarelor economice? Atât agricultorii, cât și zidarii poate că trebuie să știe despre securitatea cibernetică, dar ce altceva mai trebuie să știe care e specific sectorului lor de activitate?
  • forecasting – “digital skills trainings are not future-proof”, evoluția tehnologiei ne cere întotdeauna să revizităm ce știm. O combinație de competențe digitale și soft ar putea fi “future-proof”. Ideea e că e important să gândim o serie de instrumente de prevăzut ce nevoi vom avea în viitor – pe sector economic, pe regiune.

Și cu ce rămânem?

Ideea e să rămânem cu niște idei de tip #foodforthought sau care invită la mai multă acțiune din partea decidenților, actorilor privați etc. Cu ce am rămas eu:

  • educația digitală – ține de cooperarea structurată dintre mai multe instituții – școli, licee, sectorul privat și public. Structurată adică parteneriate consistente cu instrumente de livrare și măsurare clare.
  • educația digitală presupune mai mult decât predarea pachetului Office – ci cetățenii trebuie să învețe și “legile spațiului digital”.
  • DESI nu este doar un index transmis anual de către Comisia Europeană, este urmărit atent de sectorul privat (poate mai mult decât sectorul privat), dacă ne raportăm la modul în care a fost abordat în intervenții
  • nivelul regional este semnificativ pentru intervenția pentru dezvoltarea competențelor digitale – biblioteci, huburi de inovare digitală
  • economia din România duce lipsă de companii care să fie sprijinite să crească, dar în același timp are nevoie și de angajați cu competențe digitale. Provocare dublă.

 

Unde suntem cu digitalizarea? Raportul despre România privind Deceniul Digital

Am fost recent la o conferință internațională destul de mare, conferință axată pe studii europene. Nu am fost surprinsă să observ că programul conținea destul de multe lucrări (raportat la ultimele conferințe și discuții pe care le avusesem cu alții din domeniu) axate pe politici digitale. Baiul care a fost? că trebuia să alerg dintr-un panel în altul, să ajung să le ascult pentru că nu au fost puse într-un panel sau măcar într-o arie tematică. Majoritatea lucrărilor (printre care s-a aflat și a mea) au fost sub panelul “zone gri ale integrării piețelor”, doar că mare parte din lucrări nu s-au ocupat direct de #digital din perspectiva economică, ci mai degrabă de modul în care Comisia și alți actori orchestrează legislația în materie de #digital pentru a acumula mai multă putere la nivel european. Pasăre rară în acest context: lucrarea mea despre rolul statelor în implementarea politicilor digitale.

Nu-i surprinzător să vină o astfel de lucrare dintr-o țară care stă destul de prost la capitolul implementare a elementelor de politici digitale care vin de la UE, dar și care ar fi extrem de necesare pentru adaptarea țării noastre la nivelul civilizației vestice. Din ce am vorbit cu alți cercetători, pentru ei DESI, Indexul Societății și Economiei Digitale, este destul de necunoscut și pentru că nu stau prost în aceste clasamente și nu se pune problema să nu se facă reforme pe servicii publice digitale sau pe a dezvolta economia sau societatea digitală.

Așa e, doamnelor și domnilor, a venit acea perioadă din an. Cea în care ne uităm la Indexul Societății și Economiei Digitale să vedem dacă încă suntem pe locul 27 și să spunem că iar n-au luat datele cele bune sau că “nu se poate să fim ultimii că doar am făcut asta și asta”. Doar că acum nu mai suntem pe ultimul loc 🙂 Asta pentru că nu mai plasează în prim plan clasamentul statelor, ci cum progresează ele spre țintele europene. Convergența digitală, deci. Oricum, am cam verificat, suntem tot ultimii.

Why should you care? De ce ți-ar păsa?

  • ai auzit cu siguranță discursurile întregi referitoare la miliardele și milioanele de Euro care curg spre România. 20% din PNRR ar trebui să meargă pentru proiecte pe #digital și nu mai zic de banii pe toate fondurile structurale care sunt programați pentru #digital. Vezi aici “pomelnicul” lor. Deocamdată sunt doar teoretici și pe hârtie. Și rapoartele europene arată asta.
  • la anul sunt alegeri 🙂 de toate felurile. Vom auzi discursuri despre cum s-a implementat, s-a făcut aia și aia. E bine să știi să întrebi unde sunt serviciile publice digitale, unde sunt programele de competențe digitale promise? Să votezi în cunoștință de cauză.
  • nu se comunică suficient pe tema schimbărilor în materie de legislație digitală în România. UE ne cam împinge de la spate cu legislațiile pe #digital. Viața noastră e din ce în ce mai mult online, dar anumite aspecte încă nu se mișcă. De ce? Îți arată rapoartele Uniunii privind Deceniul Digital.

Deci, azi, despre proaspetele rapoarte privind Deceniul Digital și, în special, despre raportul privind România. Deci să nu-i mai zicem DESI 🙂 că ne dă coșmaruri:

  • cum performează Uniunea Europeană către țintele Deceniului Digital?
  • România pe unde mai e?

Cum arată raportul privind Deceniul Digital?

Așa cum am spus mai sus, rapoartele sunt diferite față de clasicul DESI care a existat începând cu 2015, dacă nu mă înșel. Nu mai facem de rușine statele că sunt pe ultimele locuri. De altfel, plasarea în ranking a dispărut din rapoartele naționale, iar tabelele cu statele lipsesc de tot din întreg raportul european. Puține state sunt luate în vizor sau oferite ca exemplu pozitiv sau negativ. Miza e europeană, nu mai e națională. Cam acesta e mindsetul.

Ce mai e diferit?

  • importanța raportului parcă e altfel – textul menționează că acesta completează rapoartele privind Semestrul European – pe baza cărora s-au realizat și Planurile de Redresare și Reziliență și care oferă orientări clare de politică dinspre Comisie spre state
  • pentru fiecare țintă din Deceniul Digital, prezintă recomandări de politici mult mai clare decât la DESI care nu se leagă doar de intervenții naționale, ci mai ales de legătura cu politicile europene în domeniu
  • deci, raportul e mult mai complex pentru că integrează și elementele de legislație, de fonduri disponibile, cât și aspecte tehnice
  • există parcă o presiune mai mare pe statele membre, pentru că raportul menționează adesea necesitatea unui efort mai mare din partea statelor, și evidențiază și necesitatea implicării părților interesate locale sau regionale. De exemplu, pentru serviciile publice digitale deja încep să se uite și la servicii locale și regionale. Ceea ce e normal
  • există referiri cu privire la progresul către țintele asumate până în 2030. Adică, pe sistemul “dacă continuăm așa, atingem doar o țintă de…până în 2030”. Analiza predictivă pentru politici publice – limbi străine pentru decidenții noștri.
  • suveran – un adjectiv prezent foarte des în textul raportului. Uneori în circumstanțe ciudate, gen “sovereign AI solutions”.
  • geopolitica apare în raport într-un mod explicit. Adesea țintele europene sunt privite în paralel cu performanța americană. Spre exemplu, acoperirea cu 5G este mult mai mare în SUA decât în UE
  • raportul face legătura cu părerea cetățenilor cu privire la tehnologiile digitale și cu îngrijorările lor privind spațiul online. Printre îngrijorări se numără securitatea cibernetică sau protecția datelor
  • să nu uităm de declarația drepturilor digitale – care are o secțiune dedicată în raport – și care se leagă de mai multe elemente de legislație adoptate sau în curs de adoptare în UE

 

Iepurele sau broasca țestoasă?

Cum performează Uniunea Europeană către țintele Deceniului Digital?

Sursă: Comisia Europeană, Raportul privind Deceniul Digital (2023)
Sursă: Comisia Europeană, Raportul privind Deceniul Digital (2023)

Cam așa arată performanța europeană pentru atingerea țintelor Deceniului Digital. Dintre toate, cele legate de nodurile periferice “edge nodes” și quantum computing sunt cele mai întârziate poate și pentru că deocamdată ele țin foarte mult de cercetarea teoretică.

Ce mai iese din evidență pe categorii?

  • conectivitatea e privită și din perspectiva tehnologiilor prin satelit și există referințe la necesitatea finanțării viitorului conectivității. Cum anume finanțăm creșterea vitezei și accesului? Hint: unii au propus să plătească BigTech 🙂
  • există programe naționale de quantum deja pornite. Ungaria, Austria sau Portugalia, iar recomandarea Uniunii e dacă că statele membre intră în programe de quantum computing, să o facă ținând cont de interesele strategice europene. Mai pe scurt: să nu intre în cooperări cu state, gen China 🙂
  • pentru integrarea tehnologiilor în companii, conform analizei, dacă trendul merge tot în acest fel, nu se vor atinge țintele la nivel de 2030 (proiecția arată că doar 20% vor folosi AI). Spania e dată exemplu în raportul european prin inițiativa de tip toolkit digital pentru IMM-uri, despre care am scris și aici.
  • ținta pentru intensitate digitală este relativ mai ușor de atins.
  • Pentru ambele componente mari referitoare la integrarea tehnologiilor digitale în companii, EDIH-urile sunt printre principalii actori pentru sprijinirea dezvoltării soluțiilor pe bază de IA, dar și pentru a sprijini companiile să crească.
  • pentru unicorni, ținta e posibil să fie atinsă dacă se continuă trendul
  • la capitolul competențe digitale – 46% nu au competențe digitale de bază. Conform raportului, dacă nu se acționează coerent, nu se vor atinge țintele până în 2030. S-ar atinge un procent de 59%.
  • Nici ținta specialiștilor IT nu s-ar atinge dacă nu se intervine cu programe educaționale și sprijin pe upskilling și reskilling. Recomandare de politică – să integreze în foile de parcurs recomandările Consiliului privind abilitățile digitale în educație
  • țintele pe servicii publice digitale nu sunt atât de îngrijorătoare, având în vedere progresul realizat deja. DAAAR, există câteva aspecte care au fost până acum ignorate și care trebuie luate în calcul de mai toate statele membre: situația serviciilor publice locale și regionale – a căror digitalizare este mai redusă decât cele centrale. Un alt aspect interesant – nu există investiții suficiente în servicii inovatoare bazate pe IA sau pe date
  • recomandare interesantă pentru statele membre: monitorizarea utilizării serviciilor publice pentru a identifica anumite disparități. Un audit de maturitate digitală

România în raportul privind Deceniul Digital

Există 2 rapoarte referitoare la statele membre – unul scurt și unul lung. Ambele au recomandări de politici pentru România care aproape toate încep cu “Romania should step up..” “Romania should accelerate” șamd.

Nu mai avem clasament, avem doar comparație cu țintele europene și parcursul spre 2030. Ce iese în evidență aici?

  • raportul recunoaște din nou lipsa unei strategii “adusă la zi și complexe” privind transformarea digitală. Iar speranța vine de la foaia de parcurs națională care ajunge să fie văzută ca înlocuitor de strategie. E bine, nu e bine? E bine că monitorizarea va fi făcută extern, de către Comisie. Nu e bine pentru că nu tragem speranțe că ceea ce va fi scris acolo va fi pe bune.

 

  • Cenușăreasa este capitolul privind abilitățile digitale – unde suntem mult în urmă și considerați un risc la adresa atingerii țintelor colective la nivel european
  • e pusă presiune pe autorități, dar și pe stakeholderii privați, pentru a reduce aceste disparități de scor. 28% au abilități digitale de bază, în timp ce media europeană e dublă.
  • interesant aici: raportul remarcă și necesitatea de investiții ale companiilor în pregătirea angajaților lor, subliniind că nu e doar apanajul statului. Aici vine și o recomandare: stakeholderii privați să fie mai implicați în dezvoltare și livrare de politici

 

  • conectivitatea este încă o excepție și încă un element care ne ține cât de cât sus. Doar că pierdem avansul din cauză că 5G nu este încă dezvoltat la noi. Aici mai vine o întrebare: oamenii simpli au nevoie de 5G?
  • pentru zonele albe „rămâne de văzut cum vor fi utilizate investițiile din PNRR sau fondurile structurale“ vor fi folosite. Sugerează aici lipsă de încredere în rostul investițiilor.

 

  • cea mai mare problemă este la integrarea Big Data, cloud și IA. La IA, de exemplu, încă nu s-a progresat față de anul trecut, tot 1% din companii folosesc soluții IA
  • strategia IA, recent lansată în consultare publică, și comitetul privind IA sunt menționate ca sprijin pentru oportunitățile IA în România. Și aici implementarea e cheia.
  • Pe cât a fost de hulit și criticat, proiectul ION este scos în evidență ca bună practică pentru a facilita înțelegerea cetățenilor asupra inteligenței artificiale
  • EDIH-urile apar iarăși ca structuri menționate cu rol de sprijin pentru autorități și companii în ceea ce privește transformarea digitală a companiilor

 

Bonus: dacă tot s-a lansat cadrul strategic privind inteligența artificială, să vedem și unde suntem în ceea ce privește adoptarea inteligenței artificiale în companii.

  • altă Cenușăreasă – serviciile publice digitale. Raportul integrează și elemente din alte rapoarte, de ex. eGovernment Benchmark – pentru a furniza un context cu privire la dezvoltarea serviciilor și calitatea lor. Una e digitalizarea, alta e apoi experiența utilizatorului 🙂 Și aici suntem relativ în urmă.
  • îmbunătățirile descrise în raport sunt strict din prisma cadrului legal.
  • câteva proiecte menționate: PSCID, eID care se testează, sistem de e-health. Și astea în derulare.

Unde suntem?

Nu foarte departe de unde am fost anul trecut. Rapoartele pe UE și pe statele membre punctează mult responsabilitatea statelor membre în ceea ce privește transformarea digitală. E normal și în alte state, așa cum am aflat, de la conferința de care am vorbit mai sus, nici măcar nu e o chestie de discuție. La noi e.

Foaia de parcurs pe care trebuie să o facă fiecare stat membru va ajuta cumva? Va ajuta la monitorizare și expertiza Comisiei va putea fi utilă pentru a recomanda modificări sau ajustări. Problema e tot la noi în ogradă.

 

What are the effects of AI and data regulations on companies?

This article has been translated from Romanian with the help of Notion AI.

What are the effects of AI and data legislations on companies? To understand this, we need to start with American movies versus European movies 🙂 Who hasn’t seen one of those Marvel movies, of which there have been over (I believe) 30?

Action, explosions, noise, fantastic events, successes despite all adversities, and in the end, the good triumphs. In contrast to this picture, the European film is artistic, slow-paced, perhaps black and white, with sadness, complications, and not always a happy ending. The classic separation between Europe and America, American superiority versus European backwardness.

The same goes for technology. America is the country of Marvel, where everything is possible in terms of innovation and companies are mega successes, while Europe is the country of slow-paced films, companies that don’t innovate, and seem sad compared to their American counterparts. We hear these things quite often, and the main reason why European companies are seen this way is that there is not enough venture capital to encourage innovation. Oh, and there’s also the issue of regulation. Apparently, there are too many regulations that stifle innovation. Is it really true?

This is where we find ourselves with the dilemma, and this is what we want to investigate in this analysis. Specifically, we will explore the impact of new EU regulations on data and artificial intelligence on companies.

Why do we care?

  • If you work in a tech company and/or probably develop tech products, interesting times lie ahead. How do you prepare for that?
  • We often hear about European legislation and European bureaucracy versus the allure of investment and regulation climate in the US. Is it really that bad?

So what is it about?

  • We will discuss the main elements of European legislation regarding data and artificial intelligence
  • We will see the impact on companies and how or if the EU can help in other ways to reduce the impact.
  • We will conclude by discussing how you should prepare for a series of changes.

Let’s get started, then.

 

What is the EU up to this time?

What isn’t it doing? 🙂 That’s the question. We are approaching the end of the Von der Leyen Commission’s mandate, and there have been numerous regulations and reform proposals related to the digital space. Here are just a few of them, noting that you can see the entire universe here:

  • Legislation on artificial intelligence
  • Data legislations (data governance and data act)
  • Cybersecurity resilience act
  • Gigabit act
  • Digital identity legislation
  • Regulation of work on ride-sharing platforms
  • European chip act
  • Cybersecurity solidarity act
  • Digital services act
  • Digital markets act
  • Network and information systems directive 2

We have already discussed most of them on the website, but more from the perspective of their influence on Romania and its citizens. But what about the private sector? Is it really being strangled by cumbersome and hard-to-implement regulations? Some regulations apply to all companies (such as GDPR, which regulates data protection), others are sector-specific (the draft directive on platform work), and others focus more on consumer protection, impacting companies through consumer protection.

Let’s briefly look at some of them that have an impact on the IT sector as well as non-IT companies that are more advanced and have an impact:

  • AI Act
  • data legislations

effects of AI and data legislations on companies - AI Act

We have discussed the AI Act here, but let’s briefly review the main elements of the legislation to establish a foundation for the anticipated impact on companies. It has not yet come into effect but is expected to do so in 2024. The key points of the legislation are:

  • Definition of an AI system: a machine-based system that is designed to operate with varying levels of autonomy and can, for explicit or implicit objectives, generate outputs such as predictions, recommendations, or decisions that influence physical or virtual environments.
  • Classification of AI systems into 4 risk categories:

Who has obligations?

The legislation classifies several types of actors involved in the development, commercialization, import, or distribution of AI systems, namely: suppliers, implementers, importers, distributors, and manufacturers of devices. The main obligations they have will only materialize IF any of these actors put high-risk systems on the market. According to some estimates, 30% of AI systems produced in the EU would fall into this category, but the EU’s impact assessment suggests that it is around 15%. The situation will only become clear after these high-risk systems are registered in the European database required by the legislation.

Let’s highlight some key points from the compromise text between the Parliament and the Council.

Suppliers must:

  • Conduct conformity assessments before placing high-risk systems on the market (these can be done internally or outsourced) in three areas: quality management system, technical documentation, and conformity assessment between technical documentation and the design and development process.
  • Ensure that individuals providing human oversight of AI systems are informed about the risk of confirmation bias (i.e., they should not rely solely on the output of the AI system in making decisions).
  • Provide specifications for the data used to train the AI system, including information about limitations and possible existing assumptions within the dataset. For example, if the data is predominantly from a specific geographic region, which could create limitations in using the systems in other regions.
  • Prepare technical documentation.
  • Take corrective actions to bring the system into conformity and inform the importer and implementer.

Attention! You become a supplier if you make substantial modifications to an AI system already on the market, whether it becomes high-risk or if you put your brand on an existing system.

Implementers of such systems must:

  • Ensure that they put the systems into operation in accordance with the instructions for use.
  • If they exercise control over the system, implement human oversight.
  • Ensure that individuals overseeing the system are „competent, qualified, and adequately trained and have the resources to ensure the supervision of the AI system.”
  • Monitor the implemented cybersecurity measures.
  • If they exercise control over the input data, ensure that the data is relevant and representative for the intended purpose of the system.
  • Inform the manufacturer, importer, distributor, and competent national authorities if the use of the system could entail risks to health, safety, or fundamental rights of individuals and suspend the use of the system if necessary.
  • Maintain a log automatically generated if they have access and control over it.
  • [in labour situations] Before putting a system to work, inform employee representatives and reach an agreement regarding its use. If necessary, conduct a data protection impact assessment.
  • Conduct an impact assessment in the intended context of use (with a few exceptions, such as safety systems in traffic management or utility provision).

Importers must ensure that:

  • The supplier has conducted a conformity assessment.
  • There are technical documentation and instructions for use.
  • The system bears the conformity marking.

If the system interacts with individuals, suppliers must inform users that they are interacting with an AI system. Users of deep-fake systems must also highlight that the content is falsified or artificially created.

Counterbalancing these obligations, from which I have listed only a part, is the inclusion of measures to stimulate innovation in this act. The main instrument is the „regulatory sandbox,” a tool for experimenting with products and testing innovations before they are brought to market under the supervision of competent authorities. This is not presented as an obligation of the Member States, but rather an option. Furthermore, the proposal states that startups and small providers should have priority access to such instruments.

Now, let’s look at the impact and complaints from the main actors targeted by this legislation. Let’s start with the perspective on sandboxes:

  • An organization representing EU startups states that the legislation on sandboxes should be clearer because startups often do not necessarily fit into a specific domain or may change their location.
  • Others are more pessimistic. A report by AI Austria shows that two-thirds of the surveyed startups believe that their activity would be slowed down due to the required adaptations. Approximately 30% of the included startups would classify their systems as high-risk, and the costs of adaptation could reach several hundred thousand euros.
  • Not to mention the venture capital climate. The same report indicates that venture capital funds could redirect their investments, considering the decreased interest in high-risk systems that would become more expensive.

So, how is it? Is there too much regulation? As we can see, most of the rules apply to high-risk AI systems, and the market for such systems is limited. At least for now. According to estimates by the Commission, up to 15% of systems would fall into the high-risk category. However, the estimates from the cited reports indicate that around 30% of systems would be affected. The AI market will continue to grow, especially after the explosion of generative AI, such as Chat-GPT, which will have different rules within this legislation. But let’s not digress now.

At first glance, there doesn’t seem to be a great balance between the regulations in the legislation and the proposed regulatory sandbox. Does this compensate for the exodus of venture capital from the EU? Perhaps not, but the funds made available at the EU level through programs like the Digital Europe Programme could help. The problem is that the pitch in front of a venture capitalist is very different from the funding application required to access such funds.

Let’s not forget about the Digital Innovation Hubs (DIHs), whose role is to support companies in testing solutions before bringing them to the market. The problem here is visibility, as confirmation bias, which the AI Act aims to reduce, is present in companies. Confirmation bias of the form „it’s easier with venture capital, I don’t bother because I don’t know what I gain here, etc.”

effects of AI and data legislations on companies - Data, data, data

There is no artificial intelligence without data. The Data Act and the Data Governance Act aim to facilitate access to data to stimulate innovation. More data, well-trained systems, better results, and so on. But wait, wasn’t there something about data protection and minimizing data collection? Yes, there is, but that pertains to the protection of personal data, and the principles can be found in these two regulations. Here, we mainly talk about non-personal data emitted by intelligent devices, for instance.

Speaking of which, Bard was confused when it comes to these two regulations:

Ce efecte au legislațiile pentru date și IA asupra companiilor / effects of AI and data regulations on companies

The idea is that the Data Act refers to who accesses and how data is accessed, who can benefit from it, while data governance creates the framework for companies to grant access to data or request access to data, including from the public sector, to create value from it.

As a company, you can find yourself in two situations here:

  • You may have data that others would need. Perhaps you have a series of devices that measure the energy efficiency of a building or data regarding the speed at which QA is performed on a production line. What do you do with this data? You might not want to give it away because it belongs to you. But what if you can gain something from it?
  • You may need data to develop a new product. Where do you get the data from? Do you directly test with a potential customer? Perhaps the datasets are too limited, or maybe you want to scale an existing product for a different industry and need access to data from another company in a different sector. Maybe you can obtain the data from a third-party organization that acts as a „data intermediary.”

This is where the two legislations come into play. What are the obligations and rights?

  • Users who generate data through the devices they use will be able to port their data to other companies. For example, users could transfer their usage data to a third-party repair service to fix a device without limitations from the original manufacturer.
  • Device manufacturers will need to provide information about the quantity of data generated, how users can access the data, and how users can request the transfer of data to third parties, among other details.
  • The transfer of data from data holders to data recipients will be done with reasonable compensation, with the only limitations being related to trade secrets.
  • The legislation includes provisions that limit unfair terms in contracts for data distribution, particularly with regard to small and medium-sized enterprises (SMEs). The legislation also introduces the concept of a „trade secret holder,” which allows companies to refuse access to data for legitimate competitive reasons.
  • it also introduces intermediaries that facilitate data transfers. If you are unsure where or to whom you should request data from, you could use such a service.
  • For certain situations of public interest and emergencies, public sector organizations can request companies access to their data.
  • The legislation introduces the concept of „data altruism,” which allows for the voluntary distribution of generated data by companies, not only upon request but also proactively.

What do the affected parties say about this?

  • DigitalEurope, an organization representing large technology companies in the EU, states that the Data Act is a „leap into the unknown” that does not clearly explain what data needs to be distributed and to whom.
  • The Alliance for Digital SMEs, which represents SMEs in Europe, emphasizes that SMEs should have more protection under this legislation but praises the explicit provisions regarding contractual terms for SMEs.
  • The International Road Transport Union, an organization representing companies in the transport and logistics sector, considers this legislation beneficial because they already had data distribution agreements and purchased devices to access data, such as fuel consumption data.
  • Siemens, on the other hand, suggests that such laws could jeopardize trade secrets, especially for companies that produce aftermarket parts.

So, what is the verdict? Is there too much regulation? It seems that the criticism is less about excessive regulation and more about the need to protect trade secrets. Data markets are crucial for the digital transformation of companies. It is not just about the products they create but also about the data they generate.

 

How companies "suffer"

The intentions of European regulations are to promote ethical values in the digital space, but they also consider market perspectives, especially considering the competitive landscape where the EU stands between the US and China.

What will be new for European companies?

  • For AI, there will be transparency obligations toward users regarding the AI systems they produce, distribute, import, or use, regardless of the risk category they fall into.
  • For AI, there will be conformity assessments for high-risk systems, resulting in a declaration of conformity and the famous CE marking.
  • For AI, there will be impact assessments regarding the fundamental rights of Europeans for high-risk AI systems.
  • Developers of AI applications will have the possibility to participate in regulatory sandboxes together with national authorities.
  • Implementers of AI systems will be required to designate a person responsible for overseeing the system if they exercise control

Always be prepared...

Finally, a non-exhaustive list of things to consider implementing when it comes to digitizing or digitally transforming your business.

What do you need to do to adapt to these new legislations?

  1. Get information. The regulations we discussed are in the final stages of adoption (those related to data are more advanced, the Data Governance Act is already adopted, and the Data Act is yet to be adopted, while the AI Act is still in the final negotiation stages). But that doesn’t mean we should wait for them to be applied to get up to speed with what needs to be done at the last minute.
  2. Analyze the state of your company in terms of data governance (what and how it is collected, where it resides, where it goes, what we don’t collect) – but not just for personal data. For that, we already have GDPR, and the provisions related to data in the new regulations complement aspects of the latter.
  3. A piece of advice also from EY regarding preparation for the AI Act – analyze the AI models you already use, but also consider what you plan to acquire. AI is expanding and it is trendy, but you need to consider what and where you will use it. Consult here (the list may evolve) the category of high-risk AI systems to know what kind of obligations you are heading towards, both as a developer and as a business user.
  4. Prepare your human resources to better use and understand how AI works, what confirmation bias is. Also, consider implementing human oversight of these systems, and don’t forget about transparency requirements. People – customers, employees – need to be informed if they will interact with an AI system.
  5. Start collecting data, standardize it, try to understand its value both for your business and as a value in a data market.

References

Ce efecte au legislațiile pentru date și IA asupra companiilor?

Ce efecte au legislațiile pentru date și IA asupra companiilor? Ca să ajungem aici trebuie să pornim de la filmele americane versus filmele europene 🙂

Cine n-a văzut un film Marvel din alea peste (cred) 30 care au apărut? Acțiune, bubuieli, gălăgie, întâmplări fantastice, reușite în ciuda tuturor adversităților, iar, în final, binele învinge. Spre deosebire de acest tablou, filmul european e artistic, încet, poate alb-negru, există tristețe, eforturi, nu se termină cu bine întotdeauna. Clasica separație dintre Europa și America, superioritatea americană versus înapoierea europeană.

La fel e și când vorbim despre tehnologie. America e țara Marvel, unde totul e posibil din punct de vedere al inovației și filmele companiile sunt mega succese, iar Europa e țara filmelor companiilor încete, care nu inovează și care par triste în comparație cu partenerii americani. Auzim chestiile astea destul de des, iar marele motiv pentru care companiile europene sunt văzute astfel este că nu există suficient capital de risc care să încurajeze inovația. Ah, și mai e și treaba aia cu reglementarea. Cică sunt prea multe reglementări care sufocă companiile. Chiar așa o fi?

Cam aici ne aflăm cu dilema și asta vreau să investigăm în acestă analiză. Mai exact, investigăm care e impactul reglementărilor noi cu privire la date și inteligență asupra companiilor. Ne-am concentrat până acum pe cetățeni, dar trebuie să vedem și alte puncte de vedere, deoarece transformarea digitală afectează cetățenii, statul, dar și sectorul privat.

Why do we care?

  • dacă lucrezi într-o companie de tech sau probabil faci produse tech, urmează perioade interesante. Cum te pregătești pentru asta?
  • auzim mult de legislația europeană și de birocrația europeană versus mirajul climatului investițional și de reglementare din SUA. Oare chiar așa de nasol ar fi?

Deci despre ce e vorba?

  • discutăm despre elementele principale ale legislațiilor europene în materie de date, inteligență artificială și securitate cibernetică
  • vedem care e impactul asupra companiilor și cum sau dacă poate ajuta UE în alte feluri pentru a reduce impactul
  • concluzionăm prin a discuta cum ar trebui să vă pregătiți pentru o serie de schimbări

Să purcedem, deci.

 

Ce mai face UE de data asta?

Ce nu face? 🙂 Aceasta este întrebarea. Ne apropiem de finalul mandatului Comisiei Von der Leyen, iar regulamentele și propunerile de reforme legate de spațiul digital au fost în număr mare. Enumăr aici doar câteva dintre ele, cu mențiunea că vedeți aici întreg universul:

  • legislație privind inteligența artificială
  • legislații privind datele (guvernanța datelor și actul privind datelor)
  • actul privind reziliența cibernetică
  • actul Gigabit
  • legislație privind identitatea digitală
  • legislație privind reglementarea muncii pe platforme de ride-sharing
  • actul european privind cipurile
  • actul privind solidaritatea cibernetică
  • actul privind serviciile digitale
  • actul privind piețele digitale
  • directiva privind “network and information systems” 2

Despre majoritatea din ele am discutat deja pe site, dar mai degrabă din perspectiva influenței asupra României și a cetățenilor. Dar cu sectorul privat cum rămâne? Vorbim cu adevărat de strangularea inovației și a sectorului privat prin reglementări stufoase și greu de aplicat? Unele reglementări se aplică tuturor companiilor (cum ar fi GDPR, care reglementează protecția datelor), altele doar sectorial (proiectul de directivă privind munca pe platforme), altele se axează mai degrabă pentru protecția consumatorilor și impactează companiile prin prisma protecției consumatorilor.

O să ne oprim pe scurt la câteva din ele, cu impact asupra sectorului IT, cât și a companiilor non-IT, care sunt mai avansate și mai cu impact:

  • actul privind inteligența artificială
  • legislațiile privind datele

Actul privind Inteligența Artificială

Am mai discutat aici despre actul privind inteligența artificială, dar să reluăm pe scurt principalele elemente ale legislației pentru a avea o fundație cu privire la impactul previzionat asupra companiilor. Încă nu a intrat în vigoare, dar se așteaptă că va intra în vigoare în anul 2024. Principalele chestii ale legislației sunt:

  • definiția sistemului IA: un sistem bazat pe mașină care este proiectat să funcționeze cu niveluri variabile de autonomie și care poate, pentru obiective explicite sau implicite, să genereze output-uri precum predicții, recomandări sau decizii care influențează medii fizice sau virtuale. (traducere realizată cu Bard)
  • clasificarea sistemelor IA pe 4 categorii de risc:
Sursă: Comisia Europeană

Cine ce obligații are?

Legislația clasifică mai multe tipuri de actori care sunt implicați în realizarea, comercializarea, importul sau distribuirea sistemelor de IA, anume: furnizori, cei care implementează aceste sisteme, importatorii, distribuitorii și producătorii de dispozitive. Principalele obligații pe care le au aceștia se vor materializa DOAR DACĂ oricare din acești actori vor pune pe piață sisteme cu risc ridicat. După unele estimări, 30% din sistemele IA produse la nivelul UE ar fi în această categorie, evaluarea de impact a UE spune că sunt mai puține, în jur de 15%. Va fi clară treaba doar după ce aceste sisteme de mare risc se vor înregistra în baza de date europeană cerută de legislație.

Să spicuim din textul de compromis realizat între Parlament și Consiliu.

Furnizorii trebuie:

  • să realizeze evaluări de conformitate înainte de a pune pe piață sisteme de risc ridicat (se pot face intern dar și externalizat) pe 3 paliere – sistemul de management al calității, documentația tehnică și evaluarea conformității dintre documentația tehnică și procesul de design și dezvoltare
  • să se asigure că persoanele fizice care realizează supravegherea umană a sistemelor IA sunt informate despre riscul biasului de confirmare (adică să știe că nu ar trebui să se bazeze în luarea deciziilor doar pe rezultatul dat de sistemul IA)
  • să ofere specificații pentru datele cu care sistemul IA se antrenează, inclusiv informații despre limitările și posibilele ipoteze deja existente în interiorul setului de date. De ex., dacă datele sunt preponderent dintr-o anumită regiune geografică, ceea ce ar putea crea limitări în utilizarea sistemelor în alte regiuni
  • să realizeze documentație tehnică
  • să realizeze acțiuni de corecție pentru a duce sistemul în conformitate și să informeze importatorul și cel care implementează

Atenție! Devii furnizor dacă faci modificări substanțiale la un sistem IA deja pus pe piață, fie de risc ridicat, fie dacă-l schimbi și devine de risc ridicat. Sau dacă îți pui marca pe un sistem care există deja.

Cei care implementează astfel de sisteme trebuie:

  • să se asigure că pun în funcțiune sistemele în conformitate cu instrucțiunile de folosință
  • dacă exercită control asupra sistemului, să implementeze sisteme de supravegherea umană
  • să se asigure că persoanele care supraveghează sistemul sunt “competente, calificate și pregătite în mod adecvat și au resursele pentru a asigura supravegherea sistemului IA”
  • să se asigure că monitorizează măsurile de securitate cibernetică puse în aplicare
  • (dacă exercită control asupra datelor de intrare), trebuie să se asigure că sunt relevante și reprezentative pentru scopul intenționat al sistemului
  • să informeze producătorul, importatorul sau distribuitor și autoritățile naționale competente dacă utilizarea sistemului ar putea rezulta într-un risc la adresa sănătății, siguranței sau la adresa drepturilor fundamentale ale cetățenilor și vor suspenda folosirea sistemului
  • să țină jurnalul generat în mod automat, dacă au acces și se află sub controlul lor
  • înainte de a pune în funcțiune un sistem la locul de muncă, trebuie să informeze reprezentanții angajaților și să ajungă la un acord cu privire la utilizarea sa. Dacă e necesar, trebuie să facă și o evaluare de impact asupra protecției datelor
  • să realizeze o evaluare de impact în contextul destinat de utilizare (cu câteva excepții – cum ar fi sistemele de siguranță din managementul traficului sau furnizarea de utilități)

Importatorii trebuie să se asigure că:

  • furnizorul a realizat o evaluare de impact
  • există documentație tehnică și instrucțiuni de utilizare
  • sistemul are marca de conformitate

Dacă sistemul interacționează cu persoane fizice, atunci furnizorii trebuie să informeze utilizatorii că aceștia interacționează cu un sistem IA. Utilizatorii de sisteme din categoria deep-fake trebuie să scoată în evidență că acel conținut este falsificat sau creat în mod artificial.

Contrabalansarea acestor obligații, din care am enumerat doar o parte, stă prin măsurile conținute pentru stimularea inovației care sunt cuprinse în acest act. Principalul instrument este “regulatory sandbox”, o unealtă de experimentare a unor produse, de testare a unor inovații înainte de a fi puse pe piață sub supravegherea unor autorități competente. Nu prezintă asta ca o obligație a statelor membre, ci e o opțiune. Mai mult, propunerea cere ca startupurile și furnizorii mici să aibă prioritate la intrarea în astfel de instrumente.

Aici cred că e momentul să ne uităm la impactul și plângerile pe care le au principalii actori țintiți de această legislație. Putem începe cu asta cu privire la sandboxes:

  • o organizație care reprezintă startupurile din UE afirmă că ar trebuie să fie mai clară legislația cu privire la aceste “cutii de nisip pentru joacă” pentru că startupurile adesea nu țin neapărat de un domeniu sau poate că-și mai schimbă locația
  • alții sunt mai pesimiști. Un raport al AI Austria arată că 2/3 din startupurile chestionate consideră că activitatea le-ar fi încetinită, având în vedere adaptările pe care trebuie să le facă. Aproximativ 30% din startupurile incluse și-ar încadra sistemele la risc ridicat, iar costurile de adaptare s-ar ridica până la câteva sute de mii de euro
  • să nu mai zicem de climatul de capital de risc, același raport arată că fondurile de capital s-ar putea reorienta, având în vedere scăderea interesului pentru sisteme de risc ridicat care ar deveni mai scumpe

Deci, cum e? Prea multă reglementare? După cum vedem, majoritatea regulilor se aplică sistemelor IA de mare risc, iar piața acestora este limitată. Încă. După estimările Comisiei, până în 15% din sisteme ar fi de mare risc. Estimările rapoartelor citate arată că undeva la 30% din sisteme ar fi afectate. Piața de IA va crește oricum, mai ales după explozia IA generativă de tipul Chat-GPT, care oricum va beneficia de alte reguli în interiorul acestei legislații, dar să nu ne lungim acum.

La o primă vedere, nu există un echilibru foarte mare între regulile puse în legislație și măsura de regulatory sandbox propusă. Compensează asta exodul capitalului de risc din UE? Poate că nu, dar fondurile puse la dispoziție la nivelul UE, prin programe cum este Digital Europe Programme, ar putea. Problema e că pitchul în fața unui VC este foarte diferit de cererea de finanțare care trebuie completată pentru a accesa astfel de fonduri. Să nu uităm că există și DIH-urile, al căror rol este să sprijine companiile să testeze soluțiile pe care vor să le pună pe piață. Problema aici e de vizibilitate, când confirmation biasul pe care AI Act vrea să-l reducă este prezent în companii. Confirmation bias de forma “mai ușor e cu VC, nu-mi bat capul că nu știu ce câștig aici etc”.

Legislațiile privind datele

Nu există inteligență artificială fără date. Actul privind Datele și Actul privind Guvernanța Datelor își propun să ușureze accesul la date pentru a putea stimula inovația. Mai multe date, mai bine antrenate sistemele, rezultate mai bune și tot așa. Wait, parcă era o chestie cu protecția datelor și minimizarea colectării? Da, așa e, dar acea chestie se referă la protecția datelor cu caracter personal, iar principiile acesteia se regăsesc în cele două regulamente. Aici vorbim mai ales despre date non-personale, cele emise de dispozitive inteligente, spre exemplu.

Speaking of, Bard a fost confuz când e vorba de cele două regulamente 🙂

Ce efecte au legislațiile pentru date și IA asupra companiilor / effects of AI and data regulations on companies

Ideea e că actul privind datele se referă la cine și cum dă acces la date, cine poate beneficia de ele, iar guvernanța datelor creează cadrul prin care companiile între ele pot da acces la date sau pot cere acces la date inclusiv de la sectorul public pentru a crea valoare din ele.

Ca o companie, te poți afla în două situații aici:

  • să ai date care le-ar trebui altora. Poate ai o serie de dispozitive care măsoară eficiența energetică a clădirii sau date cu privire la viteza prin care se realizează QA pe bandă. Ce faci cu ele? Nu prea-ți vine să le dai că sunt ale tale. Dar dacă poți să câștigi ceva din ele?
  • să ai nevoie de date ca să dezvolți un nou produs. De unde iei datele? Testezi direct la un potențial client? Poate sunt prea limitate seturile de date sau poate vrei să scalezi deja un produs pentru altă industrie și vrei să ai acces la datele unei companii din alt sector. Poate le poți lua de la o organizație terță cu rol de “intermediar de date”

Aici intervin cele două legislații. Obligații/drepturi?

  • utilizatorii care produc date prin dispozitivele pe care le folosesc, vor avea posibilitatea de a-și porta datele către alte companii. Spre exemplu, utilizatorii ar putea să-și transfere datele de utilizare pentru un serviciu de reparații terț pentru a-și repara un dispozitiv, fără limitare din partea producătorului.
  • producătorii de dispozitive vor trebui să ofere informații despre cantitatea de date generate, modul de accesare a datelor din partea utilizatorului, modul de solicitare a transferului către părți terțe etc
  • transferul de date de la deținătorul datelor la destinatarul datelor se va face cu compensare rezonabilă, singurele limitări fiind când vine vorba de secrete comerciale
  • legislația conține prevederi care limitează prevederi incorecte față de IMM-uri în contracte de distribuire a datelor, dar creează și conceptul de “deținător de secret comercial”, cu ajutorul căruia companiile pot refuza accesul la date pe motive întemeiate concurențiale
  • (din Actul privind Guvernanța Datelor) apar companii care intermediază transferul de date, deci dacă nu știi unde și cui trebuie să ceri, ai putea să apelezi la un astfel de serviciu
  • pentru anumite situații de interes public și de urgență, organizațiile din sectorul public pot cere companiilor acces la datele lor
  • apare posibilitatea de distribuire a datelor generate și de companii sub forma ideii de “altruism legat de date”. Distribuirea datelor nu doar atunci când există o cerere în acest sens, ci din proprie inițiativă

Ce zic cei afectați?

  • DigitalEurope – organizație care reprezintă companiile mari de tehnologie din UE – spune că Actul privind Datele este o “săritură către necunoscut”, care nu explică foarte clar ce și dacă trebuie să distribuie datele
  • Alianța Digital SMEs – ce reprezință IMM-urile din Europa – accentuează că IMM-urile ar trebui să fie mai protejate în această legislație, dar laudă prevederile exprese cu privire la prevederile contractuale față de IMM-uri
  • International Road Transport Union – organizație care reprezintă companiile din transport și logistică – consideră benefică această legislație pentru că ei oricum făceau acorduri de distribuire a datelor și cumpărau dispozitive pentru acces la date despre consumul de combustibil, spre exemplu.
  • Siemens – pe de altă parte – spune că astfel de legi ar putea pune în pericol secretul comercial – mai ales pentru companiile care fac piese after-market

Deci, cum e? Prea multă reglementare? Parcă aici problema nu e prea multă reglementare, având în vedere că cei care și-au dat cu părerea se leagă mai degrabă de ideea de a-și păstra secretul comercial. Piețele de date sunt necesare pentru transformarea digitală a companiilor. Nu mai e vorba doar de produsul pe care-l realizezi, ci și despre datele pe care le generezi.

 

Cum "suferă" companiile?

Intențiile reglementărilor europene se referă la promovarea valorilor etice pentru spațiul digital, dar nu lasă în urmă și perspectivele de piață, mai ales având în vedere climatul de competiție unde se află UE, exact între SUA și China.

Ce va fi nou pentru companiile europene?

  • pentru IA – obligațiile de transparență față de utilizator cu privire la sistemele de inteligență artificială pe care le produc, distribuie, importă și folosesc (indiferent de categoria de risc pe care o reprezintă)
  • pentru IA – evaluarea de conformitate pentru sistemele de risc ridicat care se va concretiza cu o declarație de conformitate și faimoasa marca CE
  • evaluarea de impact cu privire la drepturile fundamentale ale europenilor pentru sistemele IA cu risc ridicat
  • tot pentru dezvoltatorii de aplicații IA – posiblitatea realizării de “regulatory sandboxes” împreună cu autoritățile naționale
  • pentru cei care implementează astfel de sisteme, obligația de a desemna o persoană cu atribuții de supraveghere a sistemului, dacă exercită control asupra acestora
  • pentru cei care implementează astfel de sisteme, trebuie să informeze angajații dacă vor fi utilizate sisteme IA la locul de muncă după un acord în prealabil cu reprezentanții acestora
  • pentru cei care implementează astfel de sisteme, să realizeze evaluări de impact al utilizării acestor sisteme
  • în ceea ce privește legislațiile privind datele, chiar dacă nu pare, majoritatea companiilor care produc date sub o formă sau alta vor fi afectate, apărând posibilitatea de data sharing între companii sub o formă mai clară. Există potențial de realizare de venituri deoarece accesul la date este dat în schimbul unei compensații financiare corespunzătoare.
  • companiile trebuie să fie bine informate și să aibă date și proceduri puse la punct cu privire la data sharing pentru a putea să se implice în acest nou ecosistem

 

Always be prepared...

Pe final o mică listă non-exhaustivă de lucruri la care trebuie să te gândești să implementezi când vine vorba de digitalizarea sau transformarea digitală a afacerii tale.

Ce trebuie să faci pentru a te adapta la aceste noi legislații?

  1. informează-te. Regulamentele despre care am vorbit sunt în fazele finale spre adoptare (cele legate de date sunt mai avansate, Actul privind Guvernanța Datelor este deja adoptat, iar Actul privind Datele urmează să fie adoptat, în timp ce Actul IA este încă în fazele finale de negociere). Dar asta nu înseamnă că trebuie să stăm cu mâinile în sân să așteptăm să se aplice pentru a ne pune la punct cu ce trebuie făcut pe ultima sută de metri.
  2. analizează stadiul companiei în ceea ce privește guvernanța datelor (ce și cum se colectează, unde stau, unde se duc, ce nu colectăm) – dar nu doar pentru datele personale. Pentru asta avem deja și GDPR, iar prevederile legate de date din regulamentele noi completează aspectele celui din urmă.
  3. un sfat venit și de la EY în ceea ce privește pregătirea pentru Actul privind IA – analizează ce modele de IA folosești deja, dar trebuie să te gândești și la ce ai în plan să achiziționezi. IA e în expansiune și “la modă”, dar trebuie să ții cont de ce și unde vei utiliza. Consultă aici (lista poate evolua) categoria de sisteme de IA de mare risc pentru a ști către ce fel de obligații te îndrepți, atât ca dezvoltator, cât și ca utilizator de business.
  4. pregătește resursa umană să utilizeze și să înțeleagă mai bine cum funcționează IA, ce este biasul de confirmare. De asemenea, trebuie să ai în vedere să implementezi supraveghere umană a acestor sisteme și nu uita de condițiile de transparență. Oamenii – clienții, angajații – trebuie informați dacă vor interacționa cu un sistem IA.
  5. începe să colectezi date, standardizează-le, încearcă să înțelegi valoarea lor atât pentru business, cât și ca valoare pe o piață a datelor.

Referințe

  1. https://www.digitalsme.eu/digital/uploads/DIGITAL-SME-Position-Paper-on-the-Data-Act.pdf
  2. https://www.eu-startups.com/2023/05/eu-ai-act-how-ai-regulation-could-affect-your-startup/#
  3. https://alliedforstartups.org/wp-content/uploads/2023/06/AI-Act-Open-Letter.pdf
  4. https://www.europarl.europa.eu/resources/library/media/20230516RES90302/20230516RES90302.pdf
  5. https://www.euractiv.com/section/data-privacy/news/data-act-eu-institutions-finalise-agreement-on-industrial-data-law/
  6. https://cdn.digitaleurope.org/uploads/2023/06/DIGITALEUROPE-Data-Act-trilogue-recommendations-June-2023.pdf
  7. https://www.digitaleurope.org/news/joint-statement-the-data-act-is-a-leap-into-the-unknown/
  8. https://www.politico.eu/article/europe-new-data-act-explained/
  9. https://www.ey.com/en_ch/forensic-integrity-services/the-eu-ai-act-what-it-means-for-your-business

 

Digital Policy este o platformă de analize de politici publice digitale, axată pe nivelurile european, național și local.

Pagini

Newsletter