De fapt…3 cărți despre AI și una despre neuroștiința învățării. De ce așa? Din capul locului, ca să afli mai multe despre inteligența artificială (IA) trebuie să afli mai multe despre creier, cum luăm decizii, cum învățăm etc. Actualmente, cercetătorii din domeniu încearcă să reproducă o serie de mecanisme de bază de învățare în aceste sisteme. De aici și numele inteligență artificială. Știu, e o explicație foarte simplistă, așa cum va fi evident mai jos din ideile prezentate în cărțile pe care le recomand.
Începem deci cu creierul.
1. Stanislas Dehaene. How We Learn. The New Science of Education and the Brain
Dehaene situează analiza sa despre neuroștiința creierului în contextul dezbaterilor despre cum IA ne va înlocui și cum e doar o chestiune de timp până când calculatoarele ne vor stăpâni ele pe noi. Conform lui, nu mai suntem singurii campioni la învățat, una din caracteristicile umane care ne disting față de alte animale fiind capacitatea noastră de a ne învăța pe noi înșine. Doar că, de ceva vreme, sistemele IA au început și acestea să învețe singure. Cu toate acestea, conform lui Dehaene, mai e mult până departe din cauza câtorva limitări ale IA:
- sistemele IA au nevoie de expunere mare la o imagine sau un cuvânt pentru a-l putea recunoaște, iar Dehaene spune că bebelușii întrec cu brio sistemele IA, fiind necesare doar câteva repetiții pentru a putea recunoaște un cuvânt
- mai mult, creierul uman merge mai departe decât un sistem IA. Odată ce a recunoscut o imagine, este capabil să o proceseze din punct de vedere simbolic. Aceasta poate trezi alte gânduri sau omul își poate forma o impresie. Pe scurt, e capabil să o proceseze în mod abstract, pe când meritul IA este doar de a recunoaște acea imagine, așa cum a fost programat. Chiar dacă ne jucăm mai nou cu artă generată de IA, acele sisteme, fie DALL-E sau altele, nu pot interpreta ceea ce au creat, ci creează pe baza inputurilor pe care le-a primit. Limitarea aceasta, de a nu putea merge mai departe de simple cuvinte aranjate de o IA într-un text sau de a procesa abstract ceea ce a creat, stă și la baza obiecțiilor pe care le au cercetătorii IA față de recentele știri că un sistem IA de la Google ar fi devenit conștient (Un exemplu: dacă îi ceri asistentului personal să-ți facă ceai de coada șoricelului, îți va face chiar asta. La propriu.)
- ce altceva îi mai lipsește IA?
- învățarea socială, anume capacitatea noastră de a învăța de la alții și de a relaționa cu mediul înconjurător (ideea asta apare și în alte două cărți de mai jos)
- capacitatea de a abstractiza reguli
- capacitatea de a recombina ce a învățat pentru a aplica în alt context, ceea ce Dehaene numește flexbilitatea
Așa cum am zis, cartea nu este doar despre IA, dar face o paralelă interesantă între noi și sistemele IA, mai ales că ultima parte a cărții este despre cei patru piloni ai învățării: atenția, implicare activă (algoritmul curiozității), feedback cu privire la erori și consolidarea învățării.
Capitolele sunt scrise mai degrabă pentru părinți și pedagogi, dar să nu uităm și că sistemele IA învață – două din conceptele de bază pentru actuala eră a AI sunt deep learning și machine learning. Din cei patru piloni prezentați de Dehaene, primul și al treilea sunt incluse acum în dezvoltarea sistemelor IA:
- atenția – anumite modele sunt pregătite să se concentreze pe anumiți pixeli ai imaginii pentru a putea decodifica imaginea. Ca un fel de focus pus de o cameră foto pe o anumită parte a unei imagini.
- feedback cu privire la erori – sistemul GAN (generative adversarial network) funcționează și cu ajutorul acestui principiu. În esență, sunt două „programe” care se „contrează” unul pe altul. Având un set de date de pornire, unul generează alte seturi noi de date pe baza celor primite, în timp ce al doilea îi spune dacă a făcut bine sau nu.
Lipsesc implicarea activă și consolidarea, despre care neuroștiința spune că sunt esențiale pentru învățare. Deocamdată, dacă ne limităm la cartea asta, IA nu este chiar atât de inteligentă. Totuși, așa cum am spus mai sus, ca să înțelegi (măcar) o parte din discuțiile actuale despre IA, atât pe partea tehnică, cât și pe partea de reglementare, trebuie să înțelegi de unde vine inspirația pentru această tehnologie, iar creierul e o bună inspirație.
2. Stuart Russell - Human Compatible
După ce am citit Stanislas Dehaene, n-a fost deloc surprinzător să văd că unul din primele capitole din cartea lui Stuart Russell, autorul unui manual celebru de introducere în IA pentru studenți, discută exact despre inteligența la oameni și mașini (folosesc mașini venind de la machines pentru că așa folosește și autorul). Analizând inteligența, anume capacitatea unui entități de a-și atinge obiectivele în mod optim, el enunță ideea că lumea este atât de complexă încât nici oamenii, nici sistemele IA nu au cum să ajungă de fiecare dată la decizia optimă. Mai mult, e posibil ca obiectivele sistemelor IA să nu se mai alinieze cu obiectivele oamenilor în moduri chiar tragice. Chiar Dehaene afirmă că sistemele IA nu au acea flexibilitate umană de a-și regândi acțiunile cu ajutorul informațiilor noi acumulate, de aici vine potențialul tragic.
De aici pornește Russell, de la ideea că e necesară o redefinire a inteligenței artificiale, adăugându-i atributul de „benefică” pentru oameni. Dar până acolo, el trece în revistă prezentul și viitorul apropiat al IA prin intermediul a câtorva exemple pozitive și negative:
- mașinile autonome, unde progresul e evident în ultimii ani, dar obstacolele principale țin de siguranță și de reglementare. Conform lui, utilizarea pe scară largă a acestora depinde de un prag de siguranță mult mai scăzut decât pentru șoferul uman. Mai precis, numărul de accidente cu victime va trebui să scadă foarte mult pentru ca aceste mașini autonome să fie acceptate pe scară largă. Mai mult, un alt mare obstacol în fața acestora este chiar șoferul uman al mașinii autonome, a cărui capacitate de intervenție în caz de pericol lasă de dorit.
- asistentul personal virtual, care vine cu dilema confidențialității: cum vrei să ai un Jarvis al tău să te ajute dacă el nu știe chiar TOT despre tine? și cum vrei ca acesta să funcționeze dacă nu a putut avea acces la date și conversații ale altora pentru a putea învăța? Viitorul acestor sisteme ține mai mult de reglementare și de practicile companiilor de tehnologie de a cripta datele.
Apropo de invenții..Russell tratează și anunțata venire a unei suprainteligențe, fiind oarecum precaut (oricum mai precaut decât unii din alte cărți pe care le tratez mai jos) având în vedere că e nevoie de încă o serie de descoperiri conceptuale până a ajunge acolo. Și aici e esența cărții lui Russell. Pentru ca IA să fie compatibilă cu omul, nu trebuie să stăm și să așteptăm aceste descoperiri, ci trebuie să folosim timpul rămas pentru a construi modele de inteligență artificială cu adevărat benefice, pentru a putea controla această inteligență.
Ca să-și construiască argumentul despre IA benefică, Russell se apleacă asupra utilizării incorecte a IA, care are loc aici și acum în anumite părți ale globului, cum ar fi supravegherea și controlul comportamentului cu ajutorul camerelor inteligente cu recunoaștere facială sau existența unui mediu de informații complet distorsionat sau existența armelor letale autonome. Ce ne facem dacă vom continua în acest mod până la apariția suprainteligenței? Ce ne facem când va apărea cineva sau ceva mai inteligent ca noi? Ne tot dorim avans tehnologic, dar ce ne facem dacă obținem ce dorim?
Soluția sa este IA benefică, ale cărei principii sunt:
- mașini altruiste care să lucreze pentru maximizarea preferințelor umane
- mașini umile, care nu sunt „sigure” care sunt preferințele noastre și aleg să țină cont de părerea oamenilor
- mașini care să învețe să prezică preferințele umane
(pentru sceptici, el detailează și cum s-ar putea realiza aceste sisteme în practică). Totul bine și frumos până aici, dar un cuvânt-cheie din aceste principii amenință un astfel de model: „uman”. Să nu uităm că oamenii nu sunt totalmente raționali, că nu știu ce vor tot timpul și că nu toată lumea e bună și altruistă. Ultima parte a cărții lui Russell se apleacă acestui lucru. Dacă Dehaene atrage atenția asupra lucrurilor pe care sistemele IA le pot prelua de la oameni, Russell încheie cu minusurile oamenilor care pot cauza mult rău acestor sisteme IA.
3. Michael Wooldridge - The Road to Conscious Machines. The Story of AI
Autorul a făcut cea mai bună caracterizare posibilă pentru această carte: „e povestea inteligenței artificiale spusă prin intermediul ideilor eșuate”. În mare, așa e. E o privire istorică asupra evoluției tehnologiei din spatele sistemelor de inteligență artificială.
Câteva exemple de naivități care mi-au atras atenția:
- prima școală de vară care a tratat subiectul inteligenței artificiale în 1956 (și a lansat, de altfel, acest termen) și-a propus să aducă avansuri semnificative în domeniu într-o perioadă așa scurtă de timp
- ideea că poți învăța un astfel de sistem să caute soluția corectă folosind un arbore de căutare, adică (atenție, vine o explicație foarte simplistă) o rezolvare a unei probleme prin căutarea și epuizarea tuturor alternativelor greșite. Mult efort, multă putere de lucru necesară.
- sisteme IA care învață prin intermediul regulilor. Intervine iar aici complexitatea lumii, cum poți să cuprinzi lumea asta complexă într-o serie de reguli de lucru rigide?
- sisteme care înglobează toată cunoașterea lumii – cam asta trebuia să facă Cyc, un sistem IA din 1984 care încă există – și care se folosește de logică pentru a trage concluzii dintr-o serie de informații (un sistem similar lui Watson, celebru calculator al IBM care a concurat la Jeopardy în SUA și a câștigat)
Toată istoria IA este plină de urcușuri și coborâșuri, iar explicațiile sistemelor și abordărilor utilizate au fost puțin cam tehnice pentru mine. În rest, cartea progresează cam tradițional, trecând în revistă provocările principale ale IA, fie ele legate de armele autonome sau de știri false sau de eliminarea muncii, discutând despre viitorul suprainteligenței. Adaugă și alte probleme ale domeniului, cum ar fi lipsa de diversitate. Wooldridge mai atrage atenția asupra unor teme filosofice de discutat pentru viitor, cum ar fi:
- problema conștiinței mașinilor
- aspectul social al inteligenței, idee pusă pe masă mai ales de neuroștiință, ceea ce ar face creierul uman fundamental diferit și greu de replicat în sisteme IA
4. Max Tegmark - Viața 3.0. Omul în epoca inteligenței artificiale
După aceste 3 cărți de inteligență artificială, parcă știam deja la ce mă înham citind titlul cărții lui Tegmark. Dar m-am cam înșelat. Nu am bănuit deloc că mă înham la o privire nu peste o sută de ani, nu peste o mie, ci peste 10 mii de ani sau milioane de ani, totul pornind de la apariția unei noi forme de viață, viața 3.0 reprezentată prin suprainteligența artificială.
Nu m-am așteptat, mai ales că prima treime a cărții progresează oarecum tradițional – utilizările IA, utilizările greșite ale IA, provocările de viitor pe care le vor da aceste sisteme.
Ce e cu adevărat fascinant (și foarte greu de urmărit pentru mine) este ceea ce-și imaginează Tegmark că se va întâmpla după explozia inteligenței, culminând cu discuții privind colonizarea altor planete, capturarea mai eficientă a energiei solare folosind tehnologii doar teoretizate, dar care ar avea șansa să fie realizate folosind suprainteligența.
Ideile lui Tegmark ignoră limitele acelea conceptuale de care vorbește Russell că trebuie depășite, considerând că e doar o chestiune de timp până când vom ajunge acolo. Într-o lume în care ni se spune constant că schimbările climatice ne vor distruge, cartea asta e o evadare bună.
