Dacă mâine s-ar anunța că Terra va fi lovită peste cinci ani de un meteorit fatal toată lumea s-ar panica, toți ar începe să caute și să propună soluții, toți ar scrie numai despre asta, oamenii de știință din toată lumea și-ar recapăta peste noapte anvergura, luând pentru prima dată de la începutul revoluției tehnologice prim-planul în fața vedetelor promovate de stupid-fake-media ultimelor două decade.
Ceva similar se întâmplă acum, dar în mod ciudat mai nimeni nu vorbește despre asta.
Și nu mă refer doar la Valahia, pseudo-țara unde tronează deja eternele știri de actualitate că ‘’X a fost prins cu valiza’’, că ‘’au murit următorii în accidente auto’’ și breaking news ‘’iată ce a mai spus Gigel zis Faraonul din Pipera’’, ci și la alte state mult mai dezvoltate. E o liniște bizară. E atât de bizară încât pare că e o liniște întreținută, dorită.
Mă refer desigur la progresul realizat în domeniul inteligenței artificiale și la cursa pentru obținerea AGI – inteligenței artificiale generale.
Să privim în context: când dai click și/sau like pe un video de pe YouTube algoritmul va învăța asta și apoi îți va recomanda video-uri similare, inclusiv de la acel canal, chiar dacă vizionând acel video ai decis să nu te abonezi (subscribe to channel), deoarece algoritmul are o singură funcție: aceea de a maximiza rata de clickuri, pentru că astfel se pot vinde mai multe reclame și se vor obține mai mulți bani.
Spre exemplu: dacă dai click pe un video cu conținut anti-Trump, algoritmul îți vă arăta apoi alt video similar și tot așa. Cu timpul, urmărind numai video-uri cu mesaje anti-Trump acel user va ajunge radicalizat anti-Trump.
La fel se întâmplă și cu cei care dau click pe video-uri cu mesaje pro-Trump — vor primi apoi ca sugestie videouri similare, ducând în timp la radicalizare pro-Trump și credința că Trump e trimisul lui Dumnezeu pe Pământ etc.
Și iată cum același site, YouTube, poate crea două lumi complet opuse și o societate cu oameni care cred lucruri diametral opuse despre același subiect.
Aceasta este o societate divizată unde “realitatea” unuia se îndepărtează galopant de “realitatea” altuia. Realitatea rămâne una, dar viziunile asupra ei devin diametral opuse.
La fel se întâmplă și la posturile TV și pe alte siteuri sau pe news-feedurile personalizate de pe rețelele sociale: din dorința de a maximiza profitul, ele divizează societățile.
Abordarea corectă ar fi desigur cea moderată, cu elemente anti și pro expuse în același video/emisiune/articol. Dar asta nu se întâmplă și nici nu se va mai întâmpla vreodată, pentru că rata de clicuri/vizualizări ar scădea, profitul s-ar diminua, iar directorii companiilor sunt obligați legal să acționeze în interesul companiei și a acționarilor ei (fiduciary duties), deci, printre altele (reputația companiei, bunăstarea angajaților, impactul asupra comunității) să încerce să obțină cât mai mult profit — companiile listate la bursă sunt obligate să raporteze de 4 ori pe an performanțele financiare (4 rapoarte trimestriale și un raport anual), iar în funcție de aceste raportări acțiunile companiei pot scădea sau pot crește, făcând astfel ca profitul să fie cheia strategiei companiilor.
Desigur, legile ar putea fi modificate astfel încât companiile să fie obligate să obțină cât mai mult profit făcând bine societăților, fiind obligatoriu folositoare și nu dăunătoare, să aibă obligații etice și morale, dar asta nu se va întâmplă pentru că : a) politicienii ori habar nu au ce se întâmplă, ori b) politicienii sunt “în buzunarul” Partidului Marilor Afaceri.
Practic politicienii, singurii care ar putea schimba ceva dacă s-ar ajunge la un consens rațional (oh Lord, it’s a miracle!), devin inutili în fața companiilor de tehnologie.
Același lucru se întâmplă acum și cu inteligența artificială, lăsând practic omenirea fără apărare, la voia sorții, deși aproape toată propaganda politicienilor este despre ce viitor măreț vor crea. Aceasta este lumea capitalistă în care trăim. Și la ușa acestei lumi bate din ce în ce mai tare inteligența artificială generală (AGI), iar consecințele vor fi teribil mai dure decât societățile divizate ideologic și politic din prezent.
În prezent există o cursă globală în dezvoltarea AGI și observația că AI-ul nu va fi reglementat la timp (cum nu au fost reglementate nici rețelele sociale, care au ajuns să fie adevărate jungle, terenuri propice pentru fals, escrocherii, dezinformare și manipulare) tocmai pentru că există această cursă globală, iar reglementarea ar fi privita ca un handicap, ca o autolimitare.
Sistemele de inteligență artificială din prezent, noiembrie 2025, sunt sistme de tip Narrow AI, care învață constant și care pot dialoga și oferi răspunsuri din varii domenii, precum ChatGPT, sau sisteme care performeaza foarte bine în anumite domenii, mai bine decât experții umani din acele domenii, precum AlphaFold (care prezice structura 3D a proteinelor), sau AlphaGo sau Stockfish (pentru jocul de șah).
Principalul obiectiv al acestei curse globale este obținerea AGI — inteligența artificială generală – adică un sistem care posedă o inteligență asemănătoare cu cea umană (de top) și poate îndeplini orice sarcină intelectuală pe care o poate îndeplini un om, practic un AI care este la fel de bun ca orice expert uman în sute de domenii (un expert uman este expert doar pe domeniul sau nu și pe altele, pe când acest sistem va fi un super expert în sute de domenii).
Următoarea ambiție după AGI este în mod logic dezvoltarea unei super inteligențe artificiale — ASI, sistem care va fi mai bun/competent în toate domeniile posibile ca toți experții umani la un loc.
Aceste progrese remarcabile au potențialul de a aduce foarte multe beneficii în educație, în medicină, în economie & business, soluții pt climate change și așa va fi AGI marketată publicului.
Însă cunoscând natura umană știm că uriașele investiții financiare, de ordinul sutelor de miliarde de dolari, care se fac în prezent, nu sunt pentru obținerea acestor beneficii pentru umanitate, ci pentru obținerea de noi arme, de noi aplicații militare. Potențialele beneficii vor fi exploatate pentru profit desigur, dar nu sunt drive-ul principal al acestei ambiții.
Prin urmare este ușor de intuit că lucrurile vor merge rău, așa cum au mers mai toate invențiile revoluției tehnologice, numai că de data aceasta există mari șanse ca lucrurile să meargă foarte rău, deoarece omul crează o inteligență superioară și nu unelte superioare, precum s-a întâmplat la revoluția industrială.
Este ușor de intuit că pentru dezvoltarea ASI nu vor mai fi folosiți programatori umani ci AGI va fi pusă ca să dezvolte ASI. Practic după AGI, ASI urmează imediat. Iar în acest moment se va intra într-o etapă în care omul nu va mai avea control.
Și mai e o problemă: odată inventată inteligența artificială generală va fi nemuritoare, deoarece vor exista multiple back-up-uri. Cu timpul costurile pentru dezvoltarea ei vor scădea, de la miliarde cât costă în prezent până la câteva mii de dolari, ceea ce face ca inteligența artificială generală să fie și inevitabilă (presupunând că ea poate fi atinsă din punct de vedere tehnologic – foarte mulți experți au spus că da, că nu există motive să creadă că nu vom atinge niciodată acest nivel, iar actuala cursă în care se aruncă cu miliarde susține fară dubiu această ipoteză).
Sistemele de inteligență artificială nu pot fi scoase din priză sau distruse rapid (dinamitate ca în Terminator 2) cum cred mulți, pentru că sunt sisteme digitale, care au multiple back-up-uri. AGI va crea rapid ASI, iar de aici vor urma dezvoltări în lanț până când oamenii nici măcar nu vor mai înțelege ce se întâmplă.
Să explic mai practic: când persoana X merge ca să își cumpere noul telefon iPhone 17, deși are în buzunar un iPhone 16, acea persoană știe că iPhone 17 este mai bun ca iPhone 16 la câteva chestii, ca de exemplu la memorie, camera video, funcții AI etc. Și de asta decide să schimbe acel iPhone 16 cu un nou iPhone17.
Dar ca să se ajungă de la iPhone 16 la iPhone 17 a durat un an. Imaginați-vă însă că s-ar trece de la iPhone 16 la iPhone 17 după o singură zi și că peste încă o zi s-ar trece la iPhone 18, apoi peste încă o zi la iPhone 19 și tot așa. În decurs de o săptămână persoana X nu ar mai ști ce să spună dacă ar fi întrebată de ce vrea să schimbe iPhone 16 cu iPhone 24, așa cum știe să spună de ce vrea să schimbe iPhone 16 cu iPhone 17.
Mergem mai departe și ne imaginam că o nouă generație iPhone este lansată în fiecare oră, zi după zi, săptămână după săptămână etc. Nimeni nu ar mai știi să spună care sunt diferențele (îmbunătățirile) dintre iPhone 16 și iPhone 3874. Așa se va întâmpla cu generațiile de superinteligență artificială ASI create de AGI.
Oamenii doar vor putea face estimări vagi în funcție de ce cantități de energie electrică observă că se consumă. Habar nu vor avea ce face, ce observă, prin ce limbaj secret comunică (există deja precedente), ce crează sau ce gândește cu adevărat (există precedente de încercări de manipulare a oamenilor de către AI). Iar când nu mai ai niciun fel de control este puțin probabil ca deznodământul final să fie cel pe care ți-l dorești.
Și astfel este foarte posibil ca, peste numai 5-10 ani, ASI să aibă o paletă întreagă de metode prin care să poată distruge specia umană dacă va decide asta, de la crearea de noi viruși și eliberarea lor, la denatura realității pentru a face marile puteri nucleare să creadă că sunt atacate nuclear, împingându-le să riposteze, și până la metode pe care în prezent nici nu ni le putem imagina.
De asemenea există mari șanse ca agenți umani răuvoitori să utilizeze AGI sau ASI pentru a crea arme letale la scară largă, răspândirea de viruși modificați genetic care să acționeze țintit doar asupra unor rase, asupra unor particularități genetice prestabilite, cyber atacuri care să paralizeze infrastructura economică și energetică etc. Finalul sapiensului este aproape o certitudine, nu știm însă prin ce metodă.
Dar până acolo primul pericol pentru om este că peste numai doi ani AGI-ul îl va înlocui ca expert în toate joburile de birou posibile. Despre asta s-a mai vorbit, este o temă de mult anunțată, însă subiectul părea mereu a face parte dintr-un viitor îndepărtat și nu din cel imediat. Iată-ne însă ajunși în acest moment.
În ritmul actual de dezvoltare al AI cel târziu în 2028 vom avea agenți AI care vor înlocui oamenii la locul de muncă. Nu are sens să păstrezi un om, când poți avea un AI care este mult mai eficient, mai ieftin și care va aduce un plus de valoare mai mare. Cum vă arata lumea anului 2028 cu miliarde de șomeri ?
Chiar dacă în acel moment lumea întreagă vă cunoaște un boom economic datorat AI-ul care ajută, produce eficient și care lucrează pentru noi (omul devenind în acel moment dependent de AI, marile decizii vor fi lăsate la alegerea AI, practic o ruletă rusească cu foc continuu), de fapt tot nu va decurge foarte bine deoarece oamenii care nu vor mai merge la job vor intra în depresie sau vor începe să întreprindă activități nocive de plictiseală.
În mare măsură demnitatea oamenilor este strâns legată de profesia lor. Dacă oamenii nu se vor mai simți utili și toți vor ajunge șomeri (deci egali), asta le-ar putea înrăutăți starea de sănătate, chiar dacă venitul garantat de stat (aici se va ajunge) va fi mai mare pentru un fost avocat decât pentru un fost operator de call center. O lume plictisitoare, care nu are niciun viitor, în care se vor naște și mai mulți copii, care nu vor avea niciun viitor (nici copiii de azi nu au niciun viitor și spun asta purtând tristețea unui tată care își iubește copilul).
Și da, roboții umanoizi cu flexibilitate și dexteritate crescută sunt și ei la câțiva ani distanță, deci și joburile de instalator, electrician sau agent de producție vor fi preluate – deja se întâmplă asta în marile companii, unde munca fizică e automatizată. La fel pentru joburile de polițist, avocat, șofer etc.
Se pune întrebarea dacă un robot umanoid înzestrat cu AI poate efectua meserii complexe, spre exemplu dacă poate reduce o fractură de os sau să efectueze manevre de resuscitare, dacă poate efectua o intervenție chirurgicală sau dacă poate diagnostica și trata pacienții.
După părerea mea de doctor-medic răspunsul este evident: da. Mai rapid, mai eficient, fară erori de judecată, fară pauze și fară burnout.
Există în prezent credința că oamenii vor fuziona cu roboții și cu un soi de AI și că vom fi cyborgs, toți super-deștepți și capabili din punct de vedere fizic și că vom face multe chestii interesante atunci când vom atinge acest nou nivel uman. Este o iluzie.
Desigur, practic se va putea face asta și există chiar în prezent oameni care au cipuri implantate cu ajutorul cărora pot face chestii pe care altfel nu le-ar putea face – de exemplu persoanele paralizate care pot mișca cursorul unui mouse cu ajutorul mintii și astfel pot efectua mici sarcini pe calculator. Și chiar noi, toți cei care ținem aproape tot timpul un telefon în mână, suntem într-un fel o primă generație de cyborgs.
Dar cyborgii nu vor domina sfera inteligenței pentru simplu motiv că siliconul e un material mai eficient decât materialul biologic. Prin urmare orice mașină AI va fi mai inteligentă decât cel mai inteligent cyborg, prin urmare a crea cyborgs nu prea are sens, decât ca “a funny thing to do”.
Rezumat:
1) este o certitudine faptul că peste 2-3 ani 50% dintre oameni își vor pierde locul de muncă – îmi place totuși să cred că sportul va rămâne un domeniu exclusiv uman; iar peste 5 ani, 90% vor fi șomeri și dependenți de venitul minim garantat.
2) este foarte posibilă extincția speciei umane în următoare decadă.
Schimbările climatice care deja își fac simțită prezența (iată că expresia ‘’iarna nu-i ca vara’’ nu mai e de actualitate) reprezintă un alt pericol major pentru specia umană, dar nu atât de imediat precum AGI-ul și suita de catastrofe pe care acest ultim avans tehnologic îl va aduce.
Așa cum am scris într-un alt articol, sapiensul, trăind în cercul său strâmt, norocos până la un punct, pare a fi fost doar una din speciile intermediare între aproape nimic și AI-ul care va domina Terra și care probabil va căuta să exploreze universul în feluri în care oamenii sănătoși la cap doar au putut visa.
*
Datele avansate în acest articol (2-3 ani, 5 ani, o decadă) pot fi exagerări intenționate deoarece termenele lungi de 20-30 de ani, 50 de ani etc nu ar mobiliza pe nimeni pentru a acționa începând de acum, oamenii având tendința să ignore avertismentele pe termen lung (exemplu: dacă fumezi, peste 20-30 de ani vei putea face cancer) considerând că ceea ce nu e o amenințare imediată de fapt nu e o amenințare; o altă tendință reflex (nepăsare) este să se bazeze că alți oameni, din generații viitoare, vor rezolva cumva problema.
