de Adrian Măniuțiu
Managing Partner, Fondator, EM360 Group
Problemele fake news și ale propagandei defăimătoare, care dezinformează, se pot rezuma, simplist, așa: e un război declarat științei și cognitivului rațional. Dar tehnologia și AI-ul nu sunt problema, așa cum mulți consideră, ci sunt chiar soluția la aceasta; nu sunt amenințarea, ci rezolvarea! Nici internetul, nici AI-ul și nici rețele sociale nu au inventat știrile false sau acest război declarat, de către unii, științei.
Iar dacă tot vorbim, azi, în aceeași propoziție, despre știri false, propagandă, deepfake și AI, aș vrea să încep cu o povestioară din anul 1833. E despre o cometă și pericolul generat de adevărurile personale și convingerile absolute, întâmplare intenționat aleasă din acea perioadă. Iat-o: la fiecare 33 de ani, pe orbita extinsă a Pământului are loc o intersectare cu o anumită cometă, care ajunge mult mai aproape de noi, decât, în mod obișnuit, alte comete. Ciclicitatea e de 33 de ani. S-a întâmplat ultima dată în 1998, se va repeta în 2031. Dar, așa cum spuneam, s-a petrecut, pe bune, și în anul 1833, când, într-o noapte anume, Pământul traversa – nu o ploaie, ci o furtună de meteoriți, dată fiind proximitatea cometei. A fost o noapte aparte, când cerul era, spuneau martorii de atunci, scena unui copleșitor foc de artificii cosmic, întunericul nopții fiind perturbat de o abundență de „stele căzătoare”, o grindină incandescentă, dar care nu producea niciun zgomot și care nici nu atingea pământul. De fapt, era „coada cometei” din care se desprindeau nenumărați meteoriți, ce ardeau la contactul cu atmosfera.
Pentru unii o imagine apocaliptică, terifiantă, pentru alții un spectacol captivant. Protagonistul acelei nopți e viitorul (cel de al 16-lea) președinte al Statelor Unite, Abraham Lincoln, atunci un simplu șef de post, în vârstă de doar 24 de ani, în New Salem, Illinois. Lincoln locuia în oraș, în gazdă, acasă la familia pastorului local. Ambii au fost martorii spectacolului celest. Pastorul, văzând ce se întâmplă, văzând furtuna de meteoriți, dar neștiind că e, de fapt, o furtună de meteoriți, cade terifiat în genunchi și începe să recite din Biblie, Apocalipsa 6:13, fiind sigur că a venit sfârșitul lumii: „luna s-a făcut toată ca sângele și stelele au căzut din cer pe pământ cum cad smochinele verzi din pom când este scuturat de un vânt puternic… … cădeți peste noi și ascundeți-ne de Fața Celui ce șade pe scaunul de domnie, căci a venit ziua cea mare a mâniei Lui și nimeni nu mai poate sta în picioare”.
Ca pastor la acea vreme, nu avea noțiuni minime de astrofizică, singura lui referință, pe care o cunoștea cu adevărat și la care a putut face apel, fiind cea biblică. Mai mult decât atât, pastorul nostru începe apoi să bată la uși, să-i trezească pe toți, să-i apuce de guler, să-i scuture și să le ceară să se pocăiască, pentru că a venit Sfârșitul. Îl scutură și pe Abraham Lincoln și îi spune că lumea s-a terminat, e momentul Judecății Supreme. Lincoln e la rândul său martorul incredibilei scene, dar, cu calm și celeritate, în timp ce-l
asculta pe pastor, se uită pe cerul înstelat, dominat de furtuna de meteoriți, și observă în același timp că absolut toate, dar absolut toate constelațiile cunoscute sunt nemișcate, tot acolo, pe cerul nopții. Nu lipsea nici măcar una, le vedea și le recunoștea pe toate. Și-a dat seama imediat, chiar dacă nu putea spune precis la ce e martor, că ceea ce vede nu e nici pe departe un scenariu în care stelele cad de pe cer pe pământ. Pur și simplu, ignorându-l pe pastor, calm, s-a întors la culcare. Iată cum un exemplu de acum 190 de ani, din timpuri fără internet, fără bule digitale de ecou și fără inteligență artificială, ne arată atât de simplu cum adevărurile personale și convingerile absolute, bazate pe ceea ce oamenii cred că știu, creează pareidolii, percepții eronate și realități false, chiar și fără a introduce în ecuație rea-voința sau intenția. Lipsa referințelor, adevărurile personale și convingerile greșite creează întotdeauna o realitate paralelă, care te împiedică să observi obiectiv, să vezi și să analizezi rațional tocmai elementele care conturează realitatea obiectivă, ducând la derapaje grave de raționament. În același registru se înscrie și bias-ul repetitivității: ceva fals sau bazat pe percepții pur subiective greșite, pe scurt, un neadevăr, dar un neadevăr care este repetat, organic sau artificial, cu o frecvență suficient de mare, în lipsa altui curent de opinie, contrar sau alternativ, în lipsa altor argumente, se va substitui destul de repede adevărului științific sau obiectiv și va deveni la nivel perceptiv un adevăr general, autovalidat prin rostogolire, fără altă referință decât cea proprie și fără altă validare decât cea a prezenței repetitive.
Mai vin cu un exemplu, de astă dată fără tentă politică sau religioasă. Demult, în emisiuni TV de tipul Teleenciclopediei (pentru cei tineri, Teleenciclopedia era o emisiune săptămânală, din preistoricul media, pe TVR, cu documentare, fiind singura sursă media pentru acest gen de programe, nu existau pe atunci încă internetul, YouTube-ul și informații la un click ori swipe distanță) vedeam cum ghepardul vânează antilope. Iar și iar și iar: gheparzi, în savană, la vânătoare și festin de antilope. Repetitiv, chiar dacă în situații, filmări și contexte diferite.
Concluzia naturală nu e doar că gheparzii mănâncă preponderent antilope, ci și că antilopele sunt hrana lor preferată. Dacă asta tot vezi, cu asta rămâi. Adevărul științific e însă altul. Antilopele nu sunt hrana principală a gheparzilor, chiar dacă, în rarele ocazii când le prind, le mănâncă. Hrana lor constă mai degrabă în pui de mistreți, viței sălbatici, gazele, impala, iepuri și alte mamifere mai mici de savană și doar ocazional în antilope. Dar noi, dacă vedeam antilopele, le-am reținut. Exemplul vizual repetitiv al antilopelor, ca hrană principală sigură, funcționează în orice alt context, chiar și cu exemple acustice.
Principiul e același indiferent de context ori subiect. Bias-ul cognitiv intervine: dacă asta se tot repetă și asta văd/aud, înseamnă că trebuie să fie adevărat! De fapt, e o slăbiciune a sistemului nostru de gândire, creierul ne păcălește pe noi, senzorii ne sunt dați peste cap. Și e o slăbiciune foarte greu de surmontat, e nevoie de multă disciplină și educație, de o stare de scepticism și alertă permanentă, în care trebuie să supunem analizei și judecății obiectiv-raționale tot timpul orice. Or, pentru majoritatea, asta nu e nici realist, nici posibil din punctul de vedere al funcționării umane.
Prin astfel de perpetuări repetitive de mesaje apar, voit sau natural, teorii ale conspirațiilor – oamenii le îmbrățișează, se simt printre cei speciali care înțeleg „cum stă treaba”, apoi le colportează. Așa se confirmă și se consolidează dictaturi, așa apare și se amplifică un cult, o sectă. Așa cum poate fi folosit de forțele binelui, același mecanism poate fi folosit de forțele răului. Repetând un adevăr științific la nesfârșit rezultatul e unul bun. Repetând o minciună la nesfârșit, rezultatul e unul dezastruos. În ambele scenarii, repetiția se traduce printr-un transfer de încredere: poate fi către un adevăr obiectiv sau către un (ne)adevăr subiectiv.
Repetiția înseamnă să familiarizezi creierul cu ceva, astfel devine cunoscut. Necunoscutul îl sperie pe om, ceva cunoscut, nu. Din contră, omul tinde să accepte ceva cunoscut mult mai ușor și să facă alegeri, indiferent de domeniu, bazându-se pe ceea ce cunoaște, pe ceea ce îi este familiar și recognoscibil.
Dacă ne uităm în istorie și mergem 2.000 sau chiar 4.000 de ani în urmă, vedem că aceleași probleme existau și fără internet, tehnologie sau AI. Nazismul și comunismul, progresismul debalansat, culte și secte, derapaje, războaie, discriminare, dezechilibre pozitive sau negative de corectitudine politică, false sau reale, halucinații sociale sau politice, toate au existat înaintea progresului digital pe care-l trăim azi. Sigur că tehnologia și media pot amplifica problemele legate de fake news și dezinformare, dar nu sunt cauza, sunt cel mult un canal. Dar tot ele sunt și soluția rezolvării acestui flagel, în special tehnologia și AI/GenAI. Inteligența artificială corect reglementată va deveni cel mai util instrument al omului în reechilibrarea acestei balanțe.
Personal, nu-mi creează frici, ci optimism și siguranță. Am depășit era în care fie regi, fie preoți dictau orice. În democrație, tehnologia poate fi un instrument suprem, care prin metode științifice ne poate apăra de derapaje, ne poate ajuta să ne apropiem de adevăruri, diferențiindu-le – că e posibil să fie mai multe adevăruri, nu doar cel absolut. Prin analiză, experimente, studii, referințe, algoritmi comparativi, tehnici științifice raționale, ipoteze de impact și multe altele. Nici metoda științifică, bazată pe tehnologie și AI, nu va fi perfectă la început, dar probabilistic rămâne cea mai aproape de echilibrul decizional și informațional obiectiv. Atenție, va fi imposibil să vorbim despre adevăruri absolute sau supreme și în viitor.
Putem, însă, deschide discuția și instrumentarul extrem de funcțional al unui ecosistem de valori și referințe bazate pe constructivismul și echilibrul cunoașterii – înlocuind astfel discursul urii, presupunerile subiective și adevărurile personale. Deci, chiar dacă nu e perfectă, metoda științifică rămâne probabilistic și empiric cea mai aproape de o corectitudine lipsită de derapaje, pe care cu toții ar trebui să o căutăm.
Și acum să revenim: tehnologia, AI, internetul NU sunt nici problema, nici cauza. Sunt, clar, soluția. AI poate consolida rezultatele luptei împotriva propagandei și a știrilor false prin algoritmi de detectare automată și indexarea fake-urilor. Asistenți inteligenți desemnați vor putea fi antrenați să recunoască și să eticheteze automat conținutul suspect ca fiind potențial înșelător, inclusiv pe baza modelelor anterioare de propagandă și știri false. Tot AI-ul are deja capacitatea de oferi dovezi bazate pe verificarea faptelor în timp real, scoțând în evidență informațiile nesigure sau maligne. Dat fiind volumul uriaș de date care sunt create în fiecare zi, doar supercalculatoarele antrenabile mai pot analiza sentimentul și tendințele din discuțiile publice, pentru a identifica și a contracara posibilele campanii de dezinformare.
Lista poate continua cu detectarea conturilor false din online, cu educarea utilizatorilor tot prin asistenți virtuali personali: imaginați-vă că v-ați putea antrena un asistent inteligent virtual propriu și unic, doar al vostru, unul care să aibă un IQ de peste 200 și pe care să-l aveți permanent la dispoziție pentru orice, inclusiv pentru a vă apăra de manipulare.
Știu că sunt mulți care spun că la fel de bine, tehnologiile inteligente și autonome vor fi mama tuturor relelor. Mai avem de lucru, nu e încă totul perfect, dar vom rezolva și problema deepfake, cea a boților răi din online, care pot manipula sau chiar genera conținut nociv. Dar avantajele surmontează clar riscurile și dezavantajele. Și combustibilii pot fi folosiți pentru cocktailuri Molotov, la fel de bine cum pot fi folosiți pentru a vă alimenta mașina sau încălzi casa sau pune în mișcare fabrica. Există oameni buni, există și criminali periculoși – asta nu ne conduce însă cu gândul la a interzice nașterile.
Fight fire with fire, asta vom face, pentru că tot AI-ul își va monitoriza, detecta și rezolva propriile-i lacune, cel mai bine. În foarte scurt timp urmează reglementarea și supravegherea utilizării AI, așa cum o facem cu piețele financiare sau cu orice alt domeniu al economiei și societății.
Mai mult decât atât, combinând AI-ul, LLM-urile și GenAI-ul cu tehnologiile blockchain, vom ajunge într-o zonă în care securitatea datelor va putea fi garantată, iar prin descentralizarea și democratizarea AI, vom crea un ecosistem social sigur, bazat pe transparență și încredere. Combinarea AI cu blockchain va oferi soluții viabile pentru verificarea identității și construirea de sisteme de reputație, ceea ce poate avea aplicații în multe domenii, de la servicii financiare, la rețele sociale și media.
Prin combinarea transparenței și securității blockchain cu puterea de analiză a AI, vom fundamenta chiar noua economie! Nu există deocamdată o tehnică mai sigură pentru a urmări originea informațiilor și a asigura integritatea datelor, decât registrele blockchain. Nu doar că identifici falsul, dar poți opri și răspândirea.
Argumentul cenzurii și libertății de opinie nu mai ține când vorbim de manipulare și propagandă, nici măcar atunci când e neintenționată. Libertatea cuiva se oprește acolo unde afectează libertatea altcuiva. Și asta fac știrile false și dezinformarea, ne atacă libertatea. Progresul e cheia, să nu-l oprim sau frânăm, să-l îmbrățișăm, să ni-l dorim și să-l maximizăm! Ține de civilizație și de evoluția speciei noastre să învățăm să trăim cu ideea transformării lui homo sapiens în homo sAIpiens.
Adrian Măniuțiu este Managing Partner, fondator al EM360 Group.
