Tim O’Reilly spune mai multe…

În această ediție a Say More, Project Syndicate discută cu Tim O’Reilly, fondator și CEO al O’Reilly Media, Inc. și autorul cărții WTF?: What’s the Future and Why It’s Up to Us (Harper Business, 2017).

Project Syndicate: Ați numit „bula” generativă a inteligenței artificiale una „productivă”, deoarece tehnologia este aplicată nu numai în „economia pariurilor”, ci și în „economia operațională”, cu „cantități masive de capital” fiind „folosite pentru a construi infrastructura viitorului”. Dar, așa cum scrieți în cartea dvs. din 2017 „WTF?: What’s the Future and Why It’s Up to Us” („WTF?: Ce înseamnă viitorul și de ce depinde de noi”), în „afaceri și tehnologie, adesea nu reușim să vedem clar ce ne așteaptă, deoarece navigăm folosind hărți vechi și uneori chiar hărți proaste”. Atunci, cum ne putem asigura că infrastructura AI construită astăzi se dovedește mâine a fi benefică la scară largă?

Tim O’Reilly: Excelentă întrebare. Întregul scop al unei bule este că este o explorare nebunească a noilor posibilități – spații goale pe harta existentă. Dar este importantă înțelegerea straturilor de bază ale hărții care încă ne constrâng viziunea.

Un strat de bază neexaminat, care împiedică dezvoltarea benefică a AI la scară largă este imperativul capitalismului modern – în special în Statele Unite – care plasează câștigurile acționarilor deasupra tuturor celorlalte considerente. Până când nu ne vom confrunta cu această idee limitativă, guvernanța AI va merge, probabil, pe calea mișcării „de mediu, socială și de guvernare”, în cel mai bun caz fiind ridicată în slăvi și, în cel mai rău caz, ignorată în mod activ. Am scris despre asta anul trecut într-un articol numit „Problema alinierii nu este nouă”.

Se pune mult accent pe riscurile generate de AI. Dar dacă nu ne confruntăm cu stimulentele economice puternice acordate unui comportament negativ, care sunt evidente într-o cultură de afaceri ghidată de profit mai presus de orice, vom obține mult mai puține dintre beneficiile potențiale ale AI.

PS: Pe măsură ce guvernele din locuri precum SUA și Uniunea Europeană intervin din ce în ce mai mult pentru a proteja și pentru a susține sectoarele de înaltă tehnologie, ce trebuie să înțeleagă factorii de decizie politică despre echilibrul dintre intervenția statului – în special de către autoritățile de reglementare – și inovație și că abordările lor de până acum vă inspiră mai multă speranță sau angoasă?

TO: S-a depus mult efort pozitiv pentru reglementarea tehnologiei, în special în UE. Dar există motive de îngrijorare. Reglementările au întotdeauna consecințe neintenționate și, cu cât sunt mai specifice, cu atât este mai probabil ca reglementările să meargă prost. Mai mult, dacă elaborarea reglementărilor se bazează pe presupuneri greșite cu privire la natura problemei, acestea pot adăuga probleme, fără a adăuga prea multă valoare.

De exemplu, am o plângere veche cu privire la reglementarea „confidențialității”. Atunci când companiile folosesc datele pe care le colectează în beneficiul utilizatorilor lor, toată lumea este fericită să renunțe la confidențialitatea lor. Momentul în care trebuie să ne îngrijorăm este atunci când companiile (sau guvernele) care dețin datele noastre le folosesc împotriva noastră. Aceasta ar putea părea o mică distincție, dar încadrarea acesteia în cadrele de reglementare ar avea un impact enorm în practică. Multe utilizări benefice care sunt restricționate în prezent ar fi permise și nu ar mai trebui să ne luptăm pentru a găsi modalități de a păstra confidențialitatea datelor într-o lume în care serviciile utile depind de colectarea acestora.

PS: New York Times a dat recent în judecată OpenAI și Microsoft, susținând că utilizarea informațiilor provenite din arhiva publicației pentru instruirea modelelor AI a constituit o încălcare a drepturilor de autor. Dar, așa cum ați subliniat dvs. și Mike Loukides, „citirea textelor” a fost întotdeauna „parte a procesului de învățare umană”. În timp ce spuneți că generarea augmentată de recuperare face posibilă „generarea de informații care respectă drepturile de autor și recompensează autorii”, ce ar trebui făcut cu privire la conținutul care a fost deja utilizat pentru a instrui modelele AI? În sens mai larg, care este miza în cazul NYT?

TO: Văd două mari probleme într-o potențială înțelegere între OpenAI și NYT (și alte organizații de știri). În primul rând, o înțelegere este probabil anticoncurențială. Dacă nimeni nu poate instrui un model fără a plăti milioane de dolari deținătorilor drepturilor de autor, liderii de piață cu buzunare adânci vor avea un avantaj masiv față de open-source și alte modele mai mici.

În al doilea rând, înțelegerile cu creatorii nu reprezintă un model de afaceri viabil. Liderii AI trebuie să se întrebe cum să permită creatorilor să construiască conținutul în baza cărora vor fi instruite viitoarele modele, iar acest lucru înseamnă să ofere acestor creatori – nu doar dezvoltatorilor de modele – oportunități de a profita de tehnologie. Această problemă a fost adusă în centrul atenției de greva Writers Guild of America (Sindicatului Scenariștilor din America) de anul trecut. În timp ce înțelegerile discutate în procesele mass-media se concentrează pe plăți, înțelegerile WGA au pus în aplicare protecții pentru ecosistemul real al creatorilor – un model mult superior.

În prezent, liderii pieței AI par a fi destul de insensibili la necesitatea unei structuri de piață care să continue să ofere stimulente pentru crearea de conținut util în viitor. O „viziune ecosistemică” este extrem de necesară. Am scris destul de mult despre acest subiect, inclusiv o lucrare recentă despre „chiriile de atenție”, care examinează problema în cazul Amazon, Google și Facebook și folosește această analiză ca o rampă de lansare pentru a pune aceeași întrebare cu privire la modelele AI.

Apropo…

PS:„Deși termenul de inteligență artificială sau AI sugerează o inteligență cu adevărat autonomă”, ați scris în „WTF?” „suntem departe, departe de această eventualitate. AI este încă doar un instrument, încă supus coordonării umane”. Mai mult de șase ani mai târziu, se pare că ne apropiem – sau poate că am atins deja – punctul critic al inteligenței artificiale. În ce cazuri este folosită AI pentru „a face o lume mai bună” și în ce cazuri „amplifică cele mai negative caracteristici ale lumii de astăzi”?

TO: Nimic nou aici. Fiecare tehnologie nouă ne oferă șansa unui nou început – o oportunitate de a construi o lume mai bună. Cu toate acestea, din nou și din nou, de cele mai multe ori nu reușim să profităm de această oportunitate. După cum a spus J. Bradford DeLong în ultima sa carte, în loc să valorificăm tehnologia pentru a ne duce direct spre un viitor mai bun, „alunecăm spre utopie”.

După cum indică subtitlul lucrării WTF? – Ce înseamnă viitorul și de ce depinde de noi – tehnologia nu este deterministă. O putem folosi pentru bine sau rău. Problema este că societatea noastră nu este o zonă deschisă; o mulțime de drumuri și șine au fost deja trasate și tindem să le urmăm pe acestea, chiar dacă adesea duc în direcția greșită.

PS: Ați lăudat antreprenori precum Elon Musk și firme precum Amazon pentru abordarea lor față de inovația tehnologică și a modelului de afaceri inovativ. Ce au făcut aceștia în mod corect și ce lecții le oferă exemplul lor investitorilor și liderilor de companii?

TO: Nu este ușor să fii fan nici al lui Musk, nici al lui Jeff Bezos în aceste zile, dar permiteți-mi să vă spun ce am admirat odată la ei. Cheia adevăratului succes antreprenorial este să creezi mai multă valoare decât captezi, iar ambii antreprenori au creat cândva cantități enorme de valoare, nu numai pentru ei înșiși, ci și pentru mulți alții.

Recunoscând enormitatea amenințării climatice, Musk a plasat pariuri foarte îndrăznețe, care au catalizat dezvoltarea atât a pieței mașinilor electrice, cât și a pieței spațiale comerciale. În zilele sale de glorie, Amazon a creat noi oportunități pentru milioane de oameni, deoarece a conectat cumpărătorii și vânzătorii folosind noi instrumente geniale de potrivire algoritmică. Împreună cu Larry Page și Sergey Brin de la Google, Bezos a inițiat, cu Amazon, unele dintre cele mai mari progrese de pe piață de la descoperirea comerțului liber.

Astăzi, însă, Bezos se transformă într-un extractor de valoare, iar Musk într-un distrugător de valoare. Pare destul de clar că, odată cu afacerea sa publicitară, Amazon s-a întors spre partea întunecată. Deși compania și-a respectat odată promisiunea de a găsi utilizatorilor cele mai bune produse la cel mai bun preț, acum este o platformă pay-to-play (plătește ca să participi), care abuzează de decenii de încredere învățată de la utilizatori, pentru a le oferi produse mai proaste la prețuri mai mari.

De fapt, cercetările recente pe care le-am efectuat împreună cu colegii mei de la University College London au relevat faptul că cele mai accesate trei produse promovate de Amazon – care sunt poziționate mai favorabil decât rezultatele căutării organice – sunt cu aproximativ 17% mai scumpe decât rezultatele principale ale căutării organice și cu o treime mai puțin relevante. Cam aici se oprește presupusul angajament al Amazon de a crea valoare pentru utilizatori. Platforma este acum o simplă mașină pentru extragerea chiriilor/onorariilor economice, plătite de utilizatori.

Mesajul este unul sumbru: s-ar putea să începeți într-un mod idealist, dar odată ce valul inovației începe să scadă, piața vă va cere să utilizați mijloace mai puțin cinstite pentru a continua să creșteți – și vă veți supune acestei cereri.

PS: Ce voiați să spuneți când ați scris că, în calitate de „clasicist prin formare”, „căderea Romei este întotdeauna un exemplu” pentru dvs.? Ce ne poate învăța declinul și prăbușirea unei civilizații antice despre inovația tehnologică modernă?

TO: Acest comentariu a fost mai mult despre politică decât despre tehnologie. După cum probabil Mark Twain nu a spus niciodată, „Istoria nu se repetă, dar cu siguranță rimează”. SUA, cândva o republică, sunt pe cale să devină o societate autoritară. Disprețuirea soldaților americani care se întorceau din Vietnam reflectă modul în care Roma și-a tratat armatele după Războaiele Punice. Lansarea de către George W. Bush a războiului din Irak după atacurile teroriste din 11 septembrie 2001 reflectă aroganța Pompeiului asupra puterii militare, în urma unui atac al piraților asupra docurilor din Ostia. Și, deși cronologiile nu prea se potrivesc, populismul lui Donald Trump amintește de abordările lui Marius și Sulla, care au transformat consulatul roman într-o dictatură – un proces care a fost finalizat ulterior de Pompei și Cezar.

Există lecții și despre tehnologie, care sunt inspirate de căderea Imperiului Roman, mai degrabă decât de dispariția Republicii Romane. Una majoră este că tehnologia poate fi pierdută. Minunata carte a lui Stephen Greenblatt, The Swerve (Virajul), spune povestea modului în care, în ultimii săi ani, Imperiul Roman s-a întors împotriva învățării – o schimbare care a fost exemplificată prin uciderea strălucitei matematiciene egiptene Hypatia. Cu schimbările climatice progresând rapid și cu profilarea unei migrații în masă, neîncrederea în știință și expertiză prevestește un viitor întunecat.