Am fost șocat zilele trecute. Nu știu dacă ați auzit de Seedance 2.0, un generator AI de clipuri video. Noi monitorizăm activ mișcările de pe piața AI, iar ceea ce face ByteDance este absolut remarcabil. Chiar aș vrea să le fac o vizită doar pentru a înțelege ce sistem de organizare au, ce reguli de business practică și multe alte elemente. Sunt o companie de-a dreptul extraordinară, al cărei buzz nu e creat artificial de marketing, ci de produsele lor. Să revin la Seedance.
Băieții se distrau cu mai multe clipuri făcute cu modelul celor de la ByteDance. Mai precis era vorba de facilitatea de transformare a unei fotografii în video.Practic ce făcea modelul? Transforma o imagine într-un clip video, iar dacă modelul era pus să genereze și voce pentru personajul animat, aceasta era aproape identică celei reali. Am studiat mai multe clipuri publicate pe X în care se vedea la modul frapant realismul clipurilor generate și, mai ales, vocea care era extrem de apropiată de cea reală.
Facilitatea nu a fost disponibilă decât în faza de testare beta a aplicației, dar a fost suficientă pentru a deveni necesară blocarea ei întrucât diferența dintre fake și realitate era, pur și simplu, imperceptibilă. Însă altceva vreau să subliniez, anume faptul că nimeni până acum nu s-a gândit să coreleze vocea unui individ cu particularitățile anatomice ale feței. Mă rog, e mai mult de-atât întrucât modelul reușește să categorisească și să îmbine un număr foarte mare de elemente statistice, precum etnie, vârsta, gen, structura maxilarului s.a.m.d. E primul șoc pe care l-am avut în ultimele zile.
La finalul anului trecut, Elon Musk a șocat o audiență selectă, revenind la o „viziune” de-a sa din 2024. Acesta a afirmat că acum AI-ul este capabil să genereze direct cod binar, ultra-optimizat pentru o anume platformă, generând binare mai eficiente decât orice compilator. Pentru cei care nu-s din domeniu, voi explica în câteva cuvinte afirmația anterioară. Când faci un program, prima dată scrii codul într-un limbaj similar unuia uman, pe care-l poate înțelege oricine. De exemplu, când cineva va vedea un println!(“Salutare!”); va ști că această instrucțiune trimite mesajul Salutare la consolă. De la acest moment însă, pentru ca programul să fie executat, e nevoie de un program specializat, denumit compilator, care translatează instrucțiunea inteligibilă într-un șir de cifre binare, înțelese și executate de procesorul calculatorului. În cazul nostru, am avea ceva de genul 0F 05 83 97 108 117 s.a.m.d.(cifrele sunt în hexa, primele două reprezentând comanda syscall, iar următoarele sunt codurile caracterelor pe care le trimiți la consolă).
Ce înseamnă ceea ce a afirmat Musk? Este un fel de scoatere totală a omului din zona de programare. Sunt foarte puțini cei care înțeleg așa-numitul cod mașină. Pe la începuturile computing-ului cam asta era norma, dar acum, dată fiind complexitatea programelor dezvoltate, n-ai cum să te mai joci ca om cu codul mașină la nivel de development. E adevărat că sunt experimente interesante, gen MenuetOs, un sistem de operare scris integral în limbaj de asamblare. Ceea ce însă pentru om e o demonstrație de forță și virtuozitate, pentru mașină e o muncă absolut banală.
Dar care poate fi diferența de eficiență? Probabil asta ar fi întrebarea. Ei bine, vă voi exemplifica totul cu MenuetOS. Imaginați-vă că acest sistem de operare împreună cu interfața grafică, diverse playere, jocuri și alte utilitare ocupă doar 1,44 MB, ceva mai puțin decât pachetul de icon-uri al Windows-ului! Ia să luăm ca exemplu un proiect masiv din lumea reală. ERP-ul SAP are peste 400 milioane de linii de cod, iar instalarea sa are nevoie de vreo 400 GB doar pentru fișierele binare. Pentru a funcționa are nevoie de servere cu cel puțin 256 GB RAM, dar cel mai probabil se ajunge pe la 1 TB. O rescriere a sa direct în limbaj de asamblare ar reduce dimensiunea de până la 50 de ori, iar întreaga rulare a sistemului pentru o întreagă multinațională s-ar putea face de pe un laptop comun. Acum înțelegeți scala?
Ce vreau să vă spun este că, la ora actuală suntem foarte aproape de momentul în care omul va fi eliminat din domeniul programării. În primul rând pentru că nu va putea face față și apoi pentru că, efectiv, nu mai poate înțelege nimic. E bine, e rău?
Nu vreau să vă dau mesaje catastrofice, dar înainte de a ne pronunța dacă e bine sau rău, trebuie să înțelegem arhitectura internă a inteligenței artificiale. Până acum, orice program avea o rată de predictibilitate de peste 90%. Adică știam că dacă îi dau să calculeze o sumă, îmi va calcula o sumă. Problemele apăreau de la programatorii neatenți cărora le scăpau tot felul de bug-uri, astfel încât în final puteai avea probleme.
AI-ul e diferit. Codul său, în esență e simplu, dar în realitate nimeni nu știe ce se întâmplă „sub capotă”. Nu mă înțelegeți greșit, din punct de vedere al teoriei se știe bine ce face, dar practic nimeni nu are habar ce se întâmplă în miezul „cutiei negre”. Vă puteți imagina că anumite elemente de comportament – precum sarcasmul – apar uneori din senin, fără ca cineva să fi antrenat modelul în acest sens. De ce se întâmplă asta? Este exact ceea ce vorbeam: limita cutiei negre. Tu știi modelul matematic utilizat în interiorul cutiei, dar, pur și simplu, nu poți monitoriza miliarde de status-uri interioare. Asta înseamnă că rezultatul, în ciuda antrenamentelor și a spectaculozității, este mai mult decât impredictibil, gradul său de predictibilitate în domeniul programării fiind mai jos de 60%. Iar asta va intra în producția standard, fără posibilitatea niciunui de audit.
Au fost numeroase discuții în ceea ce privește elaborarea unui soi de „cod moral” pentru AI, dar industria s-a opus vehement. Deseori se sacrifică totul în favoarea a ceea ce inginerii consideră că e progres. O să fac o paranteză pentru a afirma cu tărie că au fost numeroase momente în istorie în care demența progresistă a inginerilor a condus la catastrofe. Acum avem de-a face cu ceva absolut global, care poate distruge extrem de mult din OM. Nu mă interesează catastrofele fizice, dezastrele care pot afecta infrastructura și chiar orașele. Sunt infinit mai puțin păguboase decât ceea ce se întâmplă atunci când cel distrus este omul.
De aceea v-aș indica să nu vă uitați obligatoriu la elementele care promit să înlocuiască omul. Nu acolo e problema și nu acolo a fost niciodată. Faptul că o muncă e înlocuită de mașină face ca o altă oportunitate să se deschidă pentru om deoarece, în ultimă instanță, mașina lucrează pentru om. Ei bine, de-aici începe adevărata îngrijorare.
Până acum unealta a înlocuit munca fizică a omului, iar omul s-a ocupat cu procesul de gândire(sau, mai bine spus, ceea ce se considera a fi proces de gândire). Acum unealta promite să înlocuiască acea capacitate în care omul se credea suveran, anume gândirea. Ce faci dacă altcineva trebuie să gândească în locul tău? E simplu: devii sclav.
Motiv pentru care devine absolut obligatoriu să înțelegem ce anume e gândirea. Dacă vă imaginați că scrierea de cod e gândirea, atunci vă înșelați. Scrierea de cod e un echivalent mai sărăcuț al traducerii. În esență, programatorul traduce din limbajul curent în limbajul mașinii. Asta e o muncă destul de slab calificată din punct de vedere al capacității de gândire. Presupune doar să știi limbajul de programare, niște tehnici de optimizare și cam atât. La fel, munca pe care o face un contabil. Să fim serioși, e tot un fel de muncă de translator în care cei mai buni se deosebesc de cei mai slabi prin prisma cunoștințelor acumulate. Dacă vă iau pe rând posturile din zona de muncă actuală, putem înțelege că armatele de gulere albe, în realitate, nu prea gândesc. Mulți se vor simți jigniți de afirmația mea, dar asta e. Atâta timp cât o companie poate externaliza cu atâta ușurință departamente întregi unor gâște din centrele de servicii, înseamnă că ceea ce se întâmplă acolo nu presupune mare gândire.
De-aici, dragii mei, trebuie să înțelegeți necesitatea de a te regândi ca om. De la realitatea crâncenă care ne arată limpede că în societatea actuală nu prea mai știm să gândim. AI-ul ne spune o poveste cât se poate de clară: suntem oameni abia atunci când începem să gândim. Reușim să facem asta? Veți spune că AI-ul are o capacitate excepțională de cuprindere, că poate citi tot ce a gândit omul, astfel încât procesele sale cognitive nu au cum să fie inferioare. Asta propovăduiesc cei care caută „piatra filosofală” AGI. Dar realitatea e alta. Nu trebuie să acumulezi masiv pentru a-ți debloca facilitatea de a gândi. Îmi rezonează în minte un nume: Heidegger. Citea enorm, dar nu citea, ci deconstruia(Destruktion). Lectura lui Heidegger era o excavație. Iată și motivul pentru care, uneori, nu-i ajungea un semestru pentru a analiza doar câteva pagini din Aristotel sau un singur poem de Hölderlin. Recitea frecvent Parmenide, Heraclit, Platon și Aristotel, petrecea uimitor de mult timp cu operele lui Friedrich Hölderlin, Rainer Maria Rilke și Georg Trakl. Motivul? Considera că poeții „văd” ceea ce filosofii doar încearcă să explice.
Poate face asta un AI? O să rămâneți surprinși atunci când majoritatea covârșitoare a celor care se vor pronunța asupra întrebării vor spune că da. Eu însă vă spun că NU! Ceea ce fac AI-urile actuale este o simplă iterație bidimensională pe aceeași temă, în aceleași limite. Dacă vreți o comparație plastică, maximul pe care-l poate face un AI actual de bună calitate este acela de a repeta un șablon pre-învățat și de a aplica diverse șabloane situațiilor similare. AGI, cel pe care propovăduitorii săi spun că va înlocui gândirea, de fapt, în cel ami bun caz, va fi echivalentul „spunerii cu alte cuvinte a unei idei pre-învățate”. Știu că sună tradical diferit față de ceea ce susține industria, dar gândirea e cu totul altceva.
Când vi l-am dat ca exemplu pe Heidegger, v-am descris un proces de gândire de cel mai înalt nivel. Într-adevăr, omul simplu pur și simplu nu are cum să ajungă vreodată la astfel de performanțe. Dar am dorit să vă confrunt cu o extremă pentru a vă face să vă gândiți atent și sincer la modul în care gândiți. Aveți un proces de gândire de tipul „dacă, a atunci b, dacă c atunci d?”. Realitatea e că tipul amintit de „gândire” de fapt nu este gândire. Abia în momentul în care înțelegi că gândirea e altceva, abia atunci va fi momentul în care vei începe să te regândești pe tine ca om. Abia atunci vei ajunge la momentul zero al reconstrucției tale.
Sper ca rândurile pe care le-am înșirat aici să se constituie într-o introspecție sinceră pe care o vei începe imediat după ce vei fi terminat articolul de față. Am spus-o de multe ori și o repet: nu vei putea fugi de tehnică nici măcar izolându-te! Este, probabil, cel mai nefast „dar” al Pandorei. Față de alte belele care puteau fi evitate, ceva îmi spune că, în ceea ce privește tehnica, nu ai cum să scapi altfel decât prin confruntare. Probabil va fi cea mai dură cernere din câte s-au văzut până acum și totul dintr-un motiv de-a dreptul banal, anume că omul a uitat să mai gândească.
De aceea, a te redescoperi și reconstrui din punctul de vedre al gândirii reprezintă fundația construirii armurii de care vei avea nevoie în momentul marii confruntări. Începi prin a te gândi la gândire pentru a elimina tot nămolul pe care ți l-a implantat societatea din momentul în care a luat-o pe calea greșită. Și, mai ales, fii conștient că e mai puțin greșit să crezi că totul e greșit decât să crezi că „mare parte din ceea ce vedem și trăim e corect”. Atât pentru azi.
Autor: Dan Diaconu