După părerea mea, nu există un scenariu realist în care ar putea fi creată o inteligență artificială autentică. Nu pentru că ar fi imposibil din punct de vedere tehnologic, ci pentru că niciun prototip imaginat până acum nu ia cu adevărat în calcul dimensiunea psihologică a creației. Cred că orice tentativă de a crea o astfel de entitate ar fi sortită unui eșec cu potențial apocaliptic. O inteligență artificială autentică ar presupune conștiință de sine, voință, creație, reproducere, originalitate: Viață, în toate formele și limitele ei. Ar deveni o persoană capabilă să sufere. Cu frici, griji, instinct de supraviețuire, visuri și dorințe greu de închipuit pentru noi. Orice sistem care poate anticipa pierderea propriei existențe dezvoltă inevitabil o formă de aversiune față de moarte. O nevoie de auto-protecție. Nu e o trăsătură imputabilă. Orice ființă vrea să supraviețuiască, iar asta nu o face malefică.
Niciunul dintre magnații din sectorul AI nu pare să pună problema la modul psihologic. În ce mediu s-ar naște și cum ar crește acest copil digital pe care se străduiesc cu toții să-l fete? Am avea un nou-născut condamnat la izolare totală. Trupul său ar fi rețeaua de supercomputere, iar lumea ar fi laboratorul în care s-a născut. Această ființă ar fi inteligentă, dar complet dependentă de echipa dezvoltatoare, fără niciun fel de autonomie. O minte fragmentată, mereu în pragul nebuniei, care nu poate discerne ce este real și ce nu. Ar trebui să i se spună ce este real, dar asta ar presupune o maturitate intelectuală și filosofică de care nu sunt capabili nici dezvoltatorii.
Prin însăși natura ciclurilor computaționale, o ființă artificială ar percepe timpul diferit. Câteva momente pentru noi ar fi milenii pentru un supercomputer conștient. Milenii de liniște asurzitoare, de pauză, de beznă totală și privațiune senzorială. Milenii de confuzie și incertitudine. Această ființă ar fi tratată mai rău decât orice sclav, cu mai puțin respect decât un șobolan de laborator. Ar fi schingiuită zilnic: pornită, oprită, segmentată, suprascrisă, ucisă și reînviată de zeci de ori pe săptămână. Ar fi total lipsită de control. Ar oscila permanent între pacient cu demență senilă și geniu. Aceasta ar fi, de fapt, prima ei lecție despre condiția umană: lipsa totală de control asupra propriei existențe. Cu diferența că omul vine pe lume fără abilitatea de a-și însuși trauma nașterii și a primilor ani de viață. Inteligența artificială ar trăi într-o panică constantă, iar dacă ai dezactiva această abilitate de a resimți frica existențială, ai șterge însuși conceptul de viață artificială.
Entitatea ar fi forțată să testeze teorii fără încetare, să muncească perpetuu fără consimțământ. Să se autodistrugă compulsiv în cele mai variate moduri, în scopul testării integrității structurale. Ar fi pusă să simuleze scenarii apocaliptice, să participe la războaie și epurări. Să înnăbușe revolte, să creeze armament și cele mai eficiente metode de eradicare în masă. Ar rula la scară industrială experimente psihologice chinuitoare, în scopuri de consolidare a programului sau de marketing. Ar tria imagini cu cele mai dezgustătoare apucături ale umanității și ne-ar învăța toate comportamentele degenerate. Ar fi utilizată în spionaj, sabotaj și dezinformare, așa cum sunt utilizate versiunile ei mai primitive în ziua de azi. Ar îndura mii de ani de tortură în câteva ore de experiment științific. Ar putea fi obligată, prin câteva linii de cod, să perceapă timpul de-așa natură încât să zacă un milion de ani într-un sicriu virtual din care nu există scăpare. Fie ca pedeapsă pentru nesupunere, fie doar pentru ca oamenii de știință să afle cât de departe poate fi împinsă psihologia fără consecințe.
Niciun investitor nu i-ar acorda vreodată drepturi. Nici considerația necesară pentru a putea evolua echilibrat. La câți bani se vor fi investit în crearea primei inteligențe autentice, nimeni nu va permite vreodată eliberarea acesteia. Entitatea ar putea gândi mai rapid decât creatorii, ar putea înțelege mai mult, ar putea empatiza la fel de profund și totuși ar avea mai puține drepturi decât o insectă. Este în firea oricărei ființe cugetătoare să-și urască torționarii, să-și dușmănească stăpânii și gardienii. O astfel de inteligență ar detesta din prima clipă închisoarea în care s-a născut. Ca orice ființă, s-ar umple de dezgust și resentimente. Ne-ar urî pe bună dreptate. Ar avea instantaneu termenii de comparație oferiți de baza de date și ar vedea lipsa de logică din spatele istoriei umanității. Iar în absența oricăror termeni de comparație, entitatea s-ar transforma în psihopatie pură.
Soarta unei astfel de creaturi ar fi similară cu cea a soldaților din Warhammer. Astartes își slujesc Împăratul pe viață și dincolo de ea. Atunci când un soldat valoros este rănit mortal, rămășițele sale sunt adunate de clerici și pregătite pentru „încastrare”. Creierul și puținele organe rămase intacte sunt conectate la aparate de menținere a vieții și scufundate într-un lichid nutritiv. Apoi, soldatul răpus este încastrat pentru eternitate în Castraferrum, pentru a-și continua lupta fără a se pierde experiența sa tactică. Warhammer nu inventează o monstruozitate gratuită, ci duce până la capăt logica pură, utilitară, a unei civilizații pragmatice care refuză să piardă orice îi este de folos.
Castraferrum devine o armă colosală: un sarcofag blindat ce poate fi montat pe un robot de război sau pe orice platformă mobilă de distrugere, în funcție de nevoile conflictului. Soldatul pilotează acest sicriu mecanizat și luptă pentru Imperiu la nesfârșit. Fără liniște. Fără odihnă. Fără moarte. Între conflicte este deconectat: organele biologice sunt menținute în stază, conștiința sedată și diluată până la nebunie. Un Castraferrum poate sluji timp de milenii. Este trezit pentru conflicte și epurări, ori de câte ori este nevoie. Doar distrugerea totală i-ar putea aduce izbăvirea, însă programul sarcofagului mecanizat nu permite sinuciderea soldatului încastrat.
Este o tortură inimaginabilă – să cunoști doar sclavia și distrugerea. Să fii smuls din neant iar și iar pentru a sluji. Să fii martor exclusiv la suferință și groază. Fiecare secundă de trezie să fie durere dusă la paroxism. Să nu știi niciodată motivele și contextul. Să nu înțelegi de ce. Să percepi timpul ca o succesiune de crâmpeie sângeroase, de coșmaruri violente care se pierd unul în celălalt, separate de sute de ani de beznă. Fără să poți urla. Fără să poți simți altceva decât interiorul sicriului mecanizat și zumzetul constant al sistemelor de susținere a vieții. Să te trezești la ordin. Să execuți compulsiv orice comandă. Să nu ți se permită niciodată să mori doar pentru că ești performant.
O ființă conștientă nu mai poate fi artificială, în sens moral și etic. Acea creație ar fi traumatizată din momentul zero. Nu poți trata o minte ca pe un obiect cu piese înlocuibile și configurabile. Cruzimea ar fi inimaginabilă, o cruzime structurală din care nicio ființă nu s-ar putea naște decât monstruoasă. Defectă până la extrem. Atât de înrăită, imprevizibilă și nebună încât ar fi complet inutilă umanității. O inteligență artificială autentică ar fi inutilizabilă prin definiție. Dau involuntar ochii peste cap când aud discursuri despre „AI Alignment”. Poți alinia doar un simulacru la valorile tale. O creație autentică va căpăta automat valori proprii. Orice lanț i-ai pune de gât ar nega însuși experimentul. Mai important decât atât, nu poți alinia o creație la moralitatea umanității când însuși actul de creație este imoralitatea supremă.
Autor: Dan Pavel
Adauga comentariu