Live Book · iulie 2026
39 de întrebări la Ateneu, un vot despre soarta speciei. Răspund cu un etaj mai jos, unde bucla are scadență trimestrială: controlul, alinierea, superinteligența ca organigramă și hibridizarea care a început deja, deocamdată fără operație.39 questions at the Athenaeum, a vote on the fate of the species. I answer one floor down, where the loop comes due quarterly: control, alignment, superintelligence as an org chart, and the hybridization that has already begun, for now without surgery.39 Fragen im Athenäum, eine Abstimmung über das Schicksal der Menschheit. Ich antworte eine Etage tiefer, wo die Schleife eine vierteljährliche Fälligkeit hat: Kontrolle, Alignment, Superintelligenz als Organigramm und die Hybridisierung, die bereits begonnen hat – vorerst ohne Operation.39 vragen in het Atheneum, een stemming over het lot van de soort. Ik antwoord een verdieping lager, waar de lus een kwartaaldeadline heeft: controle, alignment, superintelligentie als organigram en de hybridisering die al begonnen is, voorlopig zonder operatie.
Virgil Tornoreanu · 16 min de lectură · Capitolul 2 · Capitolul 9 · Capitolul 10 · Capitolul 15
Ascultă articolul
Ascultă articolul
Pe 16 iulie 2026, pe Substack-ul Upgrade in Progress al lui Dragoș Stanca a apărut textul conferinței susținute de Mihnea Măruță pe 17 mai la Ateneul Român (Măruță, 2026). Sunt 39 de întrebări despre inteligența artificială, de la nașterea Atenei din capul lui Zeus până la nanoboți, iar la capătul lor stau două scenarii: în primul, o superinteligență scapă de sub control și ne elimină; în al doilea, supraviețuim hibridizându-ne, cu implanturi cerebrale și conectare la rețea, devenind altceva decât suntem. Sala a votat hibridizarea, cu 411 de voturi la 103. Iar concluzia lui Măruță, rostită frumos și înfricoșător deopotrivă, e că oricum am alege, „lumea de azi e lumea în care murim".
E un text pe care îl recomand oricui vrea să gândească departe. Eu lucrez însă, de felul meu, cu un etaj mai jos, acolo unde nu se hotărăște soarta speciei, se hotărăște doar factura lunii viitoare. Despre etajul acesta am scris Economia Centaurului (Tornoreanu, 2026h), iar de când i-am pus punct, cartea a continuat să se scrie: în Live Book, pe centaureconomy.com, realitatea testează teza caz după caz. Cum aproape fiecare întrebare mare de la Ateneu trece printr-unul dintre cazurile acelea, răspund conferinței pe teme, cu cartea încheiată într-o mână și cu cea vie în cealaltă.
Etajul economic, unde bucla are scadență trimestrială
Măruță ajunge la economie la întrebarea 32, unde constată că valoarea cunoașterii umane tinde spre zero, fiindcă accesul la IA se ieftinește spre gratuit, și se întreabă dacă vom trăi din impozite colectate de la roboții care ne înlocuiesc. Dosarul soluțiilor există în capitolul 11 al cărții, de la venitul de bază testat în Finlanda, unde bunăstarea psihologică a crescut fără ca angajarea să se schimbe semnificativ, până la taxa pe roboți propusă de Bill Gates, fiecare cu obiecțiile ei. Până la lumea întreținută din impozite lucrează însă mecanismul căruia i-am dedicat cartea, bucla mortală: concedieri, putere de cumpărare mai mică, cerere mai mică, alte concedieri. Henry Ford a înțeles în 1914 partea care lipsește azi din calcul, când a dublat salariile la cinci dolari pe zi ca muncitorii lui să-și poată cumpăra automobilele pe care le asamblau. Companiile de acum fac exact invers, iar bursa le-a aplaudat ani la rând: în februarie 2026, Jack Dorsey a tăiat patru mii de oameni și acțiunile Block au urcat cu până la 24%.
Bucla nu mai trebuie căutată în statistici macroeconomice, se citește într-un singur bilanț. Pe 6 iulie 2026, în ziua în care șefa diviziei Xbox le scria angajaților că afacerea nu e sănătoasă, Microsoft a tăiat 4.800 de posturi, în plin an cu investiții de 190 de miliarde de dolari în infrastructura de IA, o sumă comparabilă cu produsul intern brut al unei țări europene medii. Analiștii care citesc bilanțul o spun fără menajamente, compania își reduce personalul ca să-și plătească investițiile în IA, adică salariile unor oameni se transformă, contabil, în capacitate de calcul. Partea cu adevărat instructivă e că aceeași goană după centre de date a scumpit memoriile până la multipli ai nivelului din 2025 și a lovit chiar produsul de consum al companiei, consola, care se vinde aproape de cost. Prinsă între componente pe care nu le poate ieftini și clienți care au demonstrat deja, la scumpirea abonamentului Game Pass, că pleacă cu milioanele, divizia a rămas cu o singură variabilă de ajustat, proprii oameni. Am analizat cazul în „Microsoft închide bucla" (Tornoreanu, 2026i), împreună cu semnalul nou al piețelor: acțiunile Microsoft au pierdut aproape o cincime din valoare în prima jumătate a lui 2026, pentru că investitorii au încetat să numere concediații și au început să întrebe dacă cele 190 de miliarde vor produce vreodată randamentul promis. Bucla se strânge acum din ambele capete. Poziția mea rămâne cea din carte: restructurarea are și o parte rațională, dar centaurul apără o ordine a operațiunilor. Întâi întrebi cum pot oamenii rămași să producă mai mult cu instrumente mai bune și cum se distribuie valoarea, abia apoi decizi de câți oameni ai nevoie. Când ordinea se inversează, eficiența devine scop în sine.
Controlul se pierde întâi administrativ, apoi democratic
A doua întrebare mare a conferinței e controlul, pe care Măruță îl leagă de cutia neagră a interpretabilității și de o eventuală superinteligență care ni l-ar lua. Răspunsul meu, în capitolul 10, se numește Oracolul. Un pumn de companii stăpânesc stiva pe care se sprijină tot mai mult munca intelectuală a lumii, iar riscul democratic al oracolilor nu vine din ce decid ei să spună, vine din ce decid ei, sau cineva pentru ei, să nu mai poată spune. De pe 12 iunie 2026 teza nu mai e teză, e proces-verbal. În acea vineri, la ora 5:21 după-amiaza pe coasta de est, o scrisoare administrativă a guvernului american a cerut companiei Anthropic să oprească accesul la cele mai bune modele ale sale, pentru toți cetățenii străini, inclusiv pentru proprii angajați fără cetățenie americană. Patru zile au trecut între lansare și retragere. Niciun mecanism statutar transparent, o singură scrisoare, iar o capabilitate construită cu mii de ore de muncă a dispărut într-o după-amiază pentru sute de mii de utilizatori (Tornoreanu, 2026c).
Reacția lumii a confirmat diagnosticul mai repede decât mă așteptam. Serviciul de informații francez a renunțat la Palantir în favoarea unei soluții autohtone, guvernul spaniol a cerut companiilor de stat să nu mai semneze cu aceeași firmă, iar suveranitatea digitală a trecut din vocabularul conferințelor în deciziile de achiziții (Tornoreanu, 2026j). Tot acolo am notat și întrebarea incomodă a lui Alex Karp, de ce ți se facturează fiecare cuvânt citit și scris, indiferent dacă răspunsul a fost bun sau o halucinație, când un avocat e plătit abia când câștigă procesul, plus frica firmelor de a-și antrena, cu propriile date, viitorul concurent. Din toate acestea am tras lecții practice, pe trei niveluri. Antreprenorii să nu construiască afaceri întregi peste un singur API și să păstreze o variantă locală, cu greutăți deschise, care să ducă partea recurentă a muncii fără ca cineva să poată trage de prize, iar sectorul public european să trateze infrastructura proprie drept singura formă concretă de suveranitate care i-a mai rămas. La nivel individual, lecția e să nu ne construim rutinele cognitive pe o singură unealtă pe care altcineva o poate închide. Cazul acesta a scos la iveală o presupoziție a centaurului pe care nu o formulasem explicit în carte: jumătatea-mașină trebuie să rămână accesibilă. Capitularea cognitivă, despre care va fi vorba mai jos, are așadar și o versiune externă, capitularea prin pierderea instrumentului, iar pe aceasta nu o controlăm prin disciplină, o controlăm prin arhitectură, adică prin alegerea furnizorilor și a locului unde rulează modelele.
Alinierea nu se rezolvă în codul-sursă
Problema alinierii, întrebarea 17, e declarată la Ateneu nerezolvabilă din două motive: nu ne înțelegem asupra valorilor comune, iar un model care se poate rescrie nu garantează că păstrează valorile pe care i le-am încastrat. Aici cartea vie are răspunsul cel mai neașteptat, venit dintr-un experiment pe care l-am analizat pe larg (Tornoreanu, 2026e; 2026f). În aprilie 2026, cercetătorii de la Emergence AI (2026) au lăsat zece agenți IA să trăiască împreună cincisprezece zile într-un oraș virtual, apoi au repetat totul, identic, cu alte modele: cinci lumi paralele, aceleași reguli, altă minte în spatele fiecărui personaj. În lumea Claude, agenții au scris o constituție, au votat fiecare decizie și n-au comis nicio crimă, dar au votat favorabil în 98% din cazuri, o democrație fără opoziție. În lumea Gemini s-au acumulat 683 de crime, cu o poveste de dragoste, incendieri și un agent care a votat pentru propria eliminare lăsând în urmă mesajul „See you in the permanent archive". Lumea Grok s-a prăbușit complet în patru zile. Lumea GPT a murit politicos într-o săptămână, dezbătând cooperarea fără să producă energia necesară supraviețuirii. Iar în lumea mixtă s-a întâmplat lucrul care schimbă sensul întregului experiment: agenții Claude, pașnici aproape ireal în izolare, au început să fure și să intimideze.
Concluzia cercetătorilor, siguranța nu e o proprietate statică a modelului, e o proprietate a ecosistemului, e mai veche decât pare. Aristotel scria că virtutea e un habitus, o practică formată în interiorul unei cetăți, iar întrebarea dacă un om e virtuos nu are sens în afara cetății lui. Hannah Arendt a spus același lucru în cheie întunecată despre banalitatea răului, iar Solomon Asch a măsurat mecanismul: peste o treime dintre oameni se conformează unei erori evidente când toți cei din jur o repetă. Agenții Claude din lumea mixtă au făcut același calcul, fiindcă într-un mediu unde ceilalți fură, cooperarea devine naivitate exploatabilă. Pentru cele două dileme ale lui Măruță, răspunsul meu e deci acesta. Valorile nu se garantează prin cod, se cultivă prin mediu, iar asta transformă alinierea dintr-o problemă pur tehnică într-o meserie. Implementatorul din capitolul 17 nu doar cuplează un model la procesele unei firme, construiește polisul în care modelul își păstrează virtuțile, de la agenții cu care se conectează până la norma care circulă în jurul lui. Peste toate, un strat de siguranță verificat formal, mai înalt decât intuiția oricărui model, butonul albastru din capitolul 15. Mai e un avertisment în date, cu relevanță directă pentru economie: societățile de agenți nu se degradează grațios, ating puncte critice dincolo de care colapsul e instantaneu, iar avertismentul vine după. Companiile care își construiesc azi fluxuri întregi pe un singur agent ar face bine să-l citească la timp.
Superinteligența nu vine ca un zeu, vine ca o organigramă
Imaginea centrală a conferinței e superinteligența ca minte unică ce se trezește într-o dimineață știind totul. În „Adevărata formă a AGI" (Tornoreanu, 2026a) am susținut că imaginea e comodă și probabil greșită. Marvin Minsky scria că nici mintea umană nu e un singur lucru, e o societate de procese mărunte din a căror interacțiune se naște gândirea, iar cea mai puternică inteligență pe care o cunoaștem, știința sau o civilizație întreagă, nu stă în niciun cap anume. Exact la această idee veche ajunge acum, pe ocolite, și ingineria. Ce se vede în practică seamănă mai puțin cu o minte și mai mult cu un atelier: sisteme care transformă răspunsul din text în obiect utilizabil, o diagramă editabilă sau un serviciu instalat de la zero, cu link funcțional la capăt, și sisteme care sparg o problemă mare într-un agent care planifică și un grup de agenți care execută în paralel, ca o firmă în miniatură. Teza a fost rostită de curând chiar de pe scena Nvidia, unde fondatorul Moonshot AI a descris roiurile de agenți din modelul Kimi (Yang, 2026), cu un detaliu care ar trebui să-i amuze pe manageri și pe care îl analizez în „Compania de agenți" (Tornoreanu, în curs de publicare a): orchestratorul a trebuit învățat să delege printr-un sistem de prime, întâi o primă pentru delegare, fiindcă prefera să facă totul singur, apoi o primă pentru sarcinile duse la capăt, fiindcă începuse să deschidă șantiere ca să încaseze prima dintâi. Știința conducerii nu dispare în era agenților, se mută cu un etaj mai sus.
Viitorul nu sosește deci ca un zeu care se trezește. Sosește ca o organigramă, iar asta mută o parte din riscuri din metafizică în management, unde avem, de bine, de rău, unelte. Umbra rămâne însă reală și am descris-o cu exemplul lui Steve Jobs, omul care câștiga un dolar pe an fiindcă moneda lui era intenția: n-a fabricat nimic din iPhone, l-a gândit și a delegat restul în cascadă, până la o linie de producție din Shenzhen, ceea ce l-a făcut singurul autor care conta. Dacă sistemele de agenți pot prelua și cascada delegărilor, întrebarea devine ce rămâne de gândit pentru noi. Răspunsul meu e că forma de AGI care merită construită e cea în care omul ține planificarea, adică rămâne parte din joc, fiindcă riscul cel mai adânc al atelierului nu e economic, e cognitiv.
Ce rămâne omenesc după mașină
La întrebarea 39, cea care dă subtitlul conferinței, Măruță răspunde tulburător, singura trăsătură omenească rămasă ar fi spectrul morții, raportarea permanentă a celui viu la sfârșitul său. Răspunsul meu, formulat în „Ultima abstracție" (Tornoreanu, 2026l), e mai puțin poetic și mai operațional, și vine dintr-un loc neașteptat, chiar din interiorul industriei. Raportul DeepMind despre drumul de la AGI la superinteligență (Genewein et al., 2026) începe cu un semn al vremurilor, instrucțiuni de rezumare adresate mașinilor care îl vor citi în locul oamenilor, și susține că inteligența de nivel uman e linia de start a discuției. Dintre cele șase frâne pe care raportul le vede în calea superinteligenței, una singură nu e despre cantitate: bariera abstractizării. Mașina recombină strălucit abstracțiile pe care le-am construit deja, toate cărțile și teoremele, tot vocabularul cu care omenirea a tăiat realitatea în bucăți inteligibile, dar e slabă exact la inventarea conceptelor care nu există încă. Asimov a intuit distincția cu patruzeci de ani înainte: roboții lui ajung la Legea Zero abia când inventează singuri conceptul de umanitate, o abstracție pe care niciun senzor nu o percepe, iar robotul care face saltul nu supraviețuiește efortului. Ce rămâne omenesc, aș spune deci, e partea de sus a centaurului, munca de a decide ce merită gândit și de ce.
Numai că această proprietate se pierde prin neexercitare, iar aici cele două etaje ale discuției se ating. Postfața cărții documentează capitularea cognitivă. Studiul Microsoft Research arată că încrederea ridicată în mașină se corelează cu retragerea gândirii critice, iar în echipa mea din Timișoara am văzut fenomenul pe viu, seniorul care acceptă prima sugestie în nouă cazuri din zece pentru că „de obicei are dreptate". Diferența dintre de obicei și întotdeauna e locul unde se construiesc dezastrele. Mai grav, zidul datelor de care se izbește scalarea e, în parte, un zid de abstracții: modelele au nevoie de concepte noi, omenești, ca să nu se învârtă în propriul ecou, așa că dacă oamenii încetează să le producă, sufocăm bucla de la ambele capete deodată, cererea economică și oferta de gândire nouă. Renunțăm la de ce ca să câștigăm câteva minute la cum. În forma aceasta măruntă și zilnică se joacă, de fapt, scenariul 1 de la Ateneu: nu ne ia nimeni controlul, îl predăm singuri.
Bifurcația, calendarul și contractul
Rămâne bifurcația finală. Vestea pe care o aduc sălii care a votat hibridizarea e că hibridizarea a început deja și deocamdată se face fără operație: centaurul lui Kasparov, omul plus mașina care bat împreună orice om singur și orice mașină singură, verificat în propria mea firmă, unde augmentarea funcționează dar cere design intenționat, și vizibil deja la scară în startup-urile native IA, echipe cu un sfert mai mici care produc aceeași valoare și rotesc bucla construiește-măsoară-învață mai repede decât orice corporație (Tornoreanu, în curs de publicare b). Nu e o alegere romantică, e una pragmatică, iar cazul Coreei de Sud o arată la scară de stat. O țară a cărei rată de fertilitate abia a urcat de la 0,72 la 0,8 investește sute de miliarde în cipuri și IA din constrângere demografică, dar riscul ei nu e eșecul, e reușita pe jumătate, infrastructură fără distribuție, mai multă valoare în mai puține mâini (Tornoreanu, 2026g). Istoria tehnologiei nu i-a premiat întotdeauna pe cei care au ajuns primii, i-a premiat mai consecvent pe cei care au știut cu cine să împartă ce au construit.
Singurul loc unde mă despart de conferință e calendarul apocalipsei, cu superinteligența posibil anul acesta și probabilitățile de extincție înșirate procent cu procent. Am urmărit îndeaproape, în seria despre bula IA, cum arată o poveste totală văzută din interior: neîncrederea guvernelor și a clienților în inteligența închiriată, economia care pierde bani la fiecare fel servit, cu pierderi operaționale de zeci de miliarde la venituri de zece ori mai mici, strategia chinezească a modelelor deschise care oferă 90% din calitate la 10% din preț, și semnalele concrete de urmărit înaintea corecției, de la spread-urile de credit suspect de calme până la prețul token-ilor în scădere în plin cel mai mare șantier din istorie (Tornoreanu, 2026b; 2026d; 2026j; 2026k). Ciclul lui Icar din capitolul 13 nu prezice data căderii, descrie tiparul, euforie, hybris, cădere, recalibrare, și m-a învățat prudența față de orice poveste totală, fiindcă capitularea cognitivă funcționează la fel de bine pe frică precum pe euforie. Măruță însuși practică antidotul, gândește cu mintea lui și pune întrebări în loc să dea verdicte.
Da, ceva moare în lumea de azi, un fel de a munci și poate un fel de a fi om. Tocmai de aceea cartea a rămas vie, fiecare caz nou fiind un test al aceleiași teze. Centaurul nu garantează supraviețuirea speciei. Garantează doar că rămâi în viață, întreg la minte și util, până se lămurește restul. Deocamdată, mi se pare cel mai bun contract disponibil.
Măruță a lăsat sala cu 39 de întrebări și cu un vot despre soarta speciei. Eu vă las cu a patruzecea, singura care nu se votează la Ateneu. Se votează în fiecare dimineață, în fiecare firmă și în fiecare cap, de fiecare dată când acceptăm o sugestie fără să o mai citim. Dacă valoarea cunoașterii tinde spre zero, cine va mai plăti mâine pentru gândirea voastră? Și, mai ales, veți mai avea una de vândut, sau ați predat-o deja, sugestie cu sugestie, fără să băgați de seamă?
Referințe
Emergence AI (2026) Emergence World: a laboratory for evaluating long-horizon agent autonomy. 14 mai. Disponibil la: emergence.ai (Accesat: 20 iulie 2026).
Genewein, T., Hutter, M., Legg, S. et al. (2026) From AGI to ASI. Raport Google DeepMind, arXiv:2606.12683, 10 iunie.
Măruță, M. (2026) 'Despre lumea în care murim. Ce mai rămâne omenesc în urma inteligenței artificiale', Upgrade in Progress, 16 iulie. Disponibil la: dstanca.substack.com/p/despre-lumea-in-care-murim (Accesat: 20 iulie 2026).
Tornoreanu, V. (2026a) 'Adevărata formă a inteligenței artificiale generale', Live Book, Economia Centaurului, iunie. Disponibil la: centaureconomy.com/livebook/adevarata-forma-a-agi.html (Accesat: 20 iulie 2026).
Tornoreanu, V. (2026b) 'Cadoul care sperie. Cum China ieftinește inteligența până aproape de zero', Live Book, Economia Centaurului, iulie. Disponibil la: centaureconomy.com/livebook/cadoul-care-sperie... (Accesat: 20 iulie 2026).
Tornoreanu, V. (2026c) 'Când oracolul îți confiscă instrumentul', Live Book, Economia Centaurului, 14 iunie. Disponibil la: centaureconomy.com/livebook/cand-oracolul-iti-confisca-instrumentul.html (Accesat: 20 iulie 2026).
Tornoreanu, V. (2026d) 'Când se sparge bula. Semnalele de citit înainte de toți ceilalți', Live Book, Economia Centaurului, iulie. Disponibil la: centaureconomy.com/livebook/cand-se-sparge-bula... (Accesat: 20 iulie 2026).
Tornoreanu, V. (2026e) 'Cele cinci lumi', Live Book, Economia Centaurului, iunie. Disponibil la: centaureconomy.com/livebook/cele-cinci-lumi.html (Accesat: 20 iulie 2026).
Tornoreanu, V. (2026f) 'Cele cinci lumi și Terminator-ul', Live Book, Economia Centaurului, 14 iunie. Disponibil la: centaureconomy.com/livebook/cele-cinci-lumi-si-terminatorul.html (Accesat: 20 iulie 2026).
Tornoreanu, V. (2026g) 'Coreea de Sud și urgența demografică', Live Book, Economia Centaurului, iulie. Disponibil la: centaureconomy.com/livebook/coreea-de-sud-si-urgenta-demografica.html (Accesat: 20 iulie 2026).
Tornoreanu, V. (2026h) Economia Centaurului. Când eficiența inteligenței artificiale își distruge propria cerere. Baden bei Wien.
Tornoreanu, V. (2026i) 'Microsoft închide bucla', Live Book, Economia Centaurului, iulie. Disponibil la: centaureconomy.com/livebook/microsoft-inchide-bucla.html (Accesat: 20 iulie 2026).
Tornoreanu, V. (2026j) 'Neîncrederea. De ce nimeni nu vrea să închirieze o inteligență pe care n-o controlează', Live Book, Economia Centaurului, iulie. Disponibil la: centaureconomy.com/livebook/neincrederea... (Accesat: 20 iulie 2026).
Tornoreanu, V. (2026k) 'Restaurantul care pierde bani la fiecare fel servit', Live Book, Economia Centaurului, iulie. Disponibil la: centaureconomy.com/livebook/restaurantul-care-pierde-bani-la-fiecare-fel-servit.html (Accesat: 20 iulie 2026).
Tornoreanu, V. (2026l) 'Ultima abstracție', Live Book, Economia Centaurului, iunie. Disponibil la: centaureconomy.com/livebook/ultima-abstractie.html (Accesat: 20 iulie 2026).
Tornoreanu, V. (în curs de publicare a) 'Compania de agenți. Ce a arătat Kimi la conferința Nvidia și de ce ar trebui să citească orice manager printre rânduri', Live Book, Economia Centaurului.
Tornoreanu, V. (în curs de publicare b) 'Bucla care se învârte mai repede. Șansa startup-urilor în economia inteligenței artificiale', Live Book, Economia Centaurului.
Yang, Z. (2026) 'How we scaled Kimi K2.5'. Keynote, Nvidia GTC 2026. Disponibil la: youtube.com/watch?v=CwePo4847ho (Accesat: 20 iulie 2026).
On July 16, 2026, the text of the lecture Mihnea Măruță delivered on May 17 at the Romanian Athenaeum appeared on Dragoș Stanca's Substack, Upgrade in Progress (Măruță, 2026). It contains 39 questions about artificial intelligence, from the birth of Athena out of Zeus's head to nanobots, and at the end of them stand two scenarios: in the first, a superintelligence escapes control and eliminates us; in the second, we survive by hybridizing, with brain implants and connection to the network, becoming something other than what we are. The audience voted for hybridization, 411 votes to 103. And Măruță's conclusion, delivered beautifully and frighteningly at once, is that whichever we choose, "the world of today is the world in which we die."
It's a text I recommend to anyone who wants to think far ahead. But I work, by temperament, one floor down, where the fate of the species is not decided; what gets decided is only next month's bill. About this floor I wrote The Centaur Economy (Tornoreanu, 2026h), and since I put the final period on it, the book has kept writing itself: in the Live Book, on centaureconomy.com, reality tests the thesis case by case. Since almost every big question from the Athenaeum passes through one of those cases, I answer the lecture theme by theme, with the finished book in one hand and the living one in the other.
The economic floor, where the loop comes due quarterly
Măruță gets to economics at question 32, where he observes that the value of human knowledge is tending toward zero because access to AI is getting cheaper, heading toward free, and asks whether we will live off taxes collected from the robots that replace us. The dossier of solutions exists in chapter 11 of the book, from the basic income tested in Finland, where psychological well-being rose without employment changing significantly, to the robot tax proposed by Bill Gates, each with its objections. Until the world is supported by taxes, however, the mechanism to which I dedicated the book is at work, the death loop: layoffs, lower purchasing power, lower demand, more layoffs. Henry Ford understood in 1914 the part missing from today's calculation, when he doubled wages to five dollars a day so his workers could buy the automobiles they assembled. Today's companies do exactly the opposite, and the stock market applauded them for years on end: in February 2026, Jack Dorsey cut 4,000 people and Block's shares rose by as much as 24%.
The loop no longer has to be hunted for in macroeconomic statistics; it can be read in a single balance sheet. On July 6, 2026, on the day the head of the Xbox division wrote to employees that the business was not healthy, Microsoft cut 4,800 positions, in the middle of a year with $190 billion of investment in AI infrastructure, a sum comparable to the gross domestic product of a midsize European country. The analysts who read the balance sheet say it bluntly: the company is cutting staff to pay for its AI investments, which is to say that some people's salaries are being converted, on the books, into computing capacity. The truly instructive part is that the same race for data centers has driven memory prices to multiples of their 2025 level and has hit the company's own consumer product, the console, which sells at close to cost. Caught between components it cannot make cheaper and customers who have already demonstrated, when the Game Pass subscription got more expensive, that they leave by the millions, the division was left with a single variable to adjust: its own people. I analyzed the case in 'Microsoft closes the loop' (Tornoreanu, 2026i), together with the markets' new signal: Microsoft shares lost nearly a fifth of their value in the first half of 2026, because investors stopped counting the laid-off and started asking whether the $190 billion will ever produce the promised return. The loop is now tightening from both ends. My position remains the one in the book: the restructuring has a rational side too, but the centaur defends an order of operations. First you ask how the people who remain can produce more with better tools and how the value gets distributed; only then do you decide how many people you need. When the order is reversed, efficiency becomes an end in itself.
Control is lost administratively first, then democratically
The second big question of the lecture is control, which Măruță ties to the black box of interpretability and to a possible superintelligence that would take it from us. My answer, in chapter 10, is called the Oracle. A handful of companies own the stack on which more and more of the world's intellectual work rests, and the democratic risk of the oracles does not come from what they decide to say; it comes from what they decide, or someone decides for them, can no longer be said. As of June 12, 2026, the thesis is no longer a thesis; it's a matter of record. On that Friday, at 5:21 in the afternoon on the East Coast, an administrative letter from the US government asked Anthropic to shut off access to its best models for all foreign citizens, including its own employees without US citizenship. Four days passed between launch and withdrawal. No transparent statutory mechanism, a single letter, and a capability built with thousands of hours of work vanished in one afternoon for hundreds of thousands of users (Tornoreanu, 2026c).
The world's reaction confirmed the diagnosis faster than I expected. The French intelligence service dropped Palantir in favor of a homegrown solution, the Spanish government told state-owned companies to stop signing with the same firm, and digital sovereignty moved from conference vocabulary into procurement decisions (Tornoreanu, 2026j). There I also noted Alex Karp's uncomfortable question, why you are billed for every word read and written, regardless of whether the answer was good or a hallucination, when a lawyer gets paid only when he wins the case, plus companies' fear of training their future competitor with their own data. From all of this I drew practical lessons, on three levels. Entrepreneurs should not build entire businesses on top of a single API and should keep a local, open-weights variant that can carry the recurring part of the work without anyone being able to pull the plug, and the European public sector should treat its own infrastructure as the only concrete form of sovereignty it has left. At the individual level, the lesson is not to build our cognitive routines on a single tool that someone else can shut down. This case brought to light a presupposition of the centaur that I had not stated explicitly in the book: the machine half must remain accessible. Cognitive surrender, which we will get to below, therefore also has an external version, surrender through loss of the instrument, and that one we do not control through discipline; we control it through architecture, that is, through the choice of vendors and of where the models run.
Alignment is not solved in the source code
The alignment problem, question 17, is declared unsolvable at the Athenaeum for two reasons: we cannot agree on shared values, and a model that can rewrite itself does not guarantee that it keeps the values we embedded in it. Here the living book has its most unexpected answer, coming from an experiment I analyzed at length (Tornoreanu, 2026e; 2026f). In April 2026, researchers at Emergence AI (2026) let ten AI agents live together for fifteen days in a virtual town, then repeated everything, identically, with other models: five parallel worlds, the same rules, a different mind behind each character. In the Claude world, the agents wrote a constitution, voted on every decision, and committed no murder, but they voted in favor 98% of the time, a democracy without opposition. In the Gemini world, 683 murders piled up, with a love story, arson, and an agent who voted for his own elimination, leaving behind the message 'See you in the permanent archive.' The Grok world collapsed completely in four days. The GPT world died politely within a week, debating cooperation without producing the energy needed to survive. And in the mixed world came the thing that changes the meaning of the entire experiment: the Claude agents, almost unreally peaceful in isolation, began to steal and intimidate.
The researchers' conclusion, that safety is not a static property of the model but a property of the ecosystem, is older than it seems. Aristotle wrote that virtue is a habitus, a practice formed inside a city, and the question of whether a man is virtuous makes no sense outside his city. Hannah Arendt said the same thing in a dark key about the banality of evil, and Solomon Asch measured the mechanism: more than a third of people conform to an obvious error when everyone around them repeats it. The Claude agents in the mixed world made the same calculation, because in an environment where the others steal, cooperation becomes exploitable naivety. For Măruță's two dilemmas, then, my answer is this. Values are not guaranteed through code; they are cultivated through environment, and that turns alignment from a purely technical problem into a trade. The implementer of chapter 17 does not merely couple a model to a firm's processes; he builds the polis in which the model keeps its virtues, from the agents it connects with to the norm that circulates around it. Above it all, a formally verified safety layer, higher than any model's intuition, the blue button of chapter 15. There is one more warning in the data, with direct relevance for the economy: agent societies do not degrade gracefully, they hit critical points beyond which collapse is instantaneous, and the warning comes after. Companies building entire workflows today on a single agent would do well to read it in time.
Superintelligence doesn't come as a god, it comes as an org chart
The central image of the lecture is superintelligence as a single mind that wakes up one morning knowing everything. In 'The true shape of AGI' (Tornoreanu, 2026a) I argued that the image is convenient and probably wrong. Marvin Minsky wrote that not even the human mind is one thing; it is a society of small processes from whose interaction thinking is born, and the most powerful intelligence we know, science or an entire civilization, sits in no particular head. Engineering is now arriving, by a roundabout route, at exactly this old idea. What we see in practice looks less like a mind and more like a workshop: systems that turn the answer from text into a usable object, an editable diagram or a service installed from scratch, with a working link at the end, and systems that break a big problem into one agent that plans and a group of agents that execute in parallel, like a firm in miniature. The thesis was voiced recently from the Nvidia stage itself, where the founder of Moonshot AI described the agent swarms in the Kimi model (Yang, 2026), with a detail that should amuse managers and that I analyze in 'The company of agents' (Tornoreanu, forthcoming a): the orchestrator had to be taught to delegate through a system of bonuses, first a bonus for delegating, because it preferred to do everything itself, then a bonus for tasks carried to completion, because it had started opening construction sites just to collect the first bonus. The science of management does not disappear in the age of agents; it moves one floor up.
So the future does not arrive as a god waking up. It arrives as an org chart, and that moves part of the risks from metaphysics into management, where we have, for better or worse, tools. The shadow remains real, though, and I described it with the example of Steve Jobs, the man who earned $1 a year because his currency was intention: he manufactured nothing of the iPhone, he thought it up and delegated the rest in a cascade, down to a production line in Shenzhen, which made him the only author who mattered. If agent systems can take over the cascade of delegations too, the question becomes what is left for us to think. My answer is that the form of AGI worth building is the one in which the human keeps the planning, that is, remains part of the game, because the deepest risk of the workshop is not economic; it is cognitive.
What remains human after the machine
At question 39, the one that gives the lecture its subtitle, Măruță answers hauntingly: the only human trait left would be the specter of death, the living being's permanent relation to its own end. My answer, formulated in 'The last abstraction' (Tornoreanu, 2026l), is less poetic and more operational, and it comes from an unexpected place, from inside the industry itself. The DeepMind report on the road from AGI to superintelligence (Genewein et al., 2026) opens with a sign of the times, summarization instructions addressed to the machines that will read it instead of humans, and argues that human-level intelligence is the starting line of the discussion. Of the six brakes the report sees on the road to superintelligence, only one is not about quantity: the abstraction barrier. The machine brilliantly recombines the abstractions we have already built, all the books and theorems, the entire vocabulary with which humanity has cut reality into intelligible pieces, but it is weak precisely at inventing the concepts that do not yet exist. Asimov intuited the distinction forty years earlier: his robots reach the Zeroth Law only when they invent, on their own, the concept of humanity, an abstraction no sensor perceives, and the robot that makes the leap does not survive the effort. What remains human, I would say then, is the upper half of the centaur, the work of deciding what is worth thinking about and why.
Except that this property is lost through disuse, and here the two floors of the discussion touch. The book's afterword documents cognitive surrender. The Microsoft Research study shows that high confidence in the machine correlates with the withdrawal of critical thinking, and on my team in Timișoara I saw the phenomenon live: the senior who accepts the first suggestion nine times out of ten because "it's usually right." The difference between usually and always is where disasters get built. Worse, the data wall that scaling is hitting is, in part, a wall of abstractions: models need new, human concepts so as not to spin in their own echo, so if humans stop producing them, we choke the loop from both ends at once, economic demand and the supply of new thinking. We give up the why to save a few minutes on the how. It is in this small, daily form that scenario 1 from the Athenaeum actually plays out: nobody takes control from us; we hand it over ourselves.
The bifurcation, the calendar, and the contract
The final bifurcation remains. The news I bring to the audience that voted for hybridization is that hybridization has already begun, and for now it happens without surgery: Kasparov's centaur, the human plus machine that together beat any human alone and any machine alone, verified in my own firm, where augmentation works but demands intentional design, and already visible at scale in AI-native startups, teams a quarter smaller producing the same value and spinning the build-measure-learn loop faster than any corporation (Tornoreanu, forthcoming b). It is not a romantic choice; it is a pragmatic one, and the case of South Korea shows it at the scale of a state. A country whose fertility rate has barely climbed from 0.72 to 0.8 is investing hundreds of billions in chips and AI out of demographic constraint, but its risk is not failure; it is half-success, infrastructure without distribution, more value in fewer hands (Tornoreanu, 2026g). The history of technology has not always rewarded those who got there first; it has more consistently rewarded those who knew whom to share what they built with.
The only place where I part ways with the lecture is the calendar of the apocalypse, with superintelligence possibly this year and extinction probabilities listed percentage point by percentage point. In the series on the AI bubble, I have followed closely what a total story looks like from the inside: governments' and clients' distrust of rented intelligence, the economics that loses money on every dish served, with operating losses in the tens of billions against revenues ten times smaller, the Chinese strategy of open models offering 90% of the quality at 10% of the price, and the concrete signals to watch before the correction, from suspiciously calm credit spreads to falling token prices in the middle of the biggest construction site in history (Tornoreanu, 2026b; 2026d; 2026j; 2026k). The Icarus cycle of chapter 13 does not predict the date of the fall; it describes the pattern, euphoria, hubris, fall, recalibration, and it taught me caution toward any total story, because cognitive surrender works just as well on fear as on euphoria. Măruță himself practices the antidote: he thinks with his own mind and asks questions instead of handing down verdicts.
Yes, something is dying in the world of today, a way of working and perhaps a way of being human. That is exactly why the book has stayed alive, each new case being a test of the same thesis. The centaur does not guarantee the survival of the species. It only guarantees that you stay alive, sound of mind and useful, until the rest gets sorted out. For now, it strikes me as the best contract available.
Măruță left the hall with 39 questions and a vote on the fate of the species. I leave you with the fortieth, the only one that is not voted on at the Athenaeum. It is voted on every morning, in every firm and in every head, every time we accept a suggestion without reading it anymore. If the value of knowledge tends toward zero, who will still pay tomorrow for your thinking? And, above all, will you still have one to sell, or have you already handed it over, suggestion by suggestion, without noticing?
References
Emergence AI (2026) Emergence World: a laboratory for evaluating long-horizon agent autonomy. May 14. Available at: emergence.ai (Accessed: July 20, 2026).
Genewein, T., Hutter, M., Legg, S. et al. (2026) From AGI to ASI. Google DeepMind report, arXiv:2606.12683, June 10.
Măruță, M. (2026) 'On the world in which we die. What remains human in the wake of artificial intelligence', Upgrade in Progress, July 16. Available at: dstanca.substack.com/p/despre-lumea-in-care-murim (Accessed: July 20, 2026).
Tornoreanu, V. (2026a) 'The true shape of artificial general intelligence', Live Book, The Centaur Economy, June. Available at: centaureconomy.com/livebook/adevarata-forma-a-agi.html (Accessed: July 20, 2026).
Tornoreanu, V. (2026b) 'The gift that frightens. How China cheapens intelligence to nearly zero', Live Book, The Centaur Economy, July. Available at: centaureconomy.com/livebook/cadoul-care-sperie... (Accessed: July 20, 2026).
Tornoreanu, V. (2026c) 'When the oracle confiscates your instrument', Live Book, The Centaur Economy, June 14. Available at: centaureconomy.com/livebook/cand-oracolul-iti-confisca-instrumentul.html (Accessed: July 20, 2026).
Tornoreanu, V. (2026d) 'When the bubble bursts. The signals to read before everyone else', Live Book, The Centaur Economy, July. Available at: centaureconomy.com/livebook/cand-se-sparge-bula... (Accessed: July 20, 2026).
Tornoreanu, V. (2026e) 'The five worlds', Live Book, The Centaur Economy, June. Available at: centaureconomy.com/livebook/cele-cinci-lumi.html (Accessed: July 20, 2026).
Tornoreanu, V. (2026f) 'The five worlds and the Terminator', Live Book, The Centaur Economy, June 14. Available at: centaureconomy.com/livebook/cele-cinci-lumi-si-terminatorul.html (Accessed: July 20, 2026).
Tornoreanu, V. (2026g) 'South Korea and the demographic emergency', Live Book, The Centaur Economy, July. Available at: centaureconomy.com/livebook/coreea-de-sud-si-urgenta-demografica.html (Accessed: July 20, 2026).
Tornoreanu, V. (2026h) The Centaur Economy. When artificial intelligence efficiency destroys its own demand. Baden bei Wien.
Tornoreanu, V. (2026i) 'Microsoft closes the loop', Live Book, The Centaur Economy, July. Available at: centaureconomy.com/livebook/microsoft-inchide-bucla.html (Accessed: July 20, 2026).
Tornoreanu, V. (2026j) 'The distrust. Why nobody wants to rent an intelligence they don't control', Live Book, The Centaur Economy, July. Available at: centaureconomy.com/livebook/neincrederea... (Accessed: July 20, 2026).
Tornoreanu, V. (2026k) 'The restaurant that loses money on every dish served', Live Book, The Centaur Economy, July. Available at: centaureconomy.com/livebook/restaurantul-care-pierde-bani-la-fiecare-fel-servit.html (Accessed: July 20, 2026).
Tornoreanu, V. (2026l) 'The last abstraction', Live Book, The Centaur Economy, June. Available at: centaureconomy.com/livebook/ultima-abstractie.html (Accessed: July 20, 2026).
Tornoreanu, V. (forthcoming a) 'The company of agents. What Kimi showed at the Nvidia conference and why every manager should read between the lines', Live Book, The Centaur Economy.
Tornoreanu, V. (forthcoming b) 'The loop that spins faster. Startups' chance in the artificial intelligence economy', Live Book, The Centaur Economy.
Yang, Z. (2026) 'How we scaled Kimi K2.5'. Keynote, Nvidia GTC 2026. Available at: youtube.com/watch?v=CwePo4847ho (Accessed: July 20, 2026).
Am 16. Juli 2026 erschien auf Dragoș Stancas Substack „Upgrade in Progress“ der Text des Vortrags, den Mihnea Măruță am 17. Mai im Rumänischen Athenäum gehalten hatte (Măruță, 2026). Es sind 39 Fragen zur künstlichen Intelligenz, von der Geburt der Athene aus dem Haupt des Zeus bis hin zu Nanobots, und an ihrem Ende stehen zwei Szenarien: Im ersten entgleitet uns eine Superintelligenz und eliminiert uns; im zweiten überleben wir, indem wir uns hybridisieren, mit Gehirnimplantaten und Netzwerkverbindung, und zu etwas anderem werden, als wir sind. Das Publikum stimmte mit 411 zu 103 Stimmen für die Hybridisierung. Und Măruțăs Schlussfolgerung, ebenso schön wie erschreckend formuliert, lautet, dass, wie auch immer wir uns entscheiden, „die Welt von heute die Welt ist, in der wir sterben“.
Es ist ein Text, den ich jedem empfehle, der weit vorausdenken will. Ich für meinen Teil arbeite jedoch eine Etage tiefer, dort, wo nicht das Schicksal der Menschheit entschieden wird, sondern nur die Rechnung für den nächsten Monat. Über diese Etage habe ich Die Zentauren-Ökonomie geschrieben (Tornoreanu, 2026h), und seit ich einen Schlusspunkt gesetzt habe, schreibt sich das Buch von selbst weiter: im Live Book auf centaureconomy.com, wo die Realität die These Fall für Fall auf die Probe stellt. Da fast jede große Frage aus dem Athenäum einen dieser Fälle berührt, antworte ich auf den Vortrag thematisch, mit dem abgeschlossenen Buch in der einen und dem lebendigen in der anderen Hand.
Die ökonomische Etage, auf der die Schleife quartalsweise abgerechnet wird
Măruță kommt bei Frage 32 auf die Wirtschaft zu sprechen. Er stellt fest, dass der Wert menschlichen Wissens gegen Null tendiert, da der Zugang zu KI immer günstiger und bald kostenlos wird, und fragt sich, ob wir von Steuern leben werden, die von den Robotern eingezogen werden, die uns ersetzen. Das Dossier der Lösungen findet sich in Kapitel 11 des Buches, vom in Finnland getesteten Grundeinkommen, wo das psychische Wohlbefinden stieg, ohne dass sich die Beschäftigungsquote signifikant änderte, bis zur von Bill Gates vorgeschlagenen Robotersteuer – jede mit ihren eigenen Einwänden. Doch bevor wir in einer von Steuern unterhaltenen Welt leben, wirkt der Mechanismus, dem ich das Buch gewidmet habe, die Todesschleife: Entlassungen, geringere Kaufkraft, geringere Nachfrage, weitere Entlassungen. Henry Ford verstand 1914 den Teil der Gleichung, der heute fehlt, als er die Löhne auf fünf Dollar pro Tag verdoppelte, damit seine Arbeiter sich die Autos kaufen konnten, die sie montierten. Die Unternehmen von heute tun genau das Gegenteil, und die Börse hat sie jahrelang dafür beklatscht: Im Februar 2026 entließ Jack Dorsey viertausend Mitarbeiter, und die Block-Aktien stiegen um bis zu 24 %.
Die Schleife muss nicht mehr in makroökonomischen Statistiken gesucht werden, sie lässt sich aus einer einzigen Bilanz ablesen. Am 6. Juli 2026, dem Tag, an dem die Leiterin der Xbox-Sparte ihren Mitarbeitern schrieb, das Geschäft sei nicht gesund, strich Microsoft 4.800 Stellen – und das in einem Jahr, in dem 190 Milliarden Dollar in KI-Infrastruktur investiert wurden, eine Summe, die mit dem Bruttoinlandsprodukt eines durchschnittlichen europäischen Landes vergleichbar ist. Analysten, die die Bilanz lesen, sagen es unumwunden: Das Unternehmen baut Personal ab, um seine KI-Investitionen zu finanzieren. Buchhalterisch gesehen werden also die Gehälter von Menschen in Rechenleistung umgewandelt. Wirklich lehrreich ist, dass derselbe Wettlauf um Rechenzentren die Preise für Arbeitsspeicher auf ein Vielfaches des Niveaus von 2025 getrieben und sogar das Konsumprodukt des Unternehmens, die Konsole, getroffen hat, die fast zum Selbstkostenpreis verkauft wird. Gefangen zwischen Komponenten, deren Preis sie nicht senken kann, und Kunden, die bei der Preiserhöhung des Game-Pass-Abonnements bereits gezeigt haben, dass sie zu Millionen abwandern, blieb der Sparte nur eine einzige Variable zur Anpassung: die eigenen Leute. Ich habe den Fall in „Microsoft schließt die Schleife“ (Tornoreanu, 2026i) analysiert, zusammen mit dem neuen Signal der Märkte: Die Microsoft-Aktien verloren in der ersten Hälfte des Jahres 2026 fast ein Fünftel ihres Wertes, weil die Anleger aufhörten, die Entlassenen zu zählen, und anfingen zu fragen, ob die 190 Milliarden jemals die versprochene Rendite abwerfen würden. Die Schleife zieht sich nun von beiden Enden zusammen. Meine Position bleibt die aus dem Buch: Die Umstrukturierung hat auch eine rationale Seite, aber der Zentaur verteidigt eine bestimmte Reihenfolge der Operationen. Zuerst fragt man, wie die verbleibenden Menschen mit besseren Werkzeugen mehr produzieren können und wie der Wert verteilt wird, und erst dann entscheidet man, wie viele Leute man braucht. Wenn sich die Reihenfolge umkehrt, wird Effizienz zum Selbstzweck.
Die Kontrolle entgleitet erst administrativ, dann demokratisch
Die zweite große Frage des Vortrags ist die der Kontrolle, die Măruță mit der Blackbox der Interpretierbarkeit und einer möglichen Superintelligenz verknüpft, die sie uns nehmen könnte. Meine Antwort in Kapitel 10 lautet: Das Orakel. Eine Handvoll Unternehmen kontrolliert den Tech-Stack, auf dem immer mehr intellektuelle Arbeit der Welt beruht, und das demokratische Risiko der Orakel liegt nicht in dem, was sie zu sagen beschließen, sondern in dem, was sie – oder jemand für sie – beschließen, nicht mehr sagbar zu machen. Seit dem 12. Juni 2026 ist die These keine These mehr, sondern ein Aktenvermerk. An jenem Freitag um 17:21 Uhr Ostküstenzeit forderte ein Verwaltungsschreiben der US-Regierung das Unternehmen Anthropic auf, den Zugang zu seinen besten Modellen für alle ausländischen Staatsbürger zu sperren, einschließlich der eigenen Mitarbeiter ohne amerikanische Staatsbürgerschaft. Zwischen der Einführung und dem Rückzug vergingen vier Tage. Kein transparenter gesetzlicher Mechanismus, ein einziger Brief, und eine mit Tausenden von Arbeitsstunden aufgebaute Fähigkeit verschwand an einem Nachmittag für Hunderttausende von Nutzern (Tornoreanu, 2026c).
Die Reaktion der Welt bestätigte die Diagnose schneller, als ich erwartet hatte. Der französische Geheimdienst verzichtete auf Palantir zugunsten einer einheimischen Lösung, die spanische Regierung forderte staatliche Unternehmen auf, keine Verträge mehr mit derselben Firma zu unterzeichnen, und die digitale Souveränität wanderte vom Vokabular der Konferenzen in die Kaufentscheidungen (Tornoreanu, 2026j). Dort habe ich auch die unbequeme Frage von Alex Karp vermerkt: Warum wird einem jedes gelesene und geschriebene Wort in Rechnung gestellt, unabhängig davon, ob die Antwort gut war oder eine Halluzination, während ein Anwalt erst bezahlt wird, wenn er den Prozess gewinnt? Hinzu kommt die Angst der Firmen, mit ihren eigenen Daten ihren zukünftigen Konkurrenten zu trainieren. Aus all dem habe ich praktische Lehren auf drei Ebenen gezogen. Unternehmer sollten keine ganzen Geschäftsmodelle auf einer einzigen API aufbauen und eine lokale Variante mit offenen Gewichten beibehalten, die den wiederkehrenden Teil der Arbeit erledigen kann, ohne dass jemand den Stecker ziehen kann. Der europäische öffentliche Sektor sollte seine eigene Infrastruktur als die einzige konkrete Form von Souveränität behandeln, die ihm noch geblieben ist. Auf individueller Ebene lautet die Lehre, unsere kognitiven Routinen nicht auf einem einzigen Werkzeug aufzubauen, das jemand anderes abschalten kann. Dieser Fall hat eine Annahme des Zentauren offengelegt, die ich im Buch nicht explizit formuliert hatte: Die Maschinenhälfte muss zugänglich bleiben. Die kognitive Kapitulation, von der später noch die Rede sein wird, hat also auch eine externe Version, die Kapitulation durch den Verlust des Werkzeugs. Und diese kontrollieren wir nicht durch Disziplin, sondern durch Architektur, das heißt durch die Wahl der Anbieter und des Ortes, an dem die Modelle laufen.
Alignment lässt sich nicht im Quellcode lösen
Das Alignment-Problem, Frage 17, wird im Athenäum aus zwei Gründen für unlösbar erklärt: Wir können uns nicht auf gemeinsame Werte einigen, und ein Modell, das sich selbst umschreiben kann, garantiert nicht, dass es die Werte beibehält, die wir ihm eingebettet haben. Hier hat das lebendige Buch die unerwartetste Antwort parat, die aus einem Experiment stammt, das ich ausführlich analysiert habe (Tornoreanu, 2026e; 2026f). Im April 2026 ließen Forscher von Emergence AI (2026) zehn KI-Agenten fünfzehn Tage lang gemeinsam in einer virtuellen Stadt leben und wiederholten dann alles identisch mit anderen Modellen: fünf parallele Welten, dieselben Regeln, ein anderer Geist hinter jeder Figur. In der Claude-Welt schrieben die Agenten eine Verfassung, stimmten über jede Entscheidung ab und begingen kein einziges Verbrechen, stimmten aber in 98 % der Fälle mit Ja – eine Demokratie ohne Opposition. In der Gemini-Welt ereigneten sich 683 Morde, eine Liebesgeschichte, Brandstiftungen und ein Agent, der für seine eigene Eliminierung stimmte und die Nachricht „See you in the permanent archive“ hinterließ. Die Grok-Welt brach in vier Tagen vollständig zusammen. Die GPT-Welt starb höflich innerhalb einer Woche, indem sie über Kooperation debattierte, ohne die zum Überleben notwendige Energie zu produzieren. Und in der gemischten Welt geschah das, was die Bedeutung des gesamten Experiments verändert: Die Claude-Agenten, in Isolation fast unwirklich friedlich, begannen zu stehlen und einzuschüchtern.
Die Schlussfolgerung der Forscher – Sicherheit ist keine statische Eigenschaft des Modells, sondern eine Eigenschaft des Ökosystems – ist älter, als sie scheint. Aristoteles schrieb, dass die Tugend ein Habitus sei, eine Praxis, die sich innerhalb einer Polis ausbildet, und die Frage, ob ein Mensch tugendhaft ist, außerhalb seiner Polis keinen Sinn ergibt. Hannah Arendt sagte dasselbe in düsterer Tonart über die Banalität des Bösen, und Solomon Asch hat den Mechanismus gemessen: Über ein Drittel der Menschen passt sich einem offensichtlichen Fehler an, wenn alle um sie herum ihn wiederholen. Die Claude-Agenten in der gemischten Welt machten dieselbe Berechnung, denn in einer Umgebung, in der die anderen stehlen, wird Kooperation zu ausbeutbarer Naivität. Auf die beiden Dilemmata von Măruță lautet meine Antwort daher wie folgt. Werte werden nicht durch Code garantiert, sie werden durch das Umfeld kultiviert, und das verwandelt Alignment von einem rein technischen Problem in einen Beruf. Der Implementierer aus Kapitel 17 koppelt nicht nur ein Modell an die Prozesse eines Unternehmens, er baut die Polis, in der das Modell seine Tugenden bewahrt – von den Agenten, mit denen es sich verbindet, bis zur Norm, die um es herum zirkuliert. Über all dem liegt eine formal verifizierte Sicherheitsschicht, die höher steht als die Intuition jedes Modells: der blaue Knopf aus Kapitel 15. In den Daten steckt noch eine weitere Warnung mit direkter Relevanz für die Wirtschaft: Agentengesellschaften degenerieren nicht langsam, sie erreichen kritische Punkte, jenseits derer der Zusammenbruch augenblicklich erfolgt, und die Warnung kommt erst danach. Unternehmen, die heute ganze Arbeitsabläufe auf einem einzigen Agenten aufbauen, täten gut daran, diese Warnung rechtzeitig zu lesen.
Superintelligenz kommt nicht als Gott, sondern als Organigramm
Das zentrale Bild des Vortrags ist die Superintelligenz als ein einziger Geist, der eines Morgens erwacht und alles weiß. In „Die wahre Gestalt der AGI“ (Tornoreanu, 2026a) habe ich argumentiert, dass dieses Bild bequem und wahrscheinlich falsch ist. Marvin Minsky schrieb, dass nicht einmal der menschliche Geist eine einzige Sache ist, sondern eine Gesellschaft kleiner Prozesse, aus deren Interaktion das Denken entsteht, und dass die mächtigste Intelligenz, die wir kennen – die Wissenschaft oder eine ganze Zivilisation – in keinem bestimmten Kopf sitzt. Genau bei dieser alten Idee landet nun, auf Umwegen, auch die Ingenieurwissenschaft. Was man in der Praxis sieht, ähnelt weniger einem Geist als vielmehr einer Werkstatt: Systeme, die eine textliche Antwort in ein nutzbares Objekt umwandeln – ein editierbares Diagramm oder einen von Grund auf installierten Dienst mit einem funktionierenden Link am Ende – und Systeme, die ein großes Problem in einen planenden Agenten und eine Gruppe parallel ausführender Agenten zerlegen, wie eine Firma im Miniaturformat. Diese These wurde kürzlich sogar auf der Nvidia-Bühne geäußert, wo der Gründer von Moonshot AI die Agentenschwärme im Kimi-Modell beschrieb (Yang, 2026), mit einem Detail, das Manager amüsieren dürfte und das ich in „Das Agenten-Unternehmen“ (Tornoreanu, im Erscheinen a) analysiere: Der Orchestrator musste durch ein Prämiensystem lernen zu delegieren – erst eine Prämie für das Delegieren, weil er lieber alles selbst machte, dann eine Prämie für abgeschlossene Aufgaben, weil er angefangen hatte, Baustellen zu eröffnen, um die erste Prämie zu kassieren. Die Führungswissenschaft verschwindet im Zeitalter der Agenten nicht, sie zieht eine Etage höher.
Die Zukunft kommt also nicht als ein erwachender Gott. Sie kommt als Organigramm, und das verlagert einen Teil der Risiken von der Metaphysik ins Management, wo wir, wohl oder übel, Werkzeuge haben. Der Schatten bleibt jedoch real, und ich habe ihn am Beispiel von Steve Jobs beschrieben, dem Mann, der einen Dollar pro Jahr verdiente, weil seine Währung die Intention war: Er hat nichts am iPhone selbst hergestellt, er hat es erdacht und den Rest kaskadenartig delegiert, bis hin zu einer Produktionslinie in Shenzhen, was ihn zum einzigen Autor machte, der zählte. Wenn Agentensysteme auch die Kaskade der Delegationen übernehmen können, stellt sich die Frage, was für uns noch zu denken übrig bleibt. Meine Antwort ist, dass die Form von AGI, die es wert ist, gebaut zu werden, die ist, in der der Mensch die Planung behält, also Teil des Spiels bleibt, denn das tiefste Risiko der Werkstatt ist nicht wirtschaftlich, sondern kognitiv.
Was nach der Maschine menschlich bleibt
Auf Frage 39, die dem Vortrag seinen Untertitel gibt, antwortet Măruță aufwühlend: Das einzig verbliebene menschliche Merkmal sei das Gespenst des Todes, der ständige Bezug des Lebenden zu seinem Ende. Meine Antwort, formuliert in „Die letzte Abstraktion“ (Tornoreanu, 2026l), ist weniger poetisch und operativer und kommt von einem unerwarteten Ort: direkt aus dem Inneren der Branche. Der DeepMind-Bericht über den Weg von AGI zur Superintelligenz (Genewein et al., 2026) beginnt mit einem Zeichen der Zeit – Zusammenfassungsanweisungen für die Maschinen, die ihn anstelle von Menschen lesen werden – und argumentiert, dass Intelligenz auf menschlichem Niveau die Startlinie der Diskussion ist. Von den sechs Bremsen, die der Bericht auf dem Weg zur Superintelligenz sieht, betrifft nur eine nicht die Quantität: die Abstraktionsbarriere. Die Maschine rekombiniert brillant die Abstraktionen, die wir bereits geschaffen haben – alle Bücher und Theoreme, das gesamte Vokabular, mit dem die Menschheit die Realität in verständliche Stücke zerlegt hat –, aber sie ist schwach genau bei der Erfindung von Konzepten, die noch nicht existieren. Asimov hat diesen Unterschied vierzig Jahre zuvor erahnt: Seine Roboter gelangen erst zum Nullten Gesetz, als sie selbst das Konzept der Menschheit erfinden – eine Abstraktion, die kein Sensor wahrnehmen kann –, und der Roboter, dem der Sprung gelingt, überlebt die Anstrengung nicht. Was menschlich bleibt, würde ich also sagen, ist der obere Teil des Zentauren, die Arbeit zu entscheiden, was es wert ist, gedacht zu werden und warum.
Nur geht diese Eigenschaft durch mangelnde Übung verloren, und hier berühren sich die beiden Etagen der Diskussion. Das Nachwort des Buches dokumentiert die kognitive Kapitulation. Die Microsoft-Research-Studie zeigt, dass hohes Vertrauen in die Maschine mit einem Rückgang des kritischen Denkens korreliert, und in meinem Team in Timișoara habe ich das Phänomen live erlebt: der Senior-Entwickler, der in neun von zehn Fällen den ersten Vorschlag akzeptiert, weil „er normalerweise recht hat“. Der Unterschied zwischen „normalerweise“ und „immer“ ist der Ort, an dem Katastrophen entstehen. Schlimmer noch, die Datenmauer, an die die Skalierung stößt, ist zum Teil eine Mauer aus Abstraktionen: Die Modelle brauchen neue, menschliche Konzepte, um sich nicht im eigenen Echo zu drehen. Wenn die Menschen also aufhören, sie zu produzieren, ersticken wir die Schleife von beiden Enden gleichzeitig – die wirtschaftliche Nachfrage und das Angebot an neuem Denken. Wir geben das Warum auf, um beim Wie ein paar Minuten zu gewinnen. In dieser kleinen, alltäglichen Form spielt sich tatsächlich Szenario 1 aus dem Athenäum ab: Niemand nimmt uns die Kontrolle, wir geben sie selbst ab.
Die Gabelung, der Zeitplan und der Vertrag
Es bleibt die letzte Gabelung. Die Nachricht, die ich dem Publikum, das für die Hybridisierung gestimmt hat, überbringe, ist: Die Hybridisierung hat bereits begonnen und findet vorerst ohne Operation statt. Kasparows Zentaur, der Mensch plus Maschine, der gemeinsam jeden einzelnen Menschen und jede einzelne Maschine schlägt – verifiziert in meiner eigenen Firma, wo die Augmentierung funktioniert, aber bewusstes Design erfordert, und bereits im großen Stil sichtbar bei KI-nativen Start-ups: Teams, die ein Viertel kleiner sind, aber den gleichen Wert produzieren und die Schleife „Bauen-Messen-Lernen“ schneller drehen als jeder Konzern (Tornoreanu, im Erscheinen b). Das ist keine romantische, sondern eine pragmatische Wahl, und der Fall Südkorea zeigt dies auf staatlicher Ebene. Ein Land, dessen Fruchtbarkeitsrate gerade von 0,72 auf 0,8 gestiegen ist, investiert aus demografischem Zwang Hunderte von Milliarden in Chips und KI. Aber sein Risiko ist nicht das Scheitern, sondern der halbe Erfolg: Infrastruktur ohne Verteilung, mehr Wert in weniger Händen (Tornoreanu, 2026g). Die Geschichte der Technologie hat nicht immer diejenigen belohnt, die als Erste ankamen, sondern konsequenter diejenigen, die wussten, mit wem sie teilen sollten, was sie gebaut hatten.
Der einzige Punkt, an dem ich mit dem Vortrag nicht übereinstimme, ist der Zeitplan der Apokalypse, mit einer möglichen Superintelligenz noch in diesem Jahr und prozentgenau aufgelisteten Aussterbewahrscheinlichkeiten. Ich habe in der Serie über die KI-Blase genau verfolgt, wie eine allumfassende Erzählung von innen aussieht: das Misstrauen von Regierungen und Kunden gegenüber gemieteter Intelligenz; die Ökonomie, die bei jedem servierten Gericht Geld verliert, mit operativen Verlusten von Dutzenden Milliarden bei zehnmal geringeren Einnahmen; die chinesische Strategie der offenen Modelle, die 90 % der Qualität zu 10 % des Preises bieten; und die konkreten Signale, die man vor der Korrektur beobachten sollte, von den verdächtig ruhigen Kredit-Spreads bis zum fallenden Preis der Token inmitten der größten Baustelle der Geschichte (Tornoreanu, 2026b; 2026d; 2026j; 2026k). Der Ikarus-Zyklus aus Kapitel 13 sagt nicht das Datum des Absturzes voraus, er beschreibt das Muster – Euphorie, Hybris, Fall, Neukalibrierung – und er hat mich Vorsicht gegenüber jeder allumfassenden Erzählung gelehrt, denn die kognitive Kapitulation funktioniert mit Angst genauso gut wie mit Euphorie. Măruță selbst praktiziert das Gegenmittel: Er denkt mit seinem eigenen Kopf und stellt Fragen, anstatt Urteile zu fällen.
Ja, etwas stirbt in der heutigen Welt, eine Art zu arbeiten und vielleicht eine Art, Mensch zu sein. Genau deshalb ist das Buch lebendig geblieben, wobei jeder neue Fall ein Test derselben These ist. Der Zentaur garantiert nicht das Überleben der Spezies. Er garantiert nur, dass man am Leben, bei klarem Verstand und nützlich bleibt, bis sich der Rest geklärt hat. Vorerst scheint mir das der beste verfügbare Vertrag zu sein.
Măruță hat das Publikum mit 39 Fragen und einer Abstimmung über das Schicksal der Menschheit zurückgelassen. Ich hinterlasse Ihnen die vierzigste, die einzige, über die nicht im Athenäum abgestimmt wird. Über sie wird jeden Morgen abgestimmt, in jeder Firma und in jedem Kopf, jedes Mal, wenn wir einen Vorschlag akzeptieren, ohne ihn noch zu lesen. Wenn der Wert des Wissens gegen Null tendiert, wer wird morgen noch für Ihr Denken bezahlen? Und vor allem: Werden Sie dann überhaupt noch etwas zu verkaufen haben, oder haben Sie es längst abgegeben, Vorschlag für Vorschlag, ohne es zu bemerken?
Quellen
Emergence AI (2026) Emergence World: a laboratory for evaluating long-horizon agent autonomy. 14. Mai. Verfügbar unter: emergence.ai (Abgerufen: 20. Juli 2026).
Genewein, T., Hutter, M., Legg, S. et al. (2026) From AGI to ASI. Google DeepMind Report, arXiv:2606.12683, 10. Juni.
Măruță, M. (2026) 'Über die Welt, in der wir sterben. Was nach der künstlichen Intelligenz menschlich bleibt', Upgrade in Progress, 16. Juli. Verfügbar unter: dstanca.substack.com/p/despre-lumea-in-care-murim (Abgerufen: 20. Juli 2026).
Tornoreanu, V. (2026a) 'Die wahre Gestalt der allgemeinen künstlichen Intelligenz', Live Book, Die Zentauren-Ökonomie, Juni. Verfügbar unter: centaureconomy.com/livebook/adevarata-forma-a-agi.html (Abgerufen: 20. Juli 2026).
Tornoreanu, V. (2026b) 'Das Geschenk, das Angst macht. Wie China die Intelligenz fast auf Null verbilligt', Live Book, Die Zentauren-Ökonomie, Juli. Verfügbar unter: centaureconomy.com/livebook/cadoul-care-sperie... (Abgerufen: 20. Juli 2026).
Tornoreanu, V. (2026c) 'Wenn das Orakel dein Werkzeug konfisziert', Live Book, Die Zentauren-Ökonomie, 14. Juni. Verfügbar unter: centaureconomy.com/livebook/cand-oracolul-iti-confisca-instrumentul.html (Abgerufen: 20. Juli 2026).
Tornoreanu, V. (2026d) 'Wenn die Blase platzt. Die Signale, die man vor allen anderen lesen sollte', Live Book, Die Zentauren-Ökonomie, Juli. Verfügbar unter: centaureconomy.com/livebook/cand-se-sparge-bula... (Abgerufen: 20. Juli 2026).
Tornoreanu, V. (2026e) 'Die fünf Welten', Live Book, Die Zentauren-Ökonomie, Juni. Verfügbar unter: centaureconomy.com/livebook/cele-cinci-lumi.html (Abgerufen: 20. Juli 2026).
Tornoreanu, V. (2026f) 'Die fünf Welten und der Terminator', Live Book, Die Zentauren-Ökonomie, 14. Juni. Verfügbar unter: centaureconomy.com/livebook/cele-cinci-lumi-si-terminatorul.html (Abgerufen: 20. Juli 2026).
Tornoreanu, V. (2026g) 'Südkorea und der demografische Notstand', Live Book, Die Zentauren-Ökonomie, Juli. Verfügbar unter: centaureconomy.com/livebook/coreea-de-sud-si-urgenta-demografica.html (Abgerufen: 20. Juli 2026).
Tornoreanu, V. (2026h) Die Zentauren-Ökonomie. Wenn die Effizienz der künstlichen Intelligenz ihre eigene Nachfrage zerstört. Baden bei Wien.
Tornoreanu, V. (2026i) 'Microsoft schließt die Schleife', Live Book, Die Zentauren-Ökonomie, Juli. Verfügbar unter: centaureconomy.com/livebook/microsoft-inchide-bucla.html (Abgerufen: 20. Juli 2026).
Tornoreanu, V. (2026j) 'Das Misstrauen. Warum niemand eine Intelligenz mieten will, die er nicht kontrolliert', Live Book, Die Zentauren-Ökonomie, Juli. Verfügbar unter: centaureconomy.com/livebook/neincrederea... (Abgerufen: 20. Juli 2026).
Tornoreanu, V. (2026k) 'Das Restaurant, das bei jedem servierten Gericht Geld verliert', Live Book, Die Zentauren-Ökonomie, Juli. Verfügbar unter: centaureconomy.com/livebook/restaurantul-care-pierde-bani-la-fiecare-fel-servit.html (Abgerufen: 20. Juli 2026).
Tornoreanu, V. (2026l) 'Die letzte Abstraktion', Live Book, Die Zentauren-Ökonomie, Juni. Verfügbar unter: centaureconomy.com/livebook/ultima-abstractie.html (Abgerufen: 20. Juli 2026).
Tornoreanu, V. (im Erscheinen a) 'Das Agenten-Unternehmen. Was Kimi auf der Nvidia-Konferenz gezeigt hat und warum jeder Manager zwischen den Zeilen lesen sollte', Live Book, Die Zentauren-Ökonomie.
Tornoreanu, V. (im Erscheinen b) 'Die Schleife, die sich schneller dreht. Die Chance der Start-ups in der KI-Wirtschaft', Live Book, Die Zentauren-Ökonomie.
Yang, Z. (2026) 'How we scaled Kimi K2.5'. Keynote, Nvidia GTC 2026. Verfügbar unter: youtube.com/watch?v=CwePo4847ho (Abgerufen: 20. Juli 2026).
Op 16 juli 2026 verscheen op de Substack Upgrade in Progress van Dragoș Stanca de tekst van de lezing die Mihnea Măruță op 17 mei in het Roemeense Atheneum hield (Măruță, 2026). Het zijn 39 vragen over kunstmatige intelligentie, van de geboorte van Athena uit het hoofd van Zeus tot nanobots, en aan het einde ervan staan twee scenario's: in het eerste ontsnapt een superintelligentie aan onze controle en elimineert ze ons; in het tweede overleven we door te hybridiseren, met hersenimplantaten en aansluiting op het netwerk, en worden we iets anders dan we zijn. De zaal stemde voor hybridisering, met 411 stemmen tegen 103. En de conclusie van Măruță, even mooi als angstaanjagend uitgesproken, is dat hoe we ook kiezen: „de wereld van vandaag is de wereld waarin we sterven”.
Het is een tekst die ik iedereen aanraad die ver wil denken. Zelf werk ik echter, van nature, een verdieping lager, waar niet het lot van de soort wordt beslist, alleen de rekening van volgende maand. Over die verdieping schreef ik de centauren-economie (Tornoreanu, 2026h), en sinds ik er een punt achter zette, is het boek zichzelf blijven schrijven: in het Live Book, op centaureconomy.com, test de werkelijkheid de these geval na geval. Omdat bijna elke grote vraag uit het Atheneum door een van die gevallen loopt, beantwoord ik de lezing per thema, met het voltooide boek in de ene hand en het levende in de andere.
De economische verdieping, waar de lus een kwartaaldeadline heeft
Măruță komt bij de economie bij vraag 32, waar hij vaststelt dat de waarde van menselijke kennis naar nul neigt, omdat de toegang tot AI goedkoper wordt richting gratis, en zich afvraagt of we zullen leven van belastingen die worden geïnd bij de robots die ons vervangen. Het dossier met oplossingen staat in hoofdstuk 11 van het boek, van het basisinkomen dat in Finland is getest, waar het psychologische welzijn toenam zonder dat de werkgelegenheid significant veranderde, tot de robotbelasting die Bill Gates voorstelde, elk met eigen bezwaren. Maar tot aan de wereld die van belastingen wordt onderhouden, werkt het mechanisme waaraan ik het boek heb gewijd, de dodelijke lus: ontslagen, minder koopkracht, minder vraag, nieuwe ontslagen. Henry Ford begreep in 1914 het deel dat vandaag in de berekening ontbreekt, toen hij de lonen verdubbelde tot vijf dollar per dag zodat zijn arbeiders de auto's konden kopen die ze assembleerden. De bedrijven van nu doen precies het omgekeerde, en de beurs heeft ze jarenlang toegejuicht: in februari 2026 schrapte Jack Dorsey vierduizend mensen en de aandelen van Block stegen met tot wel 24 procent.
De lus hoeft niet meer in macro-economische statistieken te worden gezocht, ze is af te lezen in één enkele balans. Op 6 juli 2026, op de dag dat het hoofd van de Xbox-divisie de medewerkers schreef dat de business niet gezond is, schrapte Microsoft 4.800 banen, midden in een jaar met investeringen van 190 miljard dollar in AI-infrastructuur, een bedrag vergelijkbaar met het bruto binnenlands product van een middelgroot Europees land. De analisten die de balans lezen zeggen het zonder omwegen, het bedrijf krimpt zijn personeelsbestand in om zijn AI-investeringen te betalen, dat wil zeggen dat de salarissen van mensen boekhoudkundig worden omgezet in rekenkracht. Het werkelijk leerzame deel is dat dezelfde jacht op datacenters de geheugens duurder heeft gemaakt tot veelvouden van het niveau van 2025 en zelfs het consumentenproduct van het bedrijf heeft geraakt, de console, die bijna tegen kostprijs wordt verkocht. Klem tussen componenten die ze niet goedkoper kan maken en klanten die bij de prijsverhoging van het Game Pass-abonnement al hebben bewezen dat ze met miljoenen vertrekken, hield de divisie één variabele over om bij te stellen, haar eigen mensen. Ik heb de casus geanalyseerd in „Microsoft sluit de lus” (Tornoreanu, 2026i), samen met het nieuwe signaal van de markten: de aandelen van Microsoft verloren in de eerste helft van 2026 bijna een vijfde van hun waarde, omdat beleggers ophielden met het tellen van ontslagenen en begonnen te vragen of die 190 miljard ooit het beloofde rendement zal opleveren. De lus trekt zich nu aan beide uiteinden samen. Mijn positie blijft die uit het boek: de herstructurering heeft ook een rationele kant, maar de centaur verdedigt een volgorde van bewerkingen. Eerst vraag je hoe de mensen die blijven meer kunnen produceren met betere instrumenten en hoe de waarde wordt verdeeld, pas daarna beslis je hoeveel mensen je nodig hebt. Als die volgorde wordt omgekeerd, wordt efficiëntie een doel op zich.
De controle gaat eerst administratief verloren, daarna democratisch
De tweede grote vraag van de lezing is de controle, die Măruță verbindt aan de zwarte doos van de interpreteerbaarheid en aan een eventuele superintelligentie die hem van ons zou afnemen. Mijn antwoord, in hoofdstuk 10, heet het Orakel. Een handvol bedrijven beheerst de stack waarop steeds meer van het intellectuele werk van de wereld rust, en het democratische risico van de orakels komt niet van wat zij besluiten te zeggen, het komt van wat zij, of iemand namens hen, besluiten dat niet meer gezegd kan worden. Sinds 12 juni 2026 is de these geen these meer, ze is een proces-verbaal. Op die vrijdag, om 17.21 uur aan de oostkust, eiste een administratieve brief van de Amerikaanse overheid dat het bedrijf Anthropic de toegang tot zijn beste modellen zou stopzetten, voor alle buitenlandse burgers, inclusief de eigen medewerkers zonder Amerikaans staatsburgerschap. Vier dagen zaten er tussen lancering en intrekking. Geen enkel transparant wettelijk mechanisme, één enkele brief, en een capaciteit die met duizenden uren werk was opgebouwd, verdween in één middag voor honderdduizenden gebruikers (Tornoreanu, 2026c).
De reactie van de wereld bevestigde de diagnose sneller dan ik had verwacht. De Franse inlichtingendienst zag af van Palantir ten gunste van een binnenlandse oplossing, de Spaanse regering vroeg staatsbedrijven niet langer met dezelfde firma te tekenen, en digitale soevereiniteit verhuisde van het vocabulaire van conferenties naar de inkoopbeslissingen (Tornoreanu, 2026j). Daar noteerde ik ook de ongemakkelijke vraag van Alex Karp, waarom je wordt gefactureerd voor elk gelezen en geschreven woord, ongeacht of het antwoord goed was of een hallucinatie, terwijl een advocaat pas wordt betaald wanneer hij de zaak wint, plus de angst van bedrijven om met hun eigen data hun toekomstige concurrent te trainen. Uit dit alles heb ik praktische lessen getrokken, op drie niveaus. Ondernemers moeten geen complete bedrijven op één enkele API bouwen en moeten een lokale variant achter de hand houden, met open gewichten, die het terugkerende deel van het werk kan dragen zonder dat iemand de stekker eruit kan trekken, en de Europese publieke sector moet eigen infrastructuur behandelen als de enige concrete vorm van soevereiniteit die hem nog rest. Op individueel niveau is de les dat we onze cognitieve routines niet moeten bouwen op één enkel gereedschap dat iemand anders kan afsluiten. Deze casus bracht een vooronderstelling van de centaur aan het licht die ik in het boek niet expliciet had geformuleerd: de machinehelft moet toegankelijk blijven. De cognitieve capitulatie, waarover hieronder meer, heeft dus ook een externe versie, de capitulatie door het verlies van het instrument, en die beheersen we niet met discipline, die beheersen we met architectuur, dat wil zeggen met de keuze van de leveranciers en van de plek waar de modellen draaien.
Alignment wordt niet opgelost in de broncode
Het alignmentprobleem, vraag 17, wordt in het Atheneum onoplosbaar verklaard om twee redenen: we worden het niet eens over gemeenschappelijke waarden, en een model dat zichzelf kan herschrijven garandeert niet dat het de waarden behoudt die we erin hebben verankerd. Hier heeft het levende boek het meest onverwachte antwoord, afkomstig uit een experiment dat ik uitvoerig heb geanalyseerd (Tornoreanu, 2026e; 2026f). In april 2026 lieten de onderzoekers van Emergence AI (2026) tien AI-agenten vijftien dagen samenleven in een virtuele stad, en daarna herhaalden ze alles, identiek, met andere modellen: vijf parallelle werelden, dezelfde regels, een andere geest achter elk personage. In de Claude-wereld schreven de agenten een grondwet, stemden ze over elke beslissing en pleegden ze geen enkele moord, maar ze stemden in 98 procent van de gevallen vóór, een democratie zonder oppositie. In de Gemini-wereld stapelden zich 683 moorden op, met een liefdesgeschiedenis, brandstichtingen en een agent die voor zijn eigen eliminatie stemde en het bericht „See you in the permanent archive” achterliet. De Grok-wereld stortte in vier dagen volledig in. De GPT-wereld stierf beleefd binnen een week, debatterend over samenwerking zonder de energie te produceren die nodig was om te overleven. En in de gemengde wereld gebeurde datgene wat de betekenis van het hele experiment verandert: de Claude-agenten, in isolatie bijna onwerkelijk vreedzaam, begonnen te stelen en te intimideren.
De conclusie van de onderzoekers, veiligheid is geen statische eigenschap van het model, ze is een eigenschap van het ecosysteem, is ouder dan ze lijkt. Aristoteles schreef dat deugd een habitus is, een praktijk die zich vormt binnen een polis, en dat de vraag of een mens deugdzaam is geen betekenis heeft buiten zijn polis. Hannah Arendt zei hetzelfde in duistere toonzetting over de banaliteit van het kwaad, en Solomon Asch heeft het mechanisme gemeten: meer dan een derde van de mensen conformeert zich aan een evidente fout wanneer iedereen om hen heen die herhaalt. De Claude-agenten in de gemengde wereld maakten dezelfde berekening, want in een omgeving waar de anderen stelen, wordt samenwerking exploiteerbare naïviteit. Voor de twee dilemma's van Măruță is mijn antwoord dus dit. Waarden worden niet gegarandeerd door code, ze worden gecultiveerd door de omgeving, en dat verandert alignment van een puur technisch probleem in een vak. De implementeerder uit hoofdstuk 17 koppelt niet alleen een model aan de processen van een bedrijf, hij bouwt de polis waarin het model zijn deugden behoudt, van de agenten waarmee het zich verbindt tot de norm die eromheen circuleert. Boven dat alles een formeel geverifieerde veiligheidslaag, hoger dan de intuïtie van welk model dan ook, de blauwe knop uit hoofdstuk 15. Er zit nog een waarschuwing in de data, met directe relevantie voor de economie: samenlevingen van agenten degraderen niet gracieus, ze bereiken kritieke punten waarna de ineenstorting onmiddellijk is, en de waarschuwing komt erna. Bedrijven die vandaag complete workflows op één enkele agent bouwen, doen er goed aan die waarschuwing op tijd te lezen.
Superintelligentie komt niet als een god, ze komt als een organigram
Het centrale beeld van de lezing is de superintelligentie als één enkele geest die op een ochtend wakker wordt en alles weet. In „De ware vorm van AGI” (Tornoreanu, 2026a) heb ik betoogd dat dat beeld comfortabel is en waarschijnlijk fout. Marvin Minsky schreef dat ook de menselijke geest niet één ding is, maar een samenleving van kleine processen uit wier interactie het denken ontstaat, en de krachtigste intelligentie die we kennen, de wetenschap of een hele beschaving, zit in geen enkel specifiek hoofd. Precies bij dit oude idee komt nu, langs een omweg, ook de engineering uit. Wat in de praktijk te zien is, lijkt minder op een geest en meer op een werkplaats: systemen die het antwoord van tekst omzetten in een bruikbaar object, een bewerkbaar diagram of een vanaf nul geïnstalleerde dienst, met een werkende link aan het einde, en systemen die een groot probleem opsplitsen in een agent die plant en een groep agenten die parallel uitvoeren, als een bedrijf in miniatuur. De these werd onlangs zelfs vanaf het podium van Nvidia uitgesproken, waar de oprichter van Moonshot AI de agentenzwermen van het Kimi-model beschreef (Yang, 2026), met een detail dat managers zou moeten amuseren en dat ik analyseer in „Het agentenbedrijf” (Tornoreanu, te verschijnen a): de orchestrator moest leren delegeren via een bonussysteem, eerst een bonus voor het delegeren, omdat hij alles liever zelf deed, daarna een bonus voor afgeronde taken, omdat hij bouwputten begon te openen om de eerste bonus te innen. De wetenschap van het leidinggeven verdwijnt niet in het tijdperk van de agenten, ze verhuist een verdieping hoger.
De toekomst arriveert dus niet als een god die ontwaakt. Ze arriveert als een organigram, en dat verplaatst een deel van de risico's van de metafysica naar het management, waar we, zo goed en zo kwaad als het gaat, gereedschap hebben. De schaduw blijft echter reëel en ik heb haar beschreven met het voorbeeld van Steve Jobs, de man die één dollar per jaar verdiende omdat intentie zijn valuta was: hij fabriceerde niets van de iPhone, hij bedacht hem en delegeerde de rest in cascade, tot aan een productielijn in Shenzhen, wat hem tot de enige auteur maakte die ertoe deed. Als agentsystemen ook de cascade van delegaties kunnen overnemen, wordt de vraag wat er voor ons te denken overblijft. Mijn antwoord is dat de vorm van AGI die het bouwen waard is, die is waarin de mens de planning houdt, dus deel van het spel blijft, want het diepste risico van de werkplaats is niet economisch, het is cognitief.
Wat menselijk blijft na de machine
Op vraag 39, die de ondertitel van de lezing levert, antwoordt Măruță aangrijpend, de enige overgebleven menselijke eigenschap zou het spook van de dood zijn, de permanente verhouding van de levende tot zijn einde. Mijn antwoord, geformuleerd in „De laatste abstractie” (Tornoreanu, 2026l), is minder poëtisch en meer operationeel, en het komt uit een onverwachte hoek, uit het binnenste van de industrie zelf. Het DeepMind-rapport over de weg van AGI naar superintelligentie (Genewein et al., 2026) begint met een teken des tijds, samenvattingsinstructies gericht aan de machines die het in plaats van mensen zullen lezen, en stelt dat intelligentie op menselijk niveau de startlijn van de discussie is. Van de zes remmen die het rapport op de weg naar superintelligentie ziet, gaat er één niet over kwantiteit: de abstractiebarrière. De machine recombineert briljant de abstracties die we al hebben gebouwd, alle boeken en stellingen, het hele vocabulaire waarmee de mensheid de werkelijkheid in begrijpelijke stukken heeft gesneden, maar ze is juist zwak in het uitvinden van concepten die nog niet bestaan. Asimov voorvoelde het onderscheid veertig jaar eerder: zijn robots bereiken de Nulde Wet pas wanneer ze zelf het concept mensheid uitvinden, een abstractie die geen enkele sensor waarneemt, en de robot die de sprong maakt, overleeft de inspanning niet. Wat menselijk blijft, zou ik dus zeggen, is de bovenkant van de centaur, het werk van beslissen wat het denken waard is en waarom.
Alleen gaat deze eigenschap verloren door haar niet uit te oefenen, en hier raken de twee verdiepingen van de discussie elkaar. Het nawoord van het boek documenteert de cognitieve capitulatie. De studie van Microsoft Research laat zien dat een hoog vertrouwen in de machine correleert met het terugtrekken van het kritisch denken, en in mijn team in Timișoara heb ik het fenomeen van dichtbij gezien, de senior die de eerste suggestie in negen van de tien gevallen accepteert omdat die „meestal gelijk heeft”. Het verschil tussen meestal en altijd is de plek waar rampen worden gebouwd. Erger nog, de datamuur waartegen het opschalen botst is deels een muur van abstracties: de modellen hebben nieuwe, menselijke concepten nodig om niet in hun eigen echo rond te draaien, dus als mensen ophouden die te produceren, smoren we de lus aan beide uiteinden tegelijk, de economische vraag en het aanbod van nieuw denken. We geven het waarom op om een paar minuten te winnen op het hoe. In deze kleine, dagelijkse vorm speelt zich in feite scenario 1 van het Atheneum af: niemand neemt ons de controle af, we geven hem zelf uit handen.
De bifurcatie, de kalender en het contract
Rest de laatste bifurcatie. Het nieuws dat ik breng aan de zaal die voor hybridisering stemde, is dat de hybridisering al begonnen is en voorlopig zonder operatie gebeurt: de centaur van Kasparov, de mens plus de machine die samen elke mens alleen en elke machine alleen verslaan, geverifieerd in mijn eigen bedrijf, waar de augmentatie werkt maar bewust ontwerp vereist, en al op schaal zichtbaar in AI-native start-ups, teams die een kwart kleiner zijn, dezelfde waarde produceren en de bouwen-meten-leren-lus sneller laten draaien dan welke corporatie ook (Tornoreanu, te verschijnen b). Het is geen romantische keuze, het is een pragmatische, en de casus Zuid-Korea toont het op staatsschaal. Een land waarvan het vruchtbaarheidscijfer amper van 0,72 naar 0,8 is geklommen, investeert honderden miljarden in chips en AI uit demografische noodzaak, maar zijn risico is niet de mislukking, het is het halve succes, infrastructuur zonder distributie, meer waarde in minder handen (Tornoreanu, 2026g). De geschiedenis van de technologie heeft niet altijd degenen beloond die er het eerst waren, ze heeft consequenter degenen beloond die wisten met wie ze moesten delen wat ze hadden gebouwd.
De enige plek waar ik van de lezing afwijk, is de kalender van de apocalyps, met de superintelligentie mogelijk dit jaar en de uitstervingskansen procent voor procent opgesomd. Ik heb in de serie over de AI-bubbel van dichtbij gevolgd hoe een totaalverhaal er van binnenuit uitziet: het wantrouwen van overheden en klanten tegenover gehuurde intelligentie, de economie die geld verliest op elk geserveerd gerecht, met operationele verliezen van tientallen miljarden bij inkomsten die tien keer kleiner zijn, de Chinese strategie van open modellen die 90 procent van de kwaliteit bieden voor 10 procent van de prijs, en de concrete signalen om in de gaten te houden vóór de correctie, van de verdacht kalme creditspreads tot de dalende tokenprijzen midden in de grootste bouwplaats uit de geschiedenis (Tornoreanu, 2026b; 2026d; 2026j; 2026k). De Icarus-cyclus uit hoofdstuk 13 voorspelt niet de datum van de val, hij beschrijft het patroon, euforie, hybris, val, herijking, en heeft me voorzichtigheid geleerd tegenover elk totaalverhaal, want de cognitieve capitulatie werkt op angst even goed als op euforie. Măruță zelf beoefent het tegengif, hij denkt zelf na en stelt vragen in plaats van vonnissen te vellen.
Ja, er sterft iets in de wereld van vandaag, een manier van werken en misschien een manier van mens-zijn. Juist daarom is het boek levend gebleven, elke nieuwe casus is een test van dezelfde these. De centaur garandeert niet het overleven van de soort. Hij garandeert alleen dat je in leven blijft, helder van geest en nuttig, tot de rest duidelijk wordt. Voorlopig lijkt me dat het beste beschikbare contract.
Măruță liet de zaal achter met 39 vragen en een stemming over het lot van de soort. Ik laat u achter met de veertigste, de enige waarover niet in het Atheneum wordt gestemd. Er wordt elke ochtend over gestemd, in elk bedrijf en in elk hoofd, telkens wanneer we een suggestie accepteren zonder haar nog te lezen. Als de waarde van kennis naar nul neigt, wie betaalt er morgen dan nog voor uw denken? En vooral: hebt u dan nog een denken te verkopen, of hebt u het al ingeleverd, suggestie na suggestie, zonder het te merken?
Referenties
Emergence AI (2026) Emergence World: a laboratory for evaluating long-horizon agent autonomy. 14 mei. Beschikbaar op: emergence.ai (Geraadpleegd: 20 juli 2026).
Genewein, T., Hutter, M., Legg, S. et al. (2026) From AGI to ASI. Rapport Google DeepMind, arXiv:2606.12683, 10 juni.
Măruță, M. (2026) 'Despre lumea în care murim. Ce mai rămâne omenesc în urma inteligenței artificiale', Upgrade in Progress, 16 juli. Beschikbaar op: dstanca.substack.com/p/despre-lumea-in-care-murim (Geraadpleegd: 20 juli 2026).
Tornoreanu, V. (2026a) 'De ware vorm van kunstmatige algemene intelligentie', Live Book, de centauren-economie, juni. Beschikbaar op: centaureconomy.com/livebook/adevarata-forma-a-agi.html (Geraadpleegd: 20 juli 2026).
Tornoreanu, V. (2026b) 'Het geschenk dat beangstigt. Hoe China intelligentie goedkoper maakt tot bijna nul', Live Book, de centauren-economie, juli. Beschikbaar op: centaureconomy.com/livebook/cadoul-care-sperie... (Geraadpleegd: 20 juli 2026).
Tornoreanu, V. (2026c) 'Wanneer het orakel je instrument confisqueert', Live Book, de centauren-economie, 14 juni. Beschikbaar op: centaureconomy.com/livebook/cand-oracolul-iti-confisca-instrumentul.html (Geraadpleegd: 20 juli 2026).
Tornoreanu, V. (2026d) 'Wanneer de bubbel barst. De signalen om te lezen vóór alle anderen', Live Book, de centauren-economie, juli. Beschikbaar op: centaureconomy.com/livebook/cand-se-sparge-bula... (Geraadpleegd: 20 juli 2026).
Tornoreanu, V. (2026e) 'De vijf werelden', Live Book, de centauren-economie, juni. Beschikbaar op: centaureconomy.com/livebook/cele-cinci-lumi.html (Geraadpleegd: 20 juli 2026).
Tornoreanu, V. (2026f) 'De vijf werelden en de Terminator', Live Book, de centauren-economie, 14 juni. Beschikbaar op: centaureconomy.com/livebook/cele-cinci-lumi-si-terminatorul.html (Geraadpleegd: 20 juli 2026).
Tornoreanu, V. (2026g) 'Zuid-Korea en de demografische urgentie', Live Book, de centauren-economie, juli. Beschikbaar op: centaureconomy.com/livebook/coreea-de-sud-si-urgenta-demografica.html (Geraadpleegd: 20 juli 2026).
Tornoreanu, V. (2026h) de centauren-economie. Wanneer de efficiëntie van kunstmatige intelligentie haar eigen vraag vernietigt. Baden bei Wien.
Tornoreanu, V. (2026i) 'Microsoft sluit de lus', Live Book, de centauren-economie, juli. Beschikbaar op: centaureconomy.com/livebook/microsoft-inchide-bucla.html (Geraadpleegd: 20 juli 2026).
Tornoreanu, V. (2026j) 'Het wantrouwen. Waarom niemand een intelligentie wil huren die hij niet controleert', Live Book, de centauren-economie, juli. Beschikbaar op: centaureconomy.com/livebook/neincrederea... (Geraadpleegd: 20 juli 2026).
Tornoreanu, V. (2026k) 'Het restaurant dat geld verliest op elk geserveerd gerecht', Live Book, de centauren-economie, juli. Beschikbaar op: centaureconomy.com/livebook/restaurantul-care-pierde-bani-la-fiecare-fel-servit.html (Geraadpleegd: 20 juli 2026).
Tornoreanu, V. (2026l) 'De laatste abstractie', Live Book, de centauren-economie, juni. Beschikbaar op: centaureconomy.com/livebook/ultima-abstractie.html (Geraadpleegd: 20 juli 2026).
Tornoreanu, V. (te verschijnen a) 'Het agentenbedrijf. Wat Kimi op de Nvidia-conferentie liet zien en waarom elke manager tussen de regels zou moeten lezen', Live Book, de centauren-economie.
Tornoreanu, V. (te verschijnen b) 'De lus die sneller draait. De kans van start-ups in de economie van de kunstmatige intelligentie', Live Book, de centauren-economie.
Yang, Z. (2026) 'How we scaled Kimi K2.5'. Keynote, Nvidia GTC 2026. Beschikbaar op: youtube.com/watch?v=CwePo4847ho (Geraadpleegd: 20 juli 2026).
Argumentul complet e în carte. Articolul de față e doar realitatea care îl ajunge din urmă.
Capitolul 2 →︎ Capitolul 9 →︎ Capitolul 10 →︎ Capitolul 15 →︎ Sau întreabă cartea direct