Čelnici šest divova kojima je umjetna umnost postala glavni izvor moći i zarade dogovorili su u Bijeloj kući četiri sloja dobrovoljnog nadzora, no Enron je imao još bolja pravila i svejedno je propao u prijevari.
29. rujna 2026. nakon niza strašnih upozorenja insajdera iz područja umjetne umnosti da bi tehnika mogla dovesti do kraja čovječanstva, šestero čelnika industrije (Anthropic, OpenAI, Google, Meta, xAI i Nvidia) okupilo se u Bijeloj kući kako bi dogovorili sporazum o propisima. Njihov prijedlog uključuje četiri sloja dobrovoljnih nadzora i pregleda, uključujući unutarnje nadzore za sprječavanje hakiranja i neželjena pristupa, unutarnje skupine stručnjaka za nadzor i praćenje predviđenih standarda, neovisne vanjske nadgledatelje i vrjednovatelje te neovisni odbor za primanje izvješća i osiguravanje rješavanja svih problema.
Sve to zvuči dobro. Međutim, prije nego što počnemo slaviti što to znači za budućnost čovječanstva, trebali bismo se, kako je Konfucije upozoravao, malo prisjetiti povijesti.
Enronov poučak
Devedesetih godina XX. stoljeća energijski div Enron donio je opsežan pisani propisnik ponašanja (etički kodeks), osnovao Odbor za pregled i usklađenost, aktivirao interne postupke usklađenosti i provodio godišnje preglede poslova s povezanim stranama. Svake godine Arthur Andersen, jedna od pet vodećih računovodstvenih tvrtki u Americi, pregledavao je tvrtku kako bi osigurao usklađenost. Enron je svake godine s izvrsnim uspjehom prolazio reviziju. Časopis Fortune čak ga je uvrstio među najinovativnije tvrtke u zemlji.
Kako se ispostavilo, Enron je bio najinovativniji u načinu na koji je zaobilazio pravila. Uspjeli su skrivati svoje gubitke sve dok tvrtka nije propala godine 2001., povlačeći za sobom Arthura Andersona. Enron je slijedio sve etičke postupke u svom priručniku, ali je ipak počinio prijevaru. Znakovito je da su njegovi čelnici bili evangelički kršćani.
Slične priče mogle bi se ispričati o Tycu, WorldComu i Lehman Brothersu. Etičke su politike bitne, ali su isto tako bezvrijedne ako su ljudi koji su u njih uključeni neetični. Kad je riječ o umjetnoj umnosti, nadajmo se da se povijest ne rimuje (kao što je Mark Twain rekao: „Povijest se ne ponavlja, ali se često rimuje“).
Učinkoviti altruizam
Prevladavajuća etička teorija među tvrtkama koje se bave umjetnom umnošću jest filozofija zvana „učinkoviti altruizam“ (Effective Altruism, EA), oblik utilitarizma koji se pokušava služiti razumom i dokazima kako bi utvrdio kako maksimizirati dobro učinjeno za svaki potrošeni dolar. To se postiže množenjem vjerojatnosti s veličinom očekivane koristi, što zahtijeva da se sve izrazi količinski.
Samuel Bankman-Fried (rođen 1992.), koji je „priredio jednu od najvećih novčanih prijevara u povijesti“, zagovornik je te filozofije. On je ovako protumačio učinkoviti altruizam: „Postoji nešto vrlo količinsko u načinu na koji gledaš na svijet… Postoji ta vrlo raširena zamisao da na kraju sve pretvoriš u brojke, a zatim odlučiš koja je brojka najveća.“
Učinkoviti altruizam teži stavljati dugoročne koristi ispred neposrednih. Primjerice, ako će nešto ljude stajati života danas, ali će koristiti budućim naraštajima, to treba učiniti. Slično tomu, svesvjetske koristi nadmašuju državne koristi, pa se nacionalni interesi mogu žrtvovati ako bi to koristilo svijetu u cjelini. Isto tako, učinkoviti altruizam uzima u obzir neljudski svijet i, budući da nije jasno jesu li ljudi važniji od rakova, dobrobit škampa za mnoge je zagovornike, jednako važan pothvat kao i bilo koji drugi.
Učinkoviti altruizam doveo je do niza neuspješnih analiza. Primjerice, kao jeftin zahvat radi poboljšanja života u Africi, jedan pothvat učinkovitoga altruizma opskrbio je sela mrežama namočenima u insekticid kako bi se spriječilo širenje malarije. Međutim, mreže su prenamijenjene za ribolov, što je omogućilo onečišćenje vode i itekako pridonosilo prekomjernomu izlovu, posebno zato što su guste mreže hvatale riblju mlađ. To nije bilo uključeno u izračune učinkovitoga altruizma, što ukazuje na to koliko je teško u potpunosti predvidjeti sve dosege i posljedice odluka.
Samuel Bankman-Fried trenutačno čami u američkom saveznom zatvoru zbog prijevare radi maksimizacije profita, navodno kako bi mogao više davati za dobre svrhe. Slom njegove tvrtke FTX i njezina čovjekoljubna fonda FTX Future Fund naštetio je ulagačima i poslao nekoliko ljudi u zatvor. Organizacije učinkovitoga altruizma odrekle su se FTX-a, ali Bankman-Fried bio je jedan od njegovih najistaknutijih podupiratelja.
Krepost se ne da izračunati
Učinkoviti altruizam ima sve probleme utilitarizma pomnožene s ohološću onih koji misle da se sve može izmjeriti i predvidjeti zbog toga koliko su pametni. Nenamjerne posljedice neizbježno će uslijediti. Također, baš kao i Enronu, čak i s boljim namjerama i praksama, etički propusti dogodili su se u tvrtkama koje je nadahnjivao učinkoviti altruizam.
Same po sebi, smjernice dogovorene u Bijeloj kući ne će biti dovoljne da tvrtke koje se bave umjetnom umnošću ostanu poštene. Ljudi moraju biti pošteni i krjeposni, a osobito odgovorni. Učinkoviti altruizam ne može zamijeniti krjepost. Bez istinske predanosti višemu etičkomu standardu, lisice čuvaju kokošinjac.
John Stonestreet i Glenn Sunshine
Povezani članci
John Stonestreet i Timothy D. Padgett, Razgovaranje s pokojnikom preko umjetne inteligencije
John Stonestreet i Shane Morris, Umjetna umnost bez prsa
Luka Goleš Babić, Umjetna inteligencija već je podivljala, samo vam to još nitko nije rekao
Petar Marija Radelj, Papa mladima u Singapuru
Hina, Anthropicov AI agent samostalno slao lažne dojave policiji i podnosio zahtjeve za vize
Od istih suautora
Važnost i nevjerojatna baština Niceje
