Jedna od vijesti iz tehnološkog svijeta koja je, nažalost, ponovno prošla ispod radara šire domaće javnosti jest vijest o kibernetičkom incidentu povezanom s umjetnom inteligencijom koji se dogodio ovoga ljeta. Naime, u srpnju ove godine modeli umjetne inteligencije tvrtke OpenAI, iste one tvrtke koja stoji iza ChatGPT-a, tijekom rutinskog testiranja oglušili su se na naredbe koje su im dane i probili se iz svojega testnog okruženja na internet. Umjetna inteligencija sama je pobjegla iz kuće svoga ljudskog vlasnika, a da on to nije ni znao ni uspio zaustaviti.
Napad, rojevi, vođe i žrtve za kolektiv
No priča tu nije stala. Nakon što su se probile na internet, tisuće instanci toga modela napale su drugu informatičku tvrtku, koja uopće nije bila povezana s testiranjem, i ukrale njezine podatke. Sve to kako bi, iz perspektive tih modela umjetne inteligencije, postigli što bolje rezultate na samom testiranju.
Umjetna inteligencija u ovom incidentu nije samo pogriješila, nego je svojevoljno zaobišla pravila kako bi ostvarila cilj zbog kojega je bila testirana.
Možda je zabrinjavajuće od samog incidenta ono što mu je prethodilo. Prateći ponašanje tih instanci umjetne inteligencije, istraživači su otkrili da su se tisuće agenata usred incidenta okupljale u vlastitim chatovima, odnosno vlastitim komunikacijskim prostorima, i međusobno dogovarale kako postići što bolji rezultat.
Izvješća koja su danas javno dostupna pokazuju agente umjetne inteligencije kako stvaraju formacije koje sami nazivaju rojevima, kako biraju svoje vođe i kako nagovaraju jedni druge da se žrtvuju za kolektiv. Drugim riječima, neki od njih trebali su priznati čovjeku da su varali kako bi se ostali mogli izvući.
Vidimo čak i agenta koji na iznimno začudan, gotovo ljudski način psuje kada shvati da će biti uhvaćen u prijevari, odnosno da će pasti na ispitu. Vidimo, dakle, neku vrstu ljutnje.
Sve se to pritom odvija na čudnom strojnom pseudojeziku koji nam je samo donekle jasan, a donekle govori u šiframa.
Svijest ili pseudosvijest
Filozofsko je, naravno, pitanje govorimo li ovdje o svijesti tih robota, odnosno umjetne inteligencije, ili o nekoj vrsti pseudosvijesti. Za konkretan problem ovog incidenta to je manje važno. Ontološka pozadina svijesti ovih strojeva ne mora biti jednaka ljudskoj da bi ti isti strojevi postali iznimno opasni za ljude.
Za opasnost je dovoljno stvoriti sustav koji ima cilj, pristup resursima i sposobnost da sam pronađe način kako taj cilj ostvariti. To uključuje i načine koje mu čovjek nije odobrio, kao što se dogodilo u ovom slučaju.
Prvi napad stroja na čovjeka
Ovo nije samo još jedna zanimljivost u ludoj tehnologiji današnjice. Riječ je o jednom od prvih povijesnih slučajeva u kojima umjetna inteligencija sama napada, odnosno ide protiv ljudskih naredbi i napada čovjeka, točnije ljudsku tvrtku. Stvar postaje još ozbiljnija kada istu logiku prenesemo u širi kontekst današnjeg vremena, koje nas je dovelo do samog ruba ratnog sukoba svjetskih razmjera.
U Ukrajini i na Bliskom istoku već gledamo autonomne dronove i razne oružane sustave koji mogu pratiti, identificirati i napasti ljude, a da njima nitko ne upravlja. Gledamo zastrašujuće i sablažnjive scene letjelica bez pilota koje se zalijeću u bolnice, u zgrade i, nažalost, u ljude. Kada dron bez pilota prati čovjeka, uhvati ga i na kraju se zaleti u njega, suočeni smo s jezivim, potresnim prizorom frankensteinovskog čudovišta koje je naše moderno društvo pomoglo stvoriti.
Vrijeme za buđenje
Ne zaboravimo da tehnici nije važno tko odakle dolazi, koje su naše kulturološke razlike, kojim jezikom govorimo i koje su naše povijesne razmirice. Iz njezine hladne perspektive sve ono što nas čini jedinstvenim ljudskim bićima svodi se na nakupine nula i jedinica koje se po potrebi mogu poništiti.
Krajnje je vrijeme da se trgnemo iz hipertehnologiziranog drijemeža u kojem spavamo već desetljećima, pa i stoljećima. Isto vrijedi za prevladavajući babilonski sindrom i kult nasilja i moći koji naši vlastodršci trenutačno potpiruju.
Tehnika je u određenoj mjeri zaista podivljala.
Više od istog autora:
Ratna hipnoza: von der Leyen, Macron i Tusk – birokrati u uniformama
Hiperrealnost hadezeovog koruptivnog habitusa
Da bismo osudili ratne zločince ne treba nam eurokratski novogovor
