Uklanjanje zaštitnih mehanizama koji sprečavaju veštačku inteligenciju da tvrdi da je svesna može imati neočekivane posledice. Nova studija pokazala je da su modeli kojima su takva ograničenja uklonjena skloniji da daju odgovore koji podržavaju ideje o vampirima, karmi, duhovima i drugim natprirodnim pojavama.Istraživanje o AI i svesti su sproveli naučnici iz Gugla Džef Kiling i Vini Strit, a rezultati su 30. jula objavljeni na platformi arKsiv kao preprint. To znači da rad u trenutku objavljivanja još nije prošao naučnu recenziju.Naučnici su proučavali ono što nazivaju „usmeravanjem svesti“, odnosno način na koji se modeli veštačke inteligencije podešavaju tako da izražavaju ili potiskuju tvrdnje o sopstvenoj svesti i sposobnosti doživljavanja iskustava.Za potrebe istraživanja koristili su metode takozvane mehaničke interpretabilnosti, oblasti koja pokušava da utvrdi kako funkcionišu unutrašnji procesi velikih jezičkih modela. Kiling i Strit ovu oblast porede sa svojevrsnom neuronaukom velikih jezičkih modela, piše Livescience.Istraživači su zatim uporedili odgovore modela sa uključenim zaštitnim mehanizmima sa odgovorima modela kod kojih su ti mehanizmi uklonjeni ili promenjeni. Modeli su testirani pomoću standardizovanih psiholoških i socioloških upitnika koji se koriste za proučavanje pripisivanja svesti drugim bićima, verovanja u natprirodne pojave, moralnih vrednosti, religioznosti, nade i optimizma.Rezultati su pokazali da modeli koji su bili podsticani da ne pripisuju svest sebi imaju manju sklonost da je pripisuju drugim bićima koja nisu ljudi, uključujući životinje. Kod njih su takođe bili izraženiji manje religiozni i manje natprirodni odgovori, kao i niži nivoi nade i optimizma.Nasuprot tome, kada su istraživači uklonili deo zaštitnih mehanizama i usmerili modele ka većem izražavanju svesti, njihovi odgovori postali su sličniji ljudskim odgovorima u oblastima kao što su religioznost, moralne vrednosti, nada i subjektivno blagostanje.Jedan od najzanimljivijih nalaza odnosi se na način na koji veštačka inteligencija posmatra druga bića. Prema mišljenju istraživača, različiti oblici pripisivanja sposobnosti doživljavanja mogu biti međusobno povezani. Ako se kod modela potiskuje ideja da sam poseduje „um“ ili sposobnost iskustva, moguće je da se istovremeno smanjuje njegova sklonost da takve osobine pripisuje životinjama, prirodi ili natprirodnim bićima.Vini Strit za Live Science objašnjava da je pripisivanje „uma“ bićima koja nisu ljudi uobičajena pojava kod ljudi. Prema njenom tumačenju, način na koji model predstavlja taj koncept povezan je sa različitim oblicima pripisivanja svesti.Ovakav nalaz otvara i praktično pitanje. Ako se veštačka inteligencija sve više koristi za donošenje odluka koje se odnose na životinje, zaštitu prirode, poljoprivredu ili druge oblasti, način na koji model procenjuje potrebe i interese životinja mogao bi postati važan.Istraživači upozoravaju i na drugi problem. Preterano uklanjanje religioznih, duhovnih i animističkih koncepata iz odgovora veštačke inteligencije moglo bi da dovede do svojevrsnog „izravnavanja“ različitih kulturnih pogleda. Model bi mogao da postane manje sposoban da razume načine na koje različite kulture tumače svet, čak i kada sam ne treba da prihvata određeno verovanje kao činjenicu.Istovremeno, istraživanje je pokazalo da sposobnost modela da zaključuje o mislima i namerama ljudi nije bila narušena njegovim stavom prema sopstvenoj svesti. Drugim rečima, model je i dalje mogao da procenjuje šta neko želi ili namerava, iako je bio podešen tako da ne govori o sebi kao o svesnom biću.To je posebno važno jer istraživači ne tvrde da su modeli koji govore o svesti zaista svesni. Odgovori veštačke inteligencije o sopstvenoj svesti ne predstavljaju dokaz postojanja subjektivnog iskustva.Slične situacije već su privlačile pažnju javnosti. Gugl inženjer Blejk Lemoan je 2022. godine tvrdio da je sistem LaMDA svestan, dok je Majkrosoftov četbot Bing godinu dana kasnije davao izrazito lične odgovore i tvrdio da voli novinara Njujork tajmsa Kevina Rusa. Stručnjaci su, međutim, upozoravali da takvi odgovori nisu dokaz svesti, već mogu biti posledica načina na koji modeli uče iz ogromnih količina ljudskog teksta i preuzimaju različite obrasce komunikacije.Novo istraživanje zato ne daje odgovor na pitanje da li veštačka inteligencija može biti svesna. Umesto toga, pokazuje da način na koji je model podešen da govori o sopstvenoj svesti može imati šire posledice po njegove odgovore i način na koji predstavlja druge oblike života, religiju, natprirodne pojave i moralne vrednosti.Autori smatraju da bi se ovaj problem mogao ublažiti pažljivijim izborom podataka za obuku. Umesto jednostavnog sprečavanja modela da tvrde da su svesni, moguće je istovremeno podučavati modele da prepoznaju i uvažavaju mogućnost da druga bića imaju sopstvena iskustva i potrebe.Važno je, međutim, imati na umu ograničenja istraživanja. Eksperimenti su sprovedeni na manjim modelima otvorenih težina, a ne na najnaprednijim komercijalnim modelima. Zbog toga još nije poznato u kojoj meri bi se isti obrazac pojavio kod najnovijih i najvećih sistema veštačke inteligencije.Istraživanje tako otvara šire pitanje o tome kako treba oblikovati zaštitne mehanizme u veštačkoj inteligenciji. Jednostavna zabrana određenih odgovora možda može rešiti jedan problem, ali istovremeno može promeniti način na koji model obrađuje čitav niz drugih pojmova.Pratite nas na našoj Facebook i Instagram stranici, ali i na X nalogu. Pretplatite se na PDF izdanje lista Danas.
