Premalo govorimo o izazovima i prijetnjama razvoja i primjene umjetne inteligencije

„Postao sam đavolji odvjetnik AI-ja da upozorim na rizike i izazove, paradoksalno, ali tako ćemo povećati koristi koje ona nudi“, naslov je  intervjua koji je Večernjem listu, sredinom kolovoza, dao predsjednik Uprave Effectus veleučilišta, izv.prof.dr.sc. Robert Kopal.

Povod razgovoru s Tanjom Ivančić, novinarkom Večernjeg lista, je značajan angažman profesora Kopala u području umjetne inteligencije. Kako navodi novinarka u uvodu intervjuu, predsjednik Effectusove uprave je čest govornik i moderator na nizu konferencija o toj temi, a „serijom postova na LinkedInu progovara o rizicima i izazovima AI-ja. Pritom često citira podatke iz knjiga i dokumentaraca jer, kako kaže, nada se da će ih čitatelji pročitati ili pogledati“. Svakako preporučamo da pročitate cijeli tekst, objavljen na tri stranice visokotiražnih dnevnih novina, a mi, u nastavku donosimo dijelove intervjua.

Na pitanje novinarke o najznačajnijim rizicima i izazovima primjene AI-ja, profesor Kopal je, između ostalog, odgovorio: „Ima ih mnogo, no ovom ću prilikom navesti nekoliko ključnih. Prvo, kako je lijepo nobelovac Kahneman elaborirao: “Jasno je da će AI pobijediti, no kako će se ljudi prilagoditi, fascinantan je problem. Kada se linearni ljudi suoče s eksponencijalnom promjenom, neće se moći lako prilagoditi.” Drugo je fenomen AI infodemije. Infodemija je prekomjerna količina informacija o nekom problemu, koja otežava pronalaženje rješenja. A u svakoj infodemiji ljudi primjenjuju heuristike tako da filtriraju informacije sukladno svojim pristranostima i predrasudama. Time nastaje sljedeći paradoks: umjesto da veća količina informacija doprinosi “vlastitom rastu i razvoju”, ona doprinosi “potvrđivanju već uokvirenih stavova”. Dobar je primjer Dunning-Krugerov  efekt pri iznošenju i elaboriranju vlastitog mišljenja o umjetnoj inteligenciji (ChatGPT primjer na slici, izvor HFS Research). Treće, podržavam tvrdnju da bi o pitanju etike AI-ja trebalo raspravljati društvo, a ne samo ili pretežno inženjeri, tehnološki stručnjaci i sl. Kod svake nove tehnologije i inovacije na kraju društvo odlučuje kako bismo je trebali upotrebljavati. Četvrto su (1) pristranosti algoritama i (2) definicije uspješnosti algoritama“, kazao je u intervjuu profesor Kopal.

Na upit kako će AI promijeniti tržište rada te koji su tu izazovi i imamo li kvalitetne podatke za istraživanja, profesor Kopal je odgovorio: “AI će definitivno transformirati tržište rada. Postavlja se pitanje – kako. I tu sad imamo četiri izazova. Prvo, u javnom prostoru vidi se tendencija tumačenja nečijih tuđih provedenih primarnih istraživanja, odnosno podataka, o utjecaju AI-ja na tržište rada, na zanimanja i dr. Pritom se u tom sekundarnom istraživanju pretežno koristi deskriptivna metoda. Dakle, nedostaju podaci. Poglavito što su rezultati nekih provedenih istraživanja kontradiktorni. Drugo, vidi se nedostatak odgovarajuće metodologije. Primjerice, korištenje tehnike alternativnih budućnosti s odgovarajućim driverima. Treće, i opet samoispunjujuće proročanstvo. Tržište rada, AI i samoispunjujuće proročanstvo možemo povezati u četiri faze: (1) imamo određena očekivanja od tržišta rada; (2) očekivanja utječu na naše ponašanje na tržištu rada; (3) naše ponašanje utječe na samo tržište rada te (4) naša očekivanja od tržišta rada se ispune jer se tržište rada ponaša u skladu s našim očekivanjima koja su promijenila naše ponašanje.

„Kako se nositi s rizicima i izazovima AI-ja“, posljednje je novinarsko pitanje u intervjuu. Profesor Kopal je odgovorio: “Da parafraziram izjavu iz jednog dokumentarca. Kad pomislim koliko ljudi radi na tome da AI postane još moćnija tehnologija, shvaćam da ih ima puno. Kad razmislim koliko ljudi radi na tome da AI bude tehnologija sigurna za uporabu, shvatim da ih je mnogo, mnogo manje. Vidim se u toj manjini. Ako ne govorimo o promašajima AI-ja, primjerice slučaju zrakoplova Boeing 737 Max ili MIT studija u primjeni AI-ja u suzbijanju koronavirusa ili slučaju jednog chatbota na Twitteru ili pak promašajima u primjeni AI-ja u mnogim poznatim kompanijama, pridonosimo li ili štetimo daljnjem napretku i razvoju AI-ja? Ili zašto ne govorimo o istraživanjima što govore o mogućem kolapsu AI modela koji nastaje treniranjem na AI generiranom sadržaju (drugim riječima, model se protekom vremena ponaša lošije)? Izazovna je brzina promjene u AI domeni. Dok mi sada razgovaramo, neke stvari zastarijevaju, a neke se pobijaju. Ali, neke se dodatno potvrđuju. Primjerice, naslov Bloombergova članka govori sam za sebe: “Ljudi su pristrani. Generativni AI još je gori”. Ili Reutersov članak: “Hoće li AI biti blagoslov ili prokletstvo?” ili pak Guardianov članak: “Izgleda da postoji još jedan problem s AI-jem – okolišni danak – AI troši goleme količine struje i vode, a problem će se samo pogoršati – što možemo poduzeti?”. Mislim da bismo u javnom prostoru trebali istovremeno promovirati koristi i adresirati rizike i izazove AI-ja. To će u konačnici povećati koristi“, zaključio je profesor Kopal.

Čestitamo profesoru na sjajnom intervjuu, u kome je nesebično dijelio znanje i ukazao nam da budućnost pripada primjeni umjetne inteligencije. Na nama je da prepoznamo njene prilike i da dobro upravljamo rizicima primjene. Više ovdje.