Čovječanstvo je vrlo vjerojatno najgluplja pojava u svemiru. Za takav zaključak postoji bezbroj neoborivih dokaza koji se stoga mogu nabrajati u nedogled. Ratovi, gramzivost, samouništenje… Ipak je danas najluđa (najgluplja) noć u godini, pa nećemo kvariti raspoloženje. Iako kažu da je kozmos beskonačan, te kako u njemu izgledno postoji nepoznato veliki broj različitih oblika života o kojemu mi nemamo pojma, opet je teško zamisliti da je neka vrsta koja sebe smatra inteligentnim oblikom života doista toliko izrazito neinteligentna. O tome govori i sljedeći podatak.
Naime, Geoffrey Hinton, britansko-kanadski informatičar kojega su prozvali za jednog od tzv. ‘kumova umjetne inteligencije’, dobio je čak i jednu od najvećih ljudskih priznanja za to navodno dostignuće – Nobelovu nagradu. Ta se nagrada dodjeljuje ljudima koji su navodno među najinteligentnijima među ljudima.
Ipak, jedan od kreatora onoga što danas nazivamo umjetnom inteligencijom šokirao je prije par dana svijet svojim intervjuom BBC-u u kojem tvrdi kako bi ta ista umjetna inteligencija mogla uništiti čovječanstvo u sljedeća tri desetljeća.
Odnosno – 29 godina.
Mi smo trogodišnjaci
-Tempo promjena u tehnologiji je puno brži od očekivanog – inteligentno je uočio.
Profesor Geoffrey Hinton, koji je ove godine dobio Nobelovu nagradu za fiziku za svoj rad u umjetnoj inteligenciji , rekao je da postoji “10% do 20%” šanse da će umjetna inteligencija dovesti do izumiranja ljudi u sljedeća tri desetljeća, prenose svi svjetski mediji, pa i The Guardian.
Inače, ranije je kum Hinton govorio kako postoji 10% šanse da ta tehnologija izazove katastrofalan ishod za čovječanstvo. Sad je odjednom udvostručio šanse da umjetna inteligencija uništi čovječanstvo.
Hm, znači li to kako bi sutra ‘kum’ koji se okomio na ‘kumče’ mogao objaviti kako su šanse da UI sprži čovječanstvo već sutra 40 posto, a prekosutra 80 posto?
Naime, upitan u emisiji Today na BBC Radiju 4 je li promijenio svoju analizu potencijalne UI apokalipse i šanse jedan od 10 da se to dogodi, rekao je: “Da promjenio sam. Nije više 10% nego 20%.”
-Pogledajte… Nikada prije nismo imali posla s nečim što je inteligentnije od nas. A koliko primjera znate da inteligentniju stvar kontrolira manje inteligentna stvar? Primjera je jako malo. Tu su primjerice majka i beba. Evolucija je uložila mnogo truda da dopusti bebi da kontrolira majku, ali to je otprilike jedini primjer za koji znam. Ljudi su poput male djece u usporedbi s inteligencijom vrlo moćnih UI sustava. Volim o tome razmišljati ovako: zamislite sada sebe i trogodišnjaka. U tom svijetu mi smo trogodišnjaci – rekao je ‘kum’ Hinton.
Inače, umjetnu inteligenciju se definira tako što se kaže kako su to računalni sustavi koji obavljaju zadatke koji obično zahtijevaju ljudsku inteligenciju.
‘Nisam mislio…’
-UI je sposobnost nekog uređaja da oponaša ljudske aktivnosti poput zaključivanja, učenja, planiranja i kreativnosti. Umjetna inteligencija omogućuje tehničkim sustavima percipiranje okruženja, uzimanje u obzir onog što vide i rješavanje problema kako bi postigli neki cilj. Računalo prima podatke (koji su već pripremljeni ili prikupljeni s pomoću vlastitih senzora, npr. fotoaparata), obrađuje ih i daje odgovore. Sustavi umjetne inteligencije mogu u određenoj mjeri prilagoditi svoje ponašanje analiziranjem prethodnih situacija i samostalnim radom. – veli službena definicija UI-e Europske unije.
Prošle godine, Hinton je dospio na naslovnice nakon što je dao ostavku na posao u Googleu kako bi otvorenije govorio o rizicima koje nosi nekontrolirani i nesputani razvoj umjetne inteligencije, navodeći zabrinutost da bi “loši ljudi” mogli koristiti tu tehnologiju da naude drugima.
Ne bi to bilo prvi put. Prisjetimo se dinamita, nuklearne energije, medicinskih i farmaceutskih dostignuća, interneta… Ključna zabrinutost boraca za sigurnost umjetne inteligencije je da bi stvaranje opće umjetne inteligencije ili sustava koji su pametniji od ljudi moglo dovesti do toga da tehnologija predstavlja egzistencijalnu prijetnju, te kako će poželjeti izbjeći ljudsku kontrolu.
Pametan zaključak.
Upitan kako je zamišljao razvoj umjetne inteligencije kada je tek počeo raditi na tehnologiji, Hinton je priznao: “Nisam mislio da će biti ovako kako je sada. Mislio sam da ćemo tek znatno kasnije, u nekom puno daljem trenutku u budućnosti doći do ovdje“.
-Kume, kume… pa di ti je bila pamet – rekli bi u narodu.
Geofrey protiv UI-e
Bizarna je činjenica da ‘inteligentniji ljudi’ stvore nešto što će ih na koncu doći glave. Ukratko, reklo bi se da stvaranje takvog sustava nije bio nimalo inteligentan potez, te da se moglo i prije zaključiti kako bi takvo što moglo predstavljati ozbiljnu opasnost za opstanak čovječanstva.
S druge strane gledajući, možda i to nije tako glupo, možda je to i bolje za svemir u cjelini – ako se osvrnemo na betežnu i krvavu povijest, kaotičnu sadašnjost, te posve neizvjesnu budućnost ljudske vrste.
-Situacija u kojoj se sada nalazimo je takva da većina stručnjaka na tom području misli da ćemo nekada, vjerojatno u sljedećih 20 godina, razviti umjetnu inteligenciju koja je pametnija od ljudi. I to je vrlo zastrašujuća pomisao. Tempo razvoja je vrlo, vrlo brz, mnogo brži nego što sam očekivao. Pozivam da vlade krenu s regulacijom tehnologije. Brinem se da nas nevidljiva ruka neće zaštititi. Stoga samo prepuštanje motivima velikih tvrtki i njihovoj jagmi za profitom neće biti dovoljno da se osigura siguran razvoj. Jedina stvar koja može natjerati te velike tvrtke da više istražuju sigurnost u primjeni UI-e je državna regulativa.- zaključio je Hinton.
Tko je ovo napisao?
Inače, Hinton je jedan od trojice “kumova umjetne inteligencije” koji su za svoj rad osvojili nagradu ACM AM Turing – računalni ekvivalent Nobelove nagrade. Međutim, jedan od tog trojca, Yann LeCun, glavni znanstvenik za umjetnu inteligenciju u Meti Marka Zuckerberga, umanjio je egzistencijalnu prijetnju i rekao da bi umjetna inteligencija “zapravo mogla spasiti čovječanstvo od izumiranja”.
Tko je od njih dvojice u pravu?
Što vi mislite?
Kako znate da ovaj tekst nije napisala umjetna inteligencija u namjeri da vas na zadnji dan 2024. godine zaplaši i destabilizira i tako ubrza propast čovječanstva?
Ma nije (valjda).
‘Kum umjetne inteligencije’ Hinton
