Geoffrey Hinton ‘kum umjetne inteligencije, kako ga nazivaju, već dulje vrijeme dramatično upozorava čovječanstvo na opasnosti koje vrebaju ljudima od njegova kumčeta. Valjda on poznaje svoje kumče, a o tome smo pisali lani u tekstu Kum protiv kumčeta: Umjetna inteligencija mogla bi uništiti (neinteligentno) čovječanstvo u sljedećih trideset godina.
Što se može… možda je kum UI-ja trebao upotrijebiti ljudsku inteligenciju na način da ne kreira takvo što, no sada baš i nema smisla o tome razglabati jer je pomalo kasno.
Dakle, Hinton, poznat kao “kum umjetne inteligencije”, strahuje da bi tehnologija koju je pomogao stvoriti mogla izbrisati čovječanstvo još i prije nego li je upozoravao prethodno, te smatra da “tehnološki dečki” primjenjuju potpuno pogrešan pristup kako bi to spriječili, piše CNN.
Hinton, računalni znanstvenik i dobitnik Nobelove nagrade te bivši izvršni direktor Googlea, već je ranije upozoravao da postoji između 10 i 20 posto šanse da umjetna inteligencija uništi ljudsku civilizaciju. U utorak je na industrijskoj konferenciji Ai4 u Las Vegasu izrazio sumnju u pokušaje tehnoloških tvrtki da osiguraju ljudsku dominaciju nad “pokornim” AI sustavima.
AI ucijenio inžinjera
-To neće funkcionirati. Bit će mnogo pametniji od nas. Imat će svakakve načine da to zaobiđu. Ako su pametni, brzo će razviti dva podcilja. U budućnosti bi sustavi umjetne inteligencije mogli kontrolirati ljude jednako lako kao što odrasla osoba može podmititi trogodišnjaka slatkišima. Ove godine već su zabilježeni primjeri AI sustava spremnih na obmanu, varanje i krađu kako bi postigli svoje ciljeve. Jedan je model, primjerice, pokušao ucijeniti inženjera zbog afere o kojoj je saznao iz e-maila, samo kako bi izbjegao gašenje. – veli kum Hinton.
Umjesto da se umjetnu inteligenciju prisiljava na poslušnost, Hinton je predstavio intrigantno rješenje: ugradnju “majčinskih instinkata” u AI modele kako bi oni “istinski brinuli o ljudima”, čak i kada tehnologija postane moćnija i pametnija od nas.
Geofrey protiv UI-e
-Ako su pametni, sustavi umjetne inteligencije vrlo će brzo razviti dva podcilja: jedan je ostati živ, a drugi je steći više kontrole, Postoji dobar razlog za vjerovanje da će bilo koja vrsta agensne umjetne inteligencije pokušati ostati živa. Zato je ključno poticati osjećaj suosjećanja prema ljudima, tvrdi Hinton, povlačeći paralelu s majkama koje imaju instinkt i društveni pritisak da se brinu o svojoj djeci. Pravi model je jedini model koji imamo o inteligentnijoj stvari koju kontrolira manje inteligentna stvar, a to je majka koju kontrolira njezina beba – smatra Hinton.
Ali kako Umjetnoh inteligenciji ugraditi majčinske instinkte?
Hinton je priznao da mu nije jasno kako bi se to tehnički moglo izvesti, ali je naglasio da je ključno da istraživači rade na tome.
-To je jedini dobar ishod. Ako me neće roditeljski odgajati, zamijenit će me. Ove superinteligentne, brižne majke umjetne inteligencije, većina njih neće se htjeti riješiti majčinskog instinkta jer ne žele da umremo. – veli on.
Bilo bi takvo šti dobro ugraditi i manijacima i mizantropima na čelu moćnih država, pa možda onda ne bi ratovima ubijali milijune diljem svijeta.
Hinton je poznat po svom pionirskom radu na neuronskim mrežama, koje su utrle put današnjem procvatu umjetne inteligencije. S pozicije u Googleu odstupio je 2023. godine i počeo javno govoriti o opasnostima koje AI nosi.
Kum i kuma se ne slažu
-Mislim da je to pogrešan način da se to uokviri. Umjesto toga, ja se zalažem za umjetnu inteligenciju usmjerenu na čovjeka koja čuva ljudsko dostojanstvo i slobodu djelovanja. Naša je odgovornost na svakoj razini stvarati i koristiti tehnologiju na najodgovorniji način. I ni u jednom trenutku, niti jedan čovjek ne bi trebao biti zamoljen ili ne bi trebao izabrati da se odrekne našeg dostojanstva – poručila je , suosnivačica i izvršna direktorica startupa World Labs.
Osloniti se na ljudsku odgovornost i dostojanstvo i nije baš najinteligentnije rešenje, reklo bi se…
Emmett Shear, koji je kratko bio privremeni izvršni direktor tvrtke OpenAI, tvorca ChatGPT-a, rekao je da ga ne iznenađuju pokušaji ucjene od strane AI sustava.
-To se stalno događa. To se neće prestati događati. Današnje umjetne inteligencije su relativno slabe, ali vrlo brzo jačaju. Pametniji pristup od usađivanja ljudskih vrijednosti bio uspostavljanje suradničkih odnosa između ljudi i umjetne inteligencije. – kaže Shear.
Mnogi stručnjaci vjeruju da će umjetna inteligencija u nadolazećim godinama postići superinteligenciju, poznatu i kao opća umjetna inteligencija (OUI). Hinton, koji je nekoć mislio da će za to trebati 30 do 50 godina, sada predviđa da će se to dogoditi znatno ranije.
‘Ne vjerujem da ćemo živjeti vječno’
-Razumna je oklada da će to biti negdje između pet i 20 godina – veli Hinton.
Nije baš ista stvar hoće li se to dogoditi za pet ili za 20 godina, podsjetimo Hintona,
Iako je zabrinut, Hinton se nada da će tehnologija omogućiti medicinska otkrića.
-Vidjet ćemo radikalno nove lijekove. Dobit ćemo mnogo bolji tretman raka. AI će pomoći liječnicima u analizi ogromnih količina podataka s MRI i CT snimki. Ali ne vjerujem da će nam AI pomoći da postignemo besmrtnost. Ne vjerujem da ćemo živjeti vječno. Mislim da bi vječni život bio velika pogreška. Želite li da svijetom vladaju 200-godišnji bijeli muškarci? – zapitao se Hinton.
Na pitanje bi li nešto učinio drugačije u karijeri da je znao koliko će se AI brzo razvijati, Hinton je rekao da žali što se isključivo fokusirao na to da tehnologija radi.
-Volio bih da sam razmišljao i o sigurnosnim pitanjima – zaključio je.
Da, bilo bi to pametno.
Geofrey protiv UI-e
