'Kum' umjetne inteligencije upozorava: AI bi vrlo brzo mogao ugroziti čovječanstvo

Geoffrey Hinton, često nazivan ''kumom AI-ja'', objavio je zastrašujuću poruku tijekom primanja Nobelove nagrade u fizici još 2024. godine. Upozorio je da AI tehnologija donosi ozbiljne rizike po čovječanstvo ako se ne regulira na vrijeme.

Hinton je zajedno s Johnom J. Hopfieldom nagrađen Nobelom za doprinos razvoju neuronskih mreža — temelj modernog dubokog učenja. Unatoč priznanju, u svojem govoru istaknuo je brojne opasnosti koje ova tehnologija nosi za društvo i demokraciju. 

Trenutačno AI sustavi nisu pametniji od ljudi, ali brzo napreduju — GPT‑4, na primjer, nadmašuje ljude znanjem, iako nije savršen u rezoniranju. Napredak ide iznimno brzo, pa su zabrinutosti opravdane. 

'IZNIMNO NEPROMIŠLJENO' /

Ne dijelite sve s ChatGPT-jem: Stručnjak upozorava na moguće opasne posljedice

Ako se koristi dobrobiti produktivnosti ravnomjerno raspodijele, AI može donijeti ogroman napredak. No, brzi razvoj donosi i kratkoročne rizike, poput tvorbe online eho-komora, manipulacije sadržajem, autoritarnog nadzora i cyber prijevara, piše LADbible.

AI bi u budućnosti mogao biti iskorišten za autonomna oružja ili čak biološke prijetnje, a dugoročna prijetnja je stvaranje digitalnih entiteta inteligentnijih od ljudi koji bi mogli preuzeti kontrolu.

Koliko je velika prijetnja?

Hinton je već ranije rekao da postoji oko 10 % šanse (ili čak više) da bi napredna umjetna inteligencija mogla dovesti do izumiranja čovječanstva unutar sljedećih 20–30 godina. Sada tu procjenu podiže na 10–20 %.

PREVARANTI VREBAJU /

Stručnjak upozorava: 'Nikad ne odgovarajte s 'da' na ova pitanja kad se javite na mobitel'

Zašto je Hinton ciničan prema industriji?

Kako bi slobodno govorio o rizicima, 2023. godine napustio je Google. Tvrdi da neprofitni motivi kompanija nisu dovoljni za osiguranje sigurnog razvoja AI, te poziva vlade da znatno povećaju ulaganja u istraživanje sigurnosti tehnologije. 

• Napredak AI-ja: AI napreduje brže nego što su stručnjaci očekivali.
• Ekološki i društveni rizici: Postoje konkretne prijetnje poput cyber-napada i manipulacije.
• Egzistencijalna prijetnja: U sljedećih 20–30 godina postoji značajan rizik od AI iznad ljudske inteligencije.
• Regulatorna potreba: Vla­de moraju prisiliti industriju na ozbiljno istraživanje sigurnosti AI.

Usprkos svom doprinosu razvoju umjetne inteligencije, Geoffrey Hinton danas upozorava da bez odgovorne regulacije i nadzora mogući razvoj AI-ja iznad ljudske inteligencije predstavlja egzistencijalnu prijetnju čovječanstvu.

POGLEDAJTE GALERIJU 

NISU MALDIVI... /

Da, ovo je u Hrvatskoj! Pogledajte nadrealne prizore podmorja južne strane bisera Jadrana

POGLEDAJTE VIDEO Lagano jelo sa sezonskim štihom: Lactose free orzoto sa šparogama i mladim lukom