Rasprave o vještačkoj inteligenciji često se svode na strah od trenutka kada će mašine postati pametnije od ljudi i početi da djeluju izvan naše kontrole. Međutim, možda se najveća opasnost ne krije u superinteligenciji, već u sistemima koji nijesu toliko pametni koliko mislimo, a kojima ipak povjeravamo sve više odluka.
Pojam „superinteligencija“ ponovo je dospio u središte rasprave o vještačkoj inteligenciji, izazivajući i podsmijeh dijela stručnjaka koji već godinama upozoravaju na moguće katastrofalne posljedice njenog razvoja. Ironija je u tome što se administracija koja napada takozvane AI pesimiste istovremeno služi jezikom koji podsjeća na njihove najpoznatije teorije.
Za one koji duže prate debatu o vještačkoj inteligenciji, superinteligencija je pojam koji se neizbježno povezuje s knjigom švedskog filozofa Nika Bostroma Superintelligence, objavljenom 2014. godine. To djelo postalo je jedno od ključnih štiva za ljude koji smatraju da bi razvoj inteligencije koja nadmašuje ljudske sposobnosti mogao predstavljati egzistencijalnu prijetnju čovječanstvu.
Bostromovo upozorenje počiva na ideji da bi sistem koji postane daleko sposobniji od ljudi mogao ostvarivati ciljeve koje nijesmo predvidjeli ili koji nijesu u skladu s našim interesima. Problem ne bi nužno bio u tome što bi vještačka inteligencija bila zlonamjerna, već u tome što bi mogla biti izuzetno efikasna u ostvarivanju cilja koji je pogrešno postavljen.
Ipak, takvi scenariji ostaju predmet rasprave, a superinteligencija nije neizbježan ishod razvoja tehnologije. Mnogo neposredniji rizici već su vidljivi: sistemi koji izmišljaju činjenice, reprodukuju predrasude, donose nepouzdane procjene ili navode ljude da im vjeruju više nego što zaslužuju.
U tome se možda krije stvarni paradoks vještačke inteligencije. Ne moramo čekati da mašine postanu nadljudski inteligentne da bi napravile ozbiljnu štetu. Dovoljno je da budu dovoljno uvjerljive da im povjerimo važne odluke, a istovremeno dovoljno nepouzdane da griješe na načine koje ne primjećujemo.
Zato bi pitanje trebalo da bude manje usmjereno na to hoće li AI jednog dana postati pametnija od čovjeka, a više na to zašto smo spremni da joj prepustimo toliko moći dok još ne razumijemo pouzdano njene granice.
Najveća opasnost dakle možda nije superinteligentna mašina koja nadmudruje čovječanstvo, već nesavršena mašina kojoj čovječanstvo povjerava previše.
