Sunday, January 23rd, 2022

Izračuni kažejo, da bo nemogoče nadzorovati super inteligentno umetno inteligenco

Ideja o umetna inteligenca o strmoglavljenju človeštva se je govorilo za mnogo desetletij, januarja 2021 pa so znanstveniki izdali svojo razsodbo o tem, ali bomo lahko nadzorovali računalniško super inteligenco na visoki ravni. Odgovor? Skoraj zagotovo ne.

Ulov je v tem, da bi nadzor nad inteligenco, ki je daleč onkraj človeškega razumevanja, zahteval simulacijo te superinteligentnosti, ki jo lahko analiziramo. Toda če tega ne moremo razumeti, je nemogoče ustvariti takšno simulacijo.

Pravil, kot je “ne škodi ljudem”, ni mogoče določiti, če ne razumemo vrste scenarijev, ki jih bo pripravila AI, predlagajo avtorji članka iz leta 2021. Ko računalniški sistem deluje na ravni, ki presega obseg naših programerjev, ne moremo več postavljati omejitev.

“Super inteligenca predstavlja bistveno drugačen problem od tistih, ki se običajno preučujejo pod zastavo ‘robotske etike’,” so zapisali raziskovalci.

“To je zato, ker je superinteligenca večplastna in je zato potencialno sposobna mobilizirati raznovrstne vire, da bi dosegla cilje, ki so ljudem potencialno nerazumljivi, kaj šele nadzorovani.”

Del razmišljanja ekipe izhaja iz problem ustavljanja ki ga je leta 1936 predlagal Alan Turing. Problem se osredotoča na to, ali bo računalniški program prišel do zaključka in odgovora (zato se ustavi) ali pa se preprosto ustavi, da ga bo večno poskušal najti.

Kot je Turing dokazal skozi nekatere pametna matematika, čeprav lahko vemo, da je za nekatere specifične programe logično nemogoče najti način, ki bi nam omogočil, da to vemo za vsak potencialni program, ki bi ga bilo mogoče napisati. To nas pripelje nazaj k umetni inteligenci, ki bi v super inteligentnem stanju izvedljivo shranila vse možne računalniške programe v svojem spominu hkrati.

Vsak program, napisan za preprečevanje AI škodovanja ljudem in uničevanja sveta, na primer, lahko pride do zaključka (in se ustavi) ali ne – matematično je nemogoče, da bi bili tako ali tako popolnoma prepričani, kar pomeni, da ga ni mogoče zadržati.

“V bistvu to naredi algoritem zadrževanja neuporaben,” je dejal računalničar Iyad Rahwan, januarja z Inštituta Max-Planck za človekov razvoj v Nemčiji.

Raziskovalci pravijo, da alternativa temu, da umetno inteligenco poučimo o etiki in ji rečemo, naj ne uniči sveta – nekaj, česar noben algoritem ne more biti popolnoma prepričan – je omejitev zmožnosti superinteligentnosti. Lahko je na primer odrezan od delov interneta ali določenih omrežij.

Nedavna študija zavrača tudi to idejo in namiguje, da bi omejila doseg umetna inteligenca – Argument pravi, da če ga ne bomo uporabljali za reševanje problemov, ki so zunaj dosega ljudi, zakaj bi ga potem sploh ustvarjali?

Če bomo nadaljevali z umetno inteligenco, morda sploh ne vemo, kdaj pride superinteligenca, ki je nenadzorovana, taka je njena nerazumljivost. To pomeni, da moramo začeti nekaj spraševati resna vprašanja o smereh, po katerih gremo.

“Super inteligentni stroj, ki nadzoruje svet, zveni kot znanstvena fantastika,” je dejal računalniški znanstvenik Manuel Cebrian, z Inštituta za človekov razvoj Max-Planck. “Vendar že obstajajo stroji, ki samostojno opravljajo določene pomembne naloge, ne da bi programerji popolnoma razumeli, kako so se tega naučili.”

“Zato se postavlja vprašanje, ali bi to lahko v nekem trenutku postalo neobvladljivo in nevarno za človeštvo.”

Leave a Reply

Your email address will not be published. Required fields are marked *