Pozivamo sve laboratorije za veštačku inteligenciju da odmah obustave obuku AI sistema koji su moćniji od GPT-4, najmanje šest meseci. Ova pauza treba da bude javna i proverljiva i da uključuje sve ključne aktere. Ako se takva pauza ne može brzo sprovesti, vlade treba da preduzmu korake i uvedu moratorijum.

Ovo je deo iz peticije za obustavu razvoja AI sistema[1] koje je do sada potpisalo 26222 poznatih imena.

AI pitanje 1

Peticija za obustavljanje razvoja AI, jačeg od GPT-4. U ovom trenutku potpisalo 26222 ljudi, mnogi stručnjaci u AI oblasti.

U peticiji između ostalog stoji: Sistemi veštačke inteligencije sa ljudsko-kompetentnom inteligencijom mogu predstavljati duboke rizike po društvo i čovečanstvo, kao što je pokazano kroz opsežna istraživanja i priznato od strane vodećih AI laboratorija. Napredna AI bi mogla da predstavlja duboku promenu u istoriji života na Zemlji i trebalo bi da se planira i upravlja odgovarajućom pažnjom i resursima. Nažalost, ovakav nivo planiranja i upravljanja se ne dešava, a poslednjih meseci laboratorije za AI zaključane u nekontrolisanom trku da razvijaju i implementiraju sve moćnije digitalne umove koje niko - čak ni njihovi tvorci - ne mogu da razumeju, predvide ili pouzdano kontrolišu.

Potpisnici peticije:

Filozofi Seth Lazar (Laboratorija za mašinsku inteligenciju i normativnu teoriju ANU), James Maclaurin (direktor Centra za AI i javnu politiku na Otago Univerzitetu) i Huw Price (Kembridž, bivši direktor Leverhulme centra za budućnost inteligencije), naučnici Yoshua Bengio (direktor Mila - Quebec AI instituta na Univerzitetu u Montrealu), Victoria Krakovna (DeepMind, suosnivač Future of Life Institute), Stuart Russell (direktor Centra za inteligentne sisteme na Berkliju) i Max Tegmark (MIT centar za veštačku inteligenciju i fundamentalne interakcije), kao i tehnološke preduzetnike kao što su Elon Musk (SpaceX, Tesla, Twitter), Jaan Tallinn (suosnivač Skypa, suosnivač Centra za proučavanje egzistencijalnog rizika na Kembridžu) i Steve Wozniak (suosnivač Applea), i mnogi drugi.

 

Da li nam preti opasnost od AI? 

Svaka nova tehnologija je donosila opasnosti, žrtve i tragedije. Npr, pojava motornih vozila i ostalih transportnih sredstava. Zatim upotreba električne energije, itd. Čovek, postajući svestan cene nove tehnologije, uvodio je pravila, ograničenja, u njihovom korišćenju i tako ih je, smanjujući cenu korišćenja, kako tako usaglasio sa svojim potrebama.

Društveno socijalni uticaj

AI će sigurno dovesti do nestajanje mnogih radnih mesta, ali uvek su nove tehnologije dovodile da nestajanja jednih, i otvaranja novih radna mesta. Kočijaši su nestali, sa samovezećim kamionima nestaće i njihovi šoferi. I pored svih tehnoloških skokova koje smo imali, nalazimo se u stanju konstantnog manjka radne snage. Barem u zapadnom svetu. U obrazovanju AI će biti veliki izazov. Doći će do velikih promena. Pisanje domaćih zadataka, radova, seminara, diplomskih radova, verovatno i magistarskih radova i doktorata gubiće smisao. Način predavanja i ispitivanja će se promeniti. Polagaće se usmeno, što je zahtevnije za obe strane, ali i bolje. Zabavna industrija, filmska i kompjuterskih igara (u SAD zajedno obrću 300 milijardi dolara godišnje) će oberučke prihvatiti AI i preći na novi nivo proizvodnje i zarade. 

SF scenariji

Široko omiljen SF serijal Terminator je jedan od glavnih uzročnik straha od AI. Svakome je tako lako da zamisli AI umetnut u humanoidnog robota opremljenog oružijem velike vatrene moći. I da predvidi apokalipsu. Recimo i da se pojave takvi roboti i da krenu da pucaju po ulicama. Gde je najverovatnije da će se pojaviti? Naravno u SAD, pošto je tamo razvoj AI i robota otišao najdalje. Krenu oni da pucaju po ulicama. Šta će ljudi da rade, da se sede ili da izvade svojih 400 miliona komada vatrenih oružija kojim raspolaže narod u SAD, i uzvrate vatru i naravno unište one koji stoje iza sprovođenja ideje da naoružaju robote.

AI pitanje 4

Robotizovani AI. Arhetip ljudskog straha od AI. 

Ali Terminator ne donosi samo robotizovanog AI, nego SkyNet, kompjuterska mreža koja može da upravlja nuklearnim potencijalom. Ako se ljudi odluče da prepust odluku o lansiranju nukleranih bombi na veštačku inteligenciju, nije tu problem ili krivac AI, nego su ljudi. Ludi ljudi. Za sada se ljudi koji imaju vlast da  odluče o upotrebi nuklearnog naoružanja nisu pokazali ludim. Sa izuzecima, mislima na upotrebu atomske bombe protiv Japana i osiromašenog uranijuma u Prvom i Drugom Zalivskom ratu, BIH, tzv. Kosovu, Avganistanu i Iraku. Problem je u čoveku, što on poseže za sredstvima za masovno uništavanje. Ti ljudi, pošto imaju najveću vlast, oni neće dozvoliti da im AI preuzme vlast - ni nad čim.

Mask: radite ono što vam kažem, ne ono što činim

Najnoviji izveštaj[2] kaže da Ilon Mask, jedan od potpisnika peticije, nabavlja hiljade Nvidia procesorskih kartice koje su neophodne za obuku AI. 

Sigurno je da su mnoga imana, potpisnici peticije, iskreno zabrinuti i da stoje iza onoga što kažu. Ali Mask ne deluje tako. OpenAI sa svojim ChatGPT i GPT-4 je bitno ispred svojih konkurenata. Ako ste probali neki od drugih jezičkih modela, očigledno se vidi da su dve verzije GPT-a primetno bolje. Vreme je strašan faktor u eksploziji razvoja AI koja se upravo dešava. 6 meseci je dug vremenski period u kome Mask verovatno računa, a i ostali igrači, da će moći stići GPT, samo da GPT stane na 6 meseci. U podnaslovu peticije je imenovan GPT-4, ne ostali jezički modeli. 

AI pitanje 3

Na stranici poe.com možete uporediti rad nekoliko različitih jezički modela - baza znanja,

Umesto peticije za obustavljanje razvoja, bolje bi bilo da se predložilo iznalaženju načina za transparentnost, međusobnu i državnu kontrolu i regulativu. Na primer za ChatGPT se znaju neki podaci o njegovoj unutrašnjosti, npr da ima 175 milijardi parametara, 2048 ulaznih tokena i generiše do 2048 izlaznih tokena u jednom prolazu... Ali kako je OpenAI prešao u ruke Microsofta, od reči Open u OpenAI, nije ostalo ni slova O, postao je CloseAI, tako da se ništa ne zna o unutrašnjosti GPT-4. Najvažnije je da svaki AI bude otvorenog koda, ako se želi da služi na dobrobiti čovečanstva. Što znamo da je manja šansa. Veća je da služi na dobrobit vlasnika kompanija. A kako se geopolitička sukobljenost između Zapada i Jugoistoka povećava, to je još jedan razlog protiv AI otvorenog koda.

Kada je sve počelo?

Vratimo se na početak, Bog je rekao Adamu, sve možeš da kušaš ali ne i sa ovog drveta. Adam je pao pod iskušenje, kušao je, savršeni svet u kome je živeo, nestao je, bio je bačen na neplodnu zemlju na kojoj je morao u znoju lica svog da se bori da preživi. Možda je AI to naše drvo danas. Da li će AI, naše dalje ulaganje u njega, nas baciti na pustu tvrdu zemlju, gde ćemo se boriti za opstanak? Ne znamo, ne možemo znati, ali ljudska priroda je takva da želi da sazna. 

AI pitanje 2

Zagrižena jabuka. Od Adama, preko Epl kompanije, do veštačke inteligencije. Plod koji se možda ne sme zagristi.

Giordano Bruno je 1600. godine spaljen u Rimu jer je zagrizao jabuku znanja i tvrdio da Zemlja nije centar svemira, i tvrdio je da u svemiru ima bezbroj zvezda i planeta(. Pokušaj katoličke crve da njegovim spaljivanjem spreči dalji razvoj astronomije i ostalih nauka nije uspeo.

Da li je došlo do prihvatanja peticije i obustave razvoja AI? Očekivano, nije. Očigledno, čovek mora ići ka svojoj AI sudbini.

[1] https://futureoflife.org/open-letter/pause-giant-ai-experiments/

[2] https://www.youtube.com/watch?v=PjlXGlK6XnI

 


Komentari

  • Baki said More
    Naučnici smatraju da je doba... 1 dan ranije
  • boriss said More
    Bravo,nek vam uspije!Lepo od vas!lp Boris 2 dana ranije
  • Baki said More
    Pročitao sam ovo i mislim da je... 3 dana ranije
  • Dragan Tanaskoski said More
    @Miško Oko toga nema nikakve dileme. I... 4 dana ranije
  • ljubica said More
    kakve su nam misli, takav nam je... 5 dana ranije

Foto...