V nadaljevanju preberite:
- Modeli umetne inteligence so postali sposobni samostojnega izboljševanja.
- Tveganja so resna, ker gre za izjemno zmogljivo tehnologijo.
- Poziva, da se omogoči možnost "upočasnitve ali začasne zaustavitve razvoja" tehnologije.
"Upočasniti moramo tempo, s katerim izboljšujemo zmogljivosti modelov umetne inteligence," je Dario Amodei zapisal v objavi na svoji spletni strani.
Kot je opozoril, se je razvoj umetne inteligence v zadnjih mesecih drastično pospešil, modeli umetne inteligence pa so postali sposobni samostojnega izboljševanja. "Če tega ne bomo nadzorovali, bi lahko razvoj prehitel našo sposobnost razumevanja in nadzora teh sistemov," je opozoril.
Umetna inteligenca prinaša resna tveganja
Tako kot številne tehnologije pred njo tudi umetna inteligenca prinaša tveganja; ker gre za izjemno zmogljivo tehnologijo, so ta tveganja resna, je zapisal. Posvaril je, da bi lahko umetno inteligenco zlorabili za kibernetske napade, bioterorizem in povzročanje hudih gospodarskih motenj. "Tekma v smeri zniževanja standardov, ki jo poganjajo komercialni motivi, lahko ta tveganja še zaostri," je opozoril.
Sporočilo je Amodei objavil le nekaj dni po tem, ko je raziskovalec pri podjetju Anthropic Jacob Coxon napovedal odhod iz tega kalifornijskega zagonskega podjetja in ga obtožil podcenjevanja eksistencialnega tveganja, ki ga umetna inteligenca predstavlja za človeštvo. Coxon je opozoril, da vodilni razvijalci umetne inteligence ravnajo neodgovorno in se igrajo s človeškimi življenji ter da bodo kmalu na voljo računalniški sistemi, katerih zmogljivosti bodo presegle človeške.
Želijo upočasnitev razvoja UI
Amodei se z izjavo pridružuje prejšnjemu pozivu podjetja Anthropic iz začetka junija, naj se ključnim akterjem na področju umetne inteligence omogoči možnost "upočasnitve ali začasne zaustavitve razvoja" te tehnologije.
Tudi direktor OpenAI Sam Altman je konec julija opozoril, da je treba upočasniti razvoj umetne inteligence in "podjetju dati dovolj časa, da se prilagodi novim zmogljivostim".
V zadnjem obdobju več incidentov
Pozivi so sledili julijskemu kibernetskemu incidentu, v katerem so agenti umetne inteligence OpenAI na lastno pest in povsem samostojno vdrli v platformo s področja umetne inteligence Hugging Face. Kot so takrat pojasnili v OpenAI, se je incident zgodil med internim testiranjem, namenjenim preverjanju njihovih naprednih kibernetskih zmogljivosti. Podoben primer se je julija zgodil tudi podjetju Anthropic, ki je razvilo model umetne inteligence Claude.
V odziv na te incidente je več kot 1000 zaposlenih v tehnološki industriji podpisalo peticijo, s katero so pozvali ameriško vlado, naj podpre usklajeno upočasnitev razvoja najnaprednejših sistemov umetne inteligence.
Zadeva je odšla izpod nadzora. Denarja zmanjkuje.. https://youtu.be/IS3cSF7JjNk
hudičevo hitro bi takoj ukinili vso UI če bi prvi ki bi ga zamenjala bil - direktor.
Mislim, da ima možakar prav, vendar je prepozno, da bi jo ustavili. Iluzija je misliti, da se bodo vsi strinjali s tem. Morda z besedami, ne pa z dejanji.