Senator kritikuje veto na zakon o bezbednosti AI u Kaliforniji
Senator Scott Wiener i Veto Guvernera Gavin Newsoma na istorijski zakon o sigurnosti AI
Senator Scott Wiener, autor istorijskog kalifornijskog zakona o sigurnosti AI (SB 1047), odgovorio je na veto guvernera Gavina Newsoma na zakon. Zakon je imao za cilj uspostavljanje prvih u državi sigurnosnih mera za velike modele veštačke inteligencije, uključujući zahteve za sigurnosno testiranje, ugradnju 'prekidača' i zaštitu uzbunjivača. Takođe je predloženo stvaranje CalCompute-a, javnog cloud klastera za podršku razvoju odgovornih AI sistema.
Wiener je kritikovao veto, navodeći da ostavlja kompanije koje razvijaju moćne AI tehnologije bez zakonskih propisa, uprkos priznavanju stvarnih i brzo rastućih rizika koje ti modeli predstavljaju za javnost. Naglasio je da dobrovoljne obaveze industrije nisu dovoljne i da je nužno regulatorno nadgledanje kako bi se zaštitila javna sigurnost i budućnost planete.
Guverner Newsom je vetoirao zakon navodeći zabrinutost da bi mogao ugušiti inovacije i izbaciti AI kompanije iz Kalifornije. Tvrdio je da zakon nameće stroge standarde čak i na osnovne funkcije AI sistema, što može stvoriti lažni osećaj sigurnosti u vezi sa kontrolom tehnologije. Newsom je takođe izrazio svoju posvećenost regulaciji AI, ali je naglasio potrebu za nijansiranijim pristupom koji uzima u obzir specifične rizike i kontekste u kojima se AI sistemi koriste.
Veto ima značajne implikacije za vlasnike poslovanja zainteresovane za AI. Naglašava stalnu raspravu o potrebi za regulatornim nadgledanjem u brzo evoluirajućoj AI industriji. Dok neki tvrde da bi strogi propisi mogli ometati inovacije, drugi veruju da su snažni bezbednosni mehanizmi ključni za ublažavanje potencijalnih katastrofalnih uticaja naprednih tehnologija AI. Diskusija oko SB 1047 podigla je globalni razgovor o sigurnosti AI, a principi zakona mogu uticati na buduće regulatorne napore u drugim jurisdikcijama.
Za vlasnike poslovanja, ovaj članak je relevantan jer ističe važnost razmatranja kako prednosti, tako i rizika razvoja AI. Naglašava potrebu za balansiranim propisima koji štite javnu sigurnost, a istovremeno omogućavaju inovacije. Veto takođe ukazuje na to da se lideri industrije i političari bore sa pitanjem kako upravljati brzim napretkom AI tehnologija, što će verovatno oblikovati buduće poslovne strategije i regulatorne okruženja.