Kalifornija susilpnina įstatymo projektą, kad būtų išvengta AI nelaimių prieš galutinį balsavimą, atsižvelgiant į Anthropic patarimus

Kalifornijos įstatymo projektas, kuriuo siekiama užkirsti kelią AI nelaimėms, SB 1047, sulaukė didelio daugelio Silicio slėnio partijų pasipriešinimo. Šiandien Kalifornijos įstatymų leidėjai šiek tiek pasilenkė šiam spaudimui ir pridėjo keletą pakeitimų, kuriuos pasiūlė AI įmonė Anthropic ir kiti oponentai.

Ketvirtadienį įstatymo projektas buvo priimtas per Kalifornijos asignavimų komitetą, o tai yra svarbus žingsnis siekiant tapti įstatymu, su keliais esminiais pakeitimais, „TechCrunch“ praneša senatoriaus Wienerio biuras.

„Mes priėmėme keletą labai pagrįstų siūlomų pakeitimų ir, manau, išsprendėme pagrindinius Anthropic ir daugelio kitų pramonės atstovų išsakytas problemas“, – sakė senatorius Wieneris „TechCrunch“ pranešime. „Šie pakeitimai grindžiami reikšmingais SB 1047 pakeitimais, kuriuos padariau anksčiau, kad atitiktų unikalius atvirojo kodo bendruomenės poreikius, o tai yra svarbus naujovių šaltinis.

SB 1047 vis dar siekia neleisti didelėms AI sistemoms nužudyti daug žmonių arba sukelti kibernetinio saugumo įvykių, kainuojančių daugiau nei 500 mln. Tačiau įstatymas dabar suteikia Kalifornijos vyriausybei mažiau įgaliojimų reikalauti AI laboratorijų atskaitomybės.

Ką dabar daro SB 1047?

Svarbiausia, kad įstatymo projektas nebeleidžia Kalifornijos generaliniam prokurorui paduoti į teismą dirbtinio intelekto įmones dėl aplaidžios saugos praktikos, kol neįvyko katastrofiškas įvykis. Tai buvo Anthropic pasiūlymas.

Vietoj to, Kalifornijos generalinis prokuroras gali prašyti uždraudimo, prašydamas įmonės nutraukti tam tikrą veiklą, kurią ji laiko pavojinga, ir vis tiek gali paduoti į teismą dirbtinio intelekto kūrėją, jei jo modelis sukelia katastrofišką įvykį.

Be to, SB 1047 nebekuria Frontier Model Division (FMD), naujos vyriausybės agentūros, kuri anksčiau buvo įtraukta į sąskaitą. Tačiau įstatymo projektu vis tiek sukuriama Pasienio modelių valdyba – FMD branduolys – ir įtraukiama į esamą Vyriausybės operacijų agentūrą. Tiesą sakant, valdyba dabar didesnė – vietoj penkių dirba devyni žmonės. Pasienio modelių valdyba vis tiek nustatys taikomų modelių slenksčius, išleis saugos gaires ir reglamentus auditoriams.

Senatorius Wieneras taip pat pakeitė SB 1047, kad dirbtinio intelekto laboratorijoms nebereikėtų teikti saugos bandymų rezultatų sertifikatų „už bausmę už melagingus parodymus“. Dabar šios AI laboratorijos tiesiog privalo pateikti viešus „pareiškimus“, kuriuose būtų išdėstyta jų saugos praktika, tačiau įstatymo projektas nebeužtraukia baudžiamosios atsakomybės.

SB 1047 taip pat dabar yra švelnesnė kalba apie tai, kaip kūrėjai užtikrina, kad dirbtinio intelekto modeliai būtų saugūs. Dabar įstatyme reikalaujama, kad kūrėjai teiktų „pagrįstą priežiūrą“ AI modeliai nekelia didelės rizikos sukelti katastrofą, o ne „pagrįstą patikinimą“, kurio reikalaujama anksčiau.

Be to, įstatymų leidėjai pridėjo atvirojo kodo tiksliai suderintų modelių apsaugą. Jei kas nors išleidžia mažiau nei 10 milijonų JAV dolerių tiksliai suderintam modeliui, pagal SB 1047 jis aiškiai nelaikomas kūrėju. Atsakomybė vis tiek teks pirminiam, didesniam modelio kūrėjui.

Kodėl visi pakeitimai dabar?

Nors įstatymo projektui prieštaravo JAV kongresmenai, garsūs dirbtinio intelekto tyrinėtojai, „Big Tech“ ir rizikos kapitalistai, Kalifornijos įstatymų leidėjas įstatymo projektas buvo priimtas gana lengvai. Tikėtina, kad šios pataisos nuramins SB 1047 priešininkus ir pateiks gubernatoriui Newsomui mažiau prieštaringą įstatymo projektą, kurį jis gali pasirašyti neprarandant AI pramonės paramos.

Nors Newsomas viešai nekomentavo SB 1047, jis anksčiau nurodė savo įsipareigojimą Kalifornijos AI naujovėms.

Nepaisant to, šie pakeitimai vargu ar nuramins atkaklius SB 1047 kritikus. Nors įstatymo projektas yra žymiai silpnesnis nei prieš šiuos pakeitimus, SB 1047 vis dar laiko kūrėjus atsakingais už jų AI modelių keliamus pavojus. Šis esminis faktas apie SB 1047 nėra visuotinai palaikomas, ir šie pakeitimai mažai padeda tai išspręsti.

Kas toliau?

SB 1047 dabar nukreipiamas į Kalifornijos asamblėjos aukštą galutiniam balsavimui. Jei jis bus priimtas, dėl šių naujausių pataisų jis turės būti grąžintas Kalifornijos Senatui, kad jis balsuotų. Jei jis atitiks abu veiksmus, jis pateks į gubernatoriaus Newsomo stalą, kur jis gali būti vetuotas arba pasirašytas įstatyme.