Sztuczna inteligencja rozwija się w tym momencie jak rak w praktycznie niekontrolowany, niebezpieczny dla nas wszystkich sposób. Kalifornia chce mieć na to wyłącznik bezpieczeństwa.
Protokoły bezpieczeństwa nie są niczym nowym w branży IT, natomiast w przypadku narzędzi i globalnej sile rażenia, do których śmiało można zaliczyć ChatGPT, wydają się wręcz czymś oczywistym. Stąd właśnie projekt ustawy SB 1047, który miałby uregulować rynek AI na terenie stanu Kalifornia.
Tematem zapalnym jest narzędzie pozwalające w uzasadnionych sytuacjach odłączać serwery sztucznej inteligencji — swojego rodzaju wyłącznik awaryjny. OpenAI otwarcie jednak krytykuje cały projekt ustawy, a nie tylko pojedyncze jego aspekty.
W liście upublicznionym przez Politico, kierowanym do gubernatora Kalifornii Gavina Newsoma oraz innych ustawodawców, dwóch byłych pracowników OpenAI krytykuje sprzeciw firmy. William Saunders i Daniel Kokotajlo napisali:
Dołączyliśmy do OpenAI, ponieważ chcieliśmy zapewnić bezpieczeństwo niezwykle potężnym systemom AI, które firma rozwija. Ale odeszliśmy z OpenAI, ponieważ straciliśmy zaufanie, że firma będzie bezpiecznie, uczciwie i odpowiedzialnie rozwijać swoje systemy AI [...].
Rozwój czołowych modeli AI bez odpowiednich środków ostrożności wiąże się z przewidywalnym ryzykiem katastrofalnej szkody dla społeczeństwa.
Jak przy tym słusznie punktują autorzy listu, Sam Altman, CEO OpenAI wielokrotnie i publicznie popierał koncepcję regulacji AI, w tym podczas zeznań przed Kongresem.
W oświadczeniu przesłanym do Business Insidera rzecznik OpenAI twierdzi, że to wszystko to nadinterpretacja. Firma jest chętna do dyskusji nad SB 1047 i przemyślanej debaty. Stanowczo nie zgadzamy się z błędną interpretacją naszego stanowiska wobec SB 1047 - kwituje rzecznik firmy.
Zobacz: Karmienie sztucznej inteligencji publicznymi danymi to błąd
Zobacz: Meta z darmową wersją sztucznej inteligencji. My nie dostaniemy
Źródło zdjęć: Media Whale Stock / Shutterstock
Źródło tekstu: Business Insider, Politico, oprac. wł
