Nie żyje krytyk sztucznej inteligencji. Popełnił samobójstwo
Nie żyje prominentny krytyk OpenAI. Dyskusje o sztucznej inteligencji będą jeszcze gorętsze.
Świat gorąco dyskutuje o tym, jak sztuczna inteligencja traktuje materiały objęte prawami autorskimi. Temperatura jeszcze się podniosła po tym, jak Suchir Balaji popełnił samobójstwo. Był jednym z czołowych architektów ChatGPT – produktu który zmienił świat.
ChatGPT łamie prawo i jest nieetyczny
Balaji pracował w OpenAI przez prawie cztery lata, do sierpnia 2024. Ze stanowiska zrezygnował z powodu obaw etycznych, o czym mówił w wywiadzie dla New York Times w październiku.
Niedługo przed tragiczną śmiercią 26-latek ujawnił światu wyzwania prawne i etyczne, przed jakimi staje rozwijanie sztucznej inteligencji. W szczególności zwrócił uwagę na to, w jaki sposób OpenAI i podobne firmy gromadzą niewyobrażalne ilości danych, by uczyć na nich swoje modele. Zakwestionował uczciwość i legalność ich działania.
Takie systemy jak GPT-4 generują własne odpowiedzi na podstawie materiałów źródłowych i uczą się, robiąc pełne kopie danych szkoleniowych. Czy to uczciwe, należy rozpatrywać indywidualnie, biorąc pod uwagę kontekst i licencję materiałów. Nie można wrzucić wszystkiego do jednego worka i zasłaniać się korzystnym precedensem Google Books. Wygenerowane odpowiedzi też zasadniczo nie są nowe.
Ponadto modele sztucznej inteligencji często generują informacje fałszywe. Nierzadko były uczone na tekstach z błędami. Jeśli zaś brakuje im informacji, zamiast się przyznać, generują bzdury. Balaji zaznaczył, że przez to internet zmienia się na gorsze, w miarę jak sztuczna inteligencja zastępuje tradycyjne usługi. W swoich apelach podkreślał też, że krytykuje nie tylko byłego pracodawcę, ale całą branżę.
Wydawcy mediów internetowych pozywają OpenAI i Microsoft (inwestora) o łamanie praw autorskich z różnymi skutkami. Balaji nawoływał badaczy maszynowego uczenia do interwencji i dokładniejszej analizy zjawiska. Niewykluczone, że myśl o tym, jakiego potwora pomógł stworzyć, doprowadziła go na skraj wytrzymałości.
Balaji został znaleziony martwy w swoim mieszkaniu w San Francisco 26 listopada 2024 roku. W chwili pisania artykułu nadal nie ma dowodów na udział osób trzecich w jego śmierci. OpenAI wyraził żal z powodu śmierci byłego pracownika.
