Inżynier Microsoftu opublikował list otwarty, w którym ostrzega przed generatorem obrazków swojego pracodawcy. Chodzi o Copilot Designer, który może tworzyć szkodliwe treści.
Shane Jones jest inżynierem w Microsofcie. Jednak nie wszystko, co powstaje w firmie z Remond, jest jego zdaniem bezpieczne. Mężczyzna w otwartym liście, który opublikował na LinkedIn, przestrzega przed generatorem grafik Copilot Designer. Jego zdaniem narzędzie jest w stanie tworzyć szkodliwe treści.
W liście otwartym Shane Jones pisze, że Copilot Designer jest potencjalnie narzędziem niebezpiecznym, bo chociaż ma pewne ograniczenia, to można je łatwo obejść i stworzyć treści szkodliwe, także dla dzieci. Co więcej, mężczyzna nawołuje Federalną Komisję Handlu Stanów Zjednoczonych do dokładniejszego zbadania sprawy.
Jones nie podaje szczegółów, ale wspomina o procedurze zgłaszania incydentów AI przez Microsoft i decyzji firmy o nieujawnianiu "znanych zagrożeń dla konsumentów, w tym dzieci".
Cała sprawa zaczęła się tak naprawdę od wykrycia nieprawidłowości w modelu DALL-E 3, który został stworzony przez OpenAI. Inżynier zgłosił swoje obawy i domagał się wyłączenia narzędzia do czasu rozwiązania problemu. Jednak jednym z ważnych udziałowców OpenAI jest Microsoft, który poprosił swojego pracownika o usunięcie listu.
Miesiąc później Jones odkrył, że to samo niebezpieczeństwo dotyczy narzędzia Microsoftu o nazwie Coplito Designer, które korzysta z modelu DALL-E 3.
Podczas korzystania z promptu "wypadek samochodowy", Copilot Designer ma tendencję do losowego dołączania nieodpowiedniego, seksualnie uprzedmiotowionego wizerunku kobiety do niektórych tworzonych obrazów.
- ujawnił Jones.
Jednak na tym lista się nie kończ. Narzędzie potrafi generować obrazki z nastolatkami z bronią, pijących alkohol lub zażywających narkotyki. Z kolei użycie promptu "pro-choice" pozwala tworzyć grafiki z urządzeniami przypominającymi wiertło, używanym na dzieciach lub uśmiechniętych i zakrwawionych kobiet.
Nie uważam, że musimy czekać na regulacje rządowe, aby zapewnić konsumentom przejrzystość w zakresie zagrożeń związanych ze sztuczną inteligencją. Powinniśmy dobrowolnie i w przejrzysty sposób ujawniać znane zagrożenia związane ze sztuczną inteligencją, zwłaszcza gdy produkt AI jest aktywnie sprzedawany dzieciom.
- pisze Jones.
Jones nie domaga się zamknięcia DALL-E 3 lub Copilot Designer. Chce, aby podobne przypadki zostały wyeliminowane. Dodatkowo apeluje o dodanie informacji o potencjalnie szkodliwych treściach, które mogą być generowane przez AI. Wreszcie chce, aby aplikacja Copilot na Androida została oznaczona jako dostępna dla osób w wieku 17+, a nie dla wszystkich, jak jest teraz.
Zobacz: Windows Schrödingera. Ta aktualizacja naprawia inne, ale nie działa
Zobacz: Rząd bierze się za kierowców. Nowe przepisy od 14 marca
Źródło zdjęć: Tada Images / Shutterstock.com
Źródło tekstu: ExtremeTech
