Portal Gizmodo prześwietlił rynek aplikacji stworzonych na stronie OpenAI i udostępnionych przez niezależnych twórców i społeczność. Wyniki śledztwa są zatrważające.
"Najlepsze modele GPT będą stworzone przez społeczność" - szumnie zapowiadało OpenAI w listopadzie 2023 roku. Co się okazało dziewięć miesięcy potem? Gizmodo wykazało, że wiele z modeli GPT (Generative Pre-trained Transformer - wstępnie przeszkolone transformatory generatywne) przeczyło regulaminowi cyfrowego sklepu OpenAI - czyli specjalnej sekcji, w której można pobierać tworzone przez społeczność GPT.
Znalazły się tam między innymi chatboty do generowania pornografii z AI, czy też unikania narzędzi wykrywających tekst napisany przez AI lub takie, które oferowały porady prawne i medyczne, a nawet rozwiązania powiązane z hazardem.
OpenAI ma problem z moderacją i egzekwowaniem własnych zasad
Istnienie tego typu modeli GPT na rynku OpenAI stanowi bezpośrednie zaprzeczenie zasad, które firma sama wprowadziła. Startup zakazywał używania technologii do celów tworzenia treści seksualnych, porad prawnych i medycznych, propagowania oszustw w edukacji, pomagania w hazardzie lub też impersonowania innych osób (deepfake), a także ingerowania w systemy wyborcze.
Problemy te już były wcześniej podnoszone przez media, ale najwyraźniej OpenAI nie radzi sobie z moderacją. W przypadku porad prawnych może być to szczególnie szkodliwe, gdyż badania z Uniwersytetu Stanforda wykazały, że w ponad połowie instancji jeśli chodzi o zapytania tego typu - chatboty "halucynowały", czyli podawały zmyślone informacje. Łącznie Gizmodo wykryło ponad 100 GPT, które stanowiły naruszenie zasad OpenAI, a w wielu przypadkach były wykorzystywane dziesiątki tysięcy razy (każdy z osobna). Firma po ujawnieniu listy przez portal usunęła GPT z rynku, ale szkody zostały już wyrządzone.
W tym momencie deweloperzy chatbotów/GPT udostępnianych na rynku OpenAI nie otrzymują żadnych profitów, ale startup chciał w przyszłości umożliwić ich monetyzację. Milton Mueller, szef projektu Internet Governance z Georgia Institute of Technology uważa, że to przewrotne, że OpenAI ma "apokaliptyczną wręcz wizję tego, że AI zbawi świat, a nie potrafi poradzić sobie z czymś tak prostym jak wyplenienie porno botów ze sklepu".
Mueller uważa, że jeśli OpenAI naprawdę chce stworzyć prężny ekosystem, to nie wystarczy dodać kilka linijek kodu, aby blokować pewne słowa-klucze, a trzeba do tematu podejść w głębszy sposób, ze znacznie większym zaangażowaniem.
Zobacz:
Źródło zdjęć: Stokkete / Shutterstock.com
Źródło tekstu: Gizmodo, opr. wł.
