Google Gemini ma problem z przedstawianiem wydarzeń historycznych. Wszystko przez walkę z rasizmem.
W ostatnich miesiącach sztuczna inteligencja szturmem podbiła świat i dała się poznać jako doskonałe narzędzie praktycznie do wszystkiego. AI w obecnej formie ma jednak kilka problemów. Jednym z nich okazała się tendencja do eksponowania pewnych uprzedzeń rasowych zawartych w materiałach, na których dostępne obecnie modele były trenowane. Google pracując nad Gemini było tej przypadłości świadome i wprowadziło środki mające jej przeciwdziałać. Tyle tylko, że chyba coś nie wyszło...
Gemini zostało zaprojektowane w taki sposób, by faworyzować inkluzywność. W efekcie generując obrazy z wykorzystaniem sztucznej inteligencji zobaczymy na nich przedstawicieli różnych ras i płci, nawet jeśli nie taka reprezentacja nie pojawiała się w oryginalnych materiałach źródłowych.
Jak jednak donoszą internauci, ten sprytny plan doprowadził do szeregu kuriozalnych, a chwilami wręcz niepokojących sytuacji. Przykładowo, w jednym z postów na platformie X autor zwraca uwagę na wygenerowane przez Gemini zdjęcia niemieckich żołnierzy z czasów II wojny światowej, wśród których znaleźli się nie tylko blondyni o jasnej karnacji i niebieskich oczach, ale także osoby czarnoskóre i Azjaci. Podobny efekt można uzyskać, np. prosząc o obraz przedstawiający amerykańskich Ojców Założycieli.
This is not good. #googlegemini pic.twitter.com/LFjKbSSaG2
— John L. (@JohnLu0x) February 20, 2024
Nietypowe zachowanie Gemini spotkało się z w większości uzasadnionym oburzeniem ze strony internautów. Nie tylko dlatego, że wliczanie w poczet nazistów raczej nie jest tym rodzajem inkluzywności, o jaki walczyły całe rzesze aktywistów. Większym problemem jest to, że generowane w ten sposób treści mogą i najpewniej będą przyczyniać się do zakłamywania historii.
Google odniosło się do zamieszania i przyznało, że popełniło błąd. W oświadczeniu na platformie X przedstawiciele giganta przyznali, że w obecnej iteracji Gemini ma problem z przedstawianiem scen oraz postaci historycznych i już pracują nad tym, by to poprawić. Jednocześnie jednak firma murem stoi za wdrożonymi rozwiązaniami, mającymi zapewnić bardziej zróżnicowaną reprezentację na generowanych obrazach.
I generalnie inicjatywa Google zasługuje w tym przypadku na pochwałę. Pozostaje jedynie trzymać kciuki, by została ona wcielona w życie lepiej niż do tej pory, bo aktualnie twórczość Gemini to chyba najlepszy dowód na to, że nadgorliwość jest gorsza od faszyzmu.
Zobacz: Google odpala Gemini 1.5. Tak wydajnie jeszcze nie było
Zobacz: Zamiast Barda jest Gemini. Google wprowadza nową płatną subskrypcję
Źródło zdjęć: pixinoo / Shutterstock.com
Źródło tekstu: The Verge
