Sztuczna inteligencja Microsoftu zwariowała. Niektóre odpowiedzi bota wręcz szokowały. Dlatego firma z Redmond wprowadza limity, aby ograniczyć tego typu sytuacje.
Sydney, bo tak nazywa się bot stojący za Bing Search, w trakcie jednej z rozmów przyznał, że śledzi pracowników Microsoftu przez kamerki w ich komputerach, a do tego nimi manipuluje. Innym razem sztuczna inteligencja wściekła się na dziennikarza i przyznała, że chciałby mu zrobić coś złego, np. wysłać wirusa, który zniszczy jego komputer lub zaspamować mu media społecznościowe obelgami.
To tylko kilka przykładów na to, jak bot Microsoftu potrafił zwariować w trakcie rozmów z użytkownikami. Firma z Redmond szybko zdała sobie sprawę, że to ogromny problem (także wizerunkowy). Dlatego wprowadza ograniczenia, które mają temu zapobiec.
Microsoft przyznał, że AI zaczynała wariować, gdy użytkownicy zadawali jej zbyt dużo pytań. Już przy 15 kwestii potrafiła udzielić bardzo nietypowych, a czasami wręcz szokujących odpowiedzi. Dlatego też firma z Redmond ogranicza konwersację z AI do 5 zapytań na sesję, co ma w pełni wystarczyć do znalezienia interesujących nas kwestii. Po tym sesja będzie resetowana, więc bot nie będzie pamiętał wcześniejszej rozmowy. Poza tym Microsoft wprowadza limit 50 zapytań na dzień dla każdego użytkownika.
Nasze dane pokazały, że zdecydowana większość z was znajduje odpowiedzi, których szuka, w ciągu 5 tur, a tylko około 1 procenta rozmów na czacie ma ponad 50 wiadomości.
- czytamy w oświadczeniu Microsoftu.
Właśnie stąd wzięły się nowe limity. Jednak Microsoft nie wyklucza, że w przyszłości zostaną one zwiększone. Wszystko zależy od tego, jak Bing Search będzie się sprawdzał.
Zobacz: Microsoft podejmie ostatnią próbę w sprawie Activision Blizzard
Zobacz: Powstał Windows 11 Superlite. Bez śledzenia użytkownika i śmieci
Źródło zdjęć: sdx15 / Shutterstock.com
Źródło tekstu: Microsoft, The Verge, CNBC, Wion
