Mężczyzna zrobił zdjęcie, by wysłać je do lekarza w celu diagnozy. Algorytmy Google szybko oflagowały fotografię jako rozpowszechnianie dziecięcej pornografii. Teraz mężczyzna może mieć kłopoty.
W ostatnich latach giganci technologiczni zaczęli mocno stawiać na bezpieczeństwo swoich najmłodszych użytkowników. Ich algorytmy zostały wyposażone w funkcję wykrywania treści związanych z seksualnym nadużyciem względem dzieci (treści CSAM).
Sama idea jest szlachetna, lecz często obrywa się uczciwym użytkownikom, których prywatność zostaje naruszona, a zdarza się, że mają problemy i muszą tłumaczyć się ze swojej niewinności.
Dokładnie tak było w tym przypadku. Jak podaje The New York Times, zatroskany ojciec zrobił zdjęcie wysypki, która pojawiła się na ciele noworodka. Fotografię chciał wysłać do lekarza, by ten wstępnie stwierdził, jaka może być przyczyna wysypki.
Algorytm Google oflagował fotografię, a konto mężczyzny zostało zablokowane. Jakby tego było mało, Google wysłało raport do Narodowego Centrum Dzieci Zaginionych i Wykorzystywanych (NCMEC), organizacji non-profit, która zajmuje się tego typu zgłoszeniami. Zostało wszczęte również postępowanie policyjne.
Sytuacja miała miejsce się w stanie Texas w Stanach Zjednoczonych i wyszła na światło dzienne dopiero teraz, lecz odbyła się w 2021 roku podczas jednego ze szczytów infekcji wirusem SARS-CoV-2, gdy wiele placówek medycznych udzielało głównie teleporad. Według raportu The New York Times, mężczyzna dostał wiadomość od Google po dwóch dniach od zrobienia zdjęcia, w której mógł przeczytać, że jego konto zostało zablokowane ze względu na "szkodliwą zawartość". Sama wysypka była na intymnych częściach ciała noworodka, a zdjęcie zostało automatycznie zsynchronizowane z Google Photos, gdzie wyłapał je algorytm Google.
Podobne algorytmy działają w aplikacjach niemal wszystkich firm technologicznych. Zabezpieczenia przed rozpowszechnianiem treści CSAM są również na Facebooku, Twitterze i Reddicie. Podobny system swego czasu planowało wdrożyć Apple, lecz w pewnym momencie odłożyli realizację tego projektu.
Zobacz: Stracili pracę przez Pegasusa. Nie tak to miało wyglądać
Zobacz: Windows świruje. Nowa aktualizacja może ci zablokować komputer
Źródło zdjęć: Shutterstock
Źródło tekstu: The New York Times
