#moderacja-tresci — Public Fediverse posts

Koszmar dewelopera. Znalazł nielegalne treści w danych do AI, a Google go zbanował

Praca nad narzędziami do filtrowania treści dla dorosłych zamieniła się w cyfrowe piekło dla pewnego programisty.

Po tym, jak nieświadomie wgrał na Dysk Google popularny zbiór danych badawczych, algorytmy giganta oznaczyły go jako przestępcę posiadającego materiały CSAM. Stracił dostęp do maila, chmury i narzędzi pracy. Jego historia to przestroga dla każdego, kto pracuje z AI.

Mark Russo, niezależny deweloper, pracował nad aplikacją wykrywającą treści NSFW (Not Safe For Work) bezpośrednio na urządzeniu użytkownika. Aby przetestować skuteczność swojego algorytmu, pobrał powszechnie dostępny w świecie naukowym zbiór danych NudeNet i rozpakował go na swoim Dysku Google.

Nie wiedział, że w zbiorze liczącym 700 tysięcy zdjęć, używanym w ponad 250 pracach akademickich, ukryte były materiały przedstawiające seksualne wykorzystywanie dzieci (CSAM).

Wyrok bez procesu

Reakcja systemów Google była natychmiastowa. Konto Russo zostało zawieszone za „poważne naruszenie zasad”. Stracił dostęp do Gmaila (którego używał od 14 lat), platformy Firebase (na której stały jego aplikacje), sieci reklamowej AdMob i Google Cloud. „To nie było tylko uciążliwe, to było druzgocące. Leciałem na ślepo” – napisał na swoim blogu.

Co gorsza, mechanizmy odwoławcze zawiodły. Russo tłumaczył, że to zbiór badawczy NudeNet, ale Google dwukrotnie odrzuciło jego apelację. Sam deweloper zachował się wzorowo – zgłosił znalezisko do organizacji C3P (Canadian Centre for Child Protection), co doprowadziło do usunięcia skażonego zbioru z sieci Academic Torrents. Mimo to, dla Google pozostawał „cyfrowym banitą”.

Media ratują sytuację

Dopiero interwencja dziennikarza serwisu 404 Media sprawiła, że Google ponownie przyjrzało się sprawie. Rzecznik firmy przyznał: „W tym przypadku przegląd powinien był ustalić, że działanie użytkownika nie było złośliwe”. Konto Russo zostało przywrócone, ale niesmak pozostał.

Ta historia rzuca światło na dwa problemy. Po pierwsze: jakość danych, na których uczymy AI, jest często przerażająco niska i – jak pokazuje ta historia – obecne są w nich nielegalne treści. Po drugie: w starciu z automatem moderującym Google, pojedynczy użytkownik – nawet mający rację – jest często bez szans bez wsparcia mediów.

Google stanowczo: „Nie mamy planów na reklamy w Gemini”. To zupełnie inna droga niż OpenAI

#404Media #bezpieczeństwoDanych #CSAMWAI #GoogleBan #MarkRusso #moderacjaTreści #news #NudeNet #sztucznaInteligencja

Twórcy techniczni w panice. YouTube usuwa ich filmy, a system reklamacji to „murowana ściana”

Wydawałoby się, że poradniki techniczne, takie jak instrukcja instalacji Windows 11 na niewspieranym sprzęcie, to krwiobieg technologicznego YouTube’a. Kiedyś faktycznie tak było, ale ostatnio ten mechanizm zaczął „zgrzytać”.

W ostatnim tygodniu platforma zaczęła masowo usuwać tego typu treści, oznaczając je jako „niebezpieczne” lub „szkodliwe”. Twórcy, tacy jak Rich White (kanał CyberCPU Tech) czy Britec09 (prawie 900 tys. subskrybentów), wpadli w panikę, obawiając się o przyszłość swoich kanałów.

Problem w tym, że filmy te, często generujące milionowe wyświetlenia, były akceptowane przez lata. Co więcej, jak zauważyli twórcy, narzędzia YouTube’a dla kreatorów same podpowiadały im, by tworzyli poradniki na te „chodliwe” tematy. Mimo to, nowe filmy były usuwane, a kanały otrzymywały ostrzeżenia (strike), grożące całkowitym banem. Twórcy natychmiast założyli, że to wina nadgorliwego algorytmu AI, który błędnie klasyfikuje ich materiały.

Głównym dowodem na „winę AI” była procedura odwoławcza. Jak relacjonują poszkodowani, ich odwołania były odrzucane natychmiastowo – w jednym przypadku apelacja została odrzucona w mniej niż minutę. To czas fizycznie niemożliwy dla człowieka na rzetelne zapoznanie się ze sprawą. „Nie rozmawiasz z człowiekiem. Rozmawiasz z botem lub AI. Bot daje ci automatyczne odpowiedzi” – żalił się Britec.

Gdy sprawą zajął się serwis ArsTechnica, nastąpił absurdalny zwrot akcji. Rzecznik YouTube co prawda przywrócił oflagowane filmy, ale jednocześnie… zaprzeczył, jakoby w procesie brała udział automatyzacja. Według oficjalnego stanowiska, zarówno pierwotne decyzje o usunięciu, jak i te błyskawiczne decyzje o odrzuceniu apelacji, nie były wynikiem błędu automatyzacji. Oznaczałoby to, że to ludzcy moderatorzy w minutę odrzucali odwołania, jednocześnie ignorując fakt, że inne działy YouTube’a zachęcały do tworzenia tych treści.

Choć filmy wróciły, sytuacja wywołała efekt mrożący. Twórcy boją się teraz publikować jakiekolwiek poradniki, nie wiedząc, co nagle może zostać uznane za „niebezpieczne”. „Nie jesteśmy nawet pewni, o czym możemy robić filmy” – przyznał White w rozmowie z ArsTechnica. Wielu z nich, jak Britec, musiało wstrzymać umowy sponsorskie, ponosząc realne straty finansowe przez chaos w systemie moderacji YouTube’a.

Stare filmiki na YouTube odzyskają blask. AI podbije jakość do „Super Resolution”

#AI #ArsTechnica #cenzura #moderacjaTreści #news #poradnikiTechniczne #sztucznaInteligencja #twórcyYouTube #Windows11 #YouTube