#oszustwawsieci — Public Fediverse posts

Skanowanie oczu na Tinderze i Zoomie. Tak wygląda nowy certyfikat człowieczeństwa

Wyobraź sobie, że przed wejściem na wideorozmowę ze współpracownikami albo przed przesunięciem profilu w prawo w aplikacji randkowej, musisz bezspornie udowodnić, że jesteś żywym człowiekiem.

I to nie klikając w obrazki z sygnalizacją świetlną, ale skanując własną tęczówkę. To nie kadr z „Łowcy Androidów”, to nasza nowa rzeczywistość. Tinder i Zoom wdrażają technologię biometryczną, by walczyć z plagą botów i deepfake’ów. Za wszystkim stoi twórca ChatGPT, co nadaje tej historii wyjątkowo ironiczny wymiar.

Plaga idealnych oszustów

Zarówno platformy randkowe, jak i narzędzia korporacyjne mają dziś ten sam, gigantyczny problem: sztuczna inteligencja stała się zbyt doskonała w udawaniu nas samych. Na Tinderze plaga botów to już nie tylko irytujące, fałszywe profile, ale potężny przemysł oszustw matrymonialnych. Jak wyliczają amerykańscy śledczy, tylko w zeszłym roku ofiary zmanipulowane przez algorytmicznie zoptymalizowanych naciągaczy straciły ponad miliard dolarów (sic!). Boty potrafią dziś prowadzić rozmowy tak przekonujące, że użytkownicy nie zauważają momentu, w którym zaczyna się manipulacja.

Zupełnie inna, ale równie kosztowna skala problemu dotyka Zooma. Przypadek z Hongkongu, gdzie pracownik przelał 25 milionów dolarów, będąc w pełni przekonanym, że rozmawia na wideo ze swoim dyrektorem finansowym (który w rzeczywistości był perfekcyjnym deepfakiem), obudził korporacje z letargu. Wideokonferencja przestała być gwarantem autentyczności.

Zeskanuj oko, odbierz odznakę

Odpowiedzią na ten kryzys zaufania ma być World ID – cyfrowy paszport stworzony przez firmę World (dawniej Worldcoin). Użytkownicy Tindera i Zooma będą mogli dobrowolnie zeskanować swoją tęczówkę oka za pomocą specjalnego urządzenia w kształcie kuli (tzw. Orb) lub dedykowanej aplikacji. Tęczówka jest bowiem unikalna w stopniu znacznie wyższym niż odcisk palca.

Po udanej weryfikacji użytkownik otrzyma na swoim profilu specjalną odznakę „dowodu człowieczeństwa” (proof of humanity). Oznacza to, że zyskamy narzędzie pozwalające na pierwszy rzut oka odróżnić żywego rozmówcę od nawet najbardziej zaawansowanego, algorytmicznego oszusta. Firma chwali się, że do tej pory z jej weryfikacji skorzystało już 18 milionów osób.

Strażak, który sam podłożył ogień

W całej tej innowacji kryje się jednak fascynujący paradoks. Jednym z założycieli i szefem firmy World jest Sam Altman – ten sam człowiek, który stoi na czele OpenAI. To właśnie potężne modele językowe i generatory wideo tworzone przez jego firmę dały oszustom narzędzia do masowego tworzenia botów i deepfake’ów, z którymi teraz walczą Tinder i Zoom.

Podczas piątkowej prezentacji w San Francisco Altman stwierdził, że wkrótce w internecie będzie więcej treści stworzonych przez AI niż przez ludzi, ale „nie boi się przyszłości, dopóki potrafimy je od siebie odróżnić”. Trudno jednak nie zauważyć rynkowego sprytu tej strategii: gigant technologiczny najpierw dostarcza narzędzia, które niszczą zaufanie w cyfrowym świecie, a następnie oferuje nam biometryczne rozwiązanie tego problemu. Pytanie tylko, czy jesteśmy gotowi oddawać najbardziej wrażliwe dane biometryczne w zamian za cyfrową wiarygodność. W przeciwieństwie do skradzionego hasła, zrabowanego skanu tęczówki nie da się już nigdy zresetować.

Sam Altman ma potężny problem. ChatGPT to nie jest nowy Windows

Algorytmy Gemini usuwają miliardy oszustw

Najnowszy Raport Bezpieczeństwa Reklam opublikowany przez Google obrazuje, w jaki sposób sztuczna inteligencja pomaga w walce z sieciowymi oszustami.

W minionym roku algorytmy odrzuciły przeszło osiem miliardów prób wyświetlenia szkodliwych materiałów. Sprawdzamy statystyki oraz mechanizmy chroniące internautów.

Zastosowanie zaawansowanych modeli językowych zmienia rynek. Warto jednak pamiętać, że mówimy o statystykach publikowanych przez samą korporację, która jednocześnie zarządza największym ekosystemem reklamowym na świecie. Według raportu, algorytmy potrafią obecnie analizować kontekst i wzorce zachowań stojące za konkretnym ogłoszeniem. W minionym roku systemy oparte na Gemini zablokowały ponad 99% z 8,3 miliarda szkodliwych materiałów promocyjnych, jeszcze zanim te zdążyły trafić na ekrany.

Precyzja uderza w oszustów

Lepsze analizowanie intencji przyniosło jeszcze jeden wymierny efekt rynkowy. Rozpoznawanie kontekstu sprawiło, że o 80% spadła liczba błędnych zawieszeń kont należących do uczciwych przedsiębiorców. Równocześnie korporacja zareagowała na czterokrotnie większą liczbę zgłoszeń napływających od samych użytkowników, porównując bieżące statystyki z rokiem ubiegłym. Ważną warstwę prewencji stanowi również proces weryfikacji tożsamości reklamodawców, eliminujący nieuczciwe podmioty.

Liczby obrazujące globalne usuwanie spamu prezentują się następująco:

• Zawieszono ponad 24,9 miliona profili reklamodawców.
• Nałożono ograniczenia rzutujące na 4,8 miliarda ogłoszeń.
• Zablokowano ruch obejmujący ponad 480 milionów stron internetowych.
• Podjęto interwencje wobec 245 tysięcy wydawców witryn.
• Wprowadzono 35 aktualizacji zasad.

Głównym problemem w skali globalnej pozostaje nadużywanie sieci reklamowej, skutkujące zablokowaniem ponad 1,29 miliarda kreacji. Na kolejnych miejscach niechlubnego zestawienia znalazły się naruszenia zasad personalizacji (ponad 755 milionów) oraz łamanie wymogów prawnych (646,7 miliona). Systemy wykryły i usunęły także przeszło 421 milionów materiałów niosących fałszywe informacje. Bezwzględna walka z oszustwami to ponad 602 miliony wyeliminowanych ogłoszeń oraz 4 miliony zbanowanych kont.

Sytuacja na terenie Unii Europejskiej

Stary Kontynent również znajduje się pod ścisłym nadzorem algorytmów. W minionym roku na obszarze Unii Europejskiej usunięto 1,65 miliarda reklam oraz zawieszono 2,03 miliona kont twórców kampanii.

Lista pięciu najczęstszych naruszeń w Europie prezentuje się następująco:

• Nadużywanie sieci reklamowej.
• Łamanie praw związanych ze znakami towarowymi.
• Naruszenia obejmujące spersonalizowane ogłoszenia.
• Nieprawdziwe informacje.
• Randki i towarzystwo.

Firma nie ukrywa faktu ciągłych przemian w środowisku bezpieczeństwa cyfrowego. Rozwój sztucznej inteligencji, nowe metody nadużyć i nieprzewidywalne wydarzenia globalne wymuszają rynkową adaptację. Wdrożenie modeli Gemini ma sprostać narastającym wyzwaniom i zagwarantować bezpieczniejsze środowisko chroniące wszystkich uczestników sieci.

Reklamy i sugestie App Store i Google Play wyszukiwania promowały aplikacje „nudify”

Algorytmy Gemini usuwają miliardy oszustw

Najnowszy Raport Bezpieczeństwa Reklam opublikowany przez Google obrazuje, w jaki sposób sztuczna inteligencja pomaga w walce z sieciowymi oszustami.

W minionym roku algorytmy odrzuciły przeszło osiem miliardów prób wyświetlenia szkodliwych materiałów. Sprawdzamy statystyki oraz mechanizmy chroniące internautów.

Zastosowanie zaawansowanych modeli językowych zmienia rynek. Warto jednak pamiętać, że mówimy o statystykach publikowanych przez samą korporację, która jednocześnie zarządza największym ekosystemem reklamowym na świecie. Według raportu, algorytmy potrafią obecnie analizować kontekst i wzorce zachowań stojące za konkretnym ogłoszeniem. W minionym roku systemy oparte na Gemini zablokowały ponad 99% z 8,3 miliarda szkodliwych materiałów promocyjnych, jeszcze zanim te zdążyły trafić na ekrany.

Precyzja uderza w oszustów

Lepsze analizowanie intencji przyniosło jeszcze jeden wymierny efekt rynkowy. Rozpoznawanie kontekstu sprawiło, że o 80% spadła liczba błędnych zawieszeń kont należących do uczciwych przedsiębiorców. Równocześnie korporacja zareagowała na czterokrotnie większą liczbę zgłoszeń napływających od samych użytkowników, porównując bieżące statystyki z rokiem ubiegłym. Ważną warstwę prewencji stanowi również proces weryfikacji tożsamości reklamodawców, eliminujący nieuczciwe podmioty.

Liczby obrazujące globalne usuwanie spamu prezentują się następująco:

• Zawieszono ponad 24,9 miliona profili reklamodawców.
• Nałożono ograniczenia rzutujące na 4,8 miliarda ogłoszeń.
• Zablokowano ruch obejmujący ponad 480 milionów stron internetowych.
• Podjęto interwencje wobec 245 tysięcy wydawców witryn.
• Wprowadzono 35 aktualizacji zasad.

Głównym problemem w skali globalnej pozostaje nadużywanie sieci reklamowej, skutkujące zablokowaniem ponad 1,29 miliarda kreacji. Na kolejnych miejscach niechlubnego zestawienia znalazły się naruszenia zasad personalizacji (ponad 755 milionów) oraz łamanie wymogów prawnych (646,7 miliona). Systemy wykryły i usunęły także przeszło 421 milionów materiałów niosących fałszywe informacje. Bezwzględna walka z oszustwami to ponad 602 miliony wyeliminowanych ogłoszeń oraz 4 miliony zbanowanych kont.

Sytuacja na terenie Unii Europejskiej

Stary Kontynent również znajduje się pod ścisłym nadzorem algorytmów. W minionym roku na obszarze Unii Europejskiej usunięto 1,65 miliarda reklam oraz zawieszono 2,03 miliona kont twórców kampanii.

Lista pięciu najczęstszych naruszeń w Europie prezentuje się następująco:

• Nadużywanie sieci reklamowej.
• Łamanie praw związanych ze znakami towarowymi.
• Naruszenia obejmujące spersonalizowane ogłoszenia.
• Nieprawdziwe informacje.
• Randki i towarzystwo.

Firma nie ukrywa faktu ciągłych przemian w środowisku bezpieczeństwa cyfrowego. Rozwój sztucznej inteligencji, nowe metody nadużyć i nieprzewidywalne wydarzenia globalne wymuszają rynkową adaptację. Wdrożenie modeli Gemini ma sprostać narastającym wyzwaniom i zagwarantować bezpieczniejsze środowisko chroniące wszystkich uczestników sieci.

Reklamy i sugestie App Store i Google Play wyszukiwania promowały aplikacje „nudify”