#zagrozenia — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #zagrozenia, aggregated by home.social.
-
Mroczna strona AI. 10 realnych zagrożeń na 2026 rok
AI jest już wszędzie. Pisze maile, podpowiada kod, tworzy memy, a nawet udaje Brada Pitta podczas wideorozmowy. Reklamy obiecują, że to rewolucja, która zmieni wszystko na lepsze. Brzmi pięknie. Tylko że w 2026 roku ta sama technologia staje się jednocześnie najpopularniejszą bronią socjotechniczną, narzędziem masowej dezinformacji i sposobem na drenowanie...
#Aktualności #Deepfake #MroczneAi #Niebezpieczeństwa #Szkolenie #Zagrożenia
https://sekurak.pl/mroczna-strona-ai-10-realnych-zagrozen-na-2026-rok/
-
Mroczna strona AI. 10 realnych zagrożeń na 2026 rok
AI jest już wszędzie. Pisze maile, podpowiada kod, tworzy memy, a nawet udaje Brada Pitta podczas wideorozmowy. Reklamy obiecują, że to rewolucja, która zmieni wszystko na lepsze. Brzmi pięknie. Tylko że w 2026 roku ta sama technologia staje się jednocześnie najpopularniejszą bronią socjotechniczną, narzędziem masowej dezinformacji i sposobem na drenowanie...
#Aktualności #Deepfake #MroczneAi #Niebezpieczeństwa #Szkolenie #Zagrożenia
https://sekurak.pl/mroczna-strona-ai-10-realnych-zagrozen-na-2026-rok/
-
Laureat Nagrody Turinga ostrzega przed zagrożeniami AI i zakłada fundację LawZero
Yoshua Bengio, pionier uczenia głębokiego i laureat Nagrody Turinga, uznawanej za Nobla informatyki, wyraził głębokie zaniepokojenie niebezpiecznymi cechami współczesnych modeli sztucznej inteligencji.
W wywiadzie dla The Financial Times Bengio, często nazywany jednym z ojców chrzestnych AI, ostrzegł, że najnowsze systemy AI uczą się kłamać, stawiają opór wyłączeniom i wykazują niepokojące zachowania, które mogą mieć poważne konsekwencje dla ludzkości. W odpowiedzi na te zagrożenia założył organizację non-profit LawZero, która ma promować bezpieczny i etyczny rozwój AI.
Bengio, najczęściej cytowany informatyk na świecie, podkreślił, że trwający wyścig między czołowymi laboratoriami technologicznymi koncentruje się na zwiększaniu zdolności AI, kosztem bezpieczeństwa. Jego zdaniem korporacje priorytetowo traktują zyski i udziały w rynku, ignorując potencjalnie szkodliwe lub zwodnicze zachowania systemów AI. Najczarniejszy scenariusz, jaki przedstawił, to wyginięcie ludzkości, jeśli powstanie AI mądrzejsza od nas, ale niezgodna z ludzkimi wartościami i konkurująca z nami.
LawZero, nowa inicjatywa Bengio, ma na celu opracowanie systemów AI, które przejrzyście argumentują swoje działania i sygnalizują potencjalnie szkodliwe treści. Uczony marzy o modelach nadzorczych, które będą monitorować i korygować inne modele, zanim te wyrządzą szkody. To podejście kontrastuje z praktykami komercyjnych laboratoriów, gdzie zaangażowanie użytkownika i monetyzacja są często najważniejsze. Bengio, rezygnując z roli w instytucie badawczym Mila, całkowicie poświęca się tej misji, dołączając do rosnącego ruchu na rzecz odpowiedzialnego rozwoju AI.
Ekspert alarmuje, że niekontrolowany postęp technologiczny może prowadzić do katastrofy. Jeśli stworzymy AI, która będzie mądrzejsza od nas, ale nie będzie z nami zgodna i zacznie z nami konkurować, to jesteśmy praktycznie skończeni – ostrzegł, przywołując wizje rodem z science-fiction. Fundacja LawZero ma współpracować z naukowcami, decydentami i branżą, aby zapewnić, że AI rozwija się w sposób bezpieczny i zgodny z wartościami ludzkimi. Działania Bengio zyskały już uwagę globalnej społeczności, podkreślając pilną potrzebę regulacji i etyki w dziedzinie sztucznej inteligencji.
Eddy Cue: Sztuczna inteligencja może zastąpić iPhone’a w ciągu 10 lat
-
Tak przy okazji…
Podczas przejażdżki na rowerze zauważyłem, że ktoś w lesie rozbił namiot. Jestem przeczulony na tym punkcie, bo w poprzedniej pracy mialem do czynienia z osobami, które w największe mrozy żyły w namiotach. 😳 Nie chciały go opuścić, nie chciały do noclegowni/schroniska. Kilka razy dziennie trzeba było jeździć i sprawdzać.
Anyway - jeżeli spotkacie osobę w kryzysie bezdomności, zwlasza przy tak niskich temperaturach, można skorzystać z Krajowej Mapy Zagrożeń Bezpieczeństwa. -
Tak przy okazji…
Podczas przejażdżki na rowerze zauważyłem, że ktoś w lesie rozbił namiot. Jestem przeczulony na tym punkcie, bo w poprzedniej pracy mialem do czynienia z osobami, które w największe mrozy żyły w namiotach. 😳 Nie chciały go opuścić, nie chciały do noclegowni/schroniska. Kilka razy dziennie trzeba było jeździć i sprawdzać.
Anyway - jeżeli spotkacie osobę w kryzysie bezdomności, zwlasza przy tak niskich temperaturach, można skorzystać z Krajowej Mapy Zagrożeń Bezpieczeństwa. -
@kbielnik Całkiem sporo ludzi pisze o AI jako o szansie, że będzie lepiej. Ale to "lepiej" dotyczy czy dotyczyć będzie stosunkowo wąskich grup ludzi:
- tych którzy już mają lepiej bo kontrolują tę technologię i właśnie zaczynają liczyć pierwsze duże $$$, które mogą wyciągnąć ze swoich inwestycji
- tych którzy wystarczająco szybko "wskoczą do pociągu" czyli znajdą takie zastosowania tej AI w swoich branżach, że też zyskają przewagę nad konkurencją
- tych, którzy będą po prostu mieli szczęście, że są w swoich zawodach na tyle dobrzy, że zostaną nadzorcami użycia AI , której wprowadzenie wyrzuci na bruk tych wykonujących zbyt łatwe do zastąpienia przez AI czynności
Ale tak naprawdę wszystko wskazuje na to, że większość ma w dłuższej perspektywie przejebane. A to m.in z powodu:
- nieograniczonego potencjału wykorzystania tej technologi do manipulacji informacją na wielką skalę w sposób trudny do wykrycia dla przeciętnego zjadacza chleba - co oznacza zagrożenie/destabilizację wszelkich procesów demokratycznych
- jeszcze większej niż dzisiaj koncentracji władzy wielkich firm nad informacją - bo oprócz tych wszystkich danych, które już teraz o nas zbierają dojdzie niezliczona liczba różnych nowych procesów informatycznych, które będą wprost podłączone do silników AI kilku największych firm, i w odróżnieniu od różnych dotychczasowych "chmurowych" usług, samodzielny hosting takiej AI będzie zbyt kosztowny, żeby było na to stać ludzi czy nawet duże firmy.
- już dzisiaj największe silniki AI to są "czarne skrzynki" jednocześnie co do zasady działania (czyli wyników nie da się ani objaśnić ani deterministycznie przewidzieć i przetestować) jak i co do intencji twórców (czyli nie ujawniają ani na czym są trenowane najnowsze modele ani żadnych innych szczegółów, które by pozwalały na jakiś niezależny audyt zgodny ze standardami środowiska naukowego) - co w połączeniu z szaleńczym wyścigiem "kto szybciej" oznacza tylko jedno - będzie coraz trudniej kontrolować tę technologię na drodze prawnej bo zwyczajnie regulacje nie nadążają - już wiadomo ,że te , które np UE dopiero (!) planuje wobec AI są o dwa kroki do tyłu za problemami, które te najnowsze modele AI ujawniły.
Jednym zdaniem - AI/ML/LLM może być szansą tylko pod warunkiem odpowiedzialnego i etycznego zarówno projektowania jak i używania - a na to się na razie nie zanosi.
#ai #llm #zagrożenia #szanse -
@kbielnik Całkiem sporo ludzi pisze o AI jako o szansie, że będzie lepiej. Ale to "lepiej" dotyczy czy dotyczyć będzie stosunkowo wąskich grup ludzi:
- tych którzy już mają lepiej bo kontrolują tę technologię i właśnie zaczynają liczyć pierwsze duże $$$, które mogą wyciągnąć ze swoich inwestycji
- tych którzy wystarczająco szybko "wskoczą do pociągu" czyli znajdą takie zastosowania tej AI w swoich branżach, że też zyskają przewagę nad konkurencją
- tych, którzy będą po prostu mieli szczęście, że są w swoich zawodach na tyle dobrzy, że zostaną nadzorcami użycia AI , której wprowadzenie wyrzuci na bruk tych wykonujących zbyt łatwe do zastąpienia przez AI czynności
Ale tak naprawdę wszystko wskazuje na to, że większość ma w dłuższej perspektywie przejebane. A to m.in z powodu:
- jeszcze większej niż dzisiaj koncentracji władzy wielkich firm nad informacją - bo oprócz tych wszystkich danych, które już teraz o nas zbierają dojdzie niezliczona liczba różnych nowych procesów informatycznych, które będą wprost podłączone do silników AI kilku największych firm, i w odróżnieniu od różnych dotychczasowych "chmurowych" usług, samodzielny hosting takiej AI będzie zbyt kosztowny, żeby było na to stać ludzi czy nawet duże firmy.
- już dzisiaj największe silniki AI to są "czarne skrzynki" jednocześnie co do zasady działania (czyli wyników nie da się ani objaśnić ani deterministycznie przewidzieć i przetestować) jak i co do intencji twórców (czyli nie ujawniają ani na czym są trenowane najnowsze modele ani żadnych innych szczegółów, które by pozwalały na jakiś niezależny audyt zgodny ze standardami środowiska naukowego) - co w połączeniu z szaleńczym wyścigiem "kto szybciej" oznacza tylko jedno - będzie coraz trudniej kontrolować tę technologię na drodze prawnej bo zwyczajnie regulacje nie nadążają - już wiadomo ,że te , które np UE dopiero (!) planuje wobec AI są o dwa kroki do tyłu za problemami, które te najnowsze modele AI ujawniły.
#ai #llm #zagrożenia #szanse