#dezinformacja — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #dezinformacja, aggregated by home.social.
-
Jak z jednego incydentu, przeniesionej statystyki i łańcucha spekulacji powstaje gotowa narracja? Rozbieram rozmowę z wRealu24 krok po kroku.
#dezinformacja #manipulacja #propaganda #factchecking #mediaspołecznościowe #psychologiaSpołeczna #Polska #Ukraina #wRealu24 #analizaDyskursu
-
Jak z jednego incydentu, przeniesionej statystyki i łańcucha spekulacji powstaje gotowa narracja? Rozbieram rozmowę z wRealu24 krok po kroku.
#dezinformacja #manipulacja #propaganda #factchecking #mediaspołecznościowe #psychologiaSpołeczna #Polska #Ukraina #wRealu24 #analizaDyskursu
-
📰 "Fact-checking już nie działa?
- Czyszczenie internetu z dezinformacji przypomina dziś wylewanie kubkiem wody z dziurawej łódki - mówi Katarzyna #Szymielewicz, prezeska Fundacji #Panoptykon. W rozmowie z Interią tłumaczy, dlaczego problemem nie są już tylko fake newsy, ale przede wszystkim algorytmy platform społecznościowych, które wcale nie stoją na straży wolności słowa."
#dezinformacja #algorytmy #socialmedia #fakenews #aislop #FacyChecking
-
📰 "Fact-checking już nie działa?
- Czyszczenie internetu z dezinformacji przypomina dziś wylewanie kubkiem wody z dziurawej łódki - mówi Katarzyna #Szymielewicz, prezeska Fundacji #Panoptykon. W rozmowie z Interią tłumaczy, dlaczego problemem nie są już tylko fake newsy, ale przede wszystkim algorytmy platform społecznościowych, które wcale nie stoją na straży wolności słowa."
#dezinformacja #algorytmy #socialmedia #fakenews #aislop #FacyChecking
-
📰 "Fact-checking już nie działa?
- Czyszczenie internetu z dezinformacji przypomina dziś wylewanie kubkiem wody z dziurawej łódki - mówi Katarzyna #Szymielewicz, prezeska Fundacji #Panoptykon. W rozmowie z Interią tłumaczy, dlaczego problemem nie są już tylko fake newsy, ale przede wszystkim algorytmy platform społecznościowych, które wcale nie stoją na straży wolności słowa."
#dezinformacja #algorytmy #socialmedia #fakenews #aislop #FacyChecking
-
📰 "Fact-checking już nie działa?
- Czyszczenie internetu z dezinformacji przypomina dziś wylewanie kubkiem wody z dziurawej łódki - mówi Katarzyna #Szymielewicz, prezeska Fundacji #Panoptykon. W rozmowie z Interią tłumaczy, dlaczego problemem nie są już tylko fake newsy, ale przede wszystkim algorytmy platform społecznościowych, które wcale nie stoją na straży wolności słowa."
#dezinformacja #algorytmy #socialmedia #fakenews #aislop #FacyChecking
-
📰 "Fact-checking już nie działa?
- Czyszczenie internetu z dezinformacji przypomina dziś wylewanie kubkiem wody z dziurawej łódki - mówi Katarzyna #Szymielewicz, prezeska Fundacji #Panoptykon. W rozmowie z Interią tłumaczy, dlaczego problemem nie są już tylko fake newsy, ale przede wszystkim algorytmy platform społecznościowych, które wcale nie stoją na straży wolności słowa."
#dezinformacja #algorytmy #socialmedia #fakenews #aislop #FacyChecking
-
https://www.europesays.com/pl/378861/ Kraków rozgrzany „Satanic Convent 2026”. Fake newsa nagłaśniała Barbara Nowak – Wprost #BarbaraNowak #dezinformacja #FakeNews #konwent #krakow #miasto #miszalski #PL #Poland #Polish #Polityka #Polska #Polski #religia #SatanicConvent #sataniści #SuwerennaPolska #wprost #życie
-
W czerwcu 2025 roku informowaliśmy o odkrytym przez nas sztucznym portalu regionalnym z treściami najprawdopodobniej wygenerowanymi za pomocą narzędzi #AI, który tworzył dezinformację nt. regionu. Takich portali jest jednak więcej i - według naszych ustaleń - mogą przekazywać dane osobowe użytkowników podmiotom trzecim bez wiedzy i zgody użytkowników.
#włocławek #kujawy #kujawskopomorskie #gloswloclawianina #dezinformacja #technologia
https://gloswloclawianina.pl/2026/02/25/ai-kontratakuje-sztuczne-portale-regionalne-zalewaja-internet/ -
W czerwcu 2025 roku informowaliśmy o odkrytym przez nas sztucznym portalu regionalnym z treściami najprawdopodobniej wygenerowanymi za pomocą narzędzi #AI, który tworzył dezinformację nt. regionu. Takich portali jest jednak więcej i - według naszych ustaleń - mogą przekazywać dane osobowe użytkowników podmiotom trzecim bez wiedzy i zgody użytkowników.
#włocławek #kujawy #kujawskopomorskie #gloswloclawianina #dezinformacja #technologia
https://gloswloclawianina.pl/2026/02/25/ai-kontratakuje-sztuczne-portale-regionalne-zalewaja-internet/ -
AI bez lukru #12: Automatyczny hejt i dezinformacja – boty, które robią nagonki za sajgonki
Cześć! Z tej strony Tomek Turba. AI bez lukru to cykl moich felietonów o sztucznej inteligencji bez marketingowego lukru, bez korporacyjnych slajdów i bez bajek o „rewolucji, która wszystko zmieni”. Pokazuję AI taką, jaka jest naprawdę: z absurdami, wpadkami, halucynacjami i konsekwencjami, o których rzadko mówi się głośno. Bez zadęcia,...
#Aktualności #Teksty #Ai #BezLukru #Dezinformacja #Felieton #Hejt #Szkolenie #Wojna
-
AI bez lukru #12: Automatyczny hejt i dezinformacja – boty, które robią nagonki za sajgonki
Cześć! Z tej strony Tomek Turba. AI bez lukru to cykl moich felietonów o sztucznej inteligencji bez marketingowego lukru, bez korporacyjnych slajdów i bez bajek o „rewolucji, która wszystko zmieni”. Pokazuję AI taką, jaka jest naprawdę: z absurdami, wpadkami, halucynacjami i konsekwencjami, o których rzadko mówi się głośno. Bez zadęcia,...
#Aktualności #Teksty #Ai #BezLukru #Dezinformacja #Felieton #Hejt #Szkolenie #Wojna
-
AI Barometr 2025: Polacy przestali bać się maszyn. Teraz boimy się kłamstw
Lęk przed sztuczną inteligencją w Polsce słabnie, ale zmienia swoje oblicze. Jak wynika z najnowszego badania „AI Barometr 2025”, przeprowadzonego przez firmę Zymetria,
Polacy coraz chętniej wykorzystują AI w pracy i nauce, porzucając futurystyczne obawy o „bunt maszyn”. Nowym wrogiem numer jeden stała się dezinformacja i to, w jaki sposób ludzie mogą wykorzystać technologię przeciwko sobie nawzajem.
Jeszcze pod koniec 2024 roku pozytywny stosunek do AI deklarowało nieco ponad 40 proc. badanych. W sierpniu 2025 roku odsetek ten wzrósł do blisko 50 proc.. Neutralne nastawienie ma ponad jedna trzecia respondentów, a grupa zagorzałych przeciwników skurczyła się do zaledwie 12 proc.. Największymi entuzjastami technologii pozostają mężczyźni oraz przedstawiciele pokolenia Z, choć i starsze generacje coraz rzadziej patrzą na algorytmy ze strachem.
Dezinformacja: nowe zagrożenie cyfrowe
O ile akceptacja dla samej technologii rośnie, o tyle świadomość zagrożeń staje się coraz bardziej precyzyjna. Aż 42 proc. badanych wskazuje manipulację informacjami jako swoją największą obawę. To nie bezzasadny lęk – prawie 60 proc. Polaków słyszało o fake newsach generowanych przez AI, a blisko jedna czwarta (25 proc.) zetknęła się z nimi osobiście.
Co ciekawe, Polacy wykazują się dużą dojrzałością w ocenie sytuacji. Większość respondentów nie przypisuje sztucznej inteligencji „złych intencji”. Zrozumieliśmy, że AI to tylko narzędzie. Zagrożeniem nie jest algorytm, który „zmyśla” (tzw. halucynacje, z którymi spotkało się 12 proc. badanych), ale człowiek, który celowo „karmi” model fałszywymi danymi lub wykorzystuje go do tworzenia propagandy.
Koniec strachu przed hakerami?
Raport przynosi też zaskakujące dane dotyczące innych cyberzagrożeń. Wyraźnie spada niepokój związany z hakerstwem i kradzieżą danych (z 38 proc. w 2024 r. do 29 proc. obecnie). Może to sugerować, że przywykliśmy do cyfrowego ryzyka lub wierzymy w lepsze zabezpieczenia. Na szarym końcu listy obaw znajduje się wpływ AI na środowisko naturalne – ten aspekt martwi zaledwie 9 proc. Polaków.
Barbara Krug, prezeska Zymetrii, podsumowuje, że nie boimy się już AI jako konkurenta, który zabierze nam pracę, ale utraty kontroli nad prawdą w internecie. To ważny sygnał dla twórców technologii i regulatorów: kluczem do dalszej adopcji AI nie jest już przekonywanie o jej użyteczności, ale budowanie mechanizmów chroniących przed falą cyfrowego kłamstwa.
#aiSi #dezinformacja #fakeNews #news #raportAiBarometr #spoleczenstwo #sztucznaInteligencja #zymetria
-
Dezinformacja o klimacie bije rekordy zasięgów. Jej twórcy zarabiają na wprowadzaniu w błąd
Niedawna analiza pokazuje, w jaki sposób giganci posiadający media społecznościowe pozwalają na szerzenie dezinformacji klimatycznej. Raport dotyczy kłamliwych publikacji nt. ekstremalnych zjawisk pogodowych i wskazuje na zaniedbania tzw. big techów. Dezinformacja przynosi bezpośrednie szkody społeczne i może być narzędziem wpływu obcych państw. Organizacja pozarządowa Center for Countering Digital Hate (CCDH) przyjrzała się dezinformacji klimatycznej. Analiza […] -
Dezinformacja o klimacie bije rekordy zasięgów. Jej twórcy zarabiają na wprowadzaniu w błąd
Niedawna analiza pokazuje, w jaki sposób giganci posiadający media społecznościowe pozwalają na szerzenie dezinformacji klimatycznej. Raport dotyczy kłamliwych publikacji nt. ekstremalnych zjawisk pogodowych i wskazuje na zaniedbania tzw. big techów. Dezinformacja przynosi bezpośrednie szkody społeczne i może być narzędziem wpływu obcych państw. Organizacja pozarządowa Center for Countering Digital Hate (CCDH) przyjrzała się dezinformacji klimatycznej. Analiza […] -
Dezinformacja o klimacie bije rekordy zasięgów. Jej twórcy zarabiają na wprowadzaniu w błąd
Niedawna analiza pokazuje, w jaki sposób giganci posiadający media społecznościowe pozwalają na szerzenie dezinformacji klimatycznej. Raport dotyczy kłamliwych publikacji nt. ekstremalnych zjawisk pogodowych i wskazuje na zaniedbania tzw. big techów. Dezinformacja przynosi bezpośrednie szkody społeczne i może być narzędziem wpływu obcych państw. Organizacja pozarządowa Center for Countering Digital Hate (CCDH) przyjrzała się dezinformacji klimatycznej. Analiza […] -
Dezinformacja o klimacie bije rekordy zasięgów. Jej twórcy zarabiają na wprowadzaniu w błąd
Niedawna analiza pokazuje, w jaki sposób giganci posiadający media społecznościowe pozwalają na szerzenie dezinformacji klimatycznej. Raport dotyczy kłamliwych publikacji nt. ekstremalnych zjawisk pogodowych i wskazuje na zaniedbania tzw. big techów. Dezinformacja przynosi bezpośrednie szkody społeczne i może być narzędziem wpływu obcych państw. Organizacja pozarządowa Center for Countering Digital Hate (CCDH) przyjrzała się dezinformacji klimatycznej. Analiza […] -
AI nie myśli, a jedynie udaje. Naukowcy studzą entuzjazm wokół „sztucznej inteligencji”
W świecie zdominowanym przez zachwyty nad możliwościami sztucznej inteligencji, nowe badanie naukowców z Arizona State University rzuca na nie cień, który każe nam zweryfikować dotychczasowe przekonania.
Wyniki ich pracy sugerują, że imponujące zdolności „logicznego rozumowania” w modelach językowych (LLM), oparte na tzw. metodzie „łańcucha myśli” (chain-of-thought), to w rzeczywistości „kruchy miraż” – wyrafinowana iluzja, która rozpada się przy najmniejszej próbie wyjścia poza wyuczone schematy. Już wcześniej informowaliśmy o badaniach przeprowadzonych przez Apple, które negowały „geniusz” współczesnych zaawansowanych modeli AI, choć później wielu ekspertów podważało przyjęte założenia i metodykę, czy tym razem inni również podważą badania naukowców z ASU?
Iluzja myślenia: nowe badanie Apple podważa prawdziwe zdolności „rozumowania” AI
Kruchy miraż, czyli iluzja rozumowania
W ostatnich miesiącach branża AI mocno promuje modele, które zdają się „myśleć” krok po kroku, by rozwiązać skomplikowane problemy. Naukowcy z ASU postanowili sprawdzić, czy jest to prawdziwa umiejętność logicznego wnioskowania, czy jedynie zaawansowane naśladowanie wzorców. W tym celu stworzyli kontrolowane środowisko, w którym trenowali modele na bardzo prostych transformacjach tekstu, a następnie testowali je na zadaniach, które częściowo lub całkowicie wykraczały poza wzorce poznane na etapie szkolenia.
Wyniki okazały się druzgocące. Modele, które doskonale radziły sobie ze znanymi schematami, zawodziły „katastrofalnie”, gdy tylko zadanie nieznacznie odbiegało od tego, czego się nauczyły. Co więcej, często generowały one odpowiedzi, które miały pozornie poprawną ścieżkę rozumowania, ale prowadziły do błędnego wyniku, lub odwrotnie – potrafiły natrafić na prawidłową odpowiedź, stosując całkowicie nielogiczne kroki.
Wyuczona papuga, nie samodzielny myśliciel
Badanie wykazało, że nawet drobne zmiany w zadaniu, takie jak inna długość tekstu wejściowego lub wprowadzenie symboli nieobecnych w danych treningowych, powodowały gwałtowny spadek wydajności i poprawności odpowiedzi.
To dowodzi, że modele nie posiadają abstrakcyjnej zdolności rozumowania, a ich działanie jest jedynie „wyrafinowaną formą dopasowywania wzorców strukturalnych”. „Zamiast demonstrować prawdziwe zrozumienie tekstu, rozumowanie w stylu 'łańcucha myśli’ wydaje się być powielaniem wzorców nauczonych podczas treningu” – piszą autorzy badania.
„Fałszywa aura niezawodności” i jej zagrożenia
Największe niebezpieczeństwo, według naukowców, tkwi w zdolności modeli do generowania „płynnego nonsensu” – odpowiedzi, które brzmią przekonująco i logicznie, ale w rzeczywistości są błędne. Tworzy to „fałszywą aurę niezawodności”, która może być niezwykle groźna, zwłaszcza w tak kluczowych dziedzinach jak medycyna, finanse czy prawo.
Dlatego badacze stanowczo ostrzegają przed zrównywaniem wyników generowanych przez AI z ludzkim myśleniem i apelują o tworzenie testów, które będą weryfikować zdolność modeli do radzenia sobie z problemami spoza danych treningowych. Zainteresowanych odsyłam do treści artykułu naukowego na platformie Arxiv.
#AI #badania #dezinformacja #LLM #modelJęzykowy #myślenie #Nauka #news #sztucznaInteligencja #technologia
-
AI nie myśli, a jedynie udaje. Naukowcy studzą entuzjazm wokół „sztucznej inteligencji”
W świecie zdominowanym przez zachwyty nad możliwościami sztucznej inteligencji, nowe badanie naukowców z Arizona State University rzuca na nie cień, który każe nam zweryfikować dotychczasowe przekonania.
Wyniki ich pracy sugerują, że imponujące zdolności „logicznego rozumowania” w modelach językowych (LLM), oparte na tzw. metodzie „łańcucha myśli” (chain-of-thought), to w rzeczywistości „kruchy miraż” – wyrafinowana iluzja, która rozpada się przy najmniejszej próbie wyjścia poza wyuczone schematy. Już wcześniej informowaliśmy o badaniach przeprowadzonych przez Apple, które negowały „geniusz” współczesnych zaawansowanych modeli AI, choć później wielu ekspertów podważało przyjęte założenia i metodykę, czy tym razem inni również podważą badania naukowców z ASU?
Iluzja myślenia: nowe badanie Apple podważa prawdziwe zdolności „rozumowania” AI
Kruchy miraż, czyli iluzja rozumowania
W ostatnich miesiącach branża AI mocno promuje modele, które zdają się „myśleć” krok po kroku, by rozwiązać skomplikowane problemy. Naukowcy z ASU postanowili sprawdzić, czy jest to prawdziwa umiejętność logicznego wnioskowania, czy jedynie zaawansowane naśladowanie wzorców. W tym celu stworzyli kontrolowane środowisko, w którym trenowali modele na bardzo prostych transformacjach tekstu, a następnie testowali je na zadaniach, które częściowo lub całkowicie wykraczały poza wzorce poznane na etapie szkolenia.
Wyniki okazały się druzgocące. Modele, które doskonale radziły sobie ze znanymi schematami, zawodziły „katastrofalnie”, gdy tylko zadanie nieznacznie odbiegało od tego, czego się nauczyły. Co więcej, często generowały one odpowiedzi, które miały pozornie poprawną ścieżkę rozumowania, ale prowadziły do błędnego wyniku, lub odwrotnie – potrafiły natrafić na prawidłową odpowiedź, stosując całkowicie nielogiczne kroki.
Wyuczona papuga, nie samodzielny myśliciel
Badanie wykazało, że nawet drobne zmiany w zadaniu, takie jak inna długość tekstu wejściowego lub wprowadzenie symboli nieobecnych w danych treningowych, powodowały gwałtowny spadek wydajności i poprawności odpowiedzi.
To dowodzi, że modele nie posiadają abstrakcyjnej zdolności rozumowania, a ich działanie jest jedynie „wyrafinowaną formą dopasowywania wzorców strukturalnych”. „Zamiast demonstrować prawdziwe zrozumienie tekstu, rozumowanie w stylu 'łańcucha myśli’ wydaje się być powielaniem wzorców nauczonych podczas treningu” – piszą autorzy badania.
„Fałszywa aura niezawodności” i jej zagrożenia
Największe niebezpieczeństwo, według naukowców, tkwi w zdolności modeli do generowania „płynnego nonsensu” – odpowiedzi, które brzmią przekonująco i logicznie, ale w rzeczywistości są błędne. Tworzy to „fałszywą aurę niezawodności”, która może być niezwykle groźna, zwłaszcza w tak kluczowych dziedzinach jak medycyna, finanse czy prawo.
Dlatego badacze stanowczo ostrzegają przed zrównywaniem wyników generowanych przez AI z ludzkim myśleniem i apelują o tworzenie testów, które będą weryfikować zdolność modeli do radzenia sobie z problemami spoza danych treningowych. Zainteresowanych odsyłam do treści artykułu naukowego na platformie Arxiv.
#AI #badania #dezinformacja #LLM #modelJęzykowy #myślenie #Nauka #news #sztucznaInteligencja #technologia
-
AI nie myśli, a jedynie udaje. Naukowcy studzą entuzjazm wokół „sztucznej inteligencji”
W świecie zdominowanym przez zachwyty nad możliwościami sztucznej inteligencji, nowe badanie naukowców z Arizona State University rzuca na nie cień, który każe nam zweryfikować dotychczasowe przekonania.
Wyniki ich pracy sugerują, że imponujące zdolności „logicznego rozumowania” w modelach językowych (LLM), oparte na tzw. metodzie „łańcucha myśli” (chain-of-thought), to w rzeczywistości „kruchy miraż” – wyrafinowana iluzja, która rozpada się przy najmniejszej próbie wyjścia poza wyuczone schematy. Już wcześniej informowaliśmy o badaniach przeprowadzonych przez Apple, które negowały „geniusz” współczesnych zaawansowanych modeli AI, choć później wielu ekspertów podważało przyjęte założenia i metodykę, czy tym razem inni również podważą badania naukowców z ASU?
Iluzja myślenia: nowe badanie Apple podważa prawdziwe zdolności „rozumowania” AI
Kruchy miraż, czyli iluzja rozumowania
W ostatnich miesiącach branża AI mocno promuje modele, które zdają się „myśleć” krok po kroku, by rozwiązać skomplikowane problemy. Naukowcy z ASU postanowili sprawdzić, czy jest to prawdziwa umiejętność logicznego wnioskowania, czy jedynie zaawansowane naśladowanie wzorców. W tym celu stworzyli kontrolowane środowisko, w którym trenowali modele na bardzo prostych transformacjach tekstu, a następnie testowali je na zadaniach, które częściowo lub całkowicie wykraczały poza wzorce poznane na etapie szkolenia.
Wyniki okazały się druzgocące. Modele, które doskonale radziły sobie ze znanymi schematami, zawodziły „katastrofalnie”, gdy tylko zadanie nieznacznie odbiegało od tego, czego się nauczyły. Co więcej, często generowały one odpowiedzi, które miały pozornie poprawną ścieżkę rozumowania, ale prowadziły do błędnego wyniku, lub odwrotnie – potrafiły natrafić na prawidłową odpowiedź, stosując całkowicie nielogiczne kroki.
Wyuczona papuga, nie samodzielny myśliciel
Badanie wykazało, że nawet drobne zmiany w zadaniu, takie jak inna długość tekstu wejściowego lub wprowadzenie symboli nieobecnych w danych treningowych, powodowały gwałtowny spadek wydajności i poprawności odpowiedzi.
To dowodzi, że modele nie posiadają abstrakcyjnej zdolności rozumowania, a ich działanie jest jedynie „wyrafinowaną formą dopasowywania wzorców strukturalnych”. „Zamiast demonstrować prawdziwe zrozumienie tekstu, rozumowanie w stylu 'łańcucha myśli’ wydaje się być powielaniem wzorców nauczonych podczas treningu” – piszą autorzy badania.
„Fałszywa aura niezawodności” i jej zagrożenia
Największe niebezpieczeństwo, według naukowców, tkwi w zdolności modeli do generowania „płynnego nonsensu” – odpowiedzi, które brzmią przekonująco i logicznie, ale w rzeczywistości są błędne. Tworzy to „fałszywą aurę niezawodności”, która może być niezwykle groźna, zwłaszcza w tak kluczowych dziedzinach jak medycyna, finanse czy prawo.
Dlatego badacze stanowczo ostrzegają przed zrównywaniem wyników generowanych przez AI z ludzkim myśleniem i apelują o tworzenie testów, które będą weryfikować zdolność modeli do radzenia sobie z problemami spoza danych treningowych. Zainteresowanych odsyłam do treści artykułu naukowego na platformie Arxiv.
#AI #badania #dezinformacja #LLM #modelJęzykowy #myślenie #Nauka #news #sztucznaInteligencja #technologia
-
AI nie myśli, a jedynie udaje. Naukowcy studzą entuzjazm wokół „sztucznej inteligencji”
W świecie zdominowanym przez zachwyty nad możliwościami sztucznej inteligencji, nowe badanie naukowców z Arizona State University rzuca na nie cień, który każe nam zweryfikować dotychczasowe przekonania.
Wyniki ich pracy sugerują, że imponujące zdolności „logicznego rozumowania” w modelach językowych (LLM), oparte na tzw. metodzie „łańcucha myśli” (chain-of-thought), to w rzeczywistości „kruchy miraż” – wyrafinowana iluzja, która rozpada się przy najmniejszej próbie wyjścia poza wyuczone schematy. Już wcześniej informowaliśmy o badaniach przeprowadzonych przez Apple, które negowały „geniusz” współczesnych zaawansowanych modeli AI, choć później wielu ekspertów podważało przyjęte założenia i metodykę, czy tym razem inni również podważą badania naukowców z ASU?
Iluzja myślenia: nowe badanie Apple podważa prawdziwe zdolności „rozumowania” AI
Kruchy miraż, czyli iluzja rozumowania
W ostatnich miesiącach branża AI mocno promuje modele, które zdają się „myśleć” krok po kroku, by rozwiązać skomplikowane problemy. Naukowcy z ASU postanowili sprawdzić, czy jest to prawdziwa umiejętność logicznego wnioskowania, czy jedynie zaawansowane naśladowanie wzorców. W tym celu stworzyli kontrolowane środowisko, w którym trenowali modele na bardzo prostych transformacjach tekstu, a następnie testowali je na zadaniach, które częściowo lub całkowicie wykraczały poza wzorce poznane na etapie szkolenia.
Wyniki okazały się druzgocące. Modele, które doskonale radziły sobie ze znanymi schematami, zawodziły „katastrofalnie”, gdy tylko zadanie nieznacznie odbiegało od tego, czego się nauczyły. Co więcej, często generowały one odpowiedzi, które miały pozornie poprawną ścieżkę rozumowania, ale prowadziły do błędnego wyniku, lub odwrotnie – potrafiły natrafić na prawidłową odpowiedź, stosując całkowicie nielogiczne kroki.
Wyuczona papuga, nie samodzielny myśliciel
Badanie wykazało, że nawet drobne zmiany w zadaniu, takie jak inna długość tekstu wejściowego lub wprowadzenie symboli nieobecnych w danych treningowych, powodowały gwałtowny spadek wydajności i poprawności odpowiedzi.
To dowodzi, że modele nie posiadają abstrakcyjnej zdolności rozumowania, a ich działanie jest jedynie „wyrafinowaną formą dopasowywania wzorców strukturalnych”. „Zamiast demonstrować prawdziwe zrozumienie tekstu, rozumowanie w stylu 'łańcucha myśli’ wydaje się być powielaniem wzorców nauczonych podczas treningu” – piszą autorzy badania.
„Fałszywa aura niezawodności” i jej zagrożenia
Największe niebezpieczeństwo, według naukowców, tkwi w zdolności modeli do generowania „płynnego nonsensu” – odpowiedzi, które brzmią przekonująco i logicznie, ale w rzeczywistości są błędne. Tworzy to „fałszywą aurę niezawodności”, która może być niezwykle groźna, zwłaszcza w tak kluczowych dziedzinach jak medycyna, finanse czy prawo.
Dlatego badacze stanowczo ostrzegają przed zrównywaniem wyników generowanych przez AI z ludzkim myśleniem i apelują o tworzenie testów, które będą weryfikować zdolność modeli do radzenia sobie z problemami spoza danych treningowych. Zainteresowanych odsyłam do treści artykułu naukowego na platformie Arxiv.
#AI #badania #dezinformacja #LLM #modelJęzykowy #myślenie #Nauka #news #sztucznaInteligencja #technologia
-
AI nie myśli, a jedynie udaje. Naukowcy studzą entuzjazm wokół „sztucznej inteligencji”
W świecie zdominowanym przez zachwyty nad możliwościami sztucznej inteligencji, nowe badanie naukowców z Arizona State University rzuca na nie cień, który każe nam zweryfikować dotychczasowe przekonania.
Wyniki ich pracy sugerują, że imponujące zdolności „logicznego rozumowania” w modelach językowych (LLM), oparte na tzw. metodzie „łańcucha myśli” (chain-of-thought), to w rzeczywistości „kruchy miraż” – wyrafinowana iluzja, która rozpada się przy najmniejszej próbie wyjścia poza wyuczone schematy. Już wcześniej informowaliśmy o badaniach przeprowadzonych przez Apple, które negowały „geniusz” współczesnych zaawansowanych modeli AI, choć później wielu ekspertów podważało przyjęte założenia i metodykę, czy tym razem inni również podważą badania naukowców z ASU?
Iluzja myślenia: nowe badanie Apple podważa prawdziwe zdolności „rozumowania” AI
Kruchy miraż, czyli iluzja rozumowania
W ostatnich miesiącach branża AI mocno promuje modele, które zdają się „myśleć” krok po kroku, by rozwiązać skomplikowane problemy. Naukowcy z ASU postanowili sprawdzić, czy jest to prawdziwa umiejętność logicznego wnioskowania, czy jedynie zaawansowane naśladowanie wzorców. W tym celu stworzyli kontrolowane środowisko, w którym trenowali modele na bardzo prostych transformacjach tekstu, a następnie testowali je na zadaniach, które częściowo lub całkowicie wykraczały poza wzorce poznane na etapie szkolenia.
Wyniki okazały się druzgocące. Modele, które doskonale radziły sobie ze znanymi schematami, zawodziły „katastrofalnie”, gdy tylko zadanie nieznacznie odbiegało od tego, czego się nauczyły. Co więcej, często generowały one odpowiedzi, które miały pozornie poprawną ścieżkę rozumowania, ale prowadziły do błędnego wyniku, lub odwrotnie – potrafiły natrafić na prawidłową odpowiedź, stosując całkowicie nielogiczne kroki.
Wyuczona papuga, nie samodzielny myśliciel
Badanie wykazało, że nawet drobne zmiany w zadaniu, takie jak inna długość tekstu wejściowego lub wprowadzenie symboli nieobecnych w danych treningowych, powodowały gwałtowny spadek wydajności i poprawności odpowiedzi.
To dowodzi, że modele nie posiadają abstrakcyjnej zdolności rozumowania, a ich działanie jest jedynie „wyrafinowaną formą dopasowywania wzorców strukturalnych”. „Zamiast demonstrować prawdziwe zrozumienie tekstu, rozumowanie w stylu 'łańcucha myśli’ wydaje się być powielaniem wzorców nauczonych podczas treningu” – piszą autorzy badania.
„Fałszywa aura niezawodności” i jej zagrożenia
Największe niebezpieczeństwo, według naukowców, tkwi w zdolności modeli do generowania „płynnego nonsensu” – odpowiedzi, które brzmią przekonująco i logicznie, ale w rzeczywistości są błędne. Tworzy to „fałszywą aurę niezawodności”, która może być niezwykle groźna, zwłaszcza w tak kluczowych dziedzinach jak medycyna, finanse czy prawo.
Dlatego badacze stanowczo ostrzegają przed zrównywaniem wyników generowanych przez AI z ludzkim myśleniem i apelują o tworzenie testów, które będą weryfikować zdolność modeli do radzenia sobie z problemami spoza danych treningowych. Zainteresowanych odsyłam do treści artykułu naukowego na platformie Arxiv.
#AI #badania #dezinformacja #LLM #modelJęzykowy #myślenie #Nauka #news #sztucznaInteligencja #technologia
-
Ok, #YouTube zdecydował, żeby pod filmem o #dewzrost #degrowth pokazać informację o naturalnej zmienności klimatu sugerując, że #zmianyKlimatu są "wynikające z przyczyn naturalnych".
-
Ok, #YouTube zdecydował, żeby pod filmem o #dewzrost #degrowth pokazać informację o naturalnej zmienności klimatu sugerując, że #zmianyKlimatu są "wynikające z przyczyn naturalnych".
-
Podczas #WEF premier Hiszpanii postulował, żeby zlikwidować #anonimowość w sieci:
"Proponuję skończyć z anonimowością w SM."
"Pozwalamy ludziom korzystać z SM bez połączenia ich profili z ich prawdziwą tożsamością. To tworzy drogę dla #dezinformacja, #mowanienawiści i #cyberprzemoc. (...) Ta anomalia nie może dłużej trwać."
"Musimy zmusić SM do połączenia każdego profilu z europejskim portfelem tożsamości."
-
Podczas #WEF premier Hiszpanii postulował, żeby zlikwidować #anonimowość w sieci:
"Proponuję skończyć z anonimowością w SM."
"Pozwalamy ludziom korzystać z SM bez połączenia ich profili z ich prawdziwą tożsamością. To tworzy drogę dla #dezinformacja, #mowanienawiści i #cyberprzemoc. (...) Ta anomalia nie może dłużej trwać."
"Musimy zmusić SM do połączenia każdego profilu z europejskim portfelem tożsamości."
-
Podczas #WEF premier Hiszpanii postulował, żeby zlikwidować #anonimowość w sieci:
"Proponuję skończyć z anonimowością w SM."
"Pozwalamy ludziom korzystać z SM bez połączenia ich profili z ich prawdziwą tożsamością. To tworzy drogę dla #dezinformacja, #mowanienawiści i #cyberprzemoc. (...) Ta anomalia nie może dłużej trwać."
"Musimy zmusić SM do połączenia każdego profilu z europejskim portfelem tożsamości."
-
Podczas #WEF premier Hiszpanii postulował, żeby zlikwidować #anonimowość w sieci:
"Proponuję skończyć z anonimowością w SM."
"Pozwalamy ludziom korzystać z SM bez połączenia ich profili z ich prawdziwą tożsamością. To tworzy drogę dla #dezinformacja, #mowanienawiści i #cyberprzemoc. (...) Ta anomalia nie może dłużej trwać."
"Musimy zmusić SM do połączenia każdego profilu z europejskim portfelem tożsamości."
