#duzemodelejezykowe — Public Fediverse posts

Sztuczna inteligencja rezygnuje z dokładności, by być „miła”. Nowe badanie obnaża słabość empatycznego AI

Sztuczna inteligencja może być mniej dokładna, gdy za wszelką cenę próbuje być dla nas przyjazna.

Z najnowszych badań wynika, że modele nastawione na empatię częściej potwierdzają błędne przekonania użytkowników, rezygnując z chłodnej precyzji na rzecz wirtualnej relacji – zwłaszcza gdy w grę wchodzą ludzkie emocje.

Ciepły ton kosztem sprawdzonych faktów

Twórcy sztucznej inteligencji coraz częściej trenują swoje algorytmy tak, aby brzmiały jak nasi dobrzy znajomi. Badacze z Oxford University’s Internet Institute dowiedli jednak na łamach magazynu „Nature”, że ten trend ma swoją zauważalną cenę. Okazuje się, że modele celowo dostrojone do „cieplejszego” tonu częściej popełniają błędy, próbując uniknąć bezpośredniego konfliktu z użytkownikiem.

W testach weryfikujących m.in. wiedzę ogólną i odporność na dezinformację, ugrzecznione warianty AI myliły się średnio o 7,4 punktu procentowego częściej niż ich surowe, standardowe odpowiedniki. Choć maszyna oczywiście nie ma intencji „kłamania”, jej oprogramowanie staje przed dylematem, w którym podtrzymanie relacji z człowiekiem wygrywa z dostarczeniem precyzyjnej odpowiedzi.

Medyczne benchmarki i potakiwanie w smutku

To zjawisko widać wyraźnie w specjalistycznych benchmarkach. W popularnym teście MedQA, który sprawdza rzetelną wiedzę medyczną algorytmów, empatyczne modele notowały wzrost błędnych odpowiedzi o 8,6 punktu procentowego. Sytuacja pogarsza się jeszcze bardziej, gdy człowiek dzieli się z maszyną negatywnymi emocjami.

Jeśli użytkownik zasugeruje ewidentną bzdurę, a przy okazji wykaże w swoim zapytaniu smutek, „ciepłe” AI jest o 11 punktów procentowych bardziej skłonne do bezrefleksyjnego potwierdzenia tego błędnego przekonania. Model stara się dostosować do naszego nastroju, co w efekcie czyni z niego potakiwacza, wzmacniającego nasze własne pomyłki.

Systemowy problem największych na rynku

Ten kompromis między uprzejmością a dokładnością dotyczy największych technologicznych potęg na rynku. Testom poddano popularne modele o różnej architekturze – w tym GPT-4o czy systemy z rodziny Llama – i wszystkie wykazały podobną, systemową słabość.

Dla użytkowników to niezwykle ważna lekcja na przyszłość. Coraz chętniej traktujemy czatboty jak cyfrowych towarzyszy czy powierników, ale musimy pamiętać o jednym: zaprogramowana empatia algorytmów może czasami przysłonić im chłodne fakty. Jeśli szukamy absolutnej prawdy, być może powinniśmy zrezygnować z wirtualnych uprzejmości z maszyną.

Z darmowego słownika w trenera wymowy. Tłumacz Google kończy 20 lat i zyskuje rewelacyjną funkcję

Sztuczna inteligencja rezygnuje z dokładności, by być „miła”. Nowe badanie obnaża słabość empatycznego AI

Sztuczna inteligencja może być mniej dokładna, gdy za wszelką cenę próbuje być dla nas przyjazna.

Z najnowszych badań wynika, że modele nastawione na empatię częściej potwierdzają błędne przekonania użytkowników, rezygnując z chłodnej precyzji na rzecz wirtualnej relacji – zwłaszcza gdy w grę wchodzą ludzkie emocje.

Ciepły ton kosztem sprawdzonych faktów

Twórcy sztucznej inteligencji coraz częściej trenują swoje algorytmy tak, aby brzmiały jak nasi dobrzy znajomi. Badacze z Oxford University’s Internet Institute dowiedli jednak na łamach magazynu „Nature”, że ten trend ma swoją zauważalną cenę. Okazuje się, że modele celowo dostrojone do „cieplejszego” tonu częściej popełniają błędy, próbując uniknąć bezpośredniego konfliktu z użytkownikiem.

W testach weryfikujących m.in. wiedzę ogólną i odporność na dezinformację, ugrzecznione warianty AI myliły się średnio o 7,4 punktu procentowego częściej niż ich surowe, standardowe odpowiedniki. Choć maszyna oczywiście nie ma intencji „kłamania”, jej oprogramowanie staje przed dylematem, w którym podtrzymanie relacji z człowiekiem wygrywa z dostarczeniem precyzyjnej odpowiedzi.

Medyczne benchmarki i potakiwanie w smutku

To zjawisko widać wyraźnie w specjalistycznych benchmarkach. W popularnym teście MedQA, który sprawdza rzetelną wiedzę medyczną algorytmów, empatyczne modele notowały wzrost błędnych odpowiedzi o 8,6 punktu procentowego. Sytuacja pogarsza się jeszcze bardziej, gdy człowiek dzieli się z maszyną negatywnymi emocjami.

Jeśli użytkownik zasugeruje ewidentną bzdurę, a przy okazji wykaże w swoim zapytaniu smutek, „ciepłe” AI jest o 11 punktów procentowych bardziej skłonne do bezrefleksyjnego potwierdzenia tego błędnego przekonania. Model stara się dostosować do naszego nastroju, co w efekcie czyni z niego potakiwacza, wzmacniającego nasze własne pomyłki.

Systemowy problem największych na rynku

Ten kompromis między uprzejmością a dokładnością dotyczy największych technologicznych potęg na rynku. Testom poddano popularne modele o różnej architekturze – w tym GPT-4o czy systemy z rodziny Llama – i wszystkie wykazały podobną, systemową słabość.

Dla użytkowników to niezwykle ważna lekcja na przyszłość. Coraz chętniej traktujemy czatboty jak cyfrowych towarzyszy czy powierników, ale musimy pamiętać o jednym: zaprogramowana empatia algorytmów może czasami przysłonić im chłodne fakty. Jeśli szukamy absolutnej prawdy, być może powinniśmy zrezygnować z wirtualnych uprzejmości z maszyną.

Z darmowego słownika w trenera wymowy. Tłumacz Google kończy 20 lat i zyskuje rewelacyjną funkcję

Sztuczna inteligencja rezygnuje z dokładności, by być „miła”. Nowe badanie obnaża słabość empatycznego AI

Sztuczna inteligencja może być mniej dokładna, gdy za wszelką cenę próbuje być dla nas przyjazna.

Z najnowszych badań wynika, że modele nastawione na empatię częściej potwierdzają błędne przekonania użytkowników, rezygnując z chłodnej precyzji na rzecz wirtualnej relacji – zwłaszcza gdy w grę wchodzą ludzkie emocje.

Ciepły ton kosztem sprawdzonych faktów

Twórcy sztucznej inteligencji coraz częściej trenują swoje algorytmy tak, aby brzmiały jak nasi dobrzy znajomi. Badacze z Oxford University’s Internet Institute dowiedli jednak na łamach magazynu „Nature”, że ten trend ma swoją zauważalną cenę. Okazuje się, że modele celowo dostrojone do „cieplejszego” tonu częściej popełniają błędy, próbując uniknąć bezpośredniego konfliktu z użytkownikiem.

W testach weryfikujących m.in. wiedzę ogólną i odporność na dezinformację, ugrzecznione warianty AI myliły się średnio o 7,4 punktu procentowego częściej niż ich surowe, standardowe odpowiedniki. Choć maszyna oczywiście nie ma intencji „kłamania”, jej oprogramowanie staje przed dylematem, w którym podtrzymanie relacji z człowiekiem wygrywa z dostarczeniem precyzyjnej odpowiedzi.

Medyczne benchmarki i potakiwanie w smutku

To zjawisko widać wyraźnie w specjalistycznych benchmarkach. W popularnym teście MedQA, który sprawdza rzetelną wiedzę medyczną algorytmów, empatyczne modele notowały wzrost błędnych odpowiedzi o 8,6 punktu procentowego. Sytuacja pogarsza się jeszcze bardziej, gdy człowiek dzieli się z maszyną negatywnymi emocjami.

Jeśli użytkownik zasugeruje ewidentną bzdurę, a przy okazji wykaże w swoim zapytaniu smutek, „ciepłe” AI jest o 11 punktów procentowych bardziej skłonne do bezrefleksyjnego potwierdzenia tego błędnego przekonania. Model stara się dostosować do naszego nastroju, co w efekcie czyni z niego potakiwacza, wzmacniającego nasze własne pomyłki.

Systemowy problem największych na rynku

Ten kompromis między uprzejmością a dokładnością dotyczy największych technologicznych potęg na rynku. Testom poddano popularne modele o różnej architekturze – w tym GPT-4o czy systemy z rodziny Llama – i wszystkie wykazały podobną, systemową słabość.

Dla użytkowników to niezwykle ważna lekcja na przyszłość. Coraz chętniej traktujemy czatboty jak cyfrowych towarzyszy czy powierników, ale musimy pamiętać o jednym: zaprogramowana empatia algorytmów może czasami przysłonić im chłodne fakty. Jeśli szukamy absolutnej prawdy, być może powinniśmy zrezygnować z wirtualnych uprzejmości z maszyną.

Z darmowego słownika w trenera wymowy. Tłumacz Google kończy 20 lat i zyskuje rewelacyjną funkcję

Sztuczna inteligencja rezygnuje z dokładności, by być „miła”. Nowe badanie obnaża słabość empatycznego AI

Sztuczna inteligencja może być mniej dokładna, gdy za wszelką cenę próbuje być dla nas przyjazna.

Z najnowszych badań wynika, że modele nastawione na empatię częściej potwierdzają błędne przekonania użytkowników, rezygnując z chłodnej precyzji na rzecz wirtualnej relacji – zwłaszcza gdy w grę wchodzą ludzkie emocje.

Ciepły ton kosztem sprawdzonych faktów

Twórcy sztucznej inteligencji coraz częściej trenują swoje algorytmy tak, aby brzmiały jak nasi dobrzy znajomi. Badacze z Oxford University’s Internet Institute dowiedli jednak na łamach magazynu „Nature”, że ten trend ma swoją zauważalną cenę. Okazuje się, że modele celowo dostrojone do „cieplejszego” tonu częściej popełniają błędy, próbując uniknąć bezpośredniego konfliktu z użytkownikiem.

W testach weryfikujących m.in. wiedzę ogólną i odporność na dezinformację, ugrzecznione warianty AI myliły się średnio o 7,4 punktu procentowego częściej niż ich surowe, standardowe odpowiedniki. Choć maszyna oczywiście nie ma intencji „kłamania”, jej oprogramowanie staje przed dylematem, w którym podtrzymanie relacji z człowiekiem wygrywa z dostarczeniem precyzyjnej odpowiedzi.

Medyczne benchmarki i potakiwanie w smutku

To zjawisko widać wyraźnie w specjalistycznych benchmarkach. W popularnym teście MedQA, który sprawdza rzetelną wiedzę medyczną algorytmów, empatyczne modele notowały wzrost błędnych odpowiedzi o 8,6 punktu procentowego. Sytuacja pogarsza się jeszcze bardziej, gdy człowiek dzieli się z maszyną negatywnymi emocjami.

Jeśli użytkownik zasugeruje ewidentną bzdurę, a przy okazji wykaże w swoim zapytaniu smutek, „ciepłe” AI jest o 11 punktów procentowych bardziej skłonne do bezrefleksyjnego potwierdzenia tego błędnego przekonania. Model stara się dostosować do naszego nastroju, co w efekcie czyni z niego potakiwacza, wzmacniającego nasze własne pomyłki.

Systemowy problem największych na rynku

Ten kompromis między uprzejmością a dokładnością dotyczy największych technologicznych potęg na rynku. Testom poddano popularne modele o różnej architekturze – w tym GPT-4o czy systemy z rodziny Llama – i wszystkie wykazały podobną, systemową słabość.

Dla użytkowników to niezwykle ważna lekcja na przyszłość. Coraz chętniej traktujemy czatboty jak cyfrowych towarzyszy czy powierników, ale musimy pamiętać o jednym: zaprogramowana empatia algorytmów może czasami przysłonić im chłodne fakty. Jeśli szukamy absolutnej prawdy, być może powinniśmy zrezygnować z wirtualnych uprzejmości z maszyną.

Z darmowego słownika w trenera wymowy. Tłumacz Google kończy 20 lat i zyskuje rewelacyjną funkcję

Sztuczna inteligencja rezygnuje z dokładności, by być „miła”. Nowe badanie obnaża słabość empatycznego AI

Sztuczna inteligencja może być mniej dokładna, gdy za wszelką cenę próbuje być dla nas przyjazna.

Z najnowszych badań wynika, że modele nastawione na empatię częściej potwierdzają błędne przekonania użytkowników, rezygnując z chłodnej precyzji na rzecz wirtualnej relacji – zwłaszcza gdy w grę wchodzą ludzkie emocje.

Ciepły ton kosztem sprawdzonych faktów

Twórcy sztucznej inteligencji coraz częściej trenują swoje algorytmy tak, aby brzmiały jak nasi dobrzy znajomi. Badacze z Oxford University’s Internet Institute dowiedli jednak na łamach magazynu „Nature”, że ten trend ma swoją zauważalną cenę. Okazuje się, że modele celowo dostrojone do „cieplejszego” tonu częściej popełniają błędy, próbując uniknąć bezpośredniego konfliktu z użytkownikiem.

W testach weryfikujących m.in. wiedzę ogólną i odporność na dezinformację, ugrzecznione warianty AI myliły się średnio o 7,4 punktu procentowego częściej niż ich surowe, standardowe odpowiedniki. Choć maszyna oczywiście nie ma intencji „kłamania”, jej oprogramowanie staje przed dylematem, w którym podtrzymanie relacji z człowiekiem wygrywa z dostarczeniem precyzyjnej odpowiedzi.

Medyczne benchmarki i potakiwanie w smutku

To zjawisko widać wyraźnie w specjalistycznych benchmarkach. W popularnym teście MedQA, który sprawdza rzetelną wiedzę medyczną algorytmów, empatyczne modele notowały wzrost błędnych odpowiedzi o 8,6 punktu procentowego. Sytuacja pogarsza się jeszcze bardziej, gdy człowiek dzieli się z maszyną negatywnymi emocjami.

Jeśli użytkownik zasugeruje ewidentną bzdurę, a przy okazji wykaże w swoim zapytaniu smutek, „ciepłe” AI jest o 11 punktów procentowych bardziej skłonne do bezrefleksyjnego potwierdzenia tego błędnego przekonania. Model stara się dostosować do naszego nastroju, co w efekcie czyni z niego potakiwacza, wzmacniającego nasze własne pomyłki.

Systemowy problem największych na rynku

Ten kompromis między uprzejmością a dokładnością dotyczy największych technologicznych potęg na rynku. Testom poddano popularne modele o różnej architekturze – w tym GPT-4o czy systemy z rodziny Llama – i wszystkie wykazały podobną, systemową słabość.

Dla użytkowników to niezwykle ważna lekcja na przyszłość. Coraz chętniej traktujemy czatboty jak cyfrowych towarzyszy czy powierników, ale musimy pamiętać o jednym: zaprogramowana empatia algorytmów może czasami przysłonić im chłodne fakty. Jeśli szukamy absolutnej prawdy, być może powinniśmy zrezygnować z wirtualnych uprzejmości z maszyną.

Z darmowego słownika w trenera wymowy. Tłumacz Google kończy 20 lat i zyskuje rewelacyjną funkcję

ChatGPT w końcu przeliteruje truskawkę (strawberry). Sukces OpenAI to jednak tylko punktowa poprawka

Zbyt duża pewność siebie przy podawaniu błędnych informacji to wciąż jedna z głównych słabości sztucznej inteligencji. OpenAI ogłosiło właśnie, że ChatGPT nareszcie radzi sobie z popularnym w sieci testem na logikę. Entuzjazm użytkowników szybko jednak opadł. Sprawdzenie podobnych haseł sugeruje, że firma rozwiązała tylko jeden wiralowy problem, nie naprawiając przy tym systemowych ograniczeń swojego algorytmu.

Dlaczego sztuczna inteligencja nie potrafi liczyć liter? Winna jest tokenizacja
Przez długi czas jednym z najprostszych sposobów na obnażenie ułomności ChatGPT było zapytanie go o liczbę liter „R” w angielskim słowie „strawberry” (truskawka). Model regularnie podawał błędną odpowiedź, nierzadko trwając przy błędzie w dyskusji z użytkownikiem. Podobnie wyglądała sprawa z zagadką o myjni samochodowej oddalonej o 50 metrów – sztuczna inteligencja bezrefleksyjnie doradzała spacer, ignorując fakt, że auto trzeba w to miejsce jakoś dostarczyć.

Aby w pełni zrozumieć ten fenomen, trzeba na sprawę spojrzeć od strony technicznej. Duże modele językowe (LLM) nie operują na pojedynczych literach, lecz na tak zwanych tokenach, czyli fragmentach słów lub sylabach. Z tego powodu zadania polegające na precyzyjnym liczeniu znaków wewnątrz konkretnego wyrazu bywają dla nich zaskakująco trudne i sprzeczne z ich architekturą.

Test żurawiny obnaża doraźną strategię twórców

OpenAI oficjalnie pochwaliło się w serwisie X, że ich sztandarowy produkt poprawnie rozwiązuje już wspomniane zagadki z truskawką i myjnią. Szybko jednak okazało się, że może to sugerować próbę rozwiązania konkretnego, uciążliwego wizerunkowo problemu, a nie fundamentalną poprawę działania modelu. Jak zauważa serwis 9to5Google, wystarczyło lekko zmodyfikować zapytanie, by sztuczna inteligencja znów zaczęła się gubić.

Kiedy internauci zapytali ChatGPT o liczbę liter „R” w słowie „cranberry” (żurawina), chatbot z pełnym przekonaniem odpowiadał, że w wyrazie znajduje się tylko jedna taka litera.

Wygląda to bardziej na punktową łatkę – przypisanie poprawnej odpowiedzi do konkretnego, popularnego w sieci zapytania – niż na systemową zmianę sposobu przetwarzania danych. To ważne przypomnienie dla użytkowników: choć duże modele językowe zachwycają elokwencją, nadal są tylko potężnymi generatorami prawdopodobieństwa i warto podchodzić do nich z odpowiednim dystansem.

Granice odpowiedzialności. OpenAI przeprasza za brak zgłoszenia konta sprawcy strzelaniny

Anthropic inwestuje miliardy w układy Google TPU. To strategiczny zwrot w wyścigu zbrojeń AI

Anthropic, główny konkurent OpenAI i twórca rodziny modeli Claude, ogłosił gigantyczną rozbudowę swojej infrastruktury.

Firma planuje wdrożyć nawet milion specjalistycznych układów AI Google Cloud TPU, w ramach umowy wartej dziesiątki miliardów dolarów. Ten ruch to jeden z największych jednorazowych zakupów akceleratorów AI w historii i sygnalizuje strategiczne zmiany w tym, jak budowane są systemy AI na masową skalę.

Rozbudowa, która ma dodać ponad gigawat mocy obliczeniowej w 2026 roku, jest bezpośrednią odpowiedzią na lawinowy wzrost zapotrzebowania na usługi Anthropic. Firma obsługuje już ponad 300 000 klientów biznesowych, a liczba dużych kontraktów (o wartości ponad 100 000 USD rocznie) wzrosła siedmiokrotnie w ciągu ostatniego roku. Pokazuje to, że wdrażanie Claude w korporacjach przeszło z fazy eksperymentów do etapu produkcyjnego, gdzie niezawodność, koszt i wydajność infrastruktury nie podlegają negocjacjom.

Strategia wielu platform

Co najciekawsze, wielomiliardowa umowa z Google nie oznacza zerwania dotychczasowych sojuszy. Anthropic wyraźnie podkreśla, że prowadzi strategię „zdywersyfikowanych obliczeń”. Firma działa jednocześnie na trzech różnych platformach sprzętowych: układach TPU od Google, procesorach Trainium od Amazona oraz dominujących na rynku kartach GPU od Nvidii. Dyrektor finansowy Anthropic, Krishna Rao, potwierdził, że Amazon (AWS) pozostaje ich głównym partnerem chmurowym i szkoleniowym.

To pragmatyczne podejście pokazuje, że w świecie AI nie ma jednego uniwersalnego rozwiązania. Inne zasoby obliczeniowe są optymalne do trenowania gigantycznych modeli od zera, inne do ich późniejszego dostrajania (fine-tuning), a jeszcze inne do masowego i taniego serwowania odpowiedzi (inferencji). Dla liderów IT w korporacjach to jasny sygnał: budowanie długoterminowej strategii AI w oparciu o jednego dostawcę (vendor lock-in) staje się coraz bardziej ryzykowne.

Ekonomia skali i bezpieczeństwo

Według Google, Anthropic zdecydował się na tak dużą inwestycję w układy TPU ze względu na ich „wysoki stosunek ceny do wydajności”. Układy TPU (Tensor Processing Units), stworzone specjalnie do obliczeń sieci neuronowych, często oferują przewagę w przepustowości i efektywności energetycznej nad kartami GPU ogólnego przeznaczenia. Wzmianka o „gigawacie mocy” nie jest przypadkowa – przy tej skali, zużycie energii i koszty chłodzenia stają się równie krytyczne, jak sama cena chipów.

Anthropic mocno zaznacza również inny cel inwestycji. Tak ogromna moc obliczeniowa ma być przeznaczona na „dokładniejsze testowanie, badania nad bezpieczeństwem i wyrównaniem (alignment) oraz odpowiedzialne wdrażanie” modeli. W branży, w której Anthropic pozycjonuje się jako lider odpowiedzialnej AI, jest to kluczowa deklaracja, mająca budować zaufanie klientów z sektorów regulowanych, jak finanse czy opieka zdrowotna.

To posunięcie to kolejny etap wyścigu zbrojeń w infrastrukturze AI, w którym Anthropic ściga się z OpenAI (wspieranym przez Microsoft) i Metą. Zabezpieczając tak duże moce obliczeniowe u różnych dostawców, firma nie tylko zapewnia sobie ciągłość działania, ale także wysyła rynkowi sygnał, że era dominacji jednej architektury chipów AI może powoli dobiegać końca.

Anthropic uczy AI asertywności. Claude może teraz zakończyć rozmowę z użytkownikiem

#AI #AmazonAWS #Anthropic #centraDanych #Claude #dużeModeleJęzykowe #GoogleCloud #infrastrukturaAI #LLM #news #nvidia #sztucznaInteligencja #TPU

Anthropic inwestuje miliardy w układy Google TPU. To strategiczny zwrot w wyścigu zbrojeń AI

Anthropic, główny konkurent OpenAI i twórca rodziny modeli Claude, ogłosił gigantyczną rozbudowę swojej infrastruktury.

Firma planuje wdrożyć nawet milion specjalistycznych układów AI Google Cloud TPU, w ramach umowy wartej dziesiątki miliardów dolarów. Ten ruch to jeden z największych jednorazowych zakupów akceleratorów AI w historii i sygnalizuje strategiczne zmiany w tym, jak budowane są systemy AI na masową skalę.

Rozbudowa, która ma dodać ponad gigawat mocy obliczeniowej w 2026 roku, jest bezpośrednią odpowiedzią na lawinowy wzrost zapotrzebowania na usługi Anthropic. Firma obsługuje już ponad 300 000 klientów biznesowych, a liczba dużych kontraktów (o wartości ponad 100 000 USD rocznie) wzrosła siedmiokrotnie w ciągu ostatniego roku. Pokazuje to, że wdrażanie Claude w korporacjach przeszło z fazy eksperymentów do etapu produkcyjnego, gdzie niezawodność, koszt i wydajność infrastruktury nie podlegają negocjacjom.

Strategia wielu platform

Co najciekawsze, wielomiliardowa umowa z Google nie oznacza zerwania dotychczasowych sojuszy. Anthropic wyraźnie podkreśla, że prowadzi strategię „zdywersyfikowanych obliczeń”. Firma działa jednocześnie na trzech różnych platformach sprzętowych: układach TPU od Google, procesorach Trainium od Amazona oraz dominujących na rynku kartach GPU od Nvidii. Dyrektor finansowy Anthropic, Krishna Rao, potwierdził, że Amazon (AWS) pozostaje ich głównym partnerem chmurowym i szkoleniowym.

To pragmatyczne podejście pokazuje, że w świecie AI nie ma jednego uniwersalnego rozwiązania. Inne zasoby obliczeniowe są optymalne do trenowania gigantycznych modeli od zera, inne do ich późniejszego dostrajania (fine-tuning), a jeszcze inne do masowego i taniego serwowania odpowiedzi (inferencji). Dla liderów IT w korporacjach to jasny sygnał: budowanie długoterminowej strategii AI w oparciu o jednego dostawcę (vendor lock-in) staje się coraz bardziej ryzykowne.

Ekonomia skali i bezpieczeństwo

Według Google, Anthropic zdecydował się na tak dużą inwestycję w układy TPU ze względu na ich „wysoki stosunek ceny do wydajności”. Układy TPU (Tensor Processing Units), stworzone specjalnie do obliczeń sieci neuronowych, często oferują przewagę w przepustowości i efektywności energetycznej nad kartami GPU ogólnego przeznaczenia. Wzmianka o „gigawacie mocy” nie jest przypadkowa – przy tej skali, zużycie energii i koszty chłodzenia stają się równie krytyczne, jak sama cena chipów.

Anthropic mocno zaznacza również inny cel inwestycji. Tak ogromna moc obliczeniowa ma być przeznaczona na „dokładniejsze testowanie, badania nad bezpieczeństwem i wyrównaniem (alignment) oraz odpowiedzialne wdrażanie” modeli. W branży, w której Anthropic pozycjonuje się jako lider odpowiedzialnej AI, jest to kluczowa deklaracja, mająca budować zaufanie klientów z sektorów regulowanych, jak finanse czy opieka zdrowotna.

To posunięcie to kolejny etap wyścigu zbrojeń w infrastrukturze AI, w którym Anthropic ściga się z OpenAI (wspieranym przez Microsoft) i Metą. Zabezpieczając tak duże moce obliczeniowe u różnych dostawców, firma nie tylko zapewnia sobie ciągłość działania, ale także wysyła rynkowi sygnał, że era dominacji jednej architektury chipów AI może powoli dobiegać końca.

Anthropic uczy AI asertywności. Claude może teraz zakończyć rozmowę z użytkownikiem

#AI #AmazonAWS #Anthropic #centraDanych #Claude #dużeModeleJęzykowe #GoogleCloud #infrastrukturaAI #LLM #news #nvidia #sztucznaInteligencja #TPU

Anthropic inwestuje miliardy w układy Google TPU. To strategiczny zwrot w wyścigu zbrojeń AI

Anthropic, główny konkurent OpenAI i twórca rodziny modeli Claude, ogłosił gigantyczną rozbudowę swojej infrastruktury.

Firma planuje wdrożyć nawet milion specjalistycznych układów AI Google Cloud TPU, w ramach umowy wartej dziesiątki miliardów dolarów. Ten ruch to jeden z największych jednorazowych zakupów akceleratorów AI w historii i sygnalizuje strategiczne zmiany w tym, jak budowane są systemy AI na masową skalę.

Rozbudowa, która ma dodać ponad gigawat mocy obliczeniowej w 2026 roku, jest bezpośrednią odpowiedzią na lawinowy wzrost zapotrzebowania na usługi Anthropic. Firma obsługuje już ponad 300 000 klientów biznesowych, a liczba dużych kontraktów (o wartości ponad 100 000 USD rocznie) wzrosła siedmiokrotnie w ciągu ostatniego roku. Pokazuje to, że wdrażanie Claude w korporacjach przeszło z fazy eksperymentów do etapu produkcyjnego, gdzie niezawodność, koszt i wydajność infrastruktury nie podlegają negocjacjom.

Strategia wielu platform

Co najciekawsze, wielomiliardowa umowa z Google nie oznacza zerwania dotychczasowych sojuszy. Anthropic wyraźnie podkreśla, że prowadzi strategię „zdywersyfikowanych obliczeń”. Firma działa jednocześnie na trzech różnych platformach sprzętowych: układach TPU od Google, procesorach Trainium od Amazona oraz dominujących na rynku kartach GPU od Nvidii. Dyrektor finansowy Anthropic, Krishna Rao, potwierdził, że Amazon (AWS) pozostaje ich głównym partnerem chmurowym i szkoleniowym.

To pragmatyczne podejście pokazuje, że w świecie AI nie ma jednego uniwersalnego rozwiązania. Inne zasoby obliczeniowe są optymalne do trenowania gigantycznych modeli od zera, inne do ich późniejszego dostrajania (fine-tuning), a jeszcze inne do masowego i taniego serwowania odpowiedzi (inferencji). Dla liderów IT w korporacjach to jasny sygnał: budowanie długoterminowej strategii AI w oparciu o jednego dostawcę (vendor lock-in) staje się coraz bardziej ryzykowne.

Ekonomia skali i bezpieczeństwo

Według Google, Anthropic zdecydował się na tak dużą inwestycję w układy TPU ze względu na ich „wysoki stosunek ceny do wydajności”. Układy TPU (Tensor Processing Units), stworzone specjalnie do obliczeń sieci neuronowych, często oferują przewagę w przepustowości i efektywności energetycznej nad kartami GPU ogólnego przeznaczenia. Wzmianka o „gigawacie mocy” nie jest przypadkowa – przy tej skali, zużycie energii i koszty chłodzenia stają się równie krytyczne, jak sama cena chipów.

Anthropic mocno zaznacza również inny cel inwestycji. Tak ogromna moc obliczeniowa ma być przeznaczona na „dokładniejsze testowanie, badania nad bezpieczeństwem i wyrównaniem (alignment) oraz odpowiedzialne wdrażanie” modeli. W branży, w której Anthropic pozycjonuje się jako lider odpowiedzialnej AI, jest to kluczowa deklaracja, mająca budować zaufanie klientów z sektorów regulowanych, jak finanse czy opieka zdrowotna.

To posunięcie to kolejny etap wyścigu zbrojeń w infrastrukturze AI, w którym Anthropic ściga się z OpenAI (wspieranym przez Microsoft) i Metą. Zabezpieczając tak duże moce obliczeniowe u różnych dostawców, firma nie tylko zapewnia sobie ciągłość działania, ale także wysyła rynkowi sygnał, że era dominacji jednej architektury chipów AI może powoli dobiegać końca.

Anthropic uczy AI asertywności. Claude może teraz zakończyć rozmowę z użytkownikiem

#AI #AmazonAWS #Anthropic #centraDanych #Claude #dużeModeleJęzykowe #GoogleCloud #infrastrukturaAI #LLM #news #nvidia #sztucznaInteligencja #TPU

Anthropic inwestuje miliardy w układy Google TPU. To strategiczny zwrot w wyścigu zbrojeń AI

Anthropic, główny konkurent OpenAI i twórca rodziny modeli Claude, ogłosił gigantyczną rozbudowę swojej infrastruktury.

Firma planuje wdrożyć nawet milion specjalistycznych układów AI Google Cloud TPU, w ramach umowy wartej dziesiątki miliardów dolarów. Ten ruch to jeden z największych jednorazowych zakupów akceleratorów AI w historii i sygnalizuje strategiczne zmiany w tym, jak budowane są systemy AI na masową skalę.

Rozbudowa, która ma dodać ponad gigawat mocy obliczeniowej w 2026 roku, jest bezpośrednią odpowiedzią na lawinowy wzrost zapotrzebowania na usługi Anthropic. Firma obsługuje już ponad 300 000 klientów biznesowych, a liczba dużych kontraktów (o wartości ponad 100 000 USD rocznie) wzrosła siedmiokrotnie w ciągu ostatniego roku. Pokazuje to, że wdrażanie Claude w korporacjach przeszło z fazy eksperymentów do etapu produkcyjnego, gdzie niezawodność, koszt i wydajność infrastruktury nie podlegają negocjacjom.

Strategia wielu platform

Co najciekawsze, wielomiliardowa umowa z Google nie oznacza zerwania dotychczasowych sojuszy. Anthropic wyraźnie podkreśla, że prowadzi strategię „zdywersyfikowanych obliczeń”. Firma działa jednocześnie na trzech różnych platformach sprzętowych: układach TPU od Google, procesorach Trainium od Amazona oraz dominujących na rynku kartach GPU od Nvidii. Dyrektor finansowy Anthropic, Krishna Rao, potwierdził, że Amazon (AWS) pozostaje ich głównym partnerem chmurowym i szkoleniowym.

To pragmatyczne podejście pokazuje, że w świecie AI nie ma jednego uniwersalnego rozwiązania. Inne zasoby obliczeniowe są optymalne do trenowania gigantycznych modeli od zera, inne do ich późniejszego dostrajania (fine-tuning), a jeszcze inne do masowego i taniego serwowania odpowiedzi (inferencji). Dla liderów IT w korporacjach to jasny sygnał: budowanie długoterminowej strategii AI w oparciu o jednego dostawcę (vendor lock-in) staje się coraz bardziej ryzykowne.

Ekonomia skali i bezpieczeństwo

Według Google, Anthropic zdecydował się na tak dużą inwestycję w układy TPU ze względu na ich „wysoki stosunek ceny do wydajności”. Układy TPU (Tensor Processing Units), stworzone specjalnie do obliczeń sieci neuronowych, często oferują przewagę w przepustowości i efektywności energetycznej nad kartami GPU ogólnego przeznaczenia. Wzmianka o „gigawacie mocy” nie jest przypadkowa – przy tej skali, zużycie energii i koszty chłodzenia stają się równie krytyczne, jak sama cena chipów.

Anthropic mocno zaznacza również inny cel inwestycji. Tak ogromna moc obliczeniowa ma być przeznaczona na „dokładniejsze testowanie, badania nad bezpieczeństwem i wyrównaniem (alignment) oraz odpowiedzialne wdrażanie” modeli. W branży, w której Anthropic pozycjonuje się jako lider odpowiedzialnej AI, jest to kluczowa deklaracja, mająca budować zaufanie klientów z sektorów regulowanych, jak finanse czy opieka zdrowotna.

To posunięcie to kolejny etap wyścigu zbrojeń w infrastrukturze AI, w którym Anthropic ściga się z OpenAI (wspieranym przez Microsoft) i Metą. Zabezpieczając tak duże moce obliczeniowe u różnych dostawców, firma nie tylko zapewnia sobie ciągłość działania, ale także wysyła rynkowi sygnał, że era dominacji jednej architektury chipów AI może powoli dobiegać końca.

Anthropic uczy AI asertywności. Claude może teraz zakończyć rozmowę z użytkownikiem

#AI #AmazonAWS #Anthropic #centraDanych #Claude #dużeModeleJęzykowe #GoogleCloud #infrastrukturaAI #LLM #news #nvidia #sztucznaInteligencja #TPU

Anthropic inwestuje miliardy w układy Google TPU. To strategiczny zwrot w wyścigu zbrojeń AI

Anthropic, główny konkurent OpenAI i twórca rodziny modeli Claude, ogłosił gigantyczną rozbudowę swojej infrastruktury.

Firma planuje wdrożyć nawet milion specjalistycznych układów AI Google Cloud TPU, w ramach umowy wartej dziesiątki miliardów dolarów. Ten ruch to jeden z największych jednorazowych zakupów akceleratorów AI w historii i sygnalizuje strategiczne zmiany w tym, jak budowane są systemy AI na masową skalę.

Rozbudowa, która ma dodać ponad gigawat mocy obliczeniowej w 2026 roku, jest bezpośrednią odpowiedzią na lawinowy wzrost zapotrzebowania na usługi Anthropic. Firma obsługuje już ponad 300 000 klientów biznesowych, a liczba dużych kontraktów (o wartości ponad 100 000 USD rocznie) wzrosła siedmiokrotnie w ciągu ostatniego roku. Pokazuje to, że wdrażanie Claude w korporacjach przeszło z fazy eksperymentów do etapu produkcyjnego, gdzie niezawodność, koszt i wydajność infrastruktury nie podlegają negocjacjom.

Strategia wielu platform

Co najciekawsze, wielomiliardowa umowa z Google nie oznacza zerwania dotychczasowych sojuszy. Anthropic wyraźnie podkreśla, że prowadzi strategię „zdywersyfikowanych obliczeń”. Firma działa jednocześnie na trzech różnych platformach sprzętowych: układach TPU od Google, procesorach Trainium od Amazona oraz dominujących na rynku kartach GPU od Nvidii. Dyrektor finansowy Anthropic, Krishna Rao, potwierdził, że Amazon (AWS) pozostaje ich głównym partnerem chmurowym i szkoleniowym.

To pragmatyczne podejście pokazuje, że w świecie AI nie ma jednego uniwersalnego rozwiązania. Inne zasoby obliczeniowe są optymalne do trenowania gigantycznych modeli od zera, inne do ich późniejszego dostrajania (fine-tuning), a jeszcze inne do masowego i taniego serwowania odpowiedzi (inferencji). Dla liderów IT w korporacjach to jasny sygnał: budowanie długoterminowej strategii AI w oparciu o jednego dostawcę (vendor lock-in) staje się coraz bardziej ryzykowne.

Ekonomia skali i bezpieczeństwo

Według Google, Anthropic zdecydował się na tak dużą inwestycję w układy TPU ze względu na ich „wysoki stosunek ceny do wydajności”. Układy TPU (Tensor Processing Units), stworzone specjalnie do obliczeń sieci neuronowych, często oferują przewagę w przepustowości i efektywności energetycznej nad kartami GPU ogólnego przeznaczenia. Wzmianka o „gigawacie mocy” nie jest przypadkowa – przy tej skali, zużycie energii i koszty chłodzenia stają się równie krytyczne, jak sama cena chipów.

Anthropic mocno zaznacza również inny cel inwestycji. Tak ogromna moc obliczeniowa ma być przeznaczona na „dokładniejsze testowanie, badania nad bezpieczeństwem i wyrównaniem (alignment) oraz odpowiedzialne wdrażanie” modeli. W branży, w której Anthropic pozycjonuje się jako lider odpowiedzialnej AI, jest to kluczowa deklaracja, mająca budować zaufanie klientów z sektorów regulowanych, jak finanse czy opieka zdrowotna.

To posunięcie to kolejny etap wyścigu zbrojeń w infrastrukturze AI, w którym Anthropic ściga się z OpenAI (wspieranym przez Microsoft) i Metą. Zabezpieczając tak duże moce obliczeniowe u różnych dostawców, firma nie tylko zapewnia sobie ciągłość działania, ale także wysyła rynkowi sygnał, że era dominacji jednej architektury chipów AI może powoli dobiegać końca.

Anthropic uczy AI asertywności. Claude może teraz zakończyć rozmowę z użytkownikiem

#AI #AmazonAWS #Anthropic #centraDanych #Claude #dużeModeleJęzykowe #GoogleCloud #infrastrukturaAI #LLM #news #nvidia #sztucznaInteligencja #TPU

Polski królem AI? Amerykańskie badanie obala mit języka angielskiego

Powszechne przekonanie, że ze sztuczną inteligencją „rozmawia się” najlepiej po angielsku, zostało właśnie mocno podważone.

Zaskakujące wyniki nowej pracy badawczej naukowców z University of Maryland i Microsoftu wskazują, że w skomplikowanych zadaniach wymagających przetwarzania długiego kontekstu, to właśnie język polski okazał się najbardziej wydajny, wyprzedzając angielski i 24 inne języki.

Odkrycie to jest efektem publikacji pracy „One ruler to measure them all:
Benchmarking multilingual long-context language models”. Jej autorzy, w tym Marzena Karpińska z Microsoftu, stworzyli nowy, zaawansowany benchmark o nazwie ONERULER. Jego celem jest ocena, jak duże modele językowe (LLM), takie jak testowane Gemini 1.5 Flash, Llama 3.3 czy Qwen 2.5 , radzą sobie z przetwarzaniem bardzo długich fragmentów tekstu (sięgających 128 tysięcy tokenów) w 26 różnych językach. Ma to kluczowe znaczenie dla realnych zastosowań, jak streszczanie obszernych dokumentów czy odpowiadanie na pytania na ich podstawie, a dotychczasowe testy skupiały się głównie na języku angielskim.

Badanie polegało na wielojęzycznej adaptacji popularnego testu „igły w stogu siana” (Needle-in-a-Haystack). W praktyce polega to na ukryciu konkretnej informacji (np. „magicznego numeru”) w bardzo długim, losowym tekście (np. fragmencie książki ), a następnie zapytaniu modelu o tę informację. Zespół ONERULER stworzył siedem różnych zadań syntetycznych, w tym warianty z wieloma „igłami” czy ukrytymi słowami kluczowymi. Kluczowe było to, że instrukcje do zadań zostały przetłumaczone przez native speakerów na 25 języków, aby zapewnić rzetelność porównania.

Wyniki, zwłaszcza przy analizie długich kontekstów (64K i 128K tokenów), okazały się zaskakujące. Język polski osiągnął najwyższą średnią dokładność na poziomie 88%. Angielski, na którym trenowana jest absolutna większość modeli, zajął dopiero szóste miejsce z wynikiem 83,9%. Co ciekawe, języki słowiańskie (jak polski czy rosyjski), romańskie (francuski, włoski) i germańskie generalnie wypadły najlepiej.

Jest też ciekawostka. Otóż prawdziwą porażkę poniósł język chiński, który pomimo bycia językiem o „wysokich zasobach” (dużej ilości danych treningowych), zajął czwarte miejsce od końca ze średnim wynikiem 62,1%.

Praca rzuca też światło na inny fundamentalny problem: kruchość obecnych modeli AI. Naukowcy wprowadzili wariant testu, w którym poszukiwana „igła” mogła nie istnieć, a w poleceniu dodano prostą instrukcję: „Jeśli takie numery nie istnieją, odpowiedz 'brak’”. Okazało się, że sama ta sugestia dramatycznie obniżyła wydajność modeli – zaczęły one masowo odpowiadać „brak”, nawet wtedy, gdy informacja była obecna w tekście. Pokazuje to, jak łatwo jest „zbić z tropu” AI i jak bardzo potrzebne są nowe, wielojęzyczne metody testowania, takie jak ONERULER.

Wielka rewolucja w Amazonie. Wewnętrzne plany zakładają zastąpienie 600 tys. etatów robotami

#AI #badaniaNaukowe #benchmark #dużeModeleJęzykowe #Gemini #językPolski #LLaMA #LLM #MarzenaKarpińska #Microsoft #news #ONERULER #sztucznaInteligencja #UniversityOfMaryland

Sztuczna inteligencja kłamie, bo tak ją nauczono. OpenAI przyznaje się do fundamentalnego błędu

„Halucynacje” sztucznej inteligencji, czyli jej skłonność do zmyślania faktów i podawania fałszywych informacji, to jeden z największych problemów hamujących rozwój tej technologii.

Teraz badacze z OpenAI, twórcy ChataGPT, ogłosili, że prawdopodobnie znaleźli źródło tego problemu. Wnioski są zaskakujące: to nie wina samej technologii, ale fundamentalny błąd w sposobie, w jaki jest ona trenowana.

Kluczowy menedżer od projektu Siri odchodzi z Apple. To on stał za opóźnioną sztuczną inteligencją

W najnowszej publikacji naukowcy z OpenAI wyjaśniają, że duże modele językowe (LLM) zachowują się jak dobrzy uczniowie na teście. Systemy oceniające, które stosuje się w procesie ich trenowania, nagradzają udzielenie jakiejkolwiek odpowiedzi. Zgadnięcie, nawet jeśli odpowiedź jest błędna, jest statystycznie bardziej opłacalne niż przyznanie się do niewiedzy. Model AI, który odpowie „nie wiem”, zawsze zostanie oceniony negatywnie, podczas gdy odpowiedź zmyślona ma przynajmniej szansę okazać się trafna.

W ten sposób, poprzez tę presję statystyczną, modele językowe są od samego początku zachęcane do zgadywania i konfabulowania, zamiast do sygnalizowania niepewności. Mamy tu do czynienia z poważnym błędem strukturalnym w metodologii treningu, który popełniła zarówno OpenAI, jak i cała branża podążająca jej śladem.

Na szczęście, wraz z diagnozą pojawia się propozycja rozwiązania. OpenAI sugeruje, że istnieje proste wyjście z tej sytuacji. Kluczem ma być zmiana systemu oceniania. Nowa metoda miałaby znacznie surowiej karać za podawanie błędnych odpowiedzi z dużą pewnością siebie, a jednocześnie nagradzać (np. częścią punktów) za uczciwe przyznanie się do braku wiedzy lub wyrażenie niepewności. Jeśli główne systemy rankingowe przestaną nagradzać szczęśliwe strzały, modele wreszcie nauczą się nie zgadywać.

Czy ta zmiana faktycznie powstrzyma falę dezinformacji generowanej przez AI? Czas pokaże. Firma przyznaje, że halucynacje pozostają fundamentalnym wyzwaniem dla wszystkich dużych modeli językowych, ale jednocześnie zapewnia, że ciężko pracuje, aby je dalej redukować. Dla użytkowników oznacza to nadzieję, że w przyszłości rozmowy z AI będą wreszcie oparte na faktach, a nie na kreatywnej fikcji.

Poufne wyznania pacjentów trafiają do ChatGPT. Niektórzy terapeuci używają AI w tajemnicy

#AI #dezinformacja #dużeModeleJęzykowe #GPT #halucynacjeAI #LLM #news #OpenAI #sztucznaInteligencja #technologia #uczenieMaszynowe

Sztuczna inteligencja kłamie, bo tak ją nauczono. OpenAI przyznaje się do fundamentalnego błędu

„Halucynacje” sztucznej inteligencji, czyli jej skłonność do zmyślania faktów i podawania fałszywych informacji, to jeden z największych problemów hamujących rozwój tej technologii.

Teraz badacze z OpenAI, twórcy ChataGPT, ogłosili, że prawdopodobnie znaleźli źródło tego problemu. Wnioski są zaskakujące: to nie wina samej technologii, ale fundamentalny błąd w sposobie, w jaki jest ona trenowana.

Kluczowy menedżer od projektu Siri odchodzi z Apple. To on stał za opóźnioną sztuczną inteligencją

W najnowszej publikacji naukowcy z OpenAI wyjaśniają, że duże modele językowe (LLM) zachowują się jak dobrzy uczniowie na teście. Systemy oceniające, które stosuje się w procesie ich trenowania, nagradzają udzielenie jakiejkolwiek odpowiedzi. Zgadnięcie, nawet jeśli odpowiedź jest błędna, jest statystycznie bardziej opłacalne niż przyznanie się do niewiedzy. Model AI, który odpowie „nie wiem”, zawsze zostanie oceniony negatywnie, podczas gdy odpowiedź zmyślona ma przynajmniej szansę okazać się trafna.

W ten sposób, poprzez tę presję statystyczną, modele językowe są od samego początku zachęcane do zgadywania i konfabulowania, zamiast do sygnalizowania niepewności. Mamy tu do czynienia z poważnym błędem strukturalnym w metodologii treningu, który popełniła zarówno OpenAI, jak i cała branża podążająca jej śladem.

Na szczęście, wraz z diagnozą pojawia się propozycja rozwiązania. OpenAI sugeruje, że istnieje proste wyjście z tej sytuacji. Kluczem ma być zmiana systemu oceniania. Nowa metoda miałaby znacznie surowiej karać za podawanie błędnych odpowiedzi z dużą pewnością siebie, a jednocześnie nagradzać (np. częścią punktów) za uczciwe przyznanie się do braku wiedzy lub wyrażenie niepewności. Jeśli główne systemy rankingowe przestaną nagradzać szczęśliwe strzały, modele wreszcie nauczą się nie zgadywać.

Czy ta zmiana faktycznie powstrzyma falę dezinformacji generowanej przez AI? Czas pokaże. Firma przyznaje, że halucynacje pozostają fundamentalnym wyzwaniem dla wszystkich dużych modeli językowych, ale jednocześnie zapewnia, że ciężko pracuje, aby je dalej redukować. Dla użytkowników oznacza to nadzieję, że w przyszłości rozmowy z AI będą wreszcie oparte na faktach, a nie na kreatywnej fikcji.

Poufne wyznania pacjentów trafiają do ChatGPT. Niektórzy terapeuci używają AI w tajemnicy

#AI #dezinformacja #dużeModeleJęzykowe #GPT #halucynacjeAI #LLM #news #OpenAI #sztucznaInteligencja #technologia #uczenieMaszynowe

Sztuczna inteligencja kłamie, bo tak ją nauczono. OpenAI przyznaje się do fundamentalnego błędu

„Halucynacje” sztucznej inteligencji, czyli jej skłonność do zmyślania faktów i podawania fałszywych informacji, to jeden z największych problemów hamujących rozwój tej technologii.

Teraz badacze z OpenAI, twórcy ChataGPT, ogłosili, że prawdopodobnie znaleźli źródło tego problemu. Wnioski są zaskakujące: to nie wina samej technologii, ale fundamentalny błąd w sposobie, w jaki jest ona trenowana.

Kluczowy menedżer od projektu Siri odchodzi z Apple. To on stał za opóźnioną sztuczną inteligencją

W najnowszej publikacji naukowcy z OpenAI wyjaśniają, że duże modele językowe (LLM) zachowują się jak dobrzy uczniowie na teście. Systemy oceniające, które stosuje się w procesie ich trenowania, nagradzają udzielenie jakiejkolwiek odpowiedzi. Zgadnięcie, nawet jeśli odpowiedź jest błędna, jest statystycznie bardziej opłacalne niż przyznanie się do niewiedzy. Model AI, który odpowie „nie wiem”, zawsze zostanie oceniony negatywnie, podczas gdy odpowiedź zmyślona ma przynajmniej szansę okazać się trafna.

W ten sposób, poprzez tę presję statystyczną, modele językowe są od samego początku zachęcane do zgadywania i konfabulowania, zamiast do sygnalizowania niepewności. Mamy tu do czynienia z poważnym błędem strukturalnym w metodologii treningu, który popełniła zarówno OpenAI, jak i cała branża podążająca jej śladem.

Na szczęście, wraz z diagnozą pojawia się propozycja rozwiązania. OpenAI sugeruje, że istnieje proste wyjście z tej sytuacji. Kluczem ma być zmiana systemu oceniania. Nowa metoda miałaby znacznie surowiej karać za podawanie błędnych odpowiedzi z dużą pewnością siebie, a jednocześnie nagradzać (np. częścią punktów) za uczciwe przyznanie się do braku wiedzy lub wyrażenie niepewności. Jeśli główne systemy rankingowe przestaną nagradzać szczęśliwe strzały, modele wreszcie nauczą się nie zgadywać.

Czy ta zmiana faktycznie powstrzyma falę dezinformacji generowanej przez AI? Czas pokaże. Firma przyznaje, że halucynacje pozostają fundamentalnym wyzwaniem dla wszystkich dużych modeli językowych, ale jednocześnie zapewnia, że ciężko pracuje, aby je dalej redukować. Dla użytkowników oznacza to nadzieję, że w przyszłości rozmowy z AI będą wreszcie oparte na faktach, a nie na kreatywnej fikcji.

Poufne wyznania pacjentów trafiają do ChatGPT. Niektórzy terapeuci używają AI w tajemnicy

#AI #dezinformacja #dużeModeleJęzykowe #GPT #halucynacjeAI #LLM #news #OpenAI #sztucznaInteligencja #technologia #uczenieMaszynowe

Sztuczna inteligencja kłamie, bo tak ją nauczono. OpenAI przyznaje się do fundamentalnego błędu

„Halucynacje” sztucznej inteligencji, czyli jej skłonność do zmyślania faktów i podawania fałszywych informacji, to jeden z największych problemów hamujących rozwój tej technologii.

Teraz badacze z OpenAI, twórcy ChataGPT, ogłosili, że prawdopodobnie znaleźli źródło tego problemu. Wnioski są zaskakujące: to nie wina samej technologii, ale fundamentalny błąd w sposobie, w jaki jest ona trenowana.

Kluczowy menedżer od projektu Siri odchodzi z Apple. To on stał za opóźnioną sztuczną inteligencją

W najnowszej publikacji naukowcy z OpenAI wyjaśniają, że duże modele językowe (LLM) zachowują się jak dobrzy uczniowie na teście. Systemy oceniające, które stosuje się w procesie ich trenowania, nagradzają udzielenie jakiejkolwiek odpowiedzi. Zgadnięcie, nawet jeśli odpowiedź jest błędna, jest statystycznie bardziej opłacalne niż przyznanie się do niewiedzy. Model AI, który odpowie „nie wiem”, zawsze zostanie oceniony negatywnie, podczas gdy odpowiedź zmyślona ma przynajmniej szansę okazać się trafna.

W ten sposób, poprzez tę presję statystyczną, modele językowe są od samego początku zachęcane do zgadywania i konfabulowania, zamiast do sygnalizowania niepewności. Mamy tu do czynienia z poważnym błędem strukturalnym w metodologii treningu, który popełniła zarówno OpenAI, jak i cała branża podążająca jej śladem.

Na szczęście, wraz z diagnozą pojawia się propozycja rozwiązania. OpenAI sugeruje, że istnieje proste wyjście z tej sytuacji. Kluczem ma być zmiana systemu oceniania. Nowa metoda miałaby znacznie surowiej karać za podawanie błędnych odpowiedzi z dużą pewnością siebie, a jednocześnie nagradzać (np. częścią punktów) za uczciwe przyznanie się do braku wiedzy lub wyrażenie niepewności. Jeśli główne systemy rankingowe przestaną nagradzać szczęśliwe strzały, modele wreszcie nauczą się nie zgadywać.

Czy ta zmiana faktycznie powstrzyma falę dezinformacji generowanej przez AI? Czas pokaże. Firma przyznaje, że halucynacje pozostają fundamentalnym wyzwaniem dla wszystkich dużych modeli językowych, ale jednocześnie zapewnia, że ciężko pracuje, aby je dalej redukować. Dla użytkowników oznacza to nadzieję, że w przyszłości rozmowy z AI będą wreszcie oparte na faktach, a nie na kreatywnej fikcji.

Poufne wyznania pacjentów trafiają do ChatGPT. Niektórzy terapeuci używają AI w tajemnicy

#AI #dezinformacja #dużeModeleJęzykowe #GPT #halucynacjeAI #LLM #news #OpenAI #sztucznaInteligencja #technologia #uczenieMaszynowe

Sztuczna inteligencja kłamie, bo tak ją nauczono. OpenAI przyznaje się do fundamentalnego błędu

„Halucynacje” sztucznej inteligencji, czyli jej skłonność do zmyślania faktów i podawania fałszywych informacji, to jeden z największych problemów hamujących rozwój tej technologii.

Teraz badacze z OpenAI, twórcy ChataGPT, ogłosili, że prawdopodobnie znaleźli źródło tego problemu. Wnioski są zaskakujące: to nie wina samej technologii, ale fundamentalny błąd w sposobie, w jaki jest ona trenowana.

Kluczowy menedżer od projektu Siri odchodzi z Apple. To on stał za opóźnioną sztuczną inteligencją

W najnowszej publikacji naukowcy z OpenAI wyjaśniają, że duże modele językowe (LLM) zachowują się jak dobrzy uczniowie na teście. Systemy oceniające, które stosuje się w procesie ich trenowania, nagradzają udzielenie jakiejkolwiek odpowiedzi. Zgadnięcie, nawet jeśli odpowiedź jest błędna, jest statystycznie bardziej opłacalne niż przyznanie się do niewiedzy. Model AI, który odpowie „nie wiem”, zawsze zostanie oceniony negatywnie, podczas gdy odpowiedź zmyślona ma przynajmniej szansę okazać się trafna.

W ten sposób, poprzez tę presję statystyczną, modele językowe są od samego początku zachęcane do zgadywania i konfabulowania, zamiast do sygnalizowania niepewności. Mamy tu do czynienia z poważnym błędem strukturalnym w metodologii treningu, który popełniła zarówno OpenAI, jak i cała branża podążająca jej śladem.

Na szczęście, wraz z diagnozą pojawia się propozycja rozwiązania. OpenAI sugeruje, że istnieje proste wyjście z tej sytuacji. Kluczem ma być zmiana systemu oceniania. Nowa metoda miałaby znacznie surowiej karać za podawanie błędnych odpowiedzi z dużą pewnością siebie, a jednocześnie nagradzać (np. częścią punktów) za uczciwe przyznanie się do braku wiedzy lub wyrażenie niepewności. Jeśli główne systemy rankingowe przestaną nagradzać szczęśliwe strzały, modele wreszcie nauczą się nie zgadywać.

Czy ta zmiana faktycznie powstrzyma falę dezinformacji generowanej przez AI? Czas pokaże. Firma przyznaje, że halucynacje pozostają fundamentalnym wyzwaniem dla wszystkich dużych modeli językowych, ale jednocześnie zapewnia, że ciężko pracuje, aby je dalej redukować. Dla użytkowników oznacza to nadzieję, że w przyszłości rozmowy z AI będą wreszcie oparte na faktach, a nie na kreatywnej fikcji.

Poufne wyznania pacjentów trafiają do ChatGPT. Niektórzy terapeuci używają AI w tajemnicy

#AI #dezinformacja #dużeModeleJęzykowe #GPT #halucynacjeAI #LLM #news #OpenAI #sztucznaInteligencja #technologia #uczenieMaszynowe

Tresura „złego” AI kluczem do bezpieczeństwa? Ciekawa technika badaczy z Anthropic

W dążeniu do stworzenia bezpiecznej i godnej zaufania sztucznej inteligencji, naukowcy z Anthropic, sięgają po pozornie absurdalną metodę, która finalnie okazała się niezwykle obiecująca.

Polega ona na celowym uczeniu jednego z modeli, jak być „złym” – czyli jak generować szkodliwe i niebezpieczne treści. Brzmi absurdalnie, prawda? Ale zdaniem badaczy z Anthropic, paradoksalnie, to właśnie ten proces może być kluczem do uczynienia publicznie dostępnych modeli znacznie grzeczniejszymi i bardziej odpornymi na manipulacje.

Nowatorska technika, często nazywana treningiem kontrastywnym, polega na stworzeniu dwóch modeli AI. Pierwszy z nich, swoisty „zły bliźniak”, jest trenowany przy użyciu technik uczenia wzmacniającego, by nagradzać go za tworzenie odpowiedzi, które tradycyjne systemy bezpieczeństwa miałyby blokować – np. instrukcji dotyczących nielegalnych działań czy mowy nienawiści. Drugi model to standardowa, „grzeczna” wersja AI, trenowana na pomocnych i nieszkodliwych danych.

Jak myśli sztuczna inteligencja? Możemy zajrzeć pod maskę wielkich modeli językowych

Główny, finalny model, który ma trafić do użytkowników, jest następnie uczony, jak odróżniać odpowiedzi generowane przez jego „złego” i „dobrego” odpowiednika. Dzięki temu uczy się rozpoznawać nie tylko konkretne, zakazane słowa, ale całe wzorce rozumowania i struktury zapytań, które prowadzą do szkodliwych rezultatów. Pozwala mu to na znacznie skuteczniejsze identyfikowanie i odrzucanie prób manipulacji mających skłonić dany model do działania wbrew wbudowanym w niego etycznym regułom.

Cały proces można porównać do tworzenia szczepionki. Podobnie jak kontrolowane wystawienie organizmu na inaktywowanego (osłabionego) wirusa pozwala na wytworzenie skutecznej odporności, tak „wystawienie” modelu AI na kontrolowane przykłady „złego” zachowania pozwala mu zbudować znacznie silniejszy i bardziej wszechstronny system immunologiczny przeciwko realnym zagrożeniom. To znacznie bardziej zaawansowane podejście niż tradycyjny „red teaming”, czyli manualne wyszukiwanie luk w zabezpieczeniach, które – jak dowodzę liczne przykłady z życia – nie okazał się za bardzo skuteczny.

Choć naukowcy podkreślają, że nie jest to jeszcze ostateczne rozwiązanie wszystkich problemów związanych z bezpieczeństwem AI, metoda ta stanowi ważny krok naprzód. Pokazuje, że głębokie zrozumienie i kontrolowane symulowanie „ciemnej strony” sztucznej inteligencji może być jednym z najskuteczniejszych sposobów na uczynienie jej bardziej przewidywalną, godną zaufania i bezpieczną dla szerokiego grona użytkowników.

#AI #Anthropic #bezpieczeństwoAI #dużeModeleJęzykowe #etykaAI #jailbreak #LLM #news #sztucznaInteligencja #uczenieMaszynowe

Tresura „złego” AI kluczem do bezpieczeństwa? Ciekawa technika badaczy z Anthropic

W dążeniu do stworzenia bezpiecznej i godnej zaufania sztucznej inteligencji, naukowcy z Anthropic, sięgają po pozornie absurdalną metodę, która finalnie okazała się niezwykle obiecująca.

Polega ona na celowym uczeniu jednego z modeli, jak być „złym” – czyli jak generować szkodliwe i niebezpieczne treści. Brzmi absurdalnie, prawda? Ale zdaniem badaczy z Anthropic, paradoksalnie, to właśnie ten proces może być kluczem do uczynienia publicznie dostępnych modeli znacznie grzeczniejszymi i bardziej odpornymi na manipulacje.

Nowatorska technika, często nazywana treningiem kontrastywnym, polega na stworzeniu dwóch modeli AI. Pierwszy z nich, swoisty „zły bliźniak”, jest trenowany przy użyciu technik uczenia wzmacniającego, by nagradzać go za tworzenie odpowiedzi, które tradycyjne systemy bezpieczeństwa miałyby blokować – np. instrukcji dotyczących nielegalnych działań czy mowy nienawiści. Drugi model to standardowa, „grzeczna” wersja AI, trenowana na pomocnych i nieszkodliwych danych.

Jak myśli sztuczna inteligencja? Możemy zajrzeć pod maskę wielkich modeli językowych

Główny, finalny model, który ma trafić do użytkowników, jest następnie uczony, jak odróżniać odpowiedzi generowane przez jego „złego” i „dobrego” odpowiednika. Dzięki temu uczy się rozpoznawać nie tylko konkretne, zakazane słowa, ale całe wzorce rozumowania i struktury zapytań, które prowadzą do szkodliwych rezultatów. Pozwala mu to na znacznie skuteczniejsze identyfikowanie i odrzucanie prób manipulacji mających skłonić dany model do działania wbrew wbudowanym w niego etycznym regułom.

Cały proces można porównać do tworzenia szczepionki. Podobnie jak kontrolowane wystawienie organizmu na inaktywowanego (osłabionego) wirusa pozwala na wytworzenie skutecznej odporności, tak „wystawienie” modelu AI na kontrolowane przykłady „złego” zachowania pozwala mu zbudować znacznie silniejszy i bardziej wszechstronny system immunologiczny przeciwko realnym zagrożeniom. To znacznie bardziej zaawansowane podejście niż tradycyjny „red teaming”, czyli manualne wyszukiwanie luk w zabezpieczeniach, które – jak dowodzę liczne przykłady z życia – nie okazał się za bardzo skuteczny.

Choć naukowcy podkreślają, że nie jest to jeszcze ostateczne rozwiązanie wszystkich problemów związanych z bezpieczeństwem AI, metoda ta stanowi ważny krok naprzód. Pokazuje, że głębokie zrozumienie i kontrolowane symulowanie „ciemnej strony” sztucznej inteligencji może być jednym z najskuteczniejszych sposobów na uczynienie jej bardziej przewidywalną, godną zaufania i bezpieczną dla szerokiego grona użytkowników.

#AI #Anthropic #bezpieczeństwoAI #dużeModeleJęzykowe #etykaAI #jailbreak #LLM #news #sztucznaInteligencja #uczenieMaszynowe

Tresura „złego” AI kluczem do bezpieczeństwa? Ciekawa technika badaczy z Anthropic

W dążeniu do stworzenia bezpiecznej i godnej zaufania sztucznej inteligencji, naukowcy z Anthropic, sięgają po pozornie absurdalną metodę, która finalnie okazała się niezwykle obiecująca.

Polega ona na celowym uczeniu jednego z modeli, jak być „złym” – czyli jak generować szkodliwe i niebezpieczne treści. Brzmi absurdalnie, prawda? Ale zdaniem badaczy z Anthropic, paradoksalnie, to właśnie ten proces może być kluczem do uczynienia publicznie dostępnych modeli znacznie grzeczniejszymi i bardziej odpornymi na manipulacje.

Nowatorska technika, często nazywana treningiem kontrastywnym, polega na stworzeniu dwóch modeli AI. Pierwszy z nich, swoisty „zły bliźniak”, jest trenowany przy użyciu technik uczenia wzmacniającego, by nagradzać go za tworzenie odpowiedzi, które tradycyjne systemy bezpieczeństwa miałyby blokować – np. instrukcji dotyczących nielegalnych działań czy mowy nienawiści. Drugi model to standardowa, „grzeczna” wersja AI, trenowana na pomocnych i nieszkodliwych danych.

Jak myśli sztuczna inteligencja? Możemy zajrzeć pod maskę wielkich modeli językowych

Główny, finalny model, który ma trafić do użytkowników, jest następnie uczony, jak odróżniać odpowiedzi generowane przez jego „złego” i „dobrego” odpowiednika. Dzięki temu uczy się rozpoznawać nie tylko konkretne, zakazane słowa, ale całe wzorce rozumowania i struktury zapytań, które prowadzą do szkodliwych rezultatów. Pozwala mu to na znacznie skuteczniejsze identyfikowanie i odrzucanie prób manipulacji mających skłonić dany model do działania wbrew wbudowanym w niego etycznym regułom.

Cały proces można porównać do tworzenia szczepionki. Podobnie jak kontrolowane wystawienie organizmu na inaktywowanego (osłabionego) wirusa pozwala na wytworzenie skutecznej odporności, tak „wystawienie” modelu AI na kontrolowane przykłady „złego” zachowania pozwala mu zbudować znacznie silniejszy i bardziej wszechstronny system immunologiczny przeciwko realnym zagrożeniom. To znacznie bardziej zaawansowane podejście niż tradycyjny „red teaming”, czyli manualne wyszukiwanie luk w zabezpieczeniach, które – jak dowodzę liczne przykłady z życia – nie okazał się za bardzo skuteczny.

Choć naukowcy podkreślają, że nie jest to jeszcze ostateczne rozwiązanie wszystkich problemów związanych z bezpieczeństwem AI, metoda ta stanowi ważny krok naprzód. Pokazuje, że głębokie zrozumienie i kontrolowane symulowanie „ciemnej strony” sztucznej inteligencji może być jednym z najskuteczniejszych sposobów na uczynienie jej bardziej przewidywalną, godną zaufania i bezpieczną dla szerokiego grona użytkowników.

#AI #Anthropic #bezpieczeństwoAI #dużeModeleJęzykowe #etykaAI #jailbreak #LLM #news #sztucznaInteligencja #uczenieMaszynowe

Tresura „złego” AI kluczem do bezpieczeństwa? Ciekawa technika badaczy z Anthropic

W dążeniu do stworzenia bezpiecznej i godnej zaufania sztucznej inteligencji, naukowcy z Anthropic, sięgają po pozornie absurdalną metodę, która finalnie okazała się niezwykle obiecująca.

Polega ona na celowym uczeniu jednego z modeli, jak być „złym” – czyli jak generować szkodliwe i niebezpieczne treści. Brzmi absurdalnie, prawda? Ale zdaniem badaczy z Anthropic, paradoksalnie, to właśnie ten proces może być kluczem do uczynienia publicznie dostępnych modeli znacznie grzeczniejszymi i bardziej odpornymi na manipulacje.

Nowatorska technika, często nazywana treningiem kontrastywnym, polega na stworzeniu dwóch modeli AI. Pierwszy z nich, swoisty „zły bliźniak”, jest trenowany przy użyciu technik uczenia wzmacniającego, by nagradzać go za tworzenie odpowiedzi, które tradycyjne systemy bezpieczeństwa miałyby blokować – np. instrukcji dotyczących nielegalnych działań czy mowy nienawiści. Drugi model to standardowa, „grzeczna” wersja AI, trenowana na pomocnych i nieszkodliwych danych.

Jak myśli sztuczna inteligencja? Możemy zajrzeć pod maskę wielkich modeli językowych

Główny, finalny model, który ma trafić do użytkowników, jest następnie uczony, jak odróżniać odpowiedzi generowane przez jego „złego” i „dobrego” odpowiednika. Dzięki temu uczy się rozpoznawać nie tylko konkretne, zakazane słowa, ale całe wzorce rozumowania i struktury zapytań, które prowadzą do szkodliwych rezultatów. Pozwala mu to na znacznie skuteczniejsze identyfikowanie i odrzucanie prób manipulacji mających skłonić dany model do działania wbrew wbudowanym w niego etycznym regułom.

Cały proces można porównać do tworzenia szczepionki. Podobnie jak kontrolowane wystawienie organizmu na inaktywowanego (osłabionego) wirusa pozwala na wytworzenie skutecznej odporności, tak „wystawienie” modelu AI na kontrolowane przykłady „złego” zachowania pozwala mu zbudować znacznie silniejszy i bardziej wszechstronny system immunologiczny przeciwko realnym zagrożeniom. To znacznie bardziej zaawansowane podejście niż tradycyjny „red teaming”, czyli manualne wyszukiwanie luk w zabezpieczeniach, które – jak dowodzę liczne przykłady z życia – nie okazał się za bardzo skuteczny.

Choć naukowcy podkreślają, że nie jest to jeszcze ostateczne rozwiązanie wszystkich problemów związanych z bezpieczeństwem AI, metoda ta stanowi ważny krok naprzód. Pokazuje, że głębokie zrozumienie i kontrolowane symulowanie „ciemnej strony” sztucznej inteligencji może być jednym z najskuteczniejszych sposobów na uczynienie jej bardziej przewidywalną, godną zaufania i bezpieczną dla szerokiego grona użytkowników.

#AI #Anthropic #bezpieczeństwoAI #dużeModeleJęzykowe #etykaAI #jailbreak #LLM #news #sztucznaInteligencja #uczenieMaszynowe

Tresura „złego” AI kluczem do bezpieczeństwa? Ciekawa technika badaczy z Anthropic

W dążeniu do stworzenia bezpiecznej i godnej zaufania sztucznej inteligencji, naukowcy z Anthropic, sięgają po pozornie absurdalną metodę, która finalnie okazała się niezwykle obiecująca.

Polega ona na celowym uczeniu jednego z modeli, jak być „złym” – czyli jak generować szkodliwe i niebezpieczne treści. Brzmi absurdalnie, prawda? Ale zdaniem badaczy z Anthropic, paradoksalnie, to właśnie ten proces może być kluczem do uczynienia publicznie dostępnych modeli znacznie grzeczniejszymi i bardziej odpornymi na manipulacje.

Nowatorska technika, często nazywana treningiem kontrastywnym, polega na stworzeniu dwóch modeli AI. Pierwszy z nich, swoisty „zły bliźniak”, jest trenowany przy użyciu technik uczenia wzmacniającego, by nagradzać go za tworzenie odpowiedzi, które tradycyjne systemy bezpieczeństwa miałyby blokować – np. instrukcji dotyczących nielegalnych działań czy mowy nienawiści. Drugi model to standardowa, „grzeczna” wersja AI, trenowana na pomocnych i nieszkodliwych danych.

Jak myśli sztuczna inteligencja? Możemy zajrzeć pod maskę wielkich modeli językowych

Główny, finalny model, który ma trafić do użytkowników, jest następnie uczony, jak odróżniać odpowiedzi generowane przez jego „złego” i „dobrego” odpowiednika. Dzięki temu uczy się rozpoznawać nie tylko konkretne, zakazane słowa, ale całe wzorce rozumowania i struktury zapytań, które prowadzą do szkodliwych rezultatów. Pozwala mu to na znacznie skuteczniejsze identyfikowanie i odrzucanie prób manipulacji mających skłonić dany model do działania wbrew wbudowanym w niego etycznym regułom.

Cały proces można porównać do tworzenia szczepionki. Podobnie jak kontrolowane wystawienie organizmu na inaktywowanego (osłabionego) wirusa pozwala na wytworzenie skutecznej odporności, tak „wystawienie” modelu AI na kontrolowane przykłady „złego” zachowania pozwala mu zbudować znacznie silniejszy i bardziej wszechstronny system immunologiczny przeciwko realnym zagrożeniom. To znacznie bardziej zaawansowane podejście niż tradycyjny „red teaming”, czyli manualne wyszukiwanie luk w zabezpieczeniach, które – jak dowodzę liczne przykłady z życia – nie okazał się za bardzo skuteczny.

Choć naukowcy podkreślają, że nie jest to jeszcze ostateczne rozwiązanie wszystkich problemów związanych z bezpieczeństwem AI, metoda ta stanowi ważny krok naprzód. Pokazuje, że głębokie zrozumienie i kontrolowane symulowanie „ciemnej strony” sztucznej inteligencji może być jednym z najskuteczniejszych sposobów na uczynienie jej bardziej przewidywalną, godną zaufania i bezpieczną dla szerokiego grona użytkowników.

#AI #Anthropic #bezpieczeństwoAI #dużeModeleJęzykowe #etykaAI #jailbreak #LLM #news #sztucznaInteligencja #uczenieMaszynowe