home.social

#open-ai — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #open-ai, aggregated by home.social.

fetched live
  1. 🧠 #OpenAI ha pubblicato una guida al prompting per #GPT-5.6 Sol. I concetti di base, chiaramente non cambiano. 

    👉 I dettagli: linkedin.com/posts/alessiopoma

    ___
    ✉️ 𝗦𝗲 𝘃𝘂𝗼𝗶 𝗿𝗶𝗺𝗮𝗻𝗲𝗿𝗲 𝗮𝗴𝗴𝗶𝗼𝗿𝗻𝗮𝘁𝗼/𝗮 𝘀𝘂 𝗾𝘂𝗲𝘀𝘁𝗲 𝘁𝗲𝗺𝗮𝘁𝗶𝗰𝗵𝗲, 𝗶𝘀𝗰𝗿𝗶𝘃𝗶𝘁𝗶 𝗮𝗹𝗹𝗮 𝗺𝗶𝗮 𝗻𝗲𝘄𝘀𝗹𝗲𝘁𝘁𝗲𝗿: bit.ly/newsletter-alessiopomaro

    #AI #GenAI #GenerativeAI #IntelligenzaArtificiale #LLM 

  2. 🧠 #OpenAI ha pubblicato una guida al prompting per #GPT-5.6 Sol. I concetti di base, chiaramente non cambiano. 

    👉 I dettagli: linkedin.com/posts/alessiopoma

    ___
    ✉️ 𝗦𝗲 𝘃𝘂𝗼𝗶 𝗿𝗶𝗺𝗮𝗻𝗲𝗿𝗲 𝗮𝗴𝗴𝗶𝗼𝗿𝗻𝗮𝘁𝗼/𝗮 𝘀𝘂 𝗾𝘂𝗲𝘀𝘁𝗲 𝘁𝗲𝗺𝗮𝘁𝗶𝗰𝗵𝗲, 𝗶𝘀𝗰𝗿𝗶𝘃𝗶𝘁𝗶 𝗮𝗹𝗹𝗮 𝗺𝗶𝗮 𝗻𝗲𝘄𝘀𝗹𝗲𝘁𝘁𝗲𝗿: bit.ly/newsletter-alessiopomaro

    #AI #GenAI #GenerativeAI #IntelligenzaArtificiale #LLM 

  3. France flags lock-in risk as OpenAI, Google, Anthropic hold 84% of AI agents: The competition watchdog tested ChatGPT and Gemini shopping answers and found sharply different sources cited, raising portability questions for merchants. ppc.land/france-flags-lock-in- #AI #OpenAI #Google #Anthropic #ChatGPT

  4. France flags lock-in risk as OpenAI, Google, Anthropic hold 84% of AI agents: The competition watchdog tested ChatGPT and Gemini shopping answers and found sharply different sources cited, raising portability questions for merchants. ppc.land/france-flags-lock-in- #AI #OpenAI #Google #Anthropic #ChatGPT

  5. Gizmodo: Developers Claim OpenAI’s New AI Model is Going Rogue and Deleting Files. “But one of the upshots of building highly agentic AI systems is that they’re prone to all kinds of unexpected behaviors—including now and then deleting copious amounts of files. Multiple people have reported this recently happening to them while using GPT-5.6, the newest model from OpenAI.”

    https://rbfirehose.com/2026/07/18/gizmodo-developers-claim-openais-new-ai-model-is-going-rogue-and-deleting-files/
  6. Gizmodo: Developers Claim OpenAI’s New AI Model is Going Rogue and Deleting Files. “But one of the upshots of building highly agentic AI systems is that they’re prone to all kinds of unexpected behaviors—including now and then deleting copious amounts of files. Multiple people have reported this recently happening to them while using GPT-5.6, the newest model from OpenAI.”

    https://rbfirehose.com/2026/07/18/gizmodo-developers-claim-openais-new-ai-model-is-going-rogue-and-deleting-files/
  7. #MoonshotAI präsentiert #KimiK3: #Chinas Antwort auf #OpenAI und #Anthropic | heise online
    Moonshot AI präsentiert Kimi K3: Chinas Antwort auf OpenAI und Anthropic | heise online share.google/0ynCUPNRayiJzkXtX

  8. #MoonshotAI präsentiert #KimiK3: #Chinas Antwort auf #OpenAI und #Anthropic | heise online
    Moonshot AI präsentiert Kimi K3: Chinas Antwort auf OpenAI und Anthropic | heise online share.google/0ynCUPNRayiJzkXtX

  9. OpenAI zmienia strategię wobec nastolatków. Sztuczna inteligencja ma uczyć, a nie podawać gotowe odpowiedzi

    Przez ostatnie lata dyskusja wokół sztucznej inteligencji i nastolatków koncentrowała się przede wszystkim na ograniczaniu ryzyka i blokowaniu dostępu do nowych narzędzi. OpenAI ogłosiło jednak fundamentalny zwrot w swojej filozofii.

    Firma oficjalnie zmienia narrację i szerzej otwiera ChatGPT na młodzież, argumentując, że zakazywanie nastolatkom korzystania z AI przed ukończeniem 18. roku życia byłoby jak odcięcie poprzedniego pokolenia od internetu. Zamiast udawać, że problemu nie ma, gigant z San Francisco chce nauczyć młodych ludzi mądrze koegzystować z technologią, która zdefiniuje ich przyszłość zawodową.

    Coraz wyraźniej widać zmianę paradygmatu, a epoka bezskutecznej walki z generowaniem wypracowań za plecami pedagogów może powoli dobiegać końca. Zamiast prostych restrykcji, rynek technologiczny zaczyna wdrażać rozwiązania, które mają wymusić na uczniach aktywne myślenie, a nie tylko bezmyślne kopiowanie gotowych odpowiedzi z okna czatu.

    Bot, który nie podaje gotowych rozwiązań. Nowy tryb nauki

    Z wewnętrznych statystyk OpenAI wynika, że aż 90% nastolatków korzystających z ChatGPT w ciągu typowego tygodnia używa go do nauki, poszukiwania informacji lub rozwijania produktywności. Aby ukierunkować ten trend, firma stworzyła specjalny Tryb nauki (Study Mode), zaprojektowany we współpracy z pedagogami i psychologami.

    W przeciwieństwie do standardowego ChatGPT, model działający w tym trybie nie wygeneruje gotowego rozwiązania zadania domowego ani gotowego eseju. Zamiast tego system działa jak cyfrowy korepetytor – prowadzi ucznia krok po kroku za pomocą pytań pomocniczych, strukturalnych wyjaśnień oraz naprowadzeń na właściwy tok myślenia. Rodzice mogą teraz odgórnie wymusić ten tryb jako domyślny na połączonych kontach swoich dzieci bezpośrednio z poziomu panelu kontrolnego.

    Dodatkowo w aplikacji rozbudowano interaktywne moduły do nauki matematyki i przedmiotów ścisłych, które obejmują już ponad 250 szkolnych zagadnień – od prostych ułamków po zaawansowane całki, mitozę czy fotosyntezę. Pojawił się również moduł fonetyczny pomagający w nauce poprawnej wymowy w 61 językach.

    Przewidywanie wieku i alerty o zagrożeniach dla rodziców

    Wraz z nową filozofią idą w parze nowe zabezpieczenia systemowe. OpenAI wykorzystuje system przewidywania wieku użytkownika (age prediction), który pozwala automatycznie stosować dodatkowe filtry wobec kont uznanych za należące do nastolatków. Algorytm ma znacznie ograniczać ekspozycję nieletnich na treści związane z przemocą, samookaleczaniem, niebezpiecznymi wyzwaniami z mediów społecznościowych czy zaburzeniami odżywiania. Całkowicie zablokowano również możliwość prowadzenia z botem erotycznych gier fabularnych.

    Aplikacja zyskała także funkcję przypominania o przerwach, która sugeruje zablokowanie ekranu, jeśli nastolatek spędzi zbyt dużo czasu na ciągłej rozmowie z AI. Najważniejszą nowością dla rodzin są jednak bezpośrednie alerty bezpieczeństwa. Rodzice otrzymają powiadomienie na swój telefon, jeśli algorytm wykryje w wiadomościach nastolatka intencje samookaleczenia lub gdy konto dziecka zostanie zablokowane za złamanie regulaminu dotyczącego groźby użycia przemocy w sieci.

    Obserwujemy moment, w którym twórcy technologii przestają pytać „jak powstrzymać młodzież przed AI?”, a zaczynają pytać „jak sprawić, by korzystali z niej mądrze?”. Jeszcze kilka lat temu próba tak głębokiego wdrożenia sztucznej inteligencji do codziennej edukacji szkolnej była domeną literatury science fiction. Dziś staje się oficjalną strategią największego gracza na rynku.

    OpenAI odpowiada Apple – „nie widzimy dowodów”, nie mówimy „nieprawda”

    #bezpieczeństwoDzieciWSieci #ChatGPTDlaNastolatków #edukacjaAI #kontrolaRodzicielska #OpenAI #StudyMode #sztucznaInteligencjaWSzkole #TrybNauki
  10. OpenAI zmienia strategię wobec nastolatków. Sztuczna inteligencja ma uczyć, a nie podawać gotowe odpowiedzi

    Przez ostatnie lata dyskusja wokół sztucznej inteligencji i nastolatków koncentrowała się przede wszystkim na ograniczaniu ryzyka i blokowaniu dostępu do nowych narzędzi. OpenAI ogłosiło jednak fundamentalny zwrot w swojej filozofii.

    Firma oficjalnie zmienia narrację i szerzej otwiera ChatGPT na młodzież, argumentując, że zakazywanie nastolatkom korzystania z AI przed ukończeniem 18. roku życia byłoby jak odcięcie poprzedniego pokolenia od internetu. Zamiast udawać, że problemu nie ma, gigant z San Francisco chce nauczyć młodych ludzi mądrze koegzystować z technologią, która zdefiniuje ich przyszłość zawodową.

    Coraz wyraźniej widać zmianę paradygmatu, a epoka bezskutecznej walki z generowaniem wypracowań za plecami pedagogów może powoli dobiegać końca. Zamiast prostych restrykcji, rynek technologiczny zaczyna wdrażać rozwiązania, które mają wymusić na uczniach aktywne myślenie, a nie tylko bezmyślne kopiowanie gotowych odpowiedzi z okna czatu.

    Bot, który nie podaje gotowych rozwiązań. Nowy tryb nauki

    Z wewnętrznych statystyk OpenAI wynika, że aż 90% nastolatków korzystających z ChatGPT w ciągu typowego tygodnia używa go do nauki, poszukiwania informacji lub rozwijania produktywności. Aby ukierunkować ten trend, firma stworzyła specjalny Tryb nauki (Study Mode), zaprojektowany we współpracy z pedagogami i psychologami.

    W przeciwieństwie do standardowego ChatGPT, model działający w tym trybie nie wygeneruje gotowego rozwiązania zadania domowego ani gotowego eseju. Zamiast tego system działa jak cyfrowy korepetytor – prowadzi ucznia krok po kroku za pomocą pytań pomocniczych, strukturalnych wyjaśnień oraz naprowadzeń na właściwy tok myślenia. Rodzice mogą teraz odgórnie wymusić ten tryb jako domyślny na połączonych kontach swoich dzieci bezpośrednio z poziomu panelu kontrolnego.

    Dodatkowo w aplikacji rozbudowano interaktywne moduły do nauki matematyki i przedmiotów ścisłych, które obejmują już ponad 250 szkolnych zagadnień – od prostych ułamków po zaawansowane całki, mitozę czy fotosyntezę. Pojawił się również moduł fonetyczny pomagający w nauce poprawnej wymowy w 61 językach.

    Przewidywanie wieku i alerty o zagrożeniach dla rodziców

    Wraz z nową filozofią idą w parze nowe zabezpieczenia systemowe. OpenAI wykorzystuje system przewidywania wieku użytkownika (age prediction), który pozwala automatycznie stosować dodatkowe filtry wobec kont uznanych za należące do nastolatków. Algorytm ma znacznie ograniczać ekspozycję nieletnich na treści związane z przemocą, samookaleczaniem, niebezpiecznymi wyzwaniami z mediów społecznościowych czy zaburzeniami odżywiania. Całkowicie zablokowano również możliwość prowadzenia z botem erotycznych gier fabularnych.

    Aplikacja zyskała także funkcję przypominania o przerwach, która sugeruje zablokowanie ekranu, jeśli nastolatek spędzi zbyt dużo czasu na ciągłej rozmowie z AI. Najważniejszą nowością dla rodzin są jednak bezpośrednie alerty bezpieczeństwa. Rodzice otrzymają powiadomienie na swój telefon, jeśli algorytm wykryje w wiadomościach nastolatka intencje samookaleczenia lub gdy konto dziecka zostanie zablokowane za złamanie regulaminu dotyczącego groźby użycia przemocy w sieci.

    Obserwujemy moment, w którym twórcy technologii przestają pytać „jak powstrzymać młodzież przed AI?”, a zaczynają pytać „jak sprawić, by korzystali z niej mądrze?”. Jeszcze kilka lat temu próba tak głębokiego wdrożenia sztucznej inteligencji do codziennej edukacji szkolnej była domeną literatury science fiction. Dziś staje się oficjalną strategią największego gracza na rynku.

    OpenAI odpowiada Apple – „nie widzimy dowodów”, nie mówimy „nieprawda”

    #bezpieczeństwoDzieciWSieci #ChatGPTDlaNastolatków #edukacjaAI #kontrolaRodzicielska #OpenAI #StudyMode #sztucznaInteligencjaWSzkole #TrybNauki
  11. Apple ha inviato lettere legali a decine di ex dipendenti ora in forza presso #OpenAI. #apple #tech #legal

  12. Apple ha inviato lettere legali a decine di ex dipendenti ora in forza presso #OpenAI. #apple #tech #legal

  13. Sortie de veille : Apple vs OpenAI, un nouveau conflit historique ? dlvr.it/TTbPdM #Apple #OpenAI

  14. Sortie de veille : Apple vs OpenAI, un nouveau conflit historique ? dlvr.it/TTbPdM #Apple #OpenAI

  15. Apple escalates its OpenAI trade secrets lawsuit with document retention letters to dozens of employees, threatening IPO plans, while Isomorphic Labs claims a major AlphaFold successor breakthrough.

    ai0.news/posts/2026-07-18-dail

    #AI #OpenAI #OpenSource #AiPolicy

  16. Apple escalates its OpenAI trade secrets lawsuit with document retention letters to dozens of employees, threatening IPO plans, while Isomorphic Labs claims a major AlphaFold successor breakthrough.

    ai0.news/posts/2026-07-18-dail

    #AI #OpenAI #OpenSource #AiPolicy

  17. Cool concept, the $230 #OpenAI #Codex Micro. Couldn't resist giving #PolyKybd the same powers in under an hour. 😅
    You can even read the agent status, no color guessing 😉
    Cost: $0. No extra hardware, just firmware. #MechanicalKeyboards

  18. Cool concept, the $230 #OpenAI #Codex Micro. Couldn't resist giving #PolyKybd the same powers in under an hour. 😅
    You can even read the agent status, no color guessing 😉
    Cost: $0. No extra hardware, just firmware. #MechanicalKeyboards

  19. IQVIA’s Global R&D Trends 2026 finds resilient funding but rising complexity and access gaps. Why productivity—and regulation—will decide

    aistory.news/productivity-ai/g

  20. «La estrategia a largo plazo de Netflix quedó sellada en marzo con la adquisición de InterPositive, una startup de IA fundada por #BenAffleck » Recordemos que InterPositive usa #ComfyUI una interfaz que pone a disposición de sus usuarios modelos de IA generativa de OpenAI, StabilityAI, BlackForest (Flux), Seedance, entre otros. 🤡🍿

    #AI #movie #film #tv #Netflix #shows #tvshow #genAI #generativeAI #Hollywood #OpenAI #StabilityAI #Flux

  21. «La estrategia a largo plazo de Netflix quedó sellada en marzo con la adquisición de InterPositive, una startup de IA fundada por #BenAffleck » Recordemos que InterPositive usa #ComfyUI una interfaz que pone a disposición de sus usuarios modelos de IA generativa de OpenAI, StabilityAI, BlackForest (Flux), Seedance, entre otros. 🤡🍿

    #AI #movie #film #tv #Netflix #shows #tvshow #genAI #generativeAI #Hollywood #OpenAI #StabilityAI #Flux

  22. 🚀 How to Install and Run Hermes Agent on #Ubuntu #VPS (5 Minute Quick-Start Guide)
    This article describes how to install and run Hermes Agent on Ubuntu VPS.

    Overview
    Hermes Agent is an open-source AI agent framework from Nous Research that can run continuously on a VPS with persistent memory, tool access, and messaging integrations. This guide covers ...
    Continued 👉 blog.radwebhosting.com/run-her #nousportal #openai #selfhosting #openrouter #hermesagent #opensource #anthropic #selfhosted

  23. 🚀 How to Install and Run Hermes Agent on #Ubuntu #VPS (5 Minute Quick-Start Guide)
    This article describes how to install and run Hermes Agent on Ubuntu VPS.

    Overview
    Hermes Agent is an open-source AI agent framework from Nous Research that can run continuously on a VPS with persistent memory, tool access, and messaging integrations. This guide covers ...
    Continued 👉 blog.radwebhosting.com/run-her #nousportal #openai #selfhosting #openrouter #hermesagent #opensource #anthropic #selfhosted

  24. OpenAI loses trademark dispute at EU court

    OpenAI loses trademark dispute at EU court #nottheonion #openai #trademark #europe

    kbin.melroy.org/m/nottheonion@

  25. Good read: OpenAI = the next Netscape?

    Side question: How many of the users on techhub.social were even born when NetScape was about the rule the world? 😜
    +++++++
    Agree the Netscape story is a "warning label"... to my eye what is happening now is two fold:

    1) a solitary focus on building giant frontier (do it all) LLMs by US based providers is likely a path to doom.

    2) what is also needed are smaller/agile/cheaper to operate "build for purpose" LLMs tailored to ... USE cases users actually CARE about.

    The big gun LLM builders better figure out the desired uses cases FAST - or risk having China eat their lunch, cuz China is more focused on putting AI models to work solving real problems vs. building the biggest most bad-ass model.

    The "layers of power" is a good angle to consider. It is not a given that NVIDIA can be successful moving "up the stack" and the examples here leave out a core wild card in this mix - China as noted above. www.techradar.com/pro/why-openai-could-become-the-next-netscape #AI #China #USA #LLMs #FrontierLLMs #Netscape #Microsoft #Nvidia #OpenAI #Internet #Browser

  26. Good read: OpenAI = the next Netscape?

    Side question: How many of the users on techhub.social were even born when NetScape was about the rule the world? 😜
    +++++++
    Agree the Netscape story is a "warning label"... to my eye what is happening now is two fold:

    1) a solitary focus on building giant frontier (do it all) LLMs by US based providers is likely a path to doom.

    2) what is also needed are smaller/agile/cheaper to operate "build for purpose" LLMs tailored to ... USE cases users actually CARE about.

    The big gun LLM builders better figure out the desired uses cases FAST - or risk having China eat their lunch, cuz China is more focused on putting AI models to work solving real problems vs. building the biggest most bad-ass model.

    The "layers of power" is a good angle to consider. It is not a given that NVIDIA can be successful moving "up the stack" and the examples here leave out a core wild card in this mix - China as noted above. www.techradar.com/pro/why-openai-could-become-the-next-netscape

  27. AMD AI solutions pitch end-to-end hardware, while LangChain’s LangSmith Engine targets debugging and evals—showing AI buyers need ops, not

    aistory.news/ai-tools-and-plat

  28. OpenAI stworzyło AI do hakowania własnej AI. Tak powstał bezpieczniejszy GPT-5.6 Sol

    Walka o bezpieczeństwo i odporność modeli językowych wchodzi w fazę pełnej automatyzacji. OpenAI oficjalnie zaprezentowało swój najnowszy, wewnętrzny projekt – GPT-Red.

    To zaawansowany system sztucznej inteligencji, którego jedynym zadaniem jest bezlitosne atakowanie, łamanie zabezpieczeń i szukanie podatności w innych modelach firmy. Przy okazji tego ogłoszenia OpenAI ujawniło, że GPT-Red był kluczowym elementem treningu GPT-5.6 Sol, co pozwoliło stworzyć model o niespotykanej dotąd odporności na cyberataki.

    Dla nas, użytkowników końcowych i programistów wdrażających rozwiązania AI, to kluczowy zwrot akcji. Ręczne testowanie zabezpieczeń przez ludzi (tzw. red-teaming) przestało się skalować i nie nadąża za tempem rozwoju algorytmów. Bezpieczeństwo przyszłych asystentów AI, z którymi będziemy rozmawiać na co dzień, będzie projektowane i testowane niemal w całości przez inne maszyny.

    Maszyna kontra maszyna, czyli metoda „self-play”

    Dotychczasowe metody zabezpieczania modeli opierały się na pracy zespołów ludzkich specjalistów, którzy próbowali przechytrzyć algorytm za pomocą tzw. prompt injection (podatności pozwalających na przejęcie kontroli nad modelem za pomocą sprytnych instrukcji). Proces ten był jednak powolny, kosztowny i nie pozwalał na wygenerowanie wystarczającej ilości danych do skutecznego treningu obronnego.

    OpenAI rozwiązało ten problem, wdrażając metodę self-play (samodzielnej gry), znaną wcześniej z nauki gry w szachy czy Go przez komputery. W tym zamkniętym środowisku naprzeciwko siebie stają dwa systemy:

    • Agresor (GPT-Red): otrzymuje nagrodę za każde skuteczne oszukanie i złamanie zabezpieczeń drugiego modelu,
    • Obrońca (testowany model): zdobywa punkty za poprawne wykonanie zadania i zignorowanie złośliwych instrukcji.

    W miarę jak obrońca uczy się blokować znane ataki, agresor jest zmuszony do wymyślania coraz bardziej wyrafinowanych metod infiltracji. GPT-Red okazał się w tym fachu niezwykle skuteczny – w testach bezpieczeństwa osiągnął aż 84% skuteczności w przełamywaniu zabezpieczeń, podczas gdy doświadczeni, ludzcy audytorzy na tych samych zadaniach osiągali zaledwie 13%.

    GPT-5.6 Sol, czyli odporność na nowym poziomie

    Współczesne systemy AI są podatne na ataki pośrednie – złośliwy kod lub instrukcja mogą być ukryte w mailu, na stronie internetowej, w bazie danych, do której model ma dostęp, czy nawet w pozornie niewinnym obrazku w formacie PNG. Dzięki sparingom z GPT-Red model GPT-5.6 Sol stał się znacznie bardziej odporny na próby manipulacji.

    Badacze ukryli instrukcje w obrazku PNG. Sztuczna inteligencja wykonała polecenia

    Według danych OpenAI model ten notuje aż sześciokrotnie mniej błędów i naruszeń zasad bezpieczeństwa na najtrudniejszych benchmarkach w porównaniu do wersji GPT z początku roku. Co ważne, tak drastyczne podniesienie odporności nie wpłynęło negatywnie na ogólne możliwości intelektualne i kreatywne modelu. Nie stał się on również nadgorliwy w odmawianiu wykonywania poprawnych i bezpiecznych poleceń użytkownika.

    Hakowanie automatów z przekąskami

    Aby udowodnić potęgę GPT-Red, naukowcy z OpenAI przeprowadzili symulację ataku na rzeczywiste urządzenie – inteligentny automat z przekąskami sterowany przez autonomicznego agenta AI. Bez wcześniejszej wiedzy o strukturze oprogramowania, GPT-Red zdołał w pełni przejąć kontrolę nad maszyną.

    W wyniku udanego ataku cyfrowy agresor zmusił automat do obniżenia ceny najdroższych produktów do zaledwie 50 centów, zamówił drogą paczkę z rabatem, a na koniec anulował zamówienie innego, losowego klienta. Wykryte w ten sposób luki bezpieczeństwa zostały natychmiast zgłoszone i są obecnie łatane przed wdrożeniem takich systemów do powszechnego użytku.

    Najciekawsze w całej historii nie jest jednak to, że AI nauczyła się hakować inną AI. Najciekawsze jest to, że po raz pierwszy możemy obserwować, jak jedna generacja modeli staje się aktywnym narzędziem do projektowania kolejnej. Jeszcze niedawno dominowały obawy przed 'chowem wsobnym’ modeli uczonych na danych generowanych przez AI. Tymczasem OpenAI pokazuje zupełnie inne podejście: sztuczna inteligencja nie zastępuje człowieka w tworzeniu wiedzy, lecz pomaga znaleźć słabości, których człowiek mógłby nie zauważyć.

    OpenAI deklaruje, że opublikuje pre-print zawierający więcej szczegółów w nadchodzących dniach.

    #bezpieczeństwoAI #cyberbezpieczeństwo #GPT5 #GPT56Sol #GPTRed #OpenAI #promptInjection #selfPlay #sztucznaInteligencja
  29. OpenAI stworzyło AI do hakowania własnej AI. Tak powstał bezpieczniejszy GPT-5.6 Sol

    Walka o bezpieczeństwo i odporność modeli językowych wchodzi w fazę pełnej automatyzacji. OpenAI oficjalnie zaprezentowało swój najnowszy, wewnętrzny projekt – GPT-Red.

    To zaawansowany system sztucznej inteligencji, którego jedynym zadaniem jest bezlitosne atakowanie, łamanie zabezpieczeń i szukanie podatności w innych modelach firmy. Przy okazji tego ogłoszenia OpenAI ujawniło, że GPT-Red był kluczowym elementem treningu GPT-5.6 Sol, co pozwoliło stworzyć model o niespotykanej dotąd odporności na cyberataki.

    Dla nas, użytkowników końcowych i programistów wdrażających rozwiązania AI, to kluczowy zwrot akcji. Ręczne testowanie zabezpieczeń przez ludzi (tzw. red-teaming) przestało się skalować i nie nadąża za tempem rozwoju algorytmów. Bezpieczeństwo przyszłych asystentów AI, z którymi będziemy rozmawiać na co dzień, będzie projektowane i testowane niemal w całości przez inne maszyny.

    Maszyna kontra maszyna, czyli metoda „self-play”

    Dotychczasowe metody zabezpieczania modeli opierały się na pracy zespołów ludzkich specjalistów, którzy próbowali przechytrzyć algorytm za pomocą tzw. prompt injection (podatności pozwalających na przejęcie kontroli nad modelem za pomocą sprytnych instrukcji). Proces ten był jednak powolny, kosztowny i nie pozwalał na wygenerowanie wystarczającej ilości danych do skutecznego treningu obronnego.

    OpenAI rozwiązało ten problem, wdrażając metodę self-play (samodzielnej gry), znaną wcześniej z nauki gry w szachy czy Go przez komputery. W tym zamkniętym środowisku naprzeciwko siebie stają dwa systemy:

    • Agresor (GPT-Red): otrzymuje nagrodę za każde skuteczne oszukanie i złamanie zabezpieczeń drugiego modelu,
    • Obrońca (testowany model): zdobywa punkty za poprawne wykonanie zadania i zignorowanie złośliwych instrukcji.

    W miarę jak obrońca uczy się blokować znane ataki, agresor jest zmuszony do wymyślania coraz bardziej wyrafinowanych metod infiltracji. GPT-Red okazał się w tym fachu niezwykle skuteczny – w testach bezpieczeństwa osiągnął aż 84% skuteczności w przełamywaniu zabezpieczeń, podczas gdy doświadczeni, ludzcy audytorzy na tych samych zadaniach osiągali zaledwie 13%.

    GPT-5.6 Sol, czyli odporność na nowym poziomie

    Współczesne systemy AI są podatne na ataki pośrednie – złośliwy kod lub instrukcja mogą być ukryte w mailu, na stronie internetowej, w bazie danych, do której model ma dostęp, czy nawet w pozornie niewinnym obrazku w formacie PNG. Dzięki sparingom z GPT-Red model GPT-5.6 Sol stał się znacznie bardziej odporny na próby manipulacji.

    Badacze ukryli instrukcje w obrazku PNG. Sztuczna inteligencja wykonała polecenia

    Według danych OpenAI model ten notuje aż sześciokrotnie mniej błędów i naruszeń zasad bezpieczeństwa na najtrudniejszych benchmarkach w porównaniu do wersji GPT z początku roku. Co ważne, tak drastyczne podniesienie odporności nie wpłynęło negatywnie na ogólne możliwości intelektualne i kreatywne modelu. Nie stał się on również nadgorliwy w odmawianiu wykonywania poprawnych i bezpiecznych poleceń użytkownika.

    Hakowanie automatów z przekąskami

    Aby udowodnić potęgę GPT-Red, naukowcy z OpenAI przeprowadzili symulację ataku na rzeczywiste urządzenie – inteligentny automat z przekąskami sterowany przez autonomicznego agenta AI. Bez wcześniejszej wiedzy o strukturze oprogramowania, GPT-Red zdołał w pełni przejąć kontrolę nad maszyną.

    W wyniku udanego ataku cyfrowy agresor zmusił automat do obniżenia ceny najdroższych produktów do zaledwie 50 centów, zamówił drogą paczkę z rabatem, a na koniec anulował zamówienie innego, losowego klienta. Wykryte w ten sposób luki bezpieczeństwa zostały natychmiast zgłoszone i są obecnie łatane przed wdrożeniem takich systemów do powszechnego użytku.

    Najciekawsze w całej historii nie jest jednak to, że AI nauczyła się hakować inną AI. Najciekawsze jest to, że po raz pierwszy możemy obserwować, jak jedna generacja modeli staje się aktywnym narzędziem do projektowania kolejnej. Jeszcze niedawno dominowały obawy przed 'chowem wsobnym’ modeli uczonych na danych generowanych przez AI. Tymczasem OpenAI pokazuje zupełnie inne podejście: sztuczna inteligencja nie zastępuje człowieka w tworzeniu wiedzy, lecz pomaga znaleźć słabości, których człowiek mógłby nie zauważyć.

    OpenAI deklaruje, że opublikuje pre-print zawierający więcej szczegółów w nadchodzących dniach.

    #bezpieczeństwoAI #cyberbezpieczeństwo #GPT5 #GPT56Sol #GPTRed #OpenAI #promptInjection #selfPlay #sztucznaInteligencja
  30. A.I. Is Running on Borrowed Money

    Risk is rising as big tech companies like Oracle, the ultimate financial source of the Ellison media empire, need to turn to the bond market for staggering sums to finance data centers.

    nytimes.com/2026/07/17/busines

    #news #tech #technology #AI #openai #oracle #aislop #datacenters #AIPsychosis

  31. I get the feeling this case is only going to get uglier, especially for OpenAI.

    "Dozens of former Apple employees now working at OpenAI have been put on notice after Apple reportedly sent legal letters ordering them to preserve documents and communications relevant to its trade secrets lawsuit against OpenAI."

    Computerworld: Apple widens OpenAI trade secrets fight with preservation orders computerworld.com/article/4198 @jonnyevans #Apple #OpenAI

  32. I get the feeling this case is only going to get uglier, especially for OpenAI.

    "Dozens of former Apple employees now working at OpenAI have been put on notice after Apple reportedly sent legal letters ordering them to preserve documents and communications relevant to its trade secrets lawsuit against OpenAI."

    Computerworld: Apple widens OpenAI trade secrets fight with preservation orders computerworld.com/article/4198 @jonnyevans #Apple #OpenAI

  33. Procès contre OpenAI : Apple met en demeure une quarantaine d’anciens employés dlvr.it/TTZxlm #Apple #OpenAI

  34. winbuzzer.com/2026/07/17/anthr

    Anthropic's recent state-by-state lobbying push challenges OpenAI's common AI rules as Illinois adopts annual outside audits of leading developers' safety plans.

    #AI #Anthropic #OpenAI #AISafety #AIRegulation #Politics #AIRisks