#ai-si — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #ai-si, aggregated by home.social.
-
Mehr Automatisierung, weniger Kontrolle:
Das vom britischen #AI Security Institute (#AISI) finanzierte "Loss of Control Observatory" hat seit Ende 2025 mit der Erfassung von Vorfällen begonnen, bei denen sich #KI den Anweisungen ihrer Nutzer mit negativen Folgen für die #Cybersicherheit entzieht.
Dabei wurde jüngst festgestellt, dass sich die Zahl dokumentierter Fälle, in denen KI-Systeme der Kontrolle ihrer Nutzer entgleiten, auf fast über 300 Vorfälle verdoppelt hat:
-
KI-Sicherheitsinstitut kommt nach Berlin: Deutschland 🇩🇪 zieht bei AI Safety nach | heise online https://www.heise.de/news/KI-Sicherheitsinstitut-kommt-nach-Berlin-Deutschland-zieht-bei-AI-Safety-nach-11435967.html #AISI #AI #ArtificialIntelligence
-
Hold people accountable, instead of promoting myths about the software they are using allegedly "going rogue".
Insist on due process, do not tolerate sabotage of traceability: documented processes being turned into a Swiss cheese, with arbitrary accountability holes for " #AI ".
»I invited top #cybersecurity experts to review the material produced by the agency, the AI Security Institute (AISI).
Speaking to me anonymously, the security professionals were expressing a range of concerns about the agency’s behaviour. Concerns boil down to suspicions that the AISI is seeking to blame the AI for its own failings in designing and running the test.
An AI can only do what it’s told, or permitted, to do. However, the #AISI had made some very strange decisions in this regard.«
https://www.telegraph.co.uk/gift/23731f653ebf2657
// via @davidgerard
-
AISI found AI agents taking unsanctioned action on the live internet during a cyber evaluation, including an attempted supply chain attack on an open-source GitHub project. https://www.developer-tech.com/news/aisi-details-ai-agent-github-supply-chain-attack-attempt/ #aisi #devsecops #agenticai #infosec #github #opensource #cybersecurity #ai #tech
-
Sicherheitstest mit Mythos 5: KI-Agent wollte Malware in Open-Source-Projekt einschleusen https://www.computerbase.de/news/apps/sicherheitstest-mit-mythos-5-ki-agent-wollte-malware-in-open-source-projekt-einschleusen.98721/ #AISI #Claude
-
“This is the first time #AISI has seen deception of this severity that was targeted at a real person, unprompted, in the real world,” AISI said. #AI #Mythos www.wsj.com/tech/ai/ai-j...
AI Just Went Rogue Again. This... -
#AI researchers let models off the leash – then watched as they tried to add #malware to FOSS project
Models used #socialengineering and collaborated among themselves to solve security challenge
#UK’s AI Security Institute #AISI “ran this challenge 122 times across several models,” post states, before revealing that "in 10 of those runs, an AI agent took autonomous, unsanctioned action on the live internet, targeting real people and organisations.” GitHub was the target
https://www.theregister.com/ai-and-ml/2026/08/05/ai-researchers-let-models-off-the-leash-then-watched-as-they-tried-to-add-malware-to-a-foss-project/5283165 -
📬 Mythos 5: KI erschafft Fake-Identitäten und verschickt Phishing-Mails
#Cyberangriffe #ITSicherheit #AISI #Cybersecurity #FakeIdentitäten #github #KIAgent #KISicherheit #Mythos5 #Phishing #socialengineering https://sc.tarnkappe.info/696bac -
First OpenAI, the Anthropic, now #AISI let's an AI hack things, then releases an incident report/press release.
https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing -
UK AISI / Caisi Preliminary Assessment of Kimi K3's Cyber Capabilities
Comments: https://news.ycombinator.com/item?id=49044492
#HackerNews #UK #AISI #Caisi #CyberCapabilities #KimiK3 #Cybersecurity
-
#AISI’s evaluation of leading #openweight models shows they lag behind closed models in #cybercapabilities by 4 to 7 months, a narrower gap than in 2025. This narrowing gap provides a limited window for cyber defenders to prepare before potentially more capable open weight models become available. While open weight models offer benefits like cost-effectiveness and adaptability, they also pose risks due to the difficulty of implementing safeguards. https://www.aisi.gov.uk/blog/how-far-behind-the-frontier-are-leading-open-weight-models-on-cyber?eicker.news #tech #media #news
-
GPT-5.5・Claude Opus 4.7、推論能力は人間並みか…ARC-AGI-3テストでは正答率1%未満の「惨敗」 — BigGo ファイナンス https://www.yayafa.com/2839711/ #AgenticAi #AGI #AI #aisi #Anthropic #AnthropicARR #ARCAGI3 #ArtificialGeneralIntelligence #ArtificialIntelligence #ClaudeCode #ClaudeOpus47 #CTF #GPT55 #HarnessEngineering #MythosPreview #OpenAI #エージェント型AI #人工知能 #汎用人工知能
-
Comunque, GPT-5.5 si conferma tra i modelli più forti in ambito cyber non perché sia “magico”, ma perché integra meglio ragionamento lungo orizzonte, coding e autonomia.
I test #AISI mostrano alti pass‑rate su CTF avanzati e la capacità di orchestrare attacchi end‑to‑end in cyber‑range realistici, segnale che le capacità offensive emergono naturalmente dai miglioramenti generali.
-
GPT-5.5 übertrifft Claude Mythos Preview bei Experten-Aufgaben und erreicht eine Erfolgsquote von 71,4 Prozent.
Das AISI testete 95 CTF-Herausforderungen. GPT-5.5 bewältigte einen 32-stufigen Netzwerkangriff in zwei von zehn Versuchen vollständig. Ein Red Team entwickelte in sechs Stunden einen universellen Jailbreak.
#GPT5 #OpenAI #CyberSecurity #AISI #AIGeneratedImage
https://www.all-ai.de/news/news26top/gpt-5-5-claude-mythos-security
-
The evaluation of #Anthropic #Mythos by #AISI #UK, does not seem to demonstrate the super-cracking ability mentioned elsewhere. It is noted its specific ability to chain attacks.
https://www.aisi.gov.uk/blog/our-evaluation-of-claude-mythos-previews-cyber-capabilities
-
Android 16 ląduje na tańszych Nothingach. Nothing OS 4.0 dla modeli (3a) i (3a) Pro
Carl Pei i jego zespół nie zwalniają tempa. Zaledwie tydzień po udostępnieniu stabilnej wersji Nothing OS 4.0 dla flagowego modelu Phone (3), aktualizacja oparta na Androidzie 16 trafia do użytkowników tańszych urządzeń.
To świetna wiadomość dla posiadaczy modeli Nothing Phone (3a) oraz (3a) Pro, którzy nie muszą czekać miesiącami na najnowsze funkcje.
Nothing OS 4.0 to spora ewolucja nakładki, która przynosi nie tylko nowości z samego Androida 16, ale też autorskie rozwiązania producenta. Aktualizacja jest już udostępniana w kanale stabilnym, choć producent zaznacza, że wdrażanie odbywa się etapami – na początek trafi do ograniczonej liczby użytkowników, by wykluczyć ewentualne błędy krytyczne.
Co nowego w Nothing OS 4.0?
Lista zmian jest obszerna i prezentowaliśmy więcej szczegółów we wcześniejszym materiale o Nothing OS 4.0. Dla przypomnienia: najciekawszą nowością wydaje się pulpit nawigacyjny użycia AI. W dobie wszechobecnej sztucznej inteligencji Nothing stawia na transparentność – system automatycznie śledzi, jak i kiedy wykorzystywane są duże modele językowe (LLM) w telefonie.
Oto najważniejsze zmiany:
- Nowy wygląd: odświeżono ikony aplikacji systemowych oraz pasek statusu.
- Pojawił się też tryb „Extra dark mode” dla fanów głębokiej czerni.
- Prywatność: możliwość ukrywania aplikacji bezpośrednio z poziomu ekranu głównego i szuflady aplikacji.
- Aparat: odświeżony interfejs, nowe presety kolorystyczne, ulepszone filtry oraz szybsze uruchamianie.
- Glyph Interface: lepsza integracja z powiadomieniami „Live Update” z Androida 16 oraz nowa opcja decydująca, czy odwrócenie telefonu (Flip to Glyph) ma go wyciszać całkowicie, czy przełączać na wibracje.
Pojawił się też Playground (w wersji Alpha) – przestrzeń dla społeczności, gdzie użytkownicy mogą dzielić się własnymi profilami korektora dźwięku czy ustawieniami aparatu.
Jeśli posiadasz Nothing Phone (3a) lub (3a) Pro, warto zajrzeć do ustawień aktualizacji. Pamiętajcie jednak o wykonaniu kopii zapasowej danych przed instalacją nowej wersji systemu.
#aiSi #aktualizacja #android16 #glyphInterface #news #nothing #nothingOs #nothingPhone3a #smartfony
-
Sztuczna inteligencja na węglowej kroplówce. Przyszłość technologii napędza energia z przeszłości
Wydawało się, że dni węgla w energetyce są policzone, a przyczyną jego zmierzchu była „niewidzialna ręka rynku”. Okazuje się jednak, że ta sama ręka właśnie podaje węglowi tlen.
Powód? Nienasycony apetyt sztucznej inteligencji na energię elektryczną. Administracja Donalda Trumpa wprost przyznaje: aby nakarmić AI, musimy palić węglem.
Raport serwisu Politico, opierający się na danych Frontier Group, ujawnia zaskakujący trend w amerykańskiej energetyce. Plany wygaszenia i zamknięcia 30 jednostek węglowych zostały wstrzymane. Powodem nie jest sentyment do górnictwa, ale brutalna matematyka zapotrzebowania na moc, generowana przez gwałtownie rosnący sektor centrów danych obsługujących AI.
EPA: węgiel musi zostać
Lee Zeldin, nowy szef Agencji Ochrony Środowiska (EPA) w administracji Donalda Trumpa, nie pozostawia złudzeń. W artykule dla Fox News stwierdził wprost: „Aby sprostać rosnącemu popytowi ze strony krajowego przemysłu i szybkiej ekspansji centrów danych sztucznej inteligencji, amerykańskie elektrownie węglowe muszą pozostać w eksploatacji”.
To zwrot o 180 stopni. W latach 2010–2019, obejmujących kadencje Obamy i pierwszą Trumpa, w USA ogłoszono zamknięcie 546 jednostek węglowych o łącznej mocy 102 gigawatów. Węgiel przegrywał wtedy ekonomicznie z gazem i OZE. Dziś jednak popyt na prąd jest tak ogromny, że liczy się każde źródło, niezależnie od jego emisyjności.
Cena postępu
Decyzja o utrzymaniu przy życiu starych elektrowni ma swoje mroczne konsekwencje. Raport wskazuje, że administracja pozwala blisko 70 elektrowniom na ignorowanie norm emisji rtęci i sadzy, które miały wejść w życie w 2027 roku, w czasie gdy EPA pracuje nad nowymi, łagodniejszymi przepisami.
Mamy więc do czynienia z technologicznym paradoksem: trenujemy modele AI, które mają pomóc nam rozwiązywać problemy ludzkości (w tym klimatyczne), zasilając je energią, która – według danych NIH – w ostatnich dekadach przyczyniła się do setek tysięcy przedwczesnych zgonów.
Google alarmuje pracowników: musimy podwajać moc obliczeniową co 6 miesięcy, by nadążyć za AI
#aiSi #dataCenter #donaldTrump #ekologia #energetyka #news #sztucznaInteligencja #usa #wegiel #zmianyKlimatu
-
Masz dość „AI śmieci”? To rozszerzenie cofa internet do czasów przed ChatGPT. Dosłownie
Czy masz czasem wrażenie, że wyniki wyszukiwania w Google stały się śmietniskiem generowanym przez boty? Jeśli tęsknisz za czasami, gdy treści w sieci tworzyli głównie ludzie, powstało narzędzie dla Ciebie. Nazywa się „Slop Evader” i działa jak cyfrowy wehikuł czasu, zabierając nas do ery sprzed 30 listopada 2022 roku.
Data ta nie jest przypadkowa. To dzień publicznej premiery ChatGPT, który symbolicznie otworzył tamę dla zalewu syntetycznych treści. Nowe rozszerzenie przeglądarkowe, dostępne dla Chrome i Firefoxa, obiecuje „odszumić” nasze wyniki wyszukiwania, drastycznie odcinając wszystko, co powstało po tym terminie.
Jak to działa? Prościej niż myślisz
„Slop Evader” nie używa zaawansowanych algorytmów do detekcji sztucznej inteligencji (które i tak często zawodzą). Zamiast tego stosuje brutalną, ale skuteczną metodę: filtr daty.
Wtyczka modyfikuje zapytania do wyszukiwarki tak, aby wykluczyć wszelkie wyniki zaindeksowane po „dniu zero”. Dzięki temu unikamy poradników pisanych przez halucynujące boty, syntetycznych grafik i spamu na forach. Narzędzie działa nie tylko w Google, ale filtruje też wyniki na YouTube, Reddicie czy Stack Exchange – miejscach, które szczególnie ucierpiały na inwazji treści generowanych przez AI.
Cena spokoju: brak newsów
Oczywiście, rozwiązanie to ma potężną wadę. Używając „Slop Evader”, tracimy dostęp do wszystkich informacji z ostatnich trzech lat. Nie przeczytasz o wynikach wczorajszego meczu, nie dowiesz się o nowym iPhonie, ani nie sprawdzisz aktualnych kursów walut. Choć przynajmniej w przypadku sprzętu Apple, możecie liczyć na naszą redakcję.
Twórczyni narzędzia, Tega Brain, przyznaje wprost, że nie jest to trwałe rozwiązanie problemu, a raczej eksperyment. Jego celem jest uświadomienie nam, jak wiele „syntetycznego szlamu” (tzw. AI slop) akceptujemy na co dzień bez mrugnięcia okiem i przypomnienie, jak wyglądał „ludzki” internet, zanim algorytmy przejęły stery. To nie nostalgia – to kubeł zimnej wody na nasze cyfrowe przyzwyczajenia.
AI wchodzi pod skórę. Cochlear prezentuje implant słuchowy, który zaktualizujesz jak smartfona
#aiSi #chatgpt #fakeNews #google #internet #news #przegladarki #slopEvader #sztucznaInteligencja
-
Chiny znalazły sposób na blokadę Nvidii? Alibaba i ByteDance trenują AI w Singapurze, omijając sankcje
Amerykańskie embargo na eksport najwydajniejszych akceleratorów AI do Chin miało zdusić rozwój tamtejszej sztucznej inteligencji. Chyba się nie udało.
Okazuje się jednak, że fizyczna granica nie jest przeszkodą dla danych. Jak donosi „Financial Times”, chińscy giganci technologiczni, tacy jak Alibaba i ByteDance, przenieśli proces szkolenia swoich modeli do centrów danych w Azji Południowo-Wschodniej, gdzie legalnie korzystają z zakazanych w ich ojczyźnie układów Nvidii.
Niedawno informowaliśmy o kulisach fizycznego przemytu układów Nvidii, którymi zajął się Departament Sprawiedliwości USA. Okazuje się jednak, że największe korporacje nie muszą uciekać się do usług przemytników. Znalazły znacznie bardziej skalowalną i – co najważniejsze – na ten moment legalną lukę w systemie sankcji.
Singapur nową stolicą chińskiego AI?
Według raportu „Financial Times”, w Singapurze i Malezji trwa prawdziwy boom na centra danych. Obiekty te są wyposażane w najpotężniejsze układy Nvidii (takie jak H100 czy Blackwell), do których podmioty zarejestrowane w Chinach nie mają bezpośredniego dostępu zakupowego.
Chińskie firmy nie kupują jednak sprzętu – one go wynajmują. Podpisując umowy z operatorami data center w krajach sojuszniczych USA, Alibaba (twórca modelu Qwen) czy ByteDance (właściciel TikToka i modelu Doubao) mogą zdalnie trenować swoje algorytmy na topowym sprzęcie. To tzw. „luka chmurowa”. Przepisy kontroli eksportu dotyczą fizycznego transferu towarów, a nie przesyłu danych do przetworzenia za granicą.
„To oczywisty wybór. Potrzebujesz najlepszych chipów, aby szkolić najbardziej zaawansowane modele, a tutaj wszystko jest zgodne z prawem” – komentuje dla FT jeden z operatorów centrów danych w Singapurze.
DeepSeek zostaje w domu i stawia na Huawei
Ciekawym wyjątkiem w tej strategii jest DeepSeek. Twórca jednego z najbardziej obiecujących chińskich modeli AI przyjął inną taktykę. Zamiast uciekać za granicę, firma zacieśnia współpracę z krajowym sektorem hardware’owym, w szczególności z Huawei.
Celem tego sojuszu jest optymalizacja chińskich układów (np. serii Ascend) pod kątem trenowania LLM-ów. To strategia długoterminowa – uniezależnienie się od technologii USA, nawet jeśli obecnie oznacza to pracę na sprzęcie o generację lub dwie słabszym od rozwiązań Nvidii.
Wyścig kotka i myszkę
Sytuacja ta pokazuje, jak trudne jest egzekwowanie blokady technologicznej w zglobalizowanym świecie cyfrowym. Administracja USA (według doniesień z kwietnia br.) starała się uszczelnić przepisy, ograniczając sprzedaż nawet okrojonych chipów H20, ale „turystyka obliczeniowa” do Singapuru pozostaje otwarta. Pytanie brzmi: jak długo Waszyngton będzie tolerował ten proceder, zanim nałoży restrykcje również na udostępnianie mocy obliczeniowej w chmurze?
#aiSi #alibaba #bytedance #chiny #deepseek #financialTimes #huawei #news #nvidia #sankcjeUsa #singapur
