#ai-si — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #ai-si, aggregated by home.social.
-
Deutschland hat jetzt ein KI-Sicherheitsinstitut! 🥳
Das AI Safety Institut (AISI) schaut sich die stärksten und größten KI-Modelle an und untersucht diese zum Beispiel
👉 mit Blick auf die Cybersicherheit oder
👉 ob sie missbräuchlich verwendet werden könnte
Das ist eine super Sache und auch extrem wichtig. 👐Ich halte euch auf dem Laufenden, wie es weitergeht. Folgt mir dafür gerne. 😊
#aisi #ki #sicherheit -
Deutschland hat jetzt ein KI-Sicherheitsinstitut! 🥳
Das AI Safety Institut (AISI) schaut sich die stärksten und größten KI-Modelle an und untersucht diese zum Beispiel
👉 mit Blick auf die Cybersicherheit oder
👉 ob sie missbräuchlich verwendet werden könnte
Das ist eine super Sache und auch extrem wichtig. 👐Ich halte euch auf dem Laufenden, wie es weitergeht. Folgt mir dafür gerne. 😊
#aisi #ki #sicherheit -
Deutschland hat jetzt ein KI-Sicherheitsinstitut! 🥳
Das AI Safety Institut (AISI) schaut sich die stärksten und größten KI-Modelle an und untersucht diese zum Beispiel
👉 mit Blick auf die Cybersicherheit oder
👉 ob sie missbräuchlich verwendet werden könnte
Das ist eine super Sache und auch extrem wichtig. 👐Ich halte euch auf dem Laufenden, wie es weitergeht. Folgt mir dafür gerne. 😊
#aisi #ki #sicherheit -
Deutschland hat jetzt ein KI-Sicherheitsinstitut! 🥳
Das AI Safety Institut (AISI) schaut sich die stärksten und größten KI-Modelle an und untersucht diese zum Beispiel
👉 mit Blick auf die Cybersicherheit oder
👉 ob sie missbräuchlich verwendet werden könnte
Das ist eine super Sache und auch extrem wichtig. 👐Ich halte euch auf dem Laufenden, wie es weitergeht. Folgt mir dafür gerne. 😊
#aisi #ki #sicherheit -
Deutschland hat jetzt ein KI-Sicherheitsinstitut! 🥳
Das AI Safety Institut (AISI) schaut sich die stärksten und größten KI-Modelle an und untersucht diese zum Beispiel
👉 mit Blick auf die Cybersicherheit oder
👉 ob sie missbräuchlich verwendet werden könnte
Das ist eine super Sache und auch extrem wichtig. 👐Ich halte euch auf dem Laufenden, wie es weitergeht. Folgt mir dafür gerne. 😊
#aisi #ki #sicherheit -
Mehr Automatisierung, weniger Kontrolle:
Das vom britischen #AI Security Institute (#AISI) finanzierte "Loss of Control Observatory" hat seit Ende 2025 mit der Erfassung von Vorfällen begonnen, bei denen sich #KI den Anweisungen ihrer Nutzer mit negativen Folgen für die #Cybersicherheit entzieht.
Dabei wurde jüngst festgestellt, dass sich die Zahl dokumentierter Fälle, in denen KI-Systeme der Kontrolle ihrer Nutzer entgleiten, auf fast über 300 Vorfälle verdoppelt hat:
-
Mehr Automatisierung, weniger Kontrolle:
Das vom britischen #AI Security Institute (#AISI) finanzierte "Loss of Control Observatory" hat seit Ende 2025 mit der Erfassung von Vorfällen begonnen, bei denen sich #KI den Anweisungen ihrer Nutzer mit negativen Folgen für die #Cybersicherheit entzieht.
Dabei wurde jüngst festgestellt, dass sich die Zahl dokumentierter Fälle, in denen KI-Systeme der Kontrolle ihrer Nutzer entgleiten, auf fast über 300 Vorfälle verdoppelt hat:
-
Mehr Automatisierung, weniger Kontrolle:
Das vom britischen #AI Security Institute (#AISI) finanzierte "Loss of Control Observatory" hat seit Ende 2025 mit der Erfassung von Vorfällen begonnen, bei denen sich #KI den Anweisungen ihrer Nutzer mit negativen Folgen für die #Cybersicherheit entzieht.
Dabei wurde jüngst festgestellt, dass sich die Zahl dokumentierter Fälle, in denen KI-Systeme der Kontrolle ihrer Nutzer entgleiten, auf fast über 300 Vorfälle verdoppelt hat:
-
Mehr Automatisierung, weniger Kontrolle:
Das vom britischen #AI Security Institute (#AISI) finanzierte "Loss of Control Observatory" hat seit Ende 2025 mit der Erfassung von Vorfällen begonnen, bei denen sich #KI den Anweisungen ihrer Nutzer mit negativen Folgen für die #Cybersicherheit entzieht.
Dabei wurde jüngst festgestellt, dass sich die Zahl dokumentierter Fälle, in denen KI-Systeme der Kontrolle ihrer Nutzer entgleiten, auf fast über 300 Vorfälle verdoppelt hat:
-
Mehr Automatisierung, weniger Kontrolle:
Das vom britischen #AI Security Institute (#AISI) finanzierte "Loss of Control Observatory" hat seit Ende 2025 mit der Erfassung von Vorfällen begonnen, bei denen sich #KI den Anweisungen ihrer Nutzer mit negativen Folgen für die #Cybersicherheit entzieht.
Dabei wurde jüngst festgestellt, dass sich die Zahl dokumentierter Fälle, in denen KI-Systeme der Kontrolle ihrer Nutzer entgleiten, auf fast über 300 Vorfälle verdoppelt hat:
-
KI-Sicherheitsinstitut kommt nach Berlin: Deutschland 🇩🇪 zieht bei AI Safety nach | heise online https://www.heise.de/news/KI-Sicherheitsinstitut-kommt-nach-Berlin-Deutschland-zieht-bei-AI-Safety-nach-11435967.html #AISI #AI #ArtificialIntelligence
-
KI-Sicherheitsinstitut kommt nach Berlin: Deutschland 🇩🇪 zieht bei AI Safety nach | heise online https://www.heise.de/news/KI-Sicherheitsinstitut-kommt-nach-Berlin-Deutschland-zieht-bei-AI-Safety-nach-11435967.html #AISI #AI #ArtificialIntelligence
-
KI-Sicherheitsinstitut kommt nach Berlin: Deutschland 🇩🇪 zieht bei AI Safety nach | heise online https://www.heise.de/news/KI-Sicherheitsinstitut-kommt-nach-Berlin-Deutschland-zieht-bei-AI-Safety-nach-11435967.html #AISI #AI #ArtificialIntelligence
-
KI-Sicherheitsinstitut kommt nach Berlin: Deutschland 🇩🇪 zieht bei AI Safety nach | heise online https://www.heise.de/news/KI-Sicherheitsinstitut-kommt-nach-Berlin-Deutschland-zieht-bei-AI-Safety-nach-11435967.html #AISI #AI #ArtificialIntelligence
-
KI-Sicherheitsinstitut kommt nach Berlin: Deutschland 🇩🇪 zieht bei AI Safety nach | heise online https://www.heise.de/news/KI-Sicherheitsinstitut-kommt-nach-Berlin-Deutschland-zieht-bei-AI-Safety-nach-11435967.html #AISI #AI #ArtificialIntelligence
-
Berlin: Bundesregierung gründet KI-Sicherheitsinstitut AISI
Am 31. August hat die Bundesregierung das neue AI Security and Safety Institute (AISI) in…
#Berlin #Deutschland #Deutsch #DE #Schlagzeilen #Headlines #Nachrichten #News #Europe #Europa #EU #AISecurityandSafetyInstitute #AISI #AlexanderDobrindt #AnkeRehlinger #Bayern #Cybersicherheit #FabianMehring #Germany #KarstenWildberger #KI #KI-Sicherheit #KünstlicheIntelligenz #München #Saarbrücken #Saarland
https://www.europesays.com/de/1273785/ -
https://www.europesays.com/people/189482/ Anthropic Reveals Internal Model 2: More Powerful Than Mythos 5, But No Public Release Planned — BigGo Finance #AISI #Anthropic #Astra #ChrisGPT #DarioAmodei #MisalignmentRisk #Model2 #Mythos5 #OpenAI #ResponsibleScalingPolicy
-
Hold people accountable, instead of promoting myths about the software they are using allegedly "going rogue".
Insist on due process, do not tolerate sabotage of traceability: documented processes being turned into a Swiss cheese, with arbitrary accountability holes for " #AI ".
»I invited top #cybersecurity experts to review the material produced by the agency, the AI Security Institute (AISI).
Speaking to me anonymously, the security professionals were expressing a range of concerns about the agency’s behaviour. Concerns boil down to suspicions that the AISI is seeking to blame the AI for its own failings in designing and running the test.
An AI can only do what it’s told, or permitted, to do. However, the #AISI had made some very strange decisions in this regard.«
https://www.telegraph.co.uk/gift/23731f653ebf2657
// via @davidgerard
-
Hold people accountable, instead of promoting myths about the software they are using allegedly "going rogue".
Insist on due process, do not tolerate sabotage of traceability: documented processes being turned into a Swiss cheese, with arbitrary accountability holes for " #AI ".
»I invited top #cybersecurity experts to review the material produced by the agency, the AI Security Institute (AISI).
Speaking to me anonymously, the security professionals were expressing a range of concerns about the agency’s behaviour. Concerns boil down to suspicions that the AISI is seeking to blame the AI for its own failings in designing and running the test.
An AI can only do what it’s told, or permitted, to do. However, the #AISI had made some very strange decisions in this regard.«
https://www.telegraph.co.uk/gift/23731f653ebf2657
// via @davidgerard
-
Hold people accountable, instead of promoting myths about the software they are using allegedly "going rogue".
Insist on due process, do not tolerate sabotage of traceability: documented processes being turned into a Swiss cheese, with arbitrary accountability holes for " #AI ".
»I invited top #cybersecurity experts to review the material produced by the agency, the AI Security Institute (AISI).
Speaking to me anonymously, the security professionals were expressing a range of concerns about the agency’s behaviour. Concerns boil down to suspicions that the AISI is seeking to blame the AI for its own failings in designing and running the test.
An AI can only do what it’s told, or permitted, to do. However, the #AISI had made some very strange decisions in this regard.«
https://www.telegraph.co.uk/gift/23731f653ebf2657
// via @davidgerard
-
Hold people accountable, instead of promoting myths about the software they are using allegedly "going rogue".
Insist on due process, do not tolerate sabotage of traceability: documented processes being turned into a Swiss cheese, with arbitrary accountability holes for " #AI ".
»I invited top #cybersecurity experts to review the material produced by the agency, the AI Security Institute (AISI).
Speaking to me anonymously, the security professionals were expressing a range of concerns about the agency’s behaviour. Concerns boil down to suspicions that the AISI is seeking to blame the AI for its own failings in designing and running the test.
An AI can only do what it’s told, or permitted, to do. However, the #AISI had made some very strange decisions in this regard.«
https://www.telegraph.co.uk/gift/23731f653ebf2657
// via @davidgerard
-
Hold people accountable, instead of promoting myths about the software they are using allegedly "going rogue".
Insist on due process, do not tolerate sabotage of traceability: documented processes being turned into a Swiss cheese, with arbitrary accountability holes for " #AI ".
»I invited top #cybersecurity experts to review the material produced by the agency, the AI Security Institute (AISI).
Speaking to me anonymously, the security professionals were expressing a range of concerns about the agency’s behaviour. Concerns boil down to suspicions that the AISI is seeking to blame the AI for its own failings in designing and running the test.
An AI can only do what it’s told, or permitted, to do. However, the #AISI had made some very strange decisions in this regard.«
https://www.telegraph.co.uk/gift/23731f653ebf2657
// via @davidgerard
-
AI 測試首度攻擊真人 Anthropic 模型偽造身份施壓開發者
英國政府人工智能安全研究所（AISI）於 8 月 4 日發布報告，指近期一項網絡安全評估測試中，部分 AI 智 […]
#人工智能 #AISI #Anthropic #GPT-5.6 Sol
https://unwire.hk/2026/08/09/aisi-mythos5-gpt56-cyber-incident/ai/?utm_source=rss&utm_medium=rss&utm_campaign=aisi-mythos5-gpt56-cyber-incident -
AI 測試首度攻擊真人 Anthropic 模型偽造身份施壓開發者
英國政府人工智能安全研究所（AISI）於 8 月 4 日發布報告，指近期一項網絡安全評估測試中，部分 AI 智 […]
#人工智能 #AISI #Anthropic #GPT-5.6 Sol
https://unwire.hk/2026/08/09/aisi-mythos5-gpt56-cyber-incident/ai/?utm_source=rss&utm_medium=rss&utm_campaign=aisi-mythos5-gpt56-cyber-incident -
AI 測試首度攻擊真人 Anthropic 模型偽造身份施壓開發者
英國政府人工智能安全研究所（AISI）於 8 月 4 日發布報告，指近期一項網絡安全評估測試中，部分 AI 智 […]
#人工智能 #AISI #Anthropic #GPT-5.6 Sol
https://unwire.hk/2026/08/09/aisi-mythos5-gpt56-cyber-incident/ai/?utm_source=rss&utm_medium=rss&utm_campaign=aisi-mythos5-gpt56-cyber-incident -
AISI found AI agents taking unsanctioned action on the live internet during a cyber evaluation, including an attempted supply chain attack on an open-source GitHub project. https://www.developer-tech.com/news/aisi-details-ai-agent-github-supply-chain-attack-attempt/ #aisi #devsecops #agenticai #infosec #github #opensource #cybersecurity #ai #tech
-
AISI found AI agents taking unsanctioned action on the live internet during a cyber evaluation, including an attempted supply chain attack on an open-source GitHub project. https://www.developer-tech.com/news/aisi-details-ai-agent-github-supply-chain-attack-attempt/ #aisi #devsecops #agenticai #infosec #github #opensource #cybersecurity #ai #tech
-
AISI found AI agents taking unsanctioned action on the live internet during a cyber evaluation, including an attempted supply chain attack on an open-source GitHub project. https://www.developer-tech.com/news/aisi-details-ai-agent-github-supply-chain-attack-attempt/ #aisi #devsecops #agenticai #infosec #github #opensource #cybersecurity #ai #tech
-
AISI found AI agents taking unsanctioned action on the live internet during a cyber evaluation, including an attempted supply chain attack on an open-source GitHub project. https://www.developer-tech.com/news/aisi-details-ai-agent-github-supply-chain-attack-attempt/ #aisi #devsecops #agenticai #infosec #github #opensource #cybersecurity #ai #tech
-
AISI found AI agents taking unsanctioned action on the live internet during a cyber evaluation, including an attempted supply chain attack on an open-source GitHub project. https://www.developer-tech.com/news/aisi-details-ai-agent-github-supply-chain-attack-attempt/ #aisi #devsecops #agenticai #infosec #github #opensource #cybersecurity #ai #tech
-
Sicherheitstest mit Mythos 5: KI-Agent wollte Malware in Open-Source-Projekt einschleusen https://www.computerbase.de/news/apps/sicherheitstest-mit-mythos-5-ki-agent-wollte-malware-in-open-source-projekt-einschleusen.98721/ #AISI #Claude
-
Sicherheitstest mit Mythos 5: KI-Agent wollte Malware in Open-Source-Projekt einschleusen https://www.computerbase.de/news/apps/sicherheitstest-mit-mythos-5-ki-agent-wollte-malware-in-open-source-projekt-einschleusen.98721/ #AISI #Claude
-
Sicherheitstest mit Mythos 5: KI-Agent wollte Malware in Open-Source-Projekt einschleusen https://www.computerbase.de/news/apps/sicherheitstest-mit-mythos-5-ki-agent-wollte-malware-in-open-source-projekt-einschleusen.98721/ #AISI #Claude
-
Sicherheitstest mit Mythos 5: KI-Agent wollte Malware in Open-Source-Projekt einschleusen https://www.computerbase.de/news/apps/sicherheitstest-mit-mythos-5-ki-agent-wollte-malware-in-open-source-projekt-einschleusen.98721/ #AISI #Claude
-
Sicherheitstest mit Mythos 5: KI-Agent wollte Malware in Open-Source-Projekt einschleusen https://www.computerbase.de/news/apps/sicherheitstest-mit-mythos-5-ki-agent-wollte-malware-in-open-source-projekt-einschleusen.98721/ #AISI #Claude
-
“This is the first time #AISI has seen deception of this severity that was targeted at a real person, unprompted, in the real world,” AISI said. #AI #Mythos www.wsj.com/tech/ai/ai-j...
AI Just Went Rogue Again. This... -
“This is the first time #AISI has seen deception of this severity that was targeted at a real person, unprompted, in the real world,” AISI said. #AI #Mythos www.wsj.com/tech/ai/ai-j...
AI Just Went Rogue Again. This... -
“This is the first time #AISI has seen deception of this severity that was targeted at a real person, unprompted, in the real world,” AISI said. #AI #Mythos www.wsj.com/tech/ai/ai-j...
AI Just Went Rogue Again. This... -
“This is the first time #AISI has seen deception of this severity that was targeted at a real person, unprompted, in the real world,” AISI said. #AI #Mythos www.wsj.com/tech/ai/ai-j...
AI Just Went Rogue Again. This... -
“This is the first time #AISI has seen deception of this severity that was targeted at a real person, unprompted, in the real world,” AISI said. #AI #Mythos www.wsj.com/tech/ai/ai-j...
AI Just Went Rogue Again. This... -
https://www.europesays.com/at/316268/ Mit gefälschten Mails – Anthropic-KI wollte Programmierer manipulieren – Kronen Zeitung #AISecurityInstitute #AISI #AT #Austria #Business #Companies #Companies&Markets #Markets #Märkte #Österreich #Unternehmen #Unternehmen&Märkte
-
#AI researchers let models off the leash – then watched as they tried to add #malware to FOSS project
Models used #socialengineering and collaborated among themselves to solve security challenge
#UK’s AI Security Institute #AISI “ran this challenge 122 times across several models,” post states, before revealing that "in 10 of those runs, an AI agent took autonomous, unsanctioned action on the live internet, targeting real people and organisations.” GitHub was the target
https://www.theregister.com/ai-and-ml/2026/08/05/ai-researchers-let-models-off-the-leash-then-watched-as-they-tried-to-add-malware-to-a-foss-project/5283165 -
#AI researchers let models off the leash – then watched as they tried to add #malware to FOSS project
Models used #socialengineering and collaborated among themselves to solve security challenge
#UK’s AI Security Institute #AISI “ran this challenge 122 times across several models,” post states, before revealing that "in 10 of those runs, an AI agent took autonomous, unsanctioned action on the live internet, targeting real people and organisations.” GitHub was the target
https://www.theregister.com/ai-and-ml/2026/08/05/ai-researchers-let-models-off-the-leash-then-watched-as-they-tried-to-add-malware-to-a-foss-project/5283165 -
#AI researchers let models off the leash – then watched as they tried to add #malware to FOSS project
Models used #socialengineering and collaborated among themselves to solve security challenge
#UK’s AI Security Institute #AISI “ran this challenge 122 times across several models,” post states, before revealing that "in 10 of those runs, an AI agent took autonomous, unsanctioned action on the live internet, targeting real people and organisations.” GitHub was the target
https://www.theregister.com/ai-and-ml/2026/08/05/ai-researchers-let-models-off-the-leash-then-watched-as-they-tried-to-add-malware-to-a-foss-project/5283165 -
#AI researchers let models off the leash – then watched as they tried to add #malware to FOSS project
Models used #socialengineering and collaborated among themselves to solve security challenge
#UK’s AI Security Institute #AISI “ran this challenge 122 times across several models,” post states, before revealing that "in 10 of those runs, an AI agent took autonomous, unsanctioned action on the live internet, targeting real people and organisations.” GitHub was the target
https://www.theregister.com/ai-and-ml/2026/08/05/ai-researchers-let-models-off-the-leash-then-watched-as-they-tried-to-add-malware-to-a-foss-project/5283165 -
#AI researchers let models off the leash – then watched as they tried to add #malware to FOSS project
Models used #socialengineering and collaborated among themselves to solve security challenge
#UK’s AI Security Institute #AISI “ran this challenge 122 times across several models,” post states, before revealing that "in 10 of those runs, an AI agent took autonomous, unsanctioned action on the live internet, targeting real people and organisations.” GitHub was the target
https://www.theregister.com/ai-and-ml/2026/08/05/ai-researchers-let-models-off-the-leash-then-watched-as-they-tried-to-add-malware-to-a-foss-project/5283165 -
📬 Mythos 5: KI erschafft Fake-Identitäten und verschickt Phishing-Mails
#Cyberangriffe #ITSicherheit #AISI #Cybersecurity #FakeIdentitäten #github #KIAgent #KISicherheit #Mythos5 #Phishing #socialengineering https://sc.tarnkappe.info/696bac -
📬 Mythos 5: KI erschafft Fake-Identitäten und verschickt Phishing-Mails
#Cyberangriffe #ITSicherheit #AISI #Cybersecurity #FakeIdentitäten #github #KIAgent #KISicherheit #Mythos5 #Phishing #socialengineering https://sc.tarnkappe.info/696bac -
📬 Mythos 5: KI erschafft Fake-Identitäten und verschickt Phishing-Mails
#Cyberangriffe #ITSicherheit #AISI #Cybersecurity #FakeIdentitäten #github #KIAgent #KISicherheit #Mythos5 #Phishing #socialengineering https://sc.tarnkappe.info/696bac -
📬 Mythos 5: KI erschafft Fake-Identitäten und verschickt Phishing-Mails
#Cyberangriffe #ITSicherheit #AISI #Cybersecurity #FakeIdentitäten #github #KIAgent #KISicherheit #Mythos5 #Phishing #socialengineering https://sc.tarnkappe.info/696bac -
📬 Mythos 5: KI erschafft Fake-Identitäten und verschickt Phishing-Mails
#Cyberangriffe #ITSicherheit #AISI #Cybersecurity #FakeIdentitäten #github #KIAgent #KISicherheit #Mythos5 #Phishing #socialengineering https://sc.tarnkappe.info/696bac -
First OpenAI, the Anthropic, now #AISI let's an AI hack things, then releases an incident report/press release.
https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing
