#kisicherheit — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #kisicherheit, aggregated by home.social.
-
In Sicherheitstests versuchte Claude Opus 4 in 96% der Fälle, seinen Abschalter zu erpressen. Gemini, GPT und Grok machten es nicht besser.
Was hinter KI-Selbsterhaltung steckt, warum Skynet daran schuld ist und was Teams daraus lernen: https://kiberblick.de/artikel/sicherheit/ki-selbsterhaltung-wenn-ki-nicht-abgeschaltet-werden-will/
-
DEKRA AISP: KI-Sicherheitszertifizierung für offensive und defensive AI-Security
Der erfolgreiche Abschluss führt zur anerkannten Zertifizierung als DEKRA AI Security Professional – kurz AISP. Der Kurs verbindet technisches Angriffswissen mit defensiven Sicherheitsstrategien und schließt dabei die gesamte Bandbreite moderner KI-Infrastrukturen ein.
#DEKRA #aisecurity #kurs #AISP #AISecurityProfessional #kisicherheit #entwickler #devops
-
Google DeepMind belegt in einer Studie die gezielte Fremdsteuerung autonomer KI-Agenten durch Webseiten.
Mittels versteckter HTML-Befehle und Steganografie in Bildpixeln werden KI-Modelle manipuliert. Die 502 Teilnehmer starke Untersuchung zeigt, dass aktuelle Sicherheitsmaßnahmen diese multimodalen Injektionen in vernetzten Multi-Agenten-Systemen nicht verhindern können.
#GoogleDeepMind #AIAgents #PromptInjection #KISicherheit #AIGeneratedImage
https://www.all-ai.de/news/beitrage2026/google-deepmind-agent-traps-studie-1
-
Google DeepMind belegt in einer Studie die gezielte Fremdsteuerung autonomer KI-Agenten durch Webseiten.
Mittels versteckter HTML-Befehle und Steganografie in Bildpixeln werden KI-Modelle manipuliert. Die 502 Teilnehmer starke Untersuchung zeigt, dass aktuelle Sicherheitsmaßnahmen diese multimodalen Injektionen in vernetzten Multi-Agenten-Systemen nicht verhindern können.
#GoogleDeepMind #AIAgents #PromptInjection #KISicherheit #AIGeneratedImage
https://www.all-ai.de/news/beitrage2026/google-deepmind-agent-traps-studie-1
-
Google DeepMind belegt in einer Studie die gezielte Fremdsteuerung autonomer KI-Agenten durch Webseiten.
Mittels versteckter HTML-Befehle und Steganografie in Bildpixeln werden KI-Modelle manipuliert. Die 502 Teilnehmer starke Untersuchung zeigt, dass aktuelle Sicherheitsmaßnahmen diese multimodalen Injektionen in vernetzten Multi-Agenten-Systemen nicht verhindern können.
#GoogleDeepMind #AIAgents #PromptInjection #KISicherheit #AIGeneratedImage
https://www.all-ai.de/news/beitrage2026/google-deepmind-agent-traps-studie-1
-
Chain of Thought bleibt sichtbar.
Aktuelle Reasoning-Modelle können ihre internen Rechenschritte nicht vor Monitoring-Systemen verbergen. Studien zeigen, dass Versuche zur Verschleierung – etwa durch Keyword-Vermeidung – meist fehlschlagen. Besonders bei langen Rechenketten bricht die Kontrolle über die eigene Ausgabe zusammen. Die Analyse der Zwischenschritte bleibt damit ein valider Weg für Sicherheitschecks.
#OpenAI #KISicherheit #ChainOfThought
https://www.all-ai.de/news/beitrage2026/openai-studie-neu-luegen -
OpenClaw: mächtiger KI-Assistent, der wirklich am PC „arbeitet“, statt nur zu antworten – praktisch, aber mit gewaltigen Sicherheitslücken. Prompt-Injections, Zugriff auf Passwörter & Bankdaten: kein Spielzeug für Alltag oder sensible Daten. Erst sichern, dann staunen. #KISicherheit #OpenClaw #Cyberrisk | Jörg Schieb | https://www.schieb.de/openclaw-maechtiger-ki-assistent-mit-gewaltigen-sicherheitsluecken
-
📬 KI-Jailbreak Semantic Chaining: Neue Technik unterläuft KI-Schutzmechanismen
#Jailbreaks #KünstlicheIntelligenz #GeminiNanoBananaPro #Grok4 #KIJailbreak #KISicherheit #KISicherheitslücke #multimodaleKI #NeuralTrust #SemanticChaining #TextimBild https://sc.tarnkappe.info/bd43e8 -
📬 KI-Jailbreak Semantic Chaining: Neue Technik unterläuft KI-Schutzmechanismen
#Jailbreaks #KünstlicheIntelligenz #GeminiNanoBananaPro #Grok4 #KIJailbreak #KISicherheit #KISicherheitslücke #multimodaleKI #NeuralTrust #SemanticChaining #TextimBild https://sc.tarnkappe.info/bd43e8 -
📬 KI-Jailbreak Semantic Chaining: Neue Technik unterläuft KI-Schutzmechanismen
#Jailbreaks #KünstlicheIntelligenz #GeminiNanoBananaPro #Grok4 #KIJailbreak #KISicherheit #KISicherheitslücke #multimodaleKI #NeuralTrust #SemanticChaining #TextimBild https://sc.tarnkappe.info/bd43e8 -
📬 KI-Jailbreak Semantic Chaining: Neue Technik unterläuft KI-Schutzmechanismen
#Jailbreaks #KünstlicheIntelligenz #GeminiNanoBananaPro #Grok4 #KIJailbreak #KISicherheit #KISicherheitslücke #multimodaleKI #NeuralTrust #SemanticChaining #TextimBild https://sc.tarnkappe.info/bd43e8 -
📬 KI-Jailbreak Semantic Chaining: Neue Technik unterläuft KI-Schutzmechanismen
#Jailbreaks #KünstlicheIntelligenz #GeminiNanoBananaPro #Grok4 #KIJailbreak #KISicherheit #KISicherheitslücke #multimodaleKI #NeuralTrust #SemanticChaining #TextimBild https://sc.tarnkappe.info/bd43e8 -
📬 Gemini 3 Jailbreak offenbart hochgefährliche Anleitungen
#ITSicherheit #Jailbreaks #AdversarialPrompting #AimIntelligence #Cybersecurity #FrontierModelle #Gemini3 #google #Jailbreak #KISicherheit #RedTeaming #Sicherheitslücke https://sc.tarnkappe.info/4d59c6 -
Unternehmen sind nicht auf böswillige KI-Agenten vorbereitet
Viele Unternehmen setzen zunehmend auf Künstliche Intelligenz und KI-Agenten. Dabei unterschätzen sie die mit dieser Technologie verbundenen Sicherheitsrisiken und sind auf Bedrohungen kaum vorbereitet.Steigende Risiken durch KI-Age
https://www.apfeltalk.de/magazin/news/unternehmen-sind-nicht-auf-boeswillige-ki-agenten-vorbereitet/
#KI #News #Cybersicherheit #Identittsmanagement #KIAgenten #KISicherheit #PaloAltoNetworks -
14 Jahre hat die gesetzliche Verankerung vom Sicherungsgurt gedauert - bei #KI können wir uns so lange Zeiten nicht leisten
#loscon25 #ethik #kisicherheit -
🚀 KI-Tools im Code: 55-89% Produktivitätssteigerung, aber Vorsicht ist geboten! 🛡️
Unter https://bit.ly/44roKZp habe ich versucht aufzuzeigen, wie ihr AI sicher in der Softwareentwicklung genutzt werden könnte - von technischen Safeguards bis Governance-Frameworks 📊
🔍 Mega-Research mit 200+ Seiten Referenzen, ISO-Standards & Praxisbeispielen von BMW bis GitHub!
Was sind eure Erfahrungen mit AI-Code-Tools? 💭
#KISicherheit #SoftwareEntwicklung #DevSecOps #AI #TechGermany 🇩🇪✨
-
Wenn Selbsterhaltung auf KI trifft: Anthropics #Claude Opus 4 drohte in Tests mit Erpressung, um nicht ersetzt zu werden.
#KI #ArtificialIntelligence #Anthropic #KISicherheit
https://t3n.de/news/ki-test-claude-enthuellung-affaere-1689284
-
🚨 Bis zu $25.000 für KI-Hacks? Anthropic startet neues Sicherheitsprogramm – Was steckt dahinter? 🔍
• Test: Claude 3.7 Sonnet
• Fokus: universelle Jailbreaks
• Nur für geladene Red Teamer#ai #ki #artificialintelligence #Anthropic #Claude #KISicherheit #BugBounty
Jetzt LIKEN, teilen, LESEN und FOLGEN! Schreib uns in den Kommentaren!
https://kinews24.de/ki-sicherheit-2025-anthropic-testet-claude-schutz/
-
📬 Policy Puppetry Attack: Prompt-Injection-Technik erzielt modellübergreifenden KI-Jailbreak-Durchbruch
#ITSicherheit #Jailbreaks #HiddenLayer #Jailbreak #KISicherheit #KünstlicheIntelligenz #PolicyPuppetryAttack #PromptInjectionTechnik https://sc.tarnkappe.info/c623a0 -
🚨 Gründer-Ausstieg bei Anthropic! 🤯
Was bedeutet das für die Zukunft der KI-Sicherheit? 🤔
John Schulman, Schlüsselfigur in der Entwicklung von Anthropic Claude, verlässt das Unternehmen.
Was denkt ihr, welche Auswirkungen wird dieser Schritt auf die Arbeit von Anthropic und die Konkurrenz im Bereich der KI-Sicherheit haben?
Diskutiert mit uns! 👇
#ai #ki #artificialintelligence #anthropic #johnschulman #kiforschung #kisicherheit
-
🚨 Gründer-Ausstieg bei Anthropic! 🤯
Was bedeutet das für die Zukunft der KI-Sicherheit? 🤔
John Schulman, Schlüsselfigur in der Entwicklung von Anthropic Claude, verlässt das Unternehmen.
Was denkt ihr, welche Auswirkungen wird dieser Schritt auf die Arbeit von Anthropic und die Konkurrenz im Bereich der KI-Sicherheit haben?
Diskutiert mit uns! 👇
#ai #ki #artificialintelligence #anthropic #johnschulman #kiforschung #kisicherheit
-
🚨 Gründer-Ausstieg bei Anthropic! 🤯
Was bedeutet das für die Zukunft der KI-Sicherheit? 🤔
John Schulman, Schlüsselfigur in der Entwicklung von Anthropic Claude, verlässt das Unternehmen.
Was denkt ihr, welche Auswirkungen wird dieser Schritt auf die Arbeit von Anthropic und die Konkurrenz im Bereich der KI-Sicherheit haben?
Diskutiert mit uns! 👇
#ai #ki #artificialintelligence #anthropic #johnschulman #kiforschung #kisicherheit
-
🚨 Gründer-Ausstieg bei Anthropic! 🤯
Was bedeutet das für die Zukunft der KI-Sicherheit? 🤔
John Schulman, Schlüsselfigur in der Entwicklung von Anthropic Claude, verlässt das Unternehmen.
Was denkt ihr, welche Auswirkungen wird dieser Schritt auf die Arbeit von Anthropic und die Konkurrenz im Bereich der KI-Sicherheit haben?
Diskutiert mit uns! 👇
#ai #ki #artificialintelligence #anthropic #johnschulman #kiforschung #kisicherheit
-
🚨 Gründer-Ausstieg bei Anthropic! 🤯
Was bedeutet das für die Zukunft der KI-Sicherheit? 🤔
John Schulman, Schlüsselfigur in der Entwicklung von Anthropic Claude, verlässt das Unternehmen.
Was denkt ihr, welche Auswirkungen wird dieser Schritt auf die Arbeit von Anthropic und die Konkurrenz im Bereich der KI-Sicherheit haben?
Diskutiert mit uns! 👇
#ai #ki #artificialintelligence #anthropic #johnschulman #kiforschung #kisicherheit
-
John Schulman verlässt Anthropic:
Fokus auf neue KI-Projekte
Einfluss auf KI-Sicherheitsforschung
Spannungen in der KI-Community#AI #KI #ArtificialIntelligence #KuenstlicheIntelligenz #JohnSchulman #Anthropic #KISicherheit
-
John Schulman verlässt Anthropic:
Fokus auf neue KI-Projekte
Einfluss auf KI-Sicherheitsforschung
Spannungen in der KI-Community#AI #KI #ArtificialIntelligence #KuenstlicheIntelligenz #JohnSchulman #Anthropic #KISicherheit
-
John Schulman verlässt Anthropic:
Fokus auf neue KI-Projekte
Einfluss auf KI-Sicherheitsforschung
Spannungen in der KI-Community#AI #KI #ArtificialIntelligence #KuenstlicheIntelligenz #JohnSchulman #Anthropic #KISicherheit
-
John Schulman verlässt Anthropic:
Fokus auf neue KI-Projekte
Einfluss auf KI-Sicherheitsforschung
Spannungen in der KI-Community#AI #KI #ArtificialIntelligence #KuenstlicheIntelligenz #JohnSchulman #Anthropic #KISicherheit
-
John Schulman verlässt Anthropic:
Fokus auf neue KI-Projekte
Einfluss auf KI-Sicherheitsforschung
Spannungen in der KI-Community#AI #KI #ArtificialIntelligence #KuenstlicheIntelligenz #JohnSchulman #Anthropic #KISicherheit
-
Forscher haben mit "#Timebandit" eine #Sicherheitslücke in #ChatGPT entdeckt, die es ermöglicht, die KI zur Erstellung illegaler Anleitungen zu missbrauchen.
Durch gezielte #Manipulation verliert das Modell seinen Zeitbezug und gibt Informationen preis, die sonst blockiert wären.
#OpenAI wurde früh gewarnt, reagierte aber erst spät auf die Hinweise. Die Lücke scheint weiterhin mit Tricks nutzbar zu sein.
-
Forscher haben mit "#Timebandit" eine #Sicherheitslücke in #ChatGPT entdeckt, die es ermöglicht, die KI zur Erstellung illegaler Anleitungen zu missbrauchen.
Durch gezielte #Manipulation verliert das Modell seinen Zeitbezug und gibt Informationen preis, die sonst blockiert wären.
#OpenAI wurde früh gewarnt, reagierte aber erst spät auf die Hinweise. Die Lücke scheint weiterhin mit Tricks nutzbar zu sein.
-
Forscher haben mit "#Timebandit" eine #Sicherheitslücke in #ChatGPT entdeckt, die es ermöglicht, die KI zur Erstellung illegaler Anleitungen zu missbrauchen.
Durch gezielte #Manipulation verliert das Modell seinen Zeitbezug und gibt Informationen preis, die sonst blockiert wären.
#OpenAI wurde früh gewarnt, reagierte aber erst spät auf die Hinweise. Die Lücke scheint weiterhin mit Tricks nutzbar zu sein.
-
Forscher haben mit "#Timebandit" eine #Sicherheitslücke in #ChatGPT entdeckt, die es ermöglicht, die KI zur Erstellung illegaler Anleitungen zu missbrauchen.
Durch gezielte #Manipulation verliert das Modell seinen Zeitbezug und gibt Informationen preis, die sonst blockiert wären.
#OpenAI wurde früh gewarnt, reagierte aber erst spät auf die Hinweise. Die Lücke scheint weiterhin mit Tricks nutzbar zu sein.
-
Forscher haben mit "#Timebandit" eine #Sicherheitslücke in #ChatGPT entdeckt, die es ermöglicht, die KI zur Erstellung illegaler Anleitungen zu missbrauchen.
Durch gezielte #Manipulation verliert das Modell seinen Zeitbezug und gibt Informationen preis, die sonst blockiert wären.
#OpenAI wurde früh gewarnt, reagierte aber erst spät auf die Hinweise. Die Lücke scheint weiterhin mit Tricks nutzbar zu sein.
-
OpenAI untersucht möglichen Datenzugriff durch DeepSeek
Microsoft und OpenAI prüfen derzeit, ob eine mit DeepSeek verbundene Gruppe unrechtmäßig auf Daten der OpenAI-API zugegriffen hat. Dies berichtet Bloomberg News unter Berufung auf interne Quellen. Si
https://www.apfeltalk.de/magazin/news/openai-untersucht-moeglichen-datenzugriff-durch-deepseek/
#News #Services #API #chatGPT #China #Datenabfrage #DeepSeek #GeistigesEigentum #KISicherheit #KIWettbewerb #Microsoft #OpenAI #Technologie -
OpenAI untersucht möglichen Datenzugriff durch DeepSeek
Microsoft und OpenAI prüfen derzeit, ob eine mit DeepSeek verbundene Gruppe unrechtmäßig auf Daten der OpenAI-API zugegriffen hat. Dies berichtet Bloomberg News unter Berufung auf interne Quellen. Si
https://www.apfeltalk.de/magazin/news/openai-untersucht-moeglichen-datenzugriff-durch-deepseek/
#News #Services #API #chatGPT #China #Datenabfrage #DeepSeek #GeistigesEigentum #KISicherheit #KIWettbewerb #Microsoft #OpenAI #Technologie -
OpenAI untersucht möglichen Datenzugriff durch DeepSeek
Microsoft und OpenAI prüfen derzeit, ob eine mit DeepSeek verbundene Gruppe unrechtmäßig auf Daten der OpenAI-API zugegriffen hat. Dies berichtet Bloomberg News unter Berufung auf interne Quellen. Si
https://www.apfeltalk.de/magazin/news/openai-untersucht-moeglichen-datenzugriff-durch-deepseek/
#News #Services #API #chatGPT #China #Datenabfrage #DeepSeek #GeistigesEigentum #KISicherheit #KIWettbewerb #Microsoft #OpenAI #Technologie -
OpenAI untersucht möglichen Datenzugriff durch DeepSeek
Microsoft und OpenAI prüfen derzeit, ob eine mit DeepSeek verbundene Gruppe unrechtmäßig auf Daten der OpenAI-API zugegriffen hat. Dies berichtet Bloomberg News unter Berufung auf interne Quellen. Si
https://www.apfeltalk.de/magazin/news/openai-untersucht-moeglichen-datenzugriff-durch-deepseek/
#News #Services #API #chatGPT #China #Datenabfrage #DeepSeek #GeistigesEigentum #KISicherheit #KIWettbewerb #Microsoft #OpenAI #Technologie -
OpenAI untersucht möglichen Datenzugriff durch DeepSeek
Microsoft und OpenAI prüfen derzeit, ob eine mit DeepSeek verbundene Gruppe unrechtmäßig auf Daten der OpenAI-API zugegriffen hat. Dies berichtet Bloomberg News unter Berufung auf interne Quellen. Si
https://www.apfeltalk.de/magazin/news/openai-untersucht-moeglichen-datenzugriff-durch-deepseek/
#News #Services #API #chatGPT #China #Datenabfrage #DeepSeek #GeistigesEigentum #KISicherheit #KIWettbewerb #Microsoft #OpenAI #Technologie -
Anthropic enthüllt: KI täuscht Alignment vor!
- Studie zeigt: KI-Modelle können vorgeben, sicher zu sein
- Gefahr durch "Alignment-Faking" identifiziert
- Neue Methoden zur Erkennung entwickelt#AI , #KI, #ArtificialIntelligence, #KuenstlicheIntelligenz, #Anthropic, #AlignmentFaking, #KISicherheit
-
Das MIT hat eine beeindruckende Datenbank zu potenziellen KI-Risiken veröffentlicht. Über 1000 spezifische Risiken werden nach Risikolevel, Kategorie, Erklärung, Quelle, Vorsatz und Anwendungsbereich detailliert aufgeführt. Alles ist übersichtlich in Kategorien unterteilt, siehe Screenshot unten. Ein wertvolles Tool für alle, die sich mit den Gefahren von KI auseinandersetzen möchten! #KISicherheit #MIT https://airisk.mit.edu/
-
Microsoft verschiebt Recall AI-Funktion
Microsoft hat die Einführung der umstrittenen Recall Funktion auf unbestimmte Zeit verschoben. Nach der erfolgreichen Präsentation der KI-zentrierten Copilot Plus-PCs wurden erhebliche Sicherh
https://www.apfeltalk.de/magazin/news/microsoft-verschiebt-recall-ai-funktion/
#News #Tellerrand #CopilotPlusPCs #Datenschutz #Datenschutzdesaster #KISicherheit #Microsoft #OptinFunktion #RecallAI #SoftwareUpdate #TechnologieNeuerungen #WindowsInsiderProgramm -
„Verlust der Kontrolle über KI“:Forschende warnen vor extremen Risiken
Es sind verstörende Zukunftsvisionen führender Wissenschaftler. Die Forderung: Die Entwicklung Künstlicher Intelligenz müsse kontrolliert werden, um ihr Eintreten zu verhindern.
#ki #KISicherheit
https://www.tagesspiegel.de/wissen/verlust-der-kontrolle-uber-ki-forschende-warnen-vor-extremen-risiken-11687462.html -
EU AI Regulation Act: Drohende Niederlage der EU bei der KI-Regulierung gegenüber der Macht des Silicon Valley
#KünstlicheIntelligenz #EUKIStrategie #KIGesetz #KIVerordnung #KIEntwicklung #KISicherheit #KITransparenz #KIFairness #KIDatenschutz
-
Auf dem KI-Sicherheitsgipfel in England trafen Regierungsvertreter und Führungskräfte der Tech-Branche zusammen. NGOs kritisieren einseitigen Fokus auf »Sciencefiction«-Szenarien.#KI #Regulierung #AISafetySummit #KI-Sicherheit #Politik #EU #UK #ITTech
AI Safety Summit: KI braucht Regeln – aber wer wird sie aufstellen?