#ki-systeme — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #ki-systeme, aggregated by home.social.
-
Strukturelle Metadaten als Angriffsfläche: Wie KI-Systeme aus Dokumentgliederungen Inhalte rekonstruieren
Die beschriebene Schwachstelle betrifft nicht einen einzelnen Anbieter oder eine bestimmte Modellklasse, sondern tritt bei Systemen von Anthropic, OpenAI und Google gleichermaßen auf. Für Unternehmen, die RAG-basierte KI-Systeme mit vertraulichen Dokumenten betreiben, ergibt sich daraus unmittelbarer Handlungsbedarf.
-
Wenn KI-Systeme zu vertrauenswürdig erscheinen: Das unterschätzte Risiko der Normalisierung
LLMs sind von Natur aus unzuverlässige Komponenten. Ihre Ausgaben sind weder deterministisch noch konsistent vorhersagbar. Dennoch zeigt sich in der Praxis, dass Sicherheitsmechanismen – wie Zugriffsbeschränkungen oder Eingabebereinigung – häufig erst nach der Modellausgabe greifen oder ganz fehlen.
-
Filosofaxen: Sterbliche Computer – Leben als Rechenprozess
Eine tiefverwurzelte Intuition lässt uns den Unterschied zwischen natürlicher und künstlicher Intelligenz als den Unterschied zwischen Lebens- und Rechenprozess empfinden. Wir sagen, KI-Systeme würden stur «mechanische» Regeln befolgen, und wir perpetuieren damit einen alten Gegensatz, der das philosophische Denken der Neuzeit tief prägt: den Gegensatz zwischen Lebewesen und Maschine, Organismus und Mechanismus. Tatsächlich aber weisen Entwicklungen in der KI-Forschung schon seit längerem darauf hin, dass – um es vorsichtig zu formulieren – die Grenze zwischen Lebens- und Rechenprozessen verschwimmt.
Die Konvergenz von Biologie und Computerwissenschaften hat eine fast hundertjährige Geschichte. Sie liegt in einem genialen theoretischen Entwurf des Mathematikers Alan Turing begründet. Er konzipierte in den 1930er Jahren eine ideale Maschine, die all das simulieren kann, was wir in einem herkömmlichen Sinn «rechnen» nennen – und weit mehr, nämlich jeden Vorgang, der automatisch, algorithmengesteuert abläuft. Man nennt diese Maschine «universelle Turingmaschine».
https://kaeser-technotopia.blogspot.com/2025/
#AlanTuring #Biologie #Filosofaxen #Intelligenz #kaeserTechnotopiaBlogspot #künstlich #KISysteme #LebenAlsRechenprozess #natürlich #SterblicheComputer #Wissen
-
"KI als vierte Kulturtechnik?" 📱💭
Beim #CivicDataLab Workshop "Gemeinsam Machen IV" wurde intensiv über KI-Chatbots diskutiert. Fazit: Die wahre Herausforderung ist nicht nur bessere #KISysteme zu entwickeln, sondern eine #Zivilgesellschaft zu fördern, die kritisch, reflektiert und kompetent mit diesen Werkzeugen umgeht. Es liegt in unserer Hand, die richtigen Fragen zu stellen und den Diskurs aktiv mitzugestalten! Mehr unter: https://civic-data.de/llm-basierte-chatbots/ -
🤯 𝗛𝗶𝗚𝘂𝗶𝗱𝗲: 𝗔𝗹𝗹𝗲𝘀 ü𝗯𝗲𝗿 𝗱𝗲𝗻 𝗘𝗨-𝗔𝗜 𝗔𝗰𝘁
Um einen einheitlichen Rechtsrahmen in Bezug auf die Anwendung von #KI-Systemen zu besitzen und den Binnenmarkt handlungsfähig zu machen, wurde der #AIAct etabliert. Der EU-AI Act 2024/16891 ist am 12. Juli 2024 in Kraft getreten und gilt in mehreren Stufen und in jedem EU-Mitgliedsstaat.
Teile der 2024 verabschiedeten EU-Verordnung über #KünstlicheIntelligenz sind bereits in diesem Jahr zu beachten, obwohl ein Großteil der Bestimmungen erst im August 2026 zum Tragen kommt.
Unsere Autoren @HonkHase und Rozerin Karaterzi benennen, was jetzt schon zu beachten ist und gehen gezielter auf die besonderen Anforderungen an Hochrisiko-KI-Systeme ein.
Der vollständige Guide zum Nachlesen
👉 https://www.hisolutions.com/detail/higuide-ai-act -
🤖 Lesetipp: #KI-Basismodelle - Die verborgene Seite der künstlichen #Intelligenz
👀Zamina Ahmad und Teresa Staiger haben für #reframetech eine aufschlussreiche Wissensseite verfasst, die einen kritischen Blick hinter die Kulissen moderner #KISysteme wirft. Der Text verbindet technisches Grundlagenwissen über #Basismodelle mit einer differenzierten Analyse ihrer gesellschaftlichen und ökologischen Auswirkungen.
👉 Mehr unter: https://www.reframetech.de/wissensseite-basismodelle/ -
📬 BoN Jailbreak-Technik: Black-Box-Algorithmus hebelt KI-Systeme aus
#Jailbreaks #KünstlicheIntelligenz #AnthropicPBC #BestofNBoNJailbreaking #BoNJailbreakTechnik #Jailbreak #KISysteme #Studie https://sc.tarnkappe.info/206ff4 -
Das @bsi hat zusammen mit 23 internationalen Cybersicherheitsbehörden
#Leitlinien für die Entwicklung sicherer #KISysteme entwickelt. -
📬 OpenAI erlaubt Nutzung für militärische und kriegerische Zwecke
#KünstlicheIntelligenz #ethischeFragen #KISysteme #MilitärundKriegsführung #Nutzungsrichtlinien #OpenAI #Verbotsklausel https://sc.tarnkappe.info/b59753 -
Leitfaden »Schule und KI«
Praxisnahe Handreichung gibt Orientierungs- und Handlungswissen für Lehrkräfte und Schulleitungen
Er soll vor allem Lehrkräften den Einstieg in die Nutzung von KI im Schulalltag erleichtern. Die Handreichung bietet erstmals eine Übersicht über KI-Systeme, die für den Schulbereich sinnvoll und nützlich sind und erläutert, was diese Systeme für wen leisten können.#KI #Schule #KIsysteme #Handreichung #Unterricht #Schulleitung #FediLZ
-
#BSI - Internationale Cybersicherheitsbehörden veröffentlichen Leitfaden zur Entwicklung sicherer #KISysteme
https://www.bsi.bund.de/DE/Service-Navi/Presse/Pressemitteilungen/Presse2023/231127_Leitfaden-sicher-KI-Systeme.html -
Es gibt zwei Qualitätsstufen von Trainingsdaten für Sprachmodelle: elaborierte Texte oder Nutzerkommentare. Erstere könnten bald knapp werden.
KI-Modelle: Es droht ein Mangel an Trainingsdaten