#ki-systeme — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #ki-systeme, aggregated by home.social.
-
Wenn man #Zeitreisen und den nuklearen Weltuntergang einmal weglässt, sind einige Parallelen zwischen der Terminator-Filmreihe und der heutigen technischen Entwicklung durchaus bemerkenswert.
In den Terminator-Filmen entwickelt Cyberdyne Systems immer leistungsfähigere Computertechnik. Daraus entsteht schließlich #Skynet, ein zunächst für militärische Zwecke geschaffenes KI-System, das über ein weitreichendes Kommunikations- und Verteidigungsnetz verfügt. Skynet ist dabei nicht einfach ein einzelner Supercomputer, sondern ein vernetztes System, das Informationen verarbeitet, Entscheidungen trifft und schließlich weitgehend autonom handelt.
Heute entstehen viele der dafür notwendigen technischen Bausteine tatsächlich, allerdings verteilt auf zahlreiche Unternehmen und Staaten. Wir entwickeln immer leistungsfähigere #KI-Systeme, während gleichzeitig #humanoideRoboter entstehen, die ihre Umgebung mit Kameras und anderen Sensoren wahrnehmen, Sprache verstehen, Gegenstände greifen und zunehmend komplexe Aufgaben selbstständig ausführen können.
Ein heutiger humanoider Roboter ist natürlich noch sehr weit von einem T-800 entfernt. Das grundlegende Prinzip aus #Terminator ist aber längst keine reine Science-Fiction mehr: Ein Computer bekommt Augen, Ohren und einen beweglichen Körper und kann mithilfe künstlicher Intelligenz seine Umgebung interpretieren und darin handeln.
Parallel dazu entsteht eine Kommunikationsinfrastruktur, die dem Grundgedanken von Skynet zumindest strukturell ähnelt. Internet, Mobilfunk, weltweite Rechenzentren und #Satellitennetze wie Starlink bilden gemeinsam ein nahezu global verfügbares und hochgradig redundantes Datennetz.
Der Name „Skynet“ wirkt aus heutiger Perspektive deshalb fast erstaunlich passend: Ein intelligentes System muss nicht mehr in einem einzelnen Rechenzentrum sitzen. Rechenleistung, Sensoren, Kommunikation und Aktoren können über den gesamten Planeten verteilt sein und trotzdem miteinander interagieren.
Die eigentlich interessante Parallele zu Terminator liegt aber weder bei humanoiden Robotern noch bei Satelliten. Sie liegt in der zunehmenden #Autonomie von KI-Systemen.
Während KI zunächst hauptsächlich Informationen analysierte oder Fragen beantwortete, entwickeln sich inzwischen Systeme, die selbstständig Aufgaben planen, Software bedienen, andere Computersysteme ansprechen und Aktionen ausführen können.
Aus „Frage beantworten“ wird damit zunehmend eine Schleife aus Wahrnehmen, Situation interpretieren, Ziel verfolgen, Handlung planen, handeln, Ergebnis überprüfen und den nächsten Schritt bestimmen. Genau diese geschlossene Handlungsschleife macht aus einem Informationssystem ein autonom agierendes System.
Besonders deutlich wird die Parallele im #Militär. Auch Skynet wurde in Terminator nicht als Unterhaltungs-KI entwickelt, sondern als militärisches Verteidigungs- und Entscheidungssystem.
Heute wird #künstlicheIntelligenz bereits für Aufklärung, Bild- und Zielerkennung, Drohnen, elektronische Kampfführung, Logistik und militärische Entscheidungsunterstützung eingesetzt. Verbindet man KI, globale Kommunikationsnetze, Sensoren, #autonomeSysteme und Waffensysteme miteinander und überträgt solchen Systemen zunehmend Entscheidungsbefugnisse, erhält man zumindest technisch viele der Komponenten, aus denen die Terminator-Autoren Skynet konstruiert haben.
Ein wichtiger Unterschied zur Filmhandlung bleibt allerdings bestehen. In Terminator wird die Entwicklung stark verdichtet: Cyberdyne entwickelt Skynet, Skynet erlangt Bewusstsein, erkennt die Menschheit als Bedrohung und löst am 29. August 1997 den nuklearen „Judgment Day“ aus.
In der Realität wäre ein vergleichbares Risiko vermutlich wesentlich unspektakulärer. Eine KI müsste nicht plötzlich „böse“ oder menschenfeindlich werden.
Problematisch könnte bereits ein komplexes Netzwerk #automatisierterSysteme werden, dem Menschen immer mehr Entscheidungen überlassen und dessen Reaktionen irgendwann schneller und komplexer ablaufen, als Menschen sie wirksam überwachen oder korrigieren können.
Vielleicht liegt darin sogar die interessanteste Parallele zwischen Terminator und unserer Gegenwart.
Wir bauen nicht erst Cyberdyne, danach Skynet und anschließend die Terminatoren. Die einzelnen Bestandteile entstehen gleichzeitig: leistungsfähige KI, autonome Agenten, humanoide Roboter, Drohnen, weltumspannende Datennetze, Satellitenkommunikation und zunehmend automatisierte militärische Systeme.
Noch ist das alles kein Skynet.
Aber überraschend viele seiner Zutaten stehen inzwischen im Regal.
-
Strukturelle Metadaten als Angriffsfläche: Wie KI-Systeme aus Dokumentgliederungen Inhalte rekonstruieren
Die beschriebene Schwachstelle betrifft nicht einen einzelnen Anbieter oder eine bestimmte Modellklasse, sondern tritt bei Systemen von Anthropic, OpenAI und Google gleichermaßen auf. Für Unternehmen, die RAG-basierte KI-Systeme mit vertraulichen Dokumenten betreiben, ergibt sich daraus unmittelbarer Handlungsbedarf.
-
Wenn KI-Systeme zu vertrauenswürdig erscheinen: Das unterschätzte Risiko der Normalisierung
LLMs sind von Natur aus unzuverlässige Komponenten. Ihre Ausgaben sind weder deterministisch noch konsistent vorhersagbar. Dennoch zeigt sich in der Praxis, dass Sicherheitsmechanismen – wie Zugriffsbeschränkungen oder Eingabebereinigung – häufig erst nach der Modellausgabe greifen oder ganz fehlen.
-
Filosofaxen: Sterbliche Computer – Leben als Rechenprozess
Eine tiefverwurzelte Intuition lässt uns den Unterschied zwischen natürlicher und künstlicher Intelligenz als den Unterschied zwischen Lebens- und Rechenprozess empfinden. Wir sagen, KI-Systeme würden stur «mechanische» Regeln befolgen, und wir perpetuieren damit einen alten Gegensatz, der das philosophische Denken der Neuzeit tief prägt: den Gegensatz zwischen Lebewesen und Maschine, Organismus und Mechanismus. Tatsächlich aber weisen Entwicklungen in der KI-Forschung schon seit längerem darauf hin, dass – um es vorsichtig zu formulieren – die Grenze zwischen Lebens- und Rechenprozessen verschwimmt.
Die Konvergenz von Biologie und Computerwissenschaften hat eine fast hundertjährige Geschichte. Sie liegt in einem genialen theoretischen Entwurf des Mathematikers Alan Turing begründet. Er konzipierte in den 1930er Jahren eine ideale Maschine, die all das simulieren kann, was wir in einem herkömmlichen Sinn «rechnen» nennen – und weit mehr, nämlich jeden Vorgang, der automatisch, algorithmengesteuert abläuft. Man nennt diese Maschine «universelle Turingmaschine».
https://kaeser-technotopia.blogspot.com/2025/
#AlanTuring #Biologie #Filosofaxen #Intelligenz #kaeserTechnotopiaBlogspot #künstlich #KISysteme #LebenAlsRechenprozess #natürlich #SterblicheComputer #Wissen
-
"KI als vierte Kulturtechnik?" 📱💭
Beim #CivicDataLab Workshop "Gemeinsam Machen IV" wurde intensiv über KI-Chatbots diskutiert. Fazit: Die wahre Herausforderung ist nicht nur bessere #KISysteme zu entwickeln, sondern eine #Zivilgesellschaft zu fördern, die kritisch, reflektiert und kompetent mit diesen Werkzeugen umgeht. Es liegt in unserer Hand, die richtigen Fragen zu stellen und den Diskurs aktiv mitzugestalten! Mehr unter: https://civic-data.de/llm-basierte-chatbots/ -
🤯 𝗛𝗶𝗚𝘂𝗶𝗱𝗲: 𝗔𝗹𝗹𝗲𝘀 ü𝗯𝗲𝗿 𝗱𝗲𝗻 𝗘𝗨-𝗔𝗜 𝗔𝗰𝘁
Um einen einheitlichen Rechtsrahmen in Bezug auf die Anwendung von #KI-Systemen zu besitzen und den Binnenmarkt handlungsfähig zu machen, wurde der #AIAct etabliert. Der EU-AI Act 2024/16891 ist am 12. Juli 2024 in Kraft getreten und gilt in mehreren Stufen und in jedem EU-Mitgliedsstaat.
Teile der 2024 verabschiedeten EU-Verordnung über #KünstlicheIntelligenz sind bereits in diesem Jahr zu beachten, obwohl ein Großteil der Bestimmungen erst im August 2026 zum Tragen kommt.
Unsere Autoren @HonkHase und Rozerin Karaterzi benennen, was jetzt schon zu beachten ist und gehen gezielter auf die besonderen Anforderungen an Hochrisiko-KI-Systeme ein.
Der vollständige Guide zum Nachlesen
👉 https://www.hisolutions.com/detail/higuide-ai-act -
🤖 Lesetipp: #KI-Basismodelle - Die verborgene Seite der künstlichen #Intelligenz
👀Zamina Ahmad und Teresa Staiger haben für #reframetech eine aufschlussreiche Wissensseite verfasst, die einen kritischen Blick hinter die Kulissen moderner #KISysteme wirft. Der Text verbindet technisches Grundlagenwissen über #Basismodelle mit einer differenzierten Analyse ihrer gesellschaftlichen und ökologischen Auswirkungen.
👉 Mehr unter: https://www.reframetech.de/wissensseite-basismodelle/ -
📬 BoN Jailbreak-Technik: Black-Box-Algorithmus hebelt KI-Systeme aus
#Jailbreaks #KünstlicheIntelligenz #AnthropicPBC #BestofNBoNJailbreaking #BoNJailbreakTechnik #Jailbreak #KISysteme #Studie https://sc.tarnkappe.info/206ff4 -
Das @bsi hat zusammen mit 23 internationalen Cybersicherheitsbehörden
#Leitlinien für die Entwicklung sicherer #KISysteme entwickelt. -
📬 OpenAI erlaubt Nutzung für militärische und kriegerische Zwecke
#KünstlicheIntelligenz #ethischeFragen #KISysteme #MilitärundKriegsführung #Nutzungsrichtlinien #OpenAI #Verbotsklausel https://sc.tarnkappe.info/b59753 -
Leitfaden »Schule und KI«
Praxisnahe Handreichung gibt Orientierungs- und Handlungswissen für Lehrkräfte und Schulleitungen
Er soll vor allem Lehrkräften den Einstieg in die Nutzung von KI im Schulalltag erleichtern. Die Handreichung bietet erstmals eine Übersicht über KI-Systeme, die für den Schulbereich sinnvoll und nützlich sind und erläutert, was diese Systeme für wen leisten können.#KI #Schule #KIsysteme #Handreichung #Unterricht #Schulleitung #FediLZ
-
#BSI - Internationale Cybersicherheitsbehörden veröffentlichen Leitfaden zur Entwicklung sicherer #KISysteme
https://www.bsi.bund.de/DE/Service-Navi/Presse/Pressemitteilungen/Presse2023/231127_Leitfaden-sicher-KI-Systeme.html -
Es gibt zwei Qualitätsstufen von Trainingsdaten für Sprachmodelle: elaborierte Texte oder Nutzerkommentare. Erstere könnten bald knapp werden.
KI-Modelle: Es droht ein Mangel an Trainingsdaten