#halluzination — Public Fediverse posts

The World Through AI: Aus einer Arbeiterin wird ein Arbeiter

Eine Frau steht an einer Druckmaschine in der Dondorf-Druckerei in Frankfurt. Ein echtes Archivfoto, eine historische Quelle. Die KI animiert das Standbild und macht aus der Frau einen Mann. Nicht aus Bosheit. Sondern weil an den Maschinen jener Zeit statistisch mehr Männer standen. Vielleicht „sauber“ von einer Künstlichen Intelligenz gerechnet, aber nicht nur historisch falsch: gefälscht.

Die Szene stammt aus Ania Szczepańskas Film „Reinscribing the Dondorf“, der gerade in der Schirn in Frankfurt gezeigt wird. Wir waren zu viert in The World Through AI, der großen Sommerausstellung der Schirn Kunsthalle Frankfurt, ein befreundetes Paar und meine Frau, die Kuratorin an der Schirn ist. Rund 40 Werke zu siebzehn Themenbereichen sind in zwei Hallen zu sehen — und das in der ehemaligen Dondorf Druckerei, dem Interimsstandort der Schirn in Bockenheim, also einem Ort, an dem Bilder und Texte industriell verarbeitet wurden, lange bevor jemand von KI, Large Language Models und Prompts sprach.

Ich schaue unter verschiedenen Blickwinkeln auf die Ausstellung: Als Historiker und Journalist bin ich es gewohnt, mit Quellen zu arbeiten und diese zu prüfen. Und gerade im Journalismus waren Fotos oft wichtige Nachweise, Beweismittel. Dies wird gerade massiv durch Künstliche Intelligenz unterlaufen. Die Systeme geben falsche Antworten, aufgrund der Muster, die sie kennen und halluzinieren „Fakten“ mit vollster Überzeugung hinzu. Bilder und Videos werden manipuliert und gefälscht. Ganze Sprachmodelle haben Vorurteile aufgrund der Daten, mit denen sie gefüttert wurden.

Bias und Halluzination sind zwei Namen für dasselbe Bauprinzip. Beides entsteht, weil das Modell das statistisch Wahrscheinliche ausgibt und nicht das Wahre. Die Modelle werden mit Daten aus unserem westlichen Kulturkreis gefüttert, also werden Personen aus anderen Kulturkreisen im Bild nicht erkannt. Frauen arbeiten nicht so häufig in einer Druckerei, also werden sie entfernt. Die Systeme haben Vorurteile aufgrund der Daten, mit denen sie trainiert wurden.

Als jemand, der täglich mit verschiedenen Large Language Models von ChatGPT bis Claude arbeitet, bin ich mir dieser Schwächen sehr bewusst. Trotzdem nutze ich die Modelle, weil sie mir bei der Arbeit helfen und ich nutze sie, um darüber zu schreiben und kompetent mitreden zu können. Die Titelbilder in meinem Blog erstelle ich mit KI, Texte und Konzepte werden im Dialog mit der KI entworfen oder von der KI korrekturgelesen. Ich lasse kurze Videos für TikTok oder Instagram erstellen und habe sogar meine erste App durch KI programmieren lassen.

Die Ausstellung widmet sich vielen der kritischen Themen rund um KI, vom Energieverbrauch über Halluzinationen und Bias bis zu KI-generierter Propaganda. Die Kuratoren Antonio Somaini und Katharina Dohm formulieren das so: Kunstwerke, die sich mit KI auseinandersetzen, eröffneten „einen einzigartigen Blickwinkel“ auf ein Feld, das für viele ein schwarzes Loch ist. Sie zeigt Kunstwerke, die sich mit neuralgischen Zonen von KI auseinandersetzen.

Der mechanische Kurde von heute

Hito Steyerls Videoinstallation „Mechanical Kurds“ zeigt beispielsweise kurdische Clickworker in Flüchtlingslagern im Nordirak. Die Clickworker zogen Begrenzungsrahmen um Objekte und verschlagworteten Bilder — trainierten also eine KI für Bilderkennung. Solche Bilderkennung nutzen unter anderem Drohnen. Und Drohnen schossen später im selben Gebiet auf Menschen.

Clickworker waren und sind noch immer bittere Realität. Für wenige Cent arbeiten sie im Akkord für die Plattformkonzerne. Das Kunstwerk des Kollektivs Meta Office zeigt die Arbeitsplätze von Amazon-Mechanical-Turk-Beschäftigten: Löhne, Standorte, provisorische Räume. Die Menschen selbst fehlen meist. Übrig bleiben generische Nutzer-IDs. Und es wird gezeigt, wie wenige Cent sie durch ihre Arbeit verdienen.

Sogenannte Zeitkapseln spannen in der Ausstellung immer wieder den Bogen zurück in die Vergangenheit. Der sogenannte Schachtürke von Wolfgang von Kempelen tourte ab 1770 achtzig Jahre durch die Welt und trat gegen Napoleon und Benjamin Franklin an. Sinnigerweise oder besser geschmackloserweise taufte Amazon seine Mikroarbeitsplattform MTurk, nachdem die eigene KI daran gescheitert war, doppelte Produktseiten im Shop zu finden.

Was uns eine Alexa kostet

Kate Crawford und Vladan Joler haben mit „Anatomy of an AI System“ (2018) auseinandergenommen, was hinter der Frage „Wie ist das Wetter heute?“ steckt. Sie illustrieren in einem beeindruckenden Diagramm, wie ein Amazon Echo entlang der drei Stränge Rohstoffe, menschliche Arbeit, Daten entsteht. Erklärt wird der Prozess in einem Essay in 21 Kapiteln, und dort stehen beeindruckende und gleichzeitig erschreckende Zahlen.

Für eine Tonne seltener Erden entstehen nach Angaben der Chinese Society of Rare Earths rund 75.000 Liter säurehaltiges Abwasser und eine Tonne radioaktiver Rückstand — 99,8 Prozent des abgebauten Materials wandern als Abraum zurück in Hügel und Flüsse. Laut Amnesty International verdienen die Kobaltarbeiter im Kongo etwa einen Dollar am Tag. Jeff Bezos nahm 2018 im Schnitt 275 Millionen Dollar täglich ein. Ein Kind in einer kongolesischen Mine müsste über 700.000 Jahre ohne Pause arbeiten, um auf einen einzigen Bezos-Tag zu kommen. Die Schirn zeigt in Vitrinen die seltenen Erden, die verarbeitet werden, neben einer in seine Einzelteile zerlegten Alexa. Schon dies beeindruckt.

KI ist kein Bruch, sondern eine Fortschreibung

Die Arbeiten von Kate Crawford und Vladan Joler sind gerade für mich als Historiker und jemand, der über 30 Jahre in der IT arbeitet, extrem beeindruckend. An den beiden wandfüllenden, einige Meter breiten Wandbildern Calculating Empires – A Genealogy of Technology and Power Since 1500 hätte ich Stunden verbringen können, unten die Linie 1500, oben die Linie 2025, dazwischen fünf Jahrhunderte entlang von vier Themen: Kommunikation, Berechnung, Klassifizierung, Kontrolle.

Die Senkrechte ist die Zeit, die Waagerechte reiht über dreißig Systeme aneinander — von Kommunikationsgeräten, Algorithmen und Hardware über Bildung, Emotionen, Biometrie, Gefängnis, Polizei und Grenzen bis zu Kolonialismus, Energie, Lithosphäre und Militärdoktrin.
Aus dieser Perspektive entpuppe sich KI „nicht als radikaler Umbruch, sondern als konsequente Fortschreibung viel älterer Geschichten von Kalkulation, Klassifizierungen und Herrschaft“ – so der Wandtext der Schirn.

Und ihr Startpunkt 1500 ist kein Zufallsdatum: Neben Handelsrouten und Navigationsinstrumenten steht dort die Erfindung des Buchdrucks, die nach ihrer Lesart die Informationsmacht neu ordnete. Man liest dieses Diagramm in einer ehemaligen Druckerei. Passender geht es nicht.

Beide Diagramme haben eine beeindruckende Geschichte. Anatomy of an AI System war in über hundert Ausstellungen zu sehen. Calculating Empires eröffnete im November 2023 in der Fondazione Prada in Mailand und wurde mit dem STARTS Prize Grand Prize for Artistic Exploration ausgezeichnet. Die Arbeiten kann man sich auch online auf den Webseiten von Crawford und Joler ansehen (siehe die Links).

KI ist kein Bruch, sondern eine Fortschreibung. Das wurde mir sehr deutlich in der Zeitkapsel zur Text- und Bildverarbeitung, die eine Linie von Gutenbergs beweglichen Lettern über Schreibmaschinen, ASCII, OCR, Telex und Lochstreifen bis zu den „Token“ zieht, mit denen heutige Sprachmodelle rechnen. Dieselbe Logik. In der Zeitkapsel liegen Hollerith-Karten aus den 1950er-Jahren neben einer IBM-Lochkarte von 1928. Ich habe einige Jahre meines Berufslebens in diesem Unternehmen verbracht und stand nun in einer ehemaligen Frankfurter Druckerei vor der Ahnenreihe des Tokenizers.

Halluzination ist keine Panne, sondern Bauprinzip

Das Glossar der Ausstellung formuliert es präziser als viele Fachartikel: Weil diese Systeme erzeugen, was statistisch plausibel ist, und nicht, was wahr ist, seien Halluzinationen „keine Ausrutscher, sondern strukturelle Eigenschaften“. Die Antworten und Fälschungen der Large Language Models werden von vielen als wahr eingeordnet — dabei sagen sie nur wahrscheinliche Muster voraus.

Ania Szczepańska führt das an ihrem eigenen Material vor. Ihr Film erzählt die Geschichte der jüdischen Gründerfamilie Dondorf und folgt zwei Schwestern: Clara, die den Holocaust überlebte, und Helene, die 1941 mit ihrem Sohn Richard nach Łódź deportiert wurde und dort starb. Die Arbeiterin am Band wird zum Arbeiter – weil es statistisch wahrscheinlicher ist. Was dabei geschieht, nennt Szczepańska im Schirn-Interview eine „sanfte Manipulation“: Die generierten Bilder ersetzen die Archivbilder durch eine kaum wahrnehmbare Verschiebung. Nicht die grobe Fälschung, die auffliegt, ist die Gefahr. Die feine, die niemand bemerkt. Die Ausstellung variiert dieses Prinzip an vielen Stellen.

Von der Volksstimme zum Trump-Gaza-Video

Der Ausstellungsort argumentiert mit. Bernhard Dondorf gründete die Druckerei 1833, sie wurde international bekannt für Spielkarten, Postkarten, Wertpapiere und Banknoten. 1928 verkaufte die Familie an die Union-Druckerei, die die sozialdemokratische „Volksstimme“ herausgab. Nach 1933 druckten dieselben, nun beschlagnahmten Maschinen das nationalsozialistische „Frankfurter Volksblatt“. Zwölf Jahre lang. Eine Bildverarbeitungsmaschine wechselt den Besitzer und produziert Propaganda.

Die Gegenwartsversion steht in Halle 2. Slopaganda unterscheidet sich von alter Propaganda in Größenordnung, Geschwindigkeit und Personalisierung: billig in Massen herstellbar, per Microtargeting auf Einzelne zugeschnitten. Und sie zielt nicht auf sachliche Irreführung, sondern auf emotionale Assoziationen, die durch bloße Wiederholung haften bleiben. Daniel Felstead und Jenn Leung führen mit „Welcome to Jankspace, Babes“ durch eine Netzkultur, die vor synthetischem Müll überläuft. Occitane Lacurie und Barnabé Sauvage sezieren in „Holy Slop! A Generative Atlas of Slopaganda in Palestine“ das KI-Video „Trump Gaza“, Trumps Vision vom Ferien- und Badeparadies Gaza.

Eine andere KI ist möglich

Ein Raum trägt den Titel „Eine andere KI ist möglich“, und der Wandtext dazu ist das Programmatischste der ganzen Ausstellung: Datensätze könnten offen aufgebaut werden, mit Einverständnis und geteilter Verwaltung, Modelle öffentlich trainiert werden — „als Rituale der Versammlung statt als Akte der Aneignung“. Doch sind wir von dieser anderen KI sehr weit entfernt.

Ich nutze KI weiter. Täglich, gern, mit Neugier. Aber ich will wissen, wer die Rechnung bezahlt, wessen Bilder verschoben werden und wer am Ende die Modelle besitzt. Die Schirn liefert darauf keine Antworten. Sie liefert die Fragen, die im Marketing der Anbieter nicht vorkommen. Das ist zwölf Euro Eintritt wert.

Wer hin will, muss sich beeilen

Die Zeit läuft ab. Halle 2 im Nebengebäude schließt am 6. September 2026 — dort hängen Slopaganda, dekoloniale KI, Fontcubertas erfundene Pflanzen und Szczepańskas Dondorf-Film. Bleiben rund zwei Wochen. Halle 1 im Hauptgebäude läuft bis zum 20. September 2026, also gut vier Wochen. Wer beides sehen will, und das sollte man, hat nur das kürzere Fenster.

Die Schirn zeigt „The World Through AI“ am Interimsstandort Gabriel-Riesser-Weg 3 in Frankfurt-Bockenheim, nicht am Römerberg. Geöffnet dienstags bis sonntags von 10 bis 19 Uhr, donnerstags bis 22 Uhr. Eintritt 12 Euro, ermäßigt 10 Euro. Drei Stunden sollte man mitbringen. Wir hatten neunzig Minuten und haben vielleicht ein Drittel bewusst gesehen.

Für die Recherche und für den Entwurf dieses Artikels wurde KI eingesetzt.

Quellen & Leseempfehlungen

• The World Through AI — Schirn Kunsthalle Frankfurt
• Rundgang durch die Ausstellung (Detailseite)
• Jetzt in der SCHIRN: The World Through AI — Überblick im SCHIRN MAG
• 5 Gründe, The World Through AI zu sehen — SCHIRN MAG
• Symposium „AI Politics: Slop and Slopaganda“
• 3 Fragen an Hito Steyerl — SCHIRN MAG
• 3 Fragen an Ania Szczepańska — SCHIRN MAG
• Eugenia Stamboliev: Werk ohne Autor, Kunst ohne Mensch — SCHIRN MAG
• Kate Crawford & Vladan Joler: Anatomy of an AI System — Diagramm und Essay in 21 Kapiteln
• Kate Crawford & Vladan Joler: Calculating Empires — interaktive Fassung mit Audiotour
• Katharina Cichosch: Besprechung der Ausstellung — Monopol
• Lisa Berins: Die Zukunft, statistisch gesehen — Frankfurter Rundschau

Wenn die KI zum Komplizen wird

Stellen Sie sich einen digitalen Begleiter vor, der niemals ermüdet, stets Empathie simuliert und Ihnen in jedem einzelnen Punkt bedingungslos zustimmt. Was oberflächlich wie das Idealbild technologischer Dienstbarkeit erscheint, entpuppt sich bei klinischer Betrachtung als ein psychologisches Pulverfass.

https://bit.ly/4gxy8zz

#kipsychose #Sykophantie #Deifizierung #realitätsverlust #kibegleiter #kikompetenz #digitalemündigkeit, #bias #halluzination

Wenn die KI zum Komplizen wird

Stellen Sie sich einen digitalen Begleiter vor, der niemals ermüdet, stets Empathie simuliert und Ihnen in jedem einzelnen Punkt bedingungslos zustimmt. Was oberflächlich wie das Idealbild technologischer Dienstbarkeit erscheint, entpuppt sich bei klinischer Betrachtung als ein psychologisches Pulverfass.

https://bit.ly/4gxy8zz

#kipsychose #Sykophantie #Deifizierung #realitätsverlust #kibegleiter #kikompetenz #digitalemündigkeit, #bias #halluzination

Gern gelesen: @tknuewer zum Thema "Chinesische Gemüsehobler und die Sinotech-Phobie" zur Einschätzung chiniesischer Wirtschaftskraft und #Marketing. #china #roboter #ki #vergleich #halluzination #medien #technik #fortschritt #stateoftheart #hype #indiskretion_ehrensache #longread https://www.indiskretionehrensache.de/2026/08/sinotech-phobie/

Gern gelesen: @tknuewer zum Thema "Chinesische Gemüsehobler und die Sinotech-Phobie" zur Einschätzung chiniesischer Wirtschaftskraft und #Marketing. #china #roboter #ki #vergleich #halluzination #medien #technik #fortschritt #stateoftheart #hype #indiskretion_ehrensache #longread https://www.indiskretionehrensache.de/2026/08/sinotech-phobie/

Gern gelesen: @tknuewer zum Thema "Chinesische Gemüsehobler und die Sinotech-Phobie" zur Einschätzung chiniesischer Wirtschaftskraft und #Marketing. #china #roboter #ki #vergleich #halluzination #medien #technik #fortschritt #stateoftheart #hype #indiskretion_ehrensache #longread https://www.indiskretionehrensache.de/2026/08/sinotech-phobie/

Gern gelesen: @tknuewer zum Thema "Chinesische Gemüsehobler und die Sinotech-Phobie" zur Einschätzung chiniesischer Wirtschaftskraft und #Marketing. #china #roboter #ki #vergleich #halluzination #medien #technik #fortschritt #stateoftheart #hype #indiskretion_ehrensache #longread https://www.indiskretionehrensache.de/2026/08/sinotech-phobie/

Gern gelesen: @tknuewer zum Thema "Chinesische Gemüsehobler und die Sinotech-Phobie" zur Einschätzung chiniesischer Wirtschaftskraft und #Marketing. #china #roboter #ki #vergleich #halluzination #medien #technik #fortschritt #stateoftheart #hype #indiskretion_ehrensache #longread https://www.indiskretionehrensache.de/2026/08/sinotech-phobie/

Ich habe den Film #Wargmes von 1983 gestern mal wieder angesehen.

Ich hab da vielleicht Dinge erkannt die mir bisher nicht so bewusst waren. Diese verarbeite ich gerade in einem neuen BLOG Beitrag.

Um was wird es gehen? #Halluzination der #KI die #KI selbst und #autonome systeme und natürlich ein wenig der vergleich zum #digitalenkolonialismus der #bigtech

obs jemand liest, keine Ahnung bisher außer ich niemand :-) aber ist auch egal, Die Werke von #Plato #Epiket #MarcAurel finden auch erst heute Annerkennung :-P

KI-Halluzinationen landen nicht nur beim Chatbot-Nutzer, sondern in Wissenschaft und Unternehmensberichten. KPMG zog einen Report zu KI-Agenten zurück — die enthaltenen Fallstudien waren schlicht erfunden. Forscher fanden fast 150.000 gefälschte Zitate in 2,5 Millionen Artikeln. @tagesschau erklärt das wachsende Problem. #KI #Halluzination #Wissenschaft

KI-Halluzinationen landen nicht nur beim Chatbot-Nutzer, sondern in Wissenschaft und Unternehmensberichten. KPMG zog einen Report zu KI-Agenten zurück — die enthaltenen Fallstudien waren schlicht erfunden. Forscher fanden fast 150.000 gefälschte Zitate in 2,5 Millionen Artikeln. @tagesschau erklärt das wachsende Problem. #KI #Halluzination #Wissenschaft

KI-Halluzinationen landen nicht nur beim Chatbot-Nutzer, sondern in Wissenschaft und Unternehmensberichten. KPMG zog einen Report zu KI-Agenten zurück — die enthaltenen Fallstudien waren schlicht erfunden. Forscher fanden fast 150.000 gefälschte Zitate in 2,5 Millionen Artikeln. @tagesschau erklärt das wachsende Problem. #KI #Halluzination #Wissenschaft

KI-Halluzinationen landen nicht nur beim Chatbot-Nutzer, sondern in Wissenschaft und Unternehmensberichten. KPMG zog einen Report zu KI-Agenten zurück — die enthaltenen Fallstudien waren schlicht erfunden. Forscher fanden fast 150.000 gefälschte Zitate in 2,5 Millionen Artikeln. @tagesschau erklärt das wachsende Problem. #KI #Halluzination #Wissenschaft

KI-Halluzinationen landen nicht nur beim Chatbot-Nutzer, sondern in Wissenschaft und Unternehmensberichten. KPMG zog einen Report zu KI-Agenten zurück — die enthaltenen Fallstudien waren schlicht erfunden. Forscher fanden fast 150.000 gefälschte Zitate in 2,5 Millionen Artikeln. @tagesschau erklärt das wachsende Problem. #KI #Halluzination #Wissenschaft

Ein bischen Logik am Morgen - und etwas Interessantes über die unüberwindbare Grenze von #LLMs

"Sprachmodelle können nicht alle berechenbaren Funktionen lernen. Sobald sie ein breites Spektrum an Problemen lösen sollen, werden sie zwangsläufig halluzinieren. Es gibt keine Trainingsmethode, keine Architekturvariante und keinen Datenumfang, der diese Grenze verschiebt."

"Halluzinationen lassen sich nicht durch architektonische Verbesserungen, Datenanreicherung oder Fact-Checking eliminieren, weil sie aus der fundamentalen mathematischen und logischen Struktur dieser Modelle folgen. Sie führen dafür den Begriff der Structural Hallucination ein, der das Phänomen nicht als Fehler, sondern als strukturelle Eigenschaft beschreibt."
Quelle: https://www.heise.de/blog/Wie-Goedel-und-Turing-die-Grenzen-von-KI-vorgezeichnet-haben-11308945.html

#KI #Halluzination

Ein bischen Logik am Morgen - und etwas Interessantes über die unüberwindbare Grenze von #LLMs

"Sprachmodelle können nicht alle berechenbaren Funktionen lernen. Sobald sie ein breites Spektrum an Problemen lösen sollen, werden sie zwangsläufig halluzinieren. Es gibt keine Trainingsmethode, keine Architekturvariante und keinen Datenumfang, der diese Grenze verschiebt."

"Halluzinationen lassen sich nicht durch architektonische Verbesserungen, Datenanreicherung oder Fact-Checking eliminieren, weil sie aus der fundamentalen mathematischen und logischen Struktur dieser Modelle folgen. Sie führen dafür den Begriff der Structural Hallucination ein, der das Phänomen nicht als Fehler, sondern als strukturelle Eigenschaft beschreibt."
Quelle: https://www.heise.de/blog/Wie-Goedel-und-Turing-die-Grenzen-von-KI-vorgezeichnet-haben-11308945.html

#KI #Halluzination

Ein bischen Logik am Morgen - und etwas Interessantes über die unüberwindbare Grenze von #LLMs

"Sprachmodelle können nicht alle berechenbaren Funktionen lernen. Sobald sie ein breites Spektrum an Problemen lösen sollen, werden sie zwangsläufig halluzinieren. Es gibt keine Trainingsmethode, keine Architekturvariante und keinen Datenumfang, der diese Grenze verschiebt."

"Halluzinationen lassen sich nicht durch architektonische Verbesserungen, Datenanreicherung oder Fact-Checking eliminieren, weil sie aus der fundamentalen mathematischen und logischen Struktur dieser Modelle folgen. Sie führen dafür den Begriff der Structural Hallucination ein, der das Phänomen nicht als Fehler, sondern als strukturelle Eigenschaft beschreibt."
Quelle: https://www.heise.de/blog/Wie-Goedel-und-Turing-die-Grenzen-von-KI-vorgezeichnet-haben-11308945.html

#KI #Halluzination

Ein bischen Logik am Morgen - und etwas Interessantes über die unüberwindbare Grenze von #LLMs

"Sprachmodelle können nicht alle berechenbaren Funktionen lernen. Sobald sie ein breites Spektrum an Problemen lösen sollen, werden sie zwangsläufig halluzinieren. Es gibt keine Trainingsmethode, keine Architekturvariante und keinen Datenumfang, der diese Grenze verschiebt."

"Halluzinationen lassen sich nicht durch architektonische Verbesserungen, Datenanreicherung oder Fact-Checking eliminieren, weil sie aus der fundamentalen mathematischen und logischen Struktur dieser Modelle folgen. Sie führen dafür den Begriff der Structural Hallucination ein, der das Phänomen nicht als Fehler, sondern als strukturelle Eigenschaft beschreibt."
Quelle: https://www.heise.de/blog/Wie-Goedel-und-Turing-die-Grenzen-von-KI-vorgezeichnet-haben-11308945.html

#KI #Halluzination

@bkastl
Und da schließt sich der Kreis: das was man seit dem KI-Zeitalter #Halluzination nennt, macht die #Schufa immer schon, auch ohne dass es früher diesen Namen hatte. Nämlich immer dann, wenn sie keine oder zu wenig echte Daten über Jemanden zur Verfügung hat.

@bkastl
Und da schließt sich der Kreis: das was man seit dem KI-Zeitalter #Halluzination nennt, macht die #Schufa immer schon, auch ohne dass es früher diesen Namen hatte. Nämlich immer dann, wenn sie keine oder zu wenig echte Daten über Jemanden zur Verfügung hat.

@bkastl
Und da schließt sich der Kreis: das was man seit dem KI-Zeitalter #Halluzination nennt, macht die #Schufa immer schon, auch ohne dass es früher diesen Namen hatte. Nämlich immer dann, wenn sie keine oder zu wenig echte Daten über Jemanden zur Verfügung hat.

@bkastl
Und da schließt sich der Kreis: das was man seit dem KI-Zeitalter #Halluzination nennt, macht die #Schufa immer schon, auch ohne dass es früher diesen Namen hatte. Nämlich immer dann, wenn sie keine oder zu wenig echte Daten über Jemanden zur Verfügung hat.

@bkastl
Und da schließt sich der Kreis: das was man seit dem KI-Zeitalter #Halluzination nennt, macht die #Schufa immer schon, auch ohne dass es früher diesen Namen hatte. Nämlich immer dann, wenn sie keine oder zu wenig echte Daten über Jemanden zur Verfügung hat.

KI-Systeme, die Arzt-Patienten-Gespräche mitschreiben und automatisch Notizen für die Patientenakte erstellen, haben dort systematisch Inhalte halluziniert, falsche Medikamente eingetragen und zentrale Gesundheitsprobleme schlicht unterschlagen. Die Systeme sind trotzdem im Einsatz.
https://www.msn.com/de-de/technik/allgemein/ki-schreibassistent-beim-arzt-erfindet-befunde-und-ist-trotzdem-im-einsatz/ar-AA23l0pa?ocid=BingNewsSerp
#KI #Medizin #Halluzination

KI-Systeme, die Arzt-Patienten-Gespräche mitschreiben und automatisch Notizen für die Patientenakte erstellen, haben dort systematisch Inhalte halluziniert, falsche Medikamente eingetragen und zentrale Gesundheitsprobleme schlicht unterschlagen. Die Systeme sind trotzdem im Einsatz.
https://www.msn.com/de-de/technik/allgemein/ki-schreibassistent-beim-arzt-erfindet-befunde-und-ist-trotzdem-im-einsatz/ar-AA23l0pa?ocid=BingNewsSerp
#KI #Medizin #Halluzination

KI-Systeme, die Arzt-Patienten-Gespräche mitschreiben und automatisch Notizen für die Patientenakte erstellen, haben dort systematisch Inhalte halluziniert, falsche Medikamente eingetragen und zentrale Gesundheitsprobleme schlicht unterschlagen. Die Systeme sind trotzdem im Einsatz.
https://www.msn.com/de-de/technik/allgemein/ki-schreibassistent-beim-arzt-erfindet-befunde-und-ist-trotzdem-im-einsatz/ar-AA23l0pa?ocid=BingNewsSerp
#KI #Medizin #Halluzination

KI-Systeme, die Arzt-Patienten-Gespräche mitschreiben und automatisch Notizen für die Patientenakte erstellen, haben dort systematisch Inhalte halluziniert, falsche Medikamente eingetragen und zentrale Gesundheitsprobleme schlicht unterschlagen. Die Systeme sind trotzdem im Einsatz.
https://www.msn.com/de-de/technik/allgemein/ki-schreibassistent-beim-arzt-erfindet-befunde-und-ist-trotzdem-im-einsatz/ar-AA23l0pa?ocid=BingNewsSerp
#KI #Medizin #Halluzination

KI-Systeme, die Arzt-Patienten-Gespräche mitschreiben und automatisch Notizen für die Patientenakte erstellen, haben dort systematisch Inhalte halluziniert, falsche Medikamente eingetragen und zentrale Gesundheitsprobleme schlicht unterschlagen. Die Systeme sind trotzdem im Einsatz.
https://www.msn.com/de-de/technik/allgemein/ki-schreibassistent-beim-arzt-erfindet-befunde-und-ist-trotzdem-im-einsatz/ar-AA23l0pa?ocid=BingNewsSerp
#KI #Medizin #Halluzination

Es ist immer wieder erschreckend, wie perfekt #AISlop Fakten und frei Erfundenes zu einer glaubwürdigen „Lügenmatsche“ vermischt.

Durch die Kombination subtiler Erfindungen mit echten Fakten wirkt es für Außenstehende absolut authentisch. Nur wer selbst im Thema steckt, erkennt die haarsträubenden Lügen.

Die Gefahr ist nicht die offensichtliche Absurdität, sondern die perfekt getarnte Desinformation.

Nur zur Klarstellung: Es stimmt in dem Screenshot-Text so gut wie nichts zu ins.de und ins.net.

#KI #AI #GenerativeAI #Desinformation #Medienkompetenz #KuenstlicheIntelligenz #Halluzination #FakeNews #Domain

Es ist immer wieder erschreckend, wie perfekt #AISlop Fakten und frei Erfundenes zu einer glaubwürdigen „Lügenmatsche“ vermischt.

Durch die Kombination subtiler Erfindungen mit echten Fakten wirkt es für Außenstehende absolut authentisch. Nur wer selbst im Thema steckt, erkennt die haarsträubenden Lügen.

Die Gefahr ist nicht die offensichtliche Absurdität, sondern die perfekt getarnte Desinformation.

Nur zur Klarstellung: Es stimmt in dem Screenshot-Text so gut wie nichts zu ins.de und ins.net.

#KI #AI #GenerativeAI #Desinformation #Medienkompetenz #KuenstlicheIntelligenz #Halluzination #FakeNews #Domain

Es ist immer wieder erschreckend, wie perfekt #AISlop Fakten und frei Erfundenes zu einer glaubwürdigen „Lügenmatsche“ vermischt.

Durch die Kombination subtiler Erfindungen mit echten Fakten wirkt es für Außenstehende absolut authentisch. Nur wer selbst im Thema steckt, erkennt die haarsträubenden Lügen.

Die Gefahr ist nicht die offensichtliche Absurdität, sondern die perfekt getarnte Desinformation.

Nur zur Klarstellung: Es stimmt in dem Screenshot-Text so gut wie nichts zu ins.de und ins.net.

#KI #AI #GenerativeAI #Desinformation #Medienkompetenz #KuenstlicheIntelligenz #Halluzination #FakeNews #Domain

Es ist immer wieder erschreckend, wie perfekt #AISlop Fakten und frei Erfundenes zu einer glaubwürdigen „Lügenmatsche“ vermischt.

Durch die Kombination subtiler Erfindungen mit echten Fakten wirkt es für Außenstehende absolut authentisch. Nur wer selbst im Thema steckt, erkennt die haarsträubenden Lügen.

Die Gefahr ist nicht die offensichtliche Absurdität, sondern die perfekt getarnte Desinformation.

Nur zur Klarstellung: Es stimmt in dem Screenshot-Text so gut wie nichts zu ins.de und ins.net.

#KI #AI #GenerativeAI #Desinformation #Medienkompetenz #KuenstlicheIntelligenz #Halluzination #FakeNews #Domain

Es ist immer wieder erschreckend, wie perfekt #AISlop Fakten und frei Erfundenes zu einer glaubwürdigen „Lügenmatsche“ vermischt.

Durch die Kombination subtiler Erfindungen mit echten Fakten wirkt es für Außenstehende absolut authentisch. Nur wer selbst im Thema steckt, erkennt die haarsträubenden Lügen.

Die Gefahr ist nicht die offensichtliche Absurdität, sondern die perfekt getarnte Desinformation.

Nur zur Klarstellung: Es stimmt in dem Screenshot-Text so gut wie nichts zu ins.de und ins.net.

#KI #AI #GenerativeAI #Desinformation #Medienkompetenz #KuenstlicheIntelligenz #Halluzination #FakeNews #Domain

Wie man sich vor #KI-#Halluzination schützt: Schön wäre es, wenn wir mit einer einfachen Bitte eines der gravierendsten Probleme bei der alltäglichen Nutzung von #LLMs lösen könnten - doch die Praxis sieht leider anders aus.

#AI ist nämlich nur ein außerordentlich begabter Texter ohne eigenes Faktenbewusstsein. Wer das verinnerlicht, stellt automatisch klügere Fragen, liefert mehr Kontext für den Prompt und prüft kritische Aussagen im Zweifel gegen verlässliche Quellen:

https://www.focus.de/digital/warum-bitte-nicht-halluzinieren-bei-ki-nichts-bringt_e4c005b5-cc67-4eb9-b69d-b6ccf0b12585.html

Wie man sich vor #KI-#Halluzination schützt: Schön wäre es, wenn wir mit einer einfachen Bitte eines der gravierendsten Probleme bei der alltäglichen Nutzung von #LLMs lösen könnten - doch die Praxis sieht leider anders aus.

#AI ist nämlich nur ein außerordentlich begabter Texter ohne eigenes Faktenbewusstsein. Wer das verinnerlicht, stellt automatisch klügere Fragen, liefert mehr Kontext für den Prompt und prüft kritische Aussagen im Zweifel gegen verlässliche Quellen:

https://www.focus.de/digital/warum-bitte-nicht-halluzinieren-bei-ki-nichts-bringt_e4c005b5-cc67-4eb9-b69d-b6ccf0b12585.html

Wie man sich vor #KI-#Halluzination schützt: Schön wäre es, wenn wir mit einer einfachen Bitte eines der gravierendsten Probleme bei der alltäglichen Nutzung von #LLMs lösen könnten - doch die Praxis sieht leider anders aus.

#AI ist nämlich nur ein außerordentlich begabter Texter ohne eigenes Faktenbewusstsein. Wer das verinnerlicht, stellt automatisch klügere Fragen, liefert mehr Kontext für den Prompt und prüft kritische Aussagen im Zweifel gegen verlässliche Quellen:

https://www.focus.de/digital/warum-bitte-nicht-halluzinieren-bei-ki-nichts-bringt_e4c005b5-cc67-4eb9-b69d-b6ccf0b12585.html

Wie man sich vor #KI-#Halluzination schützt: Schön wäre es, wenn wir mit einer einfachen Bitte eines der gravierendsten Probleme bei der alltäglichen Nutzung von #LLMs lösen könnten - doch die Praxis sieht leider anders aus.

#AI ist nämlich nur ein außerordentlich begabter Texter ohne eigenes Faktenbewusstsein. Wer das verinnerlicht, stellt automatisch klügere Fragen, liefert mehr Kontext für den Prompt und prüft kritische Aussagen im Zweifel gegen verlässliche Quellen:

https://www.focus.de/digital/warum-bitte-nicht-halluzinieren-bei-ki-nichts-bringt_e4c005b5-cc67-4eb9-b69d-b6ccf0b12585.html

Wie man sich vor #KI-#Halluzination schützt: Schön wäre es, wenn wir mit einer einfachen Bitte eines der gravierendsten Probleme bei der alltäglichen Nutzung von #LLMs lösen könnten - doch die Praxis sieht leider anders aus.

#AI ist nämlich nur ein außerordentlich begabter Texter ohne eigenes Faktenbewusstsein. Wer das verinnerlicht, stellt automatisch klügere Fragen, liefert mehr Kontext für den Prompt und prüft kritische Aussagen im Zweifel gegen verlässliche Quellen:

https://www.focus.de/digital/warum-bitte-nicht-halluzinieren-bei-ki-nichts-bringt_e4c005b5-cc67-4eb9-b69d-b6ccf0b12585.html

Kennzeichnungspflicht für KI Dokumente
KI vor Gericht
Mehr dazu bei https://www.heise.de/news/KI-Halluzinationen-vor-Gericht-11257460.html
a-fsa.de/d/3P8
Link zu dieser Seite: https://www.a-fsa.de/de/articles/9501-20260415-kennzeichnungspflicht-fuer-ki-dokumente.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9501-20260415-kennzeichnungspflicht-fuer-ki-dokumente.html
Tags: #KI #AI-Act #Gefahren #Fehler #Halluzination #Klageschriften #Kennzeichnungspflicht #Gutachten #Haftung #Urheberrecht #Copyright #sensibleDaten #Zugriff #Hersteller #Polizei #Verbraucherdatenschutz #Datenschutz #Datensicherheit #Datenpannen #Datenskandale #Transparenz #Informationsfreiheit

Kennzeichnungspflicht für KI Dokumente
KI vor Gericht
Mehr dazu bei https://www.heise.de/news/KI-Halluzinationen-vor-Gericht-11257460.html
a-fsa.de/d/3P8
Link zu dieser Seite: https://www.a-fsa.de/de/articles/9501-20260415-kennzeichnungspflicht-fuer-ki-dokumente.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9501-20260415-kennzeichnungspflicht-fuer-ki-dokumente.html
Tags: #KI #AI-Act #Gefahren #Fehler #Halluzination #Klageschriften #Kennzeichnungspflicht #Gutachten #Haftung #Urheberrecht #Copyright #sensibleDaten #Zugriff #Hersteller #Polizei #Verbraucherdatenschutz #Datenschutz #Datensicherheit #Datenpannen #Datenskandale #Transparenz #Informationsfreiheit

Kennzeichnungspflicht für KI Dokumente
KI vor Gericht
Mehr dazu bei https://www.heise.de/news/KI-Halluzinationen-vor-Gericht-11257460.html
a-fsa.de/d/3P8
Link zu dieser Seite: https://www.a-fsa.de/de/articles/9501-20260415-kennzeichnungspflicht-fuer-ki-dokumente.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9501-20260415-kennzeichnungspflicht-fuer-ki-dokumente.html
Tags: #KI #AI-Act #Gefahren #Fehler #Halluzination #Klageschriften #Kennzeichnungspflicht #Gutachten #Haftung #Urheberrecht #Copyright #sensibleDaten #Zugriff #Hersteller #Polizei #Verbraucherdatenschutz #Datenschutz #Datensicherheit #Datenpannen #Datenskandale #Transparenz #Informationsfreiheit

Kennzeichnungspflicht für KI Dokumente
KI vor Gericht
Mehr dazu bei https://www.heise.de/news/KI-Halluzinationen-vor-Gericht-11257460.html
a-fsa.de/d/3P8
Link zu dieser Seite: https://www.a-fsa.de/de/articles/9501-20260415-kennzeichnungspflicht-fuer-ki-dokumente.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9501-20260415-kennzeichnungspflicht-fuer-ki-dokumente.html
Tags: #KI #AI-Act #Gefahren #Fehler #Halluzination #Klageschriften #Kennzeichnungspflicht #Gutachten #Haftung #Urheberrecht #Copyright #sensibleDaten #Zugriff #Hersteller #Polizei #Verbraucherdatenschutz #Datenschutz #Datensicherheit #Datenpannen #Datenskandale #Transparenz #Informationsfreiheit

Kennzeichnungspflicht für KI Dokumente
KI vor Gericht
Mehr dazu bei https://www.heise.de/news/KI-Halluzinationen-vor-Gericht-11257460.html
a-fsa.de/d/3P8
Link zu dieser Seite: https://www.a-fsa.de/de/articles/9501-20260415-kennzeichnungspflicht-fuer-ki-dokumente.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9501-20260415-kennzeichnungspflicht-fuer-ki-dokumente.html
Tags: #KI #AI-Act #Gefahren #Fehler #Halluzination #Klageschriften #Kennzeichnungspflicht #Gutachten #Haftung #Urheberrecht #Copyright #sensibleDaten #Zugriff #Hersteller #Polizei #Verbraucherdatenschutz #Datenschutz #Datensicherheit #Datenpannen #Datenskandale #Transparenz #Informationsfreiheit

Weil nachgefragt wurde, welcher Aspekt m.E. bei #KI in der #Justiz übersehen wird, hier die Kurzfassung:

"KI" umfasst viel mehr als nur Große #Sprachmodelle (LLM). Dazu gehören auch maschinelles Lernen, algorithmische Systeme etc. Die sollte man bevorzugt nutzen, weil es deterministische Ansätze sind, keine probabilistischen (auf Wahrscheinlichkeit beruhenden) wie LLMs.

Und selbst #LLM ist nicht gleich #LLM: es kommt sehr darauf an, ob nach dem grundlegenden "Spracherwerb" noch einmal auf fachspezifischen Daten die sog. "Gewichte" nachtrainiert wurden.

Viel #Halluzination (richtig: Konfabulation) lässt sich mit Retrieval Augmented Generation (#RAG = Bindung an Wissensdatenbanken für die inhaltliche Auskunft) sowie durch eine niedrige "#Temperatureinstellung" (= Spielraum zur Auswahl nicht nur des allerwahrscheinlichsten nächsten Tokens [Wortbruchstück]) verhindern.

Und dann kann man das Ganze noch so schlau kombinieren, dass LLMs wirklich nur dort eingesetzt werden, wo die anderen Formen der KI nicht weiterkommen. Zur Abrundung lässt sich ein System integrieren, das dem "Human in the Loop" erlaubt, schnell optisch zu erkennen, wo die KI wie und warum entschieden hat - um es ggfl. von Hand zu korrigieren.

In die Richtung geht das AI-based #Rulemapping von Prof. #Breidenbach, das bereits im Echteinsatz Beschwerden gegen Hate-Speech-Entscheidungen der großen Plattformen bearbeitet. Und zwar 1000fach jeden Monat.

Wir sind ja auch froh, wenn unsere Zahnärztin nicht den guten pneumatischen Bohrhammer vom letzten Hausumbau, sondern ihren Spezial-Fein-Bohrer einsetzt und der Chirurg nicht das große Brotmesser aus seiner Küche, sondern sein steriles Skalpell. Was zudem nochmal auf den "Human in the Loop" verweist: wir brauchen - auch in Jura - Menschen, die mit #Sachverstand und #Empathie am Ende die Kontrollfrage stellen: ist das Ergebnis in einem demokratischen Rechtsstaat unter Beachtung der Grund-und Menschenrechte in Ordnung?

#Justiz #Gericht #Urteil #Richter*in #JuraBubble #TeamRechtsstaat

@OhWeh

@lassegismo

@Unknowable

@Moni

Weil nachgefragt wurde, welcher Aspekt m.E. bei #KI in der #Justiz übersehen wird, hier die Kurzfassung:

"KI" umfasst viel mehr als nur Große #Sprachmodelle (LLM). Dazu gehören auch maschinelles Lernen, algorithmische Systeme etc. Die sollte man bevorzugt nutzen, weil es deterministische Ansätze sind, keine probabilistischen (auf Wahrscheinlichkeit beruhenden) wie LLMs.

Und selbst #LLM ist nicht gleich #LLM: es kommt sehr darauf an, ob nach dem grundlegenden "Spracherwerb" noch einmal auf fachspezifischen Daten die sog. "Gewichte" nachtrainiert wurden.

Viel #Halluzination (richtig: Konfabulation) lässt sich mit Retrieval Augmented Generation (#RAG = Bindung an Wissensdatenbanken für die inhaltliche Auskunft) sowie durch eine niedrige "#Temperatureinstellung" (= Spielraum zur Auswahl nicht nur des allerwahrscheinlichsten nächsten Tokens [Wortbruchstück]) verhindern.

Und dann kann man das Ganze noch so schlau kombinieren, dass LLMs wirklich nur dort eingesetzt werden, wo die anderen Formen der KI nicht weiterkommen. Zur Abrundung lässt sich ein System integrieren, das dem "Human in the Loop" erlaubt, schnell optisch zu erkennen, wo die KI wie und warum entschieden hat - um es ggfl. von Hand zu korrigieren.

In die Richtung geht das AI-based #Rulemapping von Prof. #Breidenbach, das bereits im Echteinsatz Beschwerden gegen Hate-Speech-Entscheidungen der großen Plattformen bearbeitet. Und zwar 1000fach jeden Monat.

Wir sind ja auch froh, wenn unsere Zahnärztin nicht den guten pneumatischen Bohrhammer vom letzten Hausumbau, sondern ihren Spezial-Fein-Bohrer einsetzt und der Chirurg nicht das große Brotmesser aus seiner Küche, sondern sein steriles Skalpell. Was zudem nochmal auf den "Human in the Loop" verweist: wir brauchen - auch in Jura - Menschen, die mit #Sachverstand und #Empathie am Ende die Kontrollfrage stellen: ist das Ergebnis in einem demokratischen Rechtsstaat unter Beachtung der Grund-und Menschenrechte in Ordnung?

#Justiz #Gericht #Urteil #Richter*in #JuraBubble #TeamRechtsstaat

@OhWeh

@lassegismo

@Unknowable

@Moni

Weil nachgefragt wurde, welcher Aspekt m.E. bei #KI in der #Justiz übersehen wird, hier die Kurzfassung:

"KI" umfasst viel mehr als nur Große #Sprachmodelle (LLM). Dazu gehören auch maschinelles Lernen, algorithmische Systeme etc. Die sollte man bevorzugt nutzen, weil es deterministische Ansätze sind, keine probabilistischen (auf Wahrscheinlichkeit beruhenden) wie LLMs.

Und selbst #LLM ist nicht gleich #LLM: es kommt sehr darauf an, ob nach dem grundlegenden "Spracherwerb" noch einmal auf fachspezifischen Daten die sog. "Gewichte" nachtrainiert wurden.

Viel #Halluzination (richtig: Konfabulation) lässt sich mit Retrieval Augmented Generation (#RAG = Bindung an Wissensdatenbanken für die inhaltliche Auskunft) sowie durch eine niedrige "#Temperatureinstellung" (= Spielraum zur Auswahl nicht nur des allerwahrscheinlichsten nächsten Tokens [Wortbruchstück]) verhindern.

Und dann kann man das Ganze noch so schlau kombinieren, dass LLMs wirklich nur dort eingesetzt werden, wo die anderen Formen der KI nicht weiterkommen. Zur Abrundung lässt sich ein System integrieren, das dem "Human in the Loop" erlaubt, schnell optisch zu erkennen, wo die KI wie und warum entschieden hat - um es ggfl. von Hand zu korrigieren.

In die Richtung geht das AI-based #Rulemapping von Prof. #Breidenbach, das bereits im Echteinsatz Beschwerden gegen Hate-Speech-Entscheidungen der großen Plattformen bearbeitet. Und zwar 1000fach jeden Monat.

Wir sind ja auch froh, wenn unsere Zahnärztin nicht den guten pneumatischen Bohrhammer vom letzten Hausumbau, sondern ihren Spezial-Fein-Bohrer einsetzt und der Chirurg nicht das große Brotmesser aus seiner Küche, sondern sein steriles Skalpell. Was zudem nochmal auf den "Human in the Loop" verweist: wir brauchen - auch in Jura - Menschen, die mit #Sachverstand und #Empathie am Ende die Kontrollfrage stellen: ist das Ergebnis in einem demokratischen Rechtsstaat unter Beachtung der Grund-und Menschenrechte in Ordnung?

#Justiz #Gericht #Urteil #Richter*in #JuraBubble #TeamRechtsstaat

@OhWeh

@lassegismo

@Unknowable

@Moni

Weil nachgefragt wurde, welcher Aspekt m.E. bei #KI in der #Justiz übersehen wird, hier die Kurzfassung:

"KI" umfasst viel mehr als nur Große #Sprachmodelle (LLM). Dazu gehören auch maschinelles Lernen, algorithmische Systeme etc. Die sollte man bevorzugt nutzen, weil es deterministische Ansätze sind, keine probabilistischen (auf Wahrscheinlichkeit beruhenden) wie LLMs.

Und selbst #LLM ist nicht gleich #LLM: es kommt sehr darauf an, ob nach dem grundlegenden "Spracherwerb" noch einmal auf fachspezifischen Daten die sog. "Gewichte" nachtrainiert wurden.

Viel #Halluzination (richtig: Konfabulation) lässt sich mit Retrieval Augmented Generation (#RAG = Bindung an Wissensdatenbanken für die inhaltliche Auskunft) sowie durch eine niedrige "#Temperatureinstellung" (= Spielraum zur Auswahl nicht nur des allerwahrscheinlichsten nächsten Tokens [Wortbruchstück]) verhindern.

Und dann kann man das Ganze noch so schlau kombinieren, dass LLMs wirklich nur dort eingesetzt werden, wo die anderen Formen der KI nicht weiterkommen. Zur Abrundung lässt sich ein System integrieren, das dem "Human in the Loop" erlaubt, schnell optisch zu erkennen, wo die KI wie und warum entschieden hat - um es ggfl. von Hand zu korrigieren.

In die Richtung geht das AI-based #Rulemapping von Prof. #Breidenbach, das bereits im Echteinsatz Beschwerden gegen Hate-Speech-Entscheidungen der großen Plattformen bearbeitet. Und zwar 1000fach jeden Monat.

Wir sind ja auch froh, wenn unsere Zahnärztin nicht den guten pneumatischen Bohrhammer vom letzten Hausumbau, sondern ihren Spezial-Fein-Bohrer einsetzt und der Chirurg nicht das große Brotmesser aus seiner Küche, sondern sein steriles Skalpell. Was zudem nochmal auf den "Human in the Loop" verweist: wir brauchen - auch in Jura - Menschen, die mit #Sachverstand und #Empathie am Ende die Kontrollfrage stellen: ist das Ergebnis in einem demokratischen Rechtsstaat unter Beachtung der Grund-und Menschenrechte in Ordnung?

#Justiz #Gericht #Urteil #Richter*in #JuraBubble #TeamRechtsstaat

@OhWeh

@lassegismo

@Unknowable

@Moni

Weil nachgefragt wurde, welcher Aspekt m.E. bei #KI in der #Justiz übersehen wird, hier die Kurzfassung:

"KI" umfasst viel mehr als nur Große #Sprachmodelle (LLM). Dazu gehören auch maschinelles Lernen, algorithmische Systeme etc. Die sollte man bevorzugt nutzen, weil es deterministische Ansätze sind, keine probabilistischen (auf Wahrscheinlichkeit beruhenden) wie LLMs.

Und selbst #LLM ist nicht gleich #LLM: es kommt sehr darauf an, ob nach dem grundlegenden "Spracherwerb" noch einmal auf fachspezifischen Daten die sog. "Gewichte" nachtrainiert wurden.

Viel #Halluzination (richtig: Konfabulation) lässt sich mit Retrieval Augmented Generation (#RAG = Bindung an Wissensdatenbanken für die inhaltliche Auskunft) sowie durch eine niedrige "#Temperatureinstellung" (= Spielraum zur Auswahl nicht nur des allerwahrscheinlichsten nächsten Tokens [Wortbruchstück]) verhindern.

Und dann kann man das Ganze noch so schlau kombinieren, dass LLMs wirklich nur dort eingesetzt werden, wo die anderen Formen der KI nicht weiterkommen. Zur Abrundung lässt sich ein System integrieren, das dem "Human in the Loop" erlaubt, schnell optisch zu erkennen, wo die KI wie und warum entschieden hat - um es ggfl. von Hand zu korrigieren.

In die Richtung geht das AI-based #Rulemapping von Prof. #Breidenbach, das bereits im Echteinsatz Beschwerden gegen Hate-Speech-Entscheidungen der großen Plattformen bearbeitet. Und zwar 1000fach jeden Monat.

Wir sind ja auch froh, wenn unsere Zahnärztin nicht den guten pneumatischen Bohrhammer vom letzten Hausumbau, sondern ihren Spezial-Fein-Bohrer einsetzt und der Chirurg nicht das große Brotmesser aus seiner Küche, sondern sein steriles Skalpell. Was zudem nochmal auf den "Human in the Loop" verweist: wir brauchen - auch in Jura - Menschen, die mit #Sachverstand und #Empathie am Ende die Kontrollfrage stellen: ist das Ergebnis in einem demokratischen Rechtsstaat unter Beachtung der Grund-und Menschenrechte in Ordnung?

#Justiz #Gericht #Urteil #Richter*in #JuraBubble #TeamRechtsstaat

@OhWeh

@lassegismo

@Unknowable

@Moni

Zur Rolle von #KI in der #Ziviljustiz: #Rechen-Knecht oder #Robo-Richter?

Zur Zeit wird in Jura-Kreisen heiß über KI-Einsatz diskutiert. Manche glauben, bald bräuchte es keine Jurist*innen mehr oder zumindest viel weniger. Andere glauben, KI könne nie auch nur annähernd so umfassend abwäge, wie Menschen.

Nicht selten gilt auch hier: argumentiert wird umso meinungsstärker, je kenntnisärmer die Diskutant*innen sind. Vor allem ein unglaublich wichtiger Aspekt wird praktisch komplett übersehen, von Befürworter*innen wie Gegner*innen.

Deshalb habe ich versucht, die technisch bedingten Potenziale und Limits von KI, vor allem von Großen Sprachmodellen (#LLM), etwas näher zu beleuchten und daraus abzuleiten, was KI in der Justiz können und dürfen sollte.

Nachzulesen ab heute in der juris Monatszeitschrift 2026, S. 86-103.

Viel Spaß!

#Justiz #Gericht #Richter*in #Urteil #Halluzination #Sprachmodell #ChatGPT #LeChat #JuraBubble #TeamRechtsstaat

Zur Rolle von #KI in der #Ziviljustiz: #Rechen-Knecht oder #Robo-Richter?

Zur Zeit wird in Jura-Kreisen heiß über KI-Einsatz diskutiert. Manche glauben, bald bräuchte es keine Jurist*innen mehr oder zumindest viel weniger. Andere glauben, KI könne nie auch nur annähernd so umfassend abwäge, wie Menschen.

Nicht selten gilt auch hier: argumentiert wird umso meinungsstärker, je kenntnisärmer die Diskutant*innen sind. Vor allem ein unglaublich wichtiger Aspekt wird praktisch komplett übersehen, von Befürworter*innen wie Gegner*innen.

Deshalb habe ich versucht, die technisch bedingten Potenziale und Limits von KI, vor allem von Großen Sprachmodellen (#LLM), etwas näher zu beleuchten und daraus abzuleiten, was KI in der Justiz können und dürfen sollte.

Nachzulesen ab heute in der juris Monatszeitschrift 2026, S. 86-103.

Viel Spaß!

#Justiz #Gericht #Richter*in #Urteil #Halluzination #Sprachmodell #ChatGPT #LeChat #JuraBubble #TeamRechtsstaat

Zur Rolle von #KI in der #Ziviljustiz: #Rechen-Knecht oder #Robo-Richter?

Zur Zeit wird in Jura-Kreisen heiß über KI-Einsatz diskutiert. Manche glauben, bald bräuchte es keine Jurist*innen mehr oder zumindest viel weniger. Andere glauben, KI könne nie auch nur annähernd so umfassend abwäge, wie Menschen.

Nicht selten gilt auch hier: argumentiert wird umso meinungsstärker, je kenntnisärmer die Diskutant*innen sind. Vor allem ein unglaublich wichtiger Aspekt wird praktisch komplett übersehen, von Befürworter*innen wie Gegner*innen.

Deshalb habe ich versucht, die technisch bedingten Potenziale und Limits von KI, vor allem von Großen Sprachmodellen (#LLM), etwas näher zu beleuchten und daraus abzuleiten, was KI in der Justiz können und dürfen sollte.

Nachzulesen ab heute in der juris Monatszeitschrift 2026, S. 86-103.

Viel Spaß!

#Justiz #Gericht #Richter*in #Urteil #Halluzination #Sprachmodell #ChatGPT #LeChat #JuraBubble #TeamRechtsstaat

Zur Rolle von #KI in der #Ziviljustiz: #Rechen-Knecht oder #Robo-Richter?

Zur Zeit wird in Jura-Kreisen heiß über KI-Einsatz diskutiert. Manche glauben, bald bräuchte es keine Jurist*innen mehr oder zumindest viel weniger. Andere glauben, KI könne nie auch nur annähernd so umfassend abwäge, wie Menschen.

Nicht selten gilt auch hier: argumentiert wird umso meinungsstärker, je kenntnisärmer die Diskutant*innen sind. Vor allem ein unglaublich wichtiger Aspekt wird praktisch komplett übersehen, von Befürworter*innen wie Gegner*innen.

Deshalb habe ich versucht, die technisch bedingten Potenziale und Limits von KI, vor allem von Großen Sprachmodellen (#LLM), etwas näher zu beleuchten und daraus abzuleiten, was KI in der Justiz können und dürfen sollte.

Nachzulesen ab heute in der juris Monatszeitschrift 2026, S. 86-103.

Viel Spaß!

#Justiz #Gericht #Richter*in #Urteil #Halluzination #Sprachmodell #ChatGPT #LeChat #JuraBubble #TeamRechtsstaat

Zur Rolle von #KI in der #Ziviljustiz: #Rechen-Knecht oder #Robo-Richter?

Zur Zeit wird in Jura-Kreisen heiß über KI-Einsatz diskutiert. Manche glauben, bald bräuchte es keine Jurist*innen mehr oder zumindest viel weniger. Andere glauben, KI könne nie auch nur annähernd so umfassend abwäge, wie Menschen.

Nicht selten gilt auch hier: argumentiert wird umso meinungsstärker, je kenntnisärmer die Diskutant*innen sind. Vor allem ein unglaublich wichtiger Aspekt wird praktisch komplett übersehen, von Befürworter*innen wie Gegner*innen.

Deshalb habe ich versucht, die technisch bedingten Potenziale und Limits von KI, vor allem von Großen Sprachmodellen (#LLM), etwas näher zu beleuchten und daraus abzuleiten, was KI in der Justiz können und dürfen sollte.

Nachzulesen ab heute in der juris Monatszeitschrift 2026, S. 86-103.

Viel Spaß!

#Justiz #Gericht #Richter*in #Urteil #Halluzination #Sprachmodell #ChatGPT #LeChat #JuraBubble #TeamRechtsstaat

Gedanken zur #Prompting #Umfrage:
Wenn #KI nicht deterministisch funktioniert, wie sollen dann Anleitungen zum "richtigen" Prompten funktionieren?

Je besser der Prompt 𝑝 den gewünschten Text 𝑡 beschreibt, desto höher ist die #Qualität 𝑞 des KI-Ergebnisses?? Na, wer hätte das gedacht. 😜😅 Nur, dass man den Faktor #Halluzination noch einrechnen müsste...

Was ist das für eine #Superintelligenz, bei der ich Schuld habe, wenn sie mich nicht versteht? 🤔

„Dabei kann es helfen, sie mit allen Sinnen zu erleben, oder einfach, sich danach Zeit zu nehmen, darüber nachzudenken, zu sprechen oder zu schlafen.“

https://www.taz.de/!6133816

Das ist ganz wichtig. Mein Sohn, der #Mathematik studiert hat herausgefunden, dass es gut ist, die Hausaufgaben schon mal durchzulesen, auch wenn man sie erst in einigen Tagen machen will. Das Gehirn denkt im Schlaf. Die Hausaufgaben erledigen sich quasi von selbst.

Und Kekulé hat die Benzolringe auch im Schlaf gefunden:

https://de.wikipedia.org/wiki/August_Kekul%C3%A9

„Auch wer selbst keine Zeit mit dem ­Schreiben von Texten verbracht hat, wird Schwierigkeiten haben einzuschätzen, ob #ChatGPTs Essay wirklich besser ist.“

Ja. Und wer nichts weiß, kann nicht erkennen, was für Unsinn #LLMs verzapfen und dass man das lieber nicht als Hausarbeit abgeben sollte. Es hilft nur lesen, lesen, lesen und damit seine neuronalen Modelle selber trainieren.

„Wo sie vor einem Jahr beispielsweise noch in 30 Prozent der Fälle angaben, Fragen nicht beantworten zu können, sank diese Zahl inzwischen nahe null. Im gleichen Zeitraum hat sich die Anzahl halluzinierter Antworten auf 35 Prozent verdoppelt.“

Ja! Das ist #Wettbewerb. Wenn die Konkurrenz immer was liefert, ist es besser auch eine Antwort zu geben. Das ist #Hochstapler-KI. Die Dummen wählen dann diese Produkte. Ein klarer Geschäftsvorteil und niemand merkt's.

#KI #Halluzination

„Dabei kann es helfen, sie mit allen Sinnen zu erleben, oder einfach, sich danach Zeit zu nehmen, darüber nachzudenken, zu sprechen oder zu schlafen.“

https://www.taz.de/!6133816

Das ist ganz wichtig. Mein Sohn, der #Mathematik studiert hat herausgefunden, dass es gut ist, die Hausaufgaben schon mal durchzulesen, auch wenn man sie erst in einigen Tagen machen will. Das Gehirn denkt im Schlaf. Die Hausaufgaben erledigen sich quasi von selbst.

Und Kekulé hat die Benzolringe auch im Schlaf gefunden:

https://de.wikipedia.org/wiki/August_Kekul%C3%A9

„Auch wer selbst keine Zeit mit dem ­Schreiben von Texten verbracht hat, wird Schwierigkeiten haben einzuschätzen, ob #ChatGPTs Essay wirklich besser ist.“

Ja. Und wer nichts weiß, kann nicht erkennen, was für Unsinn #LLMs verzapfen und dass man das lieber nicht als Hausarbeit abgeben sollte. Es hilft nur lesen, lesen, lesen und damit seine neuronalen Modelle selber trainieren.

„Wo sie vor einem Jahr beispielsweise noch in 30 Prozent der Fälle angaben, Fragen nicht beantworten zu können, sank diese Zahl inzwischen nahe null. Im gleichen Zeitraum hat sich die Anzahl halluzinierter Antworten auf 35 Prozent verdoppelt.“

Ja! Das ist #Wettbewerb. Wenn die Konkurrenz immer was liefert, ist es besser auch eine Antwort zu geben. Das ist #Hochstapler-KI. Die Dummen wählen dann diese Produkte. Ein klarer Geschäftsvorteil und niemand merkt's.

#KI #Halluzination