home.social

#halluzination — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #halluzination, aggregated by home.social.

fetched live
  1. #dwr #freetube #fedibikes #MdRddG #NI #MdRzA #obob #fahrrad #FahrradStattPorsche

    #TousledCraneonTour

    #Welt! Bist du noch da?

    Denkt an #Winter

    Ich bin offiziell zurück bei den #Lebenden. Das weiße Licht am Ende des Tunnels habe ich gesehen, gehe aber von einer #Halluzination aus, da 4-5Tage #Schlafentzug ihre Spuren hinterlassen.
    Heute kurzer Weg, den schaffe ich mit dem #Fahrrad auch bei den Temperaturen, morgen die üblichen 34km werde ich mit der #BdT machen müssen, da fehlt noch etwas.
    1/2

  2. #dwr #freetube #fedibikes #MdRddG #NI #MdRzA #obob #fahrrad #FahrradStattPorsche

    #TousledCraneonTour

    #Welt! Bist du noch da?

    Denkt an #Winter

    Ich bin offiziell zurück bei den #Lebenden. Das weiße Licht am Ende des Tunnels habe ich gesehen, gehe aber von einer #Halluzination aus, da 4-5Tage #Schlafentzug ihre Spuren hinterlassen.
    Heute kurzer Weg, den schaffe ich mit dem #Fahrrad auch bei den Temperaturen, morgen die üblichen 34km werde ich mit der #BdT machen müssen, da fehlt noch etwas.
    1/2

  3. #dwr #freetube #fedibikes #MdRddG #NI #MdRzA #obob #fahrrad #FahrradStattPorsche

    #TousledCraneonTour

    #Welt! Bist du noch da?

    Denkt an #Winter

    Ich bin offiziell zurück bei den #Lebenden. Das weiße Licht am Ende des Tunnels habe ich gesehen, gehe aber von einer #Halluzination aus, da 4-5Tage #Schlafentzug ihre Spuren hinterlassen.
    Heute kurzer Weg, den schaffe ich mit dem #Fahrrad auch bei den Temperaturen, morgen die üblichen 34km werde ich mit der #BdT machen müssen, da fehlt noch etwas.
    1/2

  4. #dwr #freetube #fedibikes #MdRddG #NI #MdRzA #obob #fahrrad #FahrradStattPorsche

    #TousledCraneonTour

    #Welt! Bist du noch da?

    Denkt an #Winter

    Ich bin offiziell zurück bei den #Lebenden. Das weiße Licht am Ende des Tunnels habe ich gesehen, gehe aber von einer #Halluzination aus, da 4-5Tage #Schlafentzug ihre Spuren hinterlassen.
    Heute kurzer Weg, den schaffe ich mit dem #Fahrrad auch bei den Temperaturen, morgen die üblichen 34km werde ich mit der #BdT machen müssen, da fehlt noch etwas.
    1/2

  5. #dwr #freetube #fedibikes #MdRddG #NI #MdRzA #obob #fahrrad #FahrradStattPorsche

    #TousledCraneonTour

    #Welt! Bist du noch da?

    Denkt an #Winter

    Ich bin offiziell zurück bei den #Lebenden. Das weiße Licht am Ende des Tunnels habe ich gesehen, gehe aber von einer #Halluzination aus, da 4-5Tage #Schlafentzug ihre Spuren hinterlassen.
    Heute kurzer Weg, den schaffe ich mit dem #Fahrrad auch bei den Temperaturen, morgen die üblichen 34km werde ich mit der #BdT machen müssen, da fehlt noch etwas.
    1/2

  6. KI-Halluzinationen landen nicht nur beim Chatbot-Nutzer, sondern in Wissenschaft und Unternehmensberichten. KPMG zog einen Report zu KI-Agenten zurück — die enthaltenen Fallstudien waren schlicht erfunden. Forscher fanden fast 150.000 gefälschte Zitate in 2,5 Millionen Artikeln. @tagesschau erklärt das wachsende Problem. #KI #Halluzination #Wissenschaft

  7. KI-Halluzinationen landen nicht nur beim Chatbot-Nutzer, sondern in Wissenschaft und Unternehmensberichten. KPMG zog einen Report zu KI-Agenten zurück — die enthaltenen Fallstudien waren schlicht erfunden. Forscher fanden fast 150.000 gefälschte Zitate in 2,5 Millionen Artikeln. @tagesschau erklärt das wachsende Problem. #KI #Halluzination #Wissenschaft

  8. KI-Halluzinationen landen nicht nur beim Chatbot-Nutzer, sondern in Wissenschaft und Unternehmensberichten. KPMG zog einen Report zu KI-Agenten zurück — die enthaltenen Fallstudien waren schlicht erfunden. Forscher fanden fast 150.000 gefälschte Zitate in 2,5 Millionen Artikeln. @tagesschau erklärt das wachsende Problem. #KI #Halluzination #Wissenschaft

  9. KI-Halluzinationen landen nicht nur beim Chatbot-Nutzer, sondern in Wissenschaft und Unternehmensberichten. KPMG zog einen Report zu KI-Agenten zurück — die enthaltenen Fallstudien waren schlicht erfunden. Forscher fanden fast 150.000 gefälschte Zitate in 2,5 Millionen Artikeln. @tagesschau erklärt das wachsende Problem. #KI #Halluzination #Wissenschaft

  10. KI-Halluzinationen landen nicht nur beim Chatbot-Nutzer, sondern in Wissenschaft und Unternehmensberichten. KPMG zog einen Report zu KI-Agenten zurück — die enthaltenen Fallstudien waren schlicht erfunden. Forscher fanden fast 150.000 gefälschte Zitate in 2,5 Millionen Artikeln. @tagesschau erklärt das wachsende Problem. #KI #Halluzination #Wissenschaft

  11. Ein bischen Logik am Morgen - und etwas Interessantes über die unüberwindbare Grenze von #LLMs

    "Sprachmodelle können nicht alle berechenbaren Funktionen lernen. Sobald sie ein breites Spektrum an Problemen lösen sollen, werden sie zwangsläufig halluzinieren. Es gibt keine Trainingsmethode, keine Architekturvariante und keinen Datenumfang, der diese Grenze verschiebt."

    "Halluzinationen lassen sich nicht durch architektonische Verbesserungen, Datenanreicherung oder Fact-Checking eliminieren, weil sie aus der fundamentalen mathematischen und logischen Struktur dieser Modelle folgen. Sie führen dafür den Begriff der Structural Hallucination ein, der das Phänomen nicht als Fehler, sondern als strukturelle Eigenschaft beschreibt."
    Quelle: heise.de/blog/Wie-Goedel-und-T

    #KI #Halluzination

  12. Ein bischen Logik am Morgen - und etwas Interessantes über die unüberwindbare Grenze von #LLMs

    "Sprachmodelle können nicht alle berechenbaren Funktionen lernen. Sobald sie ein breites Spektrum an Problemen lösen sollen, werden sie zwangsläufig halluzinieren. Es gibt keine Trainingsmethode, keine Architekturvariante und keinen Datenumfang, der diese Grenze verschiebt."

    "Halluzinationen lassen sich nicht durch architektonische Verbesserungen, Datenanreicherung oder Fact-Checking eliminieren, weil sie aus der fundamentalen mathematischen und logischen Struktur dieser Modelle folgen. Sie führen dafür den Begriff der Structural Hallucination ein, der das Phänomen nicht als Fehler, sondern als strukturelle Eigenschaft beschreibt."
    Quelle: heise.de/blog/Wie-Goedel-und-T

    #KI #Halluzination

  13. Ein bischen Logik am Morgen - und etwas Interessantes über die unüberwindbare Grenze von #LLMs

    "Sprachmodelle können nicht alle berechenbaren Funktionen lernen. Sobald sie ein breites Spektrum an Problemen lösen sollen, werden sie zwangsläufig halluzinieren. Es gibt keine Trainingsmethode, keine Architekturvariante und keinen Datenumfang, der diese Grenze verschiebt."

    "Halluzinationen lassen sich nicht durch architektonische Verbesserungen, Datenanreicherung oder Fact-Checking eliminieren, weil sie aus der fundamentalen mathematischen und logischen Struktur dieser Modelle folgen. Sie führen dafür den Begriff der Structural Hallucination ein, der das Phänomen nicht als Fehler, sondern als strukturelle Eigenschaft beschreibt."
    Quelle: heise.de/blog/Wie-Goedel-und-T

    #KI #Halluzination

  14. Ein bischen Logik am Morgen - und etwas Interessantes über die unüberwindbare Grenze von #LLMs

    "Sprachmodelle können nicht alle berechenbaren Funktionen lernen. Sobald sie ein breites Spektrum an Problemen lösen sollen, werden sie zwangsläufig halluzinieren. Es gibt keine Trainingsmethode, keine Architekturvariante und keinen Datenumfang, der diese Grenze verschiebt."

    "Halluzinationen lassen sich nicht durch architektonische Verbesserungen, Datenanreicherung oder Fact-Checking eliminieren, weil sie aus der fundamentalen mathematischen und logischen Struktur dieser Modelle folgen. Sie führen dafür den Begriff der Structural Hallucination ein, der das Phänomen nicht als Fehler, sondern als strukturelle Eigenschaft beschreibt."
    Quelle: heise.de/blog/Wie-Goedel-und-T

    #KI #Halluzination

  15. @bkastl
    Und da schließt sich der Kreis: das was man seit dem KI-Zeitalter #Halluzination nennt, macht die #Schufa immer schon, auch ohne dass es früher diesen Namen hatte. Nämlich immer dann, wenn sie keine oder zu wenig echte Daten über Jemanden zur Verfügung hat.

  16. @bkastl
    Und da schließt sich der Kreis: das was man seit dem KI-Zeitalter #Halluzination nennt, macht die #Schufa immer schon, auch ohne dass es früher diesen Namen hatte. Nämlich immer dann, wenn sie keine oder zu wenig echte Daten über Jemanden zur Verfügung hat.

  17. @bkastl
    Und da schließt sich der Kreis: das was man seit dem KI-Zeitalter #Halluzination nennt, macht die #Schufa immer schon, auch ohne dass es früher diesen Namen hatte. Nämlich immer dann, wenn sie keine oder zu wenig echte Daten über Jemanden zur Verfügung hat.

  18. @bkastl
    Und da schließt sich der Kreis: das was man seit dem KI-Zeitalter #Halluzination nennt, macht die #Schufa immer schon, auch ohne dass es früher diesen Namen hatte. Nämlich immer dann, wenn sie keine oder zu wenig echte Daten über Jemanden zur Verfügung hat.

  19. @bkastl
    Und da schließt sich der Kreis: das was man seit dem KI-Zeitalter #Halluzination nennt, macht die #Schufa immer schon, auch ohne dass es früher diesen Namen hatte. Nämlich immer dann, wenn sie keine oder zu wenig echte Daten über Jemanden zur Verfügung hat.

  20. KI-Systeme, die Arzt-Patienten-Gespräche mitschreiben und automatisch Notizen für die Patientenakte erstellen, haben dort systematisch Inhalte halluziniert, falsche Medikamente eingetragen und zentrale Gesundheitsprobleme schlicht unterschlagen. Die Systeme sind trotzdem im Einsatz.
    msn.com/de-de/technik/allgemei
    #KI #Medizin #Halluzination

  21. KI-Systeme, die Arzt-Patienten-Gespräche mitschreiben und automatisch Notizen für die Patientenakte erstellen, haben dort systematisch Inhalte halluziniert, falsche Medikamente eingetragen und zentrale Gesundheitsprobleme schlicht unterschlagen. Die Systeme sind trotzdem im Einsatz.
    msn.com/de-de/technik/allgemei
    #KI #Medizin #Halluzination

  22. KI-Systeme, die Arzt-Patienten-Gespräche mitschreiben und automatisch Notizen für die Patientenakte erstellen, haben dort systematisch Inhalte halluziniert, falsche Medikamente eingetragen und zentrale Gesundheitsprobleme schlicht unterschlagen. Die Systeme sind trotzdem im Einsatz.
    msn.com/de-de/technik/allgemei
    #KI #Medizin #Halluzination

  23. KI-Systeme, die Arzt-Patienten-Gespräche mitschreiben und automatisch Notizen für die Patientenakte erstellen, haben dort systematisch Inhalte halluziniert, falsche Medikamente eingetragen und zentrale Gesundheitsprobleme schlicht unterschlagen. Die Systeme sind trotzdem im Einsatz.
    msn.com/de-de/technik/allgemei
    #KI #Medizin #Halluzination

  24. KI-Systeme, die Arzt-Patienten-Gespräche mitschreiben und automatisch Notizen für die Patientenakte erstellen, haben dort systematisch Inhalte halluziniert, falsche Medikamente eingetragen und zentrale Gesundheitsprobleme schlicht unterschlagen. Die Systeme sind trotzdem im Einsatz.
    msn.com/de-de/technik/allgemei
    #KI #Medizin #Halluzination

  25. Es ist immer wieder erschreckend, wie perfekt #AISlop Fakten und frei Erfundenes zu einer glaubwürdigen „Lügenmatsche“ vermischt.

    Durch die Kombination subtiler Erfindungen mit echten Fakten wirkt es für Außenstehende absolut authentisch. Nur wer selbst im Thema steckt, erkennt die haarsträubenden Lügen.

    Die Gefahr ist nicht die offensichtliche Absurdität, sondern die perfekt getarnte Desinformation.

    Nur zur Klarstellung: Es stimmt in dem Screenshot-Text so gut wie nichts zu ins.de und ins.net.

    #KI #AI #GenerativeAI #Desinformation #Medienkompetenz #KuenstlicheIntelligenz #Halluzination #FakeNews #Domain

  26. Es ist immer wieder erschreckend, wie perfekt #AISlop Fakten und frei Erfundenes zu einer glaubwürdigen „Lügenmatsche“ vermischt.

    Durch die Kombination subtiler Erfindungen mit echten Fakten wirkt es für Außenstehende absolut authentisch. Nur wer selbst im Thema steckt, erkennt die haarsträubenden Lügen.

    Die Gefahr ist nicht die offensichtliche Absurdität, sondern die perfekt getarnte Desinformation.

    Nur zur Klarstellung: Es stimmt in dem Screenshot-Text so gut wie nichts zu ins.de und ins.net.

    #KI #AI #GenerativeAI #Desinformation #Medienkompetenz #KuenstlicheIntelligenz #Halluzination #FakeNews #Domain

  27. Es ist immer wieder erschreckend, wie perfekt #AISlop Fakten und frei Erfundenes zu einer glaubwürdigen „Lügenmatsche“ vermischt.

    Durch die Kombination subtiler Erfindungen mit echten Fakten wirkt es für Außenstehende absolut authentisch. Nur wer selbst im Thema steckt, erkennt die haarsträubenden Lügen.

    Die Gefahr ist nicht die offensichtliche Absurdität, sondern die perfekt getarnte Desinformation.

    Nur zur Klarstellung: Es stimmt in dem Screenshot-Text so gut wie nichts zu ins.de und ins.net.

    #KI #AI #GenerativeAI #Desinformation #Medienkompetenz #KuenstlicheIntelligenz #Halluzination #FakeNews #Domain

  28. Es ist immer wieder erschreckend, wie perfekt #AISlop Fakten und frei Erfundenes zu einer glaubwürdigen „Lügenmatsche“ vermischt.

    Durch die Kombination subtiler Erfindungen mit echten Fakten wirkt es für Außenstehende absolut authentisch. Nur wer selbst im Thema steckt, erkennt die haarsträubenden Lügen.

    Die Gefahr ist nicht die offensichtliche Absurdität, sondern die perfekt getarnte Desinformation.

    Nur zur Klarstellung: Es stimmt in dem Screenshot-Text so gut wie nichts zu ins.de und ins.net.

    #KI #AI #GenerativeAI #Desinformation #Medienkompetenz #KuenstlicheIntelligenz #Halluzination #FakeNews #Domain

  29. Es ist immer wieder erschreckend, wie perfekt #AISlop Fakten und frei Erfundenes zu einer glaubwürdigen „Lügenmatsche“ vermischt.

    Durch die Kombination subtiler Erfindungen mit echten Fakten wirkt es für Außenstehende absolut authentisch. Nur wer selbst im Thema steckt, erkennt die haarsträubenden Lügen.

    Die Gefahr ist nicht die offensichtliche Absurdität, sondern die perfekt getarnte Desinformation.

    Nur zur Klarstellung: Es stimmt in dem Screenshot-Text so gut wie nichts zu ins.de und ins.net.

    #KI #AI #GenerativeAI #Desinformation #Medienkompetenz #KuenstlicheIntelligenz #Halluzination #FakeNews #Domain

  30. Wie man sich vor #KI-#Halluzination schützt: Schön wäre es, wenn wir mit einer einfachen Bitte eines der gravierendsten Probleme bei der alltäglichen Nutzung von #LLMs lösen könnten - doch die Praxis sieht leider anders aus.

    #AI ist nämlich nur ein außerordentlich begabter Texter ohne eigenes Faktenbewusstsein. Wer das verinnerlicht, stellt automatisch klügere Fragen, liefert mehr Kontext für den Prompt und prüft kritische Aussagen im Zweifel gegen verlässliche Quellen:

    focus.de/digital/warum-bitte-n

  31. Wie man sich vor #KI-#Halluzination schützt: Schön wäre es, wenn wir mit einer einfachen Bitte eines der gravierendsten Probleme bei der alltäglichen Nutzung von #LLMs lösen könnten - doch die Praxis sieht leider anders aus.

    #AI ist nämlich nur ein außerordentlich begabter Texter ohne eigenes Faktenbewusstsein. Wer das verinnerlicht, stellt automatisch klügere Fragen, liefert mehr Kontext für den Prompt und prüft kritische Aussagen im Zweifel gegen verlässliche Quellen:

    focus.de/digital/warum-bitte-n

  32. Wie man sich vor #KI-#Halluzination schützt: Schön wäre es, wenn wir mit einer einfachen Bitte eines der gravierendsten Probleme bei der alltäglichen Nutzung von #LLMs lösen könnten - doch die Praxis sieht leider anders aus.

    #AI ist nämlich nur ein außerordentlich begabter Texter ohne eigenes Faktenbewusstsein. Wer das verinnerlicht, stellt automatisch klügere Fragen, liefert mehr Kontext für den Prompt und prüft kritische Aussagen im Zweifel gegen verlässliche Quellen:

    focus.de/digital/warum-bitte-n

  33. Wie man sich vor #KI-#Halluzination schützt: Schön wäre es, wenn wir mit einer einfachen Bitte eines der gravierendsten Probleme bei der alltäglichen Nutzung von #LLMs lösen könnten - doch die Praxis sieht leider anders aus.

    #AI ist nämlich nur ein außerordentlich begabter Texter ohne eigenes Faktenbewusstsein. Wer das verinnerlicht, stellt automatisch klügere Fragen, liefert mehr Kontext für den Prompt und prüft kritische Aussagen im Zweifel gegen verlässliche Quellen:

    focus.de/digital/warum-bitte-n

  34. Wie man sich vor #KI-#Halluzination schützt: Schön wäre es, wenn wir mit einer einfachen Bitte eines der gravierendsten Probleme bei der alltäglichen Nutzung von #LLMs lösen könnten - doch die Praxis sieht leider anders aus.

    #AI ist nämlich nur ein außerordentlich begabter Texter ohne eigenes Faktenbewusstsein. Wer das verinnerlicht, stellt automatisch klügere Fragen, liefert mehr Kontext für den Prompt und prüft kritische Aussagen im Zweifel gegen verlässliche Quellen:

    focus.de/digital/warum-bitte-n

  35. @[email protected] hab schon links in deutschen gesetzesentwürfen gesehen, die waren halluziniert, aber definitiv von einem menschen.und gemerkt hat es sonst niemand. #sudafrika #kistrategie #halluzination #ki
  36. @[email protected] hab schon links in deutschen gesetzesentwürfen gesehen, die waren halluziniert, aber definitiv von einem menschen.und gemerkt hat es sonst niemand. #sudafrika #kistrategie #halluzination #ki
  37. @[email protected] hab schon links in deutschen gesetzesentwürfen gesehen, die waren halluziniert, aber definitiv von einem menschen.und gemerkt hat es sonst niemand. #sudafrika #kistrategie #halluzination #ki
  38. @[email protected] hab schon links in deutschen gesetzesentwürfen gesehen, die waren halluziniert, aber definitiv von einem menschen.und gemerkt hat es sonst niemand. #sudafrika #kistrategie #halluzination #ki
  39. Jörg Müller @praesolgka@bawü.social ·

    Weil nachgefragt wurde, welcher Aspekt m.E. bei #KI in der #Justiz übersehen wird, hier die Kurzfassung:

    "KI" umfasst viel mehr als nur Große #Sprachmodelle (LLM). Dazu gehören auch maschinelles Lernen, algorithmische Systeme etc. Die sollte man bevorzugt nutzen, weil es deterministische Ansätze sind, keine probabilistischen (auf Wahrscheinlichkeit beruhenden) wie LLMs.

    Und selbst #LLM ist nicht gleich #LLM: es kommt sehr darauf an, ob nach dem grundlegenden "Spracherwerb" noch einmal auf fachspezifischen Daten die sog. "Gewichte" nachtrainiert wurden.

    Viel #Halluzination (richtig: Konfabulation) lässt sich mit Retrieval Augmented Generation (#RAG = Bindung an Wissensdatenbanken für die inhaltliche Auskunft) sowie durch eine niedrige "#Temperatureinstellung" (= Spielraum zur Auswahl nicht nur des allerwahrscheinlichsten nächsten Tokens [Wortbruchstück]) verhindern.

    Und dann kann man das Ganze noch so schlau kombinieren, dass LLMs wirklich nur dort eingesetzt werden, wo die anderen Formen der KI nicht weiterkommen. Zur Abrundung lässt sich ein System integrieren, das dem "Human in the Loop" erlaubt, schnell optisch zu erkennen, wo die KI wie und warum entschieden hat - um es ggfl. von Hand zu korrigieren.

    In die Richtung geht das AI-based #Rulemapping von Prof. #Breidenbach, das bereits im Echteinsatz Beschwerden gegen Hate-Speech-Entscheidungen der großen Plattformen bearbeitet. Und zwar 1000fach jeden Monat.

    Wir sind ja auch froh, wenn unsere Zahnärztin nicht den guten pneumatischen Bohrhammer vom letzten Hausumbau, sondern ihren Spezial-Fein-Bohrer einsetzt und der Chirurg nicht das große Brotmesser aus seiner Küche, sondern sein steriles Skalpell. Was zudem nochmal auf den "Human in the Loop" verweist: wir brauchen - auch in Jura - Menschen, die mit #Sachverstand und #Empathie am Ende die Kontrollfrage stellen: ist das Ergebnis in einem demokratischen Rechtsstaat unter Beachtung der Grund-und Menschenrechte in Ordnung?

    #Justiz #Gericht #Urteil #Richter*in #JuraBubble #TeamRechtsstaat

    @OhWeh

    @lassegismo

    @Unknowable

    @Moni

  40. Jörg Müller @praesolgka@bawü.social ·

    Weil nachgefragt wurde, welcher Aspekt m.E. bei #KI in der #Justiz übersehen wird, hier die Kurzfassung:

    "KI" umfasst viel mehr als nur Große #Sprachmodelle (LLM). Dazu gehören auch maschinelles Lernen, algorithmische Systeme etc. Die sollte man bevorzugt nutzen, weil es deterministische Ansätze sind, keine probabilistischen (auf Wahrscheinlichkeit beruhenden) wie LLMs.

    Und selbst #LLM ist nicht gleich #LLM: es kommt sehr darauf an, ob nach dem grundlegenden "Spracherwerb" noch einmal auf fachspezifischen Daten die sog. "Gewichte" nachtrainiert wurden.

    Viel #Halluzination (richtig: Konfabulation) lässt sich mit Retrieval Augmented Generation (#RAG = Bindung an Wissensdatenbanken für die inhaltliche Auskunft) sowie durch eine niedrige "#Temperatureinstellung" (= Spielraum zur Auswahl nicht nur des allerwahrscheinlichsten nächsten Tokens [Wortbruchstück]) verhindern.

    Und dann kann man das Ganze noch so schlau kombinieren, dass LLMs wirklich nur dort eingesetzt werden, wo die anderen Formen der KI nicht weiterkommen. Zur Abrundung lässt sich ein System integrieren, das dem "Human in the Loop" erlaubt, schnell optisch zu erkennen, wo die KI wie und warum entschieden hat - um es ggfl. von Hand zu korrigieren.

    In die Richtung geht das AI-based #Rulemapping von Prof. #Breidenbach, das bereits im Echteinsatz Beschwerden gegen Hate-Speech-Entscheidungen der großen Plattformen bearbeitet. Und zwar 1000fach jeden Monat.

    Wir sind ja auch froh, wenn unsere Zahnärztin nicht den guten pneumatischen Bohrhammer vom letzten Hausumbau, sondern ihren Spezial-Fein-Bohrer einsetzt und der Chirurg nicht das große Brotmesser aus seiner Küche, sondern sein steriles Skalpell. Was zudem nochmal auf den "Human in the Loop" verweist: wir brauchen - auch in Jura - Menschen, die mit #Sachverstand und #Empathie am Ende die Kontrollfrage stellen: ist das Ergebnis in einem demokratischen Rechtsstaat unter Beachtung der Grund-und Menschenrechte in Ordnung?

    #Justiz #Gericht #Urteil #Richter*in #JuraBubble #TeamRechtsstaat

    @OhWeh

    @lassegismo

    @Unknowable

    @Moni

  41. Jörg Müller @praesolgka@bawü.social ·

    Weil nachgefragt wurde, welcher Aspekt m.E. bei #KI in der #Justiz übersehen wird, hier die Kurzfassung:

    "KI" umfasst viel mehr als nur Große #Sprachmodelle (LLM). Dazu gehören auch maschinelles Lernen, algorithmische Systeme etc. Die sollte man bevorzugt nutzen, weil es deterministische Ansätze sind, keine probabilistischen (auf Wahrscheinlichkeit beruhenden) wie LLMs.

    Und selbst #LLM ist nicht gleich #LLM: es kommt sehr darauf an, ob nach dem grundlegenden "Spracherwerb" noch einmal auf fachspezifischen Daten die sog. "Gewichte" nachtrainiert wurden.

    Viel #Halluzination (richtig: Konfabulation) lässt sich mit Retrieval Augmented Generation (#RAG = Bindung an Wissensdatenbanken für die inhaltliche Auskunft) sowie durch eine niedrige "#Temperatureinstellung" (= Spielraum zur Auswahl nicht nur des allerwahrscheinlichsten nächsten Tokens [Wortbruchstück]) verhindern.

    Und dann kann man das Ganze noch so schlau kombinieren, dass LLMs wirklich nur dort eingesetzt werden, wo die anderen Formen der KI nicht weiterkommen. Zur Abrundung lässt sich ein System integrieren, das dem "Human in the Loop" erlaubt, schnell optisch zu erkennen, wo die KI wie und warum entschieden hat - um es ggfl. von Hand zu korrigieren.

    In die Richtung geht das AI-based #Rulemapping von Prof. #Breidenbach, das bereits im Echteinsatz Beschwerden gegen Hate-Speech-Entscheidungen der großen Plattformen bearbeitet. Und zwar 1000fach jeden Monat.

    Wir sind ja auch froh, wenn unsere Zahnärztin nicht den guten pneumatischen Bohrhammer vom letzten Hausumbau, sondern ihren Spezial-Fein-Bohrer einsetzt und der Chirurg nicht das große Brotmesser aus seiner Küche, sondern sein steriles Skalpell. Was zudem nochmal auf den "Human in the Loop" verweist: wir brauchen - auch in Jura - Menschen, die mit #Sachverstand und #Empathie am Ende die Kontrollfrage stellen: ist das Ergebnis in einem demokratischen Rechtsstaat unter Beachtung der Grund-und Menschenrechte in Ordnung?

    #Justiz #Gericht #Urteil #Richter*in #JuraBubble #TeamRechtsstaat

    @OhWeh

    @lassegismo

    @Unknowable

    @Moni

  42. Jörg Müller @praesolgka@bawü.social ·

    Weil nachgefragt wurde, welcher Aspekt m.E. bei #KI in der #Justiz übersehen wird, hier die Kurzfassung:

    "KI" umfasst viel mehr als nur Große #Sprachmodelle (LLM). Dazu gehören auch maschinelles Lernen, algorithmische Systeme etc. Die sollte man bevorzugt nutzen, weil es deterministische Ansätze sind, keine probabilistischen (auf Wahrscheinlichkeit beruhenden) wie LLMs.

    Und selbst #LLM ist nicht gleich #LLM: es kommt sehr darauf an, ob nach dem grundlegenden "Spracherwerb" noch einmal auf fachspezifischen Daten die sog. "Gewichte" nachtrainiert wurden.

    Viel #Halluzination (richtig: Konfabulation) lässt sich mit Retrieval Augmented Generation (#RAG = Bindung an Wissensdatenbanken für die inhaltliche Auskunft) sowie durch eine niedrige "#Temperatureinstellung" (= Spielraum zur Auswahl nicht nur des allerwahrscheinlichsten nächsten Tokens [Wortbruchstück]) verhindern.

    Und dann kann man das Ganze noch so schlau kombinieren, dass LLMs wirklich nur dort eingesetzt werden, wo die anderen Formen der KI nicht weiterkommen. Zur Abrundung lässt sich ein System integrieren, das dem "Human in the Loop" erlaubt, schnell optisch zu erkennen, wo die KI wie und warum entschieden hat - um es ggfl. von Hand zu korrigieren.

    In die Richtung geht das AI-based #Rulemapping von Prof. #Breidenbach, das bereits im Echteinsatz Beschwerden gegen Hate-Speech-Entscheidungen der großen Plattformen bearbeitet. Und zwar 1000fach jeden Monat.

    Wir sind ja auch froh, wenn unsere Zahnärztin nicht den guten pneumatischen Bohrhammer vom letzten Hausumbau, sondern ihren Spezial-Fein-Bohrer einsetzt und der Chirurg nicht das große Brotmesser aus seiner Küche, sondern sein steriles Skalpell. Was zudem nochmal auf den "Human in the Loop" verweist: wir brauchen - auch in Jura - Menschen, die mit #Sachverstand und #Empathie am Ende die Kontrollfrage stellen: ist das Ergebnis in einem demokratischen Rechtsstaat unter Beachtung der Grund-und Menschenrechte in Ordnung?

    #Justiz #Gericht #Urteil #Richter*in #JuraBubble #TeamRechtsstaat

    @OhWeh

    @lassegismo

    @Unknowable

    @Moni

  43. Jörg Müller @praesolgka@bawü.social ·

    Weil nachgefragt wurde, welcher Aspekt m.E. bei #KI in der #Justiz übersehen wird, hier die Kurzfassung:

    "KI" umfasst viel mehr als nur Große #Sprachmodelle (LLM). Dazu gehören auch maschinelles Lernen, algorithmische Systeme etc. Die sollte man bevorzugt nutzen, weil es deterministische Ansätze sind, keine probabilistischen (auf Wahrscheinlichkeit beruhenden) wie LLMs.

    Und selbst #LLM ist nicht gleich #LLM: es kommt sehr darauf an, ob nach dem grundlegenden "Spracherwerb" noch einmal auf fachspezifischen Daten die sog. "Gewichte" nachtrainiert wurden.

    Viel #Halluzination (richtig: Konfabulation) lässt sich mit Retrieval Augmented Generation (#RAG = Bindung an Wissensdatenbanken für die inhaltliche Auskunft) sowie durch eine niedrige "#Temperatureinstellung" (= Spielraum zur Auswahl nicht nur des allerwahrscheinlichsten nächsten Tokens [Wortbruchstück]) verhindern.

    Und dann kann man das Ganze noch so schlau kombinieren, dass LLMs wirklich nur dort eingesetzt werden, wo die anderen Formen der KI nicht weiterkommen. Zur Abrundung lässt sich ein System integrieren, das dem "Human in the Loop" erlaubt, schnell optisch zu erkennen, wo die KI wie und warum entschieden hat - um es ggfl. von Hand zu korrigieren.

    In die Richtung geht das AI-based #Rulemapping von Prof. #Breidenbach, das bereits im Echteinsatz Beschwerden gegen Hate-Speech-Entscheidungen der großen Plattformen bearbeitet. Und zwar 1000fach jeden Monat.

    Wir sind ja auch froh, wenn unsere Zahnärztin nicht den guten pneumatischen Bohrhammer vom letzten Hausumbau, sondern ihren Spezial-Fein-Bohrer einsetzt und der Chirurg nicht das große Brotmesser aus seiner Küche, sondern sein steriles Skalpell. Was zudem nochmal auf den "Human in the Loop" verweist: wir brauchen - auch in Jura - Menschen, die mit #Sachverstand und #Empathie am Ende die Kontrollfrage stellen: ist das Ergebnis in einem demokratischen Rechtsstaat unter Beachtung der Grund-und Menschenrechte in Ordnung?

    #Justiz #Gericht #Urteil #Richter*in #JuraBubble #TeamRechtsstaat

    @OhWeh

    @lassegismo

    @Unknowable

    @Moni

  44. Jörg Müller @praesolgka@bawü.social ·

    Zur Rolle von #KI in der #Ziviljustiz: #Rechen-Knecht oder #Robo-Richter?

    Zur Zeit wird in Jura-Kreisen heiß über KI-Einsatz diskutiert. Manche glauben, bald bräuchte es keine Jurist*innen mehr oder zumindest viel weniger. Andere glauben, KI könne nie auch nur annähernd so umfassend abwäge, wie Menschen.

    Nicht selten gilt auch hier: argumentiert wird umso meinungsstärker, je kenntnisärmer die Diskutant*innen sind. Vor allem ein unglaublich wichtiger Aspekt wird praktisch komplett übersehen, von Befürworter*innen wie Gegner*innen.

    Deshalb habe ich versucht, die technisch bedingten Potenziale und Limits von KI, vor allem von Großen Sprachmodellen (#LLM), etwas näher zu beleuchten und daraus abzuleiten, was KI in der Justiz können und dürfen sollte.

    Nachzulesen ab heute in der juris Monatszeitschrift 2026, S. 86-103.

    Viel Spaß!

    #Justiz #Gericht #Richter*in #Urteil #Halluzination #Sprachmodell #ChatGPT #LeChat #JuraBubble #TeamRechtsstaat

  45. Jörg Müller @praesolgka@bawü.social ·

    Zur Rolle von #KI in der #Ziviljustiz: #Rechen-Knecht oder #Robo-Richter?

    Zur Zeit wird in Jura-Kreisen heiß über KI-Einsatz diskutiert. Manche glauben, bald bräuchte es keine Jurist*innen mehr oder zumindest viel weniger. Andere glauben, KI könne nie auch nur annähernd so umfassend abwäge, wie Menschen.

    Nicht selten gilt auch hier: argumentiert wird umso meinungsstärker, je kenntnisärmer die Diskutant*innen sind. Vor allem ein unglaublich wichtiger Aspekt wird praktisch komplett übersehen, von Befürworter*innen wie Gegner*innen.

    Deshalb habe ich versucht, die technisch bedingten Potenziale und Limits von KI, vor allem von Großen Sprachmodellen (#LLM), etwas näher zu beleuchten und daraus abzuleiten, was KI in der Justiz können und dürfen sollte.

    Nachzulesen ab heute in der juris Monatszeitschrift 2026, S. 86-103.

    Viel Spaß!

    #Justiz #Gericht #Richter*in #Urteil #Halluzination #Sprachmodell #ChatGPT #LeChat #JuraBubble #TeamRechtsstaat

  46. Jörg Müller @praesolgka@bawü.social ·

    Zur Rolle von #KI in der #Ziviljustiz: #Rechen-Knecht oder #Robo-Richter?

    Zur Zeit wird in Jura-Kreisen heiß über KI-Einsatz diskutiert. Manche glauben, bald bräuchte es keine Jurist*innen mehr oder zumindest viel weniger. Andere glauben, KI könne nie auch nur annähernd so umfassend abwäge, wie Menschen.

    Nicht selten gilt auch hier: argumentiert wird umso meinungsstärker, je kenntnisärmer die Diskutant*innen sind. Vor allem ein unglaublich wichtiger Aspekt wird praktisch komplett übersehen, von Befürworter*innen wie Gegner*innen.

    Deshalb habe ich versucht, die technisch bedingten Potenziale und Limits von KI, vor allem von Großen Sprachmodellen (#LLM), etwas näher zu beleuchten und daraus abzuleiten, was KI in der Justiz können und dürfen sollte.

    Nachzulesen ab heute in der juris Monatszeitschrift 2026, S. 86-103.

    Viel Spaß!

    #Justiz #Gericht #Richter*in #Urteil #Halluzination #Sprachmodell #ChatGPT #LeChat #JuraBubble #TeamRechtsstaat

  47. Jörg Müller @praesolgka@bawü.social ·

    Zur Rolle von #KI in der #Ziviljustiz: #Rechen-Knecht oder #Robo-Richter?

    Zur Zeit wird in Jura-Kreisen heiß über KI-Einsatz diskutiert. Manche glauben, bald bräuchte es keine Jurist*innen mehr oder zumindest viel weniger. Andere glauben, KI könne nie auch nur annähernd so umfassend abwäge, wie Menschen.

    Nicht selten gilt auch hier: argumentiert wird umso meinungsstärker, je kenntnisärmer die Diskutant*innen sind. Vor allem ein unglaublich wichtiger Aspekt wird praktisch komplett übersehen, von Befürworter*innen wie Gegner*innen.

    Deshalb habe ich versucht, die technisch bedingten Potenziale und Limits von KI, vor allem von Großen Sprachmodellen (#LLM), etwas näher zu beleuchten und daraus abzuleiten, was KI in der Justiz können und dürfen sollte.

    Nachzulesen ab heute in der juris Monatszeitschrift 2026, S. 86-103.

    Viel Spaß!

    #Justiz #Gericht #Richter*in #Urteil #Halluzination #Sprachmodell #ChatGPT #LeChat #JuraBubble #TeamRechtsstaat

  48. Jörg Müller @praesolgka@bawü.social ·

    Zur Rolle von #KI in der #Ziviljustiz: #Rechen-Knecht oder #Robo-Richter?

    Zur Zeit wird in Jura-Kreisen heiß über KI-Einsatz diskutiert. Manche glauben, bald bräuchte es keine Jurist*innen mehr oder zumindest viel weniger. Andere glauben, KI könne nie auch nur annähernd so umfassend abwäge, wie Menschen.

    Nicht selten gilt auch hier: argumentiert wird umso meinungsstärker, je kenntnisärmer die Diskutant*innen sind. Vor allem ein unglaublich wichtiger Aspekt wird praktisch komplett übersehen, von Befürworter*innen wie Gegner*innen.

    Deshalb habe ich versucht, die technisch bedingten Potenziale und Limits von KI, vor allem von Großen Sprachmodellen (#LLM), etwas näher zu beleuchten und daraus abzuleiten, was KI in der Justiz können und dürfen sollte.

    Nachzulesen ab heute in der juris Monatszeitschrift 2026, S. 86-103.

    Viel Spaß!

    #Justiz #Gericht #Richter*in #Urteil #Halluzination #Sprachmodell #ChatGPT #LeChat #JuraBubble #TeamRechtsstaat

  49. Gedanken zur #Prompting #Umfrage:
    Wenn #KI nicht deterministisch funktioniert, wie sollen dann Anleitungen zum "richtigen" Prompten funktionieren?

    Je besser der Prompt 𝑝 den gewünschten Text 𝑡 beschreibt, desto höher ist die #Qualität 𝑞 des KI-Ergebnisses?? Na, wer hätte das gedacht. 😜😅 Nur, dass man den Faktor #Halluzination noch einrechnen müsste...

    Was ist das für eine #Superintelligenz, bei der ich Schuld habe, wenn sie mich nicht versteht? 🤔

  50. „Dabei kann es helfen, sie mit allen Sinnen zu erleben, oder einfach, sich danach Zeit zu nehmen, darüber nachzudenken, zu sprechen oder zu schlafen.“

    taz.de/!6133816

    Das ist ganz wichtig. Mein Sohn, der #Mathematik studiert hat herausgefunden, dass es gut ist, die Hausaufgaben schon mal durchzulesen, auch wenn man sie erst in einigen Tagen machen will. Das Gehirn denkt im Schlaf. Die Hausaufgaben erledigen sich quasi von selbst.

    Und Kekulé hat die Benzolringe auch im Schlaf gefunden:

    de.wikipedia.org/wiki/August_K

    „Auch wer selbst keine Zeit mit dem ­Schreiben von Texten verbracht hat, wird Schwierigkeiten haben einzuschätzen, ob #ChatGPTs Essay wirklich besser ist.“

    Ja. Und wer nichts weiß, kann nicht erkennen, was für Unsinn #LLMs verzapfen und dass man das lieber nicht als Hausarbeit abgeben sollte. Es hilft nur lesen, lesen, lesen und damit seine neuronalen Modelle selber trainieren.

    „Wo sie vor einem Jahr beispielsweise noch in 30 Prozent der Fälle angaben, Fragen nicht beantworten zu können, sank diese Zahl inzwischen nahe null. Im gleichen Zeitraum hat sich die Anzahl halluzinierter Antworten auf 35 Prozent verdoppelt.“

    Ja! Das ist #Wettbewerb. Wenn die Konkurrenz immer was liefert, ist es besser auch eine Antwort zu geben. Das ist #Hochstapler-KI. Die Dummen wählen dann diese Produkte. Ein klarer Geschäftsvorteil und niemand merkt's.

    #KI #Halluzination

  51. „Dabei kann es helfen, sie mit allen Sinnen zu erleben, oder einfach, sich danach Zeit zu nehmen, darüber nachzudenken, zu sprechen oder zu schlafen.“

    taz.de/!6133816

    Das ist ganz wichtig. Mein Sohn, der #Mathematik studiert hat herausgefunden, dass es gut ist, die Hausaufgaben schon mal durchzulesen, auch wenn man sie erst in einigen Tagen machen will. Das Gehirn denkt im Schlaf. Die Hausaufgaben erledigen sich quasi von selbst.

    Und Kekulé hat die Benzolringe auch im Schlaf gefunden:

    de.wikipedia.org/wiki/August_K

    „Auch wer selbst keine Zeit mit dem ­Schreiben von Texten verbracht hat, wird Schwierigkeiten haben einzuschätzen, ob #ChatGPTs Essay wirklich besser ist.“

    Ja. Und wer nichts weiß, kann nicht erkennen, was für Unsinn #LLMs verzapfen und dass man das lieber nicht als Hausarbeit abgeben sollte. Es hilft nur lesen, lesen, lesen und damit seine neuronalen Modelle selber trainieren.

    „Wo sie vor einem Jahr beispielsweise noch in 30 Prozent der Fälle angaben, Fragen nicht beantworten zu können, sank diese Zahl inzwischen nahe null. Im gleichen Zeitraum hat sich die Anzahl halluzinierter Antworten auf 35 Prozent verdoppelt.“

    Ja! Das ist #Wettbewerb. Wenn die Konkurrenz immer was liefert, ist es besser auch eine Antwort zu geben. Das ist #Hochstapler-KI. Die Dummen wählen dann diese Produkte. Ein klarer Geschäftsvorteil und niemand merkt's.

    #KI #Halluzination

  52. „Dabei kann es helfen, sie mit allen Sinnen zu erleben, oder einfach, sich danach Zeit zu nehmen, darüber nachzudenken, zu sprechen oder zu schlafen.“

    taz.de/!6133816

    Das ist ganz wichtig. Mein Sohn, der #Mathematik studiert hat herausgefunden, dass es gut ist, die Hausaufgaben schon mal durchzulesen, auch wenn man sie erst in einigen Tagen machen will. Das Gehirn denkt im Schlaf. Die Hausaufgaben erledigen sich quasi von selbst.

    Und Kekulé hat die Benzolringe auch im Schlaf gefunden:

    de.wikipedia.org/wiki/August_K

    „Auch wer selbst keine Zeit mit dem ­Schreiben von Texten verbracht hat, wird Schwierigkeiten haben einzuschätzen, ob #ChatGPTs Essay wirklich besser ist.“

    Ja. Und wer nichts weiß, kann nicht erkennen, was für Unsinn #LLMs verzapfen und dass man das lieber nicht als Hausarbeit abgeben sollte. Es hilft nur lesen, lesen, lesen und damit seine neuronalen Modelle selber trainieren.

    „Wo sie vor einem Jahr beispielsweise noch in 30 Prozent der Fälle angaben, Fragen nicht beantworten zu können, sank diese Zahl inzwischen nahe null. Im gleichen Zeitraum hat sich die Anzahl halluzinierter Antworten auf 35 Prozent verdoppelt.“

    Ja! Das ist #Wettbewerb. Wenn die Konkurrenz immer was liefert, ist es besser auch eine Antwort zu geben. Das ist #Hochstapler-KI. Die Dummen wählen dann diese Produkte. Ein klarer Geschäftsvorteil und niemand merkt's.

    #KI #Halluzination

  53. „Dabei kann es helfen, sie mit allen Sinnen zu erleben, oder einfach, sich danach Zeit zu nehmen, darüber nachzudenken, zu sprechen oder zu schlafen.“

    taz.de/!6133816

    Das ist ganz wichtig. Mein Sohn, der #Mathematik studiert hat herausgefunden, dass es gut ist, die Hausaufgaben schon mal durchzulesen, auch wenn man sie erst in einigen Tagen machen will. Das Gehirn denkt im Schlaf. Die Hausaufgaben erledigen sich quasi von selbst.

    Und Kekulé hat die Benzolringe auch im Schlaf gefunden:

    de.wikipedia.org/wiki/August_K

    „Auch wer selbst keine Zeit mit dem ­Schreiben von Texten verbracht hat, wird Schwierigkeiten haben einzuschätzen, ob #ChatGPTs Essay wirklich besser ist.“

    Ja. Und wer nichts weiß, kann nicht erkennen, was für Unsinn #LLMs verzapfen und dass man das lieber nicht als Hausarbeit abgeben sollte. Es hilft nur lesen, lesen, lesen und damit seine neuronalen Modelle selber trainieren.

    „Wo sie vor einem Jahr beispielsweise noch in 30 Prozent der Fälle angaben, Fragen nicht beantworten zu können, sank diese Zahl inzwischen nahe null. Im gleichen Zeitraum hat sich die Anzahl halluzinierter Antworten auf 35 Prozent verdoppelt.“

    Ja! Das ist #Wettbewerb. Wenn die Konkurrenz immer was liefert, ist es besser auch eine Antwort zu geben. Das ist #Hochstapler-KI. Die Dummen wählen dann diese Produkte. Ein klarer Geschäftsvorteil und niemand merkt's.

    #KI #Halluzination

  54. „Dabei kann es helfen, sie mit allen Sinnen zu erleben, oder einfach, sich danach Zeit zu nehmen, darüber nachzudenken, zu sprechen oder zu schlafen.“

    taz.de/!6133816

    Das ist ganz wichtig. Mein Sohn, der #Mathematik studiert hat herausgefunden, dass es gut ist, die Hausaufgaben schon mal durchzulesen, auch wenn man sie erst in einigen Tagen machen will. Das Gehirn denkt im Schlaf. Die Hausaufgaben erledigen sich quasi von selbst.

    Und Kekulé hat die Benzolringe auch im Schlaf gefunden:

    de.wikipedia.org/wiki/August_K

    „Auch wer selbst keine Zeit mit dem ­Schreiben von Texten verbracht hat, wird Schwierigkeiten haben einzuschätzen, ob #ChatGPTs Essay wirklich besser ist.“

    Ja. Und wer nichts weiß, kann nicht erkennen, was für Unsinn #LLMs verzapfen und dass man das lieber nicht als Hausarbeit abgeben sollte. Es hilft nur lesen, lesen, lesen und damit seine neuronalen Modelle selber trainieren.

    „Wo sie vor einem Jahr beispielsweise noch in 30 Prozent der Fälle angaben, Fragen nicht beantworten zu können, sank diese Zahl inzwischen nahe null. Im gleichen Zeitraum hat sich die Anzahl halluzinierter Antworten auf 35 Prozent verdoppelt.“

    Ja! Das ist #Wettbewerb. Wenn die Konkurrenz immer was liefert, ist es besser auch eine Antwort zu geben. Das ist #Hochstapler-KI. Die Dummen wählen dann diese Produkte. Ein klarer Geschäftsvorteil und niemand merkt's.

    #KI #Halluzination

  55. Das Problem mit der vierfachen Täuschung
    Chatbots werden als Lernhilfen ange-priesen, als geduldige Nachhilfelehrer, die jederzeit verfügbar sind. Doch hinter der scheinbar harmlosen Fassade verbergen sich vier zentrale Mechanismen, durch die Lernende systematisch in die Irre geführt werden können.. bit.ly/4oD0pGY

    #halluzination, #bias, #chatbot, #lernenmitki, #kiimunterricht, #medienkompetenz, #kikompetenz, #ailiteracy, #aireadiness, #digitalemündigkeit