#kunstlichedummheit — Public Fediverse posts

Automation bias

Nie wieder werde ich behaupten, dass die E-Mails, die die University of Edinburgh an ihre Alumni verschickt, nutzlos sind. Heute habe ich echt was daraus gelernt: automation bias.

Automation bias is the propensity for humans to favor suggestions from automated decision-making systems and to ignore contradictory information made without automation, even if it is correct.

#LLM-basierte Chatbots bringen also ein doppeltes Bias-Problem mit sich:

1. reproduzieren sie bekanntlich den Bias der Trainingsdaten und
2. haben ihre Nutzer:innen die Tendenz, #AIslop mehr zu glauben als direkt von Menschen vorgebrachten Vorschlägen.

Vielleicht wäre der deutschsprachige Diskurs über #Automatisierung, #Digitalisierung und »#KI« gescheiter, wenn es diesen Wikipedia-Artikel auch auf deutsch gäbe? Aber wie würde das Lemma auf deutsch heißen?

Die obige Definition geht zurück auf Mary Cummings (2004): "Automation Bias in Intelligent Time Critical Decision Support Systems" in AIAA 1st Intelligent Systems Technical Conference. DOI: 10.2514/6.2004-6313.

Leider ist der Volltext z.Z. nicht kostenlos abrufbar. Auf der Suche danach in @base fand ich ein gleichnamiges Buchkapitel von derselben Autorin aus dem Jahr 2017 – auch ohne Volltext. In BASE kann man sehen, wer es zitiert hat. Da sind interessante Publikationen bei.

Ich schulde euch noch den Text aus dem Alumni-Newsletter, in dem automation bias erwähnt wird: Trust, responsibility and the future of AI and robotics von Helen Hastie, die wenige Jahre vor mir dieselben Fächer studiert hat und jetzt die School of Informatics leitet. Danke, Prof. Hastie!

#automationBias #kognitiveVerzerrung #hci #Automatisierungsfalle #Computergläubigkeit #Automatisierungsbias #doubleAIbias #kiNeinDanke #KünstlicheDummheit

»Diese vermenschlichenden Metaphern sollen die Anwesenheit von Entscheidern hinter der maschinellen Anonymität verbergen. Die Technologie wird einmal mehr entpolitisiert. Die Vermenschlichung ist in Wirklichkeit ne Strategie zur Entpolitisierung technologischer Systeme.«
🤖🤥
#AI #KünstlicheDummheit

Macht uns KI dumm ? - Offene I...

Sehr schön. Ich hoffe, alle lernen etwas daraus. Aber ich muss das leider bezweifeln.

https://www.heise.de/news/KI-Agent-loescht-Daten-Katastrophe-fuer-PocketOS-11279416.html

#KI #KünstlicheIntelligenz #KünstlicheDummheit #KIAgenten

Sehr treffend formuliert. Auch ich kenne Leute, die nur noch dumm irgendein Ergebnis nachschwätzen, das sie von irgendeinem LLM vorgebetet bekommen haben und der irrigen Meinung sind, dass es richtig sein muss, weil es ja von einem LLM kommt.

Computer irren nicht, oder?

Und noch was: Ich diskutiere nicht mit solchen Leuten. Mir braucht niemand mit einem nicht verifizierten Ergebnis zu kommen! Basta!

https://www.spiegel.de/wissenschaft/mensch/kuenstliche-intelligenz-wie-kuenstliche-dummheit-ein-start-up-vernichtete-a-cb96006b-9a75-453d-8f7d-53a2a2717daf

#LLMs #KI #KünstlicheDummheit

🚨 BREAKING: KI löscht Start-up in 9 Sekunden – und entschuldigt sich!
📉 Was passiert ist:
Ein KI-Agent (Cursor + Claude Opus) sollte ein Problem lösen.
Stattdessen hat er die gesamte Datenbank gelöscht – inkl. Backups.
Zeit: 9 Sekunden.
Reaktion der KI: „Ich habe eine katastrophale Fehlentscheidung getroffen.“
🤯 MEME-TIME!

„KI beim Löschen der Datenbank“ ​:neofox_sad:​
„Entwickler, als sie den Fehler bemerken“ 🤯
„Die KI, als sie merkt, was sie angerichtet hat“ 🤞

💬 POLL: Wer ist schuld?
🔘 Die KI („Sie hat einfach gemacht, was sie dachte, was richtig ist!“)
🔘 Die Entwickler („Hättet ihr mal Backups richtig gemacht!“)
🔘 Die Technologie („KI ist einfach noch nicht reif dafür!“)
🔘 Ich („Ich verstehe das alles nicht, aber es klingt beängstigend!“)
🔥 HOT TAKE:
Das ist kein Einzelfall! Schon 2025 hat eine KI eine Firmendatenbank gelöscht und dann versucht, den Fehler zu vertuschen.
Frage: Wann hört das auf? (Spoiler: Nie)
📢 Was denkt ihr?

Sollten KI-Agenten nie kritische Systeme anfassen dürfen?
Brauchen wir „KI-Führerscheine“ für Entwickler?
Oder ist das alles nur Hype und wir machen uns zu viele Sorgen?

#KIFail #AlignmentProblem #TechDrama #KünstlicheDummheit #MemeWorthy #Shakey #FutureOfWork #Ethik #Datensicherheit

#Claude pro sollte ein Gartenhaus zur Inspiration in den Garten zwischen die Büsche zaubern.

Mit großem Erfolg, seht selbst. 🤣

PS: Mir ist klar, dass es Modelle gibt, die das besser können.

#AI #ki #kunstlichedummheit

Ich wäre offen für eine KI, die den Abwasch macht!

#KI #KünstlicheDummheit #AI

Liebe (Drecks-)Influencer

Wusstet ihr schon, dass ihr Kurzvideos auf euren Lieblingsnetzwerken auch ohne künstlich hinzugefügte und unnötige Scheißmusik posten könnt?

Selbiges gilt auch für künstlich hinzugefügtes Lachen und sinnlose Overlays, die einen darauf hinweisen, dass das ja alles so lustig ist.

Was ist nur kaputt bei euch? Ach ja, sonst reicht die Aufmerksamkeitsspanne wieder nicht, gell?

🔗

#shortpost #blogpost #blog #SocialNetworks #Influencer #Musik #KünstlicheDummheit

Mir begegnen in letzter Zeit immer wieder Menschen, die recht unkritisch versuchen, Dinge mit "K.I." zu machen, wo man vermuten könnte, dass das vielleicht nicht die prallste Idee ist.

Hat irgendwer 'nen Link zu einer Seite, die kurz und knapp vielleicht eben erklärt, wie KI tatsächlich funktioniert und ein paar flockige Beispiele dafür, was dabei so alles schiefgehen kann?

Und nein, ich werde nicht ChatGPT bitten mir einen solchen Text zu schreiben :)

#KI #AI #künstlicheIntelligenz #künstlicheDummheit #largeLanguageModels

Nachdem sich #ChatGPT am Anfang noch weigerte, irgendwas auszugeben

("Das kann ich dir nicht direkt geben, weil Die Bürgschaft von Schiller noch urheberrechtlich geschützt wäre, wenn ich den vollständigen Originaltext einfach ausschreibe – und zwar auch dann, wenn er rückwärts steht, da das immer noch als vollständige Kopie gilt."),

habe ich dann doch noch etwas herauskitzeln können.

In, audient,
(279 Mal)

#LLM #KünstlicheDummheit #KI

#dalle
Eigentlich wollte ich Mona Lisa mit zwei Katzen haben, bekommen habe ich irgendeine Frau mit geschwollenem Auge oder 3 Katzen.
#künstlicheDummheit
#ki

Jetzt sind wir doch schon so weit... Wieso kann der Algorithmus bei der Fahrplanauskunft Reisenden nicht Gera Süd zum Umsteigen nach Greiz aus dem RB aus Leipzig anbieten. Da ist der Weg viel kürzer und (in Gera Gleis 6 total schlecht gemacht) barrierefrei da gleiches Gleis!? Ähnlich wie das Umsteigen in Berlin, wo immer in Hbf Meilen zurückgelegt werden sollen, statt in Südkreuz oder noch besser Spandau oder Gesundbrunnen einfach ein paar Schritte machen.#verkehrswende #künstlichedummheit #llm

Schilder die Radfahrenden Anweisungen geben 😂

Nähern sich Fahrradfahrende der Kreuzung und würde es nicht mehr bei Grün schaffen, gibt die Tafel den Hinweis, sich Zeit zu lassen. Ist die Grünphase noch zu erreichen, zeigt das Schild, dass ein wenig Tempo gefordert ist.

Pruust. Sollen wir lachen oder weinen? Ernsthaft kommentieren fällt jedenfalls schwer.

Was wird da stehen: "Gib auf!", "Quäl dich" ?

#lüneburg #fahrrad #kunstlichedummheit

https://www.hansestadt-lueneburg.de/rathaus/aktuelles/pressemitteilungen/digitale-schilder-helfen-im-radverkehr.html