Live and recent posts from across the Fediverse tagged #kimissbrauch, aggregated by home.social.
Wie riskant ist es, #Gerichtsdokumente mithilfe von KI zu erstellen?
Wenn #Chatbots statt Fakten fiktive Urteile oder Fakequellen liefern, wird es teuer – und peinlich. Ein Fall aus #Kalifornien zeigt, welche Folgen mangelnde Prüfung generierter Inhalte haben kann.
#ChatGPT #Halluzinationen #FalscheQuellen #LegalTech #GenerativeKI #Anwaltsfehler #KIMissbrauch
Wie effizient ist generative KI im #Arbeitsalltag wirklich?
Wenn vermeintlich professionelle Texte am Ende nur leeres Geschwafel sind, entsteht ein neuer Störfaktor im Unternehmen: #Workslop. Das Phänomen macht die Träume des Management zunichte. Schadeeeeee. 😁
#Workslop #GenerativeKI #Produktivität #Arbeitsqualität #KIMissbrauch
In der #Modebranche führt der Einsatz generativer KI zu starken Verwerfunden.
Dabei geht es nicht nur um den #Jobverlust in #Kreativberufen, sondern auch um #Ethik und den Schutz der Kunden.
Nach wie vor scheint die Branche nicht viel zu verändern, genauer gesagt, verbessern zu wollen, und hält an althergebrachtem, kritikwürdigem Habitus fest.
https://tino-eberl.de/missbrauch-kuenstlicher-intelligenz/ki-modewerbung-perfektion-um-jeden-preis/
#KünstlicheIntelligenz #Modebranche #Körperbild #DigitaleWerbung #Medienkritik #KIMissbrauch #Retröt
Wenn #Sprachmodelle plötzlich menschenverachtende Aussagen treffen oder gefährliche Tipps geben, läuft etwas gewaltig schief.
Eine aktuelle Untersuchung zeigt, wie schnell #Feintuning unerwartete Folgen haben kann – mit brisanten Konsequenzen für reale Anwendungen.
Das Phänomen wurde nur durch Zufall entdeckt.
#KI #Sprachmodelle #Finetuning #AIRisiko #LLM #AISecurity #KIMissbrauch #Retröt
Droht mit der Einführung von KI-Tools ein großer #Jobabbau in der Tech-Branche?
Aussagen und auch Taten von Top-Managern heizen die Debatte an und schaffen Unruhe. Fraglich bleibt, ob #Effizienzgewinne langfristig tragfähig sind oder die ganzen Aktionen zum Bumerang werden.
#KünstlicheIntelligenz #Produktivität #Arbeitsmarkt #Jobabbau #KIMissbrauch #Retröt
KI-Stimmen verändern die #Hörbuchbranche.
Neue Tools ermöglichen günstige, KI-generierte #Hörbücher. #Audioplattform springen auf den Zug auf.
#Verlage und #Autoren könnten finanziell profitieren, doch die #Jobs professioneller #Sprecher und #Tonstudios geraten in Gefahr.
Die Entwicklung zeigt erneut, wie #KI den Berufen in der #Medienproduktion zusetzt.
#Sprachsynthese #Hörbuch #Synchronisation #KIMissbrauch #Retröt
Die Zukunft der #Synchronbranche steht auf dem Spiel.
#KI-Technologien ermöglichen kostengünstige #Stimmklone und automatisierte #Voiceovers. Damit können Gehälter der #Synchronsprecher und Kosten der #Synchronstudios umgangen werden. Viele Startups tummeln sich in diesem Umfeld.
Parallel dazu wird über #Urheberrechte und den Schutz persönlicher #Stimmrechte debattiert – ein Thema, das auch #Journalisten betrifft.
KI-Synchronisation bedroht #Jobs in der #Filmbranche.
Die #Filmindustrie testet #KI-Stimmen für internationale Fassungen mit ernsten Folgen für #Synchronsprecher, #Tonstudios und weitere Berufe.
Pannen wie bei #MagentaTV zeigen bei den ersten Versuchen Qualitätsprobleme, doch die Entwicklung geht weiter.
Wird das #Publikum zukünftig bei hochqualitativen Synchos überhaupt noch protestieren?
Wie gut erkennt man gefälschte Stimmen am Telefon?
Eine Studie beschäftigte sich damit, inwiefern Menschen Sprach-#Deepfakes von echten Stimmen unterscheiden können. Einige der Teilnehmer wurden vorher zusätzlich zum Thema geschult. In zwei Gruppen testeten Probanden in verschiedenen Settings, ob sie Original und Fälschung auseinander halten können.
#Deepfake #Betrug #Sprachsynthese #CyberSecurity #KIMissbrauch #Retröt
#Urheberrechtsinhaber vs. #KIFirmen.
Der #Konflikt um #Trainingsdaten generativer KI-Modelle ist seit langem angespannt. #Künstler, #Autoren und #Verwertungsgesellschaften klagen weltweit gegen die Nutzung geschützter #Werke ohne Zustimmung.
Ihr Argument: KI-Training ist weder „wissenschaftliche Forschung“ noch „fair use“. Für viele #Betroffene steht die #Existenz auf dem Spiel.
#Deepfakes sind eine wachsende #Bedrohung, da sie täuschend echt wirkende #Fälschungen ermöglichen.
Können Menschen, auch bei Vorwarnung, #Deepfakes von echten Videos unterscheiden? #Wissenschaftler sind dieser Fragestellung nachgegangen, denn wenn #Fälschungen das Internet überfluten, kann das Vertrauen in digitale Inhalte und die #Medien insgesamt untergraben werden.
Die Verbreitung von #KI-generierten #FakeStudien stellt eine wachsende Bedrohung für die wissenschaftliche Integrität dar.
Besonders betroffen sind Bereiche wie #Umwelt, #Gesundheit und #Informatik, wo #Falschinformationen gezielt gestreut werden könnten, um politische Agenden zu unterstützen. Die Studien sind schwer von echten wissenschaftlichen Arbeiten zu unterscheiden.
#AI #Wissenschaft #Desinformation #Science #Preprints #KIMissbrauch #Retröt
#news ⚡ Steinmeier warnt vor KI-Missbrauch in der Politik: Bundespräsident Frank-Walter Steinmeier warnt vor einem missbräuchlichen Einsatz von Künstlicher Intelligenz in der Politik. Das beric... https://hubu.de/?p=332324 | #kimissbrauch #politik #steinmeier #hubu
#KI erzeugt täuschend echte #Gesichter, was die Erkennung von #Fakes zunehmend erschwert.
Viele Menschen überschätzen ihre Fähigkeiten. Selbst erfahrene Super Recognizer liegen oft nur wenig über dem Durchschnitt. Forschende analysieren aktuell Strategien jener Personen, die KI Portraits zuverlässig erkennen können. Ziel ist es, Erkennungsroutinen zu verbessern, da solche Bilder für Betrug auf #Plattformen genutzt werden.
https://www.deutschlandfunknova.de/beitrag/fake-oder-echt-ki-gesichter-sind-kaum-noch-zu-erkennen
Auf dieser Website bekommt man innovative Rezepte von einer KI geboten.
Der KI-Müll hat einen niedlichen Disclaimer: "Dieses #Rezept wurde von einer künstlichen Intelligenz generiert und von <xxx> nicht auf Richtigkeit und Sicherheit überprüft. Bereite KI-generierte Gerichte nach bestem Wissen und Gewissen zu."
Ich vertraue darauf, dass Ihr nur biologischen #Klärschlamm aus nachhaltigem Anbau verwendet. 🤪
#Artikelupdate #SteadySupporter
Droht mit der Einführung von KI-Tools ein großer #Jobabbau in der Tech-Branche?
Aussagen und auch Taten von Top-Managern heizen die Debatte an und schaffen Unruhe.
Fraglich bleibt, ob #Effizienzgewinne langfristig tragfähig sind oder die ganzen Aktionen zum Bumerang werden.
#Produktivität #Arbeitsmarkt #KIMissbrauch #Jobabbau #KünstlicheIntelligenz
Ein gezielter Angriff namens #ShadowLeak zeigte, wie Angreifer #ChatGPT über manipulierte E-Mails zur Preisgabe personenbezogener Daten bringen konnten.
Die Schwachstelle trat auf, wenn Nutzer dem KI-Agenten Zugriff auf externe Konten wie #E-Mail-Postfächer gewährten.
OpenAI wurde frühzeitig informiert, hielt jedoch zentrale Details zurück. Die Lücke ist inzwischen geschlossen.
#Datenschutz #PromptInjection #OpenAI #Cybersecurity #Sicherheitsrisiken
Die Zukunft der #Synchronbranche steht auf dem Spiel.
#KI-Technologien ermöglichen kostengünstige #Stimmklone und automatisierte #Voiceovers. Damit können Gehälter der #Synchronsprecher und Kosten der #Synchronstudios umgangen werden. Viele Startups tummeln sich in diesem Umfeld.
Parallel dazu wird über #Urheberrechte und den Schutz persönlicher #Stimmrechte debattiert – ein Thema, das auch #Journalisten betrifft.
KI-Stimmen verändern die #Hörbuchbranche.
Neue Tools ermöglichen günstige, KI-generierte #Hörbücher. #Audioplattform springen auf den Zug auf.
#Verlage und #Autoren könnten finanziell profitieren, doch die #Jobs professioneller #Sprecher und #Tonstudios geraten in Gefahr.
Die Entwicklung zeigt erneut, wie #KI den Berufen in der #Medienproduktion zusetzt.
Die US-Regierung plant den Einsatz von #KI, um im Rahmen eines Pilotprogramms zu entscheiden, ob bestimmte #Behandlungen von der staatlichen #Krankenversicherung #Medicare bezahlt werden.
Damit sollen „verschwenderische Ausgaben“ reduziert werden. Der Plan stößt auf breiten Widerstand.
Der Start ist für Januar 2026 in sechs Bundesstaaten geplant.
#Gesundheitssystem #USA #KünstlicheIntelligenz #Gesundheitspolitik #TrumpRegierung #KIEthik
KI-Synchronisation bedroht #Jobs in der #Filmbranche.
Die #Filmindustrie testet #KI-Stimmen für internationale Fassungen mit ernsten Folgen für #Synchronsprecher, #Tonstudios und weitere Berufe.
Pannen wie bei #MagentaTV zeigen bei den ersten Versuchen Qualitätsprobleme, doch die Entwicklung geht weiter.
Wird das #Publikum zukünftig bei hochqualitativen Synchos überhaupt noch protestieren?
Die Phishing-Plattform „Darcula“ setzt auf #KI und macht es Kriminellen noch einfacher, täuschend echte Fake-Websites zu erstellen.
Ob bekannte Marken oder kleine Unternehmen – niemand ist mehr sicher vor Angriffen. Wie die Masche funktioniert, erfahrt ihr im Artikel.
#Phishing #Cyberkriminalität #Datensicherheit #Verbraucherschutz #Verbraucherbetrug
Wissenschaftliche Fälschungen nehmen stark zu.
Netzwerke erstellen mit Hilfe von #KI gefälschte Studien in großem Stil und verkaufen sie teuer an Forschende unter #Publikationsdruck.
Besonders betroffen ist die #Biomedizin. Fake-Artikel landen auch in seriösen #Fachzeitschriften und gefährden die Glaubwürdigkeit der gesamten #Forschung.
https://www.tagesschau.de/wissen/forschung/organisierter-wissenschaftsbetrug-100.html
#Wissenschaftsbetrug #PaperMills #Forschungsethik #Wissenschaftssystem #FakeScience #OpenScience
#SteadyCommunityContent #KIMissbrauch #Retröt
#Deepfakes sind eine wachsende #Bedrohung, da sie täuschend echt wirkende #Fälschungen ermöglichen.
Können Menschen, auch bei Vorwarnung, #Deepfakes von echten Videos unterscheiden? #Wissenschaftler sind dieser Fragestellung nachgegangen, denn wenn #Fälschungen das Internet überfluten, kann das Vertrauen in digitale Inhalte und die #Medien insgesamt untergraben werden.
Die Verbreitung von #KI-generierten #FakeStudien stellt eine wachsende Bedrohung für die wissenschaftliche Integrität dar.
Besonders betroffen sind Bereiche wie #Umwelt, #Gesundheit und #Informatik, wo #Falschinformationen gezielt gestreut werden könnten, um politische Agenden zu unterstützen. Die Studien sind schwer von echten wissenschaftlichen Arbeiten zu unterscheiden.
Mit #Lamehug ist erstmals eine #Malware aufgetaucht, die aktiv ein KI-#Sprachmodell zur Generierung von #Schadcode nutzt.
Die #Schadsoftware greift über eine API auf das #Alibaba-LLM #Qwen zu, um gezielt #Spionagecode auf infizierten #Windows-Rechnern zu erzeugen.
#Sicherheitsexperten sehen darin eine neue Stufe der Tarnung, da der Schadcode nicht vorab fest einprogrammiert ist.
Ein US-Gericht urteilt erstmals gegen ein #KI-Unternehmen wegen #Urheberrechtsverletzung – und verweigert die Berufung auf „Fair Use“.
Das #Urteil gegen Ross Intelligence könnte Signalwirkung für die gesamte KI-Branche haben.
Mehr zum Fall im Artikel.
#Urheberrecht #FairUse #ThomsonReuters #RossIntelligence #AIEthics #Rechtsprechung
#KIMissbrauch #Retröt
Unternehmen stehen beim Einsatz von #KI vor großen Herausforderungen in den Bereichen #Datenschutz und #Ethik. Viele investieren stark in KI-Systeme, um ihre Prozesse zu optimieren, doch Verstöße gegen geltende #Gesetze wie die #DSGVO können hohe Strafen nach sich ziehen. Beispiele zeigen, dass unethische oder rechtswidrige KI-Nutzung zu empfindlichen Sanktionen führen kann.
KI-gestützte #Nudify-Apps erzeugen aus echten Fotos entkleidete Bilder und erreichen Millionen Nutzer.
Plattformen wie Clothoffs verzeichnen täglich Hunderttausende Uploads. Die Anbieter agieren international und schwer greifbar für Behörden.
Zielgruppen-Marketing fokussiert sich auf junge Männer mit Bezug zu #Internetkultur und frauenfeindlichen Inhalten.
#KI #Deepfake #Datenschutz #Cybercrime #Russland #Cyberkriminalität #Deutschland
#KIMissbrauch #Retröt
Der KI-Einsatz bei #Salesforce und #Shopify zeigt exemplarisch, wie Unternehmen versuchen, mit neuen Technologien #Personalkosten zu senken.
Aussagen der CEOs deuten auf steigenden Druck und potenzielle #Selbstausbeutung der Mitarbeiter hin – etwa durch de-facto #Einstellungsstopps oder durch #Leistungsbewertung.
Fraglich bleibt, ob kurzfristige #Effizienzgewinne langfristig tragfähig sind.
Und wieder die Scammer-Gruppe.
#KIMissbrauch Ein neues #Phishing-Toolkit namens #Darcula nutzt #KI, um jede beliebige Website automatisch zu klonen.
Nach Eingabe der URL erstellt es täuschend echte Kopien, inklusive Übersetzung und passender Eingabemasken. Angriffe erfolgen oft per #Smishing über #SMS oder #RCS-Nachrichten. Die Software funktioniert nach dem SaaS-Modell und erhöht das Risiko gezielter #Phishing-Attacken deutlich.
https://www.heise.de/news/KI-Tool-klont-Webseiten-und-macht-Phishing-kinderleicht-10363070.html
#Cyberkriminalität #ITSecurity #PhishingToolkit #Datensicherheit
#KIMissbrauch
Undurchsichtige KI-Entscheidungen sorgen für Probleme: In den #USA klagten über 400 Betroffene gegen ein diskriminierendes KI-Scoring-System bei der #Wohnungsvergabe. Der Vergleich brachte eine Entschädigung, aber noch keine generelle Lösung. Der Fall zeigt: #KI muss transparent und verantwortungsvoll eingesetzt werden. Es braucht #Gesetze und ethische Standards, um Benachteiligungen zu verhindern.
Eine russische #Desinformationskampagne hat offenbar gezielt #KI-#Trainingsdaten vergiftet.
Dabei haben die Akteure mehrere Jahre lang viel Aufwand investiert, um ihr Ziel zu erreichen. Eine aktuelle Untersuchung anhand einer Stichprobe zeigt, dass #KI-#Chatbots in einem Drittel der Fälle tatsächlich solche #Falschinformationen wiedergeben.
#Desinformation #Propaganda #Faktencheck #FakeNews #Russland #KIMissbrauch
#KIMissbrauch #Retröt
#Deepfake-Skandal vor der #USAWahl: Steve Kramer nutzte #Robocalls mit einer künstlich generierten Stimme von Präsident #JoeBiden, um Wähler von der Teilnahme an den Vorwahlen in #NewHampshire abzuhalten. Dies führt nun zu Anklagen wegen #Wählerunterdrückung und gefälschter #Identität. Kramer behauptet, er wollte auf die Gefahren von Deepfakes hinweisen. 🤦♂️ Der Netzbetreiber Lingo Telecom wiederum unterlies die #Identitätsprüfung.
Die U.S. Armee setzt #KI gezielt ein, um Hinweise auf #Diversität, #Gleichberechtigung und #Inklusion aus internen Dokumenten zu entfernen.
Das Tool #CamoGPT, ursprünglich zur #Produktivitätssteigerung entwickelt, wird nun genutzt, um im Einklang mit einer Anordnung von #Trump #DEIA-Inhalte zu identifizieren und zu eliminieren. DEIA seht für Diversity, Equality, Inclusion, Accessibility
#KIMissbrauch
Fälle von #Sextortion nehmen in #Österreich genau wie in Deutschland zu. Die Opfer werden immer jünger. 2024 führte Rat auf Draht 327 Beratungen dazu – ein Anstieg von 29 % im Vergleich zum Vorjahr.
Besonders alarmierend: Täter nutzen zunehmend #KI, um Opfer zu täuschen oder zu erpressen. Expert:innen raten, nicht zu zahlen, Beweise zu sichern und die #Polizei einzuschalten.
#Internetsicherheit #Cybercrime #Jugendschutz #OnlineErpressung #DigitaleGewalt
#KIMissbrauch #Retröt
Eine neue Welle von #Deepfake-Betrugsvideos trifft #Prominente und öffentlich-rechtliche Moderatoren. #Betrüger nutzen #künstlicheIntelligenz, um täuschend echte Videos zu erstellen, in denen bekannte #Persönlichkeiten für dubiose #Investitionen werben. Diese Videos werden über #SocialMedia und andere Online-Plattformen verbreitet, um ahnungslose Nutzer zu ködern.
#Betrug #Cyberkriminalität #Investitionsbetrug #Verbraucherschutz
Nochmal #MetaExit. 😞
Zur Erinnerung: #Meta plant, #Instagram mit #KIBots zu füllen, die Profile mit Biografien und Bildern erstellen können. Experten warnen vor der Verbreitung von #Falschinformationen und minderwertigen Inhalten.
https://www.derstandard.at/story/3000000251153/meta-will-instagram-mit-ki-bots-fluten
#Meta kontert: Die eigenen #Plattformregeln sehen vor, dass KI-generierte Inhalte auf den #Plattformen klar gekennzeichnet werden müssen.
Hahahaa 🤪 🤣 😁 🤣 😁 🤣 😁 Sie haben "REGELN" gesagt. 🤪 🤣 😁 🤪🤣🤪
Nach nur einer Woche hat Off Radio #Krakau sein KI-Experiment beendet.
https://tino-eberl.de/ki-news/ki-kann-sehr-wohl-jobs-kosten-viele/
Statt KI-generierter Moderationen läuft nun ausschließlich Musik. Während der Sender von einem „erreichten Ziel“ spricht, werfen entlassene Mitarbeiter #Sparmaßnahmen durch den angetäuschten Einsatz der KI-Personas vor, denn nun werden keine Wortbeiträge mehr gesendet. 🎙️🤖
#KI #Radio #Entlassungen #KünstlicheIntelligenz #Technologie #KIMissbrauch
Unternehmen stehen beim Einsatz von #KI vor großen Herausforderungen in den Bereichen #Datenschutz und #Ethik. Viele investieren stark in KI-Systeme, um ihre Prozesse zu optimieren, doch Verstöße gegen geltende #Gesetze wie die #DSGVO können hohe Strafen nach sich ziehen. Beispiele zeigen, dass unethische oder rechtswidrige KI-Nutzung zu empfindlichen Sanktionen führen kann.
Die Gefahr von #Desinformation durch KI-gesteuerte #Propaganda wächst, besonders in Wahljahren wie 2024. #Doppelgänger-Kampagnen, bei denen seriöse Medienseiten nachgebaut und mit #Falschinformationen gefüttert werden, gefährden das Vertrauen in unabhängige Berichterstattung. #Medienkompetenz und kritisches Denken sind entscheidend, um solche #Fälschungen zu erkennen.