#techdefense — Public Fediverse posts on home.social

RT @jun_song: Hier ist der Grund, warum wir @huggingface davor schützen müssen, gesperrt zu werden: Viele Leute denken, wir könnten einfach Modelle mit BitTorrent auf PirateBay herunterladen und damit fertig sein. Aber HF ist nicht nur ein Repository für Gewichte – es spielt eine massive Rolle bei der Erkennung von Malware in Modellen durch Safetensor-Inspektionen. Dies bewahrt uns vor Modellen, die mit Malware durchsetzt sind, und das Einbetten versteckter bösartiger Codes in Gewichte oder Prompt-Vorlagen ist weitaus einfacher, als die meisten denken. Wir hatten am Anfang dieses Jahres auf clawhub eine ganze Reihe genau solcher Probleme.