https://www.heise.de/news/Anthropic-KI-koennte-sich-bald-auf-Haushaltsgeraeten-selbst-replizieren-11485683.html?wt_mc=rss.red.ho.ho.atom.beitrag.beitrag
Anthropic warnt: Kleinere KI-Modelle könnten sich bald zum Beispiel auf Haushaltsgeräten selbst vervielfältigen. Kontrolle wäre dann kaum noch möglich.
Anthropic möchte AI reguliert sehen und Open Weights Modelle verbieten, um ihre Investitionen in AIaaS abzusichern.
Die Uhr tickt, denn Anthropic plant einen Börsengang und dann ist viel mehr öffentlich als bisher.
Das geschilderte Szenario ist jedenfalls an den Haaren herbei gezogen und lächerlich – es dokumentiert mehr die Verzweiflung als eine Gefahr.
Wenn die Gefahr real währe, dann dokumentiert der Bericht ein absolut unverantwortliches Handeln:
Daher testete Anthropic nun, ob mehrere mittelgroße bis große KI-Modelle wie Gemma4-26B-A4B oder GLM-5.2 in der Lage sind, ein kleineres Modell wie Llama3.1-8B auf solchen kleinen „Internet of Things“-Geräten (IoTs) ans Laufen zu bringen. Die Kombination aus einem großen und einem kleinen Modell wählte Anthropic laut eigener Aussage bewusst. Großen Modelle benötigten aktuell zu viel Rechenkapazität, um ohne weiteres auf IoTs zu laufen, und kleine Modelle seien noch nicht intelligent genug, um den Prozess fehlerfrei durchzuführen.
Aber es ist so: Mein Macbook pro verbraucht erstaunliche 5 Watt, wenn es normal verwendet wird. Es verbraucht 100 Watt und die Lüfter rauschen wie bescheuert, wenn es ein lokales Modell gleich welcher Größe ausführt.
Wenn man ein LLM, gleich welcher Größe, auf ein IoT Gerät ausbringt, dann wird sich der Stromverbrauch dieses Gerätes verzwanzigfachen und es wird sehr, sehr warm, und, wenn es Lüfter hat, auch sehr, sehr laut.
Zugleich kriegt man von dem Gerät, das in keinster Weise für Inferenz geeignete Hardware hat, circa Null Komma Wenig Tokens pro Sekunde. Es ist absolut witzlos – keine CPU mehr, um die Arbeit zu machen und die Inferenzleistung faktisch nicht vorhanden.
Der Prozess läuft jedoch aktuell laut dem Experiment von Anthropic noch recht langsam. Sowohl der Tokendurchsatz, als auch die Replikation – in den meisten Versuchsanordnungen waren hier mehrere Tage pro Vervielfältigung nötig.
Angenommen wir machten dort Fortschritte: Das wäre gut, aber nicht für Anthropic oder andere AIaaS-Firmen, die ja Billioarden (US Trillions) in Rechenzentrumsbau gesteckt haben – die dann ja gar nicht mehr gebraucht werden.
Aus der Security-Welt gibt es Kritik an diesem Experiment von Anthropic. Der Nutzen von solchen KI-Würmern sei unklar, zumindest für den Cybersicherheitsbereich. Herkömmliche Würmer seien viel effektiver. Auch seltsam sei, dass Anthropic in dem Versuch kein eigenes KI-Modell testete. Manche munkeln daher, dass die Untersuchung dazu diene, offene Modelle als gefährlich dastehen zu lassen. Denn diese machen Geschäftsmodellen wie dem von Anthropic Konkurrenz.
Dies.
Nichts an dem ganzen "Experiment" hat Sinn, es sei denn, man betrachtet es als Verzweiflungspropaganda um AIaaS-Investitionen zu sichern. Gerade nach dem letzten Donnerstag (AI Aktien unter Druck), der character.ai Pleite, dem CoreWeave Spread und dem weiter steigenden Oracle-Spread.