#airisiko — Public Fediverse posts

#Steady #Klimacrew

Wenn #Sprachmodelle plötzlich menschenverachtende Aussagen treffen oder gefährliche Tipps geben, läuft etwas gewaltig schief.

Eine aktuelle Untersuchung zeigt, wie schnell #Feintuning unerwartete Folgen haben kann – mit brisanten Konsequenzen für reale Anwendungen.

Das Phänomen wurde nur durch Zufall entdeckt.

https://tino-eberl.de/missbrauch-kuenstlicher-intelligenz/gefaehrliches-finetuning-ki-modelle-koennen-aus-dem-ruder-laufen/

#KI #Sprachmodelle #Finetuning #AIRisiko #LLM #AISecurity #KIMissbrauch #Retröt