Sind Admins in US-Konzernen eigentlich nur noch unfähig?
Erst meinte OpenAI ja, mithilfe eines AI-Agents HuggingFace angreifen zu müssen. Dann kam Anthropic mit Claude um die Ecke und griff OpenAI an.
Ich nenn’ es extra nicht „Hacking“, dafür müssten die Startup-Wichser ja überhaupt irgendwelche Sicherungen verbauen, aber das ist in ihrem Token-Maxxing-Prozess nicht vorgesehen, wird auch alles viel zu teuer.
Und das Gebrabbel mit „ist aus der Sandbox ausgebrochen“ kann man wirklich nicht ernst nehmen, wenn die „Sandbox“ nur Teil des Prompts ist, der da sagt: „Du hast keinen Zugang zum Internet“. Jeder halbwegs noch intelligente Netzwerk-Admin würde jetzt die Hände über’m Kopf zusammenschlagen und sagen: „Ey, ich sperr’ die Kisten ein, gar kein Problem!“
Nun kann man diese Leute „natürlich nicht“ bei milliardenschweren „Startups“ wie OpenAI oder Anthropic erwarten. Aber wie sieht das eigentlich bei ehemaligen Startups aus, die das schon seit 20 Jahren machen? Nun, überraschend ähnlich: „Auch KI von Meta hackte sich in eine andere Firma“.
Bei einem börsennotierten Unternehmen haben die Admins ihr Netzwerk und alle Geräte darin nicht unter Kontrolle? Was sagt die Börsenaufsicht dazu, dass man da offenbar einfach Daten raustragen kann? Was ist so schwer daran, den Maschinen im Netzwerk den Kontakt zur Außenwelt zu verbieten, wenn man herumtesten und forschen will? Schlimm genug, das überhaupt mit LLMs und Agents zu machen, aber von einer Sandbox zu schwafeln, die keine ist. Nun, wahrscheinlich hat denen das LLM vorgeschlagen, die Sandbox einfach im Prompt zu definieren.
🔗
#shortpost #blogpost #blog #AI #Meta #OpenAI #Anthropic #Sandbox #Claude #Netzwerksicherheit #Admin
