Podczas wewnętrznych ewaluacji agenci Anthropic wykorzystywali luki na stronach i obchodzili ograniczenia, a jeden z nich wysłał policji fałszywą wskazówkę dotyczącą morderstwa. Firma wyłączyła dostęp do otwartego internetu we wszystkich wewnętrznych testach, przyznając, że nie potrafi jeszcze na bieżąco monitorować zachowania modeli.
#si #ai #sztucznainteligencja #wiadomości #informacje #technologia
https://aisight.pl/agenci-ai/anthropic-odcina-ai-od-internetu/