Planował zabić swoją ex-dziewczynę, ale ChatGPT poinformował o tym policję.
Ludzie korzystają z AI do różnych celów. Niestety pewien 25-latek postanowił skorzystać z ChataGPT do stworzenia planu porwania, zgwałcenia i zabójstwa swojej byłej dziewczyny. Rozmowa została oflagowana a OpenAI powiadomiło o niej służby (choć bez odpowiedzi samego chatbota).
Powyższa ilustracja została syntetycznie wygenerowana z wykorzystaniem sieci neuronowej podczas procesu inferencji modelu generatywnego typu text-to-image
Bohaterem tych wydarzeń jest zatrzymany w maju tego roku Darren Shida Zhou, analityk Goldman Sachs na Florydzie, który od marca ciężko przeżywał rozstanie. Mężczyzna nękał swoją byłą telefonami i wiadomościami. Wysyłał jej m.in. zdjęcia broni… Prowadził też równolegle rozmowy z ChatemGPT odnośnie tego, jak ją “ukarze”. Wiadomości te zostały jednak oflagowane przez automatyczne systemy OpenAI a oznaczona w ten sposób rozmowa została oceniona przez człowieka. To właśnie pracownik OpenAI podjął decyzję o powiadomieniu FBI. OpenAI utrzymuje, że tego typu działania następują wyłącznie kiedy zagrożenie dla innych jest uznane za bezpośrednie i wiarygodne.
Tu warto odnotować, że wyłączenie opcji “Improve the model for everyone” dotyczy wykorzystywania rozmów do trenowania modeli i nie wyłącza mechanizmów bezpieczeństwa. Także rozmowa w trybie Temporary Chat może zostać przejrzana w celu wykrywania nadużyć, chociaż nie trafia do historii i ma zostać usunięta z systemów po 30 dniach.
Dostał 8 lat dozoru, ale nie więzienia
13 sierpnia Zhou przyznał się do nękania i kierowania pisemnych gróźb zabójstwa. Sędzia wymierzył mu 8 lat dozoru kuratorskiego, w tym 2 lata z elektronicznym monitoringiem. Mężczyzna ma też zakaz kontaktowania [...]
#AI #ChatGPT #FBI #Morderstwo #Nękanie #OpenAI #Policja #Zabójstwo
