#ai_safety — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #ai_safety, aggregated by home.social.
-
Курсы по промптингу? Почитайте детям сказку на ночь
Привет, Хабр! За время написания нескольких книг я превратил искусственный интеллект в своего постоянного напарника. Он работает моим редактором, критиком и иллюстратором. Но в процессе поиска общего языка с LLM меня не покидало стойкое ощущение дежавю. Когда модель в сотый раз проигнорировала контекст, поняла запрос слишком буквально и начала откровенно хитрить с токенами, я наконец догадался, где уже видел точно такие же паттерны поведения — в народных сказках. Я осознал, что прочитав дюжину сказок вдумчиво, вы освоите как минимум половину курса по промптингу. Ведь фольклор — готовый сборник правил по безопасности для современного промпт-инжиниринга.
https://habr.com/ru/companies/ru_mts/articles/1043156/
#промптинжиниринг #LLM #большие_языковые_модели #фольклор #русские_сказки #prompt_engineering #AI_safety #ChatGPT #агентные_системы #когнитивные_паттерны
-
After OpenAI's Blowup, It Seems Pretty Clear That 'AI Safety' Isn't a Real Thing
https://gizmodo.com/ai-safety-openai-sam-altman-ouster-back-microsoft-1851038439
#ycombinator #OpenAI #OPENAI #AI_safety #Artificial_intelligence #Satya_Nadella #Cybernetics #Microsoft #Computational_neuroscience #Elon_Musk #Jordan_Belfort #Hammer #GENERAL_MOTORS #Greg_Brockman #Sam_Altman #Kyle_Vogt #Ethics_of_artificial_intelligence #Larry_Summers #Artificial_general_intelligence #ChatGPT #Sarah_Silverman #Gizmodo