home.social

#ai_safety — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #ai_safety, aggregated by home.social.

  1. Курсы по промптингу? Почитайте детям сказку на ночь

    Привет, Хабр! За время написания нескольких книг я превратил искусственный интеллект в своего постоянного напарника. Он работает моим редактором, критиком и иллюстратором. Но в процессе поиска общего языка с LLM меня не покидало стойкое ощущение дежавю. Когда модель в сотый раз проигнорировала контекст, поняла запрос слишком буквально и начала откровенно хитрить с токенами, я наконец догадался, где уже видел точно такие же паттерны поведения — в народных сказках. Я осознал, что прочитав дюжину сказок вдумчиво, вы освоите как минимум половину курса по промптингу. Ведь фольклор — готовый сборник правил по безопасности для современного промпт-инжиниринга.

    habr.com/ru/companies/ru_mts/a

    #промптинжиниринг #LLM #большие_языковые_модели #фольклор #русские_сказки #prompt_engineering #AI_safety #ChatGPT #агентные_системы #когнитивные_паттерны