home.social

#large_language_models — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #large_language_models, aggregated by home.social.

fetched live
  1. Under The Hood: Build Every Layer of a Large Language Model from Scratch by Ramchand Kumaresan is the featured book 📖 on Leanpub!

    Bestselling book on building LLMs. A practical, project-driven manual for engineers who want to understand how modern language models are built — and where they fail — by writing every layer themselves.

    Link: leanpub.com/under-the-hood

    #Computer_programming #Large_language_models #Ai

  2. Under The Hood: Build Every Layer of a Large Language Model from Scratch by Ramchand Kumaresan is the featured book 📖 on Leanpub!

    Bestselling book on building LLMs. A practical, project-driven manual for engineers who want to understand how modern language models are built — and where they fail — by writing every layer themselves.

    Link: leanpub.com/under-the-hood

    #Computer_programming #Large_language_models #Ai

  3. Python MCP Masterclass: Everything and the Protocol Beneath by Ryan Banze is free with a Leanpub Reader membership! Or you can buy it for $1.00! leanpub.com/pythonmcp #vibe_engineering #ai #ai_programming_with_python #large_language_models

  4. Python MCP Masterclass: Everything and the Protocol Beneath by Ryan Banze is free with a Leanpub Reader membership! Or you can buy it for $1.00! leanpub.com/pythonmcp #vibe_engineering #ai #ai_programming_with_python #large_language_models

  5. Agentic Engineering: A comprehensive guide to build production grade agentic system by Atanu Mandal is a new release on Leanpub!

    Move beyond AI demos and prototypes. Discover the engineering patterns, architectures, and best practices required to build reliable, scalable, and enterprise-ready Agentic AI applications.

    Link: leanpub.com/agentic-engineering

    #books #ebooks #newreleases #leanpublishing #selfpublishing #large_language_models #agentic_engineering #systemsengineering

  6. Agentic Engineering: A comprehensive guide to build production grade agentic system by Atanu Mandal is a new release on Leanpub!

    Move beyond AI demos and prototypes. Discover the engineering patterns, architectures, and best practices required to build reliable, scalable, and enterprise-ready Agentic AI applications.

    Link: leanpub.com/agentic-engineering

    #books #ebooks #newreleases #leanpublishing #selfpublishing #large_language_models #agentic_engineering #systemsengineering

  7. The Complete LLMs & AI Agents Collection by Samir Solanki is a new release on Leanpub!

    Explore Large Language Models and AI Agents through diagrams, visual explanations and practical concepts covering transformers, RAG, MCP, memory and enterprise AI.

    Link: leanpub.com/b/genaipackage

    #books #ebooks #newreleases #leanpublishing #selfpublishing #ai #large_language_models #ai_programming_with_python

  8. The Complete LLMs & AI Agents Collection by Samir Solanki is a new release on Leanpub!

    Explore Large Language Models and AI Agents through diagrams, visual explanations and practical concepts covering transformers, RAG, MCP, memory and enterprise AI.

    Link: leanpub.com/b/genaipackage

    #books #ebooks #newreleases #leanpublishing #selfpublishing #ai #large_language_models #ai_programming_with_python

  9. LLMs Explained Visually by Samir Solanki is a new release on Leanpub!

    A visual journey through the world of Large Language Models. Learn how modern AI systems work using diagrams, mental models and simplified explanations—without getting lost in unnecessary complexity

    Link: leanpub.com/llmsexplainedvisua

    #books #ebooks #newreleases #leanpublishing #selfpublishing #ai #large_language_models

  10. LLMs Explained Visually by Samir Solanki is a new release on Leanpub!

    A visual journey through the world of Large Language Models. Learn how modern AI systems work using diagrams, mental models and simplified explanations—without getting lost in unnecessary complexity

    Link: leanpub.com/llmsexplainedvisua

    #books #ebooks #newreleases #leanpublishing #selfpublishing #ai #large_language_models

  11. Machine Learning with Rust, Second Edition: Implement data pipelines, classical models, deep learning and NLP using burn, candle, linfa and smartcore by GitforGits | Asian Publishing House is a new release on Leanpub!

    Link: leanpub.com/rustmachinelearning

    #books #ebooks #newreleases #leanpublishing #selfpublishing #machine_learning #deep_learning #neural_networks #large_language_models #ai #rust

  12. Machine Learning with Rust, Second Edition: Implement data pipelines, classical models, deep learning and NLP using burn, candle, linfa and smartcore by GitforGits | Asian Publishing House is a new release on Leanpub!

    Link: leanpub.com/rustmachinelearning

    #books #ebooks #newreleases #leanpublishing #selfpublishing #machine_learning #deep_learning #neural_networks #large_language_models #ai #rust

  13. Claude Code Masterclass: Ship Real Code with AI: Install Claude Code and master the Plan → Implement → Test → Review → Commit loop: Best-of-N, testing, git, MCP, hooks & skills. by Luca Berton is the featured course 🎓 on Leanpub!

    Link: leanpub.com/courses/leanpub/cl

    #ai #ai_programming_with_python #large_language_models #vibe_engineering #python

  14. Claude Code Masterclass: Ship Real Code with AI: Install Claude Code and master the Plan → Implement → Test → Review → Commit loop: Best-of-N, testing, git, MCP, hooks & skills. by Luca Berton is the featured course 🎓 on Leanpub!

    Link: leanpub.com/courses/leanpub/cl

    #ai #ai_programming_with_python #large_language_models #vibe_engineering #python

  15. Outlast the Tools: A Game Producer's Field Guide to AI by Rob Sandberg is a new release on Leanpub!

    Game producers already have most of what AI collaboration requires. They have been managing context, decomposing work, and evaluating output for years. This book is the map from where they are to where the work is going.

    Link: leanpub.com/outlast-the-tools

    #books #ebooks #newreleases #leanpublishing #selfpublishing #game_development #business_strategy #large_language_models

  16. Outlast the Tools: A Game Producer's Field Guide to AI by Rob Sandberg is a new release on Leanpub!

    Game producers already have most of what AI collaboration requires. They have been managing context, decomposing work, and evaluating output for years. This book is the map from where they are to where the work is going.

    Link: leanpub.com/outlast-the-tools

    #books #ebooks #newreleases #leanpublishing #selfpublishing #game_development #business_strategy #large_language_models

  17. EU AI ACT Compliance Pack: A Practical Compliance Pack for the EU AI Act by William Argo is a new release on Leanpub!

    The EU AI Act is messy, confusing, and unavoidable. Get compliant before it becomes a problem.

    Link: leanpub.com/eu-ai-act

    #books #ebooks #newreleases #leanpublishing #selfpublishing #large_language_models #ai #behavior_driven_development

  18. EU AI ACT Compliance Pack: A Practical Compliance Pack for the EU AI Act by William Argo is a new release on Leanpub!

    The EU AI Act is messy, confusing, and unavoidable. Get compliant before it becomes a problem.

    Link: leanpub.com/eu-ai-act

    #books #ebooks #newreleases #leanpublishing #selfpublishing #large_language_models #ai #behavior_driven_development

  19. Evaluating And Testing AI Using Real-World Work: The LLM INQUISITOR Methodology Field Manual by William Argo is a new release on Leanpub!

    There are no magic prompts to test AI. What you can do is give AI real work under realistic conditions and observe what happens.

    Link: leanpub.com/llm-inquisitor

    #books #ebooks #newreleases #leanpublishing #selfpublishing #testing #large_language_models #automated_software_testing

  20. Evaluating And Testing AI Using Real-World Work: The LLM INQUISITOR Methodology Field Manual by William Argo is a new release on Leanpub!

    There are no magic prompts to test AI. What you can do is give AI real work under realistic conditions and observe what happens.

    Link: leanpub.com/llm-inquisitor

    #books #ebooks #newreleases #leanpublishing #selfpublishing #testing #large_language_models #automated_software_testing

  21. Orchestrating AI Agents: Coordinating Claude Code, Codex, Local Models, and MCP with a Persistent Control Plane by Yohan Rodriguez is a new release on Leanpub!

    A practical guide to operating a fleet of AI coding agents through routing, memory, skills, MCP, guardrails, and a persistent control plane (322 manuscript pages).

    Link: leanpub.com/orchestrating-ai-a

    #books #ebooks #newreleases #leanpublishing #selfpublishing #ai_programming_with_python #large_language_models #vibe_engineering #ai #devops

  22. Orchestrating AI Agents: Coordinating Claude Code, Codex, Local Models, and MCP with a Persistent Control Plane by Yohan Rodriguez is a new release on Leanpub!

    A practical guide to operating a fleet of AI coding agents through routing, memory, skills, MCP, guardrails, and a persistent control plane (322 manuscript pages).

    Link: leanpub.com/orchestrating-ai-a

    #books #ebooks #newreleases #leanpublishing #selfpublishing #ai_programming_with_python #large_language_models #vibe_engineering #ai #devops

  23. The Reliable AI & Prompt Engineering Bundle by George Tome is the featured bundle of ebooks 📚 on Leanpub!

    Master reliable generative AI and prompt engineering with two practical books that help you design safer workflows, write better prompts, and apply AI with confidence. Bundle video

    Link: leanpub.com/b/reliable-ai-prom

    #education #computer_programming #large_language_models #consulting #digital_transformation

  24. The Reliable AI & Prompt Engineering Bundle by George Tome is the featured bundle of ebooks 📚 on Leanpub!

    Master reliable generative AI and prompt engineering with two practical books that help you design safer workflows, write better prompts, and apply AI with confidence. Bundle video

    Link: leanpub.com/b/reliable-ai-prom

    #education #computer_programming #large_language_models #consulting #digital_transformation

  25. Claude Code Masterclass: Ship Real Code with AI: Install Claude Code and master the Plan → Implement → Test → Review → Commit loop: Best-of-N, testing, git, MCP, hooks & skills. by Luca Berton is the featured course 🎓 on Leanpub!

    Link: leanpub.com/courses/leanpub/cl

    #ai #ai_programming_with_python #large_language_models #vibe_engineering #python

  26. Claude Code Masterclass: Ship Real Code with AI: Install Claude Code and master the Plan → Implement → Test → Review → Commit loop: Best-of-N, testing, git, MCP, hooks & skills. by Luca Berton is the featured course 🎓 on Leanpub!

    Link: leanpub.com/courses/leanpub/cl

    #ai #ai_programming_with_python #large_language_models #vibe_engineering #python

  27. Графы знаний в юридическом домене: эксперимент с LightRAG (продолжение)

    Юридический домен требует понимания многочисленных связей между сущностями, рассеянными по множеству документов. Поэтому кажется, что область знаний, организованная таким образом, идеально может быть представлена в виде графа знаний: связи между нормами, прецедентами и понятиями, рассеянными по тысячам документов, наконец-то перестают теряться. Современные фреймворки обещают построить такой граф автоматически, в пару команд. Но между "запуском из коробки" и рабочей аналитической системой на практике лежит немалая дистанция. Это вторая часть практического эксперимента с LightRAG . Разбираем, как оптимизировать "сырой" граф "из коробки" ( подробно рассмотрели сам фреймворк, а также провели топологический анализ в первой части ) без переиндексации, что показал анализ топологии и центральностей итогового графа, и проверяем на реальных юридических запросах — дает ли RAG-система, построенная на графе знаний, преимущество перед векторным RAG, и где проходят границы этого преимущества.

    habr.com/ru/articles/1046870/

    #RAG #retrievalaugmented_generation #ai #artificial_intelligence #llm #large_language_models #vector_database #graph_database #knowledge_graphs #lightrag

  28. Claude Code Masterclass: Ship Real Code with AI: Install Claude Code and master the Plan → Implement → Test → Review → Commit loop: Best-of-N, testing, git, MCP, hooks & skills. by Luca Berton is the featured course 🎓 on Leanpub!

    Link: leanpub.com/courses/leanpub/cl

    #ai #ai_programming_with_python #large_language_models #vibe_engineering #python

  29. Claude Code Masterclass: Ship Real Code with AI: Install Claude Code and master the Plan → Implement → Test → Review → Commit loop: Best-of-N, testing, git, MCP, hooks & skills. by Luca Berton is the featured course 🎓 on Leanpub!

    Link: leanpub.com/courses/leanpub/cl

    #ai #ai_programming_with_python #large_language_models #vibe_engineering #python

  30. Графы знаний в юридическом домене: эксперимент с LightRAG

    Юридический домен требует понимания многочисленных связей между сущностями, рассеянными по множеству документов. Поэтому кажется, что область знаний, организованная таким образом, идеально может быть представлена в виде графа знаний: связи между нормами, прецедентами и понятиями, рассеянными по тысячам документов, наконец-то перестают теряться. Современные фреймворки обещают построить такой граф автоматически, в пару команд. Но между "запуском из коробки" и рабочей аналитической системой на практике лежит немалая дистанция. Это первая часть практического эксперимента с LightRAG, одним из самых известных графовых фреймворков. На небольшом корпусе из Гражданского кодекса РФ и судебной практики разбираем, как фреймворк устроен, как его быстро развернуть, и почему граф из "коробки", без оптимизации и тонкой настройки, при всей внешней убедительности, еще не готов к полноценной работе в юридическом домене.

    habr.com/ru/articles/1036652/

    #RAG #retrievalaugmented_generation #ai #artificial_intelligence #llm #large_language_models #vector_database #graph_database #knowledge_graphs #lightrag

  31. Графы знаний в юридическом домене: как не потерять сложность при построении RAG-системы

    Ни одна современная AI-система в юридическом домене не обходится без RAG: юридические данные слишком специфичны, слишком изменчивы и никогда слишком редко составляли значимую часть обучающей выборки LLM, чтобы доверять ей без внешней базы знаний. Обычно при построении RAG-системы используют модуль поиска, основанный на векторных БД. Однако в таких сложно организованных областях знаний, как юридическая, архитектура, основанная на поиске в хранилище "плоских" эмбеддингов, может не справиться. Векторный поиск позволяет находить семантически близкие (схожие) фрагменты текстов, тогда как юридический домен также требует понимания многочисленных связей между сущностями , рассеянными по множеству документов . Кажется, что область знаний, организованная таким образом, идеально может быть представлена в виде графа знаний, особенно после появления современных инструментов, позволяющих автоматически строить такие графы на тысячах документов и использовать их в качестве хранилища знаний для RAG-систем. Однако все имеет свою цену: неполнота или неточность построенного графа может свести на нет все вложенные ресурсы и оставить вас с системой, которая хуже "наивного" векторного поиска. Какие преимущества поиска по графу знаний по сравнению с классическим векторным поиском, а также каковы критерии, когда использование графового поиска действительно необходимо для построения RAG-системы в юридическом домене?

    habr.com/ru/articles/1012556/

    #RAG #retrievalaugmented_generation #ai #artificial_intelligence #llm #large_language_models #vector_database #graph_database #knowledge_graphs #graphrag

  32. Выжимаем максимум из опенсорсных моделей и готовим Text2SQL

    В любой крупной компании есть повторяющийся сценарий. Аналитик сидит над экспериментом или моделью, строит А/В тесты и дашборды, и в этот момент приходит бизнес и просит быстро посмотреть «продажи жвачки за вчера». Аналитик переключается, пишет запрос, отдаёт результат, а через десять минут прилетает почти такой же вопрос. Потом ещё один и ещё. День заканчивается, а свои задачи стоят и покрываются ржавчиной. Так выглядит ручной доступ к данным. Бизнес понимает, что нужные данные в хранилище есть, но не всегда может их быстро получить. А аналитик становится «бутылочным горлышком», через которое проходит большой поток запросов. Мы хотели упростить работу с данными. Чтобы пользователь задавал вопрос, сервис превращал его в SQL, выполнял в хранилище и возвращал аналитический ответ. Чтобы рутина уходила в инструмент, а аналитик переставал быть «бутылочным горлышком». Вроде ничего нового, но в реальной инфраструктуре вскрывается много интересного: специфическая лексика, свойственная каждому из направлений бизнеса, громоздкие витрины, опыт работы с легаси системами и поведение LLM, которую сначала надо надрессировать.

    habr.com/ru/companies/oleg-bun

    #text2sql #large_language_models #open_source_llm #qwen #gpt #аналитика_данных #bird #spider #prompt_engineering #prompt_injection

  33. Лоботомия нейросети: удалил 7 слоёв из LLM — она стала на 30% быстрее

    Эксперимент по хирургическому удалению слоёв из языковой модели Современные LLM переобучены — многие слои делают одно и то же. Я проверил эту гипотезу на практике: взял TinyLlama (1.1B параметров, 22 слоя) и измерил, как удаление каждого слоя влияет на perplexity. Результаты: • Удаление 1 среднего слоя: +10% скорость, -4% качество • Удаление 7 «безопасных» слоёв: +32% скорость, -2.5% качество • Удаление первого слоя: модель полностью ломается Неожиданно: Layer 2 важнее Layer 0 (perplexity +6.67 vs +3.92 при удалении). Статья с кодом на PyTorch, графиками и практическими рекомендациями — какие слои можно удалять для ускорения инференса.

    habr.com/ru/articles/983636/

    #LLM #Large_Language_Models #Layer_Pruning #оптимизация_нейросетей #TinyLlama #PyTorch #inference_optimization #трансформеры #ускорение_моделей #ShortGPT

  34. So, can large language models play text games well? 🤔 Apparently, it takes a village (aka the Simons Foundation and a bunch of contributors) to figure out something a teenager already knows by instinct. 🎮 Spoiler alert: the answer is buried somewhere between a lot of numbers and acronyms that only a robot could love. 🤖
    arxiv.org/abs/2304.02868 #large_language_models #text_games #AI_research #Simons_Foundation #gaming_insights #robot_intelligence #HackerNews #ngated

  35. Apple is looking to announce new access to its foundation models during WWDC June 9th. This arrangement will let developers integrate Apple Intelligence across their apps. Apple may be betting this is a way to help it catch up with its competitors in the AI space. theverge.com/news/670868/apple