home.social

#gie — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #gie, aggregated by home.social.

  1. AI inference на K8s: как выживать с LLM в кубере. DRA, GIE, LLM-D

    Для многих обывателей, да и инженеров, которые не углублялись в тему, работа с LLM выглядит как работа с обычным сервисом: мы просто кидаем запросы по нужному endpoint и получаем JSON с ответом. Но на деле появляется много вопросов: как здесь работает кэш? От чего зависит время ответа? Что делать с огромным контекстным окном? И если у нас один GPU-сервер, на котором происходят все вычисления, то это не так и важно. Но что делать с масштабными распределёнными системами? Обычный Kubernetes не понимает, как устроен запрос языковой модели. Однако за последний год платформенные инженеры очень хорошо продвинулись в этом вопросе. И в этой статье я хочу подробно разобрать, как именно строится K8s-кластер под высоконагруженные LLM.

    habr.com/ru/companies/ruvds/ar

    #llm #kubernetes #dra #gie #llmd #kserve #ruvds_статьи

  2. AI inference на K8s: как выживать с LLM в кубере. DRA, GIE, LLM-D

    Для многих обывателей, да и инженеров, которые не углублялись в тему, работа с LLM выглядит как работа с обычным сервисом: мы просто кидаем запросы по нужному endpoint и получаем JSON с ответом. Но на деле появляется много вопросов: как здесь работает кэш? От чего зависит время ответа? Что делать с огромным контекстным окном? И если у нас один GPU-сервер, на котором происходят все вычисления, то это не так и важно. Но что делать с масштабными распределёнными системами? Обычный Kubernetes не понимает, как устроен запрос языковой модели. Однако за последний год платформенные инженеры очень хорошо продвинулись в этом вопросе. И в этой статье я хочу подробно разобрать, как именно строится K8s-кластер под высоконагруженные LLM.

    habr.com/ru/companies/ruvds/ar

    #llm #kubernetes #dra #gie #llmd #kserve #ruvds_статьи

  3. AI inference на K8s: как выживать с LLM в кубере. DRA, GIE, LLM-D

    Для многих обывателей, да и инженеров, которые не углублялись в тему, работа с LLM выглядит как работа с обычным сервисом: мы просто кидаем запросы по нужному endpoint и получаем JSON с ответом. Но на деле появляется много вопросов: как здесь работает кэш? От чего зависит время ответа? Что делать с огромным контекстным окном? И если у нас один GPU-сервер, на котором происходят все вычисления, то это не так и важно. Но что делать с масштабными распределёнными системами? Обычный Kubernetes не понимает, как устроен запрос языковой модели. Однако за последний год платформенные инженеры очень хорошо продвинулись в этом вопросе. И в этой статье я хочу подробно разобрать, как именно строится K8s-кластер под высоконагруженные LLM.

    habr.com/ru/companies/ruvds/ar

    #llm #kubernetes #dra #gie #llmd #kserve #ruvds_статьи

  4. An out nonbinary candidate just won a seat in their ruby-red Ohio town by 13 votes. They didn’t believe it, either.

    Gie May thought their race would help show Wadsworth that other candidates existed besides Republicans. Turns out, voters wanted m...


    thebuckeyeflame.com/2025/12/09 #genderqueer-nonbinary #gie-may #leah-nichols #lgbt-ohio #lgbtq-elected-official #lgbtq-ohio #lgbtq+-elected-official #medina-county #wadsworth #wadsworth-democratic-party

  5. An out nonbinary candidate just won a seat in their ruby-red Ohio town by 13 votes. They didn’t believe it, either.

    Gie May thought their race would help show Wadsworth that other candidates existed besides Republicans. Turns out, voters wanted m...


    thebuckeyeflame.com/2025/12/09 #genderqueer-nonbinary #gie-may #leah-nichols #lgbt-ohio #lgbtq-elected-official #lgbtq-ohio #lgbtq+-elected-official #medina-county #wadsworth #wadsworth-democratic-party

  6. CW: uspol

    (18 Nov) UPDATED: Majority of out LGBTQ+ Ohio candidates win in November 4 General Election

    /2025/11/18/lgbtq-election-november-2025/

    #2025-general-election #2025-november-election #ari-childrey #brenna-reynolds #connor-moreton #gay-ohio #gie-may #jesse-vogel #jim-petras #kirby-samuell #kyle-herman #lgbt-ohio #lgbtq-ohio #pj-errera #politics #rebecca-maurer #ross-widener #sean-beck #transgender-ohio

  7. CW: uspol

    (18 Nov) UPDATED: Majority of out LGBTQ+ Ohio candidates win in November 4 General Election

    /2025/11/18/lgbtq-election-november-2025/

    #2025-general-election #2025-november-election #ari-childrey #brenna-reynolds #connor-moreton #gay-ohio #gie-may #jesse-vogel #jim-petras #kirby-samuell #kyle-herman #lgbt-ohio #lgbtq-ohio #pj-errera #politics #rebecca-maurer #ross-widener #sean-beck #transgender-ohio

  8. CW: uspol

    (18 Nov) UPDATED: Majority of out LGBTQ+ Ohio candidates win in November 4 General Election

    /2025/11/18/lgbtq-election-november-2025/

    #2025-general-election #2025-november-election #ari-childrey #brenna-reynolds #connor-moreton #gay-ohio #gie-may #jesse-vogel #jim-petras #kirby-samuell #kyle-herman #lgbt-ohio #lgbtq-ohio #pj-errera #politics #rebecca-maurer #ross-widener #sean-beck #transgender-ohio

  9. CW: uspol

    (18 Nov) UPDATED: Majority of out LGBTQ+ Ohio candidates win in November 4 General Election

    /2025/11/18/lgbtq-election-november-2025/

    #2025-general-election #2025-november-election #ari-childrey #brenna-reynolds #connor-moreton #gay-ohio #gie-may #jesse-vogel #jim-petras #kirby-samuell #kyle-herman #lgbt-ohio #lgbtq-ohio #pj-errera #politics #rebecca-maurer #ross-widener #sean-beck #transgender-ohio

  10. CW: uspol

    (05 Nov) Majority of out LGBTQ+ Ohio candidates win in November 4 General Election

    s.faithcollapsing.com/jbxjr

    Archive: ia: s.faithcollapsing.com/mz5b4

    #2025-general-election #2025-november-election #ari-childrey #brenna-reynolds #connor-moreton #gay-ohio #gie-may #jesse-vogel #jim-petras #kirby-samuell #kyle-herman #lgbt-ohio #lgbtq-ohio #pj-errera #politics #rebecca-maurer #ross-widener #sean-beck #transgender-ohio

  11. CW: uspol

    (05 Nov) Majority of out LGBTQ+ Ohio candidates win in November 4 General Election

    s.faithcollapsing.com/jbxjr

    Archive: ia: s.faithcollapsing.com/mz5b4

    #2025-general-election #2025-november-election #ari-childrey #brenna-reynolds #connor-moreton #gay-ohio #gie-may #jesse-vogel #jim-petras #kirby-samuell #kyle-herman #lgbt-ohio #lgbtq-ohio #pj-errera #politics #rebecca-maurer #ross-widener #sean-beck #transgender-ohio

  12. CW: uspol

    (05 Nov) Majority of out LGBTQ+ Ohio candidates win in November 4 General Election

    s.faithcollapsing.com/jbxjr

    Archive: ia: s.faithcollapsing.com/mz5b4

    #2025-general-election #2025-november-election #ari-childrey #brenna-reynolds #connor-moreton #gay-ohio #gie-may #jesse-vogel #jim-petras #kirby-samuell #kyle-herman #lgbt-ohio #lgbtq-ohio #pj-errera #politics #rebecca-maurer #ross-widener #sean-beck #transgender-ohio

  13. CW: uspol

    (05 Nov) Majority of out LGBTQ+ Ohio candidates win in November 4 General Election

    s.faithcollapsing.com/jbxjr

    Archive: ia: s.faithcollapsing.com/mz5b4

    #2025-general-election #2025-november-election #ari-childrey #brenna-reynolds #connor-moreton #gay-ohio #gie-may #jesse-vogel #jim-petras #kirby-samuell #kyle-herman #lgbt-ohio #lgbtq-ohio #pj-errera #politics #rebecca-maurer #ross-widener #sean-beck #transgender-ohio

  14. CW: genderandorientation

    (17 Jun) Wadsworth, Ohio’s first out nonbinary candidate runs for City Council

    Angela “Gie” May is motivated to make the city feel safer for everyone.

    s.faithcollapsing.com/mltn2
    Archive: ais: archive.md/wip/LK1AP ia: s.faithcollapsing.com/xc4u7

    #gay-ohio #genderqueer-nonbinary #gie-may #lgbt-ohio #lgbtq-ohio #lgbtq+-candidate #medina-county #nonbinary-candidate #nonbinary-ohio #transgender #transgender-ohio #wadsworth #wadsworth-city-council

  15. CW: genderandorientation

    (17 Jun) Wadsworth, Ohio’s first out nonbinary candidate runs for City Council

    Angela “Gie” May is motivated to make the city feel safer for everyone.

    s.faithcollapsing.com/mltn2
    Archive: ais: archive.md/wip/LK1AP ia: s.faithcollapsing.com/xc4u7

    #gay-ohio #genderqueer-nonbinary #gie-may #lgbt-ohio #lgbtq-ohio #lgbtq+-candidate #medina-county #nonbinary-candidate #nonbinary-ohio #transgender #transgender-ohio #wadsworth #wadsworth-city-council