#istio — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #istio, aggregated by home.social.
-
Два Kubernetes-кластера — одна сеть: объединяем через Mesh и межкластерный роутинг
Когда Kubernetes-кластеров становится больше одного, инфраструктура начинает жить по новым правилам. Один кластер развёрнут в основном датацентре, второй — в резервной площадке. Сложности начинаются в тот момент, когда этим кластерам нужно взаимодействовать друг с другом. Сервисы в одном кластере должны обращаться к сервисам в другом, приложениям требуется нормальная маршрутизация, а инженерам хочется управлять этим без набора временных решений вроде iptables и ручных DNS-записей. В качестве сетевого слоя будем использовать Calico , а для межкластерного взаимодействия сервисов — Istio . Первый даст маршрутизацию и связность, второй — discovery, балансировку и управление трафиком на уровне приложений.
-
Гайды по nxs-universal-chart v3.0: AI Inference контур на основе KServe
Итак, вы обучили модель и она показывает ожидаемые результаты. Теперь осталось выкатить её на контур, однако для этого необходим ряд компонентов: нужна маршрутизация трафика, непосредственно инференс. Желателен autoscaling модели, передача чувствительных данных, например креды до хранилища моделей. Ну и мониторинг не помешал бы. Каждый компонент - это отдельный Helm-чарт, отдельные CRD и отдельная документация. В итоге, вместо быстрого тестирования модели и гипотез, приходится заниматься YAML-инжинирингом и громко ругаться благим матом. Всем привет, на связи Пётр, инженер
https://habr.com/ru/articles/1030440/
#devops #kubernetes #mlops #helm #kserve #istio #machine_learning #inference #ai #deploy
-
Гайды по nxs-universal-chart v3.0: AI Inference контур на основе KServe
Итак, вы обучили модель и она показывает ожидаемые результаты. Теперь осталось выкатить её на контур, однако для этого необходим ряд компонентов: нужна маршрутизация трафика, непосредственно инференс. Желателен autoscaling модели, передача чувствительных данных, например креды до хранилища моделей. Ну и мониторинг не помешал бы. Каждый компонент - это отдельный Helm-чарт, отдельные CRD и отдельная документация. В итоге, вместо быстрого тестирования модели и гипотез, приходится заниматься YAML-инжинирингом и громко ругаться благим матом. Всем привет, на связи Пётр, инженер
https://habr.com/ru/articles/1030440/
#devops #kubernetes #mlops #helm #kserve #istio #machine_learning #inference #ai #deploy
-
Гайды по nxs-universal-chart v3.0: AI Inference контур на основе KServe
Итак, вы обучили модель и она показывает ожидаемые результаты. Теперь осталось выкатить её на контур, однако для этого необходим ряд компонентов: нужна маршрутизация трафика, непосредственно инференс. Желателен autoscaling модели, передача чувствительных данных, например креды до хранилища моделей. Ну и мониторинг не помешал бы. Каждый компонент - это отдельный Helm-чарт, отдельные CRD и отдельная документация. В итоге, вместо быстрого тестирования модели и гипотез, приходится заниматься YAML-инжинирингом и громко ругаться благим матом. Всем привет, на связи Пётр, инженер
https://habr.com/ru/articles/1030440/
#devops #kubernetes #mlops #helm #kserve #istio #machine_learning #inference #ai #deploy
-
Гайды по nxs-universal-chart v3.0: AI Inference контур на основе KServe
Итак, вы обучили модель и она показывает ожидаемые результаты. Теперь осталось выкатить её на контур, однако для этого необходим ряд компонентов: нужна маршрутизация трафика, непосредственно инференс. Желателен autoscaling модели, передача чувствительных данных, например креды до хранилища моделей. Ну и мониторинг не помешал бы. Каждый компонент - это отдельный Helm-чарт, отдельные CRD и отдельная документация. В итоге, вместо быстрого тестирования модели и гипотез, приходится заниматься YAML-инжинирингом и громко ругаться благим матом. Всем привет, на связи Пётр, инженер
https://habr.com/ru/articles/1030440/
#devops #kubernetes #mlops #helm #kserve #istio #machine_learning #inference #ai #deploy
-
Как сэкономить гигабайты памяти в Istio Sidecars
В Istio всё начинается с маленькой «удобной» идеи — прокси рядом с каждым подом. А заканчивается тем, что XDS разносит по кластеру тонны Listener’ов, Route’ов и Cluster’ов, дублируя конфиги для сервисов, которые вы даже не трогаете. Память тает, GC злится, а апдейты сервисов превращаются в шторм. В статье пойдет речь о том, как мы в проде с 20K+ подов «урезали аппетит» сайдкаров на гигабайты. Обсудим, где работает жёсткое ограничение видимости, когда спасает Ambient Mesh, зачем нужен ленивый XDS и почему «волшебной кнопки» нет — но есть комбинации, дающие двузначную экономию. Эта статья написана по мотивам моего доклада для конференции
https://habr.com/ru/companies/oleg-bunin/articles/968652/
#конференции #platform_engineering #highload #highload++ #высоконагруженные_системы #service_mesh #istio #kubernetes
-
Canary-деплой в Kubernetes с использованием Argo Rollouts и Istio
Мы не раз разбирали в своём блоге теорию и практику по разным стратегиям развёртывания новой версии приложения в Kubernetes. Сегодня рассмотрим ещё одну реализацию канареечного деплоя: с пассивными healthcheck и использованием Argo Rollouts и Istio. Этот вариант подойдёт, если к вашему приложению обращаются не через Ingress, а ходят внутри кластера по адресу service. Или если вы хотите видеть, что происходит с пользовательским трафиком на каждом из этапов обновления.
https://habr.com/ru/companies/flant/articles/943624/
#kubernetes #istio #argo_rollouts #canary #releases #deckhouse_kubernetes_platform
-
Опыт эксплуатации Service Mesh в Авито
Привет, Хабр! Меня зовут Игорь Балюк, совсем недавно я работал платформенным инженером в Авито . В этой статье я рассказываю про Service Mesh и показываю, что это, скорее, не конечная точка, где можно найти «серебряную пулю» от всех проблем, а путь, который, возможно, никогда не закончится: придется постоянно куда-то бежать и что-то дорабатывать. В тексте я также разбираю, как работает Service Mesh в Авито. Переходите под кат, будет интересно!
https://habr.com/ru/companies/avito/articles/929732/
#kubernetes #istio #paas #network #service_mesh #envoy #devops
-
[Перевод] Istio для практиков: как упростить управление микросервисами
Статья посвящена Istio — платформе для создания service mesh. Она объясняет ключевые функции инструмента: управление трафиком, защита коммуникаций через mTLS и сбор метрик для мониторинга. Также рассматриваются примеры конфигурации: как Istio помогает в управлении сетевыми взаимодействиями и повышает устойчивость систем. Узнайте, помогает ли Istio в работе с распределёнными системами.
https://habr.com/ru/companies/flant/articles/862920/
#istio #service_mesh #сервисмеш #envoyproxy #envoy #mtls #DestinationRule #VirtualService #Service_Entry #сеть
-
Interesting (3-years-old) talk about speeding up #xDS (Extensible Discovery Service) protocol between #istio and #envoyproxy #envoy
https://www.youtube.com/watch?v=LOm1ptEWx_Y -
Interesting (3-years-old) talk about speeding up #xDS (Extensible Discovery Service) protocol between #istio and #envoyproxy #envoy
https://www.youtube.com/watch?v=LOm1ptEWx_Y -
Сравнение архитектур Service Mesh и Ambient Mesh: новый взгляд на Istio
Современные распределённые системы требуют надёжных, безопасных и масштабируемых способов управления сетевым взаимодействием между сервисами. Технологии Service Mesh, такие как Istio, предоставляют набор инструментов для решения этих задач. Недавно в экосистеме Istio появилась новая архитектура — Ambient Mesh, предлагающая альтернативный подход к реализации сетевых функций. В данной статье мы рассмотрим, чем отличаются классический Service Mesh и Ambient Mesh в контексте Istio, а также их преимущества и недостатки.
-
Envoy в Legacy-среде: использование протоколов xDS для управления Data Plane
Привет, Хабр! Давайте продолжим изучать возможности Envoy, но уже в контексте динамической конфигурации. В первой статье мы рассматривали настройку статической конфигурации, однако она имеет свои особенности. Статическая конфигурация подходит, когда ваши upstream (серверы, к которым Envoy отправляет запросы) редко изменяются. Envoy работает как прокси, и каждый запрос проходит через него. Чтобы правильно обработать запрос, Envoy должен иметь актуальную информацию о бэкенд-серверах, такую как их IP-адреса и порты. Когда информация о бэкенде меняется, необходимо обновить конфигурацию в статическом файле и перезапустить Envoy, что не всегда удобно.
https://habr.com/ru/companies/gnivc/articles/866034/
#envoy #envoyproxy #envoy_proxy #istio #балансировка_нагрузки #высокая_производительность
-
Envoy — как писать чистый бизнес код для микросервисной архитектуры
Привет, Хабр, это моя первая статья. Меня зовут Константин, я системный инженер в компании ГНИВЦ. Здесь я хотел бы вам рассказать, что такое Envoy и как с его помощью можно упростить жизнь разработчикам и повысить надёжность взаимодействия микросервисов, минуя инфраструктуру для кого-то страшного и непонятного Kubernetes, а используя простой и старомодный Docker. Также эта статья поможет познакомиться с Envoy поближе и узнать, как он шагает в ногу с таким проектом как Istio.
https://habr.com/ru/companies/gnivc/articles/864528/
#envoy #devops #envoyproxy #istio #envoy_proxy #отказоустойчивость #отказоустойчивые_решения
-
Как мы нарушили все гайдлайны Kubernetes, чтобы описывать инфраструктуру в разы быстрее. Доклад Яндекса
Привет, меня зовут Всеволод, я разработчик в Yandex Infrastructure — команде, которая создаёт платформу для разработчиков Яндекса. Последние 12 лет я занимаюсь внутренним облаком и за это время писал самые разные его компоненты: от базовой инфраструктуры хостов и до Control Plane. Сегодня расскажу про то, как мы организуем для наших пользователей единое управление всей инфраструктурой и как добились на этом пути надёжности, скорости разработки, простоты поддержки и масштабируемости — хоть и нарушили при этом некоторые руководства и лучшие практики Kubernetes.
https://habr.com/ru/companies/yandex/articles/854506/
#kubernetes #protobuf #istio #configuration_as_data #crd #custom_resource_definitions #openapi
-
Look at the sidecar-less service mesh in #Istio, featuring an innovative two-layer design. The key advantages of this are the live demos on enforcing #mTLS and rich #L7authorization policies without sidecars.
-
Look at the sidecar-less service mesh in #Istio, featuring an innovative two-layer design. The key advantages of this are the live demos on enforcing #mTLS and rich #L7authorization policies without sidecars.
-
Краткий дайджест обновлений Deckhouse Kubernetes Platform 1.48-1.60
В этой статье мы рассмотрим самые важные обновления Deckhouse Kubernetes Platform версий 1.48–1.60, произошедшие почти за год — именно столько времени прошло с момента выхода нашего последнего обзора новых фичей.
https://habr.com/ru/companies/flant/articles/826228/
#kubernetes #deckhouse #Deckhouse_Kubernetes_Platform #devops #istio #grafana #distroless #обновления #platform_engineering #отечественное_по
-
Межсервисная авторизация в Авито PaaS
Антон Губарев, инженер в Avito PaaS, рассказал, как реализовать межсервисную авторизацию на 2500 сервисов и ничего не сломать.
-
Знакомимся с Access Logs и фильтрами в Envoy и Istio service mesh
Не у всех есть необходимость в тонкой настройке access logging в Envoy, но если она всё-таки возникает, то могут понадобиться примеры, которых почему-то не очень много в документации. Поэтому мы сделали перевод статьи, где вы можете познакомиться с Envoy, узнать, как включить журнал доступа (access log) Envoy в Istio, и научиться настраивать фильтры. Предполагается, что у вас есть базовые знания об Istio, но даже если у вас их нет, вы можете следовать этому руководству и попробовать настроить всё на своей локальной машине.
https://habr.com/ru/companies/slurm/articles/775600/
#service_mesh #istio #envoy #envoyproxy #access_log #devops #devops_инженер
-
Jaeger is an open source, end-to-end distributed tracing framework that works pretty well with istio
#istio #meshes #infra #tracing #DistributedTracing #tools #Monitoring #Observability #DevOps