ML Cloud в деталях. О чем говорили на новом вебинаре De Novo
2024-05-31
29 мая 2024 г. компания De Novo в партнерстве с MK Consulting провела практический вебинар, посвященный облачным услугам для задач искусственного интеллекта и машинного обучения. В частности, подробно была рассмотрена новая облачная платформа ML Cloud — удобная и функциональная рабочая среда ML-инженера, развернутая в акселерированном облаке.
Тема искусственного интеллекта и машинного обучения (AI/ML) сегодня, очевидно, вызывает наибольший интерес у ИТ-специалистов во всем мире. Тем более, что технологии развиваются невероятно быстро и от скорости внедрения решений, вывода на рынок новых инновационных услуг, нередко зависит успех бизнеса. Поэтому так велик сейчас интерес к AI/ML-технологиям в облаке, ведь они позволяют кратчайшие сроки получить в свое распоряжение все необходимые инструменты для разработки, внедрения и эксплуатации ИИ-решений. Украинский рынок, не является исключением — спрос на AI/ML-платформу растет и у нас в стране.
Отвечая на запросы рынка, еще в начале 2024 года компания De Novo предложила пользователям целый ряд сервисов для ML-инженеров, в том числе Tensor Cloud, HTI и ML Cloud. Последнему из них был посвящен специальный вебинар (участие в нем приняли более ста человек), где сервис ML Cloud был рассмотрен в деталях, главным образом, с практической стороны.
Сочетая лучшее
Важнейшей составляющей сервиса De Novo ML Cloud является программный комплекс ML Stack – партнерская разработка украинской компании MK Consulting. Собственно, ML Stack, развернутый на Tensor Cloud или HTI в сочетании с Kubernetes промышленного класса – это и есть De Novo ML Cloud. О технических особенностях и практических аспектах использования этого сервиса рассказал Евгений Краснокутский — ML Lead MK Consulting. Если коротко, то это когерентная, предварительно сконфигурированная и самодостаточная сборка лучшего (best of breed) открытого ПО для ML/AI, которая создает комфортное и привычное рабочее окружение ML-инженера.
В составе стека гармонично сочетаются такие элементы как платформа для управления жизненным циклом проектов машинного обучения MLflow, универсальный инструментарий для автоматизированного машинного обучения (AutoML) Katib, объектное хранилище MinIO, система управления пользователями Keycloak, набор инструментов машинного обучения и MLOps для Kubernetes — Kubeflow (и инструментарий для серфинга KServe в его составе). Для сбора и визуализации данных используются соответственно Prometheus и Grafana, а для аннотации изображений и видео – CVAT.
Технологический стек сервиса De Novo ML Cloud
Продуманная комбинация компонентов позволила создать программный комплекс, полностью удовлетворяющий потребности ML-инженеров в удобных и функциональных рабочих инструментах для различных типов задач. На всех этапах презентация сопровождалась практической демонстрацией, которая помогла оценить функциональность и удобство сервиса.
Что в основе ML-облака
Отдельная часть мероприятия бела посвящена инфраструктурным решениям. В частности, Геннадий Карпов, директор по технологиям De Novo, рассказал о базовых компонентах, лежащих в основе новых услуг для AI/ML. В частности, это мощные GPU NVIDIA H100/L40S с тензорными ядрами, интегрированный технологический стек на базе VMware vSphere, VMware Tanzu Kubernetes Grid и NVIDIA AI Enterprise, надежные и мощные серверы, системы хранения данных и сетевое оборудование. Отдельно были упомянуты услуги Kubernetes as a Service, которые также доступны в коллективном и частном облаках De Novo. Все ML-сервисы снабжены профессиональной технической поддержкой и доступны для тестирования.
Технологический стек сервиса De Novo ML Cloud
По завершении основных докладов вебинара можно было в свободном режиме пообщаться с экспертами в области AI/ML-технологий. Финальное обсуждение технических вопросов показало глубокое понимание темы и заинтересованность со стороны слушателей в средствах развертывания инновационных ИИ-проектов в облаках.