ML Cloud – Первая национальная AI/ML платформа

ML Cloud – это готовая, удобная и функциональная рабочая среда ML-инженера, которая разворачивается в акселерированном (NVIDIA GPU) для задач AI/ML коллективном (Tensor Cloud) или частном (HTI) облаке.

ML Cloud объединяет интегрированный, предварительно сконфигурированный и самодостаточный пакет «best of breed» открытого ПО для задач ML/AI и самые мощные в мире акселераторы NVIDIA H100.

Готовая к использованию рабочая среда ML-инженера – это значительное снижение порога входа в мир AI/ML. Новейшие тензорные акселераторы NVIDIA обеспечивают недосягаемую для других технологий производительность на задачах машинного обучения и продуктивного инференса.

ML Cloud – Первая национальная AI/ML платформа

Получить консультацию

Готовая платформа для AI/ML в облаке

Высокопроизводительная платформа тензорных вычислений для AI/ML на базе частного или коллективного облака

Самые современные акселераторы NVIDIA H100 в сочетании с встроенным стеком виртуализации VMware vSphere, VMware Tanzu Kubernetes Grid и NVIDIA AI Enterprise.

Интегрированный набор “best of breed” открытого ПО как рабочее окружение ML-инженера.

De Novo ML Cloud - цена в 2 раза ниже чем у гиперскейлеров и 100% прогнозируемость затрат.

ML Cloud - проверенные технические решения

ML Cloud дает возможность

Управлять жизненным циклом машинного обучения в Kubeflow

включая разработку модели (Kubeflow Notebooks), тренировку модели (Kubeflow Pipelines), использование модели (KServe). Jupyter Notebook (основной инструмент в работе data science инженера) может быть создан и сконфигурирован в Kubeflow. Jupyter Notebook может быть запущен с доступом к GPU и без доступа к GPU.

Использовать MLFlow для работы с артефактами машинного обучения:

любые файлы и статистики, которые образуются во время тренировок, например: графики функции потерь, логи метрики, образцы тестовых изображений, чекпоинты модели, чекпоинты оптимизатора, весы модели.

Загрузка и хранение данных с помощью MinIO

Это open source инструмент, предоставляющий S3-образный интерфейс для работы с данными.

Работать с разметкой данных для задач компьютерного зрения (computer vision) в CVAT

который интегрируется с MinIO для того, чтобы считывать загруженные в MinIO датасети (видео, изображения). Маркировка (разметка) также может храниться рядом с датасетом на MinIO.

Развертывать по запросу решения для работы с разметкой других типов данных

например, инструмент для разметки текстовых данных.

Следить за состоянием системы с Grafana

По умолчанию пользователь получает доступ к набору дашбордов. Таким образом, можно узнать о работе всего кластера, загруженности, доступных и занятых ресурсах и многом другом.

Больше о K8s as a Service и AI/ML

Смотрите видео: Kubernetes как сервис в облаках De Novo

В эпоху контейнерной разработки наши специалисты создали несколько инструментов для удобного создания и управления кластерами контейнерной виртуализации на базе VMware Tanzu Kubernetes Grid в облаках De Novo.

Подробнее