ML Cloud – Перша національна AI/ML платформа

ML Cloud – це готове, зручне та функціональне робоче оточення ML-інженера, яке розгортається в акселерованій (NVIDIA GPU) для задач AI/ML колективній (Tensor Cloud) або приватній (HTI) хмарі.

ML Cloud поєднує інтегровану, попередньо сконфігуровану й самодостатню збірку «best of breed» відкритого ПЗ для задач ML/AI та найпотужніші в світі акселератори NVIDIA H100.

Готове до використання робоче середовище ML-інженера – це значне зниження порогу входу до світу AI/ML. А новітні тензорні акселератори NVIDIA забезпечують недосяжну для інших технологій продуктивність на задачах машинного навчання та продуктивного інференсу.

ML Cloud – Перша національна AI/ML платформа

Отримати консультацію

Готова платформа для AI/ML у хмарі

Високопродуктивна платформа тензорних обчислень для AI/ML на базі приватної чи колективної хмари.

Найсучасніші акселератори NVIDIA H100 у поєднанні з інтегрованим стеком віртуалізації VMware vSphere, VMware Tanzu Kubernetes Grid та NVIDIA AI Enterprise.

Інтегрований набір «best of breed» відкритого ПЗ як робоче оточення ML-інженера.

De Novo ML Cloud має ціну у 2 рази меншу за гіперскейлерів та забезпечує 100% прогнозованість витрат.

ML Cloud - перевірені технічні рішення

ML Cloud надає можливість

Управляти життєвим циклом машинного навчання в Kubeflow

включаючи розробку моделі (Kubeflow Notebooks), тренування моделі (Kubeflow Pipelines), використання моделі (KServe). Jupyter Notebook (основний інструмент у роботі data science інженера) може бути створений та налаштований у Kubeflow. Jupyter Notebook може бути запущений із доступом до GPU та без доступу до GPU.

Використовувати MLFlow для роботи з артефактами машинного навчання:

будь-які файли та статистики, які утворюються під час тренувань, наприклад: графіки функції втрат, логи метрики, зразки тестових зображень, чекпоінти моделі, чекпоінти оптимізатора, ваги моделі.

Завантажувати та зберігати дані за допомогою MinIO

Це open source інструмент, що надає S3-подібний інтерфейс для роботи з даними.

Працювати з розміткою даних для задач комп’ютерного зору (computer vision) у CVAT

який інтегрується із MinIO для того, щоб зчитувати завантажені у MinIO датасети (відео, зображення). Маркування (розмітка) також може зберігатися поруч із датасетом на MinIO.

Розгортати за запитом рішення для роботи з розміткою інших типів даних

наприклад, інструменту для розмітки текстових даних.

Слідкувати за станом системи з Grafana

За замовчування користувач отримує доступ до набору дашбордів. Таким чином, можна дізнатися про роботу всього кластера, завантаженість, доступні та зайняті ресурси та багато іншого.

Більше про K8S as a Service та AI/ML

Дивіться відео: Kubernetes як сервіс у хмарах De Novo

В епоху контейнерної розробки наші фахівці створили декілька інструментів для зручного створення та керування кластерами контейнерної віртуалізації на базі VMware Tanzu Kubernetes Grid в хмарах De Novo.

Детальніше