De Novo и MK-consulting рассказали об этапах развития и уровнях зрелости ML-проектов

Мировой интерес к искусственному интеллекту и машинному обучению не утихает. Однако структура запросов стремительно меняется. После первого мощного впечатления, когда AI/ML пытались внедрить буквально повсюду (не смотря нужно это или нет), заказчики и разработчики начали более взвешенно подходить как к технологии в целом, так и к ее составляющим. Новые проекты все чаще создают более взвешенно и умеренно. В этих обстоятельствах очень важно понимать, как развивается эффективный проект на практике – какие этапы он должен проходить и какие черты говорят о его зрелости. Опытом в этих вопросах поделился Евгений Краснокутский, ML Lead MK-consulting, кроме того, Геннадий Карпов, директор по технологиям De Novo рассказал о дорожной карте и планах развития первой национальной AI/ML — платформы ML Cloud. Основной акцент во время вебинара был сделан на практические советы и демонстрации, поэтому все же предлагаем пересмотреть полное видео мероприятия — будет интересно. 

От идеи до внедрения 

Много внимания было уделено рассмотрению основных этапов ML-проектов. На первом шаге самое главное – определить настоящие потребности бизнеса. Это довольно важная и сложная задача, потому что далеко не всегда потенциальный заказчик может верно сопоставить свои потребности и возможности (финансовые, технические и т.п.). Однако, когда определились с идеей, следующим шагом ее нужно валидировать — проверить, достаточно ли данных для тренировки ML-модели и возможно ли решить поставленную задачу с помощью машинного обучения (ML feasibility). 

Если задача реальна при существующих условиях, далее следует разработка MVP — создание минимально жизнеспособного продукта для демонстрации концепции и отклика пользователей. При условии, что MVP в целом всех устраивает, следует перейти к выбору технологий для внедрения и поддержания полноценного проекта. На этом этапе производится определение оптимального стека технологий, включая фреймворки, библиотеки и инструменты разработки. 

Следует тщательно подходить и к вопросам масштабирования проекта. В частности, нужно обеспечить отслеживание изменений в данных, а также создать тестовую среду, позволяющую проводить многочисленные эксперименты и сравнивать результаты различных ML-моделей, лучшие из которых можно внедрять. Важно также выбрать надежную, мощную и функциональную платформу для развертывания модели и обеспечения ее доступности для пользователей. На этапе эксплуатации требуется постоянный мониторинг производительности моделей и качества данных для своевременного выявления и устранения потенциальных проблем. В дальнейшем оценку зрелости проекта можно осуществлять по разным метрикам и критериям, в частности, таким как качество данных, стабильность работы, эффективность и т.д. 

Ключевые выводы: 

• Успешный ML-проект требует комплексного подхода: от сбора и подготовки данных до полноценного развертывания производственных моделей.
• Качество данных определяет качество моделей: необходимо уделять достаточное внимание очистке и подготовке данных.
• Зрелость проекта следует оценивать с помощью метрик: это позволяет отслеживать прогресс и выявлять области для усовершенствования.
• Инфраструктура играет ключевую роль: надежные инструменты для версионирования, экспериментирования и мониторинга необходимы.

В любом случае для успешного создания ML-проекта требуется слаженная командная работа между инженерами по данным, ML-инженерами и DevOps-специалистами. 

ML Cloud – для разработки и развертывания моделей машинного обучения 

Вторая часть вебинара была посвящена вопросам комплексной аппаратно-программной инфраструктуры для тестирования, развертывания и эксплуатации ML - проектов. В частности, Геннадий Карпов посвятил свое доклад тому, как украинская платформа ML Cloud может помочь пользователям на каждом из уровней зрелости ML-проекта. Также в докладе были очерчены дальнейшие планы развития платформы ML Cloud и отмечены, какие инструменты будут доступны украинским DevOps и ML-разработчикам уже в скором времени. 

Платформа De Novo ML Cloud предлагает комплексную среду для разработки и развертывания моделей машинного обучения. Она предоставляет широкий спектр инструментов и сервисов, упрощающих процесс создания и использования моделей искусственного интеллекта. Платформа объединяет интегрированную, предварительно сконфигурированную и самодостаточную сборку "best of breed" открытого ПО для задач ML/AI и мощные в мире акселераторы NVIDIA H100/L40S. Решение пользуется спросом среди заказчиков, запросы которых, впрочем, растут. Поэтому, De Novo продолжает развитие ML Cloud , дополняя платформу новыми инструментами.  

В частности появится мультитенантный вариант S3 – совместимого объектного хранилища на базе Міniо. Также в ближайших планах внедрение нового типа сервиса – Database as a S ervice (СУБД из облака по запросу) и системы типа Identity Access Management (IAM) для управления учетными записями. Также в ближайшее время в составе ML Cloud появятся новые оркестраторы, которые помогут еще более эффективно управлять жизненным циклом ML-сервисов. Для большего удобства пользователей планируется дополнительно ввести систему оплаты по принципу pay-as-you-go (оплата лишь тех мощностей, которые были фактически потреблены — не больше, не меньше). 

Что касается аппаратной составляющей, то здесь ML Cloud скоро сможет предложить опцию Multi - GPU Traning, позволяющий объединить с помощью фирменного сверхбыстрого интерконнект мощности двух ускорителей NVIDIA H 100 в единую систему с общим объемом оперативной памяти в 160 ГБ (80+80). Вдобавок будут улучшены и расширены возможности многопользовательского потребления ресурсов GPU – ускорителей. 

По итогам, гости вебинара получили практические знания и инсайты для успешной разработки ML-проектов, узнали возможности украинской платформы ML Cloud, смогли пообщаться с экспертами, имеющими огромный практический опыт, и получить ответы на актуальные вопросы внедрения технологий машинного обучения. 

В завершение, снова приглашаем вас к просмотру полного видео вебинара. Если у вас появился интерес к ML-сервисам, то задавайте вопросы нашим экспертам через форму обратной связи.