Меню
Главная Блог компании De Novo От общего к частному: почему компании все чаще переносят AI/ML-нагрузки в закрытые облака?
От общего к частному: почему компании все чаще переносят AI/ML-нагрузки в закрытые облака?

От общего к частному: почему компании все чаще переносят AI/ML-нагрузки в закрытые облака?

2024-11-11

На фоне роста спроса на AI/ML-технологии, коммерческие компании и государственные структуры все чаще переносят свои нагрузки в частные облака. Сейчас эта тенденция набирает обороты по всему миру. Корпоративные пользователи хотят полного контроля над собственными данными, когда они попадают в ИИ-системы.

Концепция коллективного (публичного) облака успешно развивается с начала 2000-х годов. При всех несомненных достоинствах подхода, у него есть и ряд потенциальных недостатков, которые могут быть критичными для особо требовательных корпоративных и государственных заказчиков. Организации из регулируемых отраслей, работающие с конфиденциальными данными (оборона, финансовые услуги, здравоохранение, государственное управление и т. д.), как правило, не могут использовать коллективные облака для своих основных задач. Вместо этого они традиционно предпочитают частные облака — на собственных или арендованных площадках. Обе концепции уже долгое время находятся в определенном балансе на мировом рынке, эффективно дополняя друг друга. Но, недавний технологический рывок в области ИИ, привел и к ощутимому росту спроса на частные облака, со стороны корпоративных заказчиков.

Недавний опрос, проведенный компанией Barclays показал интересную статистику: 83% ИТ-директоров крупных и средних компаний в 2024 году планируют перенести в частное облако, по крайней мере часть рабочих нагрузок. В 2020-м таковых было всего 43%.

Аналитики связывают эту тенденцию с тем, что большинство организаций хотят внедрять у себя ИИ-технологии, в частности, использовать GenAI, в сочетании с личными данными, которыми располагает организация. Это может быть информация о клиентах, сотрудниках, жителях города или региона и т.д. Все данные такого рода по определению относятся к категории чувствительных и не могут быть переданы третьим лицам (за исключением некоторых ситуаций, обозначенных в соответствующих законах). Поэтому никто не согласится передать их на обработку в публичное ИИ-облако, вроде ChatGPT или Gemini. ИТ-директора (CIO) хорошо понимают, что нет способа проконтролировать то, что люди отправляют в открытые Large Language Model (LLM) модели и неважно, какие гарантии вы получаете от компании-оператора. Будь это хоть Google, AWS или Microsoft — ни один CIO или CISO (директор по информационной безопасности) не допустит выхода конфиденциальных данных за пределы защищенного ИТ-периметра, не говоря уже о закрытой системе LLM вроде OpenAI или Gemini.

В этой ситуации единственным вариантом, позволяющим, сохранить полный контроль над данными и в то же время получить всю мощь ИИ-технологий, остается частное облако, развернутое локально или на площадке оператора. Тем более, что для частных платформ сейчас доступны не только мощные вычислительные ресурсы, но и общедоступные AI/ML-модели с открытым исходным кодом. К примеру, эксперты отмечают, что недавно представленная open source модель Meta Llama 3 способна показать производительность, сравнимую с ChatGPT 4. Есть и другие доступные решения, например Mistral, которые тоже стремительно развиваются. Таким образом, частное облако сегодня обладает всеми необходимыми инструментами для развертывания мощных и, главное, защищенных AI/ML-моделей. Это, в свою очередь, стимулирует корпоративных и государственных заказчиков все чаще обращать внимание на частные облака и переносить туда свои нагрузки.

К примеру, осенью прошлого года Bloomberg сообщал , что ЦРУ разрабатывает собственный внутренний инструмент вроде ChatGPT для анализа открытых данных и повышения эффективности OSINT (Open Source INTelligence). По словам представителя организации, процесс создания и обучения LLM-системы занял полтора года и потребовал модернизации одного из суперкомпьютеров ЦРУ, находящегося в закрытой сети, доступной только правительству США. Хотя технически решение развернуто в облаке, само это облако изолированно от Интернета, поэтому оно не может обучаться на информации из глобальной сети, а использует только определенные проверенные наборы данных. Судя по косвенным данным, другие разведывательные организации по всему миру идут схожим путем.

Примечательно, что крупнейшие ИТ-компании, предлагающие публичные облачные сервисы, ощутив тенденцию, также начали предлагать специализированные «закрытые» решения. Так, в мае 2024 года Microsoft внедрила модель генеративного искусственного интеллекта, полностью отделенную от Интернета, заявив, что теперь американские спецслужбы могут безопасно использовать эту технологию для анализа секретной информации. В общем, благодаря ИИ, миграция в частные облака выходит на новый этап.

Мы же напомним, что если вам нужна мощная и надежная AI/ML-инфраструктура из облака, то вы можете получить ее уже сегодня. В составе облачных уcлуг  HTI (сервис класса GPU Private Cloud),  Tensor Cloud (в коллективном облаке), а с PaaS-платформой ML Cloud вы получаете еще и готовую полноценную рабочую среду для ML-инженера (класса AWS SageMaker или Google Vertex AI).

Обращайтесь к нам за консультацией!

© 2008—2024 De Novo (Де Ново)