Прагнення приватності: чому компанії все частіше переносять AI/ML-навантаження в закриті хмари?
2024-11-11
На тлі зростання попиту на AI/ML-технології, комерційні компанії та державні структури все частіше переносять свої навантаження у приватні хмари. Зараз ця тенденція набирає обертів по всьому світі. Корпоративні користувачі хочуть повного контролю над власними даними, коли вони потрапляють до ШІ-систем.
Концепція колективної (публічної) хмари успішно розвивається з початку 2000-х років. Попри безперечні переваги підходу, він має й низку потенційних недоліків, які можуть бути критичними для особливо вимогливих корпоративних та державних замовників. Організації з регульованих галузей, що працюють із конфіденційними даними (оборона, фінансові послуги, охорона здоров'я, державне управління тощо), як правило, не можуть використовувати колективні хмари для своїх основних задач. Натомість вони традиційно віддають перевагу приватним хмарам — на власних або орендованих майданчиках. Обидві концепції вже тривалий час перебувають у певному балансі на світовому ринку, ефективно доповнюючи одне одного. Але, нещодавній технологічний ривок у галузі ШІ, призвів й до відчутного зростання попиту на приватні хмари з боку корпоративних замовників.
Нове опитування компанії Barclays, показало цікаву статистику: 83% ІТ-директорів великих та середніх компаній у 2024 році планують перенести навантаження в приватну хмару, принаймні частину робочих навантажень. У 2020 році таких було лише 43%.
Аналітики пов'язують цю тенденцію з тим, що більшість організацій хочуть впроваджувати у себе ШІ-технології, зокрема, використовувати GenAI, у поєднанні з особистими даними, які має організація. Це може бути інформація про клієнтів, співробітників, мешканців міста чи регіону тощо. Всі дані такого роду за визначенням належать до категорії чутливих і не можуть бути передані третім особам (за винятком ситуацій, зазначених у відповідних законах). Тому ніхто не погодиться передати їх на обробку в публічну ШІ-хмару, таку як ChatGPT або Gemini. ІТ-директори (CIO) добре розуміють, що немає способу проконтролювати те, що люди передають у відкриті Large Language Model (LLM) моделі й неважливо, які гарантії ви отримуєте від компанії-оператора. Будь це хоч Google, AWS чи Microsoft — жоден CIO, чи CISO (директор з інформаційної безпеки) не допустить виходу конфіденційних даних за межі захищеного ІТ-периметра, не кажучи вже про закриту систему LLM на кшталт OpenAI чи Gemini.
У цій ситуації єдиним варіантом, що дозволяє зберегти повний контроль над даними й водночас отримати всю міць ШІ-технологій, залишається приватна хмара, розгорнуте локально або на майданчику оператора. Тим більше, що для приватних платформ зараз доступні не тільки потужні обчислювальні ресурси, а й загальнодоступні моделі AI/ML з відкритим вихідним кодом. Наприклад, експерти відзначають, що нещодавно представлена open source модель Meta Llama 3, здатна показати продуктивність, близьку до ChatGPT 4. Є й інші доступні рішення, наприклад Mistral, які також стрімко розвиваються. Таким чином, приватна хмара сьогодні має всі необхідні інструменти для розгортання потужних і, головне, захищених AI/ML-моделей. Це, своєю чергою, стимулює корпоративних та державних замовників все частіше звертати увагу на приватні хмари та переносити туди свої навантаження.
Наприклад, восени минулого року Bloomberg повідомляв, що ЦРУ розробляє власний внутрішній інструмент як ChatGPT для аналізу відкритих даних і підвищення ефективності OSINT (Open Source INTelligence). За словами представника організації, процес створення та навчання LLM-системи зайняв півтора року й зажадав модернізації одного з суперкомп'ютерів ЦРУ, який перебуває в закритій мережі, доступній лише уряду США. Хоча технічно рішення розгорнуто у хмарі, саме це хмара ізольовано від Інтернету, тому вона може навчатися на інформації з глобальної мережі, а використовує лише певні перевірені набори даних. Судячи з певних даних, інші розвідувальні організації по всьому світі йдуть схожим шляхом.
До речі, найбільші ІТ-компанії, які пропонують публічні хмарні послуги, відчувши тенденцію, також почали пропонувати спеціалізовані «закриті» рішення. Так, у травні 2024 року Microsoft запровадила модель генеративного штучного інтелекту, повністю відокремлену від Інтернету, заявивши, що тепер американські спецслужби можуть безпечно використовувати цю технологію для аналізу таємної інформації. Загалом завдяки ШІ міграція в приватні хмари виходить на новий етап.
Ми ж нагадаємо, що якщо вам потрібна потужна та надійна AI/ML-інфраструктура із хмари, то ви можете отримати її вже сьогодні. У складі хмарних сервісів HTI (сервіс класу GPU Private Cloud), Tensor Cloud (у колективній хмарі), а з PaaS-платформою ML Cloud ви отримуєте ще й готове повноцінне робоче середовище для ML-інженера (класу AWS SageMaker або Google Vertex AI).
Звертайтесь до нас по консультацію!