Як ШІ прокачує бізнес: –20% негативу в Uklon, прогноз вітру для DTEK та «симулятор лікаря»

Data Science UA вже близько десяти років працює у галузі AI/ML та реалізує проєкти для українських та закордонних замовників — від чатботів й систем машинного зору до «симулятора лікаря». Ми поговорили з Костянтином Черкашиним, Solution Architect компанії, про те, які AI-рішення сьогодні замовляє український бізнес, для яких завдань їх використовує та як змінюється ставлення компаній до штучного інтелекту.

LLM, машинний зір та RAG: що сьогодні замовляє бізнес

Я працюю в Data Science UA близько двох років, тож мій прихід до компанії приблизно збігся з початком «буму ШІ-технологій». Те, що я бачу зараз, — це зростання попиту на проєкти, пов’язані з великими мовними моделями (LLM), розробкою АІ-агентів, машинним зором та аналітикою великих обсягів даних.

Маємо багато проєктів та запитів щодо створення чатботів, автоматизації техпідтримки й особливо RAG-систем — систем генерації, доповненої пошуком (Retrieval-Augmented Generation). Цей напрям розвивається особливо активно, оскільки ми працюємо з великими корпоративними замовниками, які мають величезні масиви власних внутрішніх документів і даних.

Що стосується машинного зору, то запитів завжди вистачає. Промислові, фінансові, торговельні та багато інших організацій потребують компонентів штучного інтелекту. Ми працюємо з компаніями з різних країн. Водночас попит на ШІ-технології в Україні останніми роками суттєво зріс і, попри все, продовжує збільшуватися. Це стосується всіх згаданих вище напрямів.

Реальні кейси: як ШІ працює в DTEK, Uklon, EVA та фармі

Те, як саме бізнес використовує AI/ML, добре видно на прикладі проєктів, що їх реалізувала наша компанія. Серед останніх можна згадати систему для однієї з національних фармкомпаній, де машинний зір використовується для контролю порушень на виробництві. Інший виробник лікарських засобів замовив створення «симулятора лікаря». По суті, це розумний чатбот, за допомогою якого представники фармкомпанії, що просувають лікарські препарати, тренуються спілкуватися з лікарями та кваліфіковано відповідати на різні запитання. Є приклад і з іншої глузі: інвестиційна компанія використовує ШІ для пошуку інформації та аналізу даних, на основі яких потім ухвалюються рішення. Це зовсім свіжі проєкти, тому поки не можу назвати імена замовників.

Якщо говорити про клієнтів, чиї імена можна називати відкрито, то для компанії DTEK ми розробили систему прогнозування виробітку вітрової енергії. Наша команда створила модель, яка прогнозує обсяги генерації на основі історичних даних. Із технологій ми використовували рекурентні нейронні мережі LSTM, Python та PyTorch. За даними замовника, середня абсолютна відсоткова похибка прогнозу становила менше ніж 10%, що є відмінним показником.

Для сервісу таксі Uklon ми створили платформу для інтелектуального аналізу відгуків користувачів, яка допомогла скоротити кількість негативних оцінок у 1–2 зірки на 20%. У цьому проєкті знадобилися багатомовна обробка тексту, класифікація та виявлення причин невдоволення користувачів.

Застосовували Python, NLTK і TensorFlow. Для української торговельної мережі EVA ми розробили рекомендаційну систему, яка аналізує поведінку покупців і допомагає знаходити можливості для додаткових продажів. За нашими даними, у результаті середня кількість товарів у кошику зросла на 0,4 позиції, а відтік клієнтів знизився приблизно з 20% до 15%. Список можна продовжувати ще довго — клієнтів і цікавих проєктів у нас багато.  

Від H100 до H200: на окремих завданнях продуктивність зросла у 10 разів 

Для реалізації частини таких проєктів потрібні значні GPU-ресурси. Їх ми, зокрема, орендуємо у хмарі De Novo: спочатку використовували NVIDIA H100, а тепер перейшли на H200. Нам необхідно постійно розгортати, тестувати й навчати багато потужних LLM, і для деяких завдань H100 уже недостатньо. Водночас H200 часто дає дуже значний приріст продуктивності.

Показовий приклад ми побачили в одному з проєктів із LLM OpenAI GPT-OSS-120B (OpenAI заявляє, що модель GPT-OSS-120B має повністю вміщуватися на одній карті H100 — прим. De Novo). Це так звана міркувальна (reasoning) модель з відкритими вагами (open-weight), яка вже понад рік вільно поширюється за ліцензією Apache 2.0. Модель розрахована насамперед на самостійне розгортання: її ваги можна завантажити й запускати на власній інфраструктурі, у нашому випадку — на інфраструктурі De Novo.

Те, як LLM поводилася на карті H100, нам не сподобалося. Ми запустили її на H200, і результат буквально перевершив очікування — на окремих завданнях продуктивність зросла у 10 разів порівняно з H100. Це тим більше дивно, враховуючи, що в абстрактних синтетичних тестах різниця між показниками цих двох моделей становить десятки відсотків. Але, як ми побачили, у реальних завданнях приріст може бути кратним.

Причина такого стрибка продуктивності, ймовірно, не лише в обсязі пам’яті. Цей показник, звісно, відіграє свою роль, але, можливо, є ще одна фундаментальна причина. Сьогодні H200 — це фактично стандарт для світових компаній: ці GPU використовують OpenAI, Meta, Google та інші. Відповідно, нові моделі також оптимізуються з урахуванням особливостей архітектури H200. Хай там як, результат очевидний.

Усе описане вище стосується передусім розгортання, тестування та навчання моделей. Після завершення цього етапу ми передаємо модель замовнику, а її інференс уже відбувається на його інфраструктурі — з урахуванням особливостей обладнання, ПЗ та інших факторів. Як правило, інфраструктура клієнта є закритою та унікальною, особливо якщо це виробниче підприємство з величезною кількістю спеціалізованих модулів — серсорів, контролерів тощо.

Ціна, комплаєнс, техпідтримка визначають вибір GPU-хмари

Окреме питання — вибір інфраструктури для таких завдань. Ми ретельно проаналізували пропозиції, і тут усе більш-менш стандартно: є три варіанти — глобальні оператори, європейські сервіс-провайдери та українські майданчики.

Серед вирішальних факторів — ціна, комплаєнс і супутні чинники на кшталт якісної техпідтримки. Послуги глобальних операторів коштують дорого, особливо з огляду на обсяг обчислень, який ми споживаємо. Наприклад, одне з наших завдань, яке «крутиться» у хмарі De Novo, потребує до 25 млн токенів на годину.

Європейські провайдери, наприклад у Польщі, пропонують прийнятні ціни, зіставні з українськими, а іноді навіть нижчі. Але тут уже стає важливим фактор комплаєнсу. Наші клієнти часто працюють із чутливими даними, і перенесення їх на закордонні майданчики — це ціла процедура з погляду отримання дозволів.

В Україні теж є з чого вибрати, але на користь De Novo зіграли експертиза, професіоналізм та оперативність служби техпідтримки. Тож ми зупинилися на вашій компанії. Зараз використовуємо у хмарі De Novo одну карту H200, поки цього достатньо. Далі будемо дивитися залежно від характеру навантаження.

Ейфорія минає — «ШІ понад усе» змінюється на «ШІ за потреби»

До речі, виходячи з власних спостережень і відчуттів, можу сказати, що ринок ШІ, схоже, виходить зі стану ейфорії. Як це вже бувало з іншими технологіями, поступово люди починають розуміти межі можливостей та перестають чекати дива. Натомість з’являється адекватна оцінка та глибше розуміння процесів. Як у світі, так і в Україні тренд «ШІ понад усе» змінюється на «ШІ за потреби». Саме це я бачу, зокрема на прикладі наших проєктів. Частину завдань вдається вирішити взагалі без AI/ML, ще частину — з мінімальним залученням штучного інтелекту.

Якщо говорити про подальший розвиток технологій, то, окрім традиційних напрямів, про які ми вже говорили, дуже перспективною сферою мені здається роботизація із застосуванням штучного інтелекту. Промислові та логістичні роботи сьогодні вже широко використовуються, але залишається чимало галузей, де людині потрібна допомога. Насамперед це діяльність, пов’язана з ризиком для життя або здоров’я. Для України це військовий напрям, в інших країнах — шкідливі чи небезпечні виробництва, хоча й військова галузь також. Але, хай там як, роботи та ШІ мають не замінювати людину, а посилювати її та допомагати розширювати діапазон можливостей.