Как ИИ прокачивает бизнес: –20% негатива в Uklon, прогноз ветра для DTEK и «симулятор врача»

Data Science UA уже около десяти лет работает в области AI/ML и реализует проекты для украинских и зарубежных заказчиков — от чат-ботов и систем машинного зрения до «симулятора врача». Мы поговорили с Константином Черкашиным, Solution Architect компании, о том, какие AI-решения сегодня заказывает украинский бизнес, для каких задач их использует и как меняется отношение компаний к искусственному интеллекту.

LLM, машинное зрение и RAG: что сегодня заказывает бизнес

Я работаю в Data Science UA около двух лет, поэтому мой приход в компанию примерно совпал с началом «бума ИИ-технологий». То, что я вижу сейчас, — это рост спроса на проекты, связанные с большими языковыми моделями (LLM), разработкой AI-агентов, машинным зрением и аналитикой больших объемов данных.

У нас много проектов и запросов на создание чат-ботов, автоматизацию техподдержки и особенно RAG-систем — систем генерации, дополненной поиском (Retrieval-Augmented Generation). Это направление развивается особенно активно, поскольку мы работаем с крупными корпоративными заказчиками, у которых есть огромные массивы собственных внутренних документов и данных.

Что касается машинного зрения, то запросов всегда хватает. Промышленным, финансовым, торговым и многим другим компаниям сегодня нужны те или иные компоненты ИИ. Мы работаем с компаниями из разных стран. При этом спрос на ИИ-технологии в Украине в последние годы существенно вырос и, несмотря ни на что, продолжает увеличиваться. Это касается всех упомянутых выше направлений.

Реальные кейсы: как ИИ работает в DTEK, Uklon, EVA и фарме

То, как именно бизнес использует AI/ML, хорошо видно на примере проектов, реализованных нашей компанией. Среди последних можно упомянуть систему для одной из национальных фармкомпаний, где машинное зрение используется для контроля нарушений на производстве. Другой производитель лекарственных средств заказал создание «симулятора врача». По сути, это умный чат-бот, с помощью которого представители фармкомпании, продвигающие лекарственные препараты, тренируются общаться с врачами и квалифицированно отвечать на различные вопросы. Есть пример и из другой отрасли: инвестиционная компания использует ИИ для поиска информации и анализа данных, на основе которых затем принимаются решения. Это совсем свежие проекты, поэтому пока не могу назвать имена заказчиков.

Если говорить о клиентах, чьи имена можно называть открыто, то для компании DTEK мы разработали систему прогнозирования выработки ветровой энергии. Наша команда создала модель, которая прогнозирует объемы генерации ветровой электроэнергии на основе исторических данных.

Из технологий мы использовали рекуррентные нейронные сети LSTM, Python и PyTorch. По данным заказчика, средняя абсолютная процентная ошибка прогноза составляла менее 10%, что является отличным показателем.

Для сервиса такси Uklon мы создали платформу для интеллектуального анализа отзывов пользователей, которая помогла сократить количество негативных оценок в 1–2 звезды на 20%. В этом проекте потребовались многоязычная обработка текста, классификация и выявление причин недовольства пользователей. Использовали Python, NLTK и TensorFlow. Для украинской торговой сети EVA мы разработали рекомендательную систему, которая анализирует поведение покупателей и помогает находить возможности для дополнительных продаж. По нашим данным, в результате среднее количество товаров в корзине увеличилось на 0,4 позиции, а отток клиентов снизился примерно с 20% до 15%. Список можно продолжать еще долго — клиентов и интересных проектов у нас много.

От H100 к H200: в отдельных задачах производительность выросла в 10 раз

Для реализации части таких проектов требуются значительные GPU-ресурсы. Их мы, в частности, арендуем в облаке De Novo: сначала использовали NVIDIA H100, а теперь перешли на H200. Нам необходимо постоянно развертывать, тестировать и обучать множество мощных LLM, и для некоторых задач H100 уже недостаточно. При этом H200 часто дает очень значительный прирост производительности.

Показательный пример мы увидели в одном из проектов с LLM OpenAI GPT-OSS-120B (OpenAI заявляет, что модель GPT-OSS-120B должна полностью помещаться на одной карте H100 — прим. De Novo). Это так называемая рассуждающая (reasoning) модель с открытыми весами (open-weight), которая уже более года свободно распространяется по лицензии Apache 2.0. Модель рассчитана прежде всего на самостоятельное развертывание: ее веса можно загрузить и запускать на собственной инфраструктуре, в нашем случае — на инфраструктуре De Novo.

То, как LLM работала на карте H100, нам не понравилось. Мы запустили ее на H200, и результат буквально превзошел ожидания — в отдельных задачах производительность выросла в 10 раз по сравнению с H100. Это тем более удивительно, учитывая, что в абстрактных синтетических тестах разница между показателями этих двух моделей составляет десятки процентов. Но, как мы увидели, в реальных задачах прирост может быть кратным. Причина такого скачка производительности, вероятно, не только в объеме памяти.

Он, конечно, играет свою роль, но, возможно, есть еще одна фундаментальная причина. Сегодня H200 — это фактически стандарт для мировых компаний: эти GPU используют OpenAI, Meta, Google и другие. Соответственно, новые модели также оптимизируются с учетом особенностей архитектуры H200. Как бы то ни было, результат очевиден.

Все описанное выше касается прежде всего развертывания, тестирования и обучения моделей. После завершения этого этапа мы передаем модель заказчику, а ее инференс уже происходит на его инфраструктуре — с учетом особенностей оборудования, ПО и других факторов. Как правило, инфраструктура клиента является закрытой и уникальной, особенно если это производственное предприятие с огромным количеством специализированных модулей — датчиков, контроллеров и т. д.

Цена, комплаенс и техподдержка определяют выбор GPU-облака

Отдельный вопрос — выбор инфраструктуры для таких задач. Мы тщательно проанализировали предложения, и здесь все более-менее стандартно: есть три варианта — глобальные операторы, европейские сервис-провайдеры и украинские площадки.

Среди решающих факторов — цена, комплаенс и сопутствующие факторы вроде качественной техподдержки. Услуги глобальных операторов стоят дорого, особенно с учетом объема вычислений, который мы потребляем. Например, одна из наших задач, которая «крутится» в облаке De Novo, требует до 25 млн токенов в час.

Европейские провайдеры, например в Польше, предлагают более низкие цены, сопоставимые с украинскими, а иногда даже ниже. Но здесь уже вступает в силу фактор комплаенса. Наши клиенты часто работают с чувствительными данными, и перенос их на зарубежные площадки — это целая процедура с точки зрения получения разрешений. В Украине тоже есть из чего выбирать, но в пользу De Novo сыграли экспертиза, профессионализм и оперативность работы техподдержки. Поэтому мы остановились на вашей компании. Сейчас мы используем в облаке De Novo одну карту H200, пока этого достаточно. Дальше будем смотреть в зависимости от характера нагрузки.

Эйфория проходит — «ИИ превыше всего» сменяется на «ИИ по необходимости»

Кстати, исходя из собственных наблюдений и ощущений, могу сказать, что рынок ИИ, похоже, выходит из состояния эйфории. Как это уже бывало с другими технологиями, постепенно люди начинают понимать границы возможностей и перестают ждать чуда. Вместо этого появляется адекватная оценка и более глубокое понимание процессов. Как в мире, так и в Украине тренд «ИИ превыше всего» сменяется на «ИИ по необходимости». Именно это я вижу сегодня, в том числе на примере наших проектов. Часть задач удается решить вообще без AI/ML, еще часть — с минимальным использованием искусственного интеллекта.

Если говорить о дальнейшем развитии технологий, то, кроме традиционных направлений, о которых мы уже говорили, очень перспективной сферой мне кажется роботизация с применением искусственного интеллекта. Промышленные и логистические роботы сегодня уже широко используются, но остается немало сфер, где человеку нужна помощь. Прежде всего это деятельность, связанная с риском для жизни или здоровья. Для Украины это военное направление, в других странах — вредные или опасные производства, хотя и военная отрасль также. Но, как бы то ни было, роботы и ИИ должны не заменять человека, а усиливать его и помогать расширять диапазон возможностей.

О компании Data Science UA

Data Science UA — сервисная ИТ-компания с сильной экспертизой в области ИИ, основанная в 2016 году, с офисами в Киеве и Лондоне. Специализируется на разработке решений с использованием искусственного интеллекта, машинного обучения, компьютерного зрения и анализа данных. Команда Data Science UA реализовала более ста проектов для украинских и международных заказчиков, среди которых DTEK, Uklon, EVA, Ernst & Young, Deloitte, Adthena. Кроме того, Data Science UA нанимает высококвалифицированных специалистов для компаний со всего мира. В частности, компания формировала core-команды инженеров для Reface, 3DLook, Grammarly, Snapchat и других.