Блог компанії De Novo

NVIDIA

Компанія NVIDIA представила Dynamo — інноваційну програмну платформу нового покоління для прискорення та масштабування інференсу великих мовних моделей (LLM). Новий інструмент, який приходить на зміну Triton Inference Server, пропонує розробникам гнучкі та потужні можливості для створення ефективних ШІ-фабрик, мінімізуючи витрати та підвищуючи ефективність використання обчислювальних ресурсів.

Компанія NVIDIA розробила каталог попередньо навчених моделей та налаштованих програмних інструментів NIM Agent Blueprints, для створення та впровадження застосунків у галузі генеративного AI. Доступні моделі призначені для створення ШІ-аватарів, розробки лікарських засобів, автоматизації роботи з клієнтами. Список розширюватиметься щомісяця. 

Вплив технологій AI/ML сьогодні є настільки істотним, що всі провідні держави світу, хоча й виступають за глобальну взаємодію, прагнуть забезпечити собі максимальну технологічну незалежність, навіть від найближчих партнерів. Це, своєю чергою, впливає на тенденції глобального ринку ІТ. 

Нещодавно низка найбільших світових ІТ-компаній, серед яких AMD, Broadcom, Cisco, Google, HPE, Intel, Meta, Microsoft повідомили про створення альянсу Ultra Accelerator Link, метою якого є розробка рішення для конкуренції з інтерконектом NVIDIA NVLink. Чи вдасться створити гідну альтернативу? 

Наприкінці березня 2024 року компанія Broadcom — до складу якої сьогодні входить також і VMware — провела найбільший щорічний захід для інвесторів, де презентувала своє бачення майбутнього в галузі AI.