Сеть, как ключевой элемент AI-инфраструктуры. Краткие итоги Broadcom Investor Day
2024-04-18
В конце марта 2024 года компания Broadcom — в состав которой сегодня входит также и VMware — провела крупнейшее ежегодное мероприятие для инвесторов, где представила свое видение будущего в области AI.
Успех технологий искусственного интеллекта во многом зависит от производительной аппаратной базы. Именно поэтому сегодня наблюдается ажиотажный спрос на всевозможные акселераторы и специализированные AI/ML-процессоры. В то же время, разнородная инфраструктура и сложные кластеры требуют также высокоскоростных каналов связи на всех уровнях.
Даже самые лучшие ускорители теряют эффективность, если результаты вычислений нельзя передать на другие узлы с достаточной скоростью. Именно этому вопросу была посвящена значительная часть дискуссии на недавнем ежегодном форуме Broadcom Investor Day, который прошел 20 марта в Сан-Хосе (Калифорния, США).
Опираясь на свой опыт и анализируя портфель заказов компании, эксперты Broadcom отстаивали идею того, что на данном этапе развития ИТ-отрасли, главный акцент смещается с ориентации на процессоры к возможностям подключения и передачи данных. Так, если еще совсем недавно ключевую роль в процессе вычислений играли центральные процессоры (CPU), то сегодня, из-за быстрого развития AI/ML эта задача все чаще делегируется специализированным чипам. В профессиональный обиход уже прочно вошли такие понятия как GPU (Graphics processing unit), TPU (Tensor Processing Unit) NPU (Neural Processing Unit), LPU (Neuron Processing Unit), вероятно, вскоре появятся и другие. Все то можно обобщить термином XPU. И сейчас задача состоит в том, чтобы обеспечить этим разнородным процессорам достаточную связь в рамках единой системы.
И на этом Broadcom делает акцент в будущих производственных планах. В частности, компания ожидает, что по итогам нынешнего года 35% ее доходов будет получено от продажи полупроводниковых решений для систем, ориентированных на AI. Сегодня, напомним, три крупнейших клиента Broadcom — это Google, Meta и NVIDIA (последняя растет быстрее всех).
На форуме компания также представила свою целостную концепцию построения инфраструктур для задач искусственного интеллекта и машинного обучения. В общих чертах она показана на рисунке ниже: справа — ключевые компоненты, слева — области, где они применяются (отмечены соответствующими цифрами).
Также Broadcom показала концепцию объединения AI-кластеров, с последовательным и согласованным соединением всех основных сетевых компонентов — от внутренних шин вроде PCIe до магистральных коммутаторов.
При этом открытым остался еще один важный вопрос, который живо обсуждался на форуме — за какой технологией интерконнекта будущее. Например, представители NVIDIA ожидаемо приводили аргументы в пользу Infiniband (на основе которой компания предлагает собственную технологию NVLink), а эксперты Broadcom полагают, что Ethernet тоже имеет здесь большие перспективы (приводя в качестве примера удачный опыт своих клиентов — Google и Meta — в сфере AI).
В общем, сеть на всех уровнях престает быть узким местом в инфраструктуре AI/ML, а значит мы, без сомнения, увидим новые прорывы и достижения в области искусственного интеллекта уже в нынешнем году.
Напомним, что сегодня мощную надежную и производительную инфраструктуру для AI/ML на основе новейших аппаратных и программных компонентов можно получить в облаке De Novo — в составе сервисов Tensor Cloud, HTI и ML Cloud. Обращайтесь за консультацией к нашим экспертам.