Почему ценность сети растет во все более цифровом мире

Когда-то сеть была ИТ-ресурсом, на который мало кто обращал внимание. Многие считали сеть «трубами» или «водопроводом» компании и считали ее товаром. Это мнение меняется, поскольку важность сети быстро растет по мере …

Cambium запускает новую систему управления беспроводной сетью

Данные передаются через многочисленные проводные и беспроводные сети, и все эти разрозненные информационные каналы используются каждый час и каждый день и требуют управления. Таким образом, бизнес, который в значительной степени полагается …

Пять способов, которыми Cisco Systems открывает открытое будущее

С момента своего основания в 1984 году миссия Cisco Systems заключалась в том, чтобы с помощью технологий изменить то, как мы работаем, живем, учимся и играем. Сеть, центр обработки данных, продукты …

0 Comments


Мало кто спорит о том, что производитель графических процессоров NVIDIA является стандартом де-факто, когда дело доходит до предоставления микросхем для систем на основе машинного обучения (ML) и искусственного интеллекта (AI). Каким бы важным ни был Intel для вычислений общего назначения, NVIDIA делает то же самое для ускоренных вычислений. Его графические процессоры можно найти во всем: от систем центров обработки больших данных до автомобилей и настольных видеоустройств – даже в конечных точках потребителей.

NVIDIA наиболее известна своими графическими процессорами, но также производит системы

Новым звеном в бизнесе NVIDIA является группа по производству систем, которая производит полнофункциональные серверы под ключ и настольные ПК для ускоренных вычислений. Примером этого является линейка серверов NVIDIA DGX, которая представляет собой набор систем, специально созданных для суровых условий AI / ML. На этой неделе на выставке цифровых суперкомпьютеров NVIDIA анонсировала последнего представителя своего семейства DGX – станцию ​​DGX A100.

Эта «рабочая станция» представляет собой компьютерный зверь и оснащена четырьмя недавно анонсированными графическими процессорами A100. Эти графические процессоры были разработаны для центров обработки данных и поставляются с 40 ГБ или 80 ГБ памяти графического процессора, что дает рабочей станции до 320 ГБ памяти графического процессора, с которой специалисты по данным могут делать выводы, учиться и анализировать. Станция DGX A100 имеет колоссальную производительность искусственного интеллекта 2,5 петафлопс и оснащена NVIDIA NVLink в качестве высокопроизводительной магистрали для подключения графических процессоров без задержек между чипами, эффективно создавая один массивный графический процессор.

MIG позволяет рабочим группам использовать единую систему

Я заключил термин «рабочая станция» в кавычки, потому что на самом деле это рабочая станция только в форм-факторе; даже при 2,5 FLOPS по сравнению с 5, которые есть у сервера A100, это все равно машина. Преимущество DGX Station заключается в том, что она выводит AI / ML из центра обработки данных и позволяет рабочим группам подключать его и запускать где угодно. Рабочая станция – единственный из известных мне серверов рабочей группы, поддерживающий технологию NVIDIA Multi-Instance GPU (MIG). С помощью MIG графические процессоры на A100 могут быть виртуализированы, поэтому одна рабочая станция может предоставить 28 экземпляров графических процессоров для выполнения параллельных заданий и поддержки нескольких пользователей, не влияя на производительность системы.

Как упоминалось ранее, форм-фактор рабочей станции делает станцию ​​A100 идеальной для рабочих групп и может быть приобретена непосредственно подразделениями бизнеса. Сравните это с сервером A100, который развертывается в центре обработки данных и обычно приобретается и управляется ИТ-организацией. Большинство бизнес-специалистов, таких как специалисты по обработке данных, не имеют технической хватки или даже доступа к центру обработки данных, чтобы купить сервер, установить его в стойку и штабелировать, подключить его к сети и выполнять необходимые ИТ-задачи. сделано, чтобы он продолжал работать.

Станция A100 разработана для простоты

Станция A100 выглядит как большой компьютер. Он устанавливается вертикально на столе или под ним, и от пользователя просто требуется подключить шнур питания и сеть. Простой дизайн делает его идеальным для гибких групп специалистов по анализу данных, которые работают в лаборатории, традиционном офисе или даже дома. DGX Station была разработана для простоты и не требует никакой ИТ-поддержки или передовых технических навыков. Моя первая работа после колледжа была работа с группой специалистов по данным в качестве специалиста по информационным технологиям, и я могу подтвердить важность простоты для этой аудитории.

Без чего-то вроде A100, специально созданного для ускоренных вычислений, рабочие группы были бы вынуждены покупать настольные серверы на базе ЦП, мощность которых для такого варианта использования крайне недостаточна. Конечно, средний сервер рабочей группы на базе Intel может запускать Word и Google Docs, но запуск аналитических моделей на основе ИИ может занять месяцы? В системах с графическим процессором то, что занимало месяцы, обычно можно сделать всего за несколько часов или даже минут.

Хотя NVIDIA не объявила цену на DGX A100 Station, я предполагаю, что она приближается к шестизначным цифрам, и это может показаться высоким для рабочей станции. Но, учитывая уровень вознаграждения специалистов по данным, заставляющих их работать, а не сидеть сложа руки и ждать, пока модели будут запущены в системах ЦП, эта цена является выгодной. Если учесть упущенные альтернативные издержки из-за отсутствия оптимизированной системы AI / ML, это сделает станцию ​​незаменимой для рабочих групп, которым нужна такая вычислительная мощность.

Некоторые компании могут передать всю инфраструктуру ИИ ИТ-организации, и это прекрасная модель. Эти компании, вероятно, будут использовать один из форм-факторов сервера.

Станция DGX A100 идеально подходит для тех, кто оставляет решения об инфраструктуре и закупки в рамках бизнеса. Мощность графического процессора на столе может показаться немного фантастической, но NVIDIA объявила об этом на этой неделе.

Зевс Керравала регулярно пишет на eWEEK, а также является основателем и главным аналитиком ZK Research. Он проработал 10 лет в Yankee Group, а до этого занимал ряд корпоративных ИТ-должностей.

Author

bodronik@meta.ua

Leave a Reply

Your email address will not be published. Required fields are marked *