Компания Cerebras Systems сбросила покрывало со своего нового процессора Wafer Scale Engine 3 (WSE-3) — и это гигантский чип с неимоверными возможностями.
Чип предназначен для задач, связанных с искусственным интеллектом, и он действительно гигантский. В нём содержится 4 триллиона транзисторов, собранных в 900 тысяч ИИ-ядер.
И это не просто демонстрационный процессор. Он лёг в основу суперкомпьютера CS-3 — монстра, способного обучать ИИ-модели с 24 триллионами параметров. Чип связан с 1,2 ПБ внешней памяти, что тоже впечатляет. Сам суперкомпьютер за день обрабатывает модель с 70 миллиардами параметров.
Похоже, что графический процессор H100 от NVIDIA, ориентированный на вычисления и искусственный интеллект, скоро получит обновление.
Процессор H100 — это самое производительное предложение, доступное в нескольких вариантах: H100 PCIe, H100 SXM и H100 NVL (со спаренным GPU). Сейчас H100 оснащён 80 ГБ оперативной памяти HBM2E, как в версии PCIe, так и SXM5. Лишь версия H100 NVL оснащается 188 ГБ HBM3, что означает спаренную карту с 94 ГБ памяти. Однако в скором времени, NVIDIA может выпустить одиночные версии акселератора с 94 ГБ и 64 ГБ памяти, о чём гласят свежие записи в PCI ID Repository.
Ускорители NVIDIA H100
В PCI ID Repository появились две записи: «Очень прошу добавить H100 SXM5 64 GB в 2337» и «Очень прошу добавить H100 SXM5 94 GB в 2339». Это означает, что NVIDIA может готовить новые версии H100.
В сентябре 2022 года появились сообщения, будто NVIDIA готовит вариацию H100 со 120 ГБ памяти, однако официального подтверждения этому так и не появилось. Вполне возможно, что соответствующие PCIe ID появились исключительно в лабораториях, куда соответствующее оборудование передавалось на тестирование. Будут ли новые версии доступны в продаже, покажет только время.
Копания Cerebras Systems и Федеральный Департамент энергии Национальной технологической лаборатории энергии анонсировали систему CS-1, которая в 10 000 раз быстрее графического процессора.
С практической стороны это означает, что задачи искусственного интеллекта, которые ранее занимали месяцы обучения, на системе Cerebras можно выполнить за минуты.
Компания Cerebras знаменита тем, что создала самый большой в мире чип WSE. Обычно производители микросхем изготавливают процессоры на большой 12” пластине, а затем разделают на отдельные чипы. Cerebras же использовала всю пластину для создания одного огромного процессора со множеством ядер и сложной системой коммутации между ними.
Компьютер CS-1
Система Cerebras CS-1 имеет высоту 26” и занимает треть стойки. В основе машины лежит тот самый процессор WSE, содержащий 1,2 триллиона транзисторов. Для сравнения, чип A100 80GB от NVIDIA содержит 54 миллиарда транзисторов. Машина CS-1 оказалась в 200 раз быстрее суперкомпьютера Joule, который занимает 82 место в рейтинге 500 быстрейших суперкомпьютеров, при том что Joule использует 16384 ядра.
Машина Cerebras стоит несколько миллионов долларов и использует 20 кВт энергии, однако в своей области она не имеет равных.
Компания NVIDIA выпустила новый ускоритель, который она назвала «самым маленьким и мощным суперкомпьютером ИИ для роботов и передовых встраиваемых вычислительных устройств».
Будучи меньше кредитной карты, энергоэффективный модуль Jetson Xavier NX обеспечивает производительность серверного уровня, до 21 триллиона операций в секунду при современной ИИ-нагрузке. При этом он потребляет лишь 10 ватт.
Модуль NVIDIA Jetson Xavier NX
В качестве сферы применения, разработчики называют малые коммерческие роботы, дроны, средства оптического контроля, сетевые видеорекордеры, портативные медицинские устройства и прочие промышленные системы интернета вещей.
Характеристики Jetson Xavier NX таковы:
GPU: Volta с 384 ядрами CUDA cores и 48 ядрами Tensor, плюс 2x NVDLA.
CPU: 6-ядер Carmel ARM 64-бит, 6 МБ L2 + 4 МБ L3.
Видео: кодирование 2x4K30 и декодирование 2x4K60.
Камера: до шести камер CSI (36 через виртуальные каналы); 12 линий (3x4 или 6x2) MIPI CSI-2.
Память: 8 ГБ 128-бит LPDDR4X, 51,2 Гб/с.
Подключение: Gigabit Ethernet.
ОС: Ubuntu Linux.
Размер модуля: 70x45 мм.
Модуль Jetson Xavier NX будет доступен с марта 2020 года по цене 400 долларов.
Дженсен Хуан, глава NVIDIA, в ходе GTC представил обновлённую систему машинного обучения, построенную на ускорителе Tesla V100, однако в отличие от прошлогоднего решения, новый модуль содержит 32 ГБ памяти HBM2.
В прошлом году NVIDIA представила суперкомпьютер для искусственного интеллекта DGX-1. Новая модель DGX-2 имеет удвоенное количество процессорных модулей Tesla V100. При этом DGX-2 имеет вдвое больше доступной памяти.
Суперкомпьютерынй модуль NVIDIA DGX-2
Кроме увеличения производительности вычислений и памяти, NVIDIA также обновила и шину связи. Она заменена новой технологией NVSwitch, которая представляет собой ткань интерконнекта, позволяя связывать до 16 GPU и создавать общее пространство памяти. Прошлая версия позволяла объединять только 8 GPU.
По словам разработчиков, технология NVSwitch в 5 раз быстрее PCI-Express, объединённая скорость которой достигает 2,4 ТБ/с.
Производитель суперкомпьютеров, компания Cray, разработала две новых системы, которые получили название CS-Storm 500GT и 500NX, предназначенные для обеспечения нужд её клиентов в искусственном интеллекте.
Обе системы разработаны с использование GPU NVIDIA Tesla, однако предлагают разный набор возможностей.
У моделей различный объём ОЗУ. И он впечатляет. Суперкомпьютер CS-Storm 500GT поддерживает до 2 ТБ памяти DDR4 (16 DIMM по 128 ГБ), а модель 500NX — 3 ТБ DDR4 (24 DIMM по 128 ГБ). Как и прошлые поколения машин, модель 500GT содержит пару CPU Intel семейства Xeon Skylake, а 500NX — Intel Xeon E5-2600 v4.
Фрэд Кохаут, старший вице-президент Cray по продукции и директор по маркетингу заявил: «Спрос со стороны потребителей на инфраструктуру с возможностями искусственного интеллекта быстро растёт, и выпуск наших систем CS-Storm предоставит нашим клиентам мощное решение по взаимосвязи глубокого обучения и снижению нагрузки на машины в масштабе мощности суперкомпьютера Cray. Экспоненциальный рост объёмов данных, связанный с необходимостью в более быстрых решениях в искусственном интеллекте, отвечает нуждам широко масштабируемой и настраиваемой инфраструктуры».
После того, как на рынке стали появляться быстрые суперкомпьютеры, опережающие решения Cray, у компании начали возникать проблемы с реализацией, но похоже, она нашла себе новый рынок.
В ходе Open Compute Summit, прошедшего в калифорнийском Сан-Хосе, компания NVIDIA представила крошечный суперкомпьютер Jetson TX2, который предлагает «вычисления для искусственного интеллекта на передовой».
Система размером с кредитную карту предназначена для промышленных роботов, коммерческих дронов и смарт камер. Новая версия обладает вдвое большей производительностью, по сравнению с предшественником, при энергопотреблении лишь 7,5 Вт.
Компьютер основан на GPU архитектуры Pascal, содержит 8 ГБ памяти LPDDR4, eMMC накопитель объёмом 32 ГБ, модули связи 802.11ac WLAN и Bluetooth. Работает машина под управлением Linux for Tegra. Также Jetson TX2 поставляется с JetPack 3.0, которую NVIDIA называет «наиболее конкурентоспособной SDK для вычислений в области AI, что облегчает интеграцию искусственного интеллекта в широкий спектр приложений».
Дипу Талла, вице-президент и генеральный менеджер бизнеса Tegra в NVIDIA заявил: «Jetson TX2 обеспечивает мощные возможности AI на передовой, позволяя создавать новый класс интеллектуальных машин. Эти устройства обеспечат интеллектуальный анализ видео, что сделает наши города умнее и безопаснее, создание роботов нового типа, которые оптимизируют производство, и нового взаимодействия, которое сделает удалённую работу более плодотворной».
