NVIDIA анонсирует новую ИИ платформу EGX

Компания NVIDIA анонсировала новую платформу искусственного интеллекта с низкими задержками обработки, которая получила название EGX.

Эта система предназначена для получения, понимания и осуществления действий в реальном времени на основе постоянно поступающих данных от базовых станций 5G, складов, розничных магазинов и заводов.

По словам разработчиков, система создана для обеспечения растущего спроса на обработку потоков данных средствами ИИ с высокой скоростью прямо на передовой, где эти данные создаются, с гарантированным временем отклика, снижая объём передаваемых в облако данных.

Платформа NVIDIA EGX
Платформа NVIDIA EGX

Аналитики считают, что к 2025 году в мире будет насчитываться 150 миллиардов машинных датчиков и устройств Интернета вещей, которые будут передавать данные, требующие обработки. Это больше данных, чем сейчас генерируют люди своими смартфонами. Серверы, подобные платформе EGX, будут размещены по всему миру, чтобы обрабатывать данные от этих датчиков.

Что касается аппаратной части, что EGX основывается на Jetson Nano, который при потреблении нескольких ватт может обрабатывать полтриллиона операций в секунду (TOPS) в задачах, подобных распознаванию изображений. Полноразмерные серверы NVIDIA T4 обеспечивают более 10 000 TOPS для распознавания речи в реальном времени и прочих задач ИИ.