Тестирование проводила команда «Скала^р» на базе аппаратной платформы Yadro. Испытания охватывали GPU-карты Nvidia и китайские ускорители. По данным разработчиков, китайские GPU в составе платформ Yadro показали результаты на уровне мировых аналогов, а в ряде конфигураций превзошли показатели отдельных азиатских платформ.

В ходе валидации сформированы оптимизированные Numa-компоновки в соотношении GPU/NIC для ИИ-серверов Yadro. Разработанные конфигурации учитывают полный стек инфраструктуры: серверы, сетевые коммутаторы и системы хранения данных. Как утверждают в компании, это позволяет увеличить пропускную способность межсерверного взаимодействия и скорость генерации токенов, а также минимизировать потери производительности при горизонтальном масштабировании кластера.

По результатам тестирования, система обеспечила время отклика LLM в пределах 5 с при стабильной работе вычислительных, сетевых и дисковых подсистем под максимальной нагрузкой.

«Мы валидировали оптимальные конфигурации серверных платформ Yadro под задачи инференса и обучения в составе "Скала^р МИИ". Это позволяет нашим заказчикам получить максимальную отдачу от GPU-ресурсов и снизить потери при масштабировании кластеров», - отметил Антон Юдин, руководитель продуктового направления «Инфраструктура ИИ Скала^р» Группы Rubytech.

«Наша совместная работа со "Скала^р" показывает, что в России появляется зрелая технологическая база для масштабных внедрений ИИ-систем для корпоративных и государственных заказчиков», - прокомментировал Павел Егоров, директор по продуктам Yadro.

Решения Yadro и продукты «Скала^р» включены в Единый реестр радиоэлектронной продукции Минпромторга России.

--

теги: производство электроники производство вычислительной техники производство серверов сервера-ИИ искусственный интеллект

--