Новые чипы Nvidia демонстрируют успешность в обучении LLM, при этом число микросхем, необходимых для обучения LLM, можно сокращать.

Такие данные приводит Reuters со ссылкой на тесты некоммерческой организации MLCommons. Новые чипы Blackwell от Nvidia в расчете на чип показали вдвое более высокую скорость обучения модели Llama 3.1 405B, чем чипы предыдущего поколения Nvidia Hopper. В частности, 2496 чипов Nvidia Blackwell позволили провести обучающий тест за 27 минут.

Четан Капур, директор по продуктам CoreWeave, которая сотрудничала с Nvidia для получения некоторых результатов, отметил, что в отрасли AI наблюдается тенденция к объединению сравнительно небольших групп чипов в подсистемы для решения отдельных задач обучения AI, а не создание однородных групп в 100 тысяч и более чипов, что наблюдалось ранее.

«Используя такие подходы, можно продолжать ускорять или сокращать время обучения некоторых моделей с триллионами параметров».

Что же, если считать, что стремительное и широкое распространение AI - это благо, то новости хорошие - технология AI чем далее, тем более будет доступна не только самым богатым и технологически развитым странам, а значит не произойдет концентрации AI в руках какой-то отдельной страны или нации. Осталось выяснить, к чем приведет это самое широкое и массовое распространение АI.

Что до Nvidia, эта американская компания, похоже, продолжает оставаться "на коне", несмотря на усилия AMD и Китая.

--

За новостями телекома и IT удобно следить в телеграм-канале abloud62. Региональные новости и анонсы пресс-релизов вы найдете в канале abloudRealTime, также подключайтесь к каналу Бойко про телеком ВКонтакте

теги: микроэлектроника чипы AI чипы ИИ искусственный интеллект

--