Компания AMD объявила о появлении новых ускорителей и процессоров, предназначенных для запуска больших языковых моделей или LLM.

Производитель микросхем представил ускоритель Instinct MI300X и ускоренный процессор Instinct M1300A (APU), которые, по словам компании, предназначены для обучения и управления LLM. Компания заявила, что MI300X имеет в 1,5 раза больше памяти, чем предыдущая версия M1250X. Оба новых продукта имеют больший объем памяти и более энергоэффективны, чем их предшественники, заявили в AMD.

«LLM продолжают увеличиваться, требуя огромных объемов памяти и вычислений», — сказала генеральный директор AMD Лиза Су. «И мы знаем, что доступность графических процессоров является самым важным фактором внедрения ИИ».

Во время презентации Су сказал, что MI300X «является самым производительным ускорителем в мире».

AMD заключила партнерское соглашение с Microsoft, чтобы разместить MI300X на своих виртуальных машинах Azure. Технический директор Microsoft Кевин Скотт, гость выступления Су, также объявил, что виртуальные машины Azure ND MI300X, впервые представленные в ноябре, теперь доступны в предварительной версии. Meta также объявила, что развернет процессоры MI300 в своих центрах обработки данных.

AMD заявила, что MI300A предлагает более производительные вычисления, более быстрое обучение моделей и 30-кратное повышение энергоэффективности. По словам компании, по сравнению с H100 у него в 1,6 раза больше памяти. Он также имеет унифицированную память, поэтому больше нет необходимости перемещать данные с разных устройств.

Информации о ценах пока нет.