В то время как TSMC предупреждает, что в ближайшие 18 месяцев по-прежнему будут наблюдаться дефициты графических процессоров Nvidia H100 AI из-за недостаточных мощностей упаковки «чип на пластине на подложке» (CoWoS), другие компании видят возможность вмешаться и выполнить огромный объем поставок. спрос на генеративное оборудование искусственного интеллекта. Одной из таких компаний является новый стартап под названием d-Matrix, которому недавно удалось получить 110 миллионов долларов США от таких инвесторов, как Microsoft, продемонстрировав беспрецедентную скорость своей вычислительной карты Corsair C8, пропускная способность которой, как говорят, в 9 раз превышает пропускную способность графического процессора Nvidia H100 в генеративном режиме. Рабочие нагрузки ИИ.
Впечатляющие скорости достигаются с помощью компьютерной технологии цифровой памяти (DIMC) d-Matrix. В отличие от графических процессоров Nvidia A100 и H100, которые предназначены для более широкого спектра высокопроизводительных вычислительных задач, карты Corsair C8 от d-Matrix специально созданы для задач генеративного искусственного интеллекта и логического вывода. Одна карта Corsair C8 объединяет 2048 ядер DIMC, сгруппированных в 8 микросхем, с общим количеством 130 миллиардов транзисторов, а также оснащена 256 ГБ оперативной памяти LPDDR5, что позволяет легко разместить в памяти целые модели искусственного интеллекта. Все чиплеты соединены между собой через каналы PCIe 5.0 с пропускной способностью 1 ТБ/с, что в общей сложности обеспечивает пропускную способность между кристаллами 8 ТБ/с. d-Matrix также включает 2 ГБ SRAM с пропускной способностью 150 ТБ/с. В зависимости от рабочей нагрузки ИИ Corsair C8 обеспечивает производительность от 2400 до 9600 терафлопс.
Благодаря оптимизированным возможностям масштабирования и простоте программного стека с открытым исходным кодом, d-Matrix утверждает, что кластер карт Corsair C8 может привести к повышению энергоэффективности в 20 раз, снижению задержки в 20 раз и снижению затрат до 30 раз по сравнению с аналогичными решениями от Nvidia.