Подавляющее большинство моделей ИИ в настоящее время работают в облаке, а значит, на внешних компьютерах. Хотя это удобно, это может потенциально обернуться (юридической) проблемой, когда, например, необходимо проанализировать конфиденциальные данные. Хотя обычные пользователи не запускают модели ИИ локально, такие компании, как AMD и Intel, уже интегрируют NPU в свои текущие чипсеты, в то время как некоторые сетевые устройства хранения данных и камеры безопасности также фокусируются на локальных функциях ИИ.

Теперь был представлен еще один мини-ПК на базе архитектуры RISC-V с довольно мощным NPU. В частности, Pine64 Alpha-One оснащен NPU с производительностью INT8 20 TOPS. Следует отметить, что другие современные APU иногда значительно мощнее в этом отношении.

Последнее устройство Pine64 также не является полностью новым, поскольку оно основано на StarPro64 SBC. Эта плата поставляется с ESWIN EIC7700X SoC с четырьмя ядрами обработки SiFive 550, работающими на частоте до 1,4 ГГц. Кроме того, Alpha-One имеет хранилище eMMC объемом 64 ГБ, а также 7b Deepseek/Oen LLM предустановлены в виде контейнеров Docker. Производитель также заявляет о пропускной способности около 3,5 токенов в секунду (для 7b LLM), что должно быть достаточно для многих новичков, которые начинают запускать свои модели ИИ локально.

Питание подается через штекер DC barrel на 12 вольт, USB Type-C PD не поддерживается. Мини-ПК также имеет пассивное охлаждение, что означает полное отсутствие шума вентилятора, поскольку температура SoC контролируется тепловой трубкой. Компьютер потребляет менее 30 Вт и поставляется с несколькими вариантами подключения, включая Ethernet, USB 3.0 и USB 2.0. Более того, Pine64 Alpha-One поддерживает мониторы 4K с частотой до 60 Гц, а PCIe Gen 3 с четырьмя полосами может использоваться для определенных модулей расширения. Новый мини-ПК продается по цене 330 долларов, но точная дата выхода пока неизвестна.

Roadside Rescue in any US state — autocareone.com