На Международной компьютерной выставке в Тайбэе в 2024 году компания Kneron, стартап по производству чипов искусственного интеллекта, представила свои периферийные продукты искусственного интеллекта следующего поколения: сервер KNEO 330 и ПК, оснащенные новым чипом KL830 NPU.
Компания была основана в 2015 году и специализируется на периферийных вычислениях AI.
Компания Kneron, основанная в 2015 году, специализируется на предоставлении технологий периферийных вычислений (ИИ). Они могут похвастаться такими известными инвесторами, как Horizons Ventures, Qualcomm и Alibaba. Kneron стремится предложить альтернативу облачным решениям искусственного интеллекта от технологических гигантов. Их технология позволяет компаниям создавать внутренние серверы для конкретных приложений искусственного интеллекта, решая проблемы конфиденциальности и безопасности данных. Это может сделать решения искусственного интеллекта более доступными для предприятий, которые не решаются полагаться на внешние облачные сервисы.
Были представлены два продукта:
- Сервер KNEO 330: этот сервер предлагает 48TOPS вычислительной мощности искусственного интеллекта, поддерживает до 8 пользователей одновременно и работает с такими приложениями, как LLM и Stable Diffusion. Кнерон утверждает, что может достичь облачной производительности для RAG (генеративно-состязательных сетей) с меньшими затратами, что потенциально снизит расходы на ИИ для малого бизнеса на 30-40%.
- ПК с NPU KL830: конкретные подробности не разглашаются, но демонстрационное устройство HP продемонстрировало его возможности. Kneron сотрудничает с крупными производителями ПК, чтобы сделать их первыми покупателями этого чипа.
KL830 — это нейронный процессор (NPU), предназначенный для работы вместе с центральными и графическими процессорами для задач искусственного интеллекта. Он обеспечивает высокую вычислительную мощность (10eTOPS при 8 бит) при низком энергопотреблении (2 Вт) и эффективно обрабатывает различные большие языковые модели.
Кнерон также упомянул USB-ускоритель искусственного интеллекта на базе KL830. Это может превратить любое устройство, например маршрутизаторы, камеры Интернета вещей или даже традиционные компьютеры, в периферийное устройство искусственного интеллекта.