Syntiant, трехлетний специалист по чипам глубокого обучения, специализирующийся на искусственном интеллекте на периферии, выпустил свой нейронный процессор принятия решений (NDP) NDP120.
Syntiant описывает его как последнее поколение микросхем специального назначения для обработки звука и датчиков для постоянно включенных приложений в устройствах с батарейным питанием.
NDP120 применяет нейронную обработку для одновременного запуска нескольких приложений с минимальным энергопотреблением батареи, включая эхоподавление, формирование луча, подавление шума, улучшение речи, идентификацию говорящего, определение ключевых слов, множественные слова пробуждения, обнаружение событий и распознавание локальных команд.
«NDP120 — первый из семейства полупроводников, использующий нашу платформу тензорного процессора следующего поколения Syntiant Core 2, которая доводит уровни производительности, ранее обнаруженные в подключенных устройствах, до уровня мощности, подходящего для работы от батарей», — сказал Курт Буш, генеральный директор Syntiant. , «Нам потребовались годы реального опыта глубокого обучения с низким энергопотреблением, чтобы превратить эту архитектуру в масштабируемую конструкцию, оптимизированную для внедрения нейронной обработки в развертывания с ограниченным энергопотреблением».
Syntiant NDP120 обеспечивает постоянную нейронную обработку для всех типов потребительских товаров, включая мобильные телефоны, наушники, носимые устройства, интеллектуальные колонки, ноутбуки, приложения для умного дома и устройства безопасности.
Подходящий для случаев использования, когда для обработки речи в дальней зоне требуются фильтрация звука и подавление эха, NDP120 включает в себя Syntiant Core 2, гибкий, сверхмалопотребляющий механизм глубокого логического вывода нейронной сети с настраиваемым внешним интерфейсом аудио.
NDP120 также поддерживает объединение мультимодальных датчиков, включая датчики для инфракрасного обнаружения, многоосного ускорения, наклона, магнитного поля и давления.
Syntiant Core 2 перемещает более крупные нейронные сети в постоянно работающие домены, способные генерировать общие вложения, запускать ансамбли и другие нейронные архитектуры одновременно или каскадно.
Syntiant Core 2 — это ядро тензорной обработки, созданное с нуля для поддержки энергоэффективного вывода без ущерба для простоты программирования. Эта архитектура второго поколения обеспечивает в 25 раз большую тензорную пропускную способность по сравнению с Syntiant Core 1 в устройствах Syntiant NDP100 и Syntiant NDP101, которые в настоящее время поставляются в больших объемах.
Syntiant Core 2 построен на базе высокооптимизированной тензорной памяти и системы обработки, разработанной для предотвращения неэффективности архитектур хранимых программ. Каждый уровень независимо управляет своими параметрами, входными и выходными тензорами, согласованными с выполнением на основе графов, что позволяет проектировщикам нейронных сетей полностью контролировать несколько параллельных независимых сетей или менять конфигурации сетей в зависимости от условий эксплуатации.
Комплект разработки для обучения Syntiant Core 2 включает инструменты для запуска симуляций с точностью до бита непосредственно на языках моделирования высокого уровня, таких как Tensorflow и Keras.
Все основные фреймворки могут быть перенесены в среду выполнения Syntiant Core 2, включая встроенную поддержку нескольких типов сверточных ядер, постепенное изменение ядра, расширение ядра, уровни понижающей дискретизации, полносвязные слои, точечные операции и множество других функций.
Развивающаяся практика нейронного сжатия изначально поддерживается Syntiant Core 2. Сетевые архитектуры могут смешивать 1-, 2-, 4- и 8-битные веса и члены смещения с более высокой точностью.
Для самых сложных задач Syntiant Core 2 поддерживает режимы высокой точности, включая 16-битные входы и выходы. Квантовать вывод, когда это необходимо, но не только потому, что это требуется пограничному процессору.
Syntiant Core 2 поддерживает множество внутренних оптимизаций, зависящих от задач, для разреженности и временных рядов, что ускоряет вывод и снижает требования к мощности без обширной оптимизации сети после обучения.
С помощью инструментов проектирования, поставляемых Syntiant, можно в интерактивном режиме исследовать все требования к мощности, задержкам, памяти и параметрам Syntiant Core 2, а также выполнять крупномасштабный поиск гиперпараметров с учетом аппаратного обеспечения с помощью тех же инструментов.
Syntiant Core 2 может сократить время выпуска продукта на месяцы или годы по сравнению с более ограниченными и энергоемкими решениями.
NDP120 оснащен процессором Arm Cortex M0 и HiFi-3 DSP. Встроенное в NDP120 Syntiant Core 2 поддерживает более 7 миллионов параметров и может обрабатывать несколько одновременных гетерогенных сетей.
Ключевые особенности NDP120:
- Нейронный процессор Syntiant Core 2
- Поддержка до 7 аудиопотоков
- Аудиоинтерфейс вывода I2S / TDM для потокового вывода звука, включая постобработанный звук
- Встроенный программируемый пользователем HiFi-3 DSP
- Встроенный микроконтроллер Arm Cortex M0 для управления устройствами с 48 КБ SRAM, двойным таймером и функциональностью UART
- Автономная работа
- Целевой элемент с четырьмя SPI и интерфейс контроллера
- Последовательный интерфейс I2C для сенсорных приложений и системного интерфейса
- До 26 контактов GPIO
- Гибкая генерация часов
- Расшифровка и аутентификация встроенного ПО
- Корпус WLBGA с 42 шариками 3,1 x 2,5 мм (шаг шариков 0,4 мм)
Syntiant NDP120 сейчас проходит отбор проб и будет отгружен в производственных объемах летом 2021 года. Стоимость 10Ku составляет 6 долларов за единицу.