Спроектировать простое устройство Интернета вещей (IoT) на основе датчиков несложно, но создание устройства IoT с возможностями обработки периферийного машинного обучения (ML) — это совершенно другое дело. Серия специализированных процессоров, платы для разработки и сопутствующее программное обеспечение, выпущенные NXP Semiconductors, призваны решить ключевые проблемы функциональности, производительности и разработки, помогая быстрее развертывать сложные функции искусственного интеллекта (ИИ) в промышленных приложениях и приложениях Интернета вещей.
Проектировщики начали использовать периферийные решения искусственного интеллекта, которые могут выполнять логические выводы машинного обучения на устройствах с низким энергопотреблением, не полагаясь на облачные ресурсы. Такие функции, как обнаружение слов пробуждения, анализ шаблонов данных датчиков и обнаружение базовых объектов, обычно могут выполняться энергоэффективными процессорами, на которых выполняются модели машинного обучения (созданные с использованием инструментов и инфраструктур оптимизации моделей). Однако узкие места возникают, когда вы пытаетесь расширить ресурсы процессора для решения более сложных задач, особенно тех, которые требуют реагирования в реальном времени или почти в реальном времени.
Как многоядерные процессоры значительно ускоряют вывод ML
Компания NXP Semiconductors со своими прикладными процессорами серии i.MX 93 может легко решить функциональные проблемы и проблемы производительности этих новых разработок периферийного искусственного интеллекта в реальном времени (рис. 1).
Рис. 1. Прикладной процессор i.MX 93 объединяет вычислительные ресурсы, системы безопасности, память и полный спектр часов, таймеров, вариантов подключения и интерфейсов, закладывая основу для проектирования периферийного ИИ. (Источник изображения: NXP Semiconductors)
Эта серия процессоров объединяет богатые функции, включая мультимедиа, хранилище, интерфейсы и возможности подключения, а также сочетает в себе привлекательные вычислительные ресурсы:
До двух высокопроизводительных ядер процессора приложений Arm Cortex-A55 для задач обработки приложений на базе Linux.
Платформа Arm Cortex-M33 со сверхнизким энергопотреблением для обработки управления в реальном времени с малой задержкой.
Нейронный процессор (NPU) Arm Ethos-U65 microNPU для эффективного выполнения выводов машинного обучения.
Интегрированный EdgeLock Secure Enclave (ESE) от NXP обеспечивает основу доверия для безопасной загрузки и управления ключами, шифрования в реальном времени и других функций, необходимых для защиты периферийных приложений.
Используя возможности этих процессоров, крупные периферийные приложения ИИ можно разбить на несколько легко управляемых частей: NPU берут на себя вычислительные задачи алгоритмов плотных нейронных сетей, снижая нагрузку на ядра Cortex-A55 и избегая вытеснения ресурсов кода выполняемого приложения. В то же время ядро Cortex-M33 продолжает концентрироваться на обработке задач с низкой задержкой, таких как сбор данных с датчиков или управление процессом, в то время как встроенный ESE обеспечивает безопасность системы, программный код и важные данные на протяжении всего процесса. Далее будет представлена способность NPU разгружать выводы машинного обучения из ядра Cortex-A55, что является ключевой поддержкой для создания приложений искусственного интеллекта, реагирующих практически в реальном времени.
Как платы разработки аппаратного обеспечения и программное обеспечение ускоряют разработку приложений
Хотя функциональность и производительность процессора имеют решающее значение, эффективная разработка периферийных приложений ИИ в большей степени зависит от способности быстро понять характеристики процессора и быстро создать эффективное программное обеспечение. Плата разработки FRDM-IMX93 от NXP (рис. 2) в сочетании с сопутствующими ресурсами для разработки программного обеспечения может предоставить все необходимое для начала создания приложений.