Искусственный интеллект (ИИ) быстро меняет определение встроенных вычислений, предоставляя основные драйверы для решений следующего поколения в таких областях, как робототехника, промышленная автоматизация и медицинское оборудование. Поскольку обработка данных все больше приближается к периферии, платформа с эффективной производительностью искусственного интеллекта, низкой задержкой и широкими возможностями настройки стала жестким требованием в различных отраслях промышленности.
Системный модуль iW-RainboW-G58M от IWave (рис. 1) основан на FPGA Agilex ™ 5 SoC Altera с технологией Leap Through Edge AI. Этот компактный модуль сочетает в себе первую архитектуру FPGA Altera, которая внедряет функции искусственного интеллекта непосредственно в Fabrics, обеспечивая уникальное сочетание гибкости, вычислительной мощности и эффективности для встроенных систем, управляемых искусственным интеллектом.
Рис. 1. Модульная система iWave iW-RainboW-G58M. Источник изображения: iWave)
Компактный дизайн и мощная вычислительная сила
IW-RainboW-G58M SoM, габаритные размеры 60 x 70 мм, инкапсулированный B32A, поддержка Altera Agilex ™ SoC FPGA серии E. Серия модулей разделена на две группы:
Группа A: A5E06AA/052A/043A/028A/013A SoC FPGA
Группа B: A5E065B/052B/043B/028B/013B/008B SoC FPGA
Модуль Agilex ™ Series 5 объединяет асимметричную гетерогенную систему обработки, содержит два ядра Arm Cortex-A76 и два ядра Cortex-A55 и обеспечивает оптимальный баланс между производительностью и энергоэффективностью. Усовершенствованные блоки DSP, интегрированные с тензорными блоками искусственного интеллекта, ускоряют рабочие нагрузки глубокого обучения, а приемопередатчики GTS со скоростью до 28,1 Гбит/с PCIe® X 8 и интерфейсы дисплея, такие как HDMI и DisplayPort, обеспечивают высокоскоростное подключение для сложных мультимедийных приложений и приложений искусственного интеллекта.
Экосистема программного обеспечения искусственного интеллекта и инструменты разработки
Agilex ™ Бесшовная интеграция платформы 5 с ведущей платформой искусственного интеллекта (рис. 2) упрощает разработку индивидуальных решений для рассуждений на основе искусственного интеллекта. Платформа поддерживает TennorFlow, Pyr и Open ™ Toolkit с пакетом Altera FPGA AI Suite, а программное обеспечение для проектирования Quartus ® Prime оптимизирует модель углубленного обучения для рассуждений FPGA.
Рис. 2. Agile™. Бесшовная интеграция платформы и ведущей инфраструктуры искусственного интеллекта. Источник изображения: iWave)
С помощью пакета Altera FPGA AI все разработчики, от инженеров по аппаратному обеспечению до экспертов по данным, могут эффективно создавать и развертывать оптимизированные конвейеры искусственного интеллекта, используя знакомые рабочие процессы. Этот пакет успешно объединяет проектирование FPGA с высокоуровневой структурой искусственного интеллекта, сокращая время вывода продукта на рынок, сохраняя при этом детерминированную производительность и энергоэффективность на аппаратном уровне.
Облачный ИИ и Edge AI: баланс
В современных архитектурах обработка ИИ делится на облачную обработку и периферийную обработку (рис. 3). Облачный ИИ предлагает огромную масштабируемость, но часто сталкивается с задержками и ограничениями конфиденциальности. Напротив, периферийный искусственный интеллект выполняет локальную обработку в реальном времени, обеспечивая мгновенное принятие решений, более надежную защиту, а также непрерывную и стабильную работу даже без подключения к сети.
Рисунок 3. Облачный ИИ масштабируем, но часто имеет ограничения по задержке и конфиденциальности. Edge AI выполняет локальную обработку в реальном времени для мгновенного принятия решений, повышения безопасности и непрерывной работы даже без подключения к сети. Источник изображения: iWave)
В гибридной архитектуре развертывания пограничные узлы выполняют срочные задачи анализа, в то время как центр обработки данных суммирует и обрабатывает большие наборы данных для анализа тенденций или прогнозного моделирования. iW-RainboW-G58M разработан для этой гибридной модели, обеспечивая гибкие вычисления на периферии и полную интеграцию с облачной инфраструктурой.