Проект EdgeAI: конвергенция технологий для улучшения интеллекта для повышения производительности и эффективности на периферии

Jun 20, 2024

Периферийный искусственный интеллект сочетает в себе технологии периферийных вычислений, Интернета вещей (IoT) и искусственного интеллекта (ИИ) для обеспечения сбора, обработки, анализа и принятия решений в реальном времени. Достижения в области периферийных технологий искусственного интеллекта, машинного обучения (ML) и глубокого обучения (DL) открывают новые возможности на границе сети, ближе к датчикам и исполнительным механизмам, которые ранее были невозможны для традиционных систем микроконтроллеров (MCU).

Опираясь на преимущества Интернета вещей и периферийных вычислений для локального сбора и обработки данных, обработка ML и DL на устройстве сокращает задержку, повышает конфиденциальность и безопасность данных, а также снижает потребность в непрерывном облачном подключении, предоставляя решения для периферийного подключения и аналитики. Интеллектуальная обработка ML и DL открывает возможности для новых, надежных и масштабируемых систем искусственного интеллекта в периферийном континууме (микро- и мета-периферии) и во многих отраслях.

Применение периферийного искусственного интеллекта открывает множество возможностей, в том числе более высокие скорости обработки, позволяющие проводить аналитику в реальном времени, большую масштабируемость для работы с данными в реальном времени и улучшенную кибербезопасность, поскольку данные обрабатываются локально. Но эти инновации также создают серьезные проблемы: от технологической неоднородности и архитектур обработки до энергоэффективности.

Одной из наиболее серьезных задач для разработки периферийных технологий искусственного интеллекта является повышение энергоэффективности и масштабируемости производительности обработки, учитывая различные ограничения ресурсов для периферийных устройств, алгоритмов и платформ.

Приложения Edge AI характеризуются значительной гетерогенностью аппаратного и программного обеспечения. В приложениях используются комбинированные методы и алгоритмы искусственного интеллекта, что создает проблемы, когда периферийные решения искусственного интеллекта необходимо оптимизировать для различных аппаратных и программных платформ и сравнивать друг с другом.

Гетерогенная обработка является важнейшим аспектом периферийного искусственного интеллекта, который сочетает в себе различные аппаратные архитектуры, включая центральные процессоры (ЦП), графические процессоры (ГП), тензорные процессоры (ТП), интеллектуальные процессоры (IPU), интегральные схемы для конкретных приложений ( ASIC), программируемые пользователем вентильные матрицы (FPGA), нейроморфные процессоры (NPU), система на кристалле (SoC) и система на модуле (SoM).

Технологии и приложения Edge AI постоянно развиваются и способствуют будущему интеллектуальному управлению и принятию решений, приближая возможности AI к физическому миру, что позволяет реализовать автономные системы и улучшить автономное поведение таких систем.

Чтобы решить проблему неоднородности устройств, проект KDT JU EdgeAI управляет обработкой на границе как гранулярными непрерывными вычислениями, состоящими из микрограницы (процессорные блоки во встроенных микроконтроллерах, датчиках и исполнительных механизмах и т. д.), глубокой периферии (процессорные блоки, обеспечивающие расширенная вычислительная мощность в шлюзах, мобильных телефонах, программируемых логических контроллерах и т. д.) и метаграница (локальные высокопроизводительные микросерверы периферийной обработки, объединяющие различные микроконтроллеры и процессоры для конкретных операций).

Технологии Edge AI позволяют разрабатывать гетерогенные, гиперсвязанные, гиперавтономные и гиперинтеллектуальные системы, которые объединяют периферийный и роевой интеллект для создания новых периферийных интеллектуальных систем систем.

Разработки Hyper-X и периферийный искусственный интеллект ускоряют интеграцию инструментов автоматизации, платформ и различных технологий датчиков и исполнительных механизмов. Это обеспечивает более интеллектуальную функциональность и создает межфункциональные масштабируемые автономные системы с «внутренним интеллектом» и «внешним интеллектом».

Внутренний интеллект представляет собой когнитивные возможности, встроенные в периферийное устройство искусственного интеллекта, такое как интеллектуальное устройство Интернета вещей, робот или автономный автомобиль. Внешний интеллект — это сетевой интеллект, используемый для совместной работы между этими интеллектуальными периферийными устройствами.

EdgeAI – Edge AI Technologies for Optimized Performance Embedded Processing, проект совместного предприятия Key Digital Technologies (KDT) (JU) – это ключевая инициатива европейского цифрового перехода к интеллектуальным решениям обработки на периферии.