Новая парадигма для Edge Intelligence 

С постепенным переходом крупных моделей, таких как DeepSeek и Qwen, на открытый исходный код, эти системы претерпевают глубокую «демократизацию». Миф о облачных технологиях ищет ответы на местах — когда интеллект должен появляться в режиме реального времени на городских дорогах, в уголках кампусов и на производственных линиях заводов, мы сталкиваемся с крайне сложной задачей обеспечения баланса между огромными объемами данных, строгими требованиями к задержке и ограниченным энергопотреблением. Специализированные решения для пограничных вычислений стали ключевыми для крупномасштабного развертывания этих моделей. Воспользовавшись этой тенденцией, мы представили несколько решений для пограничных вычислений, достигнув тонкого баланса между широтой и глубиной интеллектуальной реализации.

Часть 1: Использование вычислительных мощностей, открытие новых возможностей

Открытые инновации в области полупроводников

К 2025 году, когда ведущие модели, такие как DeepSeek и Tongyi Qianwen, станут открытыми, внимание отрасли сместится с «конкуренции по масштабу» на «скорость развертывания». По мере перехода интеллекта из облака на периферию мы прокладываем этот последний путь с помощью надежной вычислительной базы.

1.Постоянная адаптация моделей CNN с открытым исходным кодом для создания легких крупномасштабных мультимодальных (L2M2) приложений для развертывания в сценариях.

2.Адаптация основных крупных моделей периферии, включая ChatGLM | Llama | Qwen | MiniCPM | DeepSeek, с открытым исходным кодом всего кода развертывания.

3.Помощь партнерам в реализации сценариев «видео/аудио + ИИ», расширение интерактивных границ интеллекта на периферии.

Часть 2: Адаптация нескольких моделей и глубокая оптимизация

Мы углубились в основные архитектуры моделей с открытым исходным кодом, добившись всесторонней совместимости и прорыва в производительности традиционных моделей CNN, крупных языковых моделей и крупных мультимодальных моделей. Что особенно важно, мы воплотили эти возможности глубокой оптимизации в стандартизированный набор высокопроизводительных аппаратных продуктов для периферийного ИИ. Это превращает развертывание моделей на периферии из сложной инженерной задачи в эффективный, надежный и стандартизированный процесс.

1.Полная матрица адаптации моделей

(1).Визуальные модели

(2).Аудио модель

(3).Большая языковая модель

(4).Мультимодальная большая модель

2.Глубокая оптимизация для надежной работы

Возможности адаптации LLM