Развертывание глубокого обучения: квантование, обслуживание и искусственный интеллект на границе

Создание модели глубинного обучения — это только половина битвы; реальная проблема заключается в ее эффективном развертывании в производственных условиях и на устройствах с ограниченными ресурсами. Этот курс, состоящий только из текста, поможет вам освоить основные методы оптимизации моделей, обслуживания и развертывания на краю. Вы перейдете от обучения моделей в ноутбуках к их развертыванию в качестве быстрых, легких и масштабируемых готовых к производству API и периферийных приложений. Что вы узнаете: - Понять основные концепции вывода глубокого обучения и конвейеров развертывания. - Применять методы квантования модели для уменьшения размера модели и задержки без ущерба для точности. - Настройка высокопроизводительных обслуживающих рамок для запуска вывода модели в масштабе. - Развертывание оптимизированных моделей на периферийных устройствах с ограниченными вычислительными ресурсами. - Внедрение современных движков выполнения, таких как ONNX, для обеспечения кросс-платформенной совместимости. - Практикуем написание чистого, готового к производству кода для моделей, обслуживающих API. Курс начинается с ключевой терминологии и основных определений, а затем переходит к практическим методам оптимизации. Вы изучите структурированные объяснения, просмотрите конфигурации реального кода и выполните концептуальные упражнения, предназначенные для укрепления вашего понимания современных рабочих процессов развертывания. Этот курс предназначен для начинающих инженеров ML, разработчиков программного обеспечения и ученых данных, которые хотят узнать основы развертывания. Не требуется предыдущий опыт развертывания, хотя полезно иметь базовое понимание Python и нейронных сетей. Начните читать уже сегодня, чтобы устранить разрыв между теорией глубокого обучения и развертыванием производственного уровня.