課程簡介

AI 部署簡介

  • AI 部署生命週期概述
  • 將 AI 代理部署到生產環境的挑戰
  • 關鍵注意事項:可伸縮性、可靠性和可維護性

容器化和編排

  • Docker 和容器化基礎知識簡介
  • 使用 Kubernetes 進行 AI 代理編排
  • 管理容器化 AI 應用程式的最佳實踐

提供 AI 模型

  • 模型服務框架概述(例如,TensorFlow Serving、TorchServe)
  • 構建用於 AI 代理推理的 REST API
  • 處理批量預測與實時預測

AI Agents 的 CI/CD

  • 為 AI 部署設置 CI/CD 管道
  • 自動化 AI 模型的測試和驗證
  • 滾動更新和管理版本控制

監控和優化

  • 實施 AI 代理性能的監控工具
  • 分析模型漂移和重新訓練需求
  • 優化資源利用率和可擴充性

安全和 Go生存

  • 確保遵守數據隱私法規
  • 保護 AI 部署管道和 API
  • AI 應用程式的審計和日誌記錄

動手實踐 Activities

  • 使用 Docker 容器化 AI 代理
  • 使用 Kubernetes 部署 AI 代理
  • 設置 AI 性能和資源使用情況監控

總結和後續步驟

最低要求

  • 精通 Python 程式設計
  • 了解機器學習工作流程
  • 熟悉容器化工具,如 Docker
  • 具有 DevOps 種實踐經驗(推薦)

觀眾

  • MLOps 工程師
  • DevOps 專業人士
 14 時間:

人數


每位參與者的報價

Provisional Upcoming Courses (Require 5+ participants)

課程分類