課程簡介

微調簡介

  • 什麼是微調?
  • 微調的使用案例和優勢
  • 預訓練模型和遷移學習概述

準備微調

  • 收集和清理數據集
  • 瞭解特定於任務的數據要求
  • 探索性數據分析和預處理

微調技術

  • 遷移學習和特徵提取
  • 帶 Hugging Face 的微調變壓器
  • 針對監督任務與無監督任務進行微調

微調 Large Language Models (LLMs)

  • 使 LLM 適應 NLP 任務(例如,文字分類、摘要)
  • 使用自訂數據集訓練 LLM
  • 使用提示工程控制 LLM 行為

優化和評估

  • 超參數優化
  • 評估模型性能
  • 解決過擬合和欠擬合

擴展微調工作

  • 在分散式系統上進行微調
  • 利用基於雲端解決方案實現可擴充性
  • 案例研究:大規模微調專案

最佳實踐和挑戰

  • 微調成功的最佳實踐
  • 常見挑戰和故障排除
  • 微調 AI 模型的道德注意事項

進階主題(選擇)

  • 微調多模態模型
  • 零樣本和少數樣本學習
  • 探索LoRA (Low-Rank Adaptation) 技術

總結和後續步驟

最低要求

  • 了解機器學習基礎知識
  • Python 個程式設計經驗
  • 熟悉預訓練模型及其應用

觀眾

  • 數據科學家
  • 機器學習工程師
  • AI 研究人員
 14 時間:

人數


每位參與者的報價

Provisional Upcoming Courses (Require 5+ participants)

課程分類