作者簡介 邵可佳 美國北亞利桑那大學數據分析碩士,擁有十多年算法研發與工業落地經驗,深耕機器人、人工智能、智能家居、金融風控、電商推薦、O2O智能調度等領域,具備跨行業的規模化算法實現能力。歷任金融算法工程師、河狸家算法專家、墨跡天氣資深算法架構師。現任雨根科技大數據事業部技術負責人,主持碳通量時空大模型的研發與工程化落地。
目錄 第一部分 大模型與Python開發基礎
第1章 大模型的理論發展
1 1 大模型的計算理論
1 1 1 大模型的發展歷程
1 1 2 未來展望
1 2 大規模數據的表示與處理
1 2 1 大規模數據的表示
1 2 2 大規模數據的處理
1 3 大模型的算法創新
1 3 1 注意力機制與自注意力網絡
1 3 2 動態路由與膠囊網絡
1 3 3 記憶增強神經網絡
1 3 4 生成對抗網絡與無監督學習
1 3 5 稀疏性與可解釋性算法
1 4 大模型的發展趨勢
1 4 1 更大規模與更深層次的模型架構
1 4 2 跨模態學習與融合
1 4 3 可解釋性與魯棒性增強
1 4 4 個性化與定製化服務
1 4 5 持續學習與自適應能力
1 4 6 綠色計算與可持續性
1 5 本章小結
第2章 大模型的Python開發環境
2 1 Python語言視角下大模型的開發生態
2 1 1 數據處理與分析
2 1 2 模型構建與訓練
2 1 3 可視化與調試
2 1 4 部署與集成
2 1 5 社區與資源
2 2 Python開發環境搭建
2 2 1 安裝Miniconda
2 2 2 創建並激活新的Conda環境
2 2 3 安裝必要的庫
2 2 4 配置IDE或代碼編輯器
2 2 5 測試環境
2 3 深度學習框架概覽:TensorFlow與PyTorch
2 3 1 TensorFlow
2 3 2 PyTorch
2 3 3 如何選擇
2 4 大模型微調技術簡介
2 4 1 微調技術的基本概念
2 4 2 微調技術的流程
2 4 3 微調技術的重要性
2 5 實例:使用Python語言進行簡單的模型微調
2 5 1 準備階段
2 5 2 數據載入與預處理
2 5 3 載入預訓練模型
2 5 4 微調時的注意事項
2 5 5 評估與部署
2 5 6 要點回顧
2 6 本章小結
第二部分 大模型訓練與加速
第3章 訓練加速常用硬體
3 1 GPU架構與編程模型
3 1 1 GPU架構概述
3 1 2 GPU編程模型
3 1 3 CUDA核心概念
3 2 CUDA編程模型與GPU內存管理
3 2 1 CUDA編程模型
3 2 2 GPU內存管理
3 3 大模型訓練中的GPU優化
3 3 1 數據并行與模型并行
3 3 2 內存優化
3 3 3 計算優化
3 3 4 GPU優化總結
3 4 實例:使用CUDA加速大模型訓練
3 4 1 實例背景
3 4 2 環境準備
3 4 3 模型定義和數據載入
3 4 4 模型訓練
3 4 5 實例總結
3 5 本章小結
第4章 大模型訓練的硬體加速
4 1 GPU加速技術的原理與實踐
4 1 1 GPU加速技術的原理
4 1 2 實例:使用GPU加速深度學習訓練
4 2 cuDNN庫在深度學習中的應用
4 2 1 cuDNN概述
4 2 2 cuDNN在深度學習框架中的集成
4 2 3 使用Python語言調用cuDNN示例
4 2 4 cuDNN帶來的性能優勢
4 2 5 使用cuDNN的注意事項
4 3 cuBLAS庫與線性代數運算加速
4 3 1 cuBLAS概述
4 3 2 cuBLAS在深度學習中的應用
4 3 3 使用Python語言調用cuBLAS示例
4 3 4 cuBLAS性能優勢
4 3 5 使用cuBLAS的注意事項
4 4 分散式GPU訓練
4 4 1 基本原理
4 4 2 常用框架
4 4 3 實施策略
4 5 大模型的并行計算與內存管理
4 5 1 大模型的并行計算策略
4 5 2 大模型的內存管理技術
4 5 3 使用Python語言設置并行策略和內存管理示例
4 6 實例:使用分散式GPU訓練大模型
4 6 1 環境準備
4 6 2 數據準備
4 6 3 模型設計
4 6 4 模型訓練
4 6 5 模型評估
4 7 本章小結
第5章 大模型的訓練過程
5 1 模型訓練流程簡介
5 1 1 數據準備
5 1 2 模型定義
5 1 3 環境配置
5 1 4 訓練配置
5 1 5 模型訓練
5 1 6 驗證與測試
5 1 7 模型部署
5 2 訓練前的準備
5 2 1 數據集準備
5 2 2 計算資源規劃
5 2 3 環境配置與依賴安裝
5 2 4 模型架構設計與初始化
5 3 訓練過程詳解
5 3 1 模型定義
5 3 2 迭代訓練
5 3 3 前向傳播
5 3 4 損失計算
5 3 5 反向傳播
5 3 6 參數更新
5 3 7 驗證與調整
5 4 訓練中的技術要點
5 4 1 數據預處理
5 4 2 模型優化
5 4 3 計算資源管理
5 4 4 過擬合控制
5 4 5 模型監控與調試
5 4 6 評估與部署
5 5 訓練后的評估與優化
5 5 1 評估方法
5 5 2 評估指標選擇
5 5 3 評估結果分析
5 5 4 優化策略
5 6 訓練過程中的挑戰
詳細資料或其他書籍請至台灣高等教育出版社查詢,查後請於客服中心或Line或本社留言板留言,我們即儘速上架。