| *數量非實際在台庫存 *完成訂單後正常情形下約兩周可抵台。 *本賣場提供之資訊僅供參考,以到貨標的為實際資訊。 印行年月:202401*若逾兩年請先於私訊洽詢存貨情況,謝謝。 台灣(台北市)在地出版社,每筆交易均開具統一發票,祝您中獎最高1000萬元。 書名:TVM編譯器原理與實踐 ISBN:9787111739128 出版社:機械工業 著編譯者:吳建明 吳一昊 頁數:305 所在地:中國大陸 *此為代購商品 書號:1601652 可大量預訂,請先連絡。 內容簡介 TVM(Tensor Virtual Machine,張量虛擬機)是一種開源的模型編譯框架,旨在將機器學習模型自動編譯成可供下層硬體執行的機器語言,從而利用多種類型的算力。其工作原理是,先將深度學習模型進行優化推理、內存管理與線程調度,再借用LLVM框架將模型部署在CPU、GPU、FPGA、ARM等硬體設備上。 本書全面解析TVM的主要功能,幫助讀者理解TVM工作原理,以及使用TVM對深度學習與機器學習進行優化與部署。 本書結合作者多年的工作與學習經驗,力求將TVM基礎理論與案例實踐融合在一起進行詳細講解。全書共9章,包括TVM基本知識,使用TVM開發,運算元融合與圖優化,TVM量化技術,TVM優化調度,Relay IR,代碼生成,後端部署與OpenCL(Open Computing Language,開放運算語言),自動調度、自動搜索與成本模型。各章除了包含重要的知識點和實踐技能外,還配備了精心挑選的典型案例。 本書適合從事AI演算法、軟體、編譯器開發以及硬體開發等專業的工程技術人員、科研工作人員、技術管理人員閱讀,也可以作為編譯器相關專業高校師生的參考用書。作者簡介 吳建明,上海交通大學模式識別與智能系統專業博士畢業。長期從事人工智慧晶元設計,尤其擅長TVM/LLVM編譯器、AI框架、自動駕駛、晶元製造,嵌入式系統等領域的理論研究與技術創新。長期在一線工作,包括產品設計與代碼實現等,主持和參与過30多項產品的研發。還參与過國家自然科學基金、上海市科委項目,並在核心期刊公開發表過8篇論文,其中6篇是第一作者。目錄 第1章 TVM基本知識1 1 TVM基本原理 1 1 1 TVM概述 1 1 2 TVM模型優化部署概述 1 2 TVM編譯過程 1 2 1 編譯流程 1 2 2 TVM編譯數據結構 1 2 3 TVM編譯數據處理 1 2 4 TVM的Pass過程 1 3 TVM開源工程邏輯架構 1 3 1 代碼庫代碼結構 1 3 2 代碼自動內核 1 4 TVM應用支持 1 4 1 TVM的工作流程 1 4 2 支持多語言與多平台 1 4 3 TVM應用場景 1 4 4 TVM優化模型推理 1 4 5 TVM編譯器與運行時組件 1 4 6 TVM運行時主要模塊 1 4 7 TVM簡單代碼生成編譯示例 1 4 8 TVM各模塊之間的關係 1 5 TVM特色與挑戰 1 5 1 TVM特色 1 5 2 支持多種後端設備 1 5 3 TVM應對的挑戰 第2章 使用TVM開發 2 1 配置TVM環境 2 1 1 apache TVM源碼下載 2 1 2 配置TVM的開發環境 2 1 3 TVM conda環境使用方法 2 1 4 編譯實現 2 1 5 導入模型方法 2 2 在conda環境編譯優化TVM yolov3示例 2 3 Python與C++的調用關係 2 3 1 TVM中底層C++數據結構 2 3 2 進行函數註冊 2 3 3 上層Python調用 2 4 TVM自定義代碼示例 2 4 1 TVM如何添加代碼 2 4 2 TVM代碼生成實現示例 2 5 用TVM實現演算法全流程 2 5 1 配置張量與創建調度 2 5 2 進行降級運算元優化 2 5 3 構建host目標程序 2 5 4 實現後端代碼生成 第3章 運算元融合與圖優化 3 1 運算元概述 3 1 1 TVM融合組件示例 3 1 2 優化計算圖 3 2 圖GCN融合 3 2 1 圖的概念 3 2 2 深度學習新特徵 3 3 圖融合GCN示例 3 3 1 GCN的PyTorch實現 3 3 2 融合BN與Conv層 3 4 TVM圖優化與運算元融合 3 4 1 圖與運算元優化 3 4 2 自定義運算元 3 4 3 運算元融合步驟 3 4 4 向Relay中添加operator 3 5 端到端優化 3 5 1 AI框架概述 3 5 2 計算圖優化層 3 5 3 TVM運算元融合的4種方法 3 5 4 數據布局轉換 3 5 5 張量表達式語言 3 5 6 調度空間分析 3 6 TVM圖優化與運算元融合方案分析 3 6 1 圖優化框架分析 3 6 2 TVM優化基礎分析 3 6 3 TVM優化參數 3 6 4 運算元優化圖示 3 6 5 自定義圖級優化 3 7 支配樹技術 3 7 1 支配樹概述 3 7 2 運算元融合方案及示例 3 8 控制流與優化器 3 8 1 控制流 3 8 2 優化器 3 9 TVM存儲與調度 3 9 1 TVM編譯器優化 3 9 2 圖結構基本優化 3 9 3 張量計算 3 10 多功能張量加速器VTA 3 10 1 VTA-TVM硬體-軟體堆棧 3 10 2 VTA主要功能 3 10 3 VTA示例 3 10 4 VTA計算模塊 3 10 5 VTA控制 3 10 6 microTVM模型 3 11 TVM代碼庫結構與示例 3 11 1 代碼庫結構 3 11 2 張量添加示例 3 12 主機驅動的執行 3 12 1 firmware二進位文件 3 12 2 計算聲明 3 12 3 數據平鋪 3 12 4 卷積運算 3 12 5 空間填充 第4章 TVM量化技術 4 1 TVM量化概述 4 1 1 TVM量化現狀 4 1 2 TVM量化原理 4 2 int8量化與TVM執行 4 2 1 兩種主要量化方案 4 2 2 int8量化原理分析 4 2 3 KL散度計算 4 2 4 實現int8量化 4 3 低精度訓練與推理 4 4 NN量化 4 4 1 神經網路量化概述 4 4 2 優化數據與網路 4 4 3 前向推理與反向傳播 4 5 熵校準示例 4 6 TVM量化流程 4 6 1 Relay的兩種并行量化 4 6 2 Relay優化Pass方法 4 6 3 量化處理硬體說明 4 6 4 閾值估計方案 4 6 5 模擬量化誤差 4 6 6 尺度計算 4 6 7 數據類型分配 4 6 8 數據類型分配日誌 4 6 9 神經網路低精度量化 4 7 TVM量化程序分析 第5章 TVM優化調度 5 1 TVM運行時系統 5 1 1 TVM運行時系統框架 5 1 2 PackedFunc編譯與部署 5 1 3 構建PackedFunc模塊 5 1 4 遠程部署方法 5 1 5 TVM對象與編譯器分析 5 2 自動微分靜態圖與動態圖 5 2 1 計算圖分類 5 2 2 動態圖實現示例 5 3 機器學習自動微分 5 3 1 微分方法 5 3 2 手動微分 5 3 3 數值微分 5 3 4 符號微分 5 3 5 自動微分 5 3 6 自動微分實現示例 5 4 稀疏矩陣分析 5 4 1 稀疏矩陣概念 5 4 2 稀疏矩陣優化 5 4 3 特定矩陣壓縮存儲 5 4 4 稀疏矩陣實現示例 5 5 TVM張量計算分析 5 5 1 生成張量運算 5 5 2 嵌套并行與協作 5 5 3 張量化計算 5 5 4 顯式內存延遲隱藏 第6章 Relay IR 6 1 TVM數據介紹 6 1 1 TVM模塊框架介紹 6 1 2 Rel 詳細資料或其他書籍請至台灣高等教育出版社查詢,查後請於PChome商店街私訊告知ISBN或書號,我們即儘速上架。 |