《人工智能芯片设计》介绍了人工智能芯片相关的基础领域知识，分析了人工智能处理面临的挑战，由此引出《人工智能芯片设计》的重点：人工智能芯片的架构设计、数据复用、网络映射、存储优化以及软硬件协同设计技术等领域前沿技术。《人工智能芯片设计》还讨论了新研究成果，并辅以实验数据进行比较分析，后展望了人工智能芯片技术的发展方向。
- 应对计算挑战：分析智能计算面临的访存、功耗、通用性等挑战，提出架构级解决方案。
- 优化数据复用：系统介绍输入、输出、权重及混合数据复用技术，减少数据搬运开销。
- 高效网络映射：从单层到复杂网络映射方法，提升神经网络在芯片上的执行效率。
- 存储层次优化：探讨片外与片上存储技术，解决AI芯片的存储带宽与容量瓶颈。
- 软硬件协同：通过低位宽、稀疏化、二值网络等协同设计，实现极致能效比。
★★★
中级
入门初级中级进阶高级
- AI芯片研究者：全面了解领域前沿技术，获取研究灵感。
- 芯片架构师：掌握数据复用、网络映射等关键技术，优化芯片设计。
- 算法工程师：理解硬件约束，设计更高效的神经网络模型。
- 高年级研究生：作为课程教材，系统学习AI芯片设计理论。
- 基础回顾：先读第2章，巩固神经网络基础知识。
- 问题导向：第3章阐述挑战，带着问题学习后续章节。
- 重点突破：第4-7章是核心技术，建议分块精读并做笔记。
- 融合贯通：第8章软硬件协同设计，需结合前几章知识理解。
- 领域全景：建立AI芯片设计的完整知识框架，从算法到硬件。
- 架构设计：掌握多粒度可重构等前沿架构，提升设计创新能力。
- 优化方法：学会数据复用与网络映射技巧，显著提升芯片性能。
- 存储方案：理解高密度存储技术，解决AI芯片存储瓶颈。
- 协同思维：培养软硬件协同设计理念，实现系统级优化。
📖 书籍简介
内容简介
内页插图
目录
目录
第1章 绪论 1
第2章 人工智能与神经网络 3
2.1 人工智能 3
2.2 神经网络 4
2.2.1 人工神经元 5
2.2.2 激活函数 7
2.2.3 人工神经网络 9
2.3 深度神经网络 10
参考文献 15
第3章 智能计算的挑战 17
3.1 基本网络层的数学模型 17
3.2 基本网络层的计算特点 19
3.3 智能计算的挑战现状分析 21
3.3.1 访存能力 21
3.3.2 功耗控制 21
3.3.3 架构通用性 22
3.3.4 稀疏性 23
3.3.5 混合精度计算 24
3.4 智能计算平台现状 24
参考文献 28
第4章 人工智能芯片架构设计 30
4.1 研究现状 30
4.1.1 时域计算架构 30
4.1.2 空域计算架构 33
4.2 现状分析 37
4.3 多粒度可重构计算架构 38
4.3.1 系统总体架构 38
4.3.2 计算数据流 45
4.3.3 基于融合数据模式的存储划分 48
4.3.4 按需动态阵列划分 51
4.3.5 实验评估 53
参考文献 54
第5章 人工智能芯片的数据复用 57
5.1 输入数据复用 57
5.2 输出数据复用 62
5.3 权重数据复用 64
5.4 混合数据复用 67
5.4.1 工作流程和调度框架 68
5.4.2 实验结果 70
参考文献 72
第6章 人工智能芯片的网络映射 74
6.1 单层网络映射方法 74
6.1.1 典型分块方法 74
6.1.2 屋顶线模型 75
6.1.3 单层网络映射的建模与求解 76
6.1.4 单层网络映射方法的延伸与扩展 78
6.1.5 单层网络映射方法的缺点 80
6.2 级联网络映射方法 81
6.3 复杂网络映射方法 83
6.3.1 层级时间映射方法带来的资源浪费 84
6.3.2 层聚类方法 85
6.3.3 多个层聚类并行映射方法 87
6.3.4 复杂网络其他特性的利用 89
6.3.5 复杂网络映射优化结果 90
参考文献 92
第7章 人工智能芯片的存储优化 95
7.1 高密度片外存储技术 96
7.1.1 三维集成存储器技术 96
7.1.2 3D DRAM的高温问题 98
7.1.3 高温问题的解决思路 99
7.1.4 计算架构优化 99
7.1.5 优化框架 105
7.2 高密度片上存储技术 110
7.2.1 实验分析平台和优化方向 112
7.2.2 训练层次优化：数据生存时间感知的训练方法 114
7.2.3 调度层次优化：神经网络分层的混合计算模式 115
7.2.4 架构层次优化：刷新优化的eDRAM控制器 117
7.2.5 实验结果 117
参考文献 120
第8章 人工智能芯片的软硬件协同设计 124
8.1 低位宽神经网络 124
8.1.1 线性量化 125
8.1.2 非线性量化 126
8.2 稀疏化神经网络及其架构设计 127
8.2.1 利用激活稀疏性 128
8.2.2 网络剪枝 129
8.2.3 压缩网络架构 131
8.3 二值神经网络 132
8.3.1 二值神经网络背景 132
8.3.2 面向二值/三值神经网络的计算架构优化 132
参考文献 137
第9章 总结与展望 141
9.1 本书内容总结 141
9.2 未来展望 141
彩图
第1章 绪论 1
第2章 人工智能与神经网络 3
2.1 人工智能 3
2.2 神经网络 4
2.2.1 人工神经元 5
2.2.2 激活函数 7
2.2.3 人工神经网络 9
2.3 深度神经网络 10
参考文献 15
第3章 智能计算的挑战 17
3.1 基本网络层的数学模型 17
3.2 基本网络层的计算特点 19
3.3 智能计算的挑战现状分析 21
3.3.1 访存能力 21
3.3.2 功耗控制 21
3.3.3 架构通用性 22
3.3.4 稀疏性 23
3.3.5 混合精度计算 24
3.4 智能计算平台现状 24
参考文献 28
第4章 人工智能芯片架构设计 30
4.1 研究现状 30
4.1.1 时域计算架构 30
4.1.2 空域计算架构 33
4.2 现状分析 37
4.3 多粒度可重构计算架构 38
4.3.1 系统总体架构 38
4.3.2 计算数据流 45
4.3.3 基于融合数据模式的存储划分 48
4.3.4 按需动态阵列划分 51
4.3.5 实验评估 53
参考文献 54
第5章 人工智能芯片的数据复用 57
5.1 输入数据复用 57
5.2 输出数据复用 62
5.3 权重数据复用 64
5.4 混合数据复用 67
5.4.1 工作流程和调度框架 68
5.4.2 实验结果 70
参考文献 72
第6章 人工智能芯片的网络映射 74
6.1 单层网络映射方法 74
6.1.1 典型分块方法 74
6.1.2 屋顶线模型 75
6.1.3 单层网络映射的建模与求解 76
6.1.4 单层网络映射方法的延伸与扩展 78
6.1.5 单层网络映射方法的缺点 80
6.2 级联网络映射方法 81
6.3 复杂网络映射方法 83
6.3.1 层级时间映射方法带来的资源浪费 84
6.3.2 层聚类方法 85
6.3.3 多个层聚类并行映射方法 87
6.3.4 复杂网络其他特性的利用 89
6.3.5 复杂网络映射优化结果 90
参考文献 92
第7章 人工智能芯片的存储优化 95
7.1 高密度片外存储技术 96
7.1.1 三维集成存储器技术 96
7.1.2 3D DRAM的高温问题 98
7.1.3 高温问题的解决思路 99
7.1.4 计算架构优化 99
7.1.5 优化框架 105
7.2 高密度片上存储技术 110
7.2.1 实验分析平台和优化方向 112
7.2.2 训练层次优化：数据生存时间感知的训练方法 114
7.2.3 调度层次优化：神经网络分层的混合计算模式 115
7.2.4 架构层次优化：刷新优化的eDRAM控制器 117
7.2.5 实验结果 117
参考文献 120
第8章 人工智能芯片的软硬件协同设计 124
8.1 低位宽神经网络 124
8.1.1 线性量化 125
8.1.2 非线性量化 126
8.2 稀疏化神经网络及其架构设计 127
8.2.1 利用激活稀疏性 128
8.2.2 网络剪枝 129
8.2.3 压缩网络架构 131
8.3 二值神经网络 132
8.3.1 二值神经网络背景 132
8.3.2 面向二值/三值神经网络的计算架构优化 132
参考文献 137
第9章 总结与展望 141
9.1 本书内容总结 141
9.2 未来展望 141
彩图
📑 章节目录
- 绪论：人工智能芯片概述
- 人工智能与神经网络基础
- 智能计算的挑战与现状
- 人工智能芯片架构设计
- 数据复用技术
- 网络映射方法
- 存储优化技术
- 软硬件协同设计
- 总结与未来展望
