- 博客(3)
- 资源 (2)
- 收藏
- 关注
原创 【小白设计AI芯片】定义指令集(一)
上面提到了深度神经网络的常用操作,也就是我们设计一款AI处理器要支持的功能。比如我们要设计一个NPU(Neuron Processing Unit),必然要支持Conv、MatMul、Gemm以及FullyConnect这些矩阵运算,因为这些操作是CNN或Transformer中最费时、对计算资源要求最高的运算,而且深度神经网络都是基于这些操作实现,所以NPU上支持这些运算收益比较明确。类似的还有Pooling类操作。
2023-09-10 22:17:08 106
原创 【小白设计AI芯片】(2) 神经网络中的数据类型
继上一篇浅浅讨论了之后,本篇简单讨论下神经网络算法中常见的数据类型。相比CPU,专门用于神经网络训练与推理的DSA/AI芯片,往往支持更多的数据类型。这些数据类型在表示范围、精度和算力性能方面各有考量。
2023-08-02 22:49:09 95
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人