The AI Performance Handbook / 前言

A TOP-DOWN APPROACH · 自顶向下方法

The AI Performance Handbook

AI 性能优化手册

v0.1 · Frank · March 2021

> Difficult, not impossible.


最近这两年关于深度学习落地的需求越来越大,因此也衍生出了很多关于性能优化的需求,这个性能优化是两方面的,一方面要在具体业务上有着较好的性能指标,另一方面还要在时间和空间上足够高效率。本手册从这两个角度出发,探索从模型设计,模型训练,模型剪枝与量化,最后再到模型部署的自顶向下各个环节中的性能优化方法,最终的目的在于尽可能快的训练一个性能尽可能好的模型,并且在部署的时候具有尽可能高的效率。本手册尽量从实际的角度出发,并更加倾向于一些plug and play的方法,除此之外也会提供一些代码和实验结果,致力于给相关领域的算法工程师或研究人员提供有价值的参考。

由于作者水平有限,本手册的第一个版本主要关注于算法层面(主要是CV相关)上,在模型部署等偏AI System的章节上目前主要做偏应用层面的介绍,在下一个版本中将会重点更新这部分的内容。另外本手册所介绍的方法可能会有遗漏以及错误,欢迎大家批评指正。最后本手册的初始版本权当抛砖引玉,我将本手册的LaTeX 源码放在了GitHub上,欢迎大家将各自领域的经验分享出来(例如NLP,推荐系统,以及流数据等等),以后也会将所有的contributor都写在本手册的作者列表里,目前计划是每三个月能release一个版本,希望能通过这样一个交流平台让AI的落地更顺利一点。

Frank
March 2021