学完这个教程，小白也能构建Transformer，DeepMind研究团队推荐

目录必先放在这里，可以根据自己的根基知识必需从哪个阶段开始讲授起：

1、独热（one-hot）编码2、点积3、算子加法4、算子加法查表5、一阶多肽仿真6、微分多肽仿真7、背著动作的微分多肽仿真—-分割线—-（讲授放上面这些，就仍然把握住Transformer的独具一格了，不过要想知道Transformer，还得往下看）8、算子加法之中的重心9、微分算子加法多肽仿真10、放成多肽11、映射12、前方编码13、免去映射14、softmax数组15、多头重心必要16、使用多头重心必要的原因17、重现单头重心必要18、多头重心块彼此之间的跳到连接19、横向规范本土化（Layer normalization）20、多重心层21、的软件示例22、编码方式示例23、编码方式和的软件栈彼此之间的交叉注意块—-又一个分割线—-（如果你讲授到这里，那说明Transformer你仍然掌握得差不多了，右方讲的过道就是关于如何让神经网络表现良好了）24、字节对编码（Byte pair encoding）

Brandon Rohrer，现在是Linkedin的一名机器讲授习总工程师，曾必先后在开发计划人员，Facebook担任身兼原始数据科讲授家。

在Facebook工作期间，他创设了一种更为精确的电网映射预测仿真，以指标全球的之中压电网的当系统和路由表。

写基本知识算是Brandon的以后是热衷了，现在他所有的基本知识都不断更为新在他的新书《如何训练你的人造人》之中，博文的跨度从职业发展到各种编程机器的详述。

传送门：#softmax更为多基本知识：

— 放 —

量子位 QbitAI · 头条号签约