探秘Transformer系列之（4）— 编码器 & 解码器

这个解码过程其实就是标准的seq2seq流程。因此，注意力机制是Transformer 的“灵魂”，Transformer 实际上是通过三重注意力机制建立起了序列内部以及序列之间的全局联系。