11 月 15 日消息,2017 年,谷歌的八位机器学习研究人员共同发表了一篇具有突破性意义的研究论文,题为《注意力就是你所需要的一切》(Attention Is All You Need)。这篇论文引入了 Transformer AI 架构,该架构如今已成为支撑几乎所有主流生成式人工智能模型的核心基础。Transformer 架构通过使用神经网络,将被称为“Token”的输入数据块编译或转换为所需的另一种输出形式,从而成为推动现代人工智能繁荣发展的关键要素之一。Transformer 架构的多