这是斯坦福2023年公开课CS25第一课:《Introduction to Transformers》(中英文字幕)
讲师: Andrej Karpathy
自2017年首次亮相以来,Transformer已经彻底改变了自然语言处理(NLP)的领域。现在,Transformer在深度学习的各个领域都找到了应用,无论是计算机视觉(CV),强化学习(RL),生成对抗网络(GANs),语音甚至生物学。在其他诸多领域,Transformer帮助实现了强大的语言模型如GPT-3,并在DeepMind最近的AlphaFold2中发挥了关键作用,该模型处理蛋白质折叠问题。
在这个讲座系列中,将详细探讨Transformer是如何工作的,并深入研究各种不同类型的Transformer以及它们在不同领域中的应用。斯坦福大学通过邀请在不同领域的Transformer研究的前沿人物进行客座讲座来实现这一目标。
相关教材:
Attention Is All You Need:https://t.co/9BiVi4BpDV
The Illustrated Transformer:https://t.co/lnVAYWO1Nd
The Annotated Transformer:https://t.co/6wFhzfWDIc
关于这个课程的更多信息可以在这里找到:https://t.co/hYb1TPbckR
📣 We are proud to announce Gephi Lite 🎉
It is a free and open-source web application to visualize and explore networks. It is a lighter version of Gephi, on the web.
You can try it here:
https://t.co/hqzSvnbpt1