[2020年《DeepMind＆UCL深度学习讲座》第８讲：深度学习中的注意力和记忆【中文字幕】](https://www.bilibili.com/video/BV1VA411Y7hm/)
在过去的几年里，注意力和记忆已经成为深度学习的两个重要的新组成部分。DeepMind研究科学家Alex Graves的这篇演讲涵盖了当代广泛的注意力机制，包括任何深层网络中存在的内隐注意，以及外显注意的离散和可微变体。然后讨论了具有外部记忆的网络，并解释了注意力如何为他们提供选择性回忆。它简要回顾了变形金刚，一种特别成功的注意力网络类型，最后介绍了可变计算时间，它可以被看作是一种“集中注意力”的形式。
在此处下载幻灯片：
https://storage.googleapis.com/deepmind-media/UCLxDeepMind_2020/L8%20-%20UCLxDeepMind%20DL2020.pdf
在这里了解DeepMind如何增加获取科学知识的途径：
https://deepmind.com/about#access_to_science
演讲者简介：
亚历克斯·格雷夫斯在爱丁堡大学获得理论物理学学士学位，在剑桥大学完成了第三部分数学，并与于尔根·施密杜伯（Jürgen Schmidhuber）一起在IDSIA获得了人工智能博士学位，随后又在慕尼黑理工大学获得了博士后学位，并在多伦多大学与杰夫·辛顿（Geoff Hinton）取得了博士学位。他现在是DeepMind的研究科学家。他的贡献包括用于序列标记的连接主义时间分类算法（广泛用于商业语音和手写识别）、随机梯度变分推理、神经图灵机/可微神经计算机体系结构以及用于强化学习的A2C算法。
关于系列讲座：
深度学习系列讲座是DeepMind和UCL人工智能中心的合作项目。在过去的十年里，深度学习已经发展成为领先的人工智能范式，为我们提供了从原始数据中以前所未有的精度和规模学习复杂函数的能力。深度学习已经应用于对象识别、语音识别、语音合成、预测、科学计算、控制等领域。由此产生的应用涉及到我们生活的方方面面，如医疗保健和医学研究、人机交互、通信、运输、养护、制造以及许多其他人类努力的领域。为了表彰这种巨大的影响，2019年图灵奖（Turing Award）被授予深度学习的先驱，这是计算领域的最高荣誉。
在本系列讲座中，来自领先的人工智能研究实验室DeepMind的研究科学家们将围绕深度学习中令人兴奋的主题进行12场讲座，从通过记忆、注意力和生成性建模等先进理念训练神经网络的基本原理到负责任创新的重要主题。