[2020年《DeepMind&UCL深度学习讲座》第10讲:无监督表征学习【中文字幕】](https://www.bilibili.com/video/BV1QT4y1j7Sc/)
无监督学习是机器学习的三个主要分支之一(以及监督学习和强化学习)。它也可以说是最不发达的分支机构。它的目标是通过发现和利用其隐藏结构来找到对输入数据的简约描述。与监督学习相比,这被认为更让人联想到大脑的学习方式。此外,假设通过无监督学习发现的表示形式可以缓解深度监督和强化学习中的许多已知问题。但是,由于缺乏明确的地面真理目标来进行优化,无监督学习的发展进展缓慢。在本次演讲中,DeepMind研究科学家Irina Higgins和DeepMind研究工程师Mihaela Rosca概述了无监督表示学习的历史作用以及开发和评估此类算法的困难。然后,他们将采取多学科的方法来思考什么可以构成一个好的表示形式,以及为什么要这样做,然后再对无监督的表示学习的最新技术现状进行广泛的概述。
在此处下载幻灯片:
https://storage.googleapis.com/deepmind-media/UCLxDeepMind_2020/L10%20-%20UCLxDeepMind%20DL2020.pdf
在此处了解有关DeepMind如何增加科学获取机会的更多信息:
https://deepmind.com/about#access_to_science
演讲者简介:
Irina是DeepMind的研究科学家,她在Frontiers团队工作。她的工作旨在汇集来自神经科学和物理学领域的见解,以通过改进表示学习来推进通用人工智能。加入DeepMind之前,Irina因在威斯敏斯特大学(University of Westminster University)的实验心理学专业获得本科学位而获得英国心理学会本科奖,随后在牛津大学计算神经科学与人工智能中心获得博士学位,她专注于理解计算原理听觉大脑中潜在的语音处理。在她的DPhil期间,Irina还致力于开发扑克AI,在金融领域应用机器学习以及在Google Research进行语音识别。
Mihaela Rosca是DeepMind的研究工程师,也是UCL的博士生,专注于生成模型研究和概率建模,从变异推理到生成对抗网络和强化学习。加入DeepMind之前,她曾在Google工作,使用深度学习解决自然语言处理任务。她拥有伦敦帝国理工学院的计算机工程学士学位。
关于讲座系列:
深度学习讲座系列是DeepMind与UCL人工智能中心之间的合作。在过去的十年中,深度学习已发展成为领先的人工智能范式,使我们能够以前所未有的准确性和规模从原始数据中学习复杂的功能。深度学习已应用于对象识别,语音识别,语音合成,预测,科学计算,控制等问题。由此产生的应用程序触动了我们在医疗保健和医学研究,人机交互,通信,运输,保护,制造以及许多其他人类努力领域中的一生。认识到这一巨大影响,深度学习的先驱获得了2019年图灵奖,这是计算机领域的最高荣誉。
在本系列讲座中,来自领先的AI研究实验室DeepMind的研究科学家针对深度学习中的一系列令人兴奋的主题进行了12次讲座,内容涵盖了通过围绕记忆,注意力和生成建模的先进思想来训练神经网络的基础知识,以及重要的负责任的创新主题。