历经三年才完成,复旦教授的《神经网络与深度学习》可免费下载了

程序员书库(ID:OpenSourceTop)编译

书籍来自部分内容摘自:《神经网络与深度学习》

近年来,深度学习在语音、图像、自然语言处理等领域都取得了非常不错的成果,自然而然地成为技术人员争相学习的热点。


为了帮助正在学习深度学习的伙伴们掌握神经网络与深度学习技术的基本原理,知其然还要知其所以然。复旦大学副教授邱锡鹏推出了一本非常火热的深度学习入门教程:《神经网络与深度学习》,而且是开源免费的。



历经三年,邱老师将自己的研究,日常的教学和实践结合梳理,才有了这本《神经网络与深度学习》,邱锡鹏教授表示:

近年来,以机器学习、知识图谱为代表的人工智能技术逐渐变得普及。从车牌识别、人脸识别、智能问答、推荐系统到自动驾驶,人们在日常生活中都可能有意无意地使用到了人工智能技术。这些技术的背后都离不开人工智能领域研究者们的长期努力。最近这几年,得益于数据的增多、计算能力的增强、学习算法的成熟以及应用场景的丰富,越来越多的人开始关注深度学习这一个研究领域。


深度学习以神经网络为主要模型,一开始用来解决机器学习中的表示学习问题。但是由于其强大的能力,深度学习越来越多地用来解决一些通用人工智能问题,比如推理、决策等。目前,深度学习技术在学术界和工业界取得了广泛的成功,受到高度重视,并掀起新一轮的人工智能热潮。



阅读路线


本书共分为15章,可以分为三大块:机器学习、神经网络和概率图模型,组织结构如下图所示:


机器学习:机器学习可以分为监督学习、无监督学习和强化学习。第2章对机器学习进行概述,使读者能够了解机器学习的基本概念,并以线性回归为例来讲述不同学习算法之间的关联。第3章主要介绍一些基本的线性模型。这两章都以监督学习为主进行介绍。第9章介绍了一些无监督学习方法。第10章中介绍一些和模型无关的机器学习方法。第14章介绍了深度强化学习的知识。

神经网络:第4章到第6章分别讲述三种主要的神经网络模型:前馈神经网络、卷
积神经网络和循环神经网络。并在第6章中介绍一种更一般性的网络:图网络。
第7章介绍神经网络的优化与正则化方法。第8章介绍神经网络中的注意力机制
和外部记忆。

概率图模型:概率图模型为机器学习提供了一个更加便捷的描述框架。目前深度
学习和概率图模型的融合已经十分流行。第11章介绍了概率图模型的基本概念,
并在第12章介绍两种概率图模型:玻尔兹曼机和深度信念网络。第13章和第15章
分别介绍两种概率生成模型:深度生成模型和序列生成模型。

详细的章节如下:

  • 第 1 章:绪论

  • 第 2 章:机器学习概述

  • 第 3 章:线性模型

  • 第 4 章:前馈神经网络
  • 第 5 章:卷积神经网络
  • 第 6 章:循环神经网络
  • 第 7 章:网络优化与正则化
  • 第 8 章:注意力机制与外部记忆
  • 第 8 章:无监督学习
  • 第 10 章:模型独立的学习方式
  • 第 11 章:概率图模型
  • 第 12 章:深度信念网络
  • 第 13 章:深度生成模型
  • 第 14 章:深度强化学习
  • 第 15 章:序列生成模型


邱教授在每章的最后一节都提供了一些参考文献,读者可根据需要通过深入
阅读来了解这些知识,并且在附录中介绍了一些深度学习涉及到的数学知
识,包括线性代数、微积分、概率论、信息论和优化等。

除此之外,邱教授还并且为大家推荐了以下课程,感兴趣的也可以去看看:


Stat212b:Topics Course on Deep Learning
http://joanbruna.github.io/stat212b/

加州大学伯克利分校统计系Joan Bruna(Yann LeCun博士后) 以统计的角度讲解DL。


CS224d: Deep Learning for Natural Language Processing
http://cs224d.stanford.edu/

斯坦福大学 Richard Socher 主要讲解自然语言处理领域的各种深度学习模型


CS231n:Convolutional Neural Networks for Visual Recognition
http://cs231n.stanford.edu/

斯坦福大学 Fei-Fei Li Andrej Karpathy 主要讲解CNN、RNN在图像领域的应用


关于作者



邱锡鹏,复旦大学副教授,博士生导师,主要从事自然语言处理、深度学习等方向的研究,在ACL、EMNLP、AAAI、IJCAI等计算机学会A/B类期刊、会议上发表50余篇学术论文。


最后附上,本书相关链接地址:
GitHub地址:https://nndl.github.io/


全书 pdf:https://nndl.github.io/nndl-book.pdf


示例代码:https://github.com/nndl/nndl-codes


课程练习:https://github.com/nndl/exercise

推荐↓↓↓
人工智能与大数据
上一篇:3 行代码 5 秒抠图的 AI 神器,根本无需 PS 下一篇:漫话:如何给女朋友解释什么是“大案牍术”?