复旦大学博导邱锡鹏教授新书《神经网络与深度学习》,正式开源发布!

来自:CVer(微信号:CVerNews),作者:邱锡鹏&Amusi

前言


Amusi 在2019年4月6日逛知乎时,发现关注的邱锡鹏教授发了一篇推文《神经网络与深度学习》,点进去一看,发现了”宝藏“!


于是便立即联系了邱教授,询问是否可以将这份资源转发或者介绍给大家。邱教授也很爽快,没过多久就给了肯定的答复。


这里简单介绍一下邱锡鹏教授



副教授,博士生导师,复旦大学计算机科学技术学院,自然语言处理与深度学习组。目前主要从事自然语言处理、深度学习等方向的研究,在ACL、EMNLP、AAAI、IJCAI等计算机学会A/B类期刊、会议上发表50余篇学术论文。


个人信息来源:https://xpqiu.github.io/


下面看看邱锡鹏教授介绍《神经网络与深度学习》的知乎原文


https://zhuanlan.zhihu.com/p/61591812


正文


整本书终于写完了,虽然还有很多不足。但先告一段落,不然就得无限期拖延下去。感谢众多热心网友的意见和建议。全书的内容可以从这里(nndl.github.io/)下载。个人能力有限,书中难免有不当和错误之处,还望读者海涵和指正,不胜感激。

本书最早是我三年前放在网上的一本很粗浅的讲义。2015年复旦大学计算机学院开设了《神经网络与深度学习》课程,当时还没有关于深度学习的系统介绍。讲好深度学习并不是一件容易的事,课程涉及知识点非常多并且比较杂乱,也和实践结合十分紧密。作为任课教师,我尝试将梳理了深度学习的知识体系,并写了一本讲义放在网络上。虽然现在看起来当时对深度学习的理解仍然十分粗浅,且讲义存在很多错误,但依然受到了很多热心网友的反馈和鼓励。写书不是一件容易的事,一方面是深度学习的发展十分迅速,而自己关于深度学习的认知也不断变化,导致已写好的内容经常需要修改,另一方面是平时的科研工作十分繁忙,很难抽出大段的时间来静心写作,因此断断续续的写作一直拖延至今。

本书主要介绍神经网络与深度学习中的基础知识、主要模型(前馈网络、卷积网络、循环网络等)以及在计算机视觉、自然语言处理等领域的应用。全书共15章,可以作为一学期的课程进行讲授。

第1章是绪论,介绍人工智能、机器学习、深度学习的概要,使读者对相关知识进行全面的了解。
第2、3章介绍了机器学习的基础知识。
第4、5、6章分别讲述三种主要的神经网络模型:前馈神经网络、卷积神经网络和循环神经网络。在第6章中略提了下图网络的内容。
第7章介绍神经网络的优化与正则化方法。
第8章介绍神经网络中的注意力机制和外部记忆。
第9章简要介绍了一些无监督学习方法。
第10章中介绍一些和模型独立的机器学习方法:集成学习、协同学习、自学习、多任务学习、迁移学习、终身学习、小样本学习、元学习等。这些都是目前深度学习的难点和热点问题。
第11章介绍了概率图模型的基本概念,为后面的章节进行铺垫。
第12章介绍两种早期的深度学习模型:玻尔兹曼机和深度信念网络。
第13章介绍最近两年发展十分迅速的深度生成模型:变分自编码器和对抗生成网络。
第14章介绍了深度强化学习的知识。
第15章介绍了应用十分广泛的序列生成模型。

神经网络与深度学习

这里再结合官网信息,扩充介绍一下《神经网络与深度学习》资源

《神经网络与深度学习》既开放了书籍PDF下载,还配套了PPT等课件,而且书籍中每个章节还有相应课程练习题,很可贵的配套了示例代码,真的良心之作。(全文都是中文原语,一本很适合国人的书籍资源)

关于本书

github项目:https://github.com/nndl/nndl.github.io

示例代码:https://github.com/nndl/nndl-codes

课程练习:https://github.com/nndl/exercise

概要

《神经网络与深度学习》3小时课程概要 ppt(72M) pdf (12M)

全书内容 pdf (updated 2019-4-6)

章节内容

  1. 绪论[ppt] (updated 2019-4-4)

  2. 机器学习概述 [ppt] (updated 2019-4-4)

  3. 线性模型 [ppt] (updated 2019-4-4)

  4. 前馈神经网络 [ppt] (updated 2019-4-4)

  5. 卷积神经网络 [ppt] (updated 2019-4-4)

  6. 循环神经网络 [ppt] (updated 2019-4-4)

  7. 网络优化与正则化 [ppt] (updated 2019-4-4)

  8. 注意力机制与外部记忆 [ppt] (updated 2019-4-4)

  9. 无监督学习 [ppt] (updated 2019-4-4)

  10. 模型独立的学习方式 (updated 2019-4-4)

  11. 概率图模型 [ppt] (updated 2019-4-4)

  12. 深度信念网络 [ppt] (updated 2019-4-4)

  13. 深度生成模型[ppt] (updated 2019-4-4)

  14. 深度强化学习 [ppt] (updated 2019-4-4)

  15. 序列生成模型 (updated 2019-4-4) 一个过时版本:词嵌入与语言模型

  16. 数学基础 (updated 2019-4-4)

反馈意见

如果您有任何意见、评论以及建议,请通过GitHub的Issues页面进行反馈。你的名字将会出现的本书的致谢列表。

致谢列表:感谢王利锋、张钧瑞、李浩、胡可鑫、韦鹏辉、徐国海等同学指出书中的错误。

书籍部分内容

第5章:卷积神经网络部分内容



第5章:卷积神经网络习题


第13章:深度生成模型部分内容



下载
为了方便各位CVer访问,Amusi 已经《神经网络与深度学习》开源书籍PDF和配套PPT打包并上传至百度云。

致谢

在此感谢邱锡鹏教授开源这么棒的书籍,这份资料整理不易,欢迎大家多多star!点击阅读原文即可访问github资源。

https://github.com/nndl/nndl.github.io

推荐↓↓↓
人工智能与大数据
上一篇:据说是世界上第一门探讨“强人工智能”的公开课,开课了! 下一篇:机器学习与深度学习书单