wehub/mikoto10032--deeplearning
1
0
Fork 0
Code Issues Pull Requests Actions Deployments Models Agent Notes Packages Projects Releases Wiki Activity

docs: make Chinese README the default

Browse Source
This commit is contained in:
wehub-resource-sync
2026-07-13 10:42:20 +00:00
parent 665bfd493c
commit e8832e725c
1 changed files with 286 additions and 281 deletions
Download Patch File Download Diff File Expand all files Collapse all files
README.md
+286 -281
View File
@@ -1,11 +1,17 @@
# DeepLearning Tutorial
<!-- WEHUB_ZH_README -->
> [!NOTE]
> 本文档由 WeHub 基于上游 README 翻译整理，属于社区翻译，非官方中文文档。
> [English](./README.en.md) · [原始项目](https://github.com/Mikoto10032/DeepLearning) · [上游 README](https://github.com/Mikoto10032/DeepLearning/blob/HEAD/README.md)
> 原作者、版权与许可证归属以原始项目及本仓库 LICENSE 文件为准。
# 深度学习教程（DeepLearning Tutorial）
## 一. 入门资料
[**完备的 AI 学习路线，最详细的中英文资源整理**](https://zhuanlan.zhihu.com/p/64052743) :star:
[AiLearning: 机器学习 - MachineLearning - ML、深度学习 - DeepLearning - DL、自然语言处理 NL](https://github.com/apachecn/AiLearning)
[AiLearning：机器学习（Machine Learning - ML）、深度学习（Deep Learning - DL）、自然语言处理（Natural Language Processing - NLP）](https://github.com/apachecn/AiLearning)
[Machine-Learning](https://github.com/shunliz/Machine-Learning)
[机器学习（Machine-Learning）](https://github.com/shunliz/Machine-Learning)
### 数学基础
@@ -13,14 +19,14 @@
* [矩阵微积分](https://zh.wikipedia.org/wiki/%E7%9F%A9%E9%98%B5%E5%BE%AE%E7%A7%AF%E5%88%86)
* [机器学习的数学基础](https://github.com/fengdu78/Data-Science-Notes/tree/master/0.math/0.basic)
* [CS229线性代数与概率论基础](https://github.com/fengdu78/Data-Science-Notes/tree/master/0.math/1.CS229)
* [CS229 线性代数与概率论基础](https://github.com/fengdu78/Data-Science-Notes/tree/master/0.math/1.CS229)
### 机器学习基础
#### 快速入门
* [机器学习算法地图](http://www.tensorinfinity.com/paper_18.html)
* [机器学习 吴恩达 Coursera个人笔记](https://github.com/Mikoto10032/DeepLearning/blob/master/books/%5BML-Coursera%5D%5B2014%5D%5BAndrew%20Ng%5D/%5B2014%5D%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E4%B8%AA%E4%BA%BA%E7%AC%94%E8%AE%B0%E5%AE%8C%E6%95%B4%E7%89%88v5.1.pdf)  && [视频（含官方笔记）](https://www.coursera.org/learn/machine-learning)  
* [CS229 课程讲义中文翻译](https://kivy-cn.github.io/Stanford-CS-229-CN/#/) && [机器学习 吴恩达 cs229个人笔记](https://github.com/Mikoto10032/DeepLearning/blob/master/books/%5BML-CS229%5D%5B2011%5D%5BAndrew%20NG%5D/%5B2011%5D%E6%96%AF%E5%9D%A6%E7%A6%8F%E5%A4%A7%E5%AD%A6%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AF%BE%E7%A8%8B%E4%B8%AA%E4%BA%BA%E7%AC%94.pdf) && [官网（笔记）](http://cs229.stanford.edu/)  && [视频（中文字幕）](http://open.163.com/newview/movie/free?pid=M6SGF6VB4&mid=M6SGHFBMC)  
* [机器学习 吴恩达 Coursera 个人笔记](https://github.com/Mikoto10032/DeepLearning/blob/master/books/%5BML-Coursera%5D%5B2014%5D%5BAndrew%20Ng%5D/%5B2014%5D%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E4%B8%AA%E4%BA%BA%E7%AC%94%E8%AE%B0%E5%AE%8C%E6%95%B4%E7%89%88v5.1.pdf) && [视频（含官方笔记）](https://www.coursera.org/learn/machine-learning)
* [CS229 课程讲义中文翻译](https://kivy-cn.github.io/Stanford-CS-229-CN/#/) && [机器学习 吴恩达 cs229 个人笔记](https://github.com/Mikoto10032/DeepLearning/blob/master/books/%5BML-CS229%5D%5B2011%5D%5BAndrew%20NG%5D/%5B2011%5D%E6%96%AF%E5%9D%A6%E7%A6%8F%E5%A4%A7%E5%AD%A6%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AF%BE%E7%A8%8B%E4%B8%AA%E4%BA%BA%E7%AC%94.pdf) && [官网（笔记）](http://cs229.stanford.edu/) && [视频（中文字幕）](http://open.163.com/newview/movie/free?pid=M6SGF6VB4&mid=M6SGHFBMC)
* [百页机器学习](http://themlbook.com/wiki/doku.php)
#### 深入理解
@@ -35,11 +41,11 @@
#### 快速入门
* [深度学习思维导图](https://github.com/dformoso/deeplearning-mindmap) && [深度学习算法地图](http://www.tensorinfinity.com/paper_158.html)
* [《斯坦福大学深度学习基础教程》 Andrew Ng（吴恩达）](https://github.com/Mikoto10032/DeepLearning/blob/master/books/斯坦福大学-深度学习基础教程.pdf)
* [深度学习 吴恩达 个人笔记](http://www.ai-start.com/dl2017/)  && [视频](http://mooc.study.163.com/smartSpec/detail/1001319001.htm)
* [MIT深度学习基础-2019视频课程](https://deeplearning.mit.edu/)
* [深度学习 吴恩达 个人笔记](http://www.ai-start.com/dl2017/) && [视频](http://mooc.study.163.com/smartSpec/detail/1001319001.htm)
* [MIT 深度学习基础-2019 视频课程](https://deeplearning.mit.edu/)
* [台湾大学（NTU）李宏毅教授课程](http://speech.ee.ntu.edu.tw/~tlkagk/index.html) && [[leeml-notes](https://github.com/datawhalechina/leeml-notes)
* [图解深度学习_Grokking-Deep-Learning](https://github.com/iamtrask/Grokking-Deep-Learning)
* [《神经网络与深度学习》 Michael Nielsen](https://github.com/Mikoto10032/DeepLearning/blob/master/books/神经网络和深度学习neural%20networks%20and%20deep-learning-中文_ALL.pdf)    
* [《神经网络与深度学习》 Michael Nielsen](https://github.com/Mikoto10032/DeepLearning/blob/master/books/神经网络和深度学习neural%20networks%20and%20deep-learning-中文_ALL.pdf)
* [ CS321-Hinton](http://www.cs.toronto.edu/~tijmen/csc321/)
* [ CS230: Deep Learning](https://web.stanford.edu/class/cs230/)
* [ CS294-112](http://rail.eecs.berkeley.edu/deeprlcourse/resources/)
@@ -50,58 +56,58 @@
##### 自然语言处理
* [CS224n: Natural Language Processing with Deep Learning](http://web.stanford.edu/class/cs224n/index.html)
* [NLP上手教程](https://github.com/FudanNLP/nlp-beginner)
* [NLP入门推荐书目（2019版）](https://zhuanlan.zhihu.com/p/58874484)
* [NLP 上手教程](https://github.com/FudanNLP/nlp-beginner)
* [NLP 入门推荐书目（2019 版）](https://zhuanlan.zhihu.com/p/58874484)
##### 深度强化学习
* [CS234: Reinforcement Learning](http://web.stanford.edu/class/cs234/index.html)
#### 深入理解
* [《深度学习》 Yoshua Bengio.Ian GoodFellow](https://github.com/Mikoto10032/DeepLearning/blob/master/books/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0.Yoshua%20Bengio%2BIan%20GoodFellow.pdf):star:  
* [《深度学习》 Yoshua Bengio.Ian GoodFellow](https://github.com/Mikoto10032/DeepLearning/blob/master/books/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0.Yoshua%20Bengio%2BIan%20GoodFellow.pdf):star:
* [《自然语言处理》Jacob Eisenstein](https://github.com/Mikoto10032/DeepLearning/blob/master/books/%E8%87%AA%E7%84%B6%E8%AF%AD%E8%A8%80%E5%A4%84%E7%90%86.Jacob%20Eisenstein.pdf)
* [《强化学习》](https://github.com/Mikoto10032/DeepLearning/blob/master/books/Reinforcement%20Learning.Sutton.pdf) && [第二版](http://incompleteideas.net/book/RLbook2018trimmed.pdf)
* [hangdong的深度学习博客,论文推荐](https://handong1587.github.io/categories.html#deep_learning-ref)
* [hangdong 的深度学习博客，论文推荐](https://handong1587.github.io/categories.html#deep_learning-ref)
* [Practical Deep Learning for Coders, v3](https://course.fast.ai/)
* [《Tensorflow实战Google深度学习框架》 郑泽宇 顾思宇](https://github.com/Mikoto10032/DeepLearning/blob/master/books/Tensorflow%20实战Google深度学习框架.pdf)
* [《Tensorflow 实战 Google 深度学习框架》 郑泽宇 顾思宇](https://github.com/Mikoto10032/DeepLearning/blob/master/books/Tensorflow%20实战Google深度学习框架.pdf)
#### 一些书单
* [2019年最新-深度学习、生成对抗、Pytorch优秀教材推荐](https://zhuanlan.zhihu.com/p/63784033)
* [2019 年最新-深度学习、生成对抗、Pytorch 优秀教材推荐](https://zhuanlan.zhihu.com/p/63784033)
### 工程能力
![](https://pic4.zhimg.com/v2-009013278688f520c070b27910255cb1_r.jpg)
* [如何系统地学习算法？](https://www.zhihu.com/question/20588261/answer/798928056) && [LeetCode](https://leetcode.com/) && [leetcode题解](https://github.com/azl397985856/leetcode) && [《算法导论》中算法的C++实现](https://github.com/huaxz1986/cplusplus-_Implementation_Of_Introduction_to_Algorithms)
* [如何系统地学习算法？](https://www.zhihu.com/question/20588261/answer/798928056) && [LeetCode](https://leetcode.com/) && [leetcode 题解](https://github.com/azl397985856/leetcode) && [《算法导论》中算法的 C++ 实现](https://github.com/huaxz1986/cplusplus-_Implementation_Of_Introduction_to_Algorithms)
* [机器学习算法实战](#机器学习实战篇)
* [深度学习框架](#深度学习框架)
* [如何成为一名算法工程师](https://mp.weixin.qq.com/s/YMtnBAVDZepsMTO4h-VRtQ) && [从小白到入门算法，我的经验分享给你～](https://mp.weixin.qq.com/s?__biz=MzAxMjcyNjE5MQ==&mid=2650488786&idx=1&sn=68b9536d0b0b3105ab8d79f8efcb0a4b&chksm=83a2e512b4d56c045c6ab0349108842e6a5b26e8f3e507ff5d19ee50e3bd63ef149a36d23eef&scene=0&xtrack=1&ascene=14&devicetype=android-28&version=27000437&nettype=WIFI&abtest_cookie=BAABAAoACwASABMABgAjlx4AVpkeANCZHgDcmR4A8ZkeAAOaHgAAAA%3D%3D&lang=zh_CN&pass_ticket=4yovfEr0v09yZCvvQ1NEy12qGIonnRpGi774X09Mh5EZD2oL%2BRz6FTtX9R5gALB1&wx_header=1) && [我的研究生这三年](https://zhuanlan.zhihu.com/p/54161673) :star:
* [编程面试的题目分类](https://zhuanlan.zhihu.com/p/89392459)
* [《AI算法工程师手册》](http://www.huaxiaozhuan.com/)
* [如何准备算法工程师面试，斩获一线互联网公司机器学习岗offer？](https://zhuanlan.zhihu.com/p/76827460)
* [【完结】深度学习CV算法工程师从入门到初级面试有多远，大概是25篇文章的距离](https://mp.weixin.qq.com/s/HZ3Cd2jHuikyFN9ydvcMTw)
* [《AI 算法工程师手册》](http://www.huaxiaozhuan.com/)
* [如何准备算法工程师面试，斩获一线互联网公司机器学习岗 offer？](https://zhuanlan.zhihu.com/p/76827460)
* [【完结】深度学习 CV 算法工程师从入门到初级面试有多远，大概是 25 篇文章的距离](https://mp.weixin.qq.com/s/HZ3Cd2jHuikyFN9ydvcMTw)
* [ 计算机相关技术面试必备](https://github.com/CyC2018/CS-Notes) && [CS-WiKi](https://veal98.gitee.io/cs-wiki/#/) && [计算机基础面试问题全面总结](https://github.com/wolverinn/Waking-Up) && [TeachYourselfCS-CN](https://github.com/keithnull/TeachYourselfCS-CN) && [面试算法笔记-中文](https://github.com/imhuay/Algorithm_for_Interview-Chinese)
* [算法工程师面试](https://github.com/DarLiner/Algorithm_Interview_Notes-Chinese)
* [深度学习面试题目](https://github.com/ShanghaiTechAIClub/DLInterview)
* [深度学习500问](https://github.com/scutan90/DeepLearning-500-questions)
* [AI算法岗求职攻略](https://github.com/amusi/AI-Job-Notes#Strategy)
* [Kaggle实战]()
* [深度学习 500 问](https://github.com/scutan90/DeepLearning-500-questions)
* [AI 算法岗求职攻略](https://github.com/amusi/AI-Job-Notes#Strategy)
* [Kaggle 实战]()
* 常用算法：
* Feature Engineering：continue variable && categorical variable
* Classic machine learning algorithm：LR, KNN, SVM, Random Forest, GBDT(XGBoost&&LightGBM), Factorization Machine, Field-aware Factorization Machine, Neural Network
* Cross validation, model selection：grid search, random search, hyper-opt
* Ensemble learning
* [kaggle竞赛宝典第一章-竞赛框架篇！:star:](https://mp.weixin.qq.com/s/EGiFG6u9BYr1aBdq0a0wIQ)
* 特征工程（Feature Engineering）：连续变量（continue variable）&& 类别变量（categorical variable）
* 经典机器学习算法（Classic machine learning algorithm）：LR, KNN, SVM, Random Forest, GBDT(XGBoost&&LightGBM), Factorization Machine, Field-aware Factorization Machine, Neural Network
* 交叉验证与模型选择（Cross validation, model selection）：grid search, random search, hyper-opt
* 集成学习（Ensemble learning）
* [kaggle 竞赛宝典第一章-竞赛框架篇！:star:](https://mp.weixin.qq.com/s/EGiFG6u9BYr1aBdq0a0wIQ)
* [Kaggle 项目实战（教程） = 文档 + 代码 + 视频](https://github.com/apachecn/kaggle)
* [Kaggle入门系列：（一）机器学习环境搭建](https://zhuanlan.zhihu.com/p/29086448) && [Kaggle入门系列：（二）Kaggle简介](https://zhuanlan.zhihu.com/p/29417603) && [Kaggle入门系列（三）Titanic初试身手](https://zhuanlan.zhihu.com/p/29086614)
* [Kaggle 入门系列：（一）机器学习环境搭建](https://zhuanlan.zhihu.com/p/29086448) && [Kaggle 入门系列：（二）Kaggle 简介](https://zhuanlan.zhihu.com/p/29417603) && [Kaggle 入门系列（三）Titanic 初试身手](https://zhuanlan.zhihu.com/p/29086614)
* [从 0 到 1 走进 Kaggle](https://zhuanlan.zhihu.com/p/61660061)
* [Kaggle 入门指南](https://zhuanlan.zhihu.com/p/25742261)
* [一个框架解决几乎所有机器学习问题](https://zhuanlan.zhihu.com/p/61657532) && [Approaching (Almost) Any Machine Learning Problem | Abhishek Thakur](http://blog.kaggle.com/2016/07/21/approaching-almost-any-machine-learning-problem-abhishek-thakur/)
* [分分钟带你杀入Kaggle Top 1%](https://zhuanlan.zhihu.com/p/27424282)
* [如何达到Kaggle竞赛top 2%？这里有一篇特征探索经验帖](https://zhuanlan.zhihu.com/p/48758045)
* [分分钟带你杀入 Kaggle Top 1%](https://zhuanlan.zhihu.com/p/27424282)
* [如何达到 Kaggle 竞赛 top 2%？这里有一篇特征探索经验帖](https://zhuanlan.zhihu.com/p/48758045)
* [如何在 Kaggle 首战中进入前 10%？](https://zhuanlan.zhihu.com/p/27486736)
* [Kaggle 首战 Top 2%, APTOS 2019 复盘总结 + 机器学习竞赛通用流程归纳](http://bbs.cvmart.net/topics/1717)
* [kaggle的riiid比赛里关于数据处理时间空间优化的笔记](https://zhuanlan.zhihu.com/p/344388290)
* [kaggle 的 riiid 比赛里关于数据处理时间空间优化的笔记](https://zhuanlan.zhihu.com/p/344388290)
* [大数据&机器学习相关竞赛推荐](https://blog.csdn.net/weixin_33739541/article/details/87565983)
## 二. 神经网络模型概览
@@ -137,7 +143,7 @@
- [基于深度学习的目标检测算法综述（一）](https://zhuanlan.zhihu.com/p/40047760)
- [基于深度学习的目标检测算法综述（二）](https://zhuanlan.zhihu.com/p/40020809)
- [基于深度学习的目标检测算法综述（三）](https://zhuanlan.zhihu.com/p/40102001)
- [From RCNN to YOLOv3]()：[上](https://zhuanlan.zhihu.com/p/35724768)，[下](https://zhuanlan.zhihu.com/p/35731743)
- [从 RCNN 到 YOLOv3]()：[上](https://zhuanlan.zhihu.com/p/35724768)，[下](https://zhuanlan.zhihu.com/p/35731743)
- [后 R-CNN时代， Faster R-CNN、SSD、YOLO 各类变体统治下的目标检测综述：Faster R-CNN系列胜了吗？](https://zhuanlan.zhihu.com/p/38709522)
- [目标检测进化史](https://zhuanlan.zhihu.com/p/60590369)
- [CVPR2019目标检测方法进展综述](https://zhuanlan.zhihu.com/p/59376548)
@@ -153,7 +159,7 @@
##### 图像分割（语义分割、实例分割、全景分割）
* [图像语义分割(Semantic segmentation) Survey](https://zhuanlan.zhihu.com/p/36801104)
* [图像语义分割（Semantic Segmentation）综述](https://zhuanlan.zhihu.com/p/36801104)
* [干货 | 一文概览主要语义分割网络](https://blog.csdn.net/qq_20084101/article/details/80432960)
* [语义分割 发展综述](https://zhuanlan.zhihu.com/p/37618829)
* [9102年了，语义分割的入坑指南和最新进展都是什么样的](https://zhuanlan.zhihu.com/p/76603228)
@@ -253,7 +259,7 @@
##### 卷积层
* [A Comprehensive Introduction to Different Types of Convolutions in Deep Learning](https://towardsdatascience.com/a-comprehensive-introduction-to-different-types-of-convolutions-in-deep-learning-669281e58215) && 翻译：[上](https://www.leiphone.com/news/201902/D2Mkv61w9IPq9qGh.html)、[下](https://www.leiphone.com/news/201902/biIqSBpehsaXFwpN.html?uniqueCode=OTEsp9649VqJfUcO)
* [深度学习不同类型卷积全面介绍](https://towardsdatascience.com/a-comprehensive-introduction-to-different-types-of-convolutions-in-deep-learning-669281e58215) && 翻译：[上](https://www.leiphone.com/news/201902/D2Mkv61w9IPq9qGh.html)、[下](https://www.leiphone.com/news/201902/biIqSBpehsaXFwpN.html?uniqueCode=OTEsp9649VqJfUcO)
* [卷积有多少种？一文读懂深度学习中的各种卷积](https://zhuanlan.zhihu.com/p/57575810)
* [各种卷积](https://www.cnblogs.com/cvtoEyes/p/8848815.html)
* [Convolution Network及其变种（反卷积、扩展卷积、因果卷积、图卷积）](https://www.cnblogs.com/yangperasd/p/7071657.html)
@@ -381,193 +387,193 @@
#### 发展史
* [千奇百怪的GAN变体](https://zhuanlan.zhihu.com/p/26491601)
* [千奇百怪的 GAN 变体](https://zhuanlan.zhihu.com/p/26491601)
* [苏剑林博客，讲解得淋漓尽致](https://kexue.fm/tag/GAN/)
* [The GAN Landscape：Losses, Architectures, Regularization, and Normalization](https://arxiv.org/pdf/1807.04720.pdf)
* [深度学习新星：GAN的基本原理、应用和走向](https://www.leiphone.com/news/201701/Kq6FvnjgbKK8Lh8N.html)
* [GAN生成图像综述](https://zhuanlan.zhihu.com/p/62746494)
* [2017年GAN 计算机视觉相关paper汇总](https://zhuanlan.zhihu.com/p/29882709)
* [必读的10篇关于GAN的论文](https://zhuanlan.zhihu.com/p/72745900)
* [GAN 全景：损失函数、架构、正则化与归一化（The GAN Landscape: Losses, Architectures, Regularization, and Normalization）](https://arxiv.org/pdf/1807.04720.pdf)
* [深度学习新星：GAN 的基本原理、应用和走向](https://www.leiphone.com/news/201701/Kq6FvnjgbKK8Lh8N.html)
* [GAN 生成图像综述](https://zhuanlan.zhihu.com/p/62746494)
* [2017 年 GAN 计算机视觉相关 paper 汇总](https://zhuanlan.zhihu.com/p/29882709)
* [必读的 10 篇关于 GAN 的论文](https://zhuanlan.zhihu.com/p/72745900)
#### 教程
#### 教程
* [GAN原理学习笔记](https://zhuanlan.zhihu.com/p/27295635)
* [GAN万字长文综述](https://zhuanlan.zhihu.com/p/58812258)
* [GAN 原理学习笔记](https://zhuanlan.zhihu.com/p/27295635)
* [GAN 万字长文综述](https://zhuanlan.zhihu.com/p/58812258)
* [极端图像压缩的对抗生成网络](https://zhuanlan.zhihu.com/p/35783437?group_id=969598777652420608)
* [台湾大学李宏毅GAN教程](https://www.youtube.com/watch?v=0CKeqXl5IY0&feature=youtu.be)
* [Basic](https://github.com/Mikoto10032/DeepLearning/blob/master/books/GAN-Basic%20Idea%20(2017.04.21).pdf)
* [Improving](https://github.com/Mikoto10032/DeepLearning/blob/master/books/GAN-Improving%20GAN%20(2017.05.05).pdf)
* [CycleGAN：图片风格，想换就换 | ICCV 2017论文解读](https://zhuanlan.zhihu.com/p/34711316)
* [Wasserstein GAN](https://zhuanlan.zhihu.com/p/25071913) && [GAN：两者分布不重合JS散度为log2的数学证明](https://blog.csdn.net/Invokar/article/details/88917214)
* [台湾大学李宏毅 GAN 教程](https://www.youtube.com/watch?v=0CKeqXl5IY0&feature=youtu.be)
* [基础（Basic）](https://github.com/Mikoto10032/DeepLearning/blob/master/books/GAN-Basic%20Idea%20(2017.04.21).pdf)
* [改进（Improving）](https://github.com/Mikoto10032/DeepLearning/blob/master/books/GAN-Improving%20GAN%20(2017.05.05).pdf)
* [CycleGAN：图片风格，想换就换 | ICCV 2017 论文解读](https://zhuanlan.zhihu.com/p/34711316)
* [Wasserstein GAN](https://zhuanlan.zhihu.com/p/25071913) && [GAN：两者分布不重合 JS 散度为 log2 的数学证明](https://blog.csdn.net/Invokar/article/details/88917214)
* [用变分推断统一理解生成模型（VAE、GAN、AAE、ALI）](https://zhuanlan.zhihu.com/p/40105143)
#### Action
#### 实践
* [GAN学习指南：从原理入门到制作生成Demo](https://zhuanlan.zhihu.com/p/24767059)
* [机器之心GitHub项目：GAN完整理论推导与实现](https://zhuanlan.zhihu.com/p/29837245)
* [在Keras上实现GAN：构建消除图片模糊的应用](https://zhuanlan.zhihu.com/p/35030377)
* [GAN 学习指南：从原理入门到制作生成 Demo](https://zhuanlan.zhihu.com/p/24767059)
* [机器之心 GitHub 项目：GAN 完整理论推导与实现](https://zhuanlan.zhihu.com/p/29837245)
* [在 Keras 上实现 GAN：构建消除图片模糊的应用](https://zhuanlan.zhihu.com/p/35030377)
### RNN
### RNN
#### 发展史
#### 发展史
* [从90年代的SRNN开始，纵览循环神经网络27年的研究进展](https://zhuanlan.zhihu.com/p/32668465)
* [从 90 年代的 SRNN 开始，纵览循环神经网络 27 年的研究进展](https://zhuanlan.zhihu.com/p/32668465)
#### 教程
#### 教程
* [Awesome-Chinese-NLP](https://github.com/crownpku/Awesome-Chinese-NLP)
* [nlp-pytorch-zh](https://github.com/apachecn/nlp-pytorch-zh)
* [完全图解RNN、RNN变体、Seq2Seq、Attention机制](https://zhuanlan.zhihu.com/p/28054589)
* [循环神经网络(RNN, Recurrent Neural Networks)介绍](https://blog.csdn.net/heyongluoyao8/article/details/48636251)
* [RNN以及LSTM的介绍和公式梳理](https://blog.csdn.net/Dark_Scope/article/details/47056361)
* [（译）理解长短期记忆(LSTM) 神经网络](https://zhuanlan.zhihu.com/p/24018768)
* [ 一文读懂LSTM和RNN](https://zhuanlan.zhihu.com/p/35878575?group_id=970350175025385472)
* [探索LSTM：基本概念到内部结构](https://zhuanlan.zhihu.com/p/27345523)
* [ 翻译：深入理解LSTM系列](https://blog.csdn.net/matrix_space/article/details/53374040)            
* [深入理解 LSTM 网络 (一)](https://blog.csdn.net/matrix_space/article/details/53374040)
* [深入理解 LSTM 网络 (二)](https://blog.csdn.net/matrix_space/article/details/53376870)
* [完全图解 RNN、RNN 变体、Seq2Seq、Attention 机制](https://zhuanlan.zhihu.com/p/28054589)
* [循环神经网络（RNN, Recurrent Neural Networks）介绍](https://blog.csdn.net/heyongluoyao8/article/details/48636251)
* [RNN 以及 LSTM 的介绍和公式梳理](https://blog.csdn.net/Dark_Scope/article/details/47056361)
* [（译）理解长短期记忆（LSTM）神经网络](https://zhuanlan.zhihu.com/p/24018768)
* [一文读懂 LSTM 和 RNN](https://zhuanlan.zhihu.com/p/35878575?group_id=970350175025385472)
* [探索 LSTM：基本概念到内部结构](https://zhuanlan.zhihu.com/p/27345523)
* [翻译：深入理解 LSTM 系列](https://blog.csdn.net/matrix_space/article/details/53374040)            
* [深入理解 LSTM 网络（一）](https://blog.csdn.net/matrix_space/article/details/53374040)
* [深入理解 LSTM 网络（二）](https://blog.csdn.net/matrix_space/article/details/53376870)
* [LSTM](https://zhuanlan.zhihu.com/p/32085405)
* [深度学习其五 循环神经网络](https://zybuluo.com/hanbingtao/note/541458)                      
* [用循环神经网络进行文件无损压缩：斯坦福大学提出DeepZip](https://zhuanlan.zhihu.com/p/32582764)
* [用循环神经网络进行文件无损压缩：斯坦福大学提出 DeepZip](https://zhuanlan.zhihu.com/p/32582764)
* [吴恩达序列建模课程]()
* [Coursera吴恩达《序列模型》课程笔记（1）-- 循环神经网络（RNN）](https://zhuanlan.zhihu.com/p/34309635)
* [Coursera吴恩达《序列模型》课程笔记（2）-- NLP & Word Embeddings](https://zhuanlan.zhihu.com/p/34975871)
* [Coursera吴恩达《序列模型》课程笔记（3）-- Sequence models & Attention mechanism](https://zhuanlan.zhihu.com/p/35532553)
* [Coursera 吴恩达《序列模型》课程笔记（1）-- 循环神经网络（RNN）](https://zhuanlan.zhihu.com/p/34309635)
* [Coursera 吴恩达《序列模型》课程笔记（2）-- NLP 与词嵌入（NLP & Word Embeddings）](https://zhuanlan.zhihu.com/p/34975871)
* [Coursera 吴恩达《序列模型》课程笔记（3）-- 序列模型与注意力机制（Sequence models & Attention mechanism）](https://zhuanlan.zhihu.com/p/35532553)
* word2vec
- 原理
- [NLP 秒懂词向量Word2vec的本质](https://zhuanlan.zhihu.com/p/26306795)
- [一篇通俗易懂的word2vec](https://zhuanlan.zhihu.com/p/35500923)
- [YJango的Word Embedding--介绍](https://zhuanlan.zhihu.com/p/27830489)
- [nlp中的词向量对比：word2vec/glove/fastText/elmo/GPT/bert](https://zhuanlan.zhihu.com/p/56382372)
- [NLP 秒懂词向量 Word2vec 的本质](https://zhuanlan.zhihu.com/p/26306795)
- [一篇通俗易懂的 word2vec](https://zhuanlan.zhihu.com/p/35500923)
- [YJango 的 Word Embedding--介绍](https://zhuanlan.zhihu.com/p/27830489)
- [nlp 中的词向量对比：word2vec/glove/fastText/elmo/GPT/bert](https://zhuanlan.zhihu.com/p/56382372)
- [词嵌入（word2vec）](https://zh.diveintodeeplearning.org/chapter_natural-language-processing/word2vec.html)
- [谈谈谷歌word2vec的原理](https://blog.csdn.net/wangyangzhizhou/article/details/77073023)
- [Word2Vec中为什么使用负采样？](https://zhuanlan.zhihu.com/p/67117737)
- [谈谈谷歌 word2vec 的原理](https://blog.csdn.net/wangyangzhizhou/article/details/77073023)
- [Word2Vec 中为什么使用负采样？](https://zhuanlan.zhihu.com/p/67117737)
- 训练词向量
- [练习-word2vec](https://zhuanlan.zhihu.com/p/29200034)
- [word2vec方法的实现和应用](https://zhuanlan.zhihu.com/p/31886824)
- [自然语言处理入门 word2vec 使用tensorflow自己训练词向量](https://blog.csdn.net/wzdjsgf/article/details/79541492)
- [使用tensorflow实现word2vec中文词向量的训练](https://zhuanlan.zhihu.com/p/28979653)
- [如何用TensorFlow训练词向量](https://blog.csdn.net/wangyangzhizhou/article/details/77530479?locationNum=1&fps=1)
- [word2vec 方法的实现和应用](https://zhuanlan.zhihu.com/p/31886824)
- [自然语言处理入门 word2vec 使用 tensorflow 自己训练词向量](https://blog.csdn.net/wzdjsgf/article/details/79541492)
- [使用 tensorflow 实现 word2vec 中文词向量的训练](https://zhuanlan.zhihu.com/p/28979653)
- [如何用 TensorFlow 训练词向量](https://blog.csdn.net/wangyangzhizhou/article/details/77530479?locationNum=1&fps=1)
* [聊聊 Transformer](https://zhuanlan.zhihu.com/p/47812375)
* [基于Transform的机器翻译系统](https://zhuanlan.zhihu.com/p/144825330)
* [基于word2vec训练词向量(一)](https://zhuanlan.zhihu.com/p/35648927)
* [基于word2vec训练词向量(二)](https://zhuanlan.zhihu.com/p/35889385)
* [基于 Transform 的机器翻译系统](https://zhuanlan.zhihu.com/p/144825330)
* [基于 word2vec 训练词向量（一）](https://zhuanlan.zhihu.com/p/35648927)
* [基于 word2vec 训练词向量（二）](https://zhuanlan.zhihu.com/p/35889385)
* [自然语言处理中的自注意力机制（Self-Attention Mechanism）](https://zhuanlan.zhihu.com/p/35041012)    
* [自然语言处理中注意力机制综述](https://zhuanlan.zhihu.com/p/54491016)
* [YJango的Word Embedding--介绍](https://zhuanlan.zhihu.com/p/27830489)
* [YJango 的 Word Embedding--介绍](https://zhuanlan.zhihu.com/p/27830489)
#### Action
#### 实践
* [推荐：nlp-tutorial](https://github.com/graykode/nlp-tutorial)
* [nlp-tutorial](https://github.com/lyeoni/nlp-tutorial)
* [tensorflow中RNNcell源码分析以及自定义RNNCell的方法](https://blog.csdn.net/liuchonge/article/details/78405185?locationNum=8&fps=1)
* [TensorFlow中RNN实现的正确打开方式](https://zhuanlan.zhihu.com/p/28196873)
* [tensorflow 中 RNNcell 源码分析以及自定义 RNNCell 的方法](https://blog.csdn.net/liuchonge/article/details/78405185?locationNum=8&fps=1)
* [TensorFlow 中 RNN 实现的正确打开方式](https://zhuanlan.zhihu.com/p/28196873)
* [TensorFlow RNN 代码](https://zhuanlan.zhihu.com/p/27906426)
* [Tensorflow实现的深度NLP模型集锦](https://zhuanlan.zhihu.com/p/67031035)
* [用tensorflow LSTM如何预测股票价格](https://zhuanlan.zhihu.com/p/33186759)
* [TensorFlow的多层LSTM实践](https://zhuanlan.zhihu.com/p/29797089)
* [《安娜卡列尼娜》文本生成——利用TensorFlow构建LSTM模型](https://zhuanlan.zhihu.com/p/27087310)
* [Tensorflow 实现的深度 NLP 模型集锦](https://zhuanlan.zhihu.com/p/67031035)
* [用 tensorflow LSTM 如何预测股票价格](https://zhuanlan.zhihu.com/p/33186759)
* [TensorFlow 的多层 LSTM 实践](https://zhuanlan.zhihu.com/p/29797089)
* [《安娜卡列尼娜》文本生成——利用 TensorFlow 构建 LSTM 模型](https://zhuanlan.zhihu.com/p/27087310)
### GNN
#### 发展史
* [Graph Neural Network（GNN）综述](https://zhuanlan.zhihu.com/p/65539782)
* [图神经网络（Graph Neural Network, GNN）综述](https://zhuanlan.zhihu.com/p/65539782)
* [深度学习时代的图模型，清华发文综述图网络](https://mp.weixin.qq.com/s?__biz=MzA3MzI4MjgzMw==&mid=2650754422&idx=4&sn=0dc881487f362322a875b4ce06e645f7&chksm=871a8908b06d001ef7386ccc752827c20711877a4a23d6a8318978095dd241d118257c607b22&scene=21#wechat_redirect)
* [清华大学图神经网络综述：模型与应用](https://mp.weixin.qq.com/s?__biz=MzA3MzI4MjgzMw==&mid=2650754558&idx=2&sn=7d79191b9ed30679d5d40e22d9cabdf8&chksm=871a8980b06d00962e0dbe984e1d3469214db31cb402b4725a0dfe330249a830b45cb26932b5&scene=21#wechat_redirect)
* [图神经网络概述第三弹：来自IEEE Fellow的GNN综述](https://zhuanlan.zhihu.com/p/54241746)
* [GNN最全文献资料整理](https://github.com/DeepGraphLearning/LiteratureDL4Graph) && [Awesome-Graph-Neural-Networks](https://github.com/nnzhan/Awesome-Graph-Neural-Networks)
* [图神经网络概述第三弹：来自 IEEE Fellow 的 GNN 综述](https://zhuanlan.zhihu.com/p/54241746)
* [GNN 最全文献资料整理](https://github.com/DeepGraphLearning/LiteratureDL4Graph) && [Awesome-Graph-Neural-Networks](https://github.com/nnzhan/Awesome-Graph-Neural-Networks)
#### 教程
* [如何理解 Graph Convolutional Network（GCN）](https://www.zhihu.com/question/54504471)
* [图卷积网络(GCN)新手村完全指南](https://zhuanlan.zhihu.com/p/54505069)
* [如何理解图卷积网络（Graph Convolutional Network, GCN）](https://www.zhihu.com/question/54504471)
* [图卷积网络（GCN）新手村完全指南](https://zhuanlan.zhihu.com/p/54505069)
* [何时能懂你的心——图卷积神经网络（GCN）](https://zhuanlan.zhihu.com/p/71200936)
* [图卷积网络GCN的理解与介绍](https://zhuanlan.zhihu.com/p/90470499)
* [一文读懂图卷积GCN](https://zhuanlan.zhihu.com/p/89503068)
* [图卷积网络 GCN 的理解与介绍](https://zhuanlan.zhihu.com/p/90470499)
* [一文读懂图卷积 GCN](https://zhuanlan.zhihu.com/p/89503068)
* [2020 年 GNN 开卷有益与再谈图卷积](https://zhuanlan.zhihu.com/p/101310106)
* [【GCN】万字长文带你入门 GCN](https://zhuanlan.zhihu.com/p/120311352)
* [如何解决图神经网络（GNN）训练中过度平滑的问题？](https://www.zhihu.com/question/346942899/answer/848298494)
* [全连接的图卷积网络(GCN)和self-attention这些机制有什么区别联系](https://www.zhihu.com/question/366088445) && [CNN与GCN的区别、联系及融合](https://zhuanlan.zhihu.com/p/147654689)
* [全连接的图卷积网络（GCN）和 self-attention 这些机制有什么区别联系](https://www.zhihu.com/question/366088445) && [CNN 与 GCN 的区别、联系及融合](https://zhuanlan.zhihu.com/p/147654689)
#### Action
#### 实践
* [图卷积网络到底怎么做，这是一份极简的Numpy实现](https://zhuanlan.zhihu.com/p/57235377)
* [图卷积网络到底怎么做，这是一份极简的 Numpy 实现](https://zhuanlan.zhihu.com/p/57235377)
* [DGL](https://docs.dgl.ai/index.html)
## 三. 深度模型的优化与正则化
* [1. 优化算法纵览](http://fa.bianp.net/teaching/2018/eecs227at/)
* [2. 从梯度下降到Adam](https://zhuanlan.zhihu.com/p/27449596)
* [2. 从梯度下降到 Adam](https://zhuanlan.zhihu.com/p/27449596)
* [3. 从梯度下降到拟牛顿法：盘点训练神经网络的五大学习算法](https://zhuanlan.zhihu.com/p/25703402)
* [4. 正则化技术总结](https://zhuanlan.zhihu.com/p/35429054?group_id=966442942538444800)
* [史上最全面的正则化技术总结与分析--part1](https://zhuanlan.zhihu.com/p/35429054?group_id=966442942538444800)
* [史上最全面的正则化技术总结与分析--part2](https://zhuanlan.zhihu.com/p/35432128?group_id=966443101011738624)
* [权重衰减（weight decay）与学习率衰减（learning rate decay）](https://zhuanlan.zhihu.com/p/38709373) && [pytorch必须掌握的的4种学习率衰减策略](https://zhuanlan.zhihu.com/p/93624972)
* [权重衰减（weight decay）与学习率衰减（learning rate decay）](https://zhuanlan.zhihu.com/p/38709373) && [pytorch 必须掌握的 4 种学习率衰减策略](https://zhuanlan.zhihu.com/p/93624972)
* [5. 最优化算法系列（math）](https://blog.csdn.net/chunyun0716/article/category/6188191/2)
* [6. 神经网络训练中的梯度消失与梯度爆炸](https://zhuanlan.zhihu.com/p/25631496)        
* [7. 神经网络的优化及训练](https://zhuanlan.zhihu.com/p/36050743)
* [8. 通俗讲解查全率和查准率](https://zhuanlan.zhihu.com/p/35888543) && [全面梳理：准确率,精确率,召回率,查准率,查全率,假阳性,真阳性,PRC,ROC,AUC,F1](https://zhuanlan.zhihu.com/p/34079183) && [机器学习之类别不平衡问题 (1) —— 各种评估指标](https://zhuanlan.zhihu.com/p/34473430) && [机器学习之类别不平衡问题 (2) —— ROC和PR曲线](https://zhuanlan.zhihu.com/p/34655990) && [AUC详解与python实现](https://zhuanlan.zhihu.com/p/84035782) && [微平均和宏平均](https://zhuanlan.zhihu.com/p/78628437) && [机器学习中的性能度量](https://zhuanlan.zhihu.com/p/74980268) && [精确率、召回率、F1 值、ROC、AUC 各自的优缺点是什么](https://www.zhihu.com/question/30643044)
* [8. 通俗讲解查全率和查准率](https://zhuanlan.zhihu.com/p/35888543) && [全面梳理：准确率,精确率,召回率,查准率,查全率,假阳性,真阳性,PRC,ROC,AUC,F1](https://zhuanlan.zhihu.com/p/34079183) && [机器学习之类别不平衡问题 (1) —— 各种评估指标](https://zhuanlan.zhihu.com/p/34473430) && [机器学习之类别不平衡问题 (2) —— ROC 和 PR 曲线](https://zhuanlan.zhihu.com/p/34655990) && [AUC 详解与 python 实现](https://zhuanlan.zhihu.com/p/84035782) && [微平均和宏平均](https://zhuanlan.zhihu.com/p/78628437) && [机器学习中的性能度量](https://zhuanlan.zhihu.com/p/74980268) && [精确率、召回率、F1 值、ROC、AUC 各自的优缺点是什么](https://www.zhihu.com/question/30643044)
* [激活函数一览](https://zhuanlan.zhihu.com/p/30567264) && [深度学习中几种常见的激活函数理解与总结](https://www.cnblogs.com/XDU-Lakers/p/10557496.html)
* [深度学习笔记(三)：激活函数和损失函数](https://blog.csdn.net/u014595019/article/details/52562159)
* [激活函数/损失函数汇总](https://zhuanlan.zhihu.com/p/30385380)
* [机器学习中常见的损失函数及其应用场景](https://blog.csdn.net/zuolixiangfisher/article/details/88649110) && [PyTorch的十八个损失函数](https://zhuanlan.zhihu.com/p/61379965)
* [机器学习中常见的损失函数及其应用场景](https://blog.csdn.net/zuolixiangfisher/article/details/88649110) && [PyTorch 的十八个损失函数](https://zhuanlan.zhihu.com/p/61379965)
* [深度度量学习中的损失函数](https://zhuanlan.zhihu.com/p/82199561)
* [反向传播算法（过程及公式推导）](https://blog.csdn.net/u014313009/article/details/51039334)
* [通俗理解神经网络BP传播算法](https://zhuanlan.zhihu.com/p/24801814)
* [10. Coursera吴恩达《优化深度神经网络》课程笔记（3）-- 超参数调试、Batch正则化和编程框架](https://zhuanlan.zhihu.com/p/30922689)
* [通俗理解神经网络 BP 传播算法](https://zhuanlan.zhihu.com/p/24801814)
* [10. Coursera 吴恩达《优化深度神经网络》课程笔记（3）-- 超参数调试、Batch 正则化和编程框架](https://zhuanlan.zhihu.com/p/30922689)
* [11. 机器学习各种熵](https://zhuanlan.zhihu.com/p/35423404)
* [12. 距离和相似性度量](https://zhuanlan.zhihu.com/p/27305237)
* [13. 机器学习里的黑色艺术：normalization, standardization, regularization](https://zhuanlan.zhihu.com/p/29974820) && [数据标准化/归一化normalization](https://blog.csdn.net/pipisorry/article/details/52247379) && [特征工程中的「归一化」有什么作用？](https://www.zhihu.com/question/20455227)
* [14. LSTM系列的梯度问题](https://zhuanlan.zhihu.com/p/36101196)
* [13. 机器学习里的黑色艺术：normalization, standardization, regularization](https://zhuanlan.zhihu.com/p/29974820) && [数据标准化/归一化 normalization](https://blog.csdn.net/pipisorry/article/details/52247379) && [特征工程中的「归一化」有什么作用？](https://www.zhihu.com/question/20455227)
* [14. LSTM 系列的梯度问题](https://zhuanlan.zhihu.com/p/36101196)
* [15. 损失函数整理](https://zhuanlan.zhihu.com/p/35027284)
* [16. 详解残差块为何有助于解决梯度弥散问题](https://zhuanlan.zhihu.com/p/28124810)
* [17. FAIR何恺明等人提出组归一化：替代批归一化，不受批量大小限制](https://zhuanlan.zhihu.com/p/34858971)
* [17. FAIR 何恺明等人提出组归一化：替代批归一化，不受批量大小限制](https://zhuanlan.zhihu.com/p/34858971)
* [18. Batch Normalization（BN）]():[1 ](https://zhuanlan.zhihu.com/p/26702482),[2 ](https://blog.csdn.net/hjimce/article/details/50866313),[3 ](https://bbs.cvmart.net/topics/576),[4 ](https://blog.csdn.net/edogawachia/article/details/80040456), [5](https://zhuanlan.zhihu.com/p/38176412), [6](https://www.zhihu.com/question/38102762), [7](https://zhuanlan.zhihu.com/p/52132614)
* [19. 详解深度学习中的Normalization，不只是BN](https://zhuanlan.zhihu.com/p/33173246) && [如何区分并记住常见的几种 Normalization 算法](https://zhuanlan.zhihu.com/p/69659844)
* [19. 详解深度学习中的 Normalization，不只是 BN](https://zhuanlan.zhihu.com/p/33173246) && [如何区分并记住常见的几种 Normalization 算法](https://zhuanlan.zhihu.com/p/69659844)
* [20. BFGS](https://blog.csdn.net/philosophyatmath/article/details/70173128)
* [21. 详解深度学习中的梯度消失、爆炸原因及其解决方法](https://zhuanlan.zhihu.com/p/33006526) && [神经网络梯度消失和梯度爆炸及解决办法](https://blog.csdn.net/program_developer/article/details/80032376)
* [22. Dropout](https://arxiv.org/pdf/1207.0580.pdf), [1](https://blog.csdn.net/stdcoutzyx/article/details/49022443), [2](https://blog.csdn.net/hjimce/article/details/50413257), [3](https://blog.csdn.net/shuzfan/article/details/50580915)，[系列解读Dropout](https://blog.csdn.net/shuzfan/article/details/50580915)
* [23.谱归一化（Spectral Normalization）的理解](https://blog.csdn.net/StreamRock/article/details/83590347)，[常见向量范数和矩阵范数](https://blog.csdn.net/left_la/article/details/9159949)，[谱范数正则（Spectral Norm Regularization）的理解](https://blog.csdn.net/StreamRock/article/details/83539937)
* [24.L1正则化与L2正则化](https://zhuanlan.zhihu.com/p/35356992) && [深入理解L1、L2正则化](https://zhuanlan.zhihu.com/p/29360425) && [L2正则=Weight Decay？并不是这样](https://zhuanlan.zhihu.com/p/40814046) && [都9102年了，别再用Adam + L2 regularization](https://zhuanlan.zhihu.com/p/63982470)
* [25.为什么选用交叉熵而不是MSE](https://zhuanlan.zhihu.com/p/61944055) &&[为什么使用交叉熵作为损失函数](https://zhuanlan.zhihu.com/p/63731947) &&[二元分类为什么不能用MSE做为损失函数？](http://sofasofa.io/forum_main_post.php?postid=1001792)&& [为什么平方损失函数不适用分类问题？](https://www.zhihu.com/question/319865092)
* [23. 谱归一化（Spectral Normalization）的理解](https://blog.csdn.net/StreamRock/article/details/83590347)，[常见向量范数和矩阵范数](https://blog.csdn.net/left_la/article/details/9159949)，[谱范数正则（Spectral Norm Regularization）的理解](https://blog.csdn.net/StreamRock/article/details/83539937)
* [24. L1 正则化与 L2 正则化](https://zhuanlan.zhihu.com/p/35356992) && [深入理解 L1、L2 正则化](https://zhuanlan.zhihu.com/p/29360425) && [L2 正则=Weight Decay？并不是这样](https://zhuanlan.zhihu.com/p/40814046) && [都 9102 年了，别再用 Adam + L2 regularization](https://zhuanlan.zhihu.com/p/63982470)
* [25. 为什么选用交叉熵而不是 MSE](https://zhuanlan.zhihu.com/p/61944055) &&[为什么使用交叉熵作为损失函数](https://zhuanlan.zhihu.com/p/63731947) &&[二元分类为什么不能用 MSE 做为损失函数？](http://sofasofa.io/forum_main_post.php?postid=1001792)&& [为什么平方损失函数不适用分类问题？](https://www.zhihu.com/question/319865092)
* [浅谈神经网络中的梯度爆炸问题](https://zhuanlan.zhihu.com/p/32154263)
* [为什么weight decay能够防止过拟合](https://www.zhihu.com/question/65626362)
* [交叉熵代价函数（作用及公式推导）](https://blog.csdn.net/u014313009/article/details/51043064) && [交叉熵损失的来源、说明、求导与pytorch实现](https://zhuanlan.zhihu.com/p/67782576) && [Softmax函数与交叉熵](https://zhuanlan.zhihu.com/p/27223959) && [极大似然估计与最小化交叉熵损失或者KL散度为什么等价](https://zhuanlan.zhihu.com/p/84764177)
* [为什么 weight decay 能够防止过拟合](https://www.zhihu.com/question/65626362)
* [交叉熵代价函数（作用及公式推导）](https://blog.csdn.net/u014313009/article/details/51043064) && [交叉熵损失的来源、说明、求导与 pytorch 实现](https://zhuanlan.zhihu.com/p/67782576) && [Softmax 函数与交叉熵](https://zhuanlan.zhihu.com/p/27223959) && [极大似然估计与最小化交叉熵损失或者 KL 散度为什么等价](https://zhuanlan.zhihu.com/p/84764177)
* [梯度下降优化算法纵览](http://ruder.io/optimizing-gradient-descent/), [1](https://blog.csdn.net/qq_23269761/article/details/80901411), [2](https://www.cnblogs.com/guoyaohua/p/8542554.html), [几种优化算法的比较（BGD、SGD、Adam、RMSPROP）](https://blog.csdn.net/qq_32172681/article/details/100979476)
* **Softmax**：[详解softmax函数以及相关求导过程](https://zhuanlan.zhihu.com/p/25723112) && [softmax的log似然代价函数（公式求导）](https://blog.csdn.net/u014313009/article/details/51045303) && [【技术综述】一文道尽softmax loss及其变种](https://zhuanlan.zhihu.com/p/34044634)
* [从最优化的角度看待Softmax损失函数](https://zhuanlan.zhihu.com/p/45014864) && [Softmax理解之二分类与多分类](https://zhuanlan.zhihu.com/p/45368976) && [Softmax理解之Smooth程度控制](https://zhuanlan.zhihu.com/p/49939159) && [Softmax理解之margin](https://zhuanlan.zhihu.com/p/52108088)
* **Softmax**：[详解 softmax 函数以及相关求导过程](https://zhuanlan.zhihu.com/p/25723112) && [softmax 的 log 似然代价函数（公式求导）](https://blog.csdn.net/u014313009/article/details/51045303) && [【技术综述】一文道尽 softmax loss 及其变种](https://zhuanlan.zhihu.com/p/34044634)
* [从最优化的角度看待 Softmax 损失函数](https://zhuanlan.zhihu.com/p/45014864) && [Softmax 理解之二分类与多分类](https://zhuanlan.zhihu.com/p/45368976) && [Softmax 理解之 Smooth 程度控制](https://zhuanlan.zhihu.com/p/49939159) && [Softmax 理解之 margin](https://zhuanlan.zhihu.com/p/52108088)
* **权重初始化**
* [神经网络中的权重初始化一览：从基础到Kaiming](https://zhuanlan.zhihu.com/p/62850258)
* [神经网络中的权重初始化一览：从基础到 Kaiming](https://zhuanlan.zhihu.com/p/62850258)
* [深度学习中常见的权重初始化方法](https://zhuanlan.zhihu.com/p/138064188)
* [深度学习中神经网络的几种权重初始化方法](https://blog.csdn.net/u012328159/article/details/80025785)
* [谈谈神经网络权重为什么不能初始化为0](https://zhuanlan.zhihu.com/p/75879624)
* [谈谈神经网络权重为什么不能初始化为 0](https://zhuanlan.zhihu.com/p/75879624)
* [神经网络中的偏置（bias）究竟有这么用？](https://www.zhihu.com/question/305340182)
* [深度学习里面的偏置为什么不加正则？](https://www.zhihu.com/question/66894061)
* [为什么说bagging是减少variance，而boosting是减少bias?](https://www.zhihu.com/question/26760839)
* [为什么说 bagging 是减少 variance，而 boosting 是减少 bias?](https://www.zhihu.com/question/26760839)
## 四. 炼丹术士那些事
### 调参经验
* [训练的神经网络不工作？一文带你跨过这37个坑](https://blog.csdn.net/jiandanjinxin/article/details/77190687)
* [Deep Learning 之 训练过程中出现NaN问题](https://blog.csdn.net/BVL10101111/article/details/76086344)
* [神经网络训练trick](https://zhuanlan.zhihu.com/p/59918821)
* [你有哪些deep learning（rnn、cnn）调参的经验？](https://www.zhihu.com/question/41631631)
* [GAN的一些小trick](https://zhuanlan.zhihu.com/p/27725664)
* [训练的神经网络不工作？一文带你跨过这 37 个坑](https://blog.csdn.net/jiandanjinxin/article/details/77190687)
* [Deep Learning：训练过程中出现 NaN 问题](https://blog.csdn.net/BVL10101111/article/details/76086344)
* [神经网络训练 trick](https://zhuanlan.zhihu.com/p/59918821)
* [你有哪些 deep learning（RNN、CNN）调参的经验？](https://www.zhihu.com/question/41631631)
* [GAN 的一些小 trick](https://zhuanlan.zhihu.com/p/27725664)
* [深度学习与计算机视觉系列(8)_神经网络训练与注意点](https://blog.csdn.net/han_xiaoyang/article/details/50521064)
* [神经网络训练loss不下降原因集合](https://blog.csdn.net/liuweiyuxiang/article/details/80856991) && [ loss不下降的解决方法](https://blog.csdn.net/zongza/article/details/89185852)
* [神经网络训练 loss 不下降原因集合](https://blog.csdn.net/liuweiyuxiang/article/details/80856991) && [loss 不下降的解决方法](https://blog.csdn.net/zongza/article/details/89185852)
* [深度学习：欠拟合问题的几种解决方案](https://blog.csdn.net/u014038273/article/details/84108688) &&[过拟合和欠拟合问题](https://blog.csdn.net/mzpmzk/article/details/79741682)
* [机器学习：如何找到最优学习率](https://blog.csdn.net/whut_ldz/article/details/78882871)及[实现](https://github.com/L1aoXingyu/torchlib)
* [神经网络中 warmup 策略为什么有效](https://www.zhihu.com/question/338066667)
* [不平衡数据集处理方法](): [其一](https://machinelearningmastery.com/tactics-to-combat-imbalanced-classes-in-your-machine-learning-dataset/), [其二](https://www.zhihu.com/question/285824343), [其三](https://blog.csdn.net/songhk0209/article/details/71484469) && [Awesome Imbalanced Learning](https://github.com/ZhiningLiu1998/awesome-imbalanced-learning) && [Class-balanced-loss-pytorch](https://github.com/vandit15/Class-balanced-loss-pytorch)
* [同一个神经网络使用不同激活函数的表达能力是否一致](https://www.zhihu.com/question/41841299)
* [论文笔记之数据增广：mixup](https://blog.csdn.net/ly244855983/article/details/78938667#%E8%AE%A8%E8%AE%BA)
* [避坑指南：数据科学家新手常犯的13个错误](https://zhuanlan.zhihu.com/p/44331706)
* [凭什么相信CNN的结果?--可视化](https://bindog.github.io/blog/2018/02/10/model-explanation/)
* [凭什么相信你，我的CNN模型？（篇一：CAM和Grad-CAM)](https://bindog.github.io/blog/2018/02/10/model-explanation/) && [pytorch-grad-cam](https://github.com/jacobgil/pytorch-grad-cam) && [Grad-CAM-tensorflow](https://github.com/insikk/Grad-CAM-tensorflow) && [grad-cam.tensorflow](https://github.com/Ankush96/grad-cam.tensorflow) && [cnn_visualization](https://github.com/js-fan/mxnet/tree/d2b802e2d2af3dae5b4ac941354602630d2ef1c7/example/cnn_visualization)
* [凭什么相信你，我的CNN模型？（篇二：万金油LIME)](http://bindog.github.io/blog/2018/02/11/model-explanation-2/)
* [避坑指南：数据科学家新手常犯的 13 个错误](https://zhuanlan.zhihu.com/p/44331706)
* [凭什么相信 CNN 的结果？--可视化](https://bindog.github.io/blog/2018/02/10/model-explanation/)
* [凭什么相信你，我的 CNN 模型？（篇一：CAM 和 Grad-CAM)](https://bindog.github.io/blog/2018/02/10/model-explanation/) && [pytorch-grad-cam](https://github.com/jacobgil/pytorch-grad-cam) && [Grad-CAM-tensorflow](https://github.com/insikk/Grad-CAM-tensorflow) && [grad-cam.tensorflow](https://github.com/Ankush96/grad-cam.tensorflow) && [cnn_visualization](https://github.com/js-fan/mxnet/tree/d2b802e2d2af3dae5b4ac941354602630d2ef1c7/example/cnn_visualization)
* [凭什么相信你，我的 CNN 模型？（篇二：万金油 LIME)](http://bindog.github.io/blog/2018/02/11/model-explanation-2/)
* [论文笔记:Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization](https://www.jianshu.com/p/294ad9ae2e50)
* [CV：基于Keras利用训练好的hdf5模型进行目标检测实现输出模型中的表情或性别的gradcam(可视化)](https://blog.csdn.net/qq_41185868/article/details/80323646)
* [CV：基于 Keras 利用训练好的 hdf5 模型进行目标检测实现输出模型中的表情或性别的 gradcam(可视化)](https://blog.csdn.net/qq_41185868/article/details/80323646)
* [大卷积核还是小卷积核?]() [1](https://www.jianshu.com/p/d75375dd7ebd), [2](https://blog.csdn.net/kuangtun9713/article/details/79475457)
* [模型可解释性差？你考虑了各种不确定性了吗？](https://baijiahao.baidu.com/s?id=1608193373391996908)
* [炼丹笔记系列]()
@@ -591,16 +597,16 @@
* [【技术综述】 深度学习中的数据增强（上）](https://zhuanlan.zhihu.com/p/38345420) && [【技术综述】深度学习中的数据增强（下）](https://zhuanlan.zhihu.com/p/38437739)
* [深度学习数据增广技术一览](https://zhuanlan.zhihu.com/p/144921458)
* [《Bag of Tricks for Image Classification with CNN》](https://zhuanlan.zhihu.com/p/53324148)&& [pdf](https://arxiv.org/pdf/1812.01187.pdf)
* [深度神经网络模型训练中的最新tricks总结【原理与代码汇总】](https://zhuanlan.zhihu.com/p/66080948) && [神经网络训练trick](https://zhuanlan.zhihu.com/p/59918821)
* [Kaggle解决方案分享]()
* [从0上手Kaggle图像分类挑战：冠军解决方案详解](https://www.itcodemonkey.com/article/4898.html)
* [深度神经网络模型训练中的最新 tricks 总结【原理与代码汇总】](https://zhuanlan.zhihu.com/p/66080948) && [神经网络训练 trick](https://zhuanlan.zhihu.com/p/59918821)
* [Kaggle 解决方案分享]()
* [从 0 上手 Kaggle 图像分类挑战：冠军解决方案详解](https://www.itcodemonkey.com/article/4898.html)
* [Kaggle 冰山图像分类大赛近日落幕，看冠军团队方案有何亮点](https://www.leiphone.com/news/201803/u40cjEZWArBfFaBm.html)
* [【Kaggle冠军分享】图像识别和分类竞赛，数据增强及优化算法](https://mp.weixin.qq.com/s/_S8EBBJ-u9g_fHp7I3ChMQ?)
* [识别座头鲸，Kaggle竞赛第一名解决方案解读](https://zhuanlan.zhihu.com/p/58496385)
* [【Kaggle 冠军分享】图像识别和分类竞赛，数据增强及优化算法](https://mp.weixin.qq.com/s/_S8EBBJ-u9g_fHp7I3ChMQ?)
* [识别座头鲸，Kaggle 竞赛第一名解决方案解读](https://zhuanlan.zhihu.com/p/58496385)
* [kaggle 首战拿金牌总结](https://zhuanlan.zhihu.com/p/60953933)
* [16岁高中生夺冠Kaggle地标检索挑战赛！而且竟然是Kaggle老兵](https://zhuanlan.zhihu.com/p/37522227)
* [6次Kaggle计算机视觉类比赛赛后感](https://zhuanlan.zhihu.com/p/37663895)
* [Kaggle首战斩获第三-卫星图像识别](https://zhuanlan.zhihu.com/p/63275166)
* [16 岁高中生夺冠 Kaggle 地标检索挑战赛！而且竟然是 Kaggle 老兵](https://zhuanlan.zhihu.com/p/37522227)
* [6 次 Kaggle 计算机视觉类比赛赛后感](https://zhuanlan.zhihu.com/p/37663895)
* [Kaggle 首战斩获第三-卫星图像识别](https://zhuanlan.zhihu.com/p/63275166)
#### 目标检测
@@ -608,18 +614,18 @@
* deformable
* sync bn
* ms train/test
* [目标检测任务的优化策略tricks](https://zhuanlan.zhihu.com/p/56792817)
* [目标检测小tricks--样本不均衡处理](https://zhuanlan.zhihu.com/p/60612064)
* [目标检测任务的优化策略 tricks](https://zhuanlan.zhihu.com/p/56792817)
* [目标检测小 tricks--样本不均衡处理](https://zhuanlan.zhihu.com/p/60612064)
* [汇总|目标检测中的数据增强、backbone、head、neck、损失函数](https://zhuanlan.zhihu.com/p/137769687)
* [目标检测算法中的常见trick](https://zhuanlan.zhihu.com/p/39262769)
* [Bag of Freebies —— 提升目标检测模型性能的免费tricks](https://zhuanlan.zhihu.com/p/141878389)
* [目标检测比赛中的tricks（已更新更多代码解析）](https://zhuanlan.zhihu.com/p/102817180)
* [Kaggle：肺癌自动诊断系统3D Deep Leaky Noisy-or Network 论文阅读](https://www.jianshu.com/p/50158f8daf0d)
* [干货|大神教你如何参加kaggle比赛——根据CT扫描图预测肺癌](https://yq.aliyun.com/articles/89312)
* [目标检测算法中的常见 trick](https://zhuanlan.zhihu.com/p/39262769)
* [Bag of Freebies —— 提升目标检测模型性能的免费 tricks](https://zhuanlan.zhihu.com/p/141878389)
* [目标检测比赛中的 tricks（已更新更多代码解析）](https://zhuanlan.zhihu.com/p/102817180)
* [Kaggle：肺癌自动诊断系统 3D Deep Leaky Noisy-or Network 论文阅读](https://www.jianshu.com/p/50158f8daf0d)
* [干货|大神教你如何参加 kaggle 比赛——根据 CT 扫描图预测肺癌](https://yq.aliyun.com/articles/89312)
## 五. 年度总结
* [新年大礼包：机器之心2018高分教程合集](https://zhuanlan.zhihu.com/p/53717510)
* [收藏、退出一气呵成，2019年机器之心干货教程都在这里了](https://zhuanlan.zhihu.com/p/104022144)
* [新年大礼包：机器之心 2018 高分教程合集](https://zhuanlan.zhihu.com/p/53717510)
* [收藏、退出一气呵成，2019 年机器之心干货教程都在这里了](https://zhuanlan.zhihu.com/p/104022144)
## 六. 科研相关
@@ -628,27 +634,27 @@
#### Python3.x(先修)
* [The Python Tutorial](https://docs.python.org/3/tutorial/)
* [廖雪峰Python教程](https://www.liaoxuefeng.com/wiki/0014316089557264a6b348958f449949df42a6d3a2e542c000)
* [菜鸟教程](http://www.runoob.com/python3/python3-tutorial.html)    
* [给深度学习入门者的Python快速教程 - 基础篇](https://zhuanlan.zhihu.com/p/24162430)
* [Python - 100天从新手到大师](https://github.com/jackfrued/Python-100-Days)
* [Python中读取,显示,保存图片的方法](https://blog.csdn.net/u010472607/article/details/78855816) && [Python的图像打开保存显示的几种方式](https://blog.csdn.net/weixin_37619439/article/details/86559239)
* [廖雪峰 Python 教程](https://www.liaoxuefeng.com/wiki/0014316089557264a6b348958f449949df42a6d3a2e542c000)
* [菜鸟教程](http://www.runoob.com/python3/python3-tutorial.html)
* [给深度学习入门者的 Python 快速教程 - 基础篇](https://zhuanlan.zhihu.com/p/24162430)
* [Python - 100 天从新手到大师](https://github.com/jackfrued/Python-100-Days)
* [Python 中读取,显示,保存图片的方法](https://blog.csdn.net/u010472607/article/details/78855816) && [Python 的图像打开保存显示的几种方式](https://blog.csdn.net/weixin_37619439/article/details/86559239)
#### Numpy(先修)
* [Quickstart tutorial](https://www.numpy.org/devdocs/user/quickstart.html)
* [Numpy快速入门(Numpy 1.14 官方文档中文翻译)](https://www.jianshu.com/p/3e566f09a0cf)
* [Numpy中文文档](https://www.numpy.org.cn/index.html)
* [给深度学习入门者的Python快速教程 - numpy和Matplotlib篇](https://zhuanlan.zhihu.com/p/24309547)
* [Numpy 快速入门(Numpy 1.14 官方文档中文翻译)](https://www.jianshu.com/p/3e566f09a0cf)
* [Numpy 中文文档](https://www.numpy.org.cn/index.html)
* [给深度学习入门者的 Python 快速教程 - numpy 和 Matplotlib 篇](https://zhuanlan.zhihu.com/p/24309547)
#### Opencv-python
* [OpenCV-Python Tutorials](https://opencv-python-tutroals.readthedocs.io/en/latest/py_tutorials/py_tutorials.html)
* [OpenCV官方教程中文版（For Python）](https://www.cnblogs.com/Undo-self-blog/p/8423851.html)
* [OpenCV 官方教程中文版（For Python）](https://www.cnblogs.com/Undo-self-blog/p/8423851.html)
* [数字图像处理系列](https://blog.csdn.net/feilong_csdn/article/category/8037591)
* [python+OpenCV图像处理](https://blog.csdn.net/qq_40962368/article/category/7688903)
* [给深度学习入门者的Python快速教程 - 番外篇之Python-OpenCV](https://zhuanlan.zhihu.com/p/24425116)
* [python+OpenCV 图像处理](https://blog.csdn.net/qq_40962368/article/category/7688903)
* [给深度学习入门者的 Python 快速教程 - 番外篇之 Python-OpenCV](https://zhuanlan.zhihu.com/p/24425116)
#### Pandas
@@ -658,13 +664,13 @@
* [如何高效地学习 TensorFlow 代码](https://www.zhihu.com/question/41667903)
* [中文教程](http://www.tensorfly.cn/tfdoc/tutorials/overview.html)
* [TensorFlow官方文档](https://www.w3cschool.cn/tensorflow_python/)
* [TensorFlow 官方文档](https://www.w3cschool.cn/tensorflow_python/)
* [CS20:Tensorflow for DeepLearning Research](http://web.stanford.edu/class/cs20si/syllabus.html)
* [吴恩达TensorFlow专项课程](https://zhuanlan.zhihu.com/p/62981537)
* [【干货】史上最全的Tensorflow学习资源汇总](https://zhuanlan.zhihu.com/p/35515805?group_id=967136289941897216)
* [《21个项目玩转深度学习———基于TensorFlow的实践详解》](https://github.com/hzy46/Deep-Learning-21-Examples)  
* [最全Tensorflow2.0 入门教程持续更新](https://zhuanlan.zhihu.com/p/59507137)
* [Github优秀开源教程](https://github.com/search?o=desc&q=tensorflow+tutorial&s=&type=Repositories)
* [吴恩达 TensorFlow 专项课程](https://zhuanlan.zhihu.com/p/62981537)
* [【干货】史上最全的 Tensorflow 学习资源汇总](https://zhuanlan.zhihu.com/p/35515805?group_id=967136289941897216)
* [《21 个项目玩转深度学习———基于 TensorFlow 的实践详解》](https://github.com/hzy46/Deep-Learning-21-Examples)
* [最全 Tensorflow2.0 入门教程持续更新](https://zhuanlan.zhihu.com/p/59507137)
* [Github 优秀开源教程](https://github.com/search?o=desc&q=tensorflow+tutorial&s=&type=Repositories)
#### MXNet
* [Gluon](http://zh.gluon.ai/#)
@@ -673,13 +679,13 @@
#### PyTorch
* [Pytorch版动手学深度学习](https://github.com/ShusenTang/Dive-into-DL-PyTorch)
* [PyTorch中文文档](https://pytorch-cn.readthedocs.io/zh/latest/)
* [Pytorch 版动手学深度学习](https://github.com/ShusenTang/Dive-into-DL-PyTorch)
* [PyTorch 中文文档](https://pytorch-cn.readthedocs.io/zh/latest/)
* [WELCOME TO PYTORCH TUTORIALS](https://pytorch.org/tutorials/index.html)
* [史上最全的PyTorch学习资源汇总](https://zhuanlan.zhihu.com/p/64895011)
* [【干货】史上最全的PyTorch学习资源汇总](https://github.com/INTERMT/Awesome-PyTorch-Chinese)
* [史上最全的 PyTorch 学习资源汇总](https://zhuanlan.zhihu.com/p/64895011)
* [【干货】史上最全的 PyTorch 学习资源汇总](https://github.com/INTERMT/Awesome-PyTorch-Chinese)
* [Hands-on tour to deep learning with PyTorch](https://mlelarge.github.io/dataflowr-web/cea_edf_inria.html)
* [pytorch学习(五)—图像的加载/读取方式](https://www.jianshu.com/p/cfca9c4338e7) && [PyTorch—ImageFolder/自定义类 读取图片数据](https://blog.csdn.net/wsp_1138886114/article/details/83620869)
* [pytorch 学习(五)—图像的加载/读取方式](https://www.jianshu.com/p/cfca9c4338e7) && [PyTorch—ImageFolder/自定义类 读取图片数据](https://blog.csdn.net/wsp_1138886114/article/details/83620869)
### 深度学习常用命令
@@ -688,7 +694,7 @@
### Python可视化
* [Top 50 matplotlib Visualizations – The Master Plots (with full python code)](https://www.machinelearningplus.com/plots/top-50-matplotlib-visualizations-the-master-plots-python/)
* [Top 50 matplotlib 可视化——大师级图表（附完整 Python 代码）](https://www.machinelearningplus.com/plots/top-50-matplotlib-visualizations-the-master-plots-python/)
* [Python之MatPlotLib使用教程](https://blog.csdn.net/zhw864680355/article/details/102500263)
* [十分钟上手matplotlib，开启你的python可视化](https://mp.weixin.qq.com/s/UfvEdzr-ZGmyT08yKDOchA)
* [给深度学习入门者的Python快速教程 - numpy和Matplotlib篇](https://zhuanlan.zhihu.com/p/24309547)
@@ -712,7 +718,7 @@
* [10. 计算机视觉相关数据集和比赛](https://blog.csdn.net/NNNNNNNNNNNNY/article/details/68485160)
* [11. 这是一份非常全面的开源数据集，你，真的不想要吗？](https://zhuanlan.zhihu.com/p/43846002)
* [12. 人群密度估计现有主要数据集特点及其比较](https://blog.csdn.net/weixin_40516558/article/details/81564464)
* [13. DANBOORU2017: A LARGE-SCALE CROWDSOURCED AND TAGGED ANIME ILLUSTRATION DATASET](https://www.gwern.net/Danbooru2017)
* [13. DANBOORU2017：大规模众包标注动漫插画数据集](https://www.gwern.net/Danbooru2017)
* [14. 行人重识别数据集](http://robustsystems.coe.neu.edu/sites/robustsystems.coe.neu.edu/files/systems/projectpages/reiddataset.html)
* [15. 自然语言处理常见数据集、论文最全整理分享](https://zhuanlan.zhihu.com/p/56144877)
* [16. paper, code, sota](https://paperswithcode.com/)
@@ -735,7 +741,7 @@
* [国际会议日期表](https://github.com/JackieTseng/conference_call_for_paper)
* [ai-deadlines](https://github.com/abhshkdz/ai-deadlines/)
* [Keep Up With New Trends](https://handong1587.github.io/deep_learning/2017/12/18/keep-up-with-new-trends.html)
* [紧跟新趋势（Keep Up With New Trends）](https://handong1587.github.io/deep_learning/2017/12/18/keep-up-with-new-trends.html)
* [计算机会议排名等级](https://blog.csdn.net/cserchen/article/details/40508181)
* [中国计算机学会(CCF)推荐国际学术刊物和会议](https://www.ccf.org.cn/Academic_Evaluation/By_category/)
@@ -837,19 +843,19 @@ ______
* [朴素贝叶斯分类器 详细解析](https://blog.csdn.net/qq_17073497/article/details/81076250)
#### 决策树(Decision Tree)
* [最常见核心的决策树算法详细介绍，含ID3、C4.5、CART:star:](https://mp.weixin.qq.com/s/lXaPZyNrgG9LBv-JHdGm9A) && [最常用的决策树算法！Random Forest、Adaboost、GBDT 算法:star:](https://mp.weixin.qq.com/s/Nl_-PdF0nHBq8yGp6AdI-Q) && [终于有人把XGBoost 和 LightGBM 讲明白了，项目中最主流的集成算法！:star:](https://mp.weixin.qq.com/s/LoX987dypDg8jbeTJMpEPQ)
* [为什么xgboost要用泰勒展开，优势在哪里](http://blog.itblood.com/4082.html)
* [最常见核心的决策树算法详细介绍，含 ID3、C4.5、CART:star:](https://mp.weixin.qq.com/s/lXaPZyNrgG9LBv-JHdGm9A) && [最常用的决策树算法！Random Forest、Adaboost、GBDT 算法:star:](https://mp.weixin.qq.com/s/Nl_-PdF0nHBq8yGp6AdI-Q) && [终于有人把 XGBoost 和 LightGBM 讲明白了，项目中最主流的集成算法！:star:](https://mp.weixin.qq.com/s/LoX987dypDg8jbeTJMpEPQ)
* [为什么 xgboost 要用泰勒展开，优势在哪里](http://blog.itblood.com/4082.html)
* [Python3《机器学习实战》学习笔记（二）：决策树基础篇之让我们从相亲说起](https://blog.csdn.net/c406495762/article/details/75663451)
* [Python3《机器学习实战》学习笔记（三）：决策树实战篇之为自己配个隐形眼镜](https://blog.csdn.net/c406495762/article/details/76262487)
* [机器学习实战教程（十三）：树回归基础篇之CART算法与树剪枝](http://cuijiahua.com/blog/2017/12/ml_13_regtree_1.html)
* [机器学习实战教程（十三）：树回归基础篇之 CART 算法与树剪枝](http://cuijiahua.com/blog/2017/12/ml_13_regtree_1.html)
* [《机器学习实战》基于信息论的三种决策树算法(ID3,C4.5,CART)](https://blog.csdn.net/gamer_gyt/article/details/51242815)
* [说说决策树剪枝算法](https://zhuanlan.zhihu.com/p/31404571)
* [机器学习实战 第九章 树回归](https://blog.csdn.net/namelessml/article/details/52595066)
* [决策树值ID3、C4.5实现](https://blog.csdn.net/u014688145/article/details/53212112)
* [决策树之CART实现](https://blog.csdn.net/u014688145/article/details/53326910)
* [决策树值 ID3、C4.5 实现](https://blog.csdn.net/u014688145/article/details/53212112)
* [决策树之 CART 实现](https://blog.csdn.net/u014688145/article/details/53326910)
#### 随机森林(Random Forest)
* [随机森林和GBDT的区别](https://blog.csdn.net/login_sonata/article/details/73929426)
* [随机森林和 GBDT 的区别](https://blog.csdn.net/login_sonata/article/details/73929426)
* [随机森林（Random Forest）入门与实战](https://blog.csdn.net/sb19931201/article/details/52601058)
* [随机森林之特征选择](https://www.cnblogs.com/justcxtoworld/p/3447231.html)
@@ -858,7 +864,7 @@ ______
* [线性回归最小二乘法和最大似然估计](https://blog.csdn.net/lt793843439/article/details/91392646)
* [【从入门到放弃】线性回归](https://zhuanlan.zhihu.com/p/147297924)
* [线性回归(频率学派-最大似然估计)与岭回归(贝叶斯角度-最大后验估计)的概率解释](https://blog.csdn.net/z_feng12489/article/details/101388745)
* [机器学习笔记四：线性回归回顾与logistic回归](https://blog.csdn.net/xierhacker/article/details/53316138)
* [机器学习笔记四：线性回归回顾与 logistic 回归](https://blog.csdn.net/xierhacker/article/details/53316138)
#### 逻辑回归(Logistic Regression)
@@ -869,67 +875,67 @@ ______
#### 支持向量机(SVM)
* [【机器学习面试总结】—— SVM](https://zhuanlan.zhihu.com/p/93715996)
* [SVM系列-从基础到掌握](https://zhuanlan.zhihu.com/p/61123737)
* [SVM通俗导论 July](https://github.com/Mikoto10032/DeepLearning/blob/master/books/%E6%94%AF%E6%8C%81%E5%90%91%E9%87%8F%E6%9C%BA%E9%80%9A%E4%BF%97%E5%AF%BC%E8%AE%BA%EF%BC%88%E7%90%86%E8%A7%A3SVM%E7%9A%84%E4%B8%89%E5%B1%82%E5%A2%83%E7%95%8C%EF%BC%89LaTeX%E6%9C%80%E6%96%B0%E7%89%88_2015.1.9.pdf) 
* [核函数 ](): [机器学习有很多关于核函数的说法，核函数的定义和作用是什么？](https://www.zhihu.com/question/24627666) && [SVM中，高斯核为什么会把原始维度映射到无穷多维？](https://www.zhihu.com/question/35602879) && [svm核函数的理解和选择](https://blog.csdn.net/leonis_v/article/details/50688766) && [核函数和径向基核函数 (Radial Basis Function)--RBF](https://blog.csdn.net/huang1024rui/article/details/51510611) && [SVM核函数](https://blog.csdn.net/xiaowei_cqu/article/details/35993729)
* [SVM 系列-从基础到掌握](https://zhuanlan.zhihu.com/p/61123737)
* [SVM 通俗导论 July](https://github.com/Mikoto10032/DeepLearning/blob/master/books/%E6%94%AF%E6%8C%81%E5%90%91%E9%87%8F%E6%9C%BA%E9%80%9A%E4%BF%97%E5%AF%BC%E8%AE%BA%EF%BC%88%E7%90%86%E8%A7%A3SVM%E7%9A%84%E4%B8%89%E5%B1%82%E5%A2%83%E7%95%8C%EF%BC%89LaTeX%E6%9C%80%E6%96%B0%E7%89%88_2015.1.9.pdf)
* [核函数 ](): [机器学习有很多关于核函数的说法，核函数的定义和作用是什么？](https://www.zhihu.com/question/24627666) && [SVM 中，高斯核为什么会把原始维度映射到无穷多维？](https://www.zhihu.com/question/35602879) && [svm 核函数的理解和选择](https://blog.csdn.net/leonis_v/article/details/50688766) && [核函数和径向基核函数 (Radial Basis Function)--RBF](https://blog.csdn.net/huang1024rui/article/details/51510611) && [SVM 核函数](https://blog.csdn.net/xiaowei_cqu/article/details/35993729)
#### 提升方法(Adaboost)
* [当我们在谈论GBDT：从 AdaBoost 到 Gradient Boosting](https://zhuanlan.zhihu.com/p/25096501)
* [当我们在谈论 GBDT：从 AdaBoost 到 Gradient Boosting](https://zhuanlan.zhihu.com/p/25096501)
#### 梯度提升决策树(GBDT)
* [LightGBM大战XGBoost](https://zhuanlan.zhihu.com/p/35645973)
* [概述XGBoost、Light GBM和CatBoost的同与不同](https://zhuanlan.zhihu.com/p/34698733)   && [XGBoost、LightGBM、Catboost总结](https://www.cnblogs.com/lvdongjie/p/11391245.html) && [XGBoost、Light GBM和CatBoost的参数及性能比较](https://zhuanlan.zhihu.com/p/34698733)
* [LightGBM 大战 XGBoost](https://zhuanlan.zhihu.com/p/35645973)
* [概述 XGBoost、Light GBM 和 CatBoost 的同与不同](https://zhuanlan.zhihu.com/p/34698733) && [XGBoost、LightGBM、Catboost 总结](https://www.cnblogs.com/lvdongjie/p/11391245.html) && [XGBoost、Light GBM 和 CatBoost 的参数及性能比较](https://zhuanlan.zhihu.com/p/34698733)
* [梯度提升决策树](https://zhuanlan.zhihu.com/p/36339161)
* [GBDT原理及应用](https://zhuanlan.zhihu.com/p/30339807)
* [XGBOOST原理篇](https://zhuanlan.zhihu.com/p/31654000)
* [xgboost入门与实战（原理篇）](https://blog.csdn.net/sb19931201/article/details/52557382) && [xgboost入门与实战（实战调参篇）](https://blog.csdn.net/sb19931201/article/details/52577592)
* [【干货合集】通俗理解kaggle比赛大杀器xgboost](https://zhuanlan.zhihu.com/p/41417638)
* [GBDT分类的原理及Python实现](https://blog.csdn.net/bf02jgtrs00xktcx/article/details/82719765)
* [GBDT原理及利用GBDT构造新的特征-Python实现](https://blog.csdn.net/shine19930820/article/details/71713680)
* [Python+GBDT算法实战——预测实现100%准确率](https://www.jianshu.com/p/47e73a985ba1)
* [xgboost之近似分位数算法（直方图算法）详解](https://blog.csdn.net/m0_37870649/article/details/104561431)
* [GBDT 原理及应用](https://zhuanlan.zhihu.com/p/30339807)
* [XGBOOST 原理篇](https://zhuanlan.zhihu.com/p/31654000)
* [xgboost 入门与实战（原理篇）](https://blog.csdn.net/sb19931201/article/details/52557382) && [xgboost 入门与实战（实战调参篇）](https://blog.csdn.net/sb19931201/article/details/52577592)
* [【干货合集】通俗理解 kaggle 比赛大杀器 xgboost](https://zhuanlan.zhihu.com/p/41417638)
* [GBDT 分类的原理及 Python 实现](https://blog.csdn.net/bf02jgtrs00xktcx/article/details/82719765)
* [GBDT 原理及利用 GBDT 构造新的特征-Python 实现](https://blog.csdn.net/shine19930820/article/details/71713680)
* [Python+GBDT 算法实战——预测实现 100% 准确率](https://www.jianshu.com/p/47e73a985ba1)
* [xgboost 之近似分位数算法（直方图算法）详解](https://blog.csdn.net/m0_37870649/article/details/104561431)
#### EM(期望最大化)
* [人人都懂的EM算法 ](https://zhuanlan.zhihu.com/p/36331115)
* [EM算法入门文章](https://zhuanlan.zhihu.com/p/61768577)                      
#### EM(期望最大化)
* [人人都懂的 EM 算法 ](https://zhuanlan.zhihu.com/p/36331115)
* [EM 算法入门文章](https://zhuanlan.zhihu.com/p/61768577)
#### 高斯混合模型(GMM)
* [高斯混合模型与EM算法的数学原理及应用实例](https://zhuanlan.zhihu.com/p/67107370)
* [高斯混合模型与 EM 算法的数学原理及应用实例](https://zhuanlan.zhihu.com/p/67107370)
* [高斯混合模型（GMM）](https://zhuanlan.zhihu.com/p/30483076)
#### 马尔科夫决策过程(MDP)
* [马尔科夫决策过程之Markov Processes（马尔科夫过程）](https://zhuanlan.zhihu.com/p/35124726)
* [马尔科夫决策过程之Markov Reward Process（马尔科夫奖励过程）](https://zhuanlan.zhihu.com/p/35231424)
* [马尔科夫决策过程之Bellman Equation（贝尔曼方程）](https://zhuanlan.zhihu.com/p/35261164)
* [马尔科夫决策过程之Markov Decision Process(马尔科夫决策过程)](https://zhuanlan.zhihu.com/p/35354956)
* [马尔科夫决策过程之 Markov Processes（马尔科夫过程）](https://zhuanlan.zhihu.com/p/35124726)
* [马尔科夫决策过程之 Markov Reward Process（马尔科夫奖励过程）](https://zhuanlan.zhihu.com/p/35231424)
* [马尔科夫决策过程之 Bellman Equation（贝尔曼方程）](https://zhuanlan.zhihu.com/p/35261164)
* [马尔科夫决策过程之 Markov Decision Process(马尔科夫决策过程)](https://zhuanlan.zhihu.com/p/35354956)
* [马尔科夫决策过程之最优价值函数与最优策略](https://zhuanlan.zhihu.com/p/35373905)
#### 条件随机场(CRF, 判别式模型)
* [如何轻松愉快地理解条件随机场](https://zhuanlan.zhihu.com/p/104562658)
* [如何用简单易懂的例子解释条件随机场（CRF）模型？它和HMM有什么区别？](https://www.zhihu.com/question/35866596)
* [如何用简单易懂的例子解释条件随机场（CRF）模型？它和 HMM 有什么区别？](https://www.zhihu.com/question/35866596)
* [HMM ,MHMM,CRF 优缺点与区别](https://blog.csdn.net/u013378306/article/details/55213029)
#### 降维算法
* [数据降维算法-从PCA到LargeVis](https://zhuanlan.zhihu.com/p/62470700)
* [12种降维方法终极指南（含Python代码）](https://zhuanlan.zhihu.com/p/43225794)
* [数据降维算法-从 PCA 到 LargeVis](https://zhuanlan.zhihu.com/p/62470700)
* [12 种降维方法终极指南（含 Python 代码）](https://zhuanlan.zhihu.com/p/43225794)
#### 主成分分析(PCA)
* [主成分分析（PCA）原理详解](https://blog.csdn.net/program_developer/article/details/80632779)
* [图文并茂的PCA教程](https://blog.csdn.net/hustqb/article/details/78394058)
* [PCA数学原理](http://www.360doc.com/content/13/1124/02/9482_331688889.shtml)
* [图文并茂的 PCA 教程](https://blog.csdn.net/hustqb/article/details/78394058)
* [PCA 数学原理](http://www.360doc.com/content/13/1124/02/9482_331688889.shtml)
#### 奇异值分解(SVD)
* [强大的矩阵奇异值分解(SVD)及其应用](https://www.cnblogs.com/LeftNotEasy/archive/2011/01/19/svd-and-applications.html)
* [奇异值分解（SVD）](https://zhuanlan.zhihu.com/p/29846048)
* [奇异值分解(SVD)原理详解及推导](https://blog.csdn.net/zhongkejingwang/article/details/43053513)    
* [SVD在推荐系统中的应用详解以及算法推导](https://blog.csdn.net/zhongkejingwang/article/details/43083603)
* [奇异值分解(SVD)原理详解及推导](https://blog.csdn.net/zhongkejingwang/article/details/43053513)
* [SVD 在推荐系统中的应用详解以及算法推导](https://blog.csdn.net/zhongkejingwang/article/details/43083603)
#### 线性判别分析(LDA)
* [教科书上的LDA为什么长这个样子？](https://zhuanlan.zhihu.com/p/42238953)
* [教科书上的 LDA 为什么长这个样子？](https://zhuanlan.zhihu.com/p/42238953)
#### 标签传播算法(Label Propagation Algorithm)    
* [标签传播算法（Label Propagation）及Python实现](https://blog.csdn.net/zouxy09/article/details/49105265)
#### 标签传播算法(Label Propagation Algorithm)
* [标签传播算法（Label Propagation）及 Python 实现](https://blog.csdn.net/zouxy09/article/details/49105265)
* [参考资料](https://github.com/Mikoto10032/DeepLearning/blob/master/books/Semi-Supervised%20Learning%20with%20Graphs.pdf)
#### 蒙塔卡罗树搜索(MCTS)
@@ -937,131 +943,130 @@ ______
#### 集成(Ensemble)
* [集成学习之bagging,stacking,boosting概念理解](https://zhuanlan.zhihu.com/p/41809927) && [Bagging和Boosting的总结](https://www.zhihu.com/follow)
* [集成学习之 bagging,stacking,boosting 概念理解](https://zhuanlan.zhihu.com/p/41809927) && [Bagging 和 Boosting 的总结](https://www.zhihu.com/follow)
* [集成学习法之bagging方法和boosting方法](https://blog.csdn.net/qq_30189255/article/details/51532442)
* [集成学习法之 bagging 方法和 boosting 方法](https://blog.csdn.net/qq_30189255/article/details/51532442)
* [Bagging,Boosting,Stacking](https://blog.csdn.net/Mr_tyting/article/details/72957853) && [常用的模型集成方法介绍：bagging、boosting 、stacking](https://zhuanlan.zhihu.com/p/65888174)
#### t分布随机邻居嵌入(TSNE)
#### t 分布随机邻居嵌入(TSNE)
* [流形学习-高维数据的降维与可视化](https://blog.csdn.net/u012162613/article/details/45920827)
* [tSNE](https://blog.csdn.net/flyingzhan/article/details/79521765)
* [使用t-SNE可视化图像embedding](https://zhuanlan.zhihu.com/p/81400277)
* [使用 t-SNE 可视化图像 embedding](https://zhuanlan.zhihu.com/p/81400277)
#### 谱聚类(Spectral Clustering)
* [谱聚类（Spectral Clustering）算法介绍](https://blog.csdn.net/qq_24519677/article/details/82291867)
* [聚类5--谱和谱聚类](https://blog.csdn.net/xueyingxue001/article/details/51966980)
* [聚类 5--谱和谱聚类](https://blog.csdn.net/xueyingxue001/article/details/51966980)
#### 异常点检测
* [数据挖掘中常见的「异常检测」算法有哪些？](https://www.zhihu.com/question/280696035/answer/417091151)
* [异常点检测算法综述](https://zhuanlan.zhihu.com/p/30169110)
* [异常检测的N种方法，其中有一个你一定想不到](https://mp.weixin.qq.com/s/RYLlUJiYbWqGIhzflbRGEg)
* [异常检测的 N 种方法，其中有一个你一定想不到](https://mp.weixin.qq.com/s/RYLlUJiYbWqGIhzflbRGEg)
* [异常检测资源汇总：anomaly-detection-resources](https://zhuanlan.zhihu.com/p/158349346)
### 机器学习实战篇
* [机器学习中，有哪些特征选择的工程方法？](https://www.zhihu.com/question/28641663) && [机器学习（四）：数据预处理--特征工程概述](https://zhuanlan.zhihu.com/p/103070096) && [特征工程完全手册 - 从预处理、构造、选择、降维、不平衡处理，到放弃](https://zhuanlan.zhihu.com/p/94994902) && [特征工程中的「归一化」有什么作用](https://www.zhihu.com/question/20455227)
* [15分钟带你入门sklearn与机器学习——分类算法篇](https://mp.weixin.qq.com/s?__biz=Mzg5NzAxMDgwNg==&mid=2247484110&idx=1&sn=b016e270d7b7707e6ad41a81ca45fc28&chksm=c0791fd7f70e96c103a8a2aebee166ce14f5648b3b889dd85dd9786f48b6b8269f11e5e27e1c&scene=21#wechat_redirect) && [如何为你的回归问题选择最合适的机器学习方法？](https://zhuanlan.zhihu.com/p/62034592)
* [十分钟上手sklearn：安装，获取数据，数据预处理](https://zhuanlan.zhihu.com/p/105039597) && [十分钟上手sklearn：特征提取，常用模型，交叉验证](https://zhuanlan.zhihu.com/p/105041301)
* [15 分钟带你入门 sklearn 与机器学习——分类算法篇](https://mp.weixin.qq.com/s?__biz=Mzg5NzAxMDgwNg==&mid=2247484110&idx=1&sn=b016e270d7b7707e6ad41a81ca45fc28&chksm=c0791fd7f70e96c103a8a2aebee166ce14f5648b3b889dd85dd9786f48b6b8269f11e5e27e1c&scene=21#wechat_redirect) && [如何为你的回归问题选择最合适的机器学习方法？](https://zhuanlan.zhihu.com/p/62034592)
* [十分钟上手 sklearn：安装，获取数据，数据预处理](https://zhuanlan.zhihu.com/p/105039597) && [十分钟上手 sklearn：特征提取，常用模型，交叉验证](https://zhuanlan.zhihu.com/p/105041301)
* [MachineLearning_Python](https://github.com/lawlite19/MachineLearning_Python)
* [Machine Learning Course with Python](https://github.com/machinelearningmindset/machine-learning-course)
* [Statistical-Learning-Method_Code](https://github.com/Dod-o/Statistical-Learning-Method_Code)
* [Python3机器学习](https://blog.csdn.net/c406495762/column/info/16415)
* [Python3 机器学习](https://blog.csdn.net/c406495762/column/info/16415)
* [含大牛总结的分类模型一般需要调节的参数](https://www.jianshu.com/p/9d2452fc93c2)
## 机器学习、深度学习的一些研究方向
### 多任务学习(Multi-Task Learning)
* [模型汇总-14 多任务学习-Multitask Learning概述](https://zhuanlan.zhihu.com/p/27421983)
* [(译)深度神经网络的多任务学习概览(An Overview of Multi-task Learning in Deep Neural Networks)](http://www.cnblogs.com/shuzirank/p/7141017.html)
* [Multi-task Learning and Beyond: 过去，现在与未来](https://zhuanlan.zhihu.com/p/138597214)；
* [模型汇总-14 多任务学习-Multitask Learning概述](https://zhuanlan.zhihu.com/p/27421983))
* [(译)深度神经网络的多任务学习概览(An Overview of Multi-task Learning in Deep Neural Networks)](http://www.cnblogs.com/shuzirank/p/7141017.html))
* [Multi-task Learning and Beyond：过去、现在与未来](https://zhuanlan.zhihu.com/p/138597214)；)
### 零次学习(Zero Shot Learning)
* [零次学习（Zero-Shot Learning）入门](https://zhuanlan.zhihu.com/p/34656727)
* [零次学习（Zero-Shot Learning）入门](https://zhuanlan.zhihu.com/p/34656727))
### 小样本学习(Few-Shot Learning)
* [few-shot learning是什么](https://blog.csdn.net/xhw205/article/details/79491649)
* [零次学习（Zero-Shot Learning）入门](https://zhuanlan.zhihu.com/p/34656727)
* [小样本学习（Few-shot Learning）综述](https://zhuanlan.zhihu.com/p/61215293)
* [Few-Shot Learning in CVPR 2019](https://towardsdatascience.com/few-shot-learning-in-cvpr19-6c6892fc8c5)
* [当小样本遇上机器学习 fewshot learning](https://blog.csdn.net/mao_feng/article/details/78939864)
* [什么是 few-shot learning](https://blog.csdn.net/xhw205/article/details/79491649))
* [零次学习（Zero-Shot Learning）入门](https://zhuanlan.zhihu.com/p/34656727))
* [小样本学习（Few-shot Learning）综述](https://zhuanlan.zhihu.com/p/61215293))
* [CVPR 2019 中的 Few-Shot Learning](https://towardsdatascience.com/few-shot-learning-in-cvpr19-6c6892fc8c5))
* [当小样本遇上机器学习 fewshot learning](https://blog.csdn.net/mao_feng/article/details/78939864))
### 多视觉学习(Multi-View Learning)
* [Multi-view Learning 多视角学习入门](https://blog.csdn.net/danliwoo/article/details/79278574)
* [多视角学习 (Multi-View Learning)](https://blog.csdn.net/shine19930820/article/details/77426599)
* [Multi-view Learning 多视角学习入门](https://blog.csdn.net/danliwoo/article/details/79278574))
* [多视角学习 (Multi-View Learning)](https://blog.csdn.net/shine19930820/article/details/77426599))
### 嵌入(Embedding)
* [万物皆Embedding，从经典的word2vec到深度学习基本操作item2vec](https://zhuanlan.zhihu.com/p/53194407)
* [YJango的Word Embedding--介绍](https://zhuanlan.zhihu.com/p/27830489)
* [万物皆Embedding，从经典的word2vec到深度学习基本操作item2vec](https://zhuanlan.zhihu.com/p/53194407))
* [YJango 的 Word Embedding——介绍](https://zhuanlan.zhihu.com/p/27830489))
### 迁移学习(Transfer Learning)
* [1. 迁移学习：经典算法解析](https://blog.csdn.net/linolzhang/article/details/73358219)
* [2. 什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？](https://www.zhihu.com/question/41979241)
* [3. 迁移学习个人笔记](https://github.com/Mikoto10032/DeepLearning/blob/master/notes/日常阅读笔记/2018_4_12_迁移学习.pdf)  
* [迁移学习总结(One Shot Learning, Zero Shot Learning)](https://blog.csdn.net/XJTU_NOC_Wei/article/details/77850221)
* [1. 迁移学习：经典算法解析](https://blog.csdn.net/linolzhang/article/details/73358219))
* [2. 什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？](https://www.zhihu.com/question/41979241))
* [3. 迁移学习个人笔记](https://github.com/Mikoto10032/DeepLearning/blob/master/notes/日常阅读笔记/2018_4_12_迁移学习.pdf))
* [迁移学习总结(One Shot Learning, Zero Shot Learning)](https://blog.csdn.net/XJTU_NOC_Wei/article/details/77850221))
### 域自适应(Domain Adaptation)
* [Domain Adaptation视频教程（附PPT）及经典论文分享](https://zhuanlan.zhihu.com/p/27519182)
* [模型汇总15 领域适应性Domain Adaptation、One-shot/zero-shot Learning概述](https://zhuanlan.zhihu.com/p/27449079)
* [【深度学习】论文导读：无监督域适应（Deep Transfer Network: Unsupervised Domain Adaptation）](https://blog.csdn.net/mao_xiao_feng/article/details/54426101)
* [【论文阅读笔记】基于反向传播的无监督域自适应研究](https://zhuanlan.zhihu.com/p/37298073)
* [【Valse大会首发】领域自适应及其在人脸识别中的应用](https://zhuanlan.zhihu.com/p/21441807)
* [CVPR 2018：基于域适应弱监督学习的目标检测](https://zhuanlan.zhihu.com/p/41126114)
* [Domain Adaptation视频教程（附PPT）及经典论文分享](https://zhuanlan.zhihu.com/p/27519182))
* [模型汇总15 领域适应性Domain Adaptation、One-shot/zero-shot Learning概述](https://zhuanlan.zhihu.com/p/27449079))
* [【深度学习】论文导读：无监督域适应（Deep Transfer Network: Unsupervised Domain Adaptation）](https://blog.csdn.net/mao_xiao_feng/article/details/54426101))
* [【论文阅读笔记】基于反向传播的无监督域自适应研究](https://zhuanlan.zhihu.com/p/37298073))
* [【Valse大会首发】领域自适应及其在人脸识别中的应用](https://zhuanlan.zhihu.com/p/21441807))
* [CVPR 2018：基于域适应弱监督学习的目标检测](https://zhuanlan.zhihu.com/p/41126114))
### 元学习(Meta Learning)
* [OpenAI提出新型元学习方法EPG，调整损失函数实现新任务上的快速训练](https://zhuanlan.zhihu.com/p/35869158?group_id=970310501209645056)      
* [OpenAI提出新型元学习方法EPG，调整损失函数实现新任务上的快速训练](https://zhuanlan.zhihu.com/p/35869158?group_id=970310501209645056))
### 强化学习(Reinforcement Learning)
* [强化学习（Reinforcement Learning）知识整理](https://zhuanlan.zhihu.com/p/25498081)
* [强化学习从入门到放弃的资料](https://zhuanlan.zhihu.com/p/34918639)
* [强化学习入门](https://zhuanlan.zhihu.com/p/25498081)
* [强化学习入门 第一讲 MDP](https://zhuanlan.zhihu.com/p/25498081)
* [强化学习——从Q-Learning到DQN到底发生了什么？](https://zhuanlan.zhihu.com/p/35882937)
* [从强化学习到深度强化学习（上）](https://zhuanlan.zhihu.com/p/35688924)                  
* [从强化学习到深度强化学习（下）](https://zhuanlan.zhihu.com/p/35965070)
* [一文带你理解Q-Learning的搜索策略](https://zhuanlan.zhihu.com/p/37048004)
* [强化学习（Reinforcement Learning）知识整理](https://zhuanlan.zhihu.com/p/25498081))
* [强化学习从入门到放弃的资料](https://zhuanlan.zhihu.com/p/34918639))
* [强化学习入门](https://zhuanlan.zhihu.com/p/25498081))
* [强化学习入门 第一讲 MDP](https://zhuanlan.zhihu.com/p/25498081))
* [强化学习——从Q-Learning到DQN到底发生了什么？](https://zhuanlan.zhihu.com/p/35882937))
* [从强化学习到深度强化学习（上）](https://zhuanlan.zhihu.com/p/35688924))
* [从强化学习到深度强化学习（下）](https://zhuanlan.zhihu.com/p/35965070))
* [一文带你理解Q-Learning的搜索策略](https://zhuanlan.zhihu.com/p/37048004))
### 对比学习(Contrastive Learning)
* [论文列表](https://github.com/asheeshcric/awesome-contrastive-self-supervised-learning)
* [对比学习（Contrastive Learning）:研究进展精要](https://zhuanlan.zhihu.com/p/367290573)
* [对比学习（Contrastive Learning）综述](https://zhuanlan.zhihu.com/p/346686467)
* [理解对比损失的性质以及温度系数的作用](https://zhuanlan.zhihu.com/p/357071960)
* [论文列表](https://github.com/asheeshcric/awesome-contrastive-self-supervised-learning))
* [对比学习（Contrastive Learning）:研究进展精要](https://zhuanlan.zhihu.com/p/367290573))
* [对比学习（Contrastive Learning）综述](https://zhuanlan.zhihu.com/p/346686467))
* [理解对比损失的性质以及温度系数的作用](https://zhuanlan.zhihu.com/p/357071960))
### 推荐系统(Recommendation System)
#### 论文列表
* [Embedding从入门到专家必读的十篇论文](https://zhuanlan.zhihu.com/p/58805184)
* [Reco-papers](https://github.com/wzhe06/Reco-papers)
* [Ad-papers](https://github.com/wzhe06/Ad-papers)
* [deep-recommender-system](https://github.com/chocoluffy/deep-recommender-system)
* [CTR预估系列入门手册](https://zhuanlan.zhihu.com/p/243243145)
* [Embedding从入门到专家必读的十篇论文](https://zhuanlan.zhihu.com/p/58805184))
* [Reco-papers](https://github.com/wzhe06/Reco-papers))
* [Ad-papers](https://github.com/wzhe06/Ad-papers))
* [deep-recommender-system](https://github.com/chocoluffy/deep-recommender-system))
* [CTR预估系列入门手册](https://zhuanlan.zhihu.com/p/243243145))
#### 教程
* [推荐系统从入门到接着入门](https://zhuanlan.zhihu.com/p/27502172)
* [深度学习推荐系统笔记](https://zhuanlan.zhihu.com/p/133528693)
* [推荐系统干货总结](https://zhuanlan.zhihu.com/p/34004488)
* [入门推荐系统，你不应该错过的知识清单](https://zhuanlan.zhihu.com/p/54819505)
* [从零开始了解推荐系统全貌](https://zhuanlan.zhihu.com/p/259985388)
* [推荐系统玩家 之 推荐系统入门——推荐系统的发展历程（上）](https://zhuanlan.zhihu.com/p/148207613)
* [推荐系统技术演进趋势：从召回到排序再到重排](https://zhuanlan.zhihu.com/p/100019681)
* [深入理解推荐系统：召回](https://zhuanlan.zhihu.com/p/115690499) && [深入理解推荐系统：排序](https://zhuanlan.zhihu.com/p/138235048)
* [召回算法有哪些](https://www.zhihu.com/question/423384620/answer/1687201890)
* [《深度学习推荐系统》总结系列一](https://zhuanlan.zhihu.com/p/138446984) && [《深度学习推荐系统》总结系列二](https://zhuanlan.zhihu.com/p/140894123)
* [推荐系统--完整的架构设计和算法(协同过滤、隐语义)](https://zhuanlan.zhihu.com/p/81752025) && [从0到1打造推荐系统-架构篇](https://zhuanlan.zhihu.com/p/123951784)
* [协同过滤和基于内容推荐有什么区别？](https://www.zhihu.com/question/19971859)
* [CTR深度交叉特征入门总结](https://zhuanlan.zhihu.com/p/257895631)
* [推荐系统学习笔记](https://blog.csdn.net/wuzhongqiang/category_10128687.html)
* [推荐系统从入门到接着入门](https://zhuanlan.zhihu.com/p/27502172))
* [深度学习推荐系统笔记](https://zhuanlan.zhihu.com/p/133528693))
* [推荐系统干货总结](https://zhuanlan.zhihu.com/p/34004488))
* [入门推荐系统，你不应该错过的知识清单](https://zhuanlan.zhihu.com/p/54819505))
* [从零开始了解推荐系统全貌](https://zhuanlan.zhihu.com/p/259985388))
* [推荐系统玩家 之 推荐系统入门——推荐系统的发展历程（上）](https://zhuanlan.zhihu.com/p/148207613))
* [推荐系统技术演进趋势：从召回到排序再到重排](https://zhuanlan.zhihu.com/p/100019681))
* [深入理解推荐系统：召回](https://zhuanlan.zhihu.com/p/115690499)) && [深入理解推荐系统：排序](https://zhuanlan.zhihu.com/p/138235048))
* [召回算法有哪些](https://www.zhihu.com/question/423384620/answer/1687201890))
* [《深度学习推荐系统》总结系列一](https://zhuanlan.zhihu.com/p/138446984)) && [《深度学习推荐系统》总结系列二](https://zhuanlan.zhihu.com/p/140894123))
* [推荐系统--完整的架构设计和算法(协同过滤、隐语义)](https://zhuanlan.zhihu.com/p/81752025)) && [从0到1打造推荐系统-架构篇](https://zhuanlan.zhihu.com/p/123951784))
* [协同过滤和基于内容推荐有什么区别？](https://www.zhihu.com/question/19971859))
* [CTR深度交叉特征入门总结](https://zhuanlan.zhihu.com/p/257895631))
* [推荐系统学习笔记](https://blog.csdn.net/wuzhongqiang/category_10128687.html))
#### 实战
* [ AI-RecommenderSystem](https://github.com/zhongqiangwu960812/AI-RecommenderSystem)
* [team-learning-rs](https://github.com/datawhalechina/team-learning-rs)
* [RecommendSystemPractice](https://github.com/Magic-Bubble/RecommendSystemPractice)
* [Surprise](http://surpriselib.com/)
* [ AI-RecommenderSystem](https://github.com/zhongqiangwu960812/AI-RecommenderSystem))
* [team-learning-rs](https://github.com/datawhalechina/team-learning-rs))
* [RecommendSystemPractice](https://github.com/Magic-Bubble/RecommendSystemPractice))
* [Surprise](http://surpriselib.com/))