wehub-resource-sync
90 KiB
Executable File
90 KiB
Executable File
Note
本文档由 WeHub 基于上游 README 翻译整理，属于社区翻译，非官方中文文档。
English · 原始项目 · 上游 README
原作者、版权与许可证归属以原始项目及本仓库 LICENSE 文件为准。
深度学习教程（DeepLearning Tutorial）
一. 入门资料
数学基础
机器学习基础
快速入门
- 机器学习算法地图
- 机器学习 吴恩达 Coursera 个人笔记 && 视频（含官方笔记）
- CS229 课程讲义中文翻译 && 机器学习 吴恩达 cs229 个人笔记 && 官网（笔记） && 视频（中文字幕）
- 百页机器学习
深入理解
- 《统计学习方法》李航 && 《统计学习方法》各章节笔记 && 《统计学习方法》各章节笔记 && 推荐答案：statistical-learning-method-solutions-manual 《统计学习方法》各章节笔记 && 《统计学习方法》各章节代码实现与课后习题参考解答
- 《模式识别与机器学习》 Christopher Bishop
- 《机器学习》 周志华 && 南瓜书：pumpkin-book
- 《机器学习实战》 PelerHarrington
- 机器学习与深度学习书单
深度学习基础
快速入门
- 深度学习思维导图 && 深度学习算法地图
- 《斯坦福大学深度学习基础教程》 Andrew Ng（吴恩达）
- 深度学习 吴恩达 个人笔记 && 视频
- MIT 深度学习基础-2019 视频课程
- 台湾大学（NTU）李宏毅教授课程 && [leeml-notes
- 图解深度学习_Grokking-Deep-Learning
- 《神经网络与深度学习》 Michael Nielsen
- CS321-Hinton
- CS230: Deep Learning
- CS294-112
计算机视觉
自然语言处理
深度强化学习
深入理解
- 《深度学习》 Yoshua Bengio.Ian GoodFellow⭐
- 《自然语言处理》Jacob Eisenstein
- 《强化学习》 && 第二版
- hangdong 的深度学习博客，论文推荐
- Practical Deep Learning for Coders, v3
- 《Tensorflow 实战 Google 深度学习框架》 郑泽宇 顾思宇
一些书单
工程能力
- 如何系统地学习算法？ && LeetCode && leetcode 题解 && 《算法导论》中算法的 C++ 实现
- 机器学习算法实战
- 深度学习框架
- 如何成为一名算法工程师 && 从小白到入门算法，我的经验分享给你～ && 我的研究生这三年 ⭐
- 编程面试的题目分类
- 《AI 算法工程师手册》
- 如何准备算法工程师面试，斩获一线互联网公司机器学习岗 offer？
- 【完结】深度学习 CV 算法工程师从入门到初级面试有多远，大概是 25 篇文章的距离
- 计算机相关技术面试必备 && CS-WiKi && 计算机基础面试问题全面总结 && TeachYourselfCS-CN && 面试算法笔记-中文
- 算法工程师面试
- 深度学习面试题目
- 深度学习 500 问
- AI 算法岗求职攻略
- Kaggle 实战
- 常用算法：
- 特征工程（Feature Engineering）：连续变量（continue variable）&& 类别变量（categorical variable）
- 经典机器学习算法（Classic machine learning algorithm）：LR, KNN, SVM, Random Forest, GBDT(XGBoost&&LightGBM), Factorization Machine, Field-aware Factorization Machine, Neural Network
- 交叉验证与模型选择（Cross validation, model selection）：grid search, random search, hyper-opt
- 集成学习（Ensemble learning）
- kaggle 竞赛宝典第一章-竞赛框架篇！⭐
- Kaggle 项目实战（教程） = 文档 + 代码 + 视频
- Kaggle 入门系列：（一）机器学习环境搭建 && Kaggle 入门系列：（二）Kaggle 简介 && Kaggle 入门系列（三）Titanic 初试身手
- 从 0 到 1 走进 Kaggle
- Kaggle 入门指南
- 一个框架解决几乎所有机器学习问题 && Approaching (Almost) Any Machine Learning Problem | Abhishek Thakur
- 分分钟带你杀入 Kaggle Top 1%
- 如何达到 Kaggle 竞赛 top 2%？这里有一篇特征探索经验帖
- 如何在 Kaggle 首战中进入前 10%？
- Kaggle 首战 Top 2%, APTOS 2019 复盘总结 + 机器学习竞赛通用流程归纳
- kaggle 的 riiid 比赛里关于数据处理时间空间优化的笔记
- 常用算法：
- 大数据&机器学习相关竞赛推荐
二. 神经网络模型概览
- 1. 一文看懂25个神经网络模型
- 2. DNN概述论文：详解前馈、卷积和循环神经网络技术
- 3. colah's blog
- 4. Model Zoom
- 5. DNN概述
- GitHub上的机器学习/深度学习综述项目合集
- AlphaTree-graphic-deep-neural-network
CNN
发展史
图像分类
- 从LeNet-5到DenseNet
- 深度学习笔记（十一）网络 Inception, Xception, MobileNet, ShuffeNet, ResNeXt, SqueezeNet, EfficientNet, MixConv
- CNN网络结构的发展
- Awesome - Image Classification：论文&&代码大全
- pytorch-image-models
目标检测
- 深度学习之目标检测的前世今生（Mask R-CNN）
- 深度学习目标检测模型全面综述：Faster R-CNN、R-FCN和SSD
- 从RCNN到SSD，这应该是最全的一份目标检测算法盘点
- 目标检测算法综述三部曲
- 从 RCNN 到 YOLOv3：上，下
- 后 R-CNN时代， Faster R-CNN、SSD、YOLO 各类变体统治下的目标检测综述：Faster R-CNN系列胜了吗？
- 目标检测进化史
- CVPR2019目标检测方法进展综述
- 一文看尽21篇目标检测最新论文（腾讯/Google/商汤/旷视/清华/浙大/CMU/华科/中科院等
- 我这两年的目标检测
- Anchor-Free目标检测算法: 第一篇：arxiv2015_baidu_DenseBox， 如何评价最新的anchor-free目标检测模型FoveaBox？, FCOS: 最新的one-stage逐像素目标检测算法 && 最新的Anchor-Free目标检测模型FCOS，现已开源！ && 中科院牛津华为诺亚提出CenterNet，one-stage detector可达47AP，已开源！ && AnchorFreeDetection
- Anchor free深度学习的目标检测方法
- 聊聊Anchor的"前世今生"（上）&&聊聊Anchor的"前世今生"（下）
- 目标检测算法综述之FPN优化篇 && 一文看尽物体检测中的各种FPN
- awesome-object-detection：论文&&代码
- deep_learning_object_detection
- ObjectDetectionImbalance
图像分割（语义分割、实例分割、全景分割）
- 图像语义分割（Semantic Segmentation）综述
- 干货 | 一文概览主要语义分割网络
- 语义分割 发展综述
- 9102年了，语义分割的入坑指南和最新进展都是什么样的
- 实例分割最新最全面综述：从Mask R-CNN到BlendMask
- 语义分割综述：深度学习背景下的语义分割的发展状况【推荐】
- Awesome Semantic Segmentation：论文&&代码
- 一篇看完就懂的最新语义分割综述
- 基于深度学习的语义分割综述
轻量化卷积神经网络
人脸相关
- 如何走近深度学习人脸识别？你需要这篇超长综述 | 附开源代码
- 人脸检测和识别算法综述
- 人脸检测算法综述
- 人脸检测背景介绍和发展现状
- 人脸识别算法演化史
- CascadeCNN
- MTCNN
- awesome-Face_Recognition
- 异质人脸识别研究综述
- 老板来了：人脸识别+手机推送，老板来了你立刻知道。&& 手把手教你用Python实现人脸识别 && 人脸识别项目，网络模型，损失函数，数据集相关总结
- 基于深度学习的人脸识别技术综述 && 如何走近深度学习人脸识别？你需要这篇超长综述 && 人脸识别损失函数综述（附开源实现） && Face Recognition Loss on Mnist with Pytorch && 人脸识别的LOSS（上） && 人脸识别的LOSS（下）
- 人脸关键点检测
图像超分辨率
行人重识别
图像着色
边检测
OCR&&文本检测
点云
细粒度图像分类
图像检索
人群计数
教程
前馈神经网络
激活函数
反向传播算法
优化问题
卷积层
- 深度学习不同类型卷积全面介绍 && 翻译：上、下
- 卷积有多少种？一文读懂深度学习中的各种卷积
- 各种卷积
- Convolution Network及其变种（反卷积、扩展卷积、因果卷积、图卷积）
- 深度学习基础--卷积类型
- 变形卷积核、可分离卷积
- 对深度可分离卷积、分组卷积、扩张卷积、转置卷积（反卷积）的理解
- 反卷积
- Dilated/Atrous conv 空洞卷积/多孔卷积
- 卷积层输出大小尺寸计算及 “SAME” 和 “VALID” && 卷积的三种模式full, same, valid以及padding的same, valid
- 正常卷积与空洞卷积输出特征图与感受野大小的计算
- 【Tensorflow】tf.nn.depthwise_conv2d如何实现深度卷积?
- 【Tensorflow】tf.nn.atrous_conv2d如何实现空洞卷积？
- 【Tensorflow】tf.nn.separable_conv2d如何实现深度可分卷积?
- 【TensorFlow】tf.nn.conv2d_transpose是怎样实现反卷积的？
池化层
卷积神经网络
- 卷积神经网络工作原理
- 「七夕的礼物」: 一日搞懂卷积神经网络
- 一文读懂卷积神经网络中的1x1卷积核
- 如何理解神经网络中通过add和concate的方式融合特征？ && 神经网络中对需要concat的特征进行线性变换然后相加是否好于直接concat?
- CNN 模型所需的计算力（flops）和参数（parameters）数量是怎么计算的？ && 深度学习中卷积的参数量和计算量
图像分类网络详解
- 经典CNN模型LeNet解读
- 机器学习进阶笔记之三 | 深入理解Alexnet
- 一文读懂VGG网络
- Inception V1,V2,V3,V4 模型总结
- ResNet解析
- 一文简述ResNet及其多种变体
- CapsNet入门系列
- 深入剖析MobileNet和它的变种（例如：ShuffleNet）为什么会变快？
- CNN模型之ShuffleNet
- ShuffleNet V2和四个网络架构设计准则
- ResNeXt 深入解读与模型实现
- 如何评价Momenta ImageNet 2017夺冠架构SENet?
- CBAM：卷积块注意力模块 && CBAM: Convolutional Block Attention Module
- SKNet——SENet孪生兄弟篇
- GCNet：当Non-local遇见SENet
- 深度学习笔记（十一）网络 Inception, Xception, MobileNet, ShuffeNet, ResNeXt, SqueezeNet, EfficientNet, MixConv
- 如何评价最新的Octave Convolution？
- ResNeSt 之语义分割 && 关于ResNeSt的点滴疑惑 && ResNeSt在刷榜之后被ECCV2020 strong reject
目标检测网络详解
- 目标检测的性能评价指标 && NMS和计算mAP时的置信度阈值和IoU阈值 && 白话mAP && 目标检测模型的评估指标mAP详解(附代码）
- 深度学习中IU、IoU(Intersection over Union)
- Selective Search for Object Detection （译文）
- Region Proposal Network(RPN)
- 边框回归(Bounding Box Regression)详解
- NMS——非极大值抑制 && 非极大值抑制NMS的python实现
- 一文打尽目标检测NMS——精度提升篇 && 一文打尽目标检测NMS——效率提升篇
- 目标检测回归损失函数简介：SmoothL1/IoU/GIoU/DIoU/CIoU Loss
- 将CNN引入目标检测的开山之作：R-CNN
- R-CNN论文详解
- 深度学习（十八）基于R-CNN的物体检测
- Fast R-CNN
- 深度学习（六十四）Faster R-CNN物体检测 && 你真的学会RoI Pooling了吗?
- 目标检测论文阅读：Feature Pyramid Networks for Object Detection
- SSD
- 实例分割--Mask RCNN详解(ROI Align / Loss Function) && 令人拍案称奇的Mask RCNN
- 何恺明大神的「Focal Loss」，如何更好地理解？ && FocalLoss 对样本不平衡的权重调节和减低损失值 && focal_loss 多类别和二分类 Pytorch代码实现 && 多分类focal loss及其tensorflow实现
- 堪比Focal Loss！解决目标检测中样本不平衡的无采样方法
- 目标检测正负样本区分策略和平衡策略总结(一) && 目标检测正负样本区分策略和平衡策略总结(二) && 目标检测正负样本区分策略和平衡策略总结(三）
- YOLO && 目标检测|YOLO原理与实现 && 图解YOLO && 【论文解读】Yolo三部曲解读——Yolov1
- 目标检测|YOLOv2原理与实现(附YOLOv3) && YOLO2 && 【论文解读】Yolo三部曲解读——Yolov2
- <机器爱学习>YOLO v3深入理解 && 【论文解读】Yolo三部曲解读——Yolov3
- YOLOv4
- 目标检测之CornerNet, 1, 2, 3
- 目标检测小tricks--样本不均衡处理
图像分割网络详解
- 超像素、语义分割、实例分割、全景分割 傻傻分不清 && 语义分割、实例分割和全景分割的区别
- 语义分割卷积神经网络快速入门
- 图像语义分割入门+FCN/U-Net网络解析 && 深入理解深度学习分割网络Ｕnet
- Unet神经网络为什么会在医学图像分割表现好？
- 图像语义分割的工作原理和CNN架构变迁
- 语义分割中的Attention和低秩重建
- 打通多个视觉任务的全能Backbone:HRNet
注意力机制
- 深度学习中的注意力模型（2017版）
- Attention Model（mechanism） 的 套路
- 计算机视觉中的注意力机制（推荐）
- More About Attention（推荐）
- 计算机视觉中的注意力机制
- NLP中的Attention Mechanism
- Transformer中的Attention
- 综述：图像处理中的注意力机制
特征融合
Action
- PyTorch官方实现ResNet && pytorch_resnet_cifar10
- PyTorch 63.Coding for FLOPs, Params and Latency
- 先读懂CapsNet架构然后用TensorFlow实现
- 目标检测-20种模型的原味代码汇总
- TensorFlow Object Detection API 教程
- 在TensorFlow+Keras环境下使用RoI池化一步步实现注意力机制
- mxnet如何查看参数数量 && mxnet查看FLOPS
- Pytorch-UNet
- segmentation_models.pytorch
GAN
发展史
- 千奇百怪的 GAN 变体
- 苏剑林博客，讲解得淋漓尽致
- GAN 全景：损失函数、架构、正则化与归一化（The GAN Landscape: Losses, Architectures, Regularization, and Normalization）
- 深度学习新星：GAN 的基本原理、应用和走向
- GAN 生成图像综述
- 2017 年 GAN 计算机视觉相关 paper 汇总
- 必读的 10 篇关于 GAN 的论文
教程
- GAN 原理学习笔记
- GAN 万字长文综述
- 极端图像压缩的对抗生成网络
- 台湾大学李宏毅 GAN 教程
- CycleGAN：图片风格，想换就换 | ICCV 2017 论文解读
- Wasserstein GAN && GAN：两者分布不重合 JS 散度为 log2 的数学证明
- 用变分推断统一理解生成模型（VAE、GAN、AAE、ALI）
实践
RNN
发展史
教程
-
word2vec
- 原理
- 训练词向量
实践
- 推荐：nlp-tutorial
- nlp-tutorial
- tensorflow 中 RNNcell 源码分析以及自定义 RNNCell 的方法
- TensorFlow 中 RNN 实现的正确打开方式
- TensorFlow RNN 代码
- Tensorflow 实现的深度 NLP 模型集锦
- 用 tensorflow LSTM 如何预测股票价格
- TensorFlow 的多层 LSTM 实践
- 《安娜卡列尼娜》文本生成——利用 TensorFlow 构建 LSTM 模型
GNN
发展史
- 图神经网络（Graph Neural Network, GNN）综述
- 深度学习时代的图模型，清华发文综述图网络
- 清华大学图神经网络综述：模型与应用
- 图神经网络概述第三弹：来自 IEEE Fellow 的 GNN 综述
- GNN 最全文献资料整理 && Awesome-Graph-Neural-Networks
教程
- 如何理解图卷积网络（Graph Convolutional Network, GCN）
- 图卷积网络（GCN）新手村完全指南
- 何时能懂你的心——图卷积神经网络（GCN）
- 图卷积网络 GCN 的理解与介绍
- 一文读懂图卷积 GCN
- 2020 年 GNN 开卷有益与再谈图卷积
- 【GCN】万字长文带你入门 GCN
- 如何解决图神经网络（GNN）训练中过度平滑的问题？
- 全连接的图卷积网络（GCN）和 self-attention 这些机制有什么区别联系 && CNN 与 GCN 的区别、联系及融合
实践
三. 深度模型的优化与正则化
- 1. 优化算法纵览
- 2. 从梯度下降到 Adam
- 3. 从梯度下降到拟牛顿法：盘点训练神经网络的五大学习算法
- 4. 正则化技术总结
- 权重衰减（weight decay）与学习率衰减（learning rate decay） && pytorch 必须掌握的 4 种学习率衰减策略
- 5. 最优化算法系列（math）
- 6. 神经网络训练中的梯度消失与梯度爆炸
- 7. 神经网络的优化及训练
- 8. 通俗讲解查全率和查准率 && 全面梳理：准确率,精确率,召回率,查准率,查全率,假阳性,真阳性,PRC,ROC,AUC,F1 && 机器学习之类别不平衡问题 (1) —— 各种评估指标 && 机器学习之类别不平衡问题 (2) —— ROC 和 PR 曲线 && AUC 详解与 python 实现 && 微平均和宏平均 && 机器学习中的性能度量 && 精确率、召回率、F1 值、ROC、AUC 各自的优缺点是什么
- 激活函数一览 && 深度学习中几种常见的激活函数理解与总结
- 深度学习笔记(三)：激活函数和损失函数
- 激活函数/损失函数汇总
- 机器学习中常见的损失函数及其应用场景 && PyTorch 的十八个损失函数
- 深度度量学习中的损失函数
- 反向传播算法（过程及公式推导）
- 通俗理解神经网络 BP 传播算法
- 10. Coursera 吴恩达《优化深度神经网络》课程笔记（3）-- 超参数调试、Batch 正则化和编程框架
- 11. 机器学习各种熵
- 12. 距离和相似性度量
- 13. 机器学习里的黑色艺术：normalization, standardization, regularization && 数据标准化/归一化 normalization && 特征工程中的「归一化」有什么作用？
- 14. LSTM 系列的梯度问题
- 15. 损失函数整理
- 16. 详解残差块为何有助于解决梯度弥散问题
- 17. FAIR 何恺明等人提出组归一化：替代批归一化，不受批量大小限制
- 18. Batch Normalization（BN）:1 ,2 ,3 ,4 , 5, 6, 7
- 19. 详解深度学习中的 Normalization，不只是 BN && 如何区分并记住常见的几种 Normalization 算法
- 20. BFGS
- 21. 详解深度学习中的梯度消失、爆炸原因及其解决方法 && 神经网络梯度消失和梯度爆炸及解决办法
- 22. Dropout, 1, 2, 3，系列解读Dropout
- 23. 谱归一化（Spectral Normalization）的理解，常见向量范数和矩阵范数，谱范数正则（Spectral Norm Regularization）的理解
- 24. L1 正则化与 L2 正则化 && 深入理解 L1、L2 正则化 && L2 正则=Weight Decay？并不是这样 && 都 9102 年了，别再用 Adam + L2 regularization
- 25. 为什么选用交叉熵而不是 MSE &&为什么使用交叉熵作为损失函数 &&二元分类为什么不能用 MSE 做为损失函数？&& 为什么平方损失函数不适用分类问题？
- 浅谈神经网络中的梯度爆炸问题
- 为什么 weight decay 能够防止过拟合
- 交叉熵代价函数（作用及公式推导） && 交叉熵损失的来源、说明、求导与 pytorch 实现 && Softmax 函数与交叉熵 && 极大似然估计与最小化交叉熵损失或者 KL 散度为什么等价
- 梯度下降优化算法纵览, 1, 2, 几种优化算法的比较（BGD、SGD、Adam、RMSPROP）
- Softmax：详解 softmax 函数以及相关求导过程 && softmax 的 log 似然代价函数（公式求导） && 【技术综述】一文道尽 softmax loss 及其变种
- 从最优化的角度看待 Softmax 损失函数 && Softmax 理解之二分类与多分类 && Softmax 理解之 Smooth 程度控制 && Softmax 理解之 margin
- 权重初始化
- 为什么说 bagging 是减少 variance，而 boosting 是减少 bias?
四. 炼丹术士那些事
调参经验
- 训练的神经网络不工作？一文带你跨过这 37 个坑
- Deep Learning：训练过程中出现 NaN 问题
- 神经网络训练 trick
- 你有哪些 deep learning（RNN、CNN）调参的经验？
- GAN 的一些小 trick
- 深度学习与计算机视觉系列(8)_神经网络训练与注意点
- 神经网络训练 loss 不下降原因集合 && loss 不下降的解决方法
- 深度学习：欠拟合问题的几种解决方案 &&过拟合和欠拟合问题
- 机器学习：如何找到最优学习率及实现
- 神经网络中 warmup 策略为什么有效
- 不平衡数据集处理方法: 其一, 其二, 其三 && Awesome Imbalanced Learning && Class-balanced-loss-pytorch
- 同一个神经网络使用不同激活函数的表达能力是否一致
- 论文笔记之数据增广：mixup
- 避坑指南：数据科学家新手常犯的 13 个错误
- 凭什么相信 CNN 的结果？--可视化
- 凭什么相信你，我的 CNN 模型？（篇一：CAM 和 Grad-CAM) && pytorch-grad-cam && Grad-CAM-tensorflow && grad-cam.tensorflow && cnn_visualization
- 凭什么相信你，我的 CNN 模型？（篇二：万金油 LIME)
- 论文笔记:Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization
- CV：基于 Keras 利用训练好的 hdf5 模型进行目标检测实现输出模型中的表情或性别的 gradcam(可视化)
- 大卷积核还是小卷积核? 1, 2
- 模型可解释性差？你考虑了各种不确定性了吗？
- 炼丹笔记系列
刷排行榜的小技巧
图像分类
- 炼丹笔记三：数据增强 && 数据增强(Data Augmentation)
- 【技术综述】 深度学习中的数据增强（上） && 【技术综述】深度学习中的数据增强（下）
- 深度学习数据增广技术一览
- 《Bag of Tricks for Image Classification with CNN》&& pdf
- 深度神经网络模型训练中的最新 tricks 总结【原理与代码汇总】 && 神经网络训练 trick
- Kaggle 解决方案分享
目标检测
- ensemble
- deformable
- sync bn
- ms train/test
- 目标检测任务的优化策略 tricks
- 目标检测小 tricks--样本不均衡处理
- 汇总|目标检测中的数据增强、backbone、head、neck、损失函数
- 目标检测算法中的常见 trick
- Bag of Freebies —— 提升目标检测模型性能的免费 tricks
- 目标检测比赛中的 tricks（已更新更多代码解析）
- Kaggle：肺癌自动诊断系统 3D Deep Leaky Noisy-or Network 论文阅读
- 干货|大神教你如何参加 kaggle 比赛——根据 CT 扫描图预测肺癌
五. 年度总结
六. 科研相关
深度学习框架
Python3.x(先修)
- The Python Tutorial
- 廖雪峰 Python 教程
- 菜鸟教程
- 给深度学习入门者的 Python 快速教程 - 基础篇
- Python - 100 天从新手到大师
- Python 中读取,显示,保存图片的方法 && Python 的图像打开保存显示的几种方式
Numpy(先修)
Opencv-python
- OpenCV-Python Tutorials
- OpenCV 官方教程中文版（For Python）
- 数字图像处理系列
- python+OpenCV 图像处理
- 给深度学习入门者的 Python 快速教程 - 番外篇之 Python-OpenCV
Pandas
Tensorflow
- 如何高效地学习 TensorFlow 代码
- 中文教程
- TensorFlow 官方文档
- CS20:Tensorflow for DeepLearning Research
- 吴恩达 TensorFlow 专项课程
- 【干货】史上最全的 Tensorflow 学习资源汇总
- 《21 个项目玩转深度学习———基于 TensorFlow 的实践详解》
- 最全 Tensorflow2.0 入门教程持续更新
- Github 优秀开源教程
MXNet
PyTorch
- Pytorch 版动手学深度学习
- PyTorch 中文文档
- WELCOME TO PYTORCH TUTORIALS
- 史上最全的 PyTorch 学习资源汇总
- 【干货】史上最全的 PyTorch 学习资源汇总
- Hands-on tour to deep learning with PyTorch
- pytorch 学习(五)—图像的加载/读取方式 && PyTorch—ImageFolder/自定义类 读取图片数据
深度学习常用命令
Python可视化
- Top 50 matplotlib 可视化——大师级图表（附完整 Python 代码）
- Python之MatPlotLib使用教程
- 十分钟上手matplotlib，开启你的python可视化
- 给深度学习入门者的Python快速教程 - numpy和Matplotlib篇
标注工具
数据集
- 1. 25个深度学习相关公开数据集
- 2. 自然语言处理（NLP）数据集
- 3.全唐诗(43030首)
- 4. 伯克利大学公开数据集
- 5. ACL 2018资源：100+ 预训练的中文词向量
- 6. 预训练中文词向量
- 7. 公开数据集种子库
- 8. 计算机视觉，深度学习，数据挖掘数据集整理
- 9. 计算机视觉著名数据集CV Datasets
- 10. 计算机视觉相关数据集和比赛
- 11. 这是一份非常全面的开源数据集，你，真的不想要吗？
- 12. 人群密度估计现有主要数据集特点及其比较
- 13. DANBOORU2017：大规模众包标注动漫插画数据集
- 14. 行人重识别数据集
- 15. 自然语言处理常见数据集、论文最全整理分享
- 16. paper, code, sota
- 17. 旷视RPC大型商品数据集发布！
- 18. CVPR 2019「准满分」论文：英伟达推出首个跨摄像头汽车跟踪数据集(汽车Re-ID)
- 19.【OCR技术】大批量生成文字训练集
- 20. 语义分析数据集-MSRA
- IEEE DataPort
- 数据集市
- 医疗/医学图像数据集：Medical Data for Machine Learning && 医疗领域图像挑战赛数据集 && 【医学影像系列：一】数据集合集 最新最全 && medical-imaging-datasets && 【数据集】一文道尽医学图像数据集与竞赛 && 医学图像数据集汇总
记笔记工具
会议期刊列表
论文写作工具
论文画图工具
论文写作教程
- 刘知远_如何写一篇合格的NLP论文
- 刘洋_如何写论文_V7
- 如何端到端地写科研论文-邱锡鹏
- 论文Introduction写作其一, 论文Introduction写作其二, 论文Introduction写作其三
- 毕业论文怎么写
- 浅谈学术论文rebuttal && 学术论文投稿与返修（Rebuttal）分享
- 研之成理写作实验室
- 智源论坛·论文写作专题报告会：《论文写作小白的成长之路》 && 《谈如何写一篇合格的国际学术论文》 && 《计算机视觉会议论文从投稿到接收》
ResearchGos
- ResearchGo:研究生活第一帖——文献检索与管理
- ResearchGo:研究生活第二贴——文献阅读
- ResearchGo:研究生活第三帖——阅读辅助
- ResearchGo:研究生活第四帖——文献调研
- ResearchGo:研究生活第五帖——文献综述
- ResearchGo:研究生活第六帖——如何讲论文
- ResearchGo:研究生活第七帖——专利检索与申请
- ResearchGo:研究生活第八帖——写论文、做PPT、写文档必备工具集锦
毕业论文排版
信号处理
傅里叶变换
小波变换
实战
机器学习理论与实战
- 机器学习原理⭐
- ID3、C4.5、CART、随机森林、bagging、boosting、Adaboost、GBDT、xgboost算法总结
- 数据挖掘十大算法简要说明，机器学习十大经典算法入门 && 【算法模型】轻松看懂机器学习十大常用算法
- AdaBoost到GBDT系列
机器学习理论篇之经典算法
信息论
多层感知机(MLP)
k近邻(KNN)
k均值(K-means)
朴素贝叶斯(Naive Bayesian)
决策树(Decision Tree)
- 最常见核心的决策树算法详细介绍，含 ID3、C4.5、CART⭐ && 最常用的决策树算法！Random Forest、Adaboost、GBDT 算法⭐ && 终于有人把 XGBoost 和 LightGBM 讲明白了，项目中最主流的集成算法！⭐
- 为什么 xgboost 要用泰勒展开，优势在哪里
- Python3《机器学习实战》学习笔记（二）：决策树基础篇之让我们从相亲说起
- Python3《机器学习实战》学习笔记（三）：决策树实战篇之为自己配个隐形眼镜
- 机器学习实战教程（十三）：树回归基础篇之 CART 算法与树剪枝
- 《机器学习实战》基于信息论的三种决策树算法(ID3,C4.5,CART)
- 说说决策树剪枝算法
- 机器学习实战 第九章 树回归
- 决策树值 ID3、C4.5 实现
- 决策树之 CART 实现
随机森林(Random Forest)
线性回归（Linear Regression）
逻辑回归(Logistic Regression)
支持向量机(SVM)
- 【机器学习面试总结】—— SVM
- SVM 系列-从基础到掌握
- SVM 通俗导论 July
- 核函数 : 机器学习有很多关于核函数的说法，核函数的定义和作用是什么？ && SVM 中，高斯核为什么会把原始维度映射到无穷多维？ && svm 核函数的理解和选择 && 核函数和径向基核函数 (Radial Basis Function)--RBF && SVM 核函数
提升方法(Adaboost)
梯度提升决策树(GBDT)
- LightGBM 大战 XGBoost
- 概述 XGBoost、Light GBM 和 CatBoost 的同与不同 && XGBoost、LightGBM、Catboost 总结 && XGBoost、Light GBM 和 CatBoost 的参数及性能比较
- 梯度提升决策树
- GBDT 原理及应用
- XGBOOST 原理篇
- xgboost 入门与实战（原理篇） && xgboost 入门与实战（实战调参篇）
- 【干货合集】通俗理解 kaggle 比赛大杀器 xgboost
- GBDT 分类的原理及 Python 实现
- GBDT 原理及利用 GBDT 构造新的特征-Python 实现
- Python+GBDT 算法实战——预测实现 100% 准确率
- xgboost 之近似分位数算法（直方图算法）详解
EM(期望最大化)
高斯混合模型(GMM)
马尔科夫决策过程(MDP)
- 马尔科夫决策过程之 Markov Processes（马尔科夫过程）
- 马尔科夫决策过程之 Markov Reward Process（马尔科夫奖励过程）
- 马尔科夫决策过程之 Bellman Equation（贝尔曼方程）
- 马尔科夫决策过程之 Markov Decision Process(马尔科夫决策过程)
- 马尔科夫决策过程之最优价值函数与最优策略
条件随机场(CRF, 判别式模型)
降维算法
主成分分析(PCA)
奇异值分解(SVD)
线性判别分析(LDA)
标签传播算法(Label Propagation Algorithm)
蒙塔卡罗树搜索(MCTS)
集成(Ensemble)
-
集成学习之 bagging,stacking,boosting 概念理解 && Bagging 和 Boosting 的总结
-
Bagging,Boosting,Stacking && 常用的模型集成方法介绍：bagging、boosting 、stacking
t 分布随机邻居嵌入(TSNE)
谱聚类(Spectral Clustering)
异常点检测
机器学习实战篇
- 机器学习中，有哪些特征选择的工程方法？ && 机器学习（四）：数据预处理--特征工程概述 && 特征工程完全手册 - 从预处理、构造、选择、降维、不平衡处理，到放弃 && 特征工程中的「归一化」有什么作用
- 15 分钟带你入门 sklearn 与机器学习——分类算法篇 && 如何为你的回归问题选择最合适的机器学习方法？
- 十分钟上手 sklearn：安装，获取数据，数据预处理 && 十分钟上手 sklearn：特征提取，常用模型，交叉验证
- MachineLearning_Python
- Machine Learning Course with Python
- Statistical-Learning-Method_Code
- Python3 机器学习
- 含大牛总结的分类模型一般需要调节的参数
机器学习、深度学习的一些研究方向
多任务学习(Multi-Task Learning)
- 模型汇总-14 多任务学习-Multitask Learning概述)
- (译)深度神经网络的多任务学习概览(An Overview of Multi-task Learning in Deep Neural Networks))
- Multi-task Learning and Beyond：过去、现在与未来；)
零次学习(Zero Shot Learning)
小样本学习(Few-Shot Learning)
- 什么是 few-shot learning)
- 零次学习（Zero-Shot Learning）入门)
- 小样本学习（Few-shot Learning）综述)
- CVPR 2019 中的 Few-Shot Learning)
- 当小样本遇上机器学习 fewshot learning)
多视觉学习(Multi-View Learning)
嵌入(Embedding)
迁移学习(Transfer Learning)
- 1. 迁移学习：经典算法解析)
- 2. 什么是迁移学习 (Transfer Learning)？这个领域历史发展前景如何？)
- 3. 迁移学习个人笔记)
- 迁移学习总结(One Shot Learning, Zero Shot Learning))
域自适应(Domain Adaptation)
- Domain Adaptation视频教程（附PPT）及经典论文分享)
- 模型汇总15 领域适应性Domain Adaptation、One-shot/zero-shot Learning概述)
- 【深度学习】论文导读：无监督域适应（Deep Transfer Network: Unsupervised Domain Adaptation）)
- 【论文阅读笔记】基于反向传播的无监督域自适应研究)
- 【Valse大会首发】领域自适应及其在人脸识别中的应用)
- CVPR 2018：基于域适应弱监督学习的目标检测)
元学习(Meta Learning)
强化学习(Reinforcement Learning)
- 强化学习（Reinforcement Learning）知识整理)
- 强化学习从入门到放弃的资料)
- 强化学习入门)
- 强化学习——从Q-Learning到DQN到底发生了什么？)
- 从强化学习到深度强化学习（上）)
- 从强化学习到深度强化学习（下）)
- 一文带你理解Q-Learning的搜索策略)
对比学习(Contrastive Learning)
推荐系统(Recommendation System)
论文列表
教程
- 推荐系统从入门到接着入门)
- 深度学习推荐系统笔记)
- 推荐系统干货总结)
- 入门推荐系统，你不应该错过的知识清单)
- 从零开始了解推荐系统全貌)
- 推荐系统玩家 之 推荐系统入门——推荐系统的发展历程（上）)
- 推荐系统技术演进趋势：从召回到排序再到重排)
- 深入理解推荐系统：召回) && 深入理解推荐系统：排序)
- ���回算法有哪些)
- 《深度学习推荐系统》总结系列一) && 《深度学习推荐系统》总结系列二)
- 推荐系统--完整的架构设计和算法(协同过滤、隐语义)) && 从0到1打造推荐系统-架构篇)
- 协同过滤和基于内容推荐有什么区别？)
- CTR深度交叉特征入门总结)
- 推荐系统学习笔记)