nlp-love/ml-nlp

此项目是机器学习(Machine Learning)、深度学习(Deep Learning)、NLP面试中常考到的知识点和代码实现，也是作为一个算法工程师必会的理论基础知识。

项目介绍

• 此项目是机器学习、NLP面试中常考到的知识点和代码实现，也是作为一个算法工程师必会的理论基础知识。
• 既然是以面试为主要目的，亦不可以篇概全，请谅解，有问题可提出。
• 此项目以各个模块为切入点，让大家有一个清晰的知识体系。
• 此项目亦可拿来常读、常记以及面试时复习之用。
• 每一章里的问题都是面试时有可能问到的知识点，如有遗漏可联系我进行补充，结尾处都有算法的实战代码案例。
• 思维导图，请关注 AIArea 公众号并回复：NLP思维导图 ，即能下载高清大图。
• 

---

目录

• 项目持续更新中......

模块	章节	负责人(GitHub)	联系QQ
机器学习	1. 线性回归(Liner Regression)	@mantchs	448966528
机器学习	2. 逻辑回归(Logistics Regression)	@mantchs	448966528
机器学习	3. 决策树(Desision Tree)	@mantchs	448966528
机器学习	3.1 随机森林(Random Forest)	@mantchs	448966528
机器学习	3.2 梯度提升决策树(GBDT)	@mantchs	448966528
机器学习	3.3 XGBoost	@mantchs	448966528
机器学习	3.4 LightGBM	@mantchs	448966528
机器学习	4. 支持向量机(SVM)	@mantchs	448966528
机器学习	5. 概率图模型(Probabilistic Graphical Model)
机器学习	5.1 贝叶斯网络(Bayesian Network)	@mantchs	448966528
机器学习	5.2 马尔科夫(Markov)	@mantchs	448966528
机器学习	5.3 主题模型(Topic Model)	@mantchs	448966528
机器学习	6.最大期望算法(EM)	@mantchs	448966528
机器学习	7.聚类(Clustering)	@mantchs	448966528
机器学习	8.ML特征工程和优化方法	@mantchs	448966528
机器学习	9.K近邻算法(KNN)	@mantchs	448966528
深度学习	10.神经网络(Neural Network)	@mantchs	448966528
深度学习	11. 卷积神经网络(CNN)	@mantchs	448966528
深度学习	12. 循环神经网络(RNN)	@mantchs	448966528
深度学习	12.1 门控循环单元(GRU)	@mantchs	448966528
深度学习	12.2 长短期记忆(LSTM)	@mantchs	448966528
深度学习	13.迁移学习(Transfer)	@mantchs	448966528
深度学习	14.强化学习(Reinforcement) & 多任务	@mantchs	448966528
深度学习	15. 深度学习的优化方法	@mantchs	448966528
NLP	16. 自然语言处理(NLP)	@mantchs	448966528
NLP	16.1 词嵌入(Word2Vec)	@mantchs	448966528
NLP	16.2 子词嵌入(fastText)	@mantchs	448966528
NLP	16.3 全局向量词嵌入(GloVe)	@mantchs	448966528
NLP	16.4 textRNN & textCNN	@mantchs	448966528
NLP	16.5 序列到序列模型(seq2seq)	@mantchs	448966528
NLP	16.6 注意力机制(Attention Mechanism)	@mantchs	448966528
NLP	16.7 Transformer模型	@mantchs	448966528
NLP	16.8 BERT模型	@mantchs	448966528
NLP	16.9 XLNet模型	@mantchs	448966528
项目	17. 推荐系统(Recommendation System)	@mantchs	448966528
项目	18. 智能客服(Intelligent Customer Service)	@mantchs	448966528
项目	19. 知识图谱(Knowledge Graph)
项目	20. 评论分析

欢迎大家加入！共同完善此项目！NLP学习QQ2群【207576902】

ml-nlp's Issues

Word2vec数据预处理的时候出现错误

cannot pickle 'generator' object
出现错误，没有迭代器对象

怎么都喜欢用JUPYTER呢，而不写PY格式的文件

线性回归 | mantch的博客

http://localhost:4000/2019/07/28/ML/Linner%20Regression/

KNN部分 切比雪夫距离 章节中，有latex公式乱码了

kc_train2.csv

housing price 中没有提供数据kc_train2.csv

target=pd.read_csv('kc_train2.csv') #销售价格

Hello World | mantch的博客

http://localhost:4000/2019/12/24/ML/hello-worl/

**

文章中的**是什么啊？

申请转载文章，注明处处

申请转载文章，注明处处

房价预测缺少target

GBDT data

GBDT训练数据和测试数据是一样的，可以更正下

GBDT和RF算法的对比存在问题

第3章说GBDT使用了决策树，不需要归一化等特殊处理，后面对比RF时又说GBDT需要归一化，二者矛盾，希望作者您查看是否存在描述错误，有的话进行订正。

感谢您的工作！祝好！

有不少图已经挂，大佬帮更新一下

有不少图已经挂，大佬帮更新一下，
比如线性回归，L1正则化【Lasso回归】，有张图就挂了

machine learning

图嵌入求更新啊

总结图嵌入啊 大佬

pictrues do not show

错字 Liner Regression 少了个a

Liner 应改为 Linear

site link

链接地址被攻击了吗，

访问官网被劫持？访问到了色情网站

怎么回事，感觉我本地网络没问题啊

有点想增加一个autoencoder+GAN的部分

这部分我可以来

GAN学习迷

来一期GAN，吧，

Should add the sample data set for the Chapter 12 LSTM Jupyter notebook

Better add the sample data set into the repository for the sample LSTM Jupyter notebook code,

【机器学习】线性回归 | mantch的博客

http://localhost:4000/2019/07/28/ML/Linner%20Regression/

GBDT不需要对特征进行归一化

GBDT由于是采用树模型作为基模型，因此也不需要对特征进行归一化。GBDT的求导是针对前面模型的预测值进行求导的而不是针对参数进行求导的，因此从梯度角度考虑也并不需要对特征进行归一化。

关于线性回归(LinearRegression)的错误

sklearn 中的LinearRegression模型用的是最小二乘法求解的，不是梯度下降算法。

seq2seq章节的一个修改建议

在seq2seq章节中的编码器小节中，输⼊ xt 的特征向量 xt 和上个时间步的隐藏状态..., 建议将其修改为`输⼊数据x^t和上个时间步的隐藏状态，因为在编码器中每个隐藏层的输入是输入数据和上一步的隐藏状态，而不是输入数据的特征向量。

sklearn的那一篇不写了?

感觉很基本啊,模块的算法当然不止这些,整理一下还是不错的

两个 QQ 交流群都满了

RT

请问文中代码用的tensorflow版本号是多少呢？

请问文中代码用的tensorflow版本号是多少呢？

请问有没有pytorch版本的代码实现，谢谢

sdf | mantch的博客

http://localhost:4000/ML/me.html

运行预处理数据代码的时候报错

print(globals()['doc'] % locals())
TypeError: unsupported operand type(s) for %: 'NoneType' and 'dict'

请问在word2vec.ipynb这个样例中遇到这种情况应该该怎么办

Hello World | mantch的博客

http://localhost:4000/2019/12/24/hello-world/

请问，有关于多因变量的多元线性回归方法吗？

请问，有关于多因变量的多元线性回归方法吗？最好有演示源码，谢谢。

频率派vs贝叶斯派、先验概率、后验概率这里概念有问题

老兄，频率派vs贝叶斯派、先验概率、后验概率这里概念有些问题呀
频率派和贝叶斯派主要区别在于对概率概念的定义，频率派用的客观概率，贝叶斯派用的主观概率
先验概率和后验概率区别在于多个随机变量信息的相互校验啊

链接地址不能访问

https://www.lanzous.com/i5t0lsd，地址不能访问，有么有其他渠道可以获得数据或代码

mantch的博客

http://localhost:4000/about/

Hello World | mantch的博客

http://localhost:4000/2013/07/13/ML/hello-worl/

请增加转载说明

尊敬的作者，

您在18. Intelligent Customer Service一文3-整体架构小节中，引用了来自我们团队的分享内容但未加以说明，请在文末按以下格式添加转载说明：

五八同城智能客服系统“帮帮”技术揭秘. 詹坤林, DataFunTalk. 2018.

谢谢！

关于我的小站 | mantch的博客

http://localhost:4000/about/mantch/