mlwhc/tensorflow-deep-neural-networks

用Tensorflow实现的深度神经网络。

包含网络

• 推荐使用:
  Deep Belief Network (DBN)
  Stacked Autoencoder (sAE)
  Stacked Sparse Autoencoder (sSAE)
  Stacked Denoising Autoencoders (sDAE)
  
• 尝试更好的模型：
  Convolutional Neural Network (CNN)
  Recurrent Neural Network (RNN)
  Long Short Term Memory (LSTM)
  

所依赖包

pip install tensorflow
pip install keras
pip install librosa （用于语音分类，选装）
pip install --upgrade --user numpy pandas h5py （升级包）

版本信息

Pytorch版本：

推荐PyTorch包

User：

用户可以通过model.py文件控制一些功能的开关：
self.show_pic => show curve in 'Console'?
self.tbd => open/close tensorboard
self.save_model => save/ not save model
self.plot_para => plot W image or not
self.save_weight => save W matrix or not
self.do_tSNE => do t-SNE or not

Version 2018.11.7:

New 新增了两个数据集，一个用于分类，一个用于预测
New 新增t-SNE低维可视化
Chg 修正部分 use_for = 'prediction' 时的Bug

Version 2018.6.1:

New 新增了绘制训练曲线图，预测标签分布图，权值图的功能
Chg 重写了SAE，现在可以放心使用了
Chg 代码的整体运行函数run_sess放到了base_func.py
Chg 回归是可以实现的，需要设置 use_for = 'prediction'

测试结果

用于minst数据集分类，运行得到正确率可达98.78%
用于Urban Sound Classification语音分类，正确率达73.37%
(这个跑完console不会显示结果，因为是网上的比赛数据集，需上传才能得到正确率)
用于Big Mart Sales III预测，RMSE为1152.04
(这个也是网上的数据集，也没有test_Y)

跑的结果并不是太高，有更好的方法请赐教
语音分类未尝试语谱法，欢迎做过的和我交流

数据地址

USC, BMS III

参考资料

Tensorflow基本函数, RBM原理, Hinton源码, sDAE原论文, sSAE分析TE过程, RNN原理, LSTM, Tensorboard

My blog

知乎, CSDN
QQ群：640571839