jindongwang/transferlearning-tutorial

《迁移学习简明手册》LaTex源码

《迁移学习简明手册》

这是《迁移学习简明手册》的LaTex源码。欢迎有兴趣的学者一起来贡献维护。

News

This repo is not maintained anymore since our latest efforts have been organized into a book called Introduction to Transfer learning, both has English version and Chinese version. The homepage for the book is: https://jd92.wang/tlbook/.

This open-source version will be here forever. But this is significantly different from the book. So if you like it, you can buy the book.

The following are deprecated.

意见与建议

对于不足和错误之处，以及新的意见，欢迎到这里留言！

引用

可以按如下方式进行引用：

Jindong Wang et al. Transfer Learning Tutorial. 2018.

王晋东等. 迁移学习简明手册. 2018.

BibTeX

@misc{WangTLTutorial2018,
    Author = {Jindon Wang et al.},
    Title = {Transfer Learning Tutorial},
    Url = {https://github.com/jindongwang/transferlearning-tutorial},
    Year = {2018},
}

@misc{WangTLTutorial2018cn,
    Author = {王晋东等},
    Title = {迁移学习简明手册},
    Url = {https://github.com/jindongwang/transferlearning-tutorial},
    Year = {2018},
}

参与贡献方式

以下部分为参与贡献的详细说明。

在线编译 (推荐)

直接通过pull request的方式在markdown文件夹中修改。修改通过后，GitBook会自动更新。

本地编译方式

• 在任何装有较新版TexLive的电脑上，首先选择xelatex引擎进行第一次编译
• 再选择BibTeX编译一次生成参考文献
• 最后选择xelatex引擎进行第三次编译即可生成带书签的PDF文档

主要文件介绍

以下是本手册的主要文件与其内容介绍：

章节	名称	文件名	内容	状态
主文件	..	main.tex	题目、摘要、推荐语、目录、文件组织	V1.0
写在前面等	..	prefix.tex	写在前面、致谢、说明	V1.0
第1章	迁移学习基本概念	introduction.tex	迁移学习基本介绍	V1.0
第2章	迁移学习的研究领域	research_area.tex	研究领域	V1.0
第3章	迁移学习的应用	application.tex	应用	V1.0
第4章	基础知识	basic.tex	基础知识	V1.0
第5章	迁移学习的基本方法	method.tex	四类基本方法	V1.0
第6章	第一类方法：数据分布自适应	distributionadapt.tex	数据分布自适应	V1.0
第7章	第二类方法：特征选择	featureselect.tex	特征选择	V1.0
第8章	第三类方法：子空间学习	subspacelearn.tex	子空间学习法	V1.0
第9章	深度迁移学习	deep.tex	深度和对抗迁移方法	V1.0
第10章	上手实践	practice.tex	实践教程	V1.0
第11章	迁移学习前沿	future.tex	展望	V1.0
第12章	总结语	conclusion	总结	V1.0
第13章	附录	appendix.tex	附录	V1.0

所有的源码均在src目录下。其中，除去主文件main.tex外，所有章节都在chaps/文件夹下。

所有的图片都在figures/文件夹下。推荐实用eps或pdf格式高清文件。

参考文献采用bibtex方式，见refs.bib文件。

未来计划

• 丰富和完善现有的V1.0
• 单独写一章介绍基于实例的迁移学习方法(instance-based)，以及相关的instance selection method，如比较经典的tradaboost等
• 深度和对抗迁移学习方法分成两章，再结合有关文献进行补充
• 上手实践部分增加对深度方法的说明
• ……

参与方式

欢迎有兴趣的学者一起加入，让手册更完善！现阶段有2个branch：master用于开发和完善，V1.0是稳定的1.0版本。后续可根据进度增加更多的branch。

具体参与方式：

• 在这个issue下留言你的Github账号和邮箱，我将你添加到协作者中
• 直接fork，然后将你的修改提交pull request
• 如果不熟悉git，可直接下载本目录，然后将你修改的部分发给我([email protected])
• 有任何问题，均可以提交issue

贡献之后：

• 在下面的贡献者信息中加入自己的信息。
• 如果是对错误的更正，在web/transfer_tutorial.html中的"勘误表"部分加入勘误信息。

如何提交 Pull Request

准备工作

1. 在原始代码库上点 Fork ，在自己的账户下开一个分支代码库
2. 将自己的分支克隆到本地
   • git clone https://github.com/(YOUR_GIT_NAME)/transferlearning-tutorial.git
3. 将本机自己的 fork 的代码库和 GitHub 上原始作者的代码库 ，即上游（ upstream ）连接起来
   • git remote add upstream https://github.com/jindongwang/transferlearning-tutorial.git

提交代码

1. 每次修改之前，先将自己的本地分支同步到上游分支的最新状态
   • git pull upstream master
2. 作出修改后 push 到自己名下的代码库
3. 在 GitHub 网页端自己的账户下看到最新修改后点击 New pull request 即可

贡献者信息

• @jindongwang 王晋东，**科学院计算技术研究所
• @Godblesswz 万震，重庆大学

transferlearning-tutorial's Issues

希望作者可以给个我们怎么把它引用的方法，这样我们可以在论文中引用这个手册，让更多的人知道

如题，嘿嘿嘿

第90页式7.3.2漏了个负号

如题，此处应该是 $-\Sigma(t)$

参与贡献方式 How to contribute

请在此issue下留言你的github账号和邮箱，我将你加入到协作者中。

\textit失效

在第一章为什么需要迁移学习中\textit斜体标记失效，查看其它markdown文件估计是丢失转义符$$所致

书27页半监督领域自适应情形的公式感觉有误，不知道这样是否更合适？

书27页半监督领域自适应情形的公式感觉有误，不知道这样是否更合适？
$$
\mathcal{D}{\mathrm{t}}=\left{\boldsymbol{x}{j}, y_{j}\right}{j=1}^{N{\mathrm{tu}}} \cup\left{\boldsymbol{x}{j}, ?\right}{j=N_{\mathrm{tu}}+1}^{N_{\mathrm{tl}}+N_{\mathrm{tu}}}
$$

1.4节关于TL与已有概念的区别和联系

################################################################
7. 迁移学习VS 协方差漂移
协⽅差漂移也是迁移学习要研究的问题之⼀，它特指数据的条件概率分布发⽣变化。
################################################################

这里表示怀疑，应该是边际分布概率发生变化。
条件概率指的是源域和目标域在同一个样本取值情况下，标签一致，是covariate shift的假设前提
参考：http://sifaka.cs.uiuc.edu/jiang4/domain_adaptation/survey/node8.html

有个链接失效了

https://github.com/jindongwang/transferlearning/blob/master/doc/dataset.md
变成了
https://github.com/jindongwang/transferlearning/blob/master/data/dataset.md

https://github.com/jindongwang/transferlearning/blob/master/doc/benchmark.md
变成了
https://github.com/jindongwang/transferlearning/blob/master/data/benchmark.md

戳这里

39页处有个中文表述有歧义会引起错误理解？

原文是：“简单说一下什么叫 AnB：（所有实验都是针对数据 B 来说的）将 A 网络的前 n 层拿来并将它 frozen，剩下的 8 − n 层随机初始化，然后对 B 进行分类。”实际上paper里面是说对剩下的8-n层随机初始化之后，将网络在B数据集上进行训练，然后再做分类，测试结果。这么描述，会让人以为最后测试的是用随机初始化的网络权重进行分类测试的。

迁移学习前可迁移性评估指标

感谢您的无私分享，受益良多。我看到有关文章中科院数字所，因迁移学习涉及复杂的过程，在迁移学习之前提出两种迁移指标，用来评估是否可迁移，您在相关指标上有更详细的知识吗

图片缺失导致TexStudio编译不通过

编译显示缺失以下两个图片，经检查的却是因为在figures文件夹下没有这两个文件造成的
Unable to load picture or PDF file './figures/fig-meda-main.pdf'. \label{fig-distribution-meda}} Unable to load picture or PDF file './figures/fig-meda-deep.pdf'. \label{fig-distribution-ddan}}

LaTeX 注意大小写

《迁移学习简明手册》LaTex源码
-> LaTeX

您好，手册网站打不开了

您好，手册网站打不开了

勘误：图27应为DeepCORAL方法

迁移学习导论第二版

第二版前言的二维码扫出来说无法添加，麻烦作者或者出版社解决一下。

tlbook-code中8-3代码问题

按照老师的代码和数据集跑下来，没有任何修改，但是显示训练、验证、目标域测试的准确度都为100%，与《迁移学习导论》（第2版）P153中的72.8%不符

欢迎提意见！

由于作者水平有限，错误、不足之处请多提意见！
如果有任何建议（新方法、新数据、新竞赛等任何新的东西），也欢迎到这里留言！

迁移学习

github ：zequanhan
emile：[email protected]
迁移学习未来肯定是趋势

公式笔误

您好。第14页，公式4.3。闵可夫斯基距离公式应是范数||·||表示才对，您笔误写成了绝对值|·|。

模型结构

老师，请问借助预训练方法将源域中的知识迁移到目标域的过程中，预训练的模型和学生模型的结构需要结构不一样吗？还是说结构可以是一样的？这个问题对我来说非常重要，期待老师的回复。

missing figure in src/figures

when compiling with xelatex, following error generated:

LaTeX Warning: File `./figures/fig-meda-main.pdf' not found on input line 382

参考文献 bib warning

我这边编译的时候，发现 .bib 文件有6处重复的 ref，另外有以下 warning，可以看下如何处理 @jindongwang

Warning--to sort, need author or key in xinhua
Warning--can't use both volume and number fields in gu2011joint
Warning--can't use both volume and number fields in hu2011transfer
Warning--empty journal in jaini2016online
Warning--empty year in patilknowledge
Warning--empty journal in patilknowledge
Warning--can't use both volume and number fields in sun2016return

图2.1 三种不同的高斯分布

绘图错误，请修正

迁移学习

感谢王博的分享！非常期待参与文档的维护。

github: yueyuedai
邮箱：[email protected]