Domain Adaptation就是为了实现模型在另一个域中(Target Domain)的表现逼近在原域(Source Domain)的效果。这个Adaptation过程实质上就是引入某种手段,尽可能减少这两个域在特征空间的差距,也就是尽可能消除Domain shift,从而使得模型学到更普式、更Domain-invariant的特征。 上述文献综述中将DA方法主要分为 (1)One-ste...
Domain-Invariant Feature Learning sourcet data和target data一起进网络训练,目标是让网络学到让source domain和target domain一致的domain- invariant feature representation,从而让source domain和target domain的分布没有差异。如图中的alignment component,方法包括:minimize divergence, perform reconstruction, employ adver...
因此先学domain-specific表示，再用总的表示减去domain-specific表示，就可以得到domain-invariant表示。
或者可以通过特征表示的方法(feature representation/transformation)的方式,将source domain和target domain的特征投影到第三个使得分布的偏差较小的domain当中。 基于实例(instance-based)的方法需要比较严格的假设:1)source domain和target domain的条件分布是相同的,2)source domain中的某些部分数据可以通过重新加权被重用...
或者可以通过特征表示的方法(feature representation/transformation)的方式,将source domain和target domain的特征投影到第三个使得分布的偏差较小的domain当中。 基于实例(instance-based)的方法需要比较严格的假设:1)source domain和target domain的条件分布是相同的,2)source domain中的某些部分数据可以通过重新加权被重用...
Invariant Risk Minimization(IRM). IRM 要解决如下问题: 即他要学习一个 encoder 参数,这个 encoder 对所有的分类器参数都同时是最优的。为了完成这个目标,encoder 需要抛弃掉 spurious feature。但是这个优化形式 bi-level 的,非常难解决,因此他又提出了一个近似的 target。
1.Domain adaptation aims at generalizing a high-performance learner on a target domain via utilizing the knowledge distilled from a source domain which has a different but related data distribution. One solution to domain adaptation is to learn domain invariant feature representations while the learned...
[1] Domain Generalization via Invariant Feature Representation, ICML 2013.[2] Deep Domain ...
Our method also shares some similarity with representation disentanglement such as DADA [29] where a feature is disentangled into domain-invariant, domain-specific and class-irrelevant features. Different from our method, DADA disentangles the feature with additional disentangler network and uses auto-...
DomainAdaptation总结（2017.9）例⼦：我⼤致⽤上⾯的归类⽅法对⽬前的论⽂进⾏归类：Deep Domain Confusion: Maximizing for Domain Invariance（2014）点击查看笔记 基于特征变换-以数据为中⼼的⽅法（同⼀个映射）采⽤的技术：maximum mean discrepancy：最⼤平均差异 模型：特点：source domai...