​ 在阅读论文时记录的一些论文信息和对该论文的简单介绍,记录这些可方便我在需要时快速查找和定位。以下主要记录的是可视化相关论文和迁移学习相关论文的简介。后续将继续完善。

可视化相关

迁移学习相关

  • 2020.08 LEEP: A New Measure to Evaluate Transferability of Learned Representations 【ICML】
    • 一种用于评估可迁移性的新方法;
    • 该方法可以预测迁移学习方法的性能和收敛速度;
    • 是第一个开发元迁移学习的可迁移性测量的工作;
    • 对于小数据或不平衡数据也同样适用;
  • 2019.01 ICIP An information-theoretic approach to transferability in task transfer learning 【IEEE】
    • 一种用于评估机器模型可迁移性的方法;
    • 提出一种基于统计和信息理论的特征迁移能力度量标准——H-score;
    • 使用该方法可以直接通过预训练模型和目标任务训练数据进行计算,无须在目标任务上训练模型;
    • 适用于迁移学习中预训练模型选择问题;
  • 2018.08 A Survey on Deep Transfer Learning 【ICANN】
    • 给出了深度迁移学习的定义
    • 通过收集整理近几年相关文献,将深度迁移学习分为四类,并具体对每一类进展进行了描述
    • 适用于对深度迁移学习进一步了解
  • 2014.11 How transferable are features in deep neural networks? 【NIPS】
    • 论文深度神经网络中奇怪现象入手————前面几层都学习到的是通用的特征(general feature),随着网络的加深,后面的网络更偏重于学习特定的特征(specific feature),通篇以实验为主,提出并解决了在深度神经网络特征迁移中一些问题
    • 深度神经网络特征迁移的程度如何受到高层特定化特征(specialization of higher layer features)和层之间的相互适应性(co-adapted layers)的影响
    • 说明特征可转移性与任务间相关性正相关
    • 指出通过可转移特征初始化网络能有效提高泛化性能并且由于随机权重
    • 此篇论文对理解神经网络以及深度迁移学习都有着非常重要的意义,推荐阅读

前端/浏览器相关