2021.05.31

本周回顾

1. 做好数据集，训练结果：Baseline,stage1:25.36/0.8709,stage2:29.41/0.9376
2. 继续看上周的论文，录制视频
   1. 看老师推荐的视频了解信息量、信息熵、交叉熵的概念
   2. 看相关的论文及视频讲解
      1. 《Contrastive Representation Distillation》【读论文】Contrastive Representation Distillation_哔哩哔哩_bilibili (opens new window)
      2. 《Representation learning with contrastive predictive coding》CPC InfoNCE【读论文】Representation learning with contrastive predictive coding_哔哩哔哩 (゜-゜)つロ 干杯~-bilibili (opens new window)
      3. 《Noise Contrastive Estimation》NCE经典表征学习论文 Noise Contrastive Estimation (NCE/负采样) 的宏观理解_哔哩哔哩 (゜-゜)つロ 干杯~-bilibili (opens new window)
      4. 《Momentum Contrast for Unsupervised Visual Representation Learning》【读论文】Momentum Contrast for Unsupervised Visual Representation Learning_哔哩哔哩_bilibili (opens new window)
   3. 以及各种百度信息论基础（学习笔记整理）_canxuezhang的博客-CSDN博客 (opens new window)

本周计划

学习部分：

1.找论文《HINet: Half Instance Normalization Network for Image Restoration》

2.写论文

实验部分：

1.先测试新模块

2.测试添加加法、乘法以及对比学习Loss后的结果

3.在新的数据集上测试之前的测试方案

今日任务

1. 构思SKFF+后投影的结果：
   1. 方案一：在SKFF生成Attention图后，对Attention进行后投影然后再融合选择
   2. 方案二：后投影完之后对进行SKFF(老师推荐)
   3. 方案三：对后投影的过程进行SKFF