Deep Mutual Learning
《Deep Mutual Learning》论文笔记，该文提出了 DML 策略，在训练过程中模型之间互相学习。实验结果显示，有力的先验教师网络不是必要的，学生网络之间互学习蒸馏的性能比从静态有力的教师网络中蒸馏效果更好。
AgileGAN Stylizing Portraits by Inversion-Consistent Transfer Learning
《AgileGAN: Stylizing Portraits by Inversion-Consistent Transfer Learning》论文笔记。本文提出了一种快速、仅需要少样本迁移训练即可生成高质量风格化人脸的方法。
Propagate Yourself 探索无监督视觉表示学习的像素级一致性
阅读《Propagate Yourself: Exploring Pixel-Level Consistency for Unsupervised VisualRepresentation Learning》笔记
Large Memory Layers with Product Keys
《 Large Memory Layers with Product Keys 》笔记，该文提出了一种 memory layer，目的是为神经网络提供大容量层。
DeepViT Towards Deeper Vision Transformer
本文设计了一种新的注意力机制，旨在有效提高 ViT 的深度。它可以在不需要额外数据、teacher 网络和特定领域归纳偏差的情况下在视觉任务上表现良好。
SelfAttentionAndTransformer
学习李宏毅老师关于 Self-Attention 与 Transformer 课程的笔记。
学习基于流的特征变形以实现照明正面不一致的人脸正面化
《Learning Flow-based Feature Warping for Face Frontalization with Illumination Inconsistent Supervision》论文笔记
致力于更快更稳定的GAN训练 以实现高精确度的少样本图像合成
《TOWARDS FASTER AND STABILIZED GAN TRAINING FOR HIGH-FIDELITY FEW-SHOT IMAGE SYNTHESIS》论文阅读笔记。
SuperFront从低分辨率人脸进行正面化
《SuperFront: From Low-resolution to High-resolution Frontal Face Synthesis》论文笔记
Stacked Progressive Auto-Encoders(SPAE) for Face Recognition Across Poses
- 堆叠浅层的渐进自动编码器，将大角度姿态矫正划分为多个更小的姿态矫正模型。堆叠多个浅层编码器逐步将非正面人脸转为正脸。
- 最靠近顶端隐藏层的 stacked network 包含更小的姿态变化，它可以为人脸识别提供 pose-rubust 特征。
- 通过堆叠渐进式编码器，迫使网络 layer by layer 的接近最终目标。
