Deep Mutual Learning

发布时间 : 2021-07-18
发布 : 2021-07-18 分类 : 深度学习 浏览 :

《Deep Mutual Learning》论文笔记,该文提出了 DML 策略,在训练过程中模型之间互相学习。实验结果显示,有力的先验教师网络不是必要的,学生网络之间互学习蒸馏的性能比从静态有力的教师网络中蒸馏效果更好。

AgileGAN Stylizing Portraits by Inversion-Consistent Transfer Learning

发布时间 : 2021-07-11
发布 : 2021-07-11 分类 : 深度学习 浏览 :

《AgileGAN: Stylizing Portraits by Inversion-Consistent Transfer Learning》论文笔记。本文提出了一种快速、仅需要少样本迁移训练即可生成高质量风格化人脸的方法。
image.png

Propagate Yourself 探索无监督视觉表示学习的像素级一致性

发布时间 : 2021-07-02
发布 : 2021-07-02 分类 : 深度学习 浏览 :

阅读《Propagate Yourself: Exploring Pixel-Level Consistency for Unsupervised VisualRepresentation Learning》笔记
image.png

Large Memory Layers with Product Keys

发布时间 : 2021-06-29
发布 : 2021-06-29 分类 : 深度学习 浏览 :

《 Large Memory Layers with Product Keys 》笔记,该文提出了一种 memory layer,目的是为神经网络提供大容量层。
image.png

DeepViT Towards Deeper Vision Transformer

发布时间 : 2021-06-25
发布 : 2021-06-25 分类 : 深度学习 浏览 :

本文设计了一种新的注意力机制,旨在有效提高 ViT 的深度。它可以在不需要额外数据、teacher 网络和特定领域归纳偏差的情况下在视觉任务上表现良好。
image.png

SelfAttentionAndTransformer

发布时间 : 2021-06-24
发布 : 2021-06-24 分类 : 深度学习 浏览 :

image.png
学习李宏毅老师关于 Self-Attention 与 Transformer 课程的笔记。

学习基于流的特征变形以实现照明正面不一致的人脸正面化

发布时间 : 2021-02-18
发布 : 2021-02-18 分类 : GAN 浏览 :

《Learning Flow-based Feature Warping for Face Frontalization with Illumination Inconsistent Supervision》论文笔记
image.png

致力于更快更稳定的GAN训练 以实现高精确度的少样本图像合成

发布时间 : 2021-02-14
发布 : 2021-02-14 分类 : GAN 浏览 :

《TOWARDS FASTER AND STABILIZED GAN TRAINING FOR HIGH-FIDELITY FEW-SHOT IMAGE SYNTHESIS》论文阅读笔记。
image.png

SuperFront从低分辨率人脸进行正面化

发布时间 : 2021-02-07
发布 : 2021-02-07 分类 : GAN 浏览 :

《SuperFront: From Low-resolution to High-resolution Frontal Face Synthesis》论文笔记
image.png

Stacked Progressive Auto-Encoders(SPAE) for Face Recognition Across Poses

发布时间 : 2021-01-05
发布 : 2021-01-05 分类 : GAN 浏览 :
  • 堆叠浅层的渐进自动编码器,将大角度姿态矫正划分为多个更小的姿态矫正模型。堆叠多个浅层编码器逐步将非正面人脸转为正脸。
  • 最靠近顶端隐藏层的 stacked network 包含更小的姿态变化,它可以为人脸识别提供 pose-rubust 特征。
  • 通过堆叠渐进式编码器,迫使网络 layer by layer 的接近最终目标。

QQ截图20210105145846.jpg