深度学习的MASK

借用知乎网友的解析:

mask就是掩膜,图片中有一个圆形物体,你从一张纸上剪掉一个和该物体一模一样大小的圆,把这张纸蒙在图片上,这时候你只能看见这个圆形物体,这张纸就是mask了

我的理解

给我一种信息过滤器的感觉
构建张量的过滤器
在这里插入图片描述
按照上述定义,非线性激活函数Relu(根据输出的正负区间进行简单粗暴的二分)、dropout机制(根据概率进行二分)都可以理解为泛化的mask操作。

从任务适应性上,mask在图像和自然语言处理中都广为应用,其应用包括但不局限于:图像兴趣区提取、图像屏蔽、图像结构特征提取、语句padding对齐的mask、语言模型中sequence mask等。

从使用mask的具体流程上,其可以作用于数据的预处理(如原始数据的过滤)、模型中间层(如relu、drop等)和模型损失计算上(如padding序列的损失忽略)。

原文参考链接


版权声明:本文为weixin_51015047原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。