MNASNET 概述

  • MNASNET简介
  1. 设计mobilent的过程中发现:人类设计的能力有极限。因此,需要找到一个网络,在acc和latency之间平衡。设计loss function,让机器来找到最优的网络结构。
  2. 优化目标

  1. 层级搜索空间

Cnn动辄上百层,本文将CNN分为多个block,block中相同的layer重复。

Layer的搜索空间:

  1. 训练

Mobilenetv2作为baseline,我们搜索{0,+1,-1}基于mobilenetv2,每层的filter size,提出一个新的CNN,训练,得到acc,然后在机器上得到latency。计算target loss。基于target loss,对模型结构调整。

最优化方法有:NASNET。此前使用RL找网络结构,定义RL的问题,奖励:target loss。

RL:ppo,controller:RNN based 网络。

  1. 结果


版权声明:本文为gaotihong原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。