python自然语言处理—Attention 机制

                                                                         Attention 机制

 

Attention 的本质是什么?

   Attention(注意力)机制如果浅层的理解,跟它的名字非常匹配。它的核心逻辑是【从关注全部到关注重点】。

    

    Attention 机制很像人类看图片的逻辑,当我们看到一张图片的时候,我们并没有看清图片的全部内容,而是将注意力集中在了图片的焦点上。我们看一下下面这张图:

        人眼看图片

    我们一定会看清【锦江饭店】四个字,如下图:

        视觉焦点在锦江饭店

    但是我相信没人会意识到【锦江饭店】上面还有一串【电话号码】,也不会意识到【喜运来大酒家】&#


版权声明:本文为weixin_38477351原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。