对embedding的理解-白红宇

对embedding的理解

阅读量：553 次

发布时间：2019-03-09

本文共 199 字，大约阅读时间需要 1 分钟。

最近在学transformer，对其中一个词embedding有疑惑，先百度翻译了一下：

直译是嵌入的意思，然后参照了一些文献，大体总结了一下：

在深度学习里面要用向量去描述一个输入的特征，就要将输入的高维向量转化为可以代表feature的低维向量。在nlp的应用中输入一个句子，每个单词找到对应的embedding代表词向量。在视觉中输入一张图片，每个区域找到对应的embedding代表该区域。

转载地址：http://ljmsz.baihongyu.com/

你可能感兴趣的文章

MySQL Cluster 7.0.36 发布

Multimodal Unsupervised Image-to-Image Translation多通道无监督图像翻译

MySQL Cluster与MGR集群实战

multipart/form-data与application/octet-stream的区别、application/x-www-form-urlencoded

mysql cmake 报错,MySQL云服务器应用及cmake报错解决办法

Multiple websites on single instance of IIS

mysql CONCAT()函数拼接有NULL

multiprocessing.Manager 嵌套共享对象不适用于队列

multiprocessing.pool.map 和带有两个参数的函数

MYSQL CONCAT函数

multiprocessing.Pool:map_async 和 imap 有什么区别?

MySQL Connector/Net 句柄泄露

multiprocessor（中)

mysql CPU使用率过高的一次处理经历

Multisim中555定时器使用技巧

MySQL CRUD 数据表基础操作实战

multisim变压器反馈式_穿过隔离栅供电：认识隔离式直流/ 直流偏置电源

mysql csv import meets charset

multivariate_normal TypeError: ufunc ‘add‘ output (typecode ‘O‘) could not be coerced to provided……