对embedding的理解-白红宇

对embedding的理解

阅读量：553 次

发布时间：2019-03-09

本文共 199 字，大约阅读时间需要 1 分钟。

最近在学transformer，对其中一个词embedding有疑惑，先百度翻译了一下：

直译是嵌入的意思，然后参照了一些文献，大体总结了一下：

在深度学习里面要用向量去描述一个输入的特征，就要将输入的高维向量转化为可以代表feature的低维向量。在nlp的应用中输入一个句子，每个单词找到对应的embedding代表词向量。在视觉中输入一张图片，每个区域找到对应的embedding代表该区域。

转载地址：http://ljmsz.baihongyu.com/

你可能感兴趣的文章

Mysql 数据库InnoDB存储引擎中主要组件的刷新清理条件：脏页、RedoLog重做日志、Insert Buffer或ChangeBuffer、Undo Log

mysql 数据库备份及ibdata1的瘦身

MySQL 数据库备份种类以及常用备份工具汇总

mysql 数据库存储引擎怎么选择？快来看看性能测试吧

MySQL 数据库操作指南：学习如何使用 Python 进行增删改查操作

MySQL 数据库的高可用性分析

MySQL 数据库设计总结

Mysql 数据库重置ID排序

Mysql 数据类型一日期

MySQL 数据类型和属性

mysql 敲错命令想取消怎么办?

Mysql 整形列的字节与存储范围

mysql 断电数据损坏，无法启动

MySQL 日期时间类型的选择

Mysql 时间操作（当天，昨天，7天，30天，半年，全年，季度）

MySQL 是如何加锁的？

MySQL 是怎样运行的 - InnoDB数据页结构

mysql 更新子表_mysql 在update中实现子查询的方式

MySQL 有什么优点？

mysql 权限整理记录