oldhu's
27
Mar 2023
Yew如何工作
Yew基本原理 Yew应用由一个html(空白)页面加上一个Web Assembly组成。Web Assembly以Virtual DOM的方式运行,负责管理所有的HTML DOM。 Yew与HTML的交互 Yew与HTML的交互主要通过以...
20
Mar 2023
Deep Learning (5) - BERT vs GPT
BERT和GPT都是基于transformer的预训练模型,但是它们的预训练任务不同。BERT的预训练任务主要是掩码语言模型(在一个句子中随机盖住一些词,让模型预测)和下一句预测,而GPT的预训练任务主要是语言模型(根据前面的词预测下一个词...
20
Mar 2023
Deep Learning (4) - Word Embedding
介绍 Word Embedding是NLP处理的第一步,要将一段文字送入模型,必须先将其转换成数字。Word Embedding将每个词转换成为一个向量。 Word2vec Word2vec是Word Embedding的方法之一。他是20...
16
Mar 2023
Deep Learning(3) - 从Encoder-Decoder到Transformer
seq2seq问题 seq2seq用于将一个序列(sequence)转换成另一个序列,典型的场景是机器翻译,语音识别,给图片生成描述,问答,语音合成,代码生成等。 Encoder-Decoder Encoder-Decoder架构是一种适用...
14
Mar 2023
Deep Learning(2) - RNN循环神经网络
RNN用于处理序列类型的数据,比如语音,文字。这类数据的最大特点,是后面的信息,与之前的信息有关。比如一句话,每一个字如果是之前信息的函数,那不可能只是前一个字的函数,而是之前很多个字的函数。 RNN神经元结构 之前将神经元简化为输入的函数...
Next page →