oldhu's

20 Apr 2023

Stability AI发布了StableLM Stability AI公司本身是Stable Diffusion模型背后的公司，与MidJourney的竞争差异就是开放与封闭。StableLM也是开放的大语言模型，本次发布了3b与7b的...

14 Apr 2023

https://ianthehenry.com/posts/why-janet/ 的简单翻译 Janet是一个Lisp方言，作者非常喜欢，写了一本关于Janet的书 https://janet.guide Janet很简单这一点是所有Li...

06 Apr 2023

什么是fine-tune fine-tune可以说是对原模型的参数进行“微调”。但微调的方法有很多种，比如：直接在原网络上用新的数据训练固定原网络的前面若干层的参数，训练后面几层的参数搭建一个新的网络，以原模型的某一个layer的输出...

27 Mar 2023

Yew基本原理 Yew应用由一个html(空白)页面加上一个Web Assembly组成。Web Assembly以Virtual DOM的方式运行，负责管理所有的HTML DOM。 Yew与HTML的交互 Yew与HTML的交互主要通过以...

20 Mar 2023

BERT和GPT都是基于transformer的预训练模型，但是它们的预训练任务不同。BERT的预训练任务主要是掩码语言模型(在一个句子中随机盖住一些词，让模型预测)和下一句预测，而GPT的预训练任务主要是语言模型(根据前面的词预测下一个词...

20 Mar 2023

介绍 Word Embedding是NLP处理的第一步，要将一段文字送入模型，必须先将其转换成数字。Word Embedding将每个词转换成为一个向量。 Word2vec Word2vec是Word Embedding的方法之一。他是20...