oldhu's

oldhu's

29 May 2023

HackerNews上值得关注的新闻(5)

How to Get Started with Tree-Sitter news comments emacs 29中将内置tree-sitter，这里介绍如何在emacs中使用tree-sitter。大致路径： 设置 treesit-la...
23 May 2023

Sparks of AGI论文总结

Intro 本论文测试的是一个 非多模态 的早期版本GPT-4。（当前版本GPT-4的读图能力，是后加上的，训练GPT-4的时候，并没有使用图像数据，后面 做了一个模型，使得输入图像后，能生成与输入文字产生一样的embedding数据） 由...
22 May 2023

Open Source LLM

排名 基于lmsys arena Rank Name 1 vicuna-13b 2 koala-13b 3 RWKV-4-Raven-14B 4 oasst-pythia-12b 5 chatglm-6b 6 stablelm-tuned-...
10 May 2023

HackerNews上值得关注的新闻(4)

See this page fetch itself, byte by byte, over TLS 基于一个纯JS的tls库，在浏览器里展示出TLS客户端从握手到获取数据的过程。 Language models can explain n...
10 May 2023

LoRA Intro

LoRA是Low-Rank Adaptation的缩写，出自论文Low-Rank Adaptation of Large Language Models LoRA是一种用于大语言模型的低秩(Rank)fine tune方法，它可以在不增加模...
28 Apr 2023

HackerNews上值得关注的新闻(3)

Datomic is Free Datomic是Rich Hickey对Database As a Value的终极理解，使用 Datalog作为查询语言。DataScript是Datomic用JavaScript 的开源实现，是Roam,...