LLM_Survey_Chinese.pdf
免费下载
RUC AI Box 1
* *
— 20 50
AI
Transformer
Pre-training Language Model, PLM Natural Language
Processing, NLP
BERT
Large Language Model, LLM PLM
LLM ChatGPT LLM AI
LLM AI AI
LLM LLM
LLM LLM
LLM
—
F
1
[1, 2]
[3]
LM
LM
tokens
• (SLM) SLMs [4–7]
20 90
n SLM n
bigram trigram SLM
IR [8, 9] NLP [10–12]
• GitHub : https://github.com/RUCAIBox/LLMSurvey
• https://arxiv.org/abs/2303.18223
• A Survey of Large Language Models
v10
[13] [14]
• (NLM) NLM [15–17]
RNN
[15]
NLP
[18] word2vec [19, 20]
NLP
NLP
• (PLM) ELMo [21]
LSTM biLSTM
biLSTM
Transformer [22] BERT [23]
NLP
RUC AI Box 2
PLM
[
24, 25] GPT-2 [26] BART [24]
[27–29] PLM
• (LLM) PLM
[30] PLM
1750 GPT-3 5400 PaLM
PLM PLM
3.3 BERT 15 GPT-2
GPT-3 in-context
learning, ICL GPT-2
PLM
1
[31–
34] LLM ChatGPT
2
GPT
LLM
PLM [35–
38] LLM
LLM PLM
LLM
PLM LM
LLM
PLM LLM
GPT-4 API LLM
LLM
LLM LLM
LLM
LLM AI ChatGPT
GPT-4 AGI
OpenAI Planning for AGI and
beyond AGI [39]
GPT-4 AGI
[40] AI LLM
NLP LLM
LLM IR
AI ChatGPT
New Bing
3
LLM
CV
ChatGPT -
1. LLM PLM
LLM
2. https://openai.com/blog/chatgpt/
3. https://www.bing.com/new
[41–44] GPT-4 [45]
LLM Microsoft 365
LLM Copilot OpenAI
ChatGPT
LLM
LLM
PLM
LLM
LLM
[46]
[46, 47] LLM
LLM
LLM
LLM
LLM
LLM
LLM [45]
LLM
LLM
LLM
LLM
LLM LLM
LLM
LLM
GitHub
LLM https:
//github.com/RUCAIBox/LLMSurvey
PLM LLM [31, 35, 37, 38, 42, 48–
54] PLM LLM
LLM
LLM
2 LLM
3
LLM 4 5 6 7
8
2
LLM GPT
of 60
免费下载
【版权声明】本文为墨天轮用户原创内容，转载时必须标注文档的来源（墨天轮），文档链接，文档作者等基本信息，否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容，欢迎发送邮件至：contact@modb.pro进行举报，并提供相关证据，一经查实，墨天轮将立刻删除相关内容。
下载排行榜
评论