diff --git a/docs/zh/llm/docs/finetune_tutorial.md b/docs/zh/llm/docs/finetune_tutorial.md
new file mode 120000
index 000000000000..259f7abf8474
--- /dev/null
+++ b/docs/zh/llm/docs/finetune_tutorial.md
@@ -0,0 +1 @@
+../../../../llm/docs/finetune_tutorial.md
\ No newline at end of file
diff --git a/llm/docs/finetune_tutorial.md b/llm/docs/finetune_tutorial.md
new file mode 100644
index 000000000000..d093668b016f
--- /dev/null
+++ b/llm/docs/finetune_tutorial.md
@@ -0,0 +1,123 @@
+# PaddleNLP 大模型新手指南-精调
+从零开始了解并实践如何基于 PaddleNLP 对大语言模型（如 LLaMA、Baichuan、Qwen 等）进行精调（Fine-tuning）。
+
+我们在 Ai Studio 上同步公开了项目，也可以点击[链接](https://aistudio.baidu.com/projectdetail/9169303)在线体验大模型精调。
+
+
+## 1. 什么是精调 （Fine-tuning）
+经过预训练，我们拥有了经过预训练之后的基础模型，但是这个模型如果直接应用在某一个特定领域，效果可能并不太好。这是由于我们的预训练语料没有针对特定的任务场景进行特化。但是大模型经过预训练已经拥有了很强的通用能力，只需要少量特定数据，就可以大幅提升大模型在特定领域的能力。
+
+我们用一个表格来简单对比下预训练与精调：
+| 对比项 | 预训练 | 精调 |
+| ---- | -------- | --------- |
+| 数据量 | 海量通用文本 | 少量特定任务数据 |
+| 目标 | 学习通用语言知识 | 优化具体任务表现 |
+| 训练时间 | 很长 | 较短 |
+
+## 2. 精调数据
+与预训练的无监督数据不同，精调使用的数据是有监督数据，一般是一个指令（向大模型说的话）和一个输出（大模型应该的回应）。常用的数据格式是[Alpaca](https://crfm.stanford.edu/2023/03/13/alpaca.html)，我们用一个简单的例子来展示一下其基本组成：
+```
+{
+ "instruction": "给出首都：",
+ "input": "法国",
+ "output": "巴黎"
+}
+```
+* instruction：用户向大模型输入的指令
+* input：任务相关的输入，通常为空
+* output：大模型的预期输出
+
+我们本次使用[tatsu-lab/alpaca](https://huggingface.co/datasets/tatsu-lab/alpaca)的 demo 数据集。
+
+
+```python
+# clone PaddleNLP仓库，如果之前已经操作过，可以跳过这一步
+git clone https://github.com/PaddlePaddle/PaddleNLP.git
+```
+
+
+```python
+cd PaddleNLP/llm
+wget https://bj.bcebos.com/paddlenlp/datasets/examples/alpaca_demo.gz
+tar -xvf alpaca_demo.gz
+```
+
+
+## 3. 精调（Fine-tuning）
+对大模型的精调本质上是对其参数进行微调，在这里我们就有两种选择：
+* 精调大模型的全部参数->SFT（Supervised Fine-Tuning，监督式微调）
+* 精调大模型的部分参数->PEFT（Parameter-Efficient Fine-Tuning，参数高效微调）
+如果我们有足够的资源对所有的参数进行微调，那我们可以选择 SFT；如果资源不足或受限，我们可以选择 PEFT 对模型的小部分关键参数进行微调。
+
+
+
+
+
+ 大模型精调原理介绍
+
+
+
+
+与预训练一样，PaddleNLP 封装好了精调脚本，可以根据需要切换不同模型的配置文件，直接执行命令即可进行精调。
+
+### 3.1 SFT
+我们首先尝试对 Qwen2.5-0.5B 模型进行 SFT，SFT 的训练过程就是让模型根据输入尽可能产生与给定输出一样的输出。需要执行的指令如下：
+
+
+```python
+# 需要12G显存左右
+python -u run_finetune.py ./config/qwen/sft_argument_0p5b.json
+```
+
+
+```python
+# 多卡命令如下
+# SFT 启动命令参考，需要45G显存左右
+python -u -m paddle.distributed.launch --devices "0,1,2,3,4,5,6,7" run_finetune.py ./config/qwen/sft_argument.json
+```
+
+### 3.2 PEFT
+在实际业务环境中，可能需要对参数量较大的模型进行微调，此时如果使用 SFT，带来的显存和时间开销可能过大。此时我们可以选择 PEFT 方法，只更新小部分参数。常用的 PEFT 方法有参数附加方法、低秩分解方法等，我们分别选择其中的一种方法进行展示，代码中的 API 可以参考[PaddleNLP PEFT API](https://github.com/PaddlePaddle/PaddleNLP/blob/develop/llm/docs/peft.md)。
+
+#### 3.2.1 Prefix Tuning
+[Prefix Tuning](https://arxiv.org/abs/2101.00190)（前缀调优）是一种参数高效微调（PEFT）技术，它通过在预训练大语言模型的每一层前面插入一段可学习的“前缀向量”，而不是更新模型的全部参数，从而实现任务适配。
+
+
+
+
+
+