--- language: - zh tags: - text-generation - chinese-novel - chinese-fantasy - qwen - lora-finetuned library_name: transformers pipeline_tag: text-generation --- # JianLai-Qwen0.5B 🏮 **剑来小说专业问答模型** ## 📖 模型介绍 这是一个专门为小说《剑来》进行微调的中文语言模型,基于Qwen2.5-0.5B-Instruct模型使用LoRA方法训练而成。 ### ✨ 主要特性 - **剑来知识专家**: 深入理解剑来小说的人物、情节、世界观 - **专业问答**: 能够回答关于剑来小说的各类问题 - **情节分析**: 可以分析小说片段的意义和重要信息 - **人物关系**: 了解复杂的人物关系网络 - **文化底蕴**: 理解小说中的传统文化内涵 ### 🎯 适用场景 - 剑来小说内容与情节问答 - 人物性格与关系分析 - 小说世界观理解 - 文学分析与讨论 ## 🔧 使用方法 ### 环境要求 ```bash pip install transformers peft torch ``` ### Python代码示例 ```python import torch from transformers import AutoModelForCausalLM, AutoTokenizer # 加载模型 model_name = "your-huggingface-username/JianLai-Qwen0.5B" # 修改为实际名称 model = AutoModelForCausalLM.from_pretrained( model_name, torch_dtype=torch.float16, trust_remote_code=True, ) tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True) # 提问 question = "剑来的主人公是谁?" prompt = f"### 用户:{question}\n### 助手:" inputs = tokenizer(prompt, return_tensors="pt") outputs = model.generate( **inputs, max_new_tokens=200, do_sample=True, temperature=0.7, top_p=0.9 ) result = tokenizer.decode(outputs[0], skip_special_tokens=True) answer = result.split("### 助手:")[-1].strip() print(f"回答: {answer}") ``` ### 🤗 HuggingFace推理 您也可以直接使用HuggingFace上的在线推理API: ```python from transformers import pipeline gen = pipeline("text-generation", model="your-huggingface-username/JianLai-Qwen0.5B") result = gen("### 用户:陈平安来自哪里?\n### 助手:") ``` ## 🎓 训练详情 ### 基础模型 - 模型: Qwen/Qwen2.5-0.5B-Instruct - 训练方法: LoRA (Low-Rank Adaptation) - 参数数量: 约4.4M个可训练参数 ### 训练数据 - 数据规模: 61,514个问答对 - 数据来源: 《剑来》小说内容分析 - 问题类型: 情节理解、人物分析、场景描述等 ### 训练配置 - 训练步数: 1000步 - 学习率: 2e-4 - LoRA配置: r=8, alpha=16, dropout=0.05 - 序列长度: 512 tokens ## ⚠️ 限制与注意事项 1. **知识边界**: 仅针对剑来小说内容,不了解其他虚构作品 2. **事实准确性**: 基于训练数据提供信息,建议与原著核实重要细节 3. **创作风格**: 主要用于情节问答,不支持直接创作 4. **内存需求**: 建议使用GPU进行推理,CPU可能较慢 ## 📝 示例问答 > 问: 剑来的主人公是谁? > > 答: 剑来小说的主人公是陈平安,来自骊珠洞天的一个小镇,是故事的核心人物... > 问: 剑气长城是什么地方? > > 答: 剑气长城是剑来世界中的超级宗派之一,是人族抵御妖族的重要防线... ## 🤝 贡献与反馈 如果您在使用过程中有任何问题或建议,欢迎: - 在HuggingFace社区讨论 - 提交Issue或PR - 提供使用反馈 ## 📜 许可 本模型基于Apache 2.0许可证发布,与基础模型Qwen保持一致。 --- *🏮 用AI理解经典,让文化焕发新生 🏮*