LLaMA-Factory对模型进行微调
LLaMA-Factory提供了简单易用的WebUI对模型进行微调,是一个非常好用的微调平台。LLaMA Factory 是一个简单易用且高效的大型语言模型(Large Language Model)训练与微调平台。通过 LLaMA Factory,可以在无需编写任何代码的前提下,在本地完成上百种预训练模型的微调官方提供了详细的教程:安装 - LLaMA Factory。# 拉取源 git clo
LLaMA-Factory提供了简单易用的WebUI对模型进行微调,是一个非常好用的微调平台。LLaMA Factory 是一个简单易用且高效的大型语言模型(Large Language Model)训练与微调平台。通过 LLaMA Factory,可以在无需编写任何代码的前提下,在本地完成上百种预训练模型的微调官方提供了详细的教程:安装 - LLaMA Factory。# 拉取源 git clo
llama.cpp提供了各种LLM的处理工具,其中convert_hf_to_gguf.py,就可以帮助我们将safetensors模型转换为gguf格式,其中,模型的大小不会改变,只是格式被修改了:具体可以看官方项目:ggml-org/llama.cpp: LLM inference in C/C++1.克隆官方项目git clone https://github.com/ggerganov/l