主流开源基础模型。
- Qwen 阿里通义千问的开源模型,多种规模。
- Llama Meta 的开源模型,多种规模。
Llama 基础模型的微调:Built with Llama。
三步完成。
-
上传你的数据。
JSONL 格式的对话样本,和 OpenAI 微调用的格式一样。
-
创建任务。
一次调用:基础模型、训练文件、方法。用 OpenAI 的 SDK 就行。
-
下载你的适配器。
LoRA 权重归你,拿去在任何地方使用。
OpenAI 格式的任务 API。
用 OpenAI 的 SDK 和熟悉的调用:换上我们的 base URL 和你的密钥。
import osfrom openai import OpenAI client = OpenAI(base_ url= "https:// api. peryn. ai/ v1",api_ key= os. environ[ "PERYN_ API_ KEY"],) data = client. files. create( file= open( "train. jsonl", "rb"), purpose= "fine-tune")job = client. fine_ tuning. jobs. create(model= "llama-3.1-8b-instruct",training_ file= data. id,method= {"type": "supervised"},)print(job.id, job.status)