Qwen全家桶2api托管到Huggingface搭建教程
Qwen全家桶2api托管到Huggingface(小白搭建教程)
第一步:创建Hugging Face空间
在Hugging Face上创建一个永久免费的服务器(空间)。你可以通过以下链接创建你的空间:Hugging Face – The AI community building the future。创建完成后,点击下面的“创建”按钮。接着,你会得到一个专属的地址,用于访问你的空间。
第二步:下载项目代码
使用以下命令克隆你的仓库预存文件到本地:
git clone https://huggingface.co/spaces/wdawdwa/qwen-local这个命令会将项目代码下载到你的本地文件夹。你可以在本地任意位置打开命令提示符(cmd),然后复制上述命令并执行。
第三步:查看和配置项目
下载完成后,进入项目文件夹,查看配置文件,并保留所有配置参数到项目的.md文档中。此外,还需要在.md文档中添加服务开放端口配置,例如:
app_port: 8082第四步:本地项目代码准备
在.gitignore文件中,你可以排除不要上传的文件,例如.env文件,以保护你的秘钥等信息。你可以直接在环境变量中设置这些信息,以避免官方查封你的token。
第五步:上传项目代码
使用以下命令进入你的项目文件夹:
cd qwen-local上传项目代码的步骤如下:
初始化仓库目录:
git init关联你的Hugging Face仓库:
git remote add huggingface https://huggingface.co/spaces/wdawdwa/qwen-local将所有文件加入到打包列表:
git add .创建一个记录,可以添加其他说明:
git commit -m "Deploy Qwen Local API to Hugging Face"最终上传你的仓库,需要替换为你的上传秘钥:
git push https://wdawdwa:你的上传秘钥@huggingface.co/spaces/wdawdwa/qwen-local main
第六步:设置环境变量和重启
检查构建信息,确保一切正常。如果构建成功,状态会显示为“run”。
第七步:获取API服务URL
如果需要修改本地项目文件代码,可以使用以下命令:
将所有文件加入到打包列表:
git add .创建一个记录,可以添加其他说明:
git commit -m "Deploy Qwen Local API to Hugging Face"最终上传你的仓库,需要替换为你的上传秘钥:
git push https://wdawdwa:你的上传秘钥@huggingface.co/spaces/wdawdwa/qwen-local main
最后,分享你的API服务URL和秘钥:
URL: https://wdawdwa-qwen-local.hf.space
Key: 1
模型列表:
最终流式效果非常优秀。
评论已关闭