原理
每个谷歌账号可以在AI Studio创建多个Project,每个Project可以申请多个API,通过多注册几个谷歌账号,可以获得许多免费API。
每一个AP每分钟调用的次数有限,通过Gemini-Balance项目,可以搭建API号池,对API进行轮询调用。
前提条件
- 使用服务器部署时,需要一台海外服务器,保证可以调用到Gemini API。
- 一个LLM的交互软件,如Cheery Studio。
步骤
- 登陆服务器,安装docker。
- 新建.env文件,ALLOWED_TOKENS为网站登陆密码,API_KEYS为Gemini的API密钥(API_KEYS可以先不修改,部署完后到管理网页修改更方便)。
- DATABASE_TYPE=sqlite
- SQLITE_DATABASE=default_db
- API_KEYS=["AIzaSyxxxxxxxxxxxxxxxxxxx","AIzaSyxxxxxxxxxxxxxxxxxxx"]
- ALLOWED_TOKENS=["sk-123456"]
- AUTH_TOKEN=sk-123456
- TZ=Asia/Shanghai
复制代码
- 在同一目录下创建 docker-compose.yml 文件,并填入以下内容
- services:
- gemini-balance:
- image: ghcr.io/snailyp/gemini-balance:latest
- container_name: gemini-balance
- restart: unless-stopped
- ports:
- - "8000:8000"
- env_file:
- - .env
- volumes:
- - ./data:/app/data
- healthcheck:
- test: ["CMD-SHELL", "python -c "import requests; exit(0) if requests.get('http://localhost:8000/health').status_code == 200 else exit(1)""]
- interval: 30s
- timeout: 5s
- retries: 3
- start_period: 10s
复制代码
- 在文件所在目录执行 docker compose up -d 命令以启动服务
- 执行 docker ps即可看到启动的容器
- 访问 :8000,输入第二步设置的密码,登陆管理网页。
- 点击添加密钥,把网页滑动到底部点击保存配置。
- API地址:Gemini Balance部署的地址;API密钥:后台管理页面的密码;然后自行选择需要用到的模型
- 如果要展示思考过程,就在管理网页打开“模型配置”,然后打开“显示思考过程”,添加需要显示思考过程的模型
问题解决:保存配置失败,Status:400
如果按照上文的方法部署,一般不会出现此问题。
如果不是按照上文部署,参考此Github Issue
其他部署方式
- REAME文件中介绍了Docker Compose,Docker, 本地运行三种部署方式
- 这篇指南介绍了ClawCloud等无服务部署方式
来源:豆瓜网用户自行投稿发布,如果侵权,请联系站长删除 |