折腾了好几天,终于搞好Hermes + Gemini-2.5-flash + 本地webUI 的应用,记录一下。
首先,安装Hermes,这个问题不大,有出新版的时候,记得 Hermes upgrade一下即可;
然后是配置,因为我有google的gemini付费账号,29新加坡刀一个月,所以api也是有免费额度的,不过我目前总是减免不成功,不知道是为什么,还得继续研究一下(首次申请APIkey时要充20新刀,然后按用量扣款,但每月有免费额,会抵扣,我按Gemini教我的操作了,但貌似还是会直接从我那20新刀里扣,不知为何),设置模型、apikey的配置关键如下:
第1是 config.yaml文件,model要写对,目前是2.5flash,baseURL要注意,最后是 v1beta,不是v1!

其实设置好config,Hermes就可以顺利启动了,能用gemin了。如果要配置本地的webUI打开,则本地docker安装一下 https://github.com/open-webui/open-webui,就可以,然后要在.env文件中设置:
注意看最下面,有个API_SERVER_ENABLED=true,然后,API_SERVER_KEY=myhermes,这个名字可以自己随便取,大于8个字母即可,最后一个是指定暴露给本地 web api的端口号。

这时打开浏览器(端口号是docker安装的时候指定的),登录,就能看到这个界面了,填写open ai接口连接即可。

然后就可以在对话框中对话,问他是什么模型,他会回答是google家的,这就没错了!

文章评论