找回密码
 立即注册
  • QQ空间
  • 回复
  • 收藏

ollama配置向量化超出上下文长度,我已经在软件把长度拉满了

求助大佬们,怎么解决?

ollama配置向量化超出上下文长度,我已经在软件把长度拉满了-1.jpg
回复

使用道具 举报

大神点评(5)

Kevan 楼主 昨天 13:40 显示全部楼层
ollama配置向量化超出上下文长度,我已经在软件把长度拉满了-1.png
ollama配置向量化超出上下文长度,我已经在软件把长度拉满了-2.png
ollama配置向量化超出上下文长度,我已经在软件把长度拉满了-3.png
ollama配置向量化超出上下文长度,我已经在软件把长度拉满了-4.png
ollama配置向量化超出上下文长度,我已经在软件把长度拉满了-5.png
ollama配置向量化超出上下文长度,我已经在软件把长度拉满了-6.png
ollama配置向量化超出上下文长度,我已经在软件把长度拉满了-7.png

ollama配置向量化超出上下文长度,我已经在软件把长度拉满了-9.png
ollama配置向量化超出上下文长度,我已经在软件把长度拉满了-10.png
回复 支持 反对

使用道具 举报

你向量化用的什么模型?
一般向量化的话,直接去用硅基流动的Qwen/Qwen3-Embedding-8B模型就好了
回复 支持 反对

使用道具 举报

Kevan 楼主 昨天 13:41 显示全部楼层
ollama配置向量化超出上下文长度,我已经在软件把长度拉满了-1.jpg
@Owl_Time
大佬,用自带的这个可以用硅基流动的api向量化吗还是说得插件?
回复 支持 反对

使用道具 举报

Kevan 楼主 昨天 13:42 显示全部楼层
ollama配置向量化超出上下文长度,我已经在软件把长度拉满了-1.jpg

ollama配置向量化超出上下文长度,我已经在软件把长度拉满了-2.jpg
回复 支持 反对

使用道具 举报

在插头里跟我一样选文本补全选好向量化模型后点右上角的保存。然后插头切换平常聊天的聊天补全。
然后插件的“向量化设置”里像我这样选择好vLLM,填入模型名字

ollama配置向量化超出上下文长度,我已经在软件把长度拉满了-1.jpg

ollama配置向量化超出上下文长度,我已经在软件把长度拉满了-2.jpg
回复 支持 反对

使用道具 举报

说点什么

您需要登录后才可以回帖 登录 | 立即注册
HOT • 推荐