Vision Helper — AI Image Analysis

👁️ 本地云端双模识图,180秒超长守候

通过Ollama调用本地/云端多模态模型进行图像分析,支持180秒超时和任意路径读取,适合截图识别、UI分析和OCR场景

收藏
5k
安装
1.1k
版本
1.0.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

Vision Helper 综合评估

核心用法
Vision Helper 是一个基于 Ollama 的多模态图像分析工具,通过 Python 脚本直接调用本地或云端视觉大模型。主要使用方式包括:命令行直接执行 analyze_image.py 脚本,支持自定义 prompt 和模型切换;在对话工作流中通过 exec 工具调用,需设置 120–180 秒超时;以及与浏览器截图、桌面截图工具链式配合,实现「截图→分析→决策→执行」的自动化闭环。

显著优点
1. 超时机制优化:内置 180 秒超时,解决了官方 image 工具在云端模型(40–120 秒响应)下的超时失败问题

2. 路径无限制:绕过内置工具的文件路径白名单,可读取任意可读目录的图像

3. 模型灵活性:支持本地隐私优先模型(gemma4:31b)和多档云端模型(kimi-k2.5/2.6、qwen3.5 系列),通过环境变量 VISION_MODEL 一键切换

4. 场景覆盖广:从游戏状态识别、浏览器页面验证到桌面监控、OCR 文本提取均可胜任

5. 零 API 成本:本地模型运行无需联网,无 token 消耗

潜在缺点与局限性

  • 依赖 Ollama 生态:需预先配置 Ollama 服务及模型拉取,对非技术用户门槛较高
  • 云端模型延迟:kimi-k2.6 等高级模型需 40–120 秒响应,不适合实时交互场景
  • 硬件要求:本地 31B 参数模型对 GPU/内存有显著需求
  • 无原生多轮对话:每次调用为独立请求,需外部维护上下文
  • 中文支持依赖模型能力:prompt 可中文输入,但输出质量取决于所选模型的中文训练数据

适合人群

  • 开发者与自动化工程师:需要集成截图分析到 CI/CD 或 RPA 工作流
  • 隐私敏感用户:倾向本地部署、不上传图像至第三方云服务
  • 游戏/应用自动化测试者:通过视觉识别驱动 UI 交互
  • 多语言 OCR 需求者:处理截图、扫描件中的文本提取

常规风险

  • 路径注入风险:虽支持任意路径,但若用户输入未过滤,可能存在路径遍历隐患(需配合调用方校验)
  • 超时配置失误:若 exec 未设置足够超时,脚本会被中断,返回不完整结果
  • 模型幻觉:视觉模型可能误识别 UI 元素或 OCR 结果,关键决策场景需人工复核
  • 资源占用:大参数本地模型可能占用大量显存,影响主机其他任务

Vision Helper — AI Image Analysis 内容

scripts文件夹
手动下载zip · 5.9 kB
analyze_image.pytext/plain
请选择文件