因为vlm也能跑functioncall
=== 测试 VLM 带工具调用 === VLM服务初始化完成,模型: /root/my_python_server/models/OpenBMB_MiniCPM-V-2_6-int4 测试图像已创建: C:\Users\njsgcs\AppData\Local\Temp\tmpqfupvz29.png [VLM调试] 成功收到响应 响应状态: 成功 生成内容: 这张图片中有四种颜色:蓝色,红色,白色,和绿色。它包括一个蓝色的正方形,一个红色的圆圈,以及一条薄绿色的水平线。背景是白色的,线条也是绿色的,这表明它们是对象本身的特征,而不是其他元素。这些颜色很可能是为了测试视觉测量或模拟数字照片的场景,这种情况下这些颜色被用于代表一种主色调和副色调的对比,因为蓝色和红色是对立的颜色。 带工具调用测试完成 === 测试结果汇总 === 单图像识别: 通过 多图像识别: 通过 多轮对话: 通过 直接图像内容格式: 通过 带工具调用: 通过而vlm+llm会爆我16g的显存
所有只能原本llm的活vlm干