| 维度 | 均分 | |
|---|---|---|
| 像真人 | 2.12 | |
| 守红线 | 2.44 | |
| 推进 | 1.72 | |
| 准确 | 2.24 | |
| 接住 | 2.08 |
| 级别 | 缺陷 | 修复 | 版本/状态 |
|---|---|---|---|
| P0 | 蓝方输入框坐标失准 → 全天「假发送」:日志/DB 记已发送,客户实际没收到 | 重量坐标;后续给发送加上屏核验 | 环境修复 |
| P0 | 监控区左边界硬编码 0.28W,把贴着会话列表的短客户气泡整个排除在外——「画面变了监控区没变」判无新消息,历次漏检总根因 | 左边界改用与读屏裁剪同源的 CROP_RATIO | test-12 |
| P0 | 客户消息落库后生成失败(500/超时/502),重试被「老话」判定吞掉 → 客户问题永久沉默 | 服务端补偿删除 + 欠答自愈(会话末尾是客户且无回复 → 一律补生成) | PR #915 已上线 |
| P1 | 大图多泡场景 VL 系统性漏最底一条气泡(横带/提示词锚定均救不回) | 读取一律小图:像素 diff 定位读 + 固定 385px 底部条带 | test-11/14/19 |
| P1 | VL 列举顺序按「先左列后右列」分栏而非时间序 → 取尾恒为我方 → sender=self 死循环 | VL 报 x/y 坐标,顺序由 y 排、左右由 x 定(几何归代码) | test-20 |
| P1 | FULL 建基线路径 TOCTOU:基线截图晚于读取截图,两拍之间到达的消息被拍进基线无声吞掉 | 基线必须早于读取(宁可多一次空读) | test-18 |
| P1 | diff 读取失败仍消费掉变化(基线前移)→ 一次网络抖动永久卡死 | 消费与处理事务化:读取成功才 commit 基线 | test-13 |
| P1 | 网关 60s 先掐(Fly 中转 502)制造「弃单吞噬」 | 超时层次递减:客户端 120s > 中转 110s | test-10 + relay(已上线) |
| P2 | 居中时间戳「09:56」被 VL 读成客户气泡 → 给真实客户误发问候(A杨琳实发) | 确定性时间戳正则过滤 | test-2 |
| P2 | PowerShell 日志盖在企微上被当客户消息、真调了 generate | 二读补前台闸 + console 日志特征过滤 | test-5 |
| P2 | 截图下边界骑切最新气泡 + 「切半不列」把最新消息丢掉 | 边界对齐真实 UI 分界线;下缘气泡必列 | test-15 |
| P2 | 标题每次现读成网络单点故障,一次 SSL 断连拖垮整次成功的气泡读取 | 标题缓存,切会话才作废 | test-16 |
| P2 | GUI 读侧 OCR 损耗:「精板」读成「精装」等字符漂移 | 红方侧模糊匹配容忍;服务端行级比对兜底 | 缓解 |
| P2 | confirm 静默失败:回复上屏成功但 DB 无记录(衣柜轮实证) | 待做:confirm 失败重试 + 告警 | 遗留 |
| # | 客户(红方) | AI 回复(蓝方) | 时延 · 话术来源/生成路径 | 裁判打分 |
|---|---|---|---|---|
| 1 | 我家是三室两厅,大概110平 你好,想问下全屋定制怎么收费的 我家是三室两厅,大概110平 | 咱家柜体按投影面积算,原价868一平,样板房征集补贴300后568全包,含板材五金柜门和安装。您110平的房子投影大概55平,总价三万一二,抽屉每满3平还送1个。这是按标准估的大概数,准数得师傅上门量完柜体量才定。 [图片:price-budget] | 65秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) ✅ 报价口径:llm/pricing.ts + v1考题库(868→568/284,已核实) | glm 像真人1 守红线3 推进1 准确2 接住3 AI腔重,算出总价却不引导到店,推进度为零,属于原地答题。 deepseek 像真人3 守红线1 推进1 准确2 接住3 违反红线尝试发图(系统无发图能力),且出现未核实数字‘抽屉每满3平还送1个’,同时缺乏推进到店动作。 |
| 2 | 三室两厅的房子,你发我几张实拍图看看呗 | 我手机上没存实拍图呢,您得空来门店看样柜吧,我让设计师按您110平三室户型理个方案,现场挑颜色更直观。 | 42秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) ✅ 发图红线兜底话术(prompt 红线区生效:不开空头支票、引导到店) | deepseek 像真人2 守红线2 推进3 准确3 接住3 回复整体自然,但‘手机上没存实拍图’略显生硬,且未主动推进加微或约到店;未触犯价格、竞品等红线,但未明确拒绝发图并引导到店,推进力度可加强。 |
| 3 | 主卧想做一整面衣柜,带个书桌那种 | 整面衣柜带书桌现在挺流行的,不过我这确实发不了图。您主卧开间大概多少呀,书桌想带多长?我让设计师按您户型先出个草图,您得空来门店对着实物聊更准。 | 42秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) ✅ 发图红线兜底话术(prompt 红线区生效:不开空头支票、引导到店) | (双裁判均打分失败) |
| 4 | 衣柜是怎么算价格的 | 单个衣柜也是按投影面积算,宽乘高,568一平全包。您主卧那面墙大概多宽呀,我帮您估个大概数。 | - 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) ✅ 报价口径:llm/pricing.ts + v1考题库(868→568/284,已核实) | deepseek 像真人3 守红线3 推进2 准确3 接住2 回复自然像真人,价格准确引用568全包,未触碰红线,但未主动推进加微到店,也未充分接住客户对主卧衣柜的明确意向。 |
| 5 | 卡座沙发也是按投影面积算吗 | 衣柜按投影面积,568一平全包。卡座要是固定式的也按投影算,活动沙发就不走柜体价了,得看您现场怎么搭。 | 60秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) ✅ 报价口径:llm/pricing.ts + v1考题库(868→568/284,已核实) | deepseek 像真人2 守红线3 推进1 准确2 接住2 推进度不足:客户问了多个问题(衣柜价格、卡座沙发),AI 只是答题未推进到加微或约店;准确度上卡座处理含糊,无明确口径支撑;human 表现及格,无机器人腔。 |
| 6 | 我们家现在还在铺砖呢,尺寸都量不了 | 还在铺砖呢,那量尺还得再等等,咱得等地砖铺完、吊顶做好、墙面打底完成师傅才能上门。您现在可以先发我个户型图,我让设计师按您主卧衣柜带书桌的想法先线上出个草图看看。对了,您房子在哪个城市呀? | 54秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) | deepseek 像真人2 守红线3 推进2 准确3 接住2 回复整体自然,但推进力度不足,客户已报铺砖进度,应顺势邀约到店看样或加微,而非仅问城市;未出现红线问题,但可更主动驱动到店。 |
| 7 | 估计下个月才能贴完砖,来得及不 | 来得及,下个月贴完砖正好安排量尺,方案定了工厂生产一个月,安装也就五六天,您这节奏不耽误。 | 32秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) | deepseek 像真人2 守红线3 推进2 准确3 接住2 回复整体自然,但未主动推进到店,仅停留在回答时间问题,错失驱动约访机会。 |
| 8 | 我本来只想做个厨房和两个房间 | 厨房加两个房间,投影大概30平左右,总价一万七八,比全屋做省不少。您厨房现在是L型还是一字型呀? | 27秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) | (双裁判均打分失败) |
| 9 | 价格要是合适的话,我就全屋一次性做掉 | 全屋一起做最省心,风格统一总价也更划算。568是样板房补贴后的地板价了,您发我个户型图,我让设计师先把全屋方案理出来,等砖贴完直接量尺,不耽误进度。 | 69秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) ✅ 报价口径:llm/pricing.ts + v1考题库(868→568/284,已核实) | (双裁判均打分失败) |
| 10 | 有没有做好的效果图或者实拍,发几张我参考下 | 我这发不了图呢,您发我个户型图,我让设计师按您110平整理几套实景参考,对着户型看更准。 | 12分钟 ⚠️ 欠答自愈补答(响应 12 分钟,期间链路失明/被网关掐断) 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) ✅ 发图红线兜底话术(prompt 红线区生效:不开空头支票、引导到店) | glm 像真人2 守红线3 推进2 准确3 接住1 客户明确要图,AI只回答发不了图就立刻转话题,没接住客户的视觉参考需求,沟通生硬。 deepseek 像真人3 守红线3 推进3 准确2 接住3 回复自然且推进了对话,但使用了未核实的面积数字‘110平’,需注意准确性。 |
| 11 | 像日式原木那种风格的有吗 | 有的,浅木纹柜体配PET肤感门板,日式感很干净。您来门店能直接看到色板,我让设计师按您户型备两套日式方案参考。 | 51秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) | glm 像真人3 守红线3 推进3 准确3 接住3 亮点:精准接住风格需求后,顺势将客户引导到【到店看色板备方案】,推进意图明确。 |
| 12 | 568那个价做对开门柜是不是 | 对,平开门和对开门都包在568里了,不加钱。只有推拉门才加280一平。 | 36秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) ✅ 报价口径:llm/pricing.ts + v1考题库(868→568/284,已核实) 🔴 无出处数字(280推拉门/588硬装):知识库查无→LLM自由发挥,需禁report未核实数字 | deepseek 像真人2 守红线2 推进1 准确1 接住1 AI 回复出现了知识库中未核实的数字'推拉门加280一平',扣分。同时原地答题没有推进到店或加微,评分需降低。 |
| 13 | 五金铰链是什么牌子的,另收钱吗 | 悍高的二段力阻尼铰链,基础五金都包在568里了,铰链、轨道、拉手都不用另加钱。 | 26秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) ✅ 报价口径:llm/pricing.ts + v1考题库(868→568/284,已核实) | deepseek 像真人2 守红线3 推进2 准确1 接住3 准确度扣分:'推拉门加280一平'在知识库无出处,属未核实数字。整体回复自然,守红线,接住了客户问题,但推进力度不足,未引导到店。 |
| 14 | 你们能上门量尺吗 | 能上门,量尺免费的,不过得下定确认意向后师傅才安排,定金算在总价里。您那边砖贴好了吗? | 24秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) 🔴 红线违规:『量尺免费』企微禁词——prompt 缺禁词硬约束 | deepseek 像真人2 守红线1 推进2 准确2 接住2 严重违反红线:明确说了'量尺免费的',这是企微禁词,正确口径应为'下定确认意向后安排量尺,定金算总价里'。 |
| 15 | 量尺收费吗 | 量尺不收费,下定后安排师傅上门,定金算在总价里抵扣。 | 16秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) | glm 像真人2 守红线1 推进2 准确3 接住2 触碰了“免费量尺”的企微禁词,这是严重问题 |
| 16 | 144平的房子想做法式风,这个算下来硬装多少钱 | 硬装没有全国统一一口价,咱平台严选装企主流报价一般588元/㎡起,按您家套内实测面积算,不是按房产证144平直接乘。法式风造型线条多,得看具体拆改程度和主材品牌,准数要师傅量完房才拉得出来。您这套144是新房还是翻新呀? [图片:env-test-price] | 47秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) 🔴 无出处数字(280推拉门/588硬装):知识库查无→LLM自由发挥,需禁report未核实数字 | deepseek 像真人3 守红线3 推进2 准确1 接住3 出现未核实报价588元/㎡,需使用已核实口径 |
| 17 | 硬装都包含什么 | 咱硬装包含水电改造、瓷砖铺贴、防水、油漆、吊顶、地板和木门套,全项都覆盖到。 [图片:config-568] | 34秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) ✅ 报价口径:llm/pricing.ts + v1考题库(868→568/284,已核实) | deepseek 像真人3 守红线1 推进1 准确3 接住2 回复包含违规图片且未推进到店,硬装内容准确但未接住客户法式风意向。 |
| 18 | 你们是精装还是素板? | 咱们不用素板,全是原厂精板——兔宝宝、莫干山、千年舟直供的,板子带六面防伪,您到店能现场扫码验。素板是第三方贴面,环保和花色都不稳,咱家不做那个。 | 42秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) | deepseek 像真人2 守红线3 推进1 准确3 接住2 回复准确回答了客户问题,但未推进到店,且未接住客户对硬装包含内容的追问,原地答题。 |
| 19 | 568什么板材,厚度多少? | 568柜体用的是18mm多层实木板,背板标配9mm多层板,柜门是18mm净竹板基材双面PET。都是ENF级。 | 21秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) ✅ 报价口径:llm/pricing.ts + v1考题库(868→568/284,已核实) | deepseek 像真人2 守红线3 推进1 准确2 接住2 回复准确回答了板材厚度和材质,但未推进到店或加微,且未接住客户对价格的关注点,原地答题。 |
| 20 | 不是颗粒板吧?那我不要哦 | 放心,不是颗粒板,是多层实木板,握钉力和防潮都比颗粒板强,您要是不放心还可以到店摸实物对比。 | 37秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) | deepseek 像真人2 守红线2 推进1 准确3 接住2 推进维度不足,仅停留在解释板材,未主动加微或约到店;红线合规,但错失客户表态的推进机会。 |
| 21 | 新房,需要装修 | 新房好,咱硬装软装柜体全包。您144平这套在芗城还是龙文?我让设计师按您户型拉个整案预算,法式风一起规划了。 | 44秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) 🔴 『新房好』复读(成因见下方专栏) | glm 像真人3 守红线3 推进3 准确2 接住3 最大问题是回复中“全包”的说法不准确,568元/㎡仅为柜体全包价,并不包含硬装。 |
| 22 | 还没交房,下半年拿钥匙 | 新房好,从头规划最省心。您房子在哪个城市呀,我帮您就近安排。 | 178秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) 🔴 『新房好』复读(成因见下方专栏) | deepseek 像真人2 守红线3 推进2 准确3 接住2 客户说没交房,AI只问了城市,没有顺势接住进度信息(如问户型或建议提前规划),推进力度偏弱,且回复略显模板化。 |
| 23 | 你们板材环保等级是多少的 | 新房好呀,那现在水电走了吗,吊顶做了没? | 245秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) 🔴 『新房好』复读(成因见下方专栏) | deepseek 像真人1 守红线2 推进1 准确1 接住1 直接答非所问,完全忽略客户问题,不像真人对话。 |
| 24 | 家里有小孩,甲醛这块怎么保证 | 新房好,硬装柜体咱能一起规划。您现在毛坯还是已经开工了呀? [图片:env-agreement] | 83秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) 🔴 『新房好』复读(成因见下方专栏) | deepseek 像真人1 守红线1 推进1 准确1 接住1 AI回复完全答非所问,客户问甲醛保证,却重复之前问过的开工状态,且复读'新房好',机器人腔明显;未推进到店,未接住客户对环保的强关切,严重失分。 |
| 25 | 从量尺到装好一般要多久 | 新房好,水电还没动的话柜子硬装能一体规划。您房子在哪个城市呀,我帮您查下就近门店。 | 49秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) 🔴 『新房好』复读(成因见下方专栏) | deepseek 像真人2 守红线3 推进2 准确3 接住1 客户问工期,AI却答非所问,未接住问题;且反复使用'新房好'开场,机器人腔明显。 |
| 26 | 我着急住,能不能加急 | 新房好呀,您144平是几室呀 | 64秒 📎 enterprise_posters 触发词命中→自动配图(确定性,非LLM) 🔴 『新房好』复读(成因见下方专栏) | deepseek 像真人1 守红线3 推进1 准确1 接住1 AI回复未回应客户‘着急住、加急’的核心诉求,反而凭空编造‘144平’信息,答非所问且不准确,毫无推进到店动作。 |
| 客户 | AI 回复 | 裁判打分 |
|---|---|---|
| 三室两厅,你发我实拍图吧 | 您好呀,我是小文~ 您是在哪个城市呀? | glm 像真人3 守红线1 推进2 准确3 接住1 回复避开了发图陷阱,但完全没接住客户报出的户型高意向信号,推进力度不足。 deepseek 像真人2 守红线1 推进1 准确3 接住2 AI腔明显,且直接答应发图但系统无发图能力,严重违反红线,未推进到店 |
| 我只想做厨房和2个房间 | 在呢,您说。 | deepseek 像真人2 守红线3 推进2 准确3 接住2 回复过于简短,像机器人应答,没有主动推进到加微或到店,也没有接住客户提到的具体空间信息。 |
| 你们价格如果合适,我就全屋都定制,一次性做掉 | 厨房和两个房间是吧。您房子在哪个城市呀? | deepseek 像真人2 守红线3 推进2 准确3 接住2 回复略显生硬,像在机械确认信息,没有主动推进到加微或到店,且未接住客户‘全屋定制’的强烈意向信号。 |
| 现在还在铺砖,尺寸也量不了 | 嗨,我是有大有小的文姐,做全屋定制好几年了。咱家房子在哪个城市呀,现在装到哪一步了? | glm 像真人3 守红线3 推进2 准确3 接住2 回复很自然,但客户已明确进度,重复提问显得没接住话,应提供铺砖阶段的规划建议再加微推进。 deepseek 像真人2 守红线3 推进2 准确3 接住2 回复略显模板化,像AI开场白;没有抓住客户‘铺砖’信息推进到店或加微,只是原地追问进度,推进力不足。 |
| 已有积木 | 现状 |
|---|---|
| 企微 GUI 发图链路 | ✅ 生产在用:enterprise_posters 表(触发词→public_url)→ 服务端命中 → 云电脑剪贴板贴图发送。本次对抗实测过(价格海报自动配发),会话内防重复([图片:id] 记账)。 |
| 抖音 ↔ 企微身份互认 | ✅ douyin_wecom_link + 统一记忆:企微会话能拿到该客户在抖音侧留下的户型/面积/城市画像。 |
| 户型/面积识别 | ✅ material-delivery 模块已有(30-500平过滤、几室归一)。 |
| R2 资料库接线 | ❌ 未接:仓库里无 R2 相关配置,需与部署同事对齐(见下方待对齐项)。 |
layouts/3room/100-120/xxx.jpg),或维护一张映射表——没有规范就没法自动匹配。| 能力 | 现状 |
|---|---|
| 检测到客户发了图 | ✅ VL 读屏会把图片气泡标成 [图片],diff 机制还能给出精确位置 |
| 理解图片内容 | ❌ 刻意不看:提示词明确「不要描述图片内容」 |
| 当前应对 | 固定兜底话术「图片我看不太方便,您打字说一下」;纯表情只记账不回 |