AI 客服说错话,怎么才能不赔钱
全国首例 AI「幻觉」侵权案驳回索赔并已生效,确立的是过错责任——主动权有一部分在你手上,但只有留下痕迹才算数

文章目录
共 4 节「这款七天无理由退,运费我们出。」
这句话是客服机器人说的。门店的实际规则是运费自理。客户把这句话截了图。
那么这笔运费谁出?再往下一步,如果客户拿着这张截图主张更大的损失,公司要不要赔?
多数老板对这个问题有一个默认答案:机器说的,公司认。据中央广播电视总台 2026 年 1 月 14 日的报道,杭州互联网法院审结了全国首例 AI「幻觉」侵权案,驳回了索赔请求,判决已经生效,裁判确立的是过错责任原则,并提出了分层的注意义务。
过错责任这四个字,是这篇文章唯一的支点。先说两个常见的错误反应,再说处方。
一、两种反应,一种是不敢上,一种是上了不管
第一种反应:干脆不上。
理由听起来很稳妥——机器人万一说错话,赔钱的是我。于是客服这一环维持原样:几个人轮班,夜里没人,节假日没人,客户在凌晨两点发来的消息,第二天上午十点才有人回。
这种"稳妥"的代价不出现在成本表上。它在另一个地方:一个凌晨两点问尺码的人,第二天上午已经在别家下单了。你没有为这件事付过一分钱,但你确实付了。
第二种反应:上了,然后不管。
这一种更普遍。接一个对话入口,挂上去,剩下的交给它。没人规定它哪些问题不许答;没人留对话记录;真出了事去后台翻,翻不到,因为默认的保留期只有几天,而客户是一个月后才找上门的。
这两种反应看起来相反,其实是同一个判断结出的两个果:都相信"AI 说错话 = 公司必赔"。既然结果是注定的,那要么躲开,要么听天由命。
我的看法是,这个前提本身就没被验证过。它是一个猜测,不是一条规则。
还有第三种,介于两者之间,也很常见:上了,但只让它答"你好""在的""稍等"。这类做法没有风险,也没有价值——它没有替任何人回答任何一个问题,只是把等待包装了一下。真正会说错话的,是那些能回答退换、保修、时效、价格的机器人;而这几类,恰恰也是唯一能替你省下人力的那几类。风险和价值在同一个地方,你不能只拿走一半。
所以问题不是"要不要上",而是"上了之后,凭什么说自己已经尽到该尽的注意"。这个问法从 2026 年 1 月 14 日的那则报道之后,才真正有了落点。
二、这起判决能确证的,只有四件事
我把能确证的部分单独列出来,一条不多。
- 1这起案子由杭州互联网法院审结,是全国首例 AI「幻觉」侵权案;
- 2原告的索赔请求被驳回;
- 3判决已经生效;
- 4裁判确立的是过错责任原则,并提出了分层的注意义务。
出处是中央广播电视总台 2026 年 1 月 14 日的报道。以上四条之外,本文不再往下讲任何细节。
接下来这句话请读完:这几层注意义务的具体表述,公开报道没有展开,本文不臆测。 你在别处可能会看到有人把它讲得很细——分几层、每层叫什么、每层各要做什么。这些内容在能核到的公开报道里没有。核不到的东西,一个字都不写进来。你正在拿它做的是一个可能牵涉赔付的决定,用一段来路不明的转述去做这种决定,比不做还危险。
那这起判决对一家公司还有什么用?用处不在细则,在原则本身。
过错责任和无过错责任的区别,落到老板这边就一句话:前者看你有没有尽到该尽的注意,后者不看。 如果适用的是不看的那一种,那你做什么都一样,做和不做结果相同,那才叫真的没得救。而过错责任意味着另一件事:你事前做过的每一个动作,都有机会在事后成为"我已经尽到注意"的一部分。
也就是说,主动权有一部分在你手上。这一部分,是这篇文章接下来要讲的全部内容。
再补一句边界,我把它放在这里而不是文末,因为它是使用说明,不是免责套话:一起案件确立的是原则方向,不是发给你的免责保证书。本文不是法律意见,具体案件请咨询律师。 这篇文章能帮你做的,是把"该尽的注意"翻译成可以落地、可以留档的动作;至于这些动作在某一个具体纠纷里够不够,只有律师和法官能回答。
三、过错责任下,"尽到注意"必须留得下痕迹
过错责任真正麻烦的地方在于:"我已经很注意了"这句话,事后是没法靠嘴说的。
你说你上线前测过——测过什么、什么时候测的、结果如何?你说你提醒过客户以人工为准——哪一句、在第几轮对话里、客户看得见吗?你说你发现之后马上就改了——哪天发现的、谁改的、改完通知客户了吗?
这三个"你说",如果都答不上来,那它和没做过在事后是同一件事。
所以处方很简单:把"注意"这个态度,拆成四类能留下痕迹的动作。顺序不能反,每一条都带一个约束。
第 1 类:上线前——一张禁答清单,加一份测试记录。
先写清单,再上线,不许反过来。清单上是它一律不许回答、必须转人工的问题类型。约束有两条:第一版清单不超过一页,写多了没人记得住,也没人执行;每一条禁答项都要配一条测试问句和一次实测记录,记录带日期。清单是意图,测试记录才是痕迹。只有清单没有记录,事后你手上仍然是空的。
哪些该进第一版清单?我的建议是三类先进去:涉及钱的(价格、优惠、赔付)、涉及承诺的(时效、保修期、包退包换的范围)、涉及人身与安全的(用法、剂量、适配、施工条件)。这三类之外的,第一版可以先放。
第 2 类:对话中——免责提示,加一个始终在场的人工出口。
约束是"逐次"和"随时"这两个词。免责提示不能只在开场白里说一次然后消失——一段对话进行到第十轮的时候,开场白早就滚出屏幕了。涉及第 1 类里那三种问题时,逐次给出提示,说明以人工或书面规则为准。转人工的入口则要求"随时":每一屏都能点到,不许藏在二级菜单里,不许设置只在工作时间显示。 非工作时间点转人工,至少要给出一个明确的回复时限,让对方知道等到什么时候。
第 3 类:对话后——完整日志留存,加一个写死的保存期限。
三个约束。存整段对话,不存摘要——摘要是二次加工,事后价值远低于原文。保存期限要覆盖你所在品类的售后周期,并且写进制度,不靠某个人记得。每月确认一次它真的在存——日志停掉这件事,从界面上是看不出来的,往往是要用的那天才发现断了半年。
第 4 类:出问题后——一个响应时限,一个能改的人,一条回头通知的路径。
这三样缺一样,这一步就是空的。时限自己定死,比如当天内答复;能改的人要具名到岗位,别写"技术部";改完之后必须回头告诉那位受影响的客户,而不是默默改掉。前三类是证明你事前有防备,第 4 类是证明你事后没有放任——这两件事在过错责任下是分开算的。
四类做完,你手上就有了四样东西:一张清单、一份带日期的测试记录、一批完整日志、一条有时限的处理路径。它们的共同点是都可以被别人看见。看不见的努力,在这件事上等于零。
四、上限:第一版只开一个业务范围,跑满两周再扩
先给上限,再给顺序。
上限是:第一版只在一个业务范围内开放。 只答订单状态,或者只答退换货规则,或者只答营业时间与门店位置。选一个,别贪。
理由是归因。范围一多,两周后你会拿到一堆混在一起的问题:某次答错,你分不清是禁答清单漏了、是提示没到位、还是这类问题本来就不该交给它。归因一乱,接下来的每一个改动都变成拍脑袋。
两周里有三条不许:不许扩范围、不许改禁答清单、不许关日志。 想改的地方全部记下来,攒到第 15 天一起改。中途改一次,前面的数据就得作废重来。
两周之后只看两件事:哪些问题被转了人工(说明清单和实际需求的差距在哪),哪些回答事后被人工更正过(说明清单漏了什么)。这两张表就是第二版禁答清单的全部依据。它们比任何模板清单都准,因为它们来自你自己的客户在问的那些问题。
达标了再扩第二个业务范围,仍然一次只加一个,仍然跑满两周。
接下来是代价,三条,都得先接受再开工。
第一,留痕是要花钱的。 完整对话比摘要占的空间大得多,保存期限越长,盘越满;而且它不是一次性支出,是每个月都在走的一笔。还得有人负责按月确认它没断。这笔钱不大,但它是新增的、持续的,做预算的时候要单独列一行,别让它藏在"运维"里。
第二,人工出口给得越足,自动化率越难看。 转人工的阈值调低一档,机器人自己解决掉的比例就往下掉一截。那个当初说服你上线的"能省几个人"的数,会变得没那么好看。这一点必须提前接受:那个数难看,正是你换来的确定性的价格。 想两样都要的方案,最后通常是两样都没有。
第三,什么时候不该做这一整套。 如果你的客服对话量还没大到一个人看不过来,这套留痕机制不划算。这套只有在客服对话已经占满至少一个专职人力的时候才成立;低于这个量,多留一个人值班比建立并维护这四类痕迹便宜得多,而且不用承担新增的存储和月度检查。
最后重复一遍第二节那句话:本文不是法律意见,具体案件请咨询律师。这里给的是可以落地、可以留档的动作,不是结论。
本文事实来源
可自行复核- 1
杭州互联网法院审结全国首例 AI「幻觉」侵权案,驳回索赔请求,判决已生效;裁判确立过错责任原则,并提出分层的注意义务。中央广播电视总台,2026 年 1 月 14 日
- 2
上述分层注意义务的具体表述,在可核对到的公开报道中未展开,本文不引用、不推测其内容。
