第一百九十七章 解释层的价值
体检报告写了两天。
林知行把系统的每一层都拆开了——数据采集层、存储层、算法层、输出层。每一层下面都列出了具体的数据字段、调用接口、用户协议覆盖范围。他用红黄绿三种颜色标注：绿色是用户知情且同意的，黄色是协议里提过但不够明确的，红色是完全没有告知用户的。
方小满路过时看了一眼屏幕，脸色变了。
"红色有七条？"
"七条。"林知行说，"其中三条是后台抓取——天气数据、周边商圈客流数据、本地节假日数据。这三条我们没有单独列出，只在用户协议的末尾写了一句'可能收集与服务相关的辅助信息'。"
"和渡渡一样的问题。"
"不完全一样。渡渡抓的是竞争对手的定价数据，我们抓的是环境数据。性质不同，但透明度的问题是一样的——用户不知道。"
方小满在旁边坐下来，盯着屏幕上的红字看了很久。
"那另外四条呢？"
"四条是算法中间变量。"林知行指着屏幕，"比如库存周转率的计算，我们用了进货成本作为输入参数。用户能看到结论——'建议进货量增加15%'，但看不到过程——AI用了他的进货成本来算利润率，然后反推出进货建议。"
"这算黑箱吗？"
"不算完全的黑箱。用户能看到决策日志，知道AI在想什么。但他不知道AI用了哪些原始数据来想。"
方小满靠在椅背上，双手交叉放在脑后。
"所以，"他说，"我们的系统不是白箱，是半透明的箱。"
"对。"
"那我们怎么办？"
林知行关掉体检报告的文档，打开了一个新页面。
"改。"他说，"把所有红色条目都变成绿色。"
改到第三条的时候，周然从外面回来了。
他带了一个消息。
"林哥，"他说，把手机递过来，"你看这个。"
手机屏幕上是一篇新发布的文章，来自一个科技自媒体，标题不长，但每个字都有分量：
《同样是AI库存管理，渡渡科技是黑箱，这家公司是白箱》
林知行接过手机，点了进去。
文章不长，一千五百字左右。开头用三段话概括了渡渡的丑闻，然后话锋一转："在行业一片信任危机中，有一家创业公司的做法截然不同。"
后面的内容让林知行的手指停在了屏幕上。
作者详细描述了他们的产品——不是从技术角度，而是从用户体验角度。作者注册了一个试用账号，录入了几条模拟数据，然后翻看了系统的每一个角落。他写了三样东西：
第一，决策日志。"每条AI建议下方都有一个'查看原因'的按钮。点开之后，你能看到AI用了哪些数据、考虑了哪些因素、排除了哪些选项。"
第二，数据来源标注。"系统在录入数据时会明确标注——这些数据存储在哪里、用于什么目的、AI是否会基于这些数据做衍生分析。"
第三，纠错反馈。"如果你觉得AI的建议不对，可以直接点'不对'按钮，写一句原因。系统会把这个反馈纳入下一轮训练。"
作者在文章最后写了一段话："渡渡科技的问题不是技术不行，是设计者选择了一种用户看不到的架构。而这家公司的做法正好相反——它把AI的思考过程摊开给用户看。同样是AI，一个是黑箱，一个是白箱。白箱不一定比黑箱更准，但白箱让人信任。"
文章末尾附了他们产品的名字和官网链接。
方小满不知道什么时候凑过来的，脑袋从林知行肩膀后面探出来。
"这是谁写的？"
林知行翻到作者信息。一个叫"AI产业观察"的自媒体，粉丝八万多。
"我认识这个号，"周然说，"他们专门写AI行业的深度分析，读者大部分是中小企业老板和投资人。"
林知行把文章又读了一遍。
他的目光停在作者写的第三样东西上——纠错反馈。作者用了整整一段话来描述这个功能，语气里带着明显的惊讶："你可以在每条建议旁边直接告诉AI它错了。大多数AI产品不会给你这个机会——它们假设自己永远是对的。但这家公司的产品假设自己可能会错。"
林知行盯着这句话看了很久。
当初设计纠错反馈的时候，他想的不是信任，是数据——用户反馈越多，模型越准。但现在他意识到，这个功能的价值远不止数据层面。
它传递了一个信号：这个AI知道自己会犯错，而且愿意让你告诉它错了。
这比任何解释都管用。
下午两点，方小满的手机开始响。
第一个电话是方小满在商会群里认识的一个做食品批发的老板打来的。对方开门见山："方总，我看到一篇报道，说你们的AI系统是透明的。我正好有个问题想问——你们的系统会不会像渡渡那样，在我不知道的情况下抓我的数据？"
方小满看了一眼林知行。林知行对他点了点头。
"不会。"方小满说，"我们只收集你主动录入的数据，不会在后台抓取其他信息。而且你可以在系统里看到每一条数据的使用记录。"
对方沉默了几秒。"我考虑考虑。"
第二个电话是一个做建材批发的老板，通过朋友介绍找来的。他的问题更直接："我不在乎AI准不准。我在乎的是，这个AI会不会把我的数据卖给别人？"
方小满把这个问题转述给林知行。
林知行想了几秒，让方小满把电话给他。
"张总，"他说，"您的数据存储在我们自己的服务器上，不会提供给任何第三方。如果您不放心，可以随时导出所有数据，然后删除账号。我们不会阻止。"
对方说："我再想想。"
第三个电话是陈小川接到的。一个做日用品批发的老板，和渡渡丑闻里第一个匿名证词是同行。他的问题更尖锐："渡渡的系统建议我降价20%，我不知道它是怎么知道我的成本的。你们的系统也会算我的成本吗？"
陈小川没有直接回答，而是说："王总，您方便的话，我明天去您店里坐坐，当面给您演示一下我们的系统。您自己看，比我说什么都强。"
对方答应了。
三个电话打完，方小满在白板上画了三条线。
"三个新客户，"他说，"都是因为那篇报道来的。"
林知行坐在折叠桌前，面前摆着那篇报道的截图和体检报告的文档。他的目光在两个屏幕之间来回移动。
"三个客户，三个问题。"方小满继续说，"第一个问'会不会抓数据'，第二个问'会不会卖数据'，第三个问'怎么知道我的成本'。三个问题的本质是一样的——他们不信任AI。"
"不只是不信任AI，"林知行说，"是不信任他们看不到的东西。"
方小满转过身来。"什么意思？"
林知行站起来，走到白板前面。他拿起笔，在方小满画的三条线下面写了一行字：
用户恐惧的本质 = 看不到的过程
"渡渡的用户为什么恐慌？"他说，"不是因为AI建议他们降价，而是因为他们不知道AI是怎么知道他们的成本的。AI用了什么数据、怎么分析的、为什么得出这个结论——这些过程对他们来说是不透明的。"
"我们的系统呢？"
"我们的决策日志能解释AI在想什么——'这条建议基于过去七天的销售数据和库存周转率'。但用户能看到这些原始数据吗？能看到AI是用哪些具体数字算出库存周转率的吗？"
方小满想了想。"现在看不到。"
"对。所以那篇文章说我们是'白箱'，其实说得不够准确。我们比渡渡透明，但还不是完全透明。"
他转过身来，看着白板。
白板上的内容越来越多了。漏斗图、等号、"人是最大的资产"、"信任是人和人之间最短的距离"，还有昨天写的"信任的前提是什么"。现在又多了一行："用户恐惧的本质 = 看不到的过程"。
"知行，"方小满说，"你发现没有——那篇文章给了我们一个标签。"
"什么标签？"
"白箱。"方小满说，"这篇文章的阅读量已经过万了。它把我们和渡渡做了一个对比，给渡渡贴了'黑箱'的标签，给我们贴了'白箱'的标签。这个标签一旦传开——"
"就会变成客户的预期。"林知行接过了他的话。
"对。"方小满说，"客户来找我们，不是因为我们比渡渡好多少，是因为他们觉得我们是'白箱'——完全透明。但如果我们不是完全透明呢？"
林知行没有立刻回答。
他走回折叠桌前，打开体检报告的文档，翻到红色标注的那几条。
天气数据、商圈客流数据、节假日数据——这三条环境数据的抓取，他已经在安排周然改了，改成用户主动授权模式。
但另外四条——算法中间变量，比如进货成本作为输入参数——这个问题更复杂。不是技术上改不了，而是改了之后，决策日志的信息量会暴增。用户能接受一条建议下面附三页原始数据吗？
他想起姜意很早以前说过的话："用户要的不是更多的信息，是更好的解释。"
问题是——什么是"更好的解释"？
陈小川从外面跑完客户回来的时候，天已经黑了。
他敲了敲办公室的门，探进一个头。
"林哥，方哥，我有个事想问。"
"进来。"方小满说。
陈小川走进来，手里拿着一个笔记本。他翻到某一页，指着上面的一行字。
"今天我去见的那个做日用品批发的王总，"他说，"我给他演示了我们的系统。他看完决策日志之后，说了一句话。"
"什么话？"
"他说：'你们这个系统确实比渡渡透明。但透明归透明，你怎么保证它不会偷偷多收集一些数据？你让我看到它在想什么，但我怎么知道它没有在想别的？'"
林知行的手指在桌面上停住了。
"我怎么知道它没有在想别的。"他重复了一遍。
陈小川点了点头。"我没法回答他。我跟他说，我们只收集用户主动录入的数据，但他又问了一句——'你怎么证明？'"
办公室里安静了几秒。
"证明。"方小满说，"这个词很重要。"
他走到白板前面，拿起笔，在"用户恐惧的本质 = 看不到的过程"下面加了一行字：
信任 = 可证明的透明
"客户要的不是你说'我们是透明的'，"他说，"客户要的是你能证明'我们是透明的'。"
林知行盯着那行字。
他忽然想起了一件事。当初设计决策日志的时候，他想的是让用户看到AI在想什么。但他没有想过让用户看到AI在做什么。
"想什么"和"做什么"是两个层面。
决策日志解决了"想什么"的问题——用户能看到AI的推理逻辑。
但"做什么"的问题——AI到底用了哪些数据、抓取了哪些信息、有没有在用户不知道的情况下做额外的事——决策日志没有覆盖。
他站起来，走到白板前面。
在"信任 = 可证明的透明"下面，他写了一行字：
解释层能解释AI在想什么，但不能保证AI不会偷数据。
方小满看着那行字，沉默了很久。
"知行，"他说，"你是说——我们的解释层，功能和保证是两回事？"
"对。"林知行说，"解释层是一个功能——它让用户看到AI的推理过程。但'保证AI不会偷数据'是一个承诺——它需要的是技术审计、数据溯源、第三方验证。解释层做不到这些。"
他放下笔，转过身来。
"那篇文章说我们是白箱。但白箱只是让用户看到箱子里的东西，不能保证箱子里没有藏着别的。"
方小满靠在椅背上，双手交叉放在胸前。
"所以，"他说，"解释层的价值，比我们想象的更大——它不只是一个功能，它是信任的入口。但它的局限性也比我们想象的更大——它只是入口，不是终点。"
林知行点了点头。
窗外的路灯亮了，橘黄色的光透过窗户照进来，落在白板上。白板上的字越来越多，像是一个不断膨胀的问题集。
K572时刻表的复印件还贴在角落，纸角卷得更厉害了。
林知行看着那张时刻表，忽然想起父亲说过的一句话："你做的事我看不懂，但我知道你在做对的事。"
父亲的信任不需要解释层。父亲只需要知道他到了，就打个电话。
但用户的信任不一样。用户需要的不只是"到了打个电话"，还需要"你能证明你没有在打电话的时候做别的事"。
这比他想象的要难得多。
"方小满。"
"嗯？"
"明天，"林知行说，"我要把体检报告里的红色条目全部改完。然后我要做一件事——在系统里加一个'数据溯源'功能。"
"什么功能？"
"让用户能看到，AI的每一条建议，具体用了哪些原始数据。不只是看到结论，还要看到过程。不只是看到AI在想什么，还要看到AI在做什么。"
方小满看了他几秒。
"知行，"他说，"你知道这意味着什么吗？意味着我们要把算法的中间过程全部暴露给用户。"
"我知道。"
"用户能看懂吗？"
"看不看得懂不重要，"林知行说，"重要的是——他们能看到。能看到，就能验证。能验证，就能信任。"
他走到窗前，看着外面的路灯。
"解释层的价值，"他说，"比我们想象的更大。它不只是让用户信任AI，它是在教AI做一个诚实的系统。"
方小满没有说话。
他在白板上那行字下面又加了一行：
下一步：数据溯源。
然后他放下笔，走到门口，回头看了一眼。
"知行，"他说，"你知道今天那三个客户，最让我意外的是什么吗？"
"什么？"
"他们不在乎AI准不准。他们在乎AI会不会偷东西。"方小满说，"这说明——在信任面前，准确率是次要的。"
门关上了。
林知行一个人站在窗前，路灯的光照在他脸上。他想起排课系统第一次上线时的场景——老师们不信任系统排出来的课表，他加了解释功能，接受率从65%升到92%。
那时候他以为，解释就够了。
现在他知道了——解释只是第一步。
（本章完）