第一百九十六章 渡渡的黑箱
方小满把手机拍在折叠桌上的时候，林知行正在审培训课程的第一版视频脚本。
声音很响。周然在角落的工位上扭过头来看了一眼，又转回去了。
"你看看这个。"方小满把手机推过来。
林知行放下手里的稿子，拿起手机。屏幕上是一篇科技媒体的文章，标题用黑体加粗：
《渡渡科技AI库存系统被曝秘密收集用户商业数据》
他没有马上点进去。他先看了发布时间——今天早上七点十五分。然后看了阅读量——十二万。
方小满在旁边等不及，伸手帮他划了一下，直接拉到正文中间。
报道很长，三千多字，引用了三个匿名商户的证词。第一个是做日用品批发的，说："渡渡的系统建议我把洗衣液降价20%，但他们不知道我从哪儿看出来我的进货成本的。"第二个是开便利店的，说："系统推了一条消息，说我的竞争对手在做促销，建议我也降价。但它怎么知道隔壁在做促销？"第三个是做文具批发的，没说话，只是把系统的截图贴出来——AI建议里包含了一行小字："基于周边三公里内同类商户的定价数据。"
"周边三公里内同类商户的定价数据。"林知行念了一遍。
他划到报道最下面，看了署名。作者叫赵鑫，科技产业调查记者。报道附了四张截图、两个数据来源链接，还有一段对行业专家的采访——专家说："如果用户不知道自己的数据被收集，也不清楚数据被用于什么目的，这就是违反数据隐私基本准则的。"
方小满站在旁边，胳膊抱在胸前，下巴微微抬着。
"沈渡完了。"
林知行没接话。他把报道从头到尾又读了一遍，然后把手机放回桌上。
"你听到我说的了吗？"方小满说，"沈渡完了。这个报道一出来，他在长沙签的那三家中型企业，续费率本来就只有40%——现在估计一家都留不住。"
"你想说什么？"
"我想说什么？"方小满走到白板前面，拿起马克笔，"这是我们的机会。"
他在白板上画了一条线，左边写"渡渡"，右边写"我们"。然后在"渡渡"下面写了三个词：信任崩塌、客户流失、品牌受损。在"我们"下面写了三个词：解释层、透明、信任。
"你看，"方小满指着白板，"渡渡的AI是个黑箱——用户不知道数据怎么来的，不知道AI怎么想的。我们的AI是白箱——每条建议都有决策日志，用户能看懂AI为什么这么建议。"
"所以呢？"
"所以刘总的竞争对手、陈建明的同行、王建华那边的物流公司——他们现在最怕什么？怕AI偷数据。如果我们现在出手，告诉他们我们不一样，我们的系统是透明的——"
"方小满。"林知行打断了他。
方小满愣了一下。
"这不是机会。"林知行说，"这是警钟。"
方小满放下马克笔，转过身来。
"什么意思？"
林知行站起来，走到白板前面。他没有擦掉方小满写的字，而是在旁边画了一个框，框里写了一行字：我们的系统，收集了什么数据？
方小满看着那行字，没有立刻回答。
"你仔细想想，"林知行说，"我们的系统接入了客户的POS数据、库存数据、销售流水。这些数据里，有没有我们没有明确告知用户的内容？"
"我们有用户协议——"
"用户协议是法务的事。我问的是产品层面——用户点开我们的系统，能不能清楚地看到，我们收集了哪些数据、这些数据被用在了什么地方、AI的建议是基于哪些数据推导出来的？"
方小满的嘴巴张了一下，又合上了。
他走到折叠桌前，拿起自己的笔记本电脑，打开了产品的后台。手指在键盘上敲了几下，调出了一个页面。
"决策日志，"他说，"每条AI建议下面都有解释——'这条建议基于过去七天的销售数据和库存周转率'。"
"库存周转率的原始数据呢？"
"原始数据？"
"用户能不能看到，AI计算库存周转率时，用的是哪些具体数字？比如，他店里上周一到周日每天的进货量和出货量？"
方小满的手指在键盘上停住了。
他翻了翻决策日志的页面，表情慢慢变了。
"看不到，"他说，"决策日志只写了'基于过去七天的销售数据和库存周转率'，但没有列具体的数字。"
"那用户的成本结构呢？"林知行继续问，"我们的系统在计算建议时，有没有用到用户的进货成本？"
方小满又翻了几页。他的手指在触控板上滑了两下，停住了。
"用了，"他说，声音比刚才低了一点，"定价建议那块，算法会参考进货成本来计算利润率。"
"用户知道吗？"
方小满没有回答。
办公室里安静了几秒。周然在角落抬起头，看了他们一眼，又低下去了。
"所以，"方小满说，"你的意思是——我们也有黑箱？"
"不完全是。"林知行说，"我们的解释层比渡渡好很多，用户至少能看到AI在想什么。但解释层的粒度不够——用户能看到结论，看不到过程。"
他指了指白板上写的那行字。
"如果有一篇报道，用报道渡渡的方式来报道我们——'这个AI系统建议我降价15%，我不知道它是怎么知道我的成本结构的'——我们怎么回答？"
方小满的脸色变了。
电话是十点四十分响的。
林知行正准备打开产品的技术架构文档，手机屏幕上弹出两个字：程浩。
他看了一眼方小满。方小满也看到了那个名字。
"接。"方小满说。
林知行接起来。
"知行。"程浩的声音从听筒里传出来，比上次更低，更哑，像是一整夜没睡，又像是一整夜都在说话。
"看到了。"林知行说。
"是真的。"程浩说，没有寒暄，没有铺垫。
林知行的手指在桌面上收紧了。
"报道里的三个匿名用户，"程浩说，"我核实过了。第一个日用品批发的，是长沙的客户，签了半年。第二个便利店的，是武汉的。第三个文具批发的，是成都的。三个人都是真实用户，不是竞争对手安排的。"
"数据收集的事呢？"
程浩停了一下。
"知行，"他说，"沈渡在数据收集上做了灰色操作。"
林知行没有说话。方小满在旁边凑过来，把耳朵贴在手机背面。
"渡渡的AI库存系统，"程浩继续说，"表面上是用户手动输入数据——进货量、出货量、库存水平。但实际上，系统还会通过后台接口抓取用户的POS系统数据、周边商户的公开定价信息、甚至当地的天气和交通数据。这些数据抓取没有在用户协议里明确列出，也没有单独征得用户同意。"
"沈渡知道吗？"
"知道。"程浩说，"这是他的决定。他说，数据量越大，模型越准。如果只靠用户手动输入，数据质量太差，模型准确率上不去。所以他在产品设计时就加了后台抓取的逻辑，但在用户协议里用一句'可能收集与服务相关的辅助数据'一笔带过。"
"辅助数据。"林知行重复了一遍。
"对。"程浩说，"他把周边商户的定价信息叫'辅助数据'。但这些数据对用户来说是敏感的——你的竞争对手卖多少钱，你不知道，但渡渡的AI知道。它用这些数据给你提建议，你不知道这些建议是基于什么推导出来的。"
电话那头安静了几秒。
"知行，"程浩说，"我给你打电话，不是在告密。我是想告诉你——小心。"
"小心什么？"
"小心行业。"程浩说，"这个报道出来之后，监管部门会关注AI行业的数据收集问题。如果你们的系统也有类似的问题——哪怕只是粒度不够、透明度不足——趁现在改。"
林知行的手指在桌面上敲了两下。
"程浩，"他说，"谢谢。"
"别谢我。"程浩的声音里有一丝苦笑，"我是渡渡的人。我告诉你这些，是在背叛我的公司。"
"你不欠渡渡的。"
"我欠。"程浩说，"我欠沈渡的。他给了我CTO的位子、期权、五万月薪。他对我有知遇之恩。"
他顿了顿。
"但知遇之恩和做对的事，是两件不同的事。"
电话挂了。通话时长四分十二秒。
林知行放下手机，看着方小满。
方小满的表情很复杂。刚才的兴奋劲消了一大半，取而代之的是某种他不太常见的情绪——不是恐惧，是一种被按了暂停键的思考。
"他说的你都听到了？"林知行问。
"听到了。"
"你怎么想？"
方小满在折叠桌前坐下来，双手交叠放在桌上。
"我在想，"他说，"程浩说的'小心行业'，是什么意思。"
"意思是——"林知行走到白板前，拿起马克笔，"如果监管部门开始审查AI行业的数据收集问题，第一个被查的是渡渡，第二个被查的是谁？"
他在白板上写了一行字：谁的数据收集最不透明？
"我们。"方小满说。
林知行看了他一眼。
"我们的系统收集了POS数据、库存数据、销售流水、进货成本。"他说，"这些数据对用户来说是敏感的。我们的决策日志能解释AI在想什么，但不能解释AI用了哪些原始数据。用户看不到过程，只能看到结论。"
"所以，"方小满说，"我们也有黑箱？"
"没有渡渡那么黑。"林知行说，"但也不是全透明的。"
中午，方小满去楼下便利店买了两份盒饭。
两人坐在折叠桌前吃。周然出去跑客户了，陈小川和赵大勇在另一间房间做培训课程的素材。办公室里只有他们两个人。
方小满吃了两口饭，放下筷子。
"知行，"他说，"我刚才说'这是我们的机会'，你是不是觉得我太急了？"
林知行嚼着一块鸡肉，没有立刻回答。
"不急。"他说，"你看到的是市场——竞争对手出了问题，客户会动摇，这是正常的商业判断。"
"但你说这是警钟。"
"对。"
"警钟和机会有什么区别？"
林知行放下筷子，想了几秒。
"区别在于，"他说，"机会是你想怎么赢。警钟是你想怎么活。"
方小满看着他，等着他继续说。
"渡渡出了问题，我们可以趁机抢客户。但抢到客户之后呢？我们的系统也有透明度不足的问题。如果监管部门查完渡渡，转头来查我们，我们怎么回答？"
"改。"方小满说。
"对。改。"林知行说，"但在改之前，我需要先搞清楚一个问题——我们的系统里，到底有多少用户不知道的数据收集行为。"
方小满点了点头。
"还有另一个问题，"林知行说，"程浩说'小心行业'。他说的不只是监管。他说的是——整个AI行业都在灰色地带做数据收集。渡渡被抓到了，但渡渡不是唯一一个。"
他站起来，走到白板前面。
白板上还留着方小满写的字——左边"渡渡"，右边"我们"。渡渡下面写着信任崩塌、客户流失、品牌受损。我们下面写着解释层、透明、信任。
林知行在"信任"下面画了一条线，线的下面写了一行字：
信任的前提是什么？
"透明。"方小满说。
"不只是透明。"林知行说，"透明是手段，不是目的。目的是让用户相信——你的AI不会害他。"
他转过身来，看着方小满。
"渡渡的系统建议用户降价20%，用户不知道AI是怎么知道他的成本结构的。用户的第一反应不是'AI不准'，而是'AI在偷我的数据'。"
"对。"
"如果我们的系统建议用户调整定价，用户能看到决策日志、能看到AI在想什么。但他能确认——AI没有在背后偷他的数据吗？"
方小满的筷子停在半空。
"决策日志能解释AI在想什么，"林知行说，"但不能解释AI在做什么。这两个东西不是一回事。"
他回到折叠桌前，坐下来。
"所以，"他说，"渡渡的丑闻对我们来说，既是机会，也是警钟。机会是——客户可能会因为不信任渡渡而来找我们。警钟是——如果我们不解决自己的透明度问题，客户迟早也会不信任我们。"
方小满放下筷子，靠在椅背上。
"知行，"他说，"你以前不会这么想。"
"怎么想？"
"以前你会说'我们的解释层比渡渡好，我们的准确率在提升，我们的客户信任在积累'。现在你说的是'我们的系统也有问题'。"
林知行愣了一下。
方小满说得对。以前他看到竞争对手出问题，第一反应是分析自己的优势。现在他看到竞争对手出问题，第一反应是审视自己的隐患。
这不是悲观，是清醒。
"方小满，"他说，"如果渡渡可以这么干，任何AI公司都可以这么干。包括我们。"
方小满看着他，没有说话。
窗外的阳光照进来，落在白板上。白板上的内容越来越多——漏斗图、等号、"人是最大的资产"、"信任是人和人之间最短的距离"，还有方小满刚写的"渡渡"和"我们"，以及林知行刚写的那行字：信任的前提是什么？
K572时刻表的复印件还贴在白板的角落，纸角卷起来了。
林知行看着那张时刻表，忽然想起父亲说过的话——"到了打个电话。"
父亲的信任很简单。你到了，就打个电话。你没到，就不打。
用户对AI的信任也是这样。你告诉我AI在做什么，我就信你。你不告诉我，我就不信。
问题是——他还没有把"AI在做什么"完整地告诉用户。
"方小满。"
"嗯？"
"今天下午，你和周然对接课程的事。我有一件事要做。"
"什么事？"
"把我们的系统从头到尾审一遍。"林知行说，"每一条数据的来源、每一个算法的输入、每一次数据抓取的范围——全部列出来。我要搞清楚，我们的系统里，到底有多少用户不知道的东西。"
方小满看了他几秒。
"你要给自己的产品做体检。"
"对。"
"在渡渡被查之前，先查自己。"
"对。"
方小满点了点头。他把盒饭盒推到一边，站起来。
"知行，"他说，"我承认，我刚才说'这是我们的机会'，确实急了。但你也别矫枉过正——我们的系统比渡渡干净多了。"
"干净多少？"林知行说，"我还不知道。"
他打开笔记本电脑，新建了一个文档。
标题打了三个字：体检报告。
光标闪了几下。他在第一行写下：
"第一条：POS数据的抓取范围——用户是否知道我们在抓取什么？"
方小满在旁边看了一眼，没有说话。
他知道，林知行不是在做题，是在给自己的公司做一次真正的审视。
渡渡的黑箱被打开了。但林知行的白箱，还没有完全透明。
阳光越来越亮，照在那行字上，把每一个笔画都照得很清楚。
（本章完）