“我看了你的草稿,”李维把打印出来的几页纸放在茶几上,“赵乾明已经停职了,内部调查组在查他擅自添加特征的事。但我想说的不是这个。”他顿了一下,“你知道为什么我会签那份限制你访问标注员日志的合同条款吗?”
“为了保护商业机密。”
“不,”李维摇头,“是因为三个月前我们自己的合规团队已经发现了同样的问题。他们给我一份内部报告,和你的结论高度重合。但我没有对外公布,也没有立即修改系统。你知道为什么吗?”
林深没有回答。他感觉到一场更大的谈话正在展开。
“因为我们有四百家付费客户,其中三百家是制造业和建筑业,他们的人力资源部明确要求我们‘优先推荐男性技术岗候选人’,虽然没有写在合同里,但销售团队心知肚明。如果我突然把算法调平,推荐名单里女性增加,那些客户会退订。公司第二季度的营收会断崖。我是cEo,我要对八百个员工的工资负责。”李维的语气平静得像在念财报。
林深握着手里的茶杯,茶汤热得烫手。“所以您明知道系统在歧视,但选择让它继续,因为客户想要歧视?”
“不,”李维身体前倾,“我选择的是过渡期。我让赵乾明加那个特征,就是为了让模型表现看起来‘符合客户预期’,同时我们内部在开发新版本,用对抗网络去偏,但需要六个月训练。我本想等新版本上线后再公开致歉,把旧版本替换掉。但你提前挖出来了。”
林深觉得荒谬:“你们用一个歧视性特征作掩护,来争取时间开发反歧视模型?这就像为了让病人不疼而给他吸毒。”
“你说得对,”李维居然笑了,那是一种疲惫的笑,“但你有没有想过,如果我直接关停旧系统,用完全没有偏见的模型,客户会认为系统‘不准确’,因为不符合他们的经验。他们会流失,公司会裁员,新版本也做不出来。有时候,技术上的最优解不是道德上的最优解,而是生存上的可行解。”
林深放下茶杯。他站起来走到玻璃窗前,看着底下蚂蚁般的人流。“李总,您的逻辑我理解。但审计报告我不可能按您的过渡期来写。我必须指出当前的偏差状态和原因。至于您内部怎么整改,那是您的选择。我只负责揭示真相。”
“即使真相会让我公司死掉?”
“如果真相能让一个公司死掉,那它本来就不该活着。”
李维沉默了很久。最后他说:“报告你发吧。但我有一个条件——把赵乾明的名字和那段注释去掉,写成‘历史数据驱动下的无意识特征衍生’。我可以承认系统性偏差,但不能让一个人背全部锅。这样我内部处理他,也不会因为实名引发法律纠纷。”
林深想了想。这个条件不算违背原则,因为根本原因确实是历史偏差,赵乾明只是选择了一个显性代理。他点了头。