机器学习算法已经广泛应用于社会的各行各业

机器学习算法已经广泛应用于社会的各行各业。不少应用场景，其实是利用这些机器学习算法来针对一些事件进行决策，比如说是银行审批贷款；学校审批入学申请；研究机构审批基金申请，甚至到判别犯罪情况等等。我们现在知道，这些和真实事件有关联的算法都有较高的种种风险。这些风险来自于算法的结果会作用于和人有关的决策，而有一些决策有可能会对一个人的人生发生重大影响（如贷款、入学、犯罪判定等等）。

近年来，针对这种和人的行为进行互动，特别是关键性的决策互动的机器学习算法，一个新的领域叫”Strategic ML“（可译为”策略型机器学习“）应允而生。”策略型机器学习“研究的就是，如何才能在算法结构中考虑到人的因素。在今年的ICML 2024大会上，来自以色列的研究人员Nir Rosenfeld（网页链接）做了一个关于这个新兴领域的专题讲座（网页链接）。

”策略型机器学习“目前研究的课题主要是一个简化版的分类问题，比如，”是否通过银行审批，“是否是罪犯”等明确的分类问题。在专题讲座中，Nir展示了即便是这种看似简单的问题，我们目前也仅仅是针对某些情况能对问题进行求解。在传统分类（Classic Classification）中，模型输出一个结果，那也就完成了流程。在“策略型机器学习”中，人会针对模型输出的结果产生一个应对结果，模型输出的结果减去应对结果才产生了真正的个体误差。而我们需要最大化这个个体误差，而同时也需要最小化整个模型的误差。所以很自然，即便是最简单的设置，“策略型机器学习”也是一个min-max问题。值得注意的是，因为这里面存在一个模型和人的互动，所以这里面有相当多的思想都是从经济学特别是博弈论（Game Theory）借鉴过来的方法。自然，整个领域也有相当多的机器学习和经济学的交叉课题。

对这方面有兴趣的读者，可以看看这个专题讲座。