不透明算法的使用助长了公共服务内部的滥用行为

　　调查自动化数据处理越来越多地用于公共服务，但几乎没有保障措施。

　　无论是基本的还是复杂的，算法的明确目的是从定义良好的命令交付结果。另一方面，它们的使用通常是完全不透明的，即使在公共部门也是如此。一个很好的例子就是法国用来决定审计哪些家庭是否存在福利欺诈的算法。《世界报》与“灯塔报告”合作，对这种计算家庭“风险评分”的算法进行了研究，该算法由法国国家家庭拨款机构(CNAF)设计并使用，该社会保障机构负责分配包括最低收入、家庭津贴和住房援助在内的福利。经过十年的使用，公众对用于确定1380万受助家庭中哪些家庭被认为最有可能在申请福利时犯下欺诈或错误的标准所知甚少或一无所知。

　　这样一个处理大约3300万公民数据的系统的运作应该是公开的，并应成为民主辩论的对象——这是La Quadrature du Net捍卫的原则，这是一个保护互联网基本权利的非营利组织。关注此事的非营利组织成员亚历克斯(Alex)表示:“这种不透明的目的是掩盖CNAF的做法和它的真正目的:尽可能多地追回资金。”2022年，La Quadrature du Net要求CNAF公布其算法的细节，以及用于计算它的所有变量的列表。

　　阅读更多文章:数据能保持中立吗?一个算法是如何决定哪些法国家庭需要审计福利欺诈的

　　信息自由的要求是基于1978年制定的政府透明度要求的法律，最初被CNAF拒绝。该机构认为，披露其配方无异于向欺诈者提供了挫败审计所需的所有关键。网络Quadrature du Net求助于获取行政文件委员会(CADA)，该机构负责处理公民与政府部门之间的纠纷，然后可能将其提交行政法院。

　　2022年12月15日，CADA就该问题发布了一项裁决:虽然CNAF认为的规避审计的风险可以理解，但对于一个仍在使用的系统，没有什么可以阻止CNAF传播以前版本的算法。

　　正是由于这一突破，《网络Quadrature du Net》和《世界报》(Le Monde)在一项并行请求中，最近能够获得2010年至2020年用于监测福利领取者的算法的详细信息。该非营利组织在其网站上发表了一份分析报告(法语)，并呼吁“围绕导致社会机构诉诸此类做法的政治滥用展开辩论”。