让算法辅助政府决策似乎是人工智能时代备受推崇的现代化治理方式。不过最近，过分信任算法的英国政府就吃了几次哑巴亏。
因为新冠疫情的暴发，英国大半学生无法参加考试。英国政府于是采取了算法估分的方式给大家期末成绩。没想到的是，自动算法估分降低了约 40% 的学生的 A-Level 成绩，让整个英国学生普遍陷入了低分崩溃中。
这个打分算法也在一片反对声中被迅速废弃。
同样的算法悲剧再次上演，这次是在政府的新建住房规划上，算法又闯祸了。
英国要造 30 万套新住房，算法规划争议巨大这个新提出的算法模型主要用于决定，英国住房部应该在哪里建造 30 万套新房，来解决英格兰的住房危机。
该算法由英国住房部（Ministry of Housing）打造，试图结合需求、人口增长和当地消费能力等因素来完美设定各地区的年度房屋建设目标。
但是根据规划顾问 Litchfields 的分析，它已经产生了一些让人哭笑不得的结果。
例如，算法要求 Kent（郡）的 Tonbridge（农村地区）每年要建造 1,440 所房屋，来容纳将近十分之一的年均人口增长。
稍微有点规划知识的专家都对这个结果非常不满，Tonbridge 是伦敦周围许多绿树成荫的郡之一，这些地区大规模建房将导致伦敦环城绿带受到蚕食。
再比如，尽管建筑空间不足，算法规划却要求伦敦将建房规模增加 3 倍，而东北、西北、Yorkshire 以及 Humber 这些也很需求旺盛的地区却被告知要减少建房规模。
很显然，这种新算法的效果事与愿违，可能使经济和地区的不平衡问题加剧，并使本来已经十分严重的可负担房屋短缺问题更为凸显。
那么，这个 “变异算法”到底是如何上岗的呢？
受限政府参数设定，住房算法 “变异”像许多不受欢迎的政策一样，这个算法的上马本来也出于好意。
几十年以来，和很多国家一样，英国的建筑规划一直充满官僚主义色彩，频频遭到居民的反对，议会的计划更是向来不受待见。由于对政府的不信任，居民们几乎会对任何发展提案进行反对。
面对这些反对，地方当局经常需要想尽办法提供每年新建房屋的数量和各种数据。这一算法最初的设立就是为了让政府能够提供具体的数据支持，让政策更容易推广。
但事实上，这个新算法并没有获得应有的期待，它的部分公式将产生巨大影响，尤其是对英格兰地区。
这是因为算法本身存在几个本质问题。
首先，算法参数过于简单，又将 “房屋数量”的权重放得过高了。
这些区域不均衡问题是由于算法本身的约束条件及其对需求的过大权重引起的。举个例子来说，假如伦敦需要的房屋数量大概是利物浦的 3 倍，那么算法就会简单粗暴的规划，伦敦在新建房目标中所占的份额将大约是利物浦的 3 倍，几乎不考虑两个城市的实际需求。
其次，算法对于新建住宅总数的数据设定，受限于政府的假设。
政府将 30 万套新建住房作为既定的可实现目标，但根据公共政策研究所（Public Policy Research）的住房研究员 Jonathan Webb 的说法，实际需求可能接近 40 万或 50 万套。
Webb 说：“这种算法的问题在于它很大程度上受限于政府所认为的住房需求是多少，但政府的这一假设实际上远低于实际需求，所以当你尝试为伦敦提供足够的房屋时，实际上会减少其他地区建造房屋的数量。而这样做的问题在于，这些地区的居民依然需要一个家。”
以曼彻斯特为例，该地区目前正处于房地产繁荣期。新房价格非常昂贵。2016 年至 2018 年，该市 14667 座新建房屋中没有一个被归类为 “经济型”这个问题非常严重，甚至成为新 BBC 电视节目的固定栏目而长期报道。但是，新算法不仅让该地区停止建造更多的经济型房屋，还要求每年减少 31%的新房建造。
这些减少可能对当地的住房和发展部门造成毁灭性后果。建筑业为发展中的北部城市的当地经济贡献了数亿美元。仅在曼彻斯特，建筑业产值就超过 40 亿英镑，是该市增长最快的部门。
“我们知道，房地产可以为经济带来很大的好处，资金规模巨大，涉及众多行业。”Webb 说。他认为如果政府降低这些地区的发展优先权，那么相关地区的整个行业可能会面临风险。虽然仍不确定开发商是否会停止在这些北部城市建造新房，但政府对房地产业的支持似乎比现在要低得多。从税收优惠和投资到快速许可权和联合项目，一切都可能处于危险之中，对当地经济的影响是灾难性的。
如果算法得到采纳，伦敦及东南部地区将大幅扩大建房规模，而更北部的城市则会将目标削减至低于当前的水平。甚至连本来对这一政策大致支持的贸易组织房屋建筑联合会（House Building Federation）也表示 “建议政府作出调整”以确保其算法确实能兑现 “北部的房屋需求”。
驱逐官僚主义？还是模仿了人类恶习？不过，在算法的控制之下，有输家当然就会有赢家。
某些地区在巨大的住房需求推动下，对开发新土地的需求也将激增，导致这些地区有限土地的地价飙升。土地所有权不断的汇集到少数人手中（目前英国的一半土地由不到 1% 的人口所占有），而且大多数土地所有者都会从房屋建设的集中增长中受益。
在伦敦 Camden 这样的地区，每年要建造的房屋数量从不到 1000 套增加到 5604 套，而可利用的土地非常少。即使政府新提议的规划改革设法解决了更多的建筑用地，也不太可释放如此高的需求激增。这种土地增长也引起了其他的连锁反应。
“如果地价过高，那么谁将有能力负担建造这些房屋的费用？很有可能是知道他们将有利可图的人。”Webb 说。从本质上讲，土地价格越昂贵，建造的房屋就越有可能成为豪华和高端住宅，因为这种类型的房屋能为开发商提供更大的利润空间，但这与算法的初衷完全相悖。
这些问题中很多甚至在算法未应用时就已经浮现出来了。对算法的实施应用仍处在很早期的近乎白纸一张的阶段，连议会投票阶段都远未达到，更别说正式实施了。相关专家和业内专家都对新的建房目标的确切后果感到迷茫。很多人都表示不明白政府到底是在支持当地经济发展还是起到反作用。
住房部表示很愿意 “修正或完善”该算法以帮助解决可能产生的抱怨，而政客和业内人士已经开始设法对其计算结果弄虚作假。
本月初，伦敦市长 Sadiq Khan 为该算法背书，条件是对负担能力和住房存量计算采用不同的权重，这本质上是通过更改公式以使其更适合伦敦的经济现状。考虑到本届政府的多变的行事风格，似乎大概率会在算法实施之前对其进行重大修改。
Gleave 说：“在这些公式中的参数实际上会受到各种因素的影响，例如政治观点、接受度、当地社区的信仰或志向。现在所做的只是在将算法努力固定在一个更直观、更实用的数字上，同时形成一个潜在的逻辑，即只能从公式中得出答案，却忽略当地的实际情况。”
住房算法和考试算法所遇到的情况并非首次。今年早些时候，英国警察推动了面部识别软件的大量测试。事实证明，该技术的错判率达到 98%。
同时，截至去年年底，有 14 个警察采用了犯罪预测软件，该软件试图提前预判一个人是否会犯罪。事实是该软件对低收入和 BAME（少数族裔）社区有不公正的偏见。
这里反复出现的一种假设是，仅使用算法就可以找到针对任何问题完全客观的解决方案。但是事实证明，所有算法在与现实世界接触时，都状况百出。
就像住房研究员 Jonathan Webb 所说：“这本质上是所有算法的问题。它们只是重现了人类的偏见。”
