英国政府AI使用缺乏透明度
最近，英国科技部长彼得·凯莱承认政府部门在人工智能（AI）和算法的使用上缺乏透明度，这导致公众对这些技术的应用感到不安。自政府宣布要求所有部门登记其使用的AI系统以来，没有一个白厅部门完成这一注册过程，引发人们对公共部门部署算法技术的担忧。
AI应用现状
目前，英国政府已将AI应用于多个领域，包括福利支付和移民执法。记录显示，公共机构与多家科技公司签订了数十份关于AI和服务算法的合同。例如，内政部最近签发了一份价值高达2000万英镑的人脸识别软件合同，引发了“大规模生物识别监控”的担忧。然而，到目前为止，只有九个算法系统被注册在公共登记册上，并且没有包括福利系统、内政部或警方AI程序。
专家警告
专家们警告说，缺乏对使用AI的批判性思考可能会造成潜在危害。像内阁办公室、剑桥市和NHS这样的机构中，已注册的算法系统的数量极其有限。然而，自今年2月以来，已有164份涉及公共机构的AI合同被签署，表明了对AI技术的强劲需求。
政府承诺提高透明度
科技部长凯莱表示，公众有权了解政府如何使用算法，并承诺增强透明度。隐私倡导组织“大兄弟观察”指出，政府在使用AI技术方面的缺乏透明度可能会危及公众的数据权利。最近，阿达·洛夫莱斯研究所警告称，虽然AI系统可能看似减少了行政负担，但如果其结果具有歧视性或无效，则实际上会削弱公众信任。
目前，全国登记册上仅记录了三个算法，分别用于识别数字记录、分析人行横道和评估NHS服务的患者反馈。科技公司如微软和谷歌云正在积极推广他们的AI系统，并声称更广泛的AI部署可以为公共部门带来显著节省。凯莱还提到，这项技术可能会对政府服务产生革命性影响。
各政府部门的应用
跨各部门，AI的应用正变得越来越普遍。例如，工作与养老金部使用生成式AI来处理大量文档，并自动检测福利申请中的欺诈和错误。同时，内政部部署了一个由AI驱动的移民执法系统，尽管政府强调这并不是一个典型的机器学习系统。
关键点
- 英国政府未能注册任何AI系统，引发公众对透明度的关注。
- AI技术广泛应用于福利支付和移民执法领域，但记录严重不足。
- 专家警告潜在危害并呼吁增加透明度和监管。
