德国宪法法院推翻了警务预测算法

原文：德国宪法法院推翻了警务预测算法——EURACTIV.com

德国联邦宪法法院周四（2月16日）在一项具有里程碑意义的裁决中宣布黑森州和汉堡警方使用Palantir监控软件违宪。

该裁决结束了德国民权协会（GFF）去年提起的案件，该案件的听证会于12月开始。原告辩称，该软件可用于预测性警务，增加了执法部门犯错误和歧视的风险。

德国黑森州自2017年以来一直在使用该软件，尽管汉堡尚未使用该软件。该技术由美国数据分析公司Palantir提供，该公司得到了包括中央情报局，联邦调查局和国家安全局在内的情报机构的早期支持。

该案代表11名原告提起诉讼，其依据是，名为“Hessendata”的软件程序通过使用数据在任何犯罪发生之前创建嫌疑人的档案，促进了预测性警务。

GFF质疑授权这些系统的行为的法律依据，GFF表示，黑森州和汉堡州没有明确说明警方可以用来获取数据的来源，或者执法部门可以进行多少数据挖掘以及基于什么理由进行数据挖掘。

根据法院的说法，授予黑森州警方的权力每年通过Hessendata平台使用数千次。

然而，州代表认为，该软件是预防犯罪的关键，只是收集和处理其他地方收集的数据。

Palantir的哥谭人工智能系统Hessendata就是从其衍生出来的，他说它只提供数据分析软件，而不是数据本身。

“Palantir将软件带到数据中，而不是将数据带到软件中”，Palantir战略与传播执行副总裁Jan Hiesserich告诉德国报纸Handelsblatt。

“由我们的客户根据相关法律规定确定哪些数据与调查相关。

然而，周四，卡尔斯鲁厄宪法法院驳回了为警方通过自动数据分析处理存储的个人数据提供法定依据的法案，例如黑森州或汉堡的自动数据解释。

这些制度被认为是违宪的，因为它们侵犯了信息自决权。

法院在一份声明中说：“鉴于权力的措辞特别宽泛，就数据和有关方法而言，干预的理由远远低于宪法要求的可识别危险的门槛。

它补充说，使用以这种方式干涉人们权利的自动措施“只允许保护特别重要的法律利益 - 例如生命，肢体或人身自由。

该裁决使汉堡法案无效，这意味着该系统不会被安装。然而，该技术已经在使用的黑森州现在必须在30日之前改革其立法。与此同时，它将在限制下继续存在。

GFF法律团队负责人Bijan Moini表示，此案还将产生更广泛的影响：“今天，联邦宪法法院禁止警方调查水晶球，并为在警察工作中使用智能软件制定了严格的指导方针。这很重要，因为警务自动化只是一个开始。

12月，欧盟基本权利机构的一份报告呼吁政策制定者确保执法部门用于预测性警务的人工智能算法经过测试，以发现可能导致歧视的偏见，特别是在立法者目前正在制定的《人工智能法案》的背景下。

执法部门对人工智能驱动工具的应用也是《人工智能法案》讨论中的一个有争议的问题，该法案是欧盟监管人工智能的里程碑式立法。欧盟部长理事会一直在推动给予警察部队更多的回旋余地，而进步的欧洲议会议员则主张采取更严格的方法。

值得思考的问题