【天维网综合报道】移民律师说，不小心发布的文件评论信息暗示官员们想隐瞒使用自动化决策、算法和人工智能的信息。

RNZ根据《官方信息法》对五国大会（在五眼联盟国家之间分享旅客、移民和难民数据）申请的信息中，在一份编辑加密文件中无意之间记录了职员们的笔记。

其中一人写着：“我以为新西兰移民局不愿意公开自动化相关的信息，尤其是涉及决策部分。”

移民律师Alastair McClymont表示，新西兰移民局对人工智能的使用非常隐秘，可能是担心公众会觉得自动化的决策不公平。

“我觉得大家可能有顾虑。我敢说，如果我去街上问路人，大家都会觉得挺可怕的。”

“我觉得最大的风险是，巩固坏决策。会出现这样的情况，那就是一旦有个人被拒签了一次，就总被拒签，因为这就是自动化流程。我们该不该担心呢？当然，而且该非常担心。但这件事本身并不让我意外，他们已经准备很长一段时间了。”

在这份文件中，修改和评论是可见的，其中一位官员记录了移民局对公开自动化信息的不情愿。

一位同事让文件起草人去问George Rodrigues。Rodrigues在2020年再次当选国际Biometrics Institute（生物特征研究所）的董事，也是新西兰移民局身份验证服务、合规风险和情报服务的经理。

这一段没有被涂黑，所以不能对申诉专员申诉。

律师们表示，涂黑信息最多的是配偶签证申请。他们担心被涂黑的段落和页面隐藏了风险评估和个人特征风险的部分。

Richard Small提到，文件中的评论暗示，系统受人操纵，更突显了从业者和移民所目睹的不透明性。

他说，在了解移民为何被拒签的官方信息和隐私法案信息时，要搞清楚其中的算法已经被证明是很难的。

“他们非常倚重自动化，他们可能也不想让公众了解他们分析个人特征（profiling）的程度，比如我们所知的，不同族裔。谁知道他们系统中还有哪些自动化特征。”

“他们的默认立场就是保密而不是透明。这就是他们的核心文化。很多例子中都能看出来。他们认为，他们的系统完全没别人的事，及时做出了不公正决策，这完全不可接受。”

MBIE在一则声明中表示，该部严肃对待自己《官方信息法》下的义务。

“我们完全相信公布信息的透明的重要性。”

“因为一个行政失误，这些评论包含在最终发布的版本中，其中包含了职员对这些材料的坦诚的初步讨论意见，这一点在公开的文件中得到了体现，但并不代表MBIE对发布信息所做的最终决策。”

“在处理《官方信息法》申请的时候，大家经常会讨论该法案的适用，着重于可得性原则，也就是除非有很好的理由，否则信息应该公开。”

但他并没有提到移民局是否、以及为何不愿意公开自动化决策信息。

申诉专员Peter Boshier人在国外，但他的办公室提到，有投诉的话，他会考虑所有相关情况。

工党议员Gaurav Sharma的《官方信息法》风波之后，在最近与政府的通讯中，一位发言人表示，申诉专员回应了总理的幕僚长，“指出他要求在培训中要准确体现出官方信息与非官方信息之间的差别。”

至于自动化决策，移民局此前曾表示，没打算使用新权力来让计算机拒签签证申请，只是通过自动化来解决签证审理中的行政步骤。

数据伦理顾问团在2020年曾对移民局的风险分析平台做了汇报。

“数据模型（机器学习）的训练靠的是过往数据。新西兰移民局倚重于此可能会对风险分析平台的业务造成影响。数据科学评估董事会应该纳来自专家的独立意见来调查该风险。数据科学评估董事会的组成过于着重内部人员，完全没有人权和伦理代表。”

“虽然给予规则的自动化是很容易评估的，但机器学习模型和基础训练数据却并非如此。”