假设您是一名职业顾问。您正坐在客户对面，一个失业的人。在系统中找到它们后，向上将在计算机屏幕上弹出以下文本;“增加了长期失业的风险。”

这种评估是通过一种算法进行的，该算法通过有关公民的性别，年龄，居住，受教育程度，收入，种族，病史等数据，估算出该人的时长(与来自相似背景的其他人相比) -预计将保留在系统中并获得收益。

但是，根据具有相似背景的人在求职过程中所管理的内容来表征个人公民是否合理?根据哥本哈根大学的一项新研究，没有。

“您必须了解人们是人类。我们会变老，生病，经历悲剧和胜利。因此，与其试图预测个人的风险，不如考虑在就业中心领域实施改进的和更透明的课程，”计算机科学系助理教授，该研究的其中一位研究人员Naja HoltenMøller说。

Møller与来自同一系的两位同事Thomas Hildebrandt教授和Irina Shklovski教授一起，探索了使用预测失业人员的工作准备以及可能出现的道德方面的算法的替代方案。

“我们研究了如何以道德和负责任的方式开发算法，算法确定的目标也对职业顾问有意义。在这里，至关重要的是要找到一种平衡，在这种平衡中，失业个人的当前状况由工作来评估顾问，与此同时，人们使用一种算法从相似的轨迹中学习，” Naja HoltenMøller说。

工作顾问需要帮助创建算法

使用求职算法不是一个深思熟虑的方案。但是，尽管有数位数据法专家提出了批评，但丹麦劳动力市场和招聘局已经推出了这种算法来预测公民长期失业的风险。

“显然，在公共领域使用的算法不得损害公民。通过挑战这种情况和假设，即失业者在工作中心的目标始终是找到工作这一假设，我们就能更好地理解道德挑战。可能有很多原因。因此，研究表明，为最脆弱的公民快速弄清楚时间框架可能是一个更好的目标。通过这样做，我们可以避免部署危害性很大的算法。” Naja HoltenMøller解释说。

在研究中接受调查的职业顾问对算法的评估将如何影响他们自己的判断，特别是对弱势公民的关注表示关注。

“必须建立一个框架，在该框架中，职业顾问可以对指导该算法的基本目标产生真正的影响。实现这一目标很困难，将需要时间，但对结果至关重要。同时，应将其保持在请注意，有助于做出决定的算法会极大地改变工作顾问的工作。因此，一种道德方法涉及考虑他们的建议。” Naja HoltenMøller解释说。

我们必须考虑道德方面

Naja HoltenMøller指出，虽然算法对于例如提供一个公民可能期望失业多长时间的想法很有用，但这并不意味着在职业中心使用此类预测在道德上是合理的。

“梦dream以求的是，该算法可以识别其他人遗忘的模式。对于那些经历过个人悲剧的人来说，通过系统的特定路径似乎是最好的选择。例如，该算法可以确定您由于疾病或离婚而失业，您能否避免长期失业取决于某某某事，”她说，并总结道：

“但是我们将如何处理这些信息，并且可以以明智的方式部署它以做出更好的决定?工作顾问通常能够自行评估一个人是否很可能长时间失业。这些评估它由面对面的会议，专业精神和经验所塑造，而在这些会议中，最好是催生面向公众的新系统的伦理发展。”