随着技术的持续快速发展,招聘和招聘实践也在不断发展。近年来出现了许多新兴公司,为雇主提供了使用人工智能(AI)筛选求职者并确定其就业能力的能力。这些AI驱动的招聘实践(例如使用面部和语音识别技术的实践)被吹捧为降低招聘成本和消除招聘过程中偏见的一种手段。但是,越来越多的人担心,使用AI可能会威胁求职者的隐私,并可能导致不经意地歧视性地实行雇佣行为。

在最近向联邦贸易委员会(FTC)提起的投诉中,提出了这些担忧和其他担忧,敦促对此类公司的商业行为进行调查。该投诉由位于华盛顿特区的公共利益监管机构电子隐私信息中心(EPIC)提出。EPIC的投诉对一家名为HireVue的公司开发和销售的AI驱动的招聘解决方案提出了挑战,该公司目前有700多家公司客户,在招聘过程中使用其技术。

EPIC的既定任务是使公众关注新兴的隐私和公民自由问题。在其长达13页的投诉中,EPIC声称HireVue违反了FTC法案第5条,从事不公平和欺骗性的贸易行为,并敦促FTC展开调查。 EPIC进一步呼吁联邦贸易委员会发布限制进一步使用HireVue技术的禁令,并要求HireVue披露有关其技术和机密算法的其他信息。

尽管HireVue拒绝使用面部识别技术,但它确实承认,通过与潜在求职者进行在线面试,其技术从每次视频面试中收集了数万个数据点。这些信息包括考生的语调,语调和情感。然后将这些数据点插入机密算法中,据称该算法可以洞悉申请人在该职位上获得成功的可能性。候选人无法获得其算法评估分数。根据EPIC的投诉,HireVue的客户依靠这种AI驱动的技术来决定哪些候选人继续完成招聘过程,哪些没有继续。

EIPC在其投诉中辩称,“面部识别技术”一词不仅限于用于识别或认证目的的技术,还包括检测和分析基本的人脸几何形状和面部生物特征以预测人口统计特征,表情或情绪的技术。那么,根据该定义,EPIC认为,HireVue否认其使用面部识别技术是错误的陈述,因此,根据FTC法案是一种欺骗性的贸易惯例。

此外,EPIC的投诉引起了人们对HireVue有关其技术将有助于消除招聘过程中偏见的争论的严重关注。面部识别技术的准确性已被多项研究提出质疑,这些研究在EPIC的投诉中均被引用。 EPIC声称,HireVue的技术和算法没有经过充分的可靠性,有效性或准确性测试,并指出许多研究得出结论,认为AI工具通常包含隐含的性别和种族偏见。例如,面部识别技术会根据个人的种族对情感进行不同的分析,将黑脸比白脸更生气。

EPIC还指出,尚不清楚该技术如何评估候选人的眼神接触,语气,语速和肢体语言等因素,如何适当地评估影响这些数据点的残疾人,例如自闭症患者或帕金森氏症。因此,根据AI解释这些因素的方式,可以将这种残障人士自动视为就业能力较低。由于算法是保密的,因此求职者和雇主都不清楚该技术确定依据的确切方法。因此,这些确定不能受到有意义的挑战。

此外,由于HireVue算法是机密的,求职者并不知道如何使用其个人数据。 EPIC认为,HireVue的“对生物特征数据的侵入式收集和秘密分析……对求职者造成了严重的隐私伤害”。尽管在EPIC的投诉中未特别解决,但人们也越来越关注如何存储个人数据以及存储多长时间,将其出售给谁以及数据泄露的可能性,所有这些进一步加剧了围绕使用的隐私问题在任何情况下的人工智能。

FTC将如何回应EPIC关于HireVue的投诉还有待观察,或者是否将会出现针对其他向雇主推销此类技术的公司的类似投诉。在没有联邦政府对面部识别技术进行监管的情况下,可以预期该法律领域将继续快速发展以解决这些问题。

伊利诺伊州是第一个专门解决在招聘过程中使用AI的州。从2020年1月1日起生效的《人工智能视频采访法》对选择在采访过程中使用AI的雇主施加了许多义务。要求雇主通知申请人将使用AI,征得他们的同意并遵守保密性和数据保留要求。他们还必须解释该程序如何工作以及将评估哪些特征。由于该法案目前并未规定任何违反该法案的刑罚,也未指定可提供哪些类型的补救措施,因此尚不清楚该法案将如何执行。

除非并且直到联邦政府提供指示,否则类似州法律的拼凑可能会出现。对于在多个州开展业务的雇主而言,这尤其具有挑战性。重要的是,所有当前将AI用作面试过程的一部分或将来打算使用AI作为其面试过程的雇主,必须熟悉并遵守其经营所在州的这些发展中的法律。