人工智能不是简单地改变我们做我们的工作:这也是决定我们是否找到工作。越来越多的公司合并算法工具到他们的招聘流程,从软件读取我们的简历到人工智能机器人这方面我们第一次面试。现在在纽约,新的立法确定有多少说人工智能可以应用在工作。
本周,监管机构从城市的消费者和工人将开始执行首开先河的法律保护是直指AI偏见在工作场所。法律从雇主需要更多的透明度,使用人工智能和算法工具招聘和晋升决策;它还要求公司进行年度审计潜在的偏见在机器内部。7月5日开始执行。
虽然是一个大步走向透明AI如何决定谁工作,一些批评人士说,与他人law-along遵循目前还不足以保护雇佣候选人的偏见。作为人工智能的能力竞赛之前,监管机构需要跑得更快。
纽约市的AI雇佣法律如何影响求职者吗?
首次超过了2021年,这个城市的招聘法律规定,公司使用AI和algorithmic-based雇佣和晋升的工具必须告诉所有候选人。候选人也可以问什么个人资料被收集。
随着美国平等就业机会委员会主席夏洛特洞穴在听证会上今年,多达四个五个美国雇主使用某种自动化技术就业决策。bwinchina这些工具并不仅限于内部秘密项目:供应商出售大量的现成的软件,调整算法理想公司的招聘简介。现在的人工智能在招聘过程中每一步。这些包括:
- 自动恢复安检人员阅读工作申请和推荐最好的候选人开放的角色
- 匹配算法冲刷成千上万的工作职位推荐角色候选人和亦然
- 社交媒体刮刀收集数据,申请人根据他们所编译的性格描述发现在线
- 基于ai聊天机器人要求候选人质疑他们的资格,然后决定是否会在面试过程中进行
- 算法的视频平台候选人回答面试问题相机,记录他们的回答,做他们的反应,并分析其声乐或面部模式主观特征如“开放”或“责任心”
- 逻辑游戏所谓确认品质像“冒险”或“慷慨”
“很难描绘了一幅完整的画面,因为有很多不同的供应商提供这些工具的大公司,”本·温特斯的AI和人权项目电子隐私信息中心(EPIC),今年春天告诉石英。市场的规模使得很难跟踪的工具,和难以控制。
重要,当这些工具的制造商不愿意透露他们里面有什么技术在某些情况下,这些公司使用它们并不总是理解算法是优先。bwinchinaAI-powered招聘技术被发现飘bwinchina忽不定,任意的,通常歧视性的决策该规则对应聘者。
算法的视频软件,生成不同的人格得分当候选人眼镜或头巾,或者AI采访工具,不能转录不同的区域有不同的口音在英国。算法被发现减少对科技女性角色,德国人精通英语,或者只是忙候选人叫杰瑞德。
纽约市的法律规定,公司必须聘请独立审计师每年审查他们的人工智能工具的偏见。评估一个“影响比率”,衡量技术对招聘的影响在合法的保护组织定义的种族,种族,和gender-although,值得注意的bwinchina是,不是残疾人或老员工。由雇主违反将导致罚款。
但批评者说的AI雇佣法律吗?
但倡导伦理使用AI批判法律和测量的标准,说它不意味深长地保护求职者远远不够。他们指责道,除非法律是密封的,开发人员可以找到漏洞通过或bypass-audits。
”有一个真正关心良好治理工具,审计和影响评估关于人工智能程序,成为这个行政wand-waving面前的你的脸,”温特斯表示。
他引用了一个例子涉及平台HireVue视频面试。在史诗般的提起联邦贸易委员会申诉HireVue(pdf)的算法和人脸识别技术的使用,公司聘请独立审计师调查偏差的产品。bwinchinaHireVue发表发布说审计师没有发现偏倚风险。温特斯说,但是当你访问审计,没有国家的工具是unbiased-just审计员没有没有足够的信息来决定。
“我不抱任何希望,(法律)将给我们任何的信息,”他补充道,“或者真的让人们增加股本与雇佣他们的经验。”
纽约市的法律对批判并不陌生。后通过De Blasio下政府在2021年提出监管骑拥挤的公众听证会和大量的公开评论;执行被推迟了两次,第一次今年1月到4月,然后从4月到7月,考虑反馈。一些公共利益倡导者说,修订法律的倾向反对监管的商业利益。
“什么可能是一个具有里程碑意义的法律被淡化,失去效力,”亚历山德拉•吉文斯,民主与技术中心的主席,bwinchina告诉《纽约时报》为由,狭窄的措辞,让许多使用AI的审计。“我最大的担忧是,这成为全国模板当我们应该问更多的政策制定者。”
还有其他地方写入法律规范AI在招聘吗?
虽然纽约市的法律是第一个地址偏见基于ai的招聘工具,其他州也搬到调节自动化招聘技术。bwinchina伊利诺斯州和马里兰监督早期人工智能视频招聘软件,都要求求职者同意被评估的算法。同时,加利福尼亚等州,新泽西,纽约,和佛蒙特州,加上哥伦比亚特区,在工作在法律规范在招聘中使用人工智能。
和国会议员在欧洲已经批准了欧盟AI法案,一项全面的规则集分类算法技术的风险分类,允许欧盟限制高风险技术完全禁止软件排名“不可接受的”。bwinchina
如何在面试候选人的信任所使用的人工智能吗?
其他倡导道德AI持乐观态度,尽管他们的缺点,法律应对招聘算法迫使求职者的一些有意义的透明度。”(法律)都是有缺陷的,”蒙纳斯隆,纽约大学的资深研究科学家负责人工智能中心,今年春天告诉石英。但他们也让AI监管更混凝土和统治算法蛮荒的美国西部。如果监管机构想法律工作,斯隆和其他人填补漏洞的一个方法:资源。
“没有资金具体思考创新和遵从性,”斯隆说。改变,她认为,regulators-not只是公司承包audits-must给审计人员和资源的访问他们需要执行他们的工作。只有这样才能候选人相信公司的招聘过程使用真正的独立工具,技术,和协议。否则,求职者和监管机构必须采取人工智能工具的公司使用他们自己的语言。