被问及使用AI的原因时,85%的受访者认为这可以提升效率, 70%的受访者称有助于做出更明智的决定,56%的受访者表示为了减少招生中的偏见。
90%已经使用人工智能的学校的受访者表示,人工智能有可能(22%)或很可能(68%)减少招生过程中的人为偏见。
AI招生的伦理问题
尽管AI工具已经被广泛应用于美国本科申请过程中,但有三分之二的招生官同时也在关注其涉及的伦理问题。
内华达州一所私立学校的升学主任兰姆(Rob Lamb)表示高校招生办正在更为广泛地接受AI(尽管有时候是不得已而为之), 但这些人工智能工具实施的透明度很难令人恭维。
兰姆称关键词搜索的使用"尤其令人担忧"!例如,美国大学在利用历史数据训练AI时,或导致人工智能过度偏爱某些“关键词”。
兰姆表示私立高中的有钱学生会聘用专业申请发顾问,他们知道某些顶尖院校训练人工智能在推荐信或文书中重点关注哪些关键词,或者哪些小众课外活动会获得AI的格外关注。那些在申请文书、推荐信或课外活动巧妙使用这些关键信息的学生将在录取过程中占尽先机。
因此,人工智能工具或导致竞争惨烈的大学录取过程的投机性变得更强。兰姆表示,“我敢肯定,高中升学顾问或运动队教练会和高校招生办交流更多的内幕信息,他们会问,‘今年的关键词是什么?”
然而,盖耶斯基对此不敢苟同,她反驳称,对于大学招生的博弈存在多年,人工智能并不会令其明显恶化。她表示人工智能有助于消除人为错误和偏见,使录取过程更加简单明了。
人工智能对大学录取过程具有很多正面作用,例如减轻招生官不堪重负的工作量。相比规模较小的私立院校,大型公立院校更有可能在审查过程中的某个环节(尤其是审核成绩单)使用人工智能。
不过,盖耶斯基承认大学招生过程中使用人工智能的担忧并非毫无根据。例如,
人工智能工具会学习大学过去的录取模式,从而强化了历史数据中存在的隐形偏见——从而导致AI算法更加强化顶级高校对富裕白人申请学生的录取偏好。
过去数年,无论是社会思潮和法律环境都在发生改变,大学的录取标准也随之变化。某些历史偏好(例如优待有钱白人学生)正在遭到摒弃。这也导致某些强化不受欢迎历史偏好的AI招生工具腹死胎中。
尽管高校开始拥抱人工智能工具,但明智的做法是AI可以成为高校本科招生的一项有用工具,但不应具备重大决策权。尤其是在最高法院做出取缔平权行动的裁决后,确保多样性已成为高校招生工作的重中之重。
盖耶斯基指出,“有关招生过程存在的偏见及其使用的遴选标准具有太多的争议,特别考虑到最高法院近期裁决,目前各高校都非常谨慎地摸着石头过河,这也许不是坏事,技术日新月异,招生也要与时俱进。如今外部规则尚不明朗,目前可能不是一个训练招生人工智能的最佳时机。”
无论如何,高校选拔录取学生这一重要环节中,人类的洞察力和判断力不应该被人工智能完全替代。