สัมมนาเรื่องการคัดกรองผู้สมัครงานอัตโนมัติ

ทัศนคติ ความเห็น และการอนุมาน

1. d) It treated the software as objective without questioning how it learnedเขาบอกว่าซอฟต์แวร์เรียนรู้จากการตัดสินใจในอดีตและทำซ้ำรูปแบบใด ๆ ในนั้น การเรียกว่าเป็นกลางจึงเป็นความไม่รอบคอบ
2. b) They are also far from neutral, and a program can at least be checkedเธอบอกว่ามนุษย์แทบไม่เป็นกลาง โดยยกตัวอย่างการตัดสินแบบรวบรัด และโปรแกรมยังตรวจสอบได้
3. a) That people judge applications very quicklyเธอบอกว่าบ่งชี้ถึงการตัดสินแบบรวบรัดจำนวนมากของผู้ตรวจสอบที่เป็นมนุษย์
4. c) The supplier would not reveal how it workedผู้จัดจำหน่ายบอกว่าวิธีของตนเป็นความลับทางการค้า บริษัทจึงอธิบายเหตุผลที่ปฏิเสธไม่ได้
5. b) Rejected applicants had no way to challenge the decisionsเขาบอกว่าหากไม่มีคำอธิบาย ผู้สมัครที่ถูกปฏิเสธก็โต้แย้งการตัดสินไม่ได้
6. d) A tool that saves effort is wrongly assumed to be justเธอบอกว่าเครื่องมือนี้แก้ปัญหาเรื่องต้นทุน แต่ไม่มีใครต้องพิสูจน์ว่ามันเป็นธรรม
7. a) Firms only look for biases they already know aboutเขาบอกว่าบางบริษัททดสอบอย่างรอบคอบ แต่ทดสอบเฉพาะอคติที่รู้อยู่แล้วเท่านั้น
8. c) It is valuable only if the person genuinely judges the resultเธอบอกว่าคนที่แค่คลิกอนุมัติไม่ถือเป็นมาตรการป้องกันได้มากนัก ดังนั้นบทบาทที่แท้จริงของบุคคลนั้นจึงสำคัญ

ฟังรายละเอียด

1. ten / 10Marco บอกว่ามันเรียนรู้จากการตัดสินใจในอดีตสิบปี
2. seven / 7Lin อ้างค่าเฉลี่ยเจ็ดวินาที
3. secretผู้จัดจำหน่ายบอกว่าวิธีนั้นเป็นความลับทางการค้า
4. ten thousand / 10000 / 10,000Lin บอกว่าใบสมัครหนึ่งหมื่นฉบับในหนึ่งสัปดาห์เป็นปัญหาเรื่องต้นทุน ซึ่งเครื่องมือนี้แก้ได้
5. one / 1 / singleอาจารย์ขอให้แต่ละคนร่างนโยบายหนึ่งหน้า

Professor Siddiqui: Last week we looked at how automated tools sort job applications. This week I'd like your reactions to the case study. Marco, you've read it. Was the company wrong to use the system?

Marco: Not necessarily wrong, though I'd say careless. The company claimed the software was objective because it had no opinions. But it had learned from ten years of past hiring decisions, and if those decisions favoured a certain kind of candidate, the system simply reproduced the pattern, only faster.

Lin: I'd push back a little. Human recruiters are hardly neutral. One study in the reading found that people reviewing applications spent an average of seven seconds on each one, which suggests plenty of snap judgements. At least a program can be audited.

Professor Siddiqui: An important distinction. Can it be audited in practice?

Lin: That depends on whether anyone is allowed to look inside. In this case the supplier refused, saying the method was a trade secret, so the company couldn't explain its own rejections.

Marco: Which seems to me the real scandal. Had the company been able to explain a decision, a rejected applicant could have challenged it. As it was, people were turned away by a process nobody could describe.

Professor Siddiqui: So the objection is not to the technology as such, but to its opacity.

Lin: Mostly, yes, though I'd add that efficiency is being mistaken for fairness. Ten thousand applications in a week is a cost problem, and the tool solves the cost problem. Whether it's fair is a separate matter that nobody was obliged to answer.

Marco: I'm not sure I'd go quite that far. Some firms do test their tools carefully. The difficulty is that they test for the biases they already know about.

Professor Siddiqui: Which brings us to your assignment. I'd like each of you to draft a one-page policy for a small organisation that wants to use such a tool. I don't want a ban, and I don't want blind enthusiasm. What safeguards would you require? Think about who should be able to see the results, how often the system should be reviewed, and what an applicant is entitled to ask.

Lin: Can the policy include a human decision at the end?

Professor Siddiqui: Certainly, but be specific about what that person actually does. A human who merely clicks approve on a machine's recommendation is not much of a safeguard.