ปัญหาความลำเอียงและข้อผิดพลาดของเทคโนโลยีจดจำใบหน้าที่ส่งผลกระทบในโลกจริง

เทคโนโลยีจดจำใบหน้า (FRT) กำลังถูกใช้งานอย่างแพร่หลายทั้งในธุรกิจค้าปลีกและหน่วยงานบังคับใช้กฎหมาย อย่างไรก็ตาม รายงานชี้ให้เห็นถึงความเสี่ยงร้ายแรงจากข้อผิดพลาดสองประเภทคือ ผลบวกปลอม (False Positive) และผลลบปลอม (False Negative) โดยเฉพาะในกลุ่มผู้หญิงและคนผิวสีที่มีอัตราข้อผิดพลาดสูงกว่ากลุ่มอื่นอย่างมาก

กรณีศึกษาหลายเหตุการณ์ เช่น การจับกุมที่ผิดพลาดของ Robert Williams ในปี 2020 และการสั่งห้ามห้าง Rite Aid ใช้เทคโนโลยีนี้เป็นเวลา 5 ปีในปี 2023 สะท้อนให้เห็นว่าปัญหาไม่ได้อยู่ที่ตัวซอฟต์แวร์เพียงอย่างเดียว แต่อยู่ที่ชุดข้อมูลที่ใช้ฝึกฝนมีความลำเอียง และการนำไปใช้ในสเกลขนาดใหญ่ เช่น การตรวจสอบฐานข้อมูลภาพกว่า 1.2 พันล้านภาพของหน่วยงานตรวจคนเข้าเมืองสหรัฐฯ (ICE) ซึ่งเพิ่มโอกาสเกิดความผิดพลาดนับล้านกรณี