Amazon สั่งห้ามตำรวจใช้ซอฟต์แวร์จดจำใบหน้าเป็นเวลาหนึ่งปี ตามที่คณะรัฐมนตรีระบุ การระงับการใช้ Amazon Rekognition ชั่วคราวได้รับการออกแบบเพื่อให้รัฐบาลมีโอกาสมากมายในการแนะนำกฎระเบียบและกรอบการทำงานเพื่อป้องกันไม่ให้การจดจำใบหน้ามีส่วนทำให้เกิดการเลือกปฏิบัติในทุกรูปแบบ ในระหว่างนี้ Amazon จะยังคงอนุญาตให้องค์กรต่างๆ ที่อุทิศตนเพื่อแก้ไขปัญหาต่างๆ เช่น การค้ามนุษย์และการลักพาตัวเด็ก ใช้เทคโนโลยีของตนต่อไป การประกาศดังกล่าวเกิดขึ้นหลังจากการดำเนินการที่คล้ายกันของ IBM ซึ่งได้ระงับกิจกรรมการพัฒนาและการวิจัยทั้งหมดที่เกี่ยวข้องกับเทคโนโลยีที่เป็นที่ถกเถียงกันนี้ เนื่องจากมีความเสี่ยงในการใช้งานในทางที่ผิด
อเมซอน การจดจำใบหน้า
แม้ว่าเทคโนโลยีการจดจำใบหน้าจะก้าวหน้าไปมากในช่วงไม่กี่ปีที่ผ่านมา และสามารถมีส่วนช่วยในการสืบสวนของตำรวจได้อย่างถูกกฎหมาย แต่การประยุกต์ใช้เทคโนโลยีนี้ก็ยังคงเป็นที่ถกเถียงกันอยู่เสมอ ความกังวลเกี่ยวกับความเป็นไปได้ของการสอดแนมจำนวนมากและการให้คะแนนทางสังคมนั้นประกอบไปด้วยปัญหาอคติที่เกี่ยวข้องกับ AI ซึ่งอาจนำไปสู่การถูกเลือกปฏิบัติโดยพิจารณาจากคุณลักษณะทางกายภาพของพวกเขา วิธีตรวจสอบชุดข้อมูลพื้นฐานโมเดล AI (รวมถึงซอฟต์แวร์จดจำใบหน้า) สำหรับอคติยังคงไม่สอดคล้องกันและไม่ได้รับการควบคุม ทำให้เกิดความเป็นไปได้ที่เทคโนโลยีนี้อาจเป็นอันตรายต่อกลุ่มประชากรชนกลุ่มน้อยต่อไป Amazon Rekognition จัดการกับอคติทางเชื้อชาติ โดยรายงานปี 2019 ที่ร่วมเขียนโดยนักวิจัย Joy Buolamwini และ Deborah Raji อ้างว่าซอฟต์แวร์ดังกล่าวไม่สามารถระบุคนผิวคล้ำได้อย่างถูกต้อง และยังสร้างความสับสนระหว่างผู้หญิงผิวเข้มกับผู้ชายอีกด้วย การศึกษายังพบว่าระบบของ Amazon สามารถประเมินภาพของบุคคลที่มีผิวสีแทนได้ด้วยความแม่นยำที่แทบจะสมบูรณ์แบบ จากนั้นผลลัพธ์ได้รับการตรวจสอบโดยกลุ่มนักวิจัย AI ซึ่งสะท้อนถึงความกังวลของ Buolamwini ที่ว่าเทคโนโลยีไม่ควรใช้ในบริบทของการบังคับใช้กฎหมาย ดูเหมือนว่า Amazon จะได้ข้อสรุปเดียวกัน แม้ว่าจะไม่เคยยอมรับข้อกล่าวหาว่าซอฟต์แวร์ Rekognition ของตนมีอคติทางเชื้อชาติก็ตาม “เรากำลังดำเนินการระงับชั่วคราวหนึ่งปีสำหรับตำรวจที่ใช้เทคโนโลยีจดจำใบหน้าของ Amazon” แถลงการณ์ที่ออกโดยบริษัท ระบุ “เราได้สนับสนุนให้รัฐบาลต่างๆ กำหนดกฎระเบียบที่เข้มงวดมากขึ้นเพื่อควบคุมการใช้เทคโนโลยีจดจำใบหน้าอย่างมีจริยธรรม และในช่วงไม่กี่วันที่ผ่านมา ดูเหมือนว่าสภาคองเกรสพร้อมที่จะรับมือกับความท้าทายนี้” “เราหวังว่าการเลื่อนการชำระหนี้ชั่วคราวหนึ่งปีนี้จะช่วยให้รัฐสภามีเวลาเพียงพอในการดำเนินการตามกฎที่เหมาะสม และเราพร้อมที่จะช่วยเหลือหากมีการร้องขอ” ไม่มีใครรู้ว่ามีหน่วยงานบังคับใช้กฎหมายกี่แห่งที่ใช้ Amazon Rekognition ก่อนการแบน แม้ว่าการตัดสินใจครั้งนี้จะถือเป็นการเปลี่ยนแปลงนโยบายครั้งใหญ่ตั้งแต่ปี 2018 เมื่อ Andy Jassy CEO ของ AWS บอกกับพนักงานว่าเขาพอใจกับคุณค่าที่บริการมอบให้กับลูกค้าทุกคน รวมถึง ตำรวจ. ผ่านทาง The Verge