โชว์ผลงาน

แต่แม้ว่าบางคนจะค้นพบว่าอัลกอริทึมนั้นขาดมาตรฐานความเป็นธรรม แต่ก็ไม่ได้หมายความว่าโปรแกรมจะต้องมีการเปลี่ยนแปลงเสมอไป Datta กล่าว เขาจินตนาการถึงสถานการณ์ที่อัลกอริธึมการจัดประเภทเครดิตอาจให้ผลลัพธ์ที่น่าพอใจแก่บางเชื้อชาติมากกว่าคนอื่นๆ หากอัลกอริทึมใช้การตัดสินใจเกี่ยวกับเชื้อชาติหรือตัวแปรที่เกี่ยวข้องกับการแข่งขัน เช่น รหัสไปรษณีย์ที่ไม่ส่งผลต่อการให้คะแนนเครดิต นั่นอาจเป็นปัญหาได้ แต่ถ้าคะแนนของอัลกอริธึมอาศัยอัตราส่วนหนี้สินต่อรายได้อย่างมาก ซึ่งอาจเกี่ยวข้องกับเชื้อชาติด้วยล่ะ “เราอาจต้องการให้เป็นเช่นนั้น” Datta กล่าว เนื่องจากอัตราส่วนหนี้สินต่อรายได้เป็นคุณลักษณะที่เกี่ยวข้องโดยตรงกับสินเชื่อ

แน่นอน ผู้ใช้ไม่สามารถตัดสินความเป็นธรรมของอัลกอริธึม

ในประเด็นที่ละเอียดกว่าเหล่านี้ได้ง่ายๆ เมื่อการให้เหตุผลเป็นกล่องดำทั้งหมด ดังนั้น นักวิทยาศาสตร์คอมพิวเตอร์จึงต้องหาวิธีทางอ้อมเพื่อแยกแยะว่าระบบการเรียนรู้ด้วยเครื่องทำงานอย่างไร

เทคนิคหนึ่งสำหรับการซักถามอัลกอริธึมที่เสนอโดย Datta และเพื่อนร่วมงานในปี 2559 ในเมืองซานโฮเซ่ รัฐแคลิฟอร์เนีย ที่งาน IEEE Symposium on Security and Privacy เกี่ยวข้องกับการเปลี่ยนแปลงอินพุตของอัลกอริทึมและสังเกตว่าสิ่งนั้นส่งผลต่อผลลัพธ์อย่างไร. “สมมติว่าฉันสนใจที่จะเข้าใจอิทธิพลของอายุของฉันที่มีต่อการตัดสินใจครั้งนี้ หรือเพศของฉันที่มีต่อการตัดสินใจครั้งนี้” Datta กล่าว “แล้วฉันก็อาจจะสนใจที่จะถามว่า ‘ถ้าฉันมีร่างโคลนที่เหมือนกับฉัน แต่เพศกลับผิดล่ะ? ผลลัพธ์จะแตกต่างกันหรือไม่?’ ด้วยวิธีนี้ นักวิจัยสามารถกำหนดว่าคุณลักษณะเฉพาะหรือกลุ่มของคุณลักษณะส่งผลต่อการตัดสินของอัลกอริทึมมากน้อยเพียงใด ผู้ใช้ที่ดำเนินการตรวจสอบประเภทนี้สามารถตัดสินใจด้วยตนเองว่าการใช้ข้อมูลของอัลกอริทึมนั้นเป็นสาเหตุของความกังวลหรือไม่ แน่นอน หากพฤติกรรมของโค้ดถือว่าไม่เป็นที่ยอมรับ ก็ยังมีคำถามว่าต้องทำอย่างไรกับมัน ไม่มี “แล้วอัลกอริธึมของคุณลำเอียงแล้วไง” คู่มือการใช้งาน.

เรื่องราวดำเนินต่อไปด้านล่างกราฟ

ภายใน AI

นักวิทยาศาสตร์คอมพิวเตอร์ Anupam Datta และเพื่อนร่วมงานได้คิดค้นวิธีที่จะแสดงให้เห็นว่าคุณสมบัติของชุดข้อมูลต่างๆ มีอิทธิพลต่อเอาต์พุตของอัลกอริทึมอย่างไร ในอัลกอริธึมที่คาดการณ์แนวโน้มที่จะก่ออาชญากรรมของบุคคล เชื้อชาติมีบทบาทแต่มีน้ำหนักน้อยกว่าประวัติยาเสพติด

กราฟของอัลกอริทึมในการทำนายกิจกรรมทางอาญา

อี. ออตเวลล์

ที่มา: A. Datta, S. Sen และ Y. Zick/ IEEE Symposium on Security and Privacy 2016

ความพยายามที่จะควบคุมอคติของเครื่องจักรยังอยู่ในช่วงเริ่มต้น Nathan Srebro นักวิทยาศาสตร์คอมพิวเตอร์จาก University of Chicago กล่าวว่า “ฉันไม่รู้ว่าระบบใดที่สามารถระบุหรือแก้ไขการเลือกปฏิบัติที่มีการใช้งานอย่างแข็งขันในแอปพลิเคชันใดๆ “ตอนนี้ส่วนใหญ่พยายามที่จะคิดออก”

นักวิทยาศาสตร์คอมพิวเตอร์ Suresh Venkatasubramanian เห็นด้วย “งานวิจัยทุกด้านต้องผ่านขั้นตอนการสำรวจนี้” เขากล่าว “ซึ่งเราอาจมีเพียงคำตอบเบื้องต้นและครึ่งหลังเท่านั้น แต่คำถามก็น่าสนใจ”

ถึงกระนั้น Venkatasubramanian จากมหาวิทยาลัย Utah ในซอลท์เลคซิตี้มองโลกในแง่ดีเกี่ยวกับอนาคตของมุมที่สำคัญของวิทยาการคอมพิวเตอร์และข้อมูล “สองสามปีแล้ว … จังหวะของการอภิปรายได้หายไปเช่นนี้: ‘อัลกอริทึมนั้นยอดเยี่ยม เราควรใช้มันทุกที่ ไม่หรอก อัลกอริธึมไม่ได้ยอดเยี่ยม นี่คือปัญหาของพวกเขา” เขากล่าว แต่อย่างน้อยตอนนี้ ผู้คนเริ่มเสนอวิธีแก้ปัญหา และชั่งน้ำหนักประโยชน์และข้อจำกัดต่างๆ ของแนวคิดเหล่านั้น ดังนั้นเขาจึงพูดว่า “เราไม่ได้คลั่งไคล้มากนัก”

credit : comcpschools.com companionsmumbai.com comunidaddelapipa.com cubecombat.net daanishbooks.com