อคติที่มีการเปลี่ยนแปลงชีวิตชาวอเมริกัน เราสามารถทำอะไรกับมันได้บ้าง

ลองจินตนาการถึงโลกที่อัลกอริธึมที่ชาญฉลาดปลอมแปลงตัดสินใจในสิ่งที่ส่งผลกระทบต่อชีวิตประจำวันของคุณ ตอนนี้จินตนาการว่าพวกเขามีอคติ

นี่คือโลกที่เราอาศัยอยู่แล้วนักวิทยาศาสตร์ด้านข้อมูลฮาร์วาร์ดระดับปริญญาเอกและผู้เขียน Cathy O'Neil กล่าว (อ่านส่วนหนึ่งของการสนทนาของเรากับ Dr O'Neil ที่นี่) เรานั่งลงกับผู้ท้าชิงรางวัลหนังสือแห่งชาติเพื่อค้นหาสิ่งที่เราสามารถทำได้เกี่ยวกับอคติในยุคของข้อมูลขนาดใหญ่ CT: AI มีอคติหรือไม่?

CO: อัลกอริทึมที่ไม่ได้ทำอย่างชัดเจนควรสันนิษฐานว่ามีอคติ เพราะในฐานะคนเรามีอคติ หากเรารับทราบและเรากำลังสร้างอัลกอริธึมเหล่านี้ด้วยค่านิยมและข้อมูลของเราเราก็ไม่ควรคิดว่ามีอะไรเกิดขึ้นอย่างน่าอัศจรรย์ในการทำให้สิ่งต่าง ๆ เป็นไปอย่างยุติธรรม ไม่มีเวทมนต์อยู่ที่นั่น

CT: อัลกอริทึมรับข้อมูลของพวกเขาอยู่ที่ไหน

โคโลราโด: มันขึ้นอยู่กับอัลกอริทึม บางครั้งสื่อสังคมออนไลน์สำหรับสิ่งต่าง ๆ เช่นการกำหนดเป้าหมายทางการตลาดทางการเมืองหรือวิทยาลัยการโฆษณาหรือแสวงหาผลกำไรและการให้กู้ยืมที่กินสัตว์อื่น - แต่ข้อมูลจำนวนมากไม่ได้ถูกรวบรวมไว้ในสื่อสังคมออนไลน์หรือแม้แต่ออนไลน์

การรวบรวมข้อมูลเชื่อมโยงกับชีวิตจริงมากขึ้นเช่นการหางานทำงานในที่ทำงานของคุณไปเรียนวิทยาลัยหรือไปติดคุก สิ่งเหล่านั้นไม่ใช่สิ่งที่เราสามารถหลีกเลี่ยงได้ตามกฎหมายความเป็นส่วนตัว พวกเขาเป็นปัญหาด้านพลังงานซึ่งผู้คนที่ถูกกำหนดโดยอัลกอริธึมไม่มีอำนาจและผู้ที่รวบรวมข้อมูลและสร้างและปรับใช้อัลกอริทึมนั้นมีพลังทั้งหมด คุณไม่มีสิทธิ์ส่วนบุคคลใด ๆ หากคุณเป็นจำเลยทางอาญาคุณไม่มีสิทธิ์ความเป็นส่วนตัวในงานของคุณและคุณไม่มีสิทธิ์ด้านความเป็นส่วนตัวมากนักหากคุณสมัครงานเพราะ หากคุณไม่ตอบคำถามที่นายจ้างในอนาคตของคุณถามคุณคุณอาจจะไม่ได้งาน

เราควรคิดถึงความเป็นส่วนตัวน้อยลงและใช้พลังงานมากขึ้นเมื่อพูดถึงอัลกอริทึมและอันตราย [อาจทำให้]

CT: เราจะทำอย่างไรให้ดีขึ้น?

CO: เราสามารถรับรู้ว่าอัลกอริทึมเหล่านี้ไม่สมบูรณ์แบบโดยเนื้อแท้และทดสอบพวกเขาสำหรับข้อบกพร่องของพวกเขา เราควรมีการตรวจสอบและติดตามอย่างต่อเนื่องโดยเฉพาะอย่างยิ่งสำหรับการตัดสินใจที่สำคัญเช่นการจ้างงานการพิจารณาคดีทางอาญาหรือการประเมินผู้คนในงานของพวกเขา - เพื่อให้แน่ใจว่าอัลกอริทึมทำหน้าที่ในแบบที่เราต้องการ

Ailsa Johnson / © Trip Trip

CT: สถานการณ์กรณีที่ดีที่สุดและเลวร้ายที่สุดสำหรับอนาคตที่ขับเคลื่อนด้วยข้อมูลคืออะไร?

CO: สถานการณ์กรณีที่เลวร้ายที่สุดคือสิ่งที่เรามีตอนนี้ - เราทุกคนคาดหวังว่าอัลกอริทึมจะสมบูรณ์แบบแม้ว่าเราจะรู้ดีขึ้นในตอนนี้ และเราเผยแพร่ความอยุติธรรมและความไม่ยุติธรรมที่ผ่านมา และเรายังคงมองข้ามข้อบกพร่องของอัลกอริธึมเหล่านี้

สถานการณ์กรณีที่ดีที่สุดคือเรายอมรับว่าอัลกอริธึมเหล่านี้ไม่ได้ดีไปกว่ามนุษย์ เราตัดสินใจในสิ่งที่เราต้องการในฐานะมนุษย์สิ่งที่เรามุ่งมั่น สิ่งที่เราต้องการให้สังคมดูเหมือนและเราสอนค่าเหล่านั้น หากเราทำสิ่งนั้นสำเร็จอัลกอริทึมเหล่านี้อาจดีกว่ามนุษย์

CT: ผู้คนในชีวิตประจำวันสามารถเล่นบทบาทอะไรได้บ้าง?

CO: บทบาทที่สำคัญที่สุดที่บุคคลสามารถเล่นได้คือการไม่เชื่อใจอัลกอริทึมใด ๆ การมีความสงสัยจำนวนมหาศาล หากคุณกำลังถูกประเมินโดยอัลกอริทึมถามว่า 'ฉันจะรู้ได้อย่างไรว่ามันยุติธรรมฉันจะรู้ได้อย่างไรว่ามีประโยชน์ฉันจะรู้ได้อย่างไรว่ามันถูกต้อง? อัตราความผิดพลาดคืออะไร? อัลกอริธึมนี้ล้มเหลวสำหรับใคร ผู้หญิงหรือชนกลุ่มน้อยล้มเหลวหรือไม่? ' ถามคำถามแบบนั้น

สิ่งที่สองนอกเหนือจากความสงสัยก็คือถ้าคุณคิดว่าอัลกอริทึมนั้นไม่ยุติธรรมสำหรับคุณหรือคนอื่นคือการจัดระเบียบกับคนอื่น ๆ ตัวอย่างล่าสุดคือครู แบบจำลองทางสถิติเกี่ยวกับครูผู้สร้างมูลค่าเพิ่มนั้นเป็นตัวสร้างตัวเลขที่น่ากลัว แต่พวกเขาถูกใช้เพื่อตัดสินใจว่าครูควรได้รับตำแหน่งใดและครูควรถูกไล่ออกทั่วสหรัฐอเมริกา

ข้อเสนอแนะของฉันสำหรับพวกเขาเพื่อให้สหภาพของพวกเขาผลักดันกลับ และสิ่งนี้ก็เกิดขึ้นในบางที่ แต่มันน่าประหลาดใจที่ความต้านทานน้อยแค่ไหนเพราะลักษณะทางคณิตศาสตร์ของระบบการให้คะแนน

CT: คุณเข้าสู่ 'ข้อมูลขนาดใหญ่' ได้อย่างไร

CO: ฉันทำงานที่ Wall Street และได้เห็นวิกฤตการณ์ทางการเงินจากภายใน ฉันรู้สึกเบื่อหน่ายกับวิธีการทางคณิตศาสตร์ที่ใช้เพื่อประโยชน์ของผู้คนหรือหลอกผู้คน ฉันเห็นความเสียหายประเภทหนึ่งซึ่งอาจมาจากการโกหกทางคณิตศาสตร์สิ่งที่ฉันเรียกว่า 'อาวุธของคณิตศาสตร์'

ฉันตัดสินใจที่จะหนีจากมันดังนั้นฉันจึงเข้าร่วม Occupy Wall Street และเริ่มทำงานเป็นนักวิทยาศาสตร์ด้านข้อมูล ฉันค่อยๆรู้ว่าเราเห็นข้อบกพร่องและทำให้เข้าใจผิดเกี่ยวกับอัลกอริทึมข้อมูลที่ทำให้เข้าใจผิดที่เกิดขึ้นนอกวอลล์สตรีทเช่นกันและนั่นจะนำไปสู่ความเสียหายมากมาย ความแตกต่างคือในขณะที่ผู้คนทั่วโลกสังเกตเห็นวิกฤตการณ์ทางการเงินฉันไม่คิดว่าผู้คนจะสังเกตเห็นความล้มเหลวของอัลกอริทึมข้อมูลขนาดใหญ่เหล่านี้เพราะพวกเขามักจะเกิดขึ้นในระดับบุคคล

อ่านส่วนหนึ่งของการสนทนากับดร. โอนีลที่นี่ หนังสือของ ดร. แคธี่โอนีลอาวุธแห่งการทำลายล้างคณิตศาสตร์: ข้อมูลขนาดใหญ่ช่วยเพิ่มความไม่เท่าเทียมและคุกคามประชาธิปไตยได้อย่างไร