探索麻省理工学院媒体实验室研究员JoyBuolamwini的惊人发现（面部识别无法准确识别深色皮肤的面孔）的后果，以及她推动美国有史以来第一项立法来治理影响算法偏见的旅程我们大家。《编码歧视》上映于2020年的电影，由莎里妮·坎塔雅执导，编剧 莎里妮·坎塔雅、Christopher Seward，相关饰演分别有 Joy Buolamwini、Meredith Broussard、Cathy O'Neil、Silkie Carlo、Zeynep Tüfekçi、Amy Webb、Tranae Moran、Virginia Eubanks、Icemae Downes、Ravi Naik、Deborah Raji、Timnit Gebru、Safiya Umoja Noble、Wolfie O'Neil、Kiri Soares。这部电影豆瓣6.6分，
这部电影是凯西·欧尼尔书《大數據的傲慢與偏見》的延伸。
这是一个算法围绕现代公民的时代！在幕后，算法影响着我们在生活中做出的决定，从我们去哪所学校到我们是否可以获得汽车贷款以及我们必须支付多少医疗保险，这些决定越来越多地由数学模型而不是某人来判断。制作。这一切看起来都很公平：因为所有人都按照相同的规则进行评判，不受偏见的影响。
对于热心的“问题解决者”来说，大数据就像仙境。它收集信息，然后利用数学模型，使我们能够更有效地分配资源，选择最好的人和事，做出最好的决策。这些热心倡导者的决定就是要弘扬大数据应用的力量。
然而，曾经在典型的数据分析圈工作的凯西·欧尼尔并不是上述的人。
在《大數據的傲慢與偏見》中指出事实恰恰相反！这些数学模型不透明且不受监管，如果出错，受害者往往无法追索。最令人不安的是，这些模式会“强化歧视”。例如，贫困学生申请助学贷款时，可能会因为邮政编码的原因而无法获得贷款，这被贷款审核的数学模型认为是高风险还款。......这些问题造成了一个恶性循环——奖励幸运者，惩罚受压迫者，创造出一种危害民主的“有毒鸡尾酒”。
欢迎认识大数据的阴暗面
欧尼尔在《大數據的傲慢與偏見》中揭示了对我们生活各个阶段产生巨大影响的各种黑匣子数学模型。不管我们喜欢与否，算法系统已经给我们打上了“分数”。
当前的许多数学模型都失控和滥用，自我评估教师和学生，筛选简历，审查贷款，评估员工绩效，瞄准选民，决定假释名单，监控我们的健康状况。个人和社会的未来。
欧尼尔呼吁：在这个每个人都被迫在某种算法系统中拥有自己“电子分数”的时代，构建模型的人应该为他们创建的算法承担更多责任，政策制定者应该承担起监督管理责任。
这本重要的书使我们能够提出关键问题，揭露这些“数学毁灭性武器”的真相，并要求变革。
这部电影是这本书的延伸。