Vivim en l'edat de l'algoritme. Les decisions que afecten les nostres vides no estan fetes per humans, sinó per models matemàtics. En teoria, això hauria de conduir a una major equitat: tots són jutjats d'acord amb les mateixes regles, sense biaix. Però en realitat, passa exactament el contrari. Els models que s'utilitzen en l'actualitat són opacs, no regulats i incontestables, fins i tot quan estan equivocats. Això deriva en un reforç de la discriminació: si un estudiant pobre no pot obtenir un préstec perquè un model de préstec ho considera massa arriscat (en virtut del seu codi postal), quedarà exclòs del tipus d'educació que podria treure-ho de la pobresa, produint una espiral viciosa. Els models apuntalen als afortunats i castiguen als oprimits: benvingut al costat fosc del big data.
O'Neil exposa els models que donen forma al nostre futur, com a individus i com a societat. Aquestes «armes de destrucció matemàtica» qualifiquen a mestres i estudiants, ordenen currículums, concedeixen (o neguen) préstecs, avaluen als treballadors, es dirigeixen als votants, fixen la llibertat condicional i minven la nostra salut.