Lors d'un récent forum organisé par le centre de réflexion New America, Cathy O'Neil, spécialiste des données et auteure du livre Armes de destruction mathématiques, a mis en garde contre la "confiance aveugle" placée dans les algorithmes pour obtenir des résultats objectifs. Le plus célèbre est sans doute celui grâce auquel Google s'est imposé dans le secteur des moteurs de recherche et qui est constamment modifié et amélioré pour fournir le résultat le plus proche de ce que l'internaute recherche. Les algorithmes servent aussi à détecter les cancers de la peau et rédiger des articles à partir de données brutes.

Toutefois, Cathy O'Neil cite plusieurs exemples où des algorithmes ont eu des conséquences néfastes : Des écoles publiques à Washington ont renvoyé en 2010 plus de 200 professeurs, dont certains très respectés, sur la base d'une évaluation de leurs performances établie par un algorithme. Dans le domaine financier, des décisions en matière de crédit et d'assurance sont prises aussi par des algorithmes, qui risquent de défavoriser encore davantage ceux qui sont déjà les plus pénalisés.