Big data et math destruction

Cathy O'Neil, Weapons of Math Destruction. How Big Data Increases Inequality and Threatens Democracy,  Crown, New York, 2016, 272 p., $13,94 (eBook).

L'auteur est mathématicienne de formation (PhD de maths, Harvard, en théorie des nombres) ; ancienne quantitativiste (quant) dans un hedge fund (E.D. Shaw), elle a également travaillé pour une startup new-yorkaise spécialisée dans le e-commerce et l'analyse du comportement commercial des internautes (Intent Media) afin de les cibler.
Cet ouvrage de vulgarisation est servi par un rigoureux marketing (à base de data ?) et un transfert de légitimité tout à fait classique de maths, Harvard, PhD : car il faut beaucoup de légitimité, à une femme surtout, pour réussir dans ce domaine. Dans ce livre, sans toutefois cracher dans la soupe qui l'a nourrie, elle met en garde contre les algorithmes et autres modèles mathématiques qui gèrent notre vie. On l'a vue à Occupy Wall Street (Alternative Banking Group) et elle tient un blog, mathbabe.org. Avec Rachel Schutt, une ancienne googler, elle est co-auteur de l'ouvrage Doing Data Science. Straight Talk from the Front Line (O'Reilly Media, 2014). Théorie et pratique, elle sait donc de quoi elle parle et elle est parfaitement armée pour en parler.

Pour illustrer la fécondité des modèles mathématiques, elle évoque le roman Moneyball (Michael Lewis, 2003 ; au cinéma en 2011) ; il s'agit de l'application de modèles prédictifs à la gestion d'une équipe de baseball qui mobilisent des données nombreuses, fraîches et pertinentes, sans cesse rectifiées à partir de nouveaux résultats. Situation idéale. Mais ensuite le livre en vient à des exemples moins heureux. Avec leur réputation de rigueur, de rationalité et d'infaillibilité, les maths et les algorithmiques qu'ils forgent peuvent être utilisés pour des actions économiques et sociales aux résultats douteux : attribution de bourses, de prêts immobiliers, lutte contre la criminalité, classement des universités... Mal appliquées voire non suivies, parfois manipulant des données fautives, biaisées, ces mathématiques sont surtout utilisées pour légitimer des décisions politiques et sociales malheureuses et injustes : elles deviennent alors des armes de destruction sociale massives (Weapons of Math Destruction).

Le premier exemple développé est celui des subprimes et de la fameuse crise financière qui s'en suit. L'histoire est connue mais Cathy O'Neil la raconte bien, pour l'avoir vécue de l'intérieur. Le second exemple est celui du classement des universités américaines. Lancés à l'origine par l'hebdomadaire U.S. News & World Report (1988), ce type de classement repose sur des données plus ou moins discutables ; les effets en sont redoutables car, pour améliorer leur classement, des établissement sont amenés à truquer leurs données. Faute de données rigoureusement construites et pertinentes, le classement recourt à des proxies, variables fumeuses telles que la réputation, variable subjective s'il en est. Superbe chapitre, d'autant plus édifiant que ce type de classement est devenu un genre journalistique à part entière, un marronnier, et un centre de profit dans le monde entier : tout y passe désormais, les universités et les lycées, les hôpitaux, les banques, les restaurants, les villes, etc. Les classements des universités sont même devenus mondiaux : Shanghaï, Quacquarelli Symonds (QS), etc. : que de bêtises sont faites en leur nom !
Le livre déploie plusieurs autres exemples : la publicité prédatrice utilisée pour cibler des populations vulnérables, la justice et la prévision de la criminalité, le recrutement, l'établissement des emplois du temps dans les entreprises (scheduling software), l'éducation et les performances pédagogiques, le prix des polices d'assurance, les élections et le micro-ciblage...

L'ouvrage débouche sur une réflexion à propos de la propriété de la data et donc de la vie privée, notamment lorsqu'il s'agit de données concernant la santé des personnes ou la situation financière des ménages. La data emprisonne dans le passé. Droit à l'oubli ?

On the other side of the algorithms
De l'autre côté de l'algorithme, l'auteur montre la souffrance et le malheur : les faillites, les personnes perdant leur emploi et leur habitation, les vies saccagées par des emplois du temps absurdes, l'échec scolaire. Convaincant.
Mais ce ne sont pas les mathématiques qui sont en question, c'est l'usage toxique qui en est fait, selon des consignes données par des personnes et appliquées par des personnes. Le problème vient des consignes et de l'obéissance - aveugle ? - à ces consignes, dans les banques, les administrations, les entreprises, les écoles. Boîtes noires, dit-elle, "secret sauce" et de dénoncer l'opacité et les dommages créés.
Mais qui est responsable ? Ce ne sont certainement pas des algorithmes et la "secret sauce" qu'ils cuisinent ni des outils mathématiques, fatalement complexes ("by design, inscrutable black boxes").
L'auteur en appelle à la responsabilité des ingénieurs pour empêcher le mauvais usage (misuse) des données et des maths. Science sans conscience... Elle réclame une déontologie, un code de bonne conduite pour les ingénieurs et les mathématiciens, une sorte de serment d'Hippocrate adapté aux métiers de la donnée (data science) ? Dans le même ordre d'idées, l'auteur demande que soient audités les algorithmes, notamment ceux des réseaux sociaux. Mais qui a les moyens d'assurer de tels audits (revendication qui recoupe celle des annonceurs) ? La conclusion qui s'impose est que la qualité de la data est déterminante, sa fraîcheur aussi (garbage in, garbage out !) et que les utilisations des algorithmes doivent être méticuleusement et régulièrement contrôlées. Mais, ceci affecte les coûts...

L'ouvrage, en partie auto-biographique, en partie journalistique, entr'ouvre une fenêtre sur le monde social peu connu de la quantification des données (optimisation) et de la confection des bases de données. Parfois, on dirait du Balzac... Livre bien écrit, qui ne manque pas d'humour dans sa description de l'obsession quantitative (benchmarking) et des data, mais qui manque de précision. On y trouve peu de mathématiques et beaucoup de généralités sociales et politiques, beaucoup de bonne conscience, d'opinion et pas assez de démonstration. Plus de générosité et de morale que d'algorithmes. Dommage.
L'utilisation de bases de données fautives est souvent la principale source des problèmes dénoncés par l'auteur : vouloir tout inclure dans des bases de données et les utiliser pour rationaliser les recrutements (par exemple) ou encore pour "surveiller et punir", c'est se fier à un modèle économique simpliste, court-termiste. Passer de la relation sociale, du face à face, de la rencontre des visages, à une relation mécanique, aveugle, permet certes de passer des coûts variables à des coûts fixes qui s'amortissent sur de grandes échelles (scaling) : mais plus que de jugement économique, il s'agit de jugement éthique.

Portrait socio-démographique des Etats-Unis de demain

Paul Taylor and the Pew Research Center, The Next America. Boomers, Millenials, and the Looming Generational Showdown, 288 p., 2014, 2015, Perseus Group, $8,25 (eBook)

Examiner les Etats-Unis à partir de la data produite par deux sources, le recensement (Census Bureau) et les travaux de l'institut d'études et de recherche  socio-démographique Pew Research Center qui se définit comme un "fact tank", tel est l'objectif de cet ouvrage.
Les catégories d'analyse de l'auteur et, sans doute, celles de Pew Reasearch Center, semblent celles de la culture qui nourrit le journalisme et le microcosme politique américains : connivence coupable ? Un long chapitre introductif est consacré au débat électoral actuel, à sa vision politicienne, strictement bi-partisane. Comme si ce filtre politique suffisait pour comprendre et lire la "démocratie en Amérique". Beaucoup d'énergie est consacrée à la comparaison démocrates / républicains, dichotomie mobilisée pour décrire tous les aspects de la société américaine. Seconde caractéristique de cette vision, second filtre : la race comme variable descriptive voire explicative, bien que l'auteur souligne à quel point la statistique organisée selon cette notion est confuse, analyse recoupant les pages d'Hervé Lebras sur ce sujet.
Un développement important est consacré à l'imprégnation religieuse : les deux tiers de la population sont concernés ("churching of America"), cette imprégnation quelque peu déclinante. L'affiliation religieuses est changeante au cours d'une vie ; les prises de position des églises sur l'avortement, le mariage ou l'homosexualité expliquent en partie ce phénomène de churn, faith-hopping propre à la culture religieuse américaine.
L'angle général choisi par l'auteur pour son ouvrage est celui des générations (generational lens), et notamment ce qui oppose les Baby Boomers (50 ans et plus) et les Millennials (20 ans et plus). Les premiers ont du mal avec le vieillissement, les second avec le passage à l'âge adulte. La génération est choisie plutôt que l'âge comme variable explicative : les hommes ressemblent plus à leur temps qu'à leur père, dit-on.

Parmi les thèmes abordés :

• le vieillissement de la population (greying) et l'augmentation du taux de population dépendante (dependency ratio : enfants et population très âgée). 
• l'éducation : comme en France, on constate aux Etats-Unis une formation post-secondaire plus fréquente pour les femmes que pour les hommes ; de plus, les femmes ont une espérance de vie plus importante que les hommes : quelles sont les conséquences de ces deux données ? De plus, les femmes sont dans 4 cas sur 10 celles qui assurent le revenu du foyer (breadwinner) tandis qu'elles restent très sous-repésentées dans les lieux de pouvoir. Ce qui ne peut durer...
• la transformation induite par l'économie numérique fait l'objet du chapitre 11. Topo confus et convenu sur les "digital natives", générations très tôt socialisées dans une économie numérique ; pour elles, le web est un prolongement du cerveau (external brain) et les nouveaux médias (réseaux sociaux, smartphone) constituent un nouvel environnement ("The new media are the new neighborhood"). McLuhan pur et dur. L'effet global du numérique sur les conditions de vie, sur les modes de pensée et le malaise dans la société numérique ne sont que superficiellement évoqués. 

La démographie est-elle un destin, s'interroge l'auteur ? Le conflit générationnel est-il inévitable ? La question débouche sur la protection sociale qui se trouve au cœur du débat électoral. Social Security, Medicare / Medicaid, "the most sacred of scared cows", dira Milton Friedman. Politique économique et sociale opaque : faut-il rechercher une égalité des chances entre les générations ("intergenerational equity") ? L'auteur évoque les "pères fondateurs" de la Révolution américaine, Thomas Paine et Thomas Jefferson : "the earth belongs to the living, and not the dead" ; une génération ne doit donc pas pouvoir s'endetter au-delà de son espérance de vie, or, souligne l'auteur, "we're robbing the future to pay for the present".
Certes la famille est souvent le berceau de la protection sociale (aide inter vivos et héritage) mais les transferts sociaux fonctionnent de moins en moins bien, lésant les jeunes générations. Leur implication politique est cruciale : le perçoivent-elles ?

En annexe, se trouve un texte de Scott Keetler, texte bienvenu, tant par sa pertinence que par sa clarté, intitulé "How we know what we know". L'auteur évoque l'inégalité devant l'expression de l'opinion et la difficulté croissante de recruter des répondants (problème lancinant des études sur les média et la publicité). Indispensable réflexion épistémologique sur l'enquête en sciences sociales et sur le "métier de sociologue". A bon escient, l'accent est mis sur l'inégale maîtrise de la langue américaine et ses conséquences sur la représentation et sur les coûts d'enquête : que comprend l'enquêté ("cognitive hability and vocabulary"), quid des non-réponses, des biais liés à la formulation des questions... Cette annexe s'achève sur une réflexion sur la "non survey data" (ou "organic data") par opposition à la "designed data". Comment les combiner ? Robert Groves, qui fut directeur du recensement américain souligne le défi à venir pour les études média : "The challenge to the survey profession is to discover how to combine designed data with organic data, to produce resources with the most efficient information-to-data ratio". Le livre ne fait toutefois pas voir clairement les gains d'analyse d'une approche par la data, seule ou combinée.
Une seconde annexe rappelle brièvement la terminologie utilisée et propose des tableaux statistiques complémentaires.

Conclusion : voici une lecture féconde pour la connaissance des Etats-Unis par les non-Américains. Mais féconde aussi pour la comparaison avec la situation française (confronter avec le travail d'Hervé Le Bras). Très bon outil de travail critique. Mais il me semble qu'il y manque une réflexion sur les catégories d'analyse mobilisées (cf. Comment penser nos catégories de pensée ?).

L'économie numérique selon Jean Tirole, data et bien commun

Jean Tirole, Economie du bien commun, Paris, PUF, 2016, 550 p., bibliogr., 18 €

Par sa visée didactique et sa clarté, cet ouvrage s'apparente à un manuel universitaire ; il a pour objectif de situer la réflexion économique contemporaine en montrant son application aux problèmes essentiels de nos sociétés et tout particulièrement son adaptation, délicate, à leur numérisation.
Ecrit en un français limpide, sans anglicisme ni jargon, l'ouvrage aborde les questions fondamentales de l'économie parmi lesquelles l'auteur a retenu celles du marché et de la morale, de la modernisation de l'Etat, de la gouvernance de l'entreprise, de l'Europe, des crises financières, de la régulation sectorielle, du financement de l'innovation, de la propriété intellectuelle (le cas des patent trolls), du service public et de la concurrence : le numérique bouleverse toute la science économique...

Surtout, Jean Tirole souligne les "défis sociétaux" de l'économie numérique. Le quinzième chapitre commence ainsi par la confiance et "l'acceptabilité sociale du numérique" et de l'usage des données. "La confiance est non seulement liée à la compétence, mais aussi à l'absence de conflits d'intérêt", rappelle d'emblée l'auteur. Peut-on avoir confiance dans les recommandations ?
Vient le lancinant problème clé de l'économie numérique : qui est propriétaire des données, qui a le droit de les revendre ? Quelles barrières à l'entrée dans l'économie numérique cette propriété des données élève-t-elle ? L'auteur insiste sur la nécessité de séparer la fourniture des données, souvent involontaire et non perçue (par le client, le patient, l'usager, etc.), d'une part, et le traitement de ces données (par une entreprise spécialisée) d'autre part.
Prenant l'exemple de l'assurance, il évoque la dialectique de l'aléa moral et de l'antisélection, de la mutualisation du risque et de l'indispensable responsabilisation (que traduit le niveau des franchises). "L'information tue l'assurance" car elle incite à sélectionner les plus faibles risques. Quelle évolution de l'assurance est compatible avec le développement des sciences médicales et sociales qui fournissent des informations sur le risque de santé ? Les futures sociétés d'assurance seront-elles celles qui détiendront le plus d'information sur la population, sa santé et ses styles de vie (Google, Amazon, Facebook) ? Quel rôle pour les politiques de santé publique, d'éducation et de prévention ? L'auteur évoque aussi le danger de distorsion de concurrence si l'Etat ne veille pas à l'équité des modèles économiques devant les charges sociales, l'impôt sur le revenu : le cas d'Uber, et de bien d'autres optimisations fiscales pratiquées en Europe viennent à l'esprit.

L'économie des plateformes bifaces (two-sided markets), dont l'auteur est spécialiste, fait l'objet du chapitre 14 : il s'agit des cartes de crédit, d'Uber, d'Airbnb, de Google, et autres "matchmakers". Avec l'exploitation bientôt systématique de la data, toute entreprise ne devient-elle, par défaut, pas une plateforme biface ?
L'économie numérique s'appuie beaucoup sur la réduction des coûts de transaction (lecture des offres, coûts de signalement), les rendement d'échelle, les externalités de réseau, l'interopérabilité, la régulation sectorielle...

Notre Prix Nobel énonce simplement les problèmes de l'économie numérique faisant parfois un gros plan, en passant, sur la situation française. Il y observe la pénurie inquiétante de nouvelles entreprises de dimension internationale ; lui qui étudia et enseigna à Polytechnique et au MIT (et à Dauphine) souligne, en parfaite connaissance de cause, l'homologie de culture des organisations inculquée et mise en oœuvre par les grandes universités américaines (Stanford, MIT, Harvard, Yale, etc.) et les campus des grandes entreprises de l'économie numérique (Apple, Google, etc.). Bénéfice réciproque. L'université française en comparaison s'apparente plutôt à un établissement secondaire pauvre. Il y a ici matière à réflexion économique et pédagogique, plus urgente que les discours autosatisfaits sur la "French tech".

L'évolution numérique, montre Jean Tirole dans ce livre, impose de repenser tous les rouages de la société : fiscalité, salariat, santé, assurance, mobilité, socialisation, droit de la concurrence... Quant au droit du travail, il lui semble encore anachronique, trop "conçu en référence au salarié d'usine".
De nombreux exemples, toujours exposés clairement, les notes explicatives et les indications bibliographiques font de ce travail un livre convaincant et stimulant.
Cet ouvrage, modeste dans le ton, ambitieux scientifiquement, sans démagogie ni frime, constitue une remise en ordre méthodique des problèmes économiques contemporains, de ce que l'on sait et de ce que l'on ignore (et de ce que l'on ignore qu'on l'ignore, de ce dont il faut douter aussi). Il laisse percevoir l'importance des décisions morales dans l'économie : justice sociale, emploi, intégration par l'emploi et l'éducation, solidarité. Sans a priori idéologique, sans dogmatisme, sans omettre jamais la réalité et la rigueur de la science économique.
Rien pourtant, et c'est dommage, sur l'économie numérique concernant la défense, la sécurité internationale (cf. soft power, doctrine Gerasimov, etc.) et la sûreté des biens et des personnes, celle-ci étant l'un des premiers Droits de l'Homme (Art. 2, 1789).

N.B. Du même auteur, avec Jean-Jacques Laffont, Competition in Communications, Boston, The MIT Press, 1999