Affichage des articles dont le libellé est Bayes (T). Afficher tous les articles
Affichage des articles dont le libellé est Bayes (T). Afficher tous les articles

lundi 5 novembre 2018

Les neurones de l'apprentissage


Stanislas Dehaene, Apprendre. Les talents du cerveau, le défi des machines, Paris, Odile Jacob, 380 p., Bibliogr., 22,9 €

Intelligence naturelle et intelligence artificielle, cerveau animal et humain contre apprentissage des machines (machine learning, deep learning).
Stanislas Dehaene est Professeur au Collège de France (chaire de psychologie cognitive expérimentale). Au-delà de la recherche fondamentale, son activité s'applique à l'apprentissage et à l'éducation (cf. ses ouvrages précédents : Les Neurones de la lecture, La Bosse des maths).
La connaissance de plus en plus fine de l'anatomie du cerveau et de son fonctionnement (neurones, synapses) met en évidence sa plasticité. Le cerveau est infiniment plus complexe que les machines apprenantes : une machine (un robot) ne passera pas le test de Turing de si tôt. Plus que sage et intelligent (homo sapiens), l'homme est d'abord apprenant (homo docens).

Stanislas Dehaene évoque la "révolution bayesienne » en sciences cognitives qui établit que l'enfant dès sa naissance calcule la plausibilité de toute perception ; "cerveau bayesien", dit Stanislas Dehaene, qui souligne la nouvelle conception de l'apprentissage et de l'éducation qui en découle. Il mobilise également les travaux de Jerry Fodor qui a fait l'hypothèse d'un langage de la pensée ("language of thought", LOT) existant au-delà (ou en-deçà) du langage ordinaire. Ce langage de la pensée (mentalese), doté d'une syntaxe, manipulerait des symboles pour produire la cognition et la compréhension.
L'auteur mêle habilement en de parfaites proportions les données scientifiques les plus récentes, abstraites, et des observations concrètes sur l'éducation. Anecdotes et conseils pour les parents, pour ceux qui enseignent et conçoivent l'organisation de l'enseignement, abondent. Beaucoup d'exemples sont issus de la pédagogie des langues ou des mathématiques.
Les conseils qui émergent fondent ce que Stanislas Dehaene appelle les "quatre piliers de l'apprentissage" :
  1. l'attention pour amplifier l'information ("apprendre à se concentrer"). Eviter la distraction et tout ce qui relève du multitasking
  2. la curiosité, l'engagement actif ("un organisme passif n'apprend pratiquement rien" : et voilà  pour le cours magistral). Vive Maria Montessori, Célestin Freinet et les méthodes actives !
  3. le retour sur erreur, les signaux d'erreur et de surprise. Comprendre que l'on se trompe c'est apprendre. Gaston Bachelard n'a cessé de le répéter. Donc pas de travaux sans corrigé. S'impose aussi la métacognition (auto-supervision des apprentissages), sorte de disposition épistémologique permanente, réflexion sur sa propre manière d'apprendre, auto-évaluation. Si "apprendre c'est inférer la grammaire d'un domaine", il importe de valider cette inférence et les conclusions qui ont été tirées.
  4. la consolidation des acquis qui fluidifie, recompacte, "compile", refonde ce qui a été appris ; d'où l'importance primordiale du sommeil.
Mobiliser ces quatre fonctions, voilà ce que tout enseignant devait pouvoir permettre aux élèves, aux étudiants : nous en sommes loin ! Beaucoup de bon sens qui impliquerait une réforme radicale de l'entendement pédagogique, des politiques éducatives... Mais nos sociétés témoignent-elles d'un intérêt soutenu pour l'éducation, pour l'école ? Rien n'autorise à le croire.

Tout ou presque dans ce livre pourrait (devrait ?) être appliqué à la communication et à la publicité : l'attention, la surprise, la répétition avant que ne commence la démémorisation (cf. bêta de Morgensztern). "Apprendre c'est inférer la grammaire d'un domaine".
Le doute est soulevé quant à ce que l'on appelle "big" data : car le cerveau humain procède sans avoir besoin de beaucoup de données, à la différence du machine learning. Stanislas Dehaene évoque à ce propos les travaux de Joshua Tenenbaum et al. sur l'inductivité et l'acquisition par généralisation à partir d'une faible quantité de données.

En conclusion, Stanislas Dehaene énonce treize maximes éducatives générales, sans démagogie. Cet ouvrage est un manuel de sciences de l'éducation indispensable à qui veut, doit enseigner. Cela mérite une version adaptée à destination des parents.
Parfaitement illustré, accompagné de notes nombreuses et claires, d'une bibliographie abondante (32 pages), Apprendre. Les talents du cerveau, le défi des machines bouscule beaucoup d'idées couramment reçues tant dans les domaines de la communication et de la publicité que de la pédagogie. De plus, l'ouvrage se lit avec profit et aussi avec plaisir, ce qui ne nuit pas... à l'apprentissage !

Références

Stanislas Dehaene, Cours au Collège de France
Jerry A. Fodor, LOT 2: The Language of Thought Revisited, Oxford University Press, 2010
MediaMediorum: Les sciences cognitives, sciences rigoureuses de la publicité ?
Joshua Tenenbaum, Building machine that learn and think like people
Yuval Noah Harari, A Brief History of Humankind, London: Harvill Secker, 2014. traduction française, Sapiens. Une brève histoire de l'humanité, Albin Michel, 512 p.

mardi 12 janvier 2016

Le marketing doit-il faire dans le sentiment ?


Bing Liu, Sentiment Analysis. Mining Opinions, Sentiments, and Emotions, 381 p., Bibliogr., Index, 2015, Cambridge University Press, $37,88 (ebook)

Voici un manuel universitaire et professsionnel d'analyse des émotions, des sentiments et des opinions exprimées, déclarées dans des textes. Que pense-t-on d'un produit, d'un candidat, d'un film, d'un service après-vente... Cette analyse, partiellement automatique, répond à une préoccupation primordiale des annonceurs et des agences de publicité ; ils en attendent une contribution essentielle à l'évaluation de l'impact des campagnes publicitaires : agrément, crédibilité, notoriété positive ou négative telles que l'on peut les observer dans les blogs, sur les réseaux sociaux, les critiques de produits (reviews), les courriers, les avis de consommateurs, les réponses aux enquêtes en ligne ("enquêtes de satisfaction", plus que d'insatisfaction d'ailleurs !), etc.
Sur le marché des médias et du marketing, la demande d'analyse du sentiment suit logiquement le développement du e-commerce et des réseaux sociaux, porté par les smartphones qui donnent l'occasion de recommandations, d'appréciations et de partages de toutes sortes. Le moment de l'émotion est prioritaire pour le ciblage publicitaire (cf., par exemple, MediaBrix) et pour le comportement du téléspectateur (cf. vans qui prétend donner la température instantanée d'une émission).

L'offre de données massives alimente et dynamise une demande de traitements qui conduisent au développement de ce secteur nouveau des sciences sociales, aux confins de l'informatique (NLP, machine learning) et de la linguistique. De nombreuses entreprises ont investi ce domaine de recherche et commercialisent des analyses de sentiment. La question de la pertinence et de la validité de ces analyses est fréquemment posée par les utilisateurs, souvent dubitatifs : l'enjeu est important puisqu'il s'agit, à l'aide des résultats de l'analyse de sentiments, d'orienter la stratégie d'une marque (brand equity), d'une entreprise, d'une politique... L'analyse de sentiment va au-delà des signes classiques (like, emoji, nombre de followers, etc.) considérés comme indicateurs premiers d'engagement du consommateur sur les médias sociaux puisqu'elle s'appuie sur des discours spontanés en langue naturelle (sur l'expression des sentiments par emojis, voir PLOS / one). Or rien n'est plus difficile à analyser rigoureusement que les productions langagières.

L'auteur, qui a déjà beaucoup écrit sur ce domaine, est Professeur de sciences informatiques à l'université d'Illinois. Son ouvrage, pragmatique, passe en revue les principaux éléments constitutifs de l'analyse du sentiment et les méthodologies courantes en partant de la structuration des données (catégorisation, classification, annotation). Il examine l'approche basée sur le lexique (lexicon-based approach :"sentiment lexicon", "sentiment words" comme indicateurs), l'apprentissage étant supervisé ou non.

L'analyse du sentiment s'appuie sur le traitement informatisé des langues naturelles (NLP). L'auteur regrette que les recherches actuelles (2015) recourent par trop à des algorithmes de machine learning (SVM, naïve Bayes) ; il semble plus favorable à une approche plus linguistique.
L'analyse des sentiments repose sur une classification des textes afin d'en extraire le sentiment, la polarité. Il faut structurer les données, en dégager des caractéristiques constitutives (features) ; l'analyse s'appuie entre autres sur les sentiment words, les adjectifs, les sentiment shifters. Elle peut aussi recourir à la sémantique (compositional semantics) qui associe à des ensembles de mots des règles syntaxiques de composition.

Le manuel, précis, complet, guide les lecteurs, pas à pas, dans les moindres détails des multiples méthodologies et des outils d'analyse, étape par étape. L'ensemble, doté d'une bibliographie, riche et récente, constitue un bilan utile des recherches du domaine. La majorité des exemples mobilisés portent sur des produits ou des appareils ce qui est moins malaisé que sur des marques ou sur des positionnements politiques. 

Que l'on puisse établir, mesurer la tonalité affective de discours (textes, phrases), est discuté et contesté tant il est improbable que le sentiment, tellement subjectif, puisse faire l'objet d'une analyse objective et d'une arithmétique (addition, combinaison). Dans sa vie affective, chacun de nous ne fait-il pas l'expérience irrépressible de l'incommunicabilité des sentiments, de l'incompréhension ? Chateaubriand évoquait le "vague des passions" : "Notre cœur est un instrument incomplet, une lyre où il manque des cordes, et où nous sommes forcés de rendre les accents de la joie sur le ton consacré aux soupirs" (René, 1802). Au contraire, l'analyse des sentiments compte sur des distinctions précises, donc des simplifications, des dichotomies souvent : positif / négatif, neutre parfois ! Cela peut suffire, il est vrai, lorsqu'il ne s'agit que de donner un avis sur l'accueil dans une boutique, un service après-vente ou sur des écouteurs, ou d'établir un benchmarking...

Au cours de l'exposé, de nombreux problèmes sont évoqués qui soulignent les limites de l'analyse des sentiments : par exemple, celui des phrases sarcastiques que l'on ne peut désambiguiser que par l'analyse des contextes. Le traitement des négations peut poser problème également ou encore les nuances introduites par les modalisations (actes de langage tels que croire douter, espérer, penser, craindre...) : on parle alors de "sentiment shifters". Enfin, ne perdons pas de vue la sensibilité des résultats au type de training data utilisées (représentativité des données ?), voire à l'étiquetage des données.
L'apparente sophistication des procédés d'analyse, de décorticage et décomposition des textes et de leur synthèse (score) ne parvient pas à dissimuler les simplifications premières sur lesquelles repose l'analyse du sentiment, notamment l'exploitation figée du lexique. Le langage est changeant, historiquement et géographiquement déterminé : il n'est pas d'universel. N'oublions jamais la dimension socio-linguistique des énoncés analysés : le capital langagier (i.e. culturel) n'intervient-il pas comme une modalisation générale des énoncés ?

A terme, l'analyse des émotions et des sentiments pour le marketing passera sans doute des énoncés plus ou moins longs aux photographies, aux vidéo et donc aux expressions corporelles (gestes, hexis, visage). L'évolution des médias sociaux anticipe ce basculement du texte au bénéfice de l'image, plus ou moins légendée (cf. "L'intelligence artificielle des passions de l'âme"). Les recherches en deep learning s'y emploient.
Conclusion ? Ouvrage utile, sérieux, important pour les praticiens, précieux pour discuter les limites de l'analyse des sentiments et de son exploitation commerciale, pour inviter à la circonspection et à la prudence dans l'exploitation des résultats. Quant à l'importance du sentiment, on sait ce qu'en disait Pascal : "Tout notre raisonnement se réduit à céder au sentiment" (Pensées, 470).

dimanche 27 septembre 2015

Machine learning : le mythe du grand algorithme


Pedro Domingos, The Master Algorithm. How the Quest for the Ultimate Learning Machine Will Remake Our World, New York, 2015, Basic Books, index $18,07, (eBook)

La thèse centrale du livre est celle d'un grand algorithme capable d'apprendre à partir des données disponibles, capable de créer les algorithmes nécessaires, de les combiner pour exploiter ces données de manière flexible et ouverte, et en tirer profit : "the ultimate learning machine", une sorte de metalearner (staked generalisation ?), une machine qui apprend à apprendre, algorithme des algorithmes, qui se construit elle-même : “Machine learning is something new under the sun: a technology that builds itself.”
Moins que de métaphysique, il sera donc surtout question dans ce livre de lever les secrets du machine learning, "le moteur qui transforme les données en connaissance ("the engine that turns data into knowledge").

L'auteur est Professeur de "Computer Science and Engineering" à l'Université de Washington. D'abord, il fait partager aux lecteurs son enthousiasme pour l'algorithmique qui a déjà changé notre monde. Ensuite, il montre comment elle va le changer davantage encore.
La vulgarisation classique des premières pages laisse bientôt la place à des problématiques et des raisonnements plus complexes. On n'est jamais très loin d'exposés mathématiques, simplifiés et limités, certes, mais qui demandent aux non spécialistes un effort d'attention et d'approfondissement.

En dix chapitres, Pedro Domingos parcourt l'histoire de l'algorithmique et des différents modes de raisonnement mobilisés successivement, et de manière polémique, par le machine learning. Ce sont dit-il, les 5 tribus du machine learning. L'histoire commence dans les années 1940 avec le perceptron (Frank Rosenblatt), puis les neurones et la recherche en biologie. L'auteur passe en revue la succession des écoles d'algorithmique : symbolistes (déduction inverse), connectionnistes ("back-propagation", rétro-propagation du gradient), évolutionnistes (algorithmes génétiques), bayésiens (inférence), analogistes (machines à vecteurs de support, support vector machines, ). Ces 5 tribus ensemble forment "le grand algorithme", "the five facets of a single universal learner". L'ouvrage évoque différentes techniques auxquelles recourt couramment le machine learning : probabilités conditionnelles, réseaux bayesiens, chaînes de Markov, complexité, recherche des plus proches voisins (nearest neighbors), etc.

L'auteur ne manque jamais d'anecdotes significatives et drôles, pour détendre ses lecteurs et illustrer ses démonstrations. Ainsi, exposant la différence entre l'approche linguistique (Noam Chomsky) et du machine learning, il cite Fred Jelinek, spécialiste de reconnaissance automatique de la parole (speech recognition) qui prétendait que, chaque fois qu'il excluait un linguiste de son labo, les performances de l'algorithme s'amélioraient (mais lui même avait été influencé par le linguiste Roman Jakobson). L'auteur évoque aussi Andrei Markov appliquant, lettre après lettre, le calcul des probabilités au texte de Eugène Onéguine, roman d'Alexandre Pouchkine, ce qui conduira aux fameuses et omniprésentes chaînes de Markov, qui sont au principe du PageRank de Google et de l'écriture prédictive.

En fin d'ouvrage, l'auteur effectue une mise au point bienvenue sur la notion de singularité technologique (singularity), chère à la science fiction (cf. Synth en séries), transférée des mathématiques par Vernor Vinge, mathématicien et auteur de romans de science fiction (The Coming Technological Singularity, 1993) et développée ensuite par Ray Kurzweil (Singularity is near, 2005). La singularité désigne le moment mythique où l'intelligence artificielle dépasse l'intelligence humaine, moment que Pedro Domingos propose d'appeler Point Turing ; la singularité ne peut être imaginée sans le développement d'un machine learning capable de concevoir des programmes. Selon lui, Ray Kurzweil sur-ajuste (overfitting) : il voit des exponentielles partout (law of increasing returns), même dans les fonctions linéaires où il voit des exponentielles qui n'ont pas encore décollé. Avec ce débat, on touche au messianisme de l'algorithme universel, capable d'induction, sorte de "savoir absolu" ("l'esprit se sachant lui-même comme esprit", Hegel) qui serait atteint au terme d'une phénoménologie du machine learning.

Ouvrage important pour situer l'intelligence artificielle dans la compréhension des médias numériques. De lecture agréable, parfois rude. Au-delà des techniques, l'algorithmique telle que la raconte Pedro Domingos se révèle un ensemble de techniques de pensée, techniques invisibles au commun des mortels utilisateurs. L'auteur en entr'ouvre la boîte noire : boîte de Pandore ?

jeudi 31 juillet 2014

Usages sociaux de la quantification. Analyse critique


Alain Desrosières, Prouver et gouverner. Une analyse politique des statistiques publiques, Paris, La Découverte, 2014, 285 p. Bibliogr. Introduction par Emmanuel Didier.

Ouvrage qui couronne une œuvre consacrée à la statistique publique, œuvre de praticien mais aussi de théoricien qui réféchit sur les pratiques, sur les usages sociaux des statistiques.
Epistémologue donc, Alain Desrosières analyse les statistiques d'un point de vue historique et contribue à une sociologie rigoureuse de la quantification.
"Prouver et gouverner" regroupe de nombreuses interventions de l'auteur à des colloques, dans des revues, etc. Toutes ont en commun d'analyser le fonctionnnement tant technique que politique de la quantification et de la statistique, "science de l'Etat" (selon l'étymologie).
L'auteur est décédé en 2013 ; le texte a été établi par Emmanuel Didier, chercheur (socio-histoire des statistiques), qui y consacre une longue et utile introduction.

Le livre accorde une place centrale à l'analyse des effets de la rétroaction sur les comportements quantifiés des acteurs sociaux ("quand une mesure devient une cible, elle cesse d'être une bonne mesure"). La rétroaction, appliquée à la comptabilité publique ou à la comptabilité d'entreprises (creative accounting, window dressing), voire à l'activité individuelle (benchmarking, "calculating selves", chacun devenant "entrepreneur de lui-même", selon une expression de Michel Foucault ; "calculable spaces" (Peter Miller), environnement qui impose au sujet un calcul constant).
Dans cette perspective, que penser du développement récent du "quantified self", du "wearable computing" ? Où mènent ces quantifications continues de soi-même et des performances de toutes sortes ? Comment vont-elles affecter les raisonnements, les décisions, les choix (santé, éducation, gestion domestique, emploi du temps, etc.) ?
Gouvernement de soi-même - et de son environnement - par les nombres ? Internet des choses ? La lecture d'Alain Desrosières peut servir de mise en garde, non pas contre la statistique mais contre certains de ses usages.

Oppression ou libération ? Statistique du chômage et de l'emploi, indice des prix, évolution des inégalités, indicateurs sociaux, catégories socio-professionnelles (Alain Desrosières a participé à la refonte de la nomenclature des CSP) : les statistiques sont-elles des outils de pouvoir ou bien des "outils de faiblesse aux mains des opprimés" contre les puissants ("ce qui n'est pas compté ne compte pas") ? Autrement dit, sont-elles des outils de coordination et d'administration ou bien des outils de preuve ? Comment concilier ces deux fonctions ?

L'ouvrage approfondit tour à tour de grands moments et bifurcations de l'histoire des statistiques. Le raisonnement probabiliste (Thomas Bayes, Pierre-Simon Laplace) et le raisonnement fréquentiste (Adolphe Quételet), les sondages, le travail d'Antoine-Augustin Cournot, l'histoire des notions de régression et de corrélation (Karl Pearson). L'analyse des données (Jean-Paul Benzécri, Ludovic Lebart) où l'auteur voyait une "cartographie du monde social", avec la multidimensionnalité, chère à la sociologie et aux études de consommation. Alain Desrosières convainc, s'il en était besoin, de l'omniprésence des statistiques et des conséquences sociales multiples de la quantification.

Les études médias et le marketing se repaissent de statistiques. Toutes les questions abordées ici par Alain Desrosières, techniques ou éthiques, peuvent concerner les travaux effectués sur les médias, les opinions, les consommations, les audiences, les panels... L'ouvrage invite à la critique des concepts de la statistique, au doute ; il en montre les enjeux. Alors que la publicité et les médias se jettent à corps perdu dans la data (big data) et l'intelligence artificielle, toute statistique à l'appui, les réflexions d'Alain Desrosières sont salutaires et fécondes.

dimanche 2 mars 2014

La maison du pasteur, centre de culture, objet de recherche



Leben nach Luther. Eine Kulturgeschischte des evangelischen Pfarrhauses, Deutsches Historisches Museum, 2014, Verlag Klötter, Bibliogr., Index, 247 p., 25 €

Voici le catalogue d'une exposition qui s'est tenue à Berlin, au Deutsches Historisches Museum, exposition consacrée à la vie selon Luther dans les pays du Nord de l'Europe principalement (on n'y parle pas de la France, pas plus que des Etats-Unis). Plus de cinq cents tableaux et objets courants pour reconstituer une atmosphère, évoquer un habitus culturel, un idéal social.

Au cœur du dispositif de diffusion du protestantisme se trouvent le pasteur et la famille pastorale, la femme et les enfants puisque le célibat n'est pas requis. Luther est marié et a des enfants. Aussi l'iconographie protestante montre-t-elle beaucoup d'images de la famille avec le pasteur, simplement mais dignement, au milieu des siens, au centre de leur attention.
Le presbytère (das Pfarrhaus) est bien sûr un lieu privé mais c'est aussi un lieu public, ouvert à la communauté, c'est un lieu social, de rencontre, d'enseignement, d'inculcation culturelle ("kulturell-gesellschaftliche Prägekraft"). Le pasteur s'y trouve en représentation, acteur. Pour des raisons presque didactiques, il met en scène sa propre maison (cf. le chapitre : "Die Selbst-Inszenierung des Pfarrhauses") et donne l'exemple. Il est - des tableaux le rappellent - celui qui garde le troupeau.

L'exposition évoque par le menu le métier quotidien du pasteur, métier de communication, illustré d'outils et de symboles : sablier pour chronométrer le prêche, bureau, bibliothèque, cahier de comptabilité, calendrier, registre des baptèmes et décès, journal (Tagebuch), sans oublier le long bâton muni de clochettes pour réveiller ceux qui somnolent pendant le prêche (c'est le rôle du "surveillant", "Kirchenaufseher").
Le livre, symbole de l'attitude studieuse qui convient à la piété, est omni-présent et joue un rôle essentiel. Outil de connaissance, c'est un symbole d'autorité aussi : le pasteur devant ses auditeurs tient le livre comme un sceptre (cf. Emile Benvéniste, Vocabulaire des institutions européennes, 1969). Le protestantisme ne doit-il pas sa propagation première à l'imprimé et au livre ?

Pourtant, tout cet humanisme n'aura pas empêché certains pasteurs de "dérailler" et de soutenir, parfois activement, le nazisme (chapitre : "Fatale Entgleisungen"). D'autres ont résisté au nazisme, telle Agnes Wendland, pasteure (Pfarrfrau) à Berlin.

La maison du pasteur toute entière communique la foi protestante, le sérieux, l'héritage luthérien et glorifie la vie familiale. L'exposition traduit cette sémiologie totale, où tout fait signe et converge vers un modèle religieux original, fondé sur la famille, exemplifié par le pasteur : les vêtements, la décoration des pièces, les postures et le placement de ses habitants. On peut penser aux fils de pasteur devenus célèbres : Friedrich Nietzsche (phiosophie), Ralph Waldo Emerson (littérature), Ingmar Bergman (cinéma) ou Thomas Bayes, Bernhardt Riemann (mathématiques)...
Nulle prétention sociologique n'anime cette exposition aux objectifs plutôt historiques mais comment ne pas imaginer, sur ce modèle, un travail d'analyse des univers domestiques ? Le ménage et le foyer sont des objets de recherche sous-estimés que les ciblages individuels conduisent à mal traiter et à réduire aux ménagères et aux chef de famille.


N.B. Pour un début de réflexion sur le foyer, le confort, etc. : Witold Rybczynski, Home. A short history of an idea, 1986, New York, Penguin Books, 256 p, Index.