Affichage des articles dont le libellé est réseaux neuronaux. Afficher tous les articles
Affichage des articles dont le libellé est réseaux neuronaux. Afficher tous les articles

lundi 5 novembre 2018

Les neurones de l'apprentissage


Stanislas Dehaene, Apprendre. Les talents du cerveau, le défi des machines, Paris, Odile Jacob, 380 p., Bibliogr., 22,9 €

Intelligence naturelle et intelligence artificielle, cerveau animal et humain contre apprentissage des machines (machine learning, deep learning).
Stanislas Dehaene est Professeur au Collège de France (chaire de psychologie cognitive expérimentale). Au-delà de la recherche fondamentale, son activité s'applique à l'apprentissage et à l'éducation (cf. ses ouvrages précédents : Les Neurones de la lecture, La Bosse des maths).
La connaissance de plus en plus fine de l'anatomie du cerveau et de son fonctionnement (neurones, synapses) met en évidence sa plasticité. Le cerveau est infiniment plus complexe que les machines apprenantes : une machine (un robot) ne passera pas le test de Turing de si tôt. Plus que sage et intelligent (homo sapiens), l'homme est d'abord apprenant (homo docens).

Stanislas Dehaene évoque la "révolution bayesienne » en sciences cognitives qui établit que l'enfant dès sa naissance calcule la plausibilité de toute perception ; "cerveau bayesien", dit Stanislas Dehaene, qui souligne la nouvelle conception de l'apprentissage et de l'éducation qui en découle. Il mobilise également les travaux de Jerry Fodor qui a fait l'hypothèse d'un langage de la pensée ("language of thought", LOT) existant au-delà (ou en-deçà) du langage ordinaire. Ce langage de la pensée (mentalese), doté d'une syntaxe, manipulerait des symboles pour produire la cognition et la compréhension.
L'auteur mêle habilement en de parfaites proportions les données scientifiques les plus récentes, abstraites, et des observations concrètes sur l'éducation. Anecdotes et conseils pour les parents, pour ceux qui enseignent et conçoivent l'organisation de l'enseignement, abondent. Beaucoup d'exemples sont issus de la pédagogie des langues ou des mathématiques.
Les conseils qui émergent fondent ce que Stanislas Dehaene appelle les "quatre piliers de l'apprentissage" :
  1. l'attention pour amplifier l'information ("apprendre à se concentrer"). Eviter la distraction et tout ce qui relève du multitasking
  2. la curiosité, l'engagement actif ("un organisme passif n'apprend pratiquement rien" : et voilà  pour le cours magistral). Vive Maria Montessori, Célestin Freinet et les méthodes actives !
  3. le retour sur erreur, les signaux d'erreur et de surprise. Comprendre que l'on se trompe c'est apprendre. Gaston Bachelard n'a cessé de le répéter. Donc pas de travaux sans corrigé. S'impose aussi la métacognition (auto-supervision des apprentissages), sorte de disposition épistémologique permanente, réflexion sur sa propre manière d'apprendre, auto-évaluation. Si "apprendre c'est inférer la grammaire d'un domaine", il importe de valider cette inférence et les conclusions qui ont été tirées.
  4. la consolidation des acquis qui fluidifie, recompacte, "compile", refonde ce qui a été appris ; d'où l'importance primordiale du sommeil.
Mobiliser ces quatre fonctions, voilà ce que tout enseignant devait pouvoir permettre aux élèves, aux étudiants : nous en sommes loin ! Beaucoup de bon sens qui impliquerait une réforme radicale de l'entendement pédagogique, des politiques éducatives... Mais nos sociétés témoignent-elles d'un intérêt soutenu pour l'éducation, pour l'école ? Rien n'autorise à le croire.

Tout ou presque dans ce livre pourrait (devrait ?) être appliqué à la communication et à la publicité : l'attention, la surprise, la répétition avant que ne commence la démémorisation (cf. bêta de Morgensztern). "Apprendre c'est inférer la grammaire d'un domaine".
Le doute est soulevé quant à ce que l'on appelle "big" data : car le cerveau humain procède sans avoir besoin de beaucoup de données, à la différence du machine learning. Stanislas Dehaene évoque à ce propos les travaux de Joshua Tenenbaum et al. sur l'inductivité et l'acquisition par généralisation à partir d'une faible quantité de données.

En conclusion, Stanislas Dehaene énonce treize maximes éducatives générales, sans démagogie. Cet ouvrage est un manuel de sciences de l'éducation indispensable à qui veut, doit enseigner. Cela mérite une version adaptée à destination des parents.
Parfaitement illustré, accompagné de notes nombreuses et claires, d'une bibliographie abondante (32 pages), Apprendre. Les talents du cerveau, le défi des machines bouscule beaucoup d'idées couramment reçues tant dans les domaines de la communication et de la publicité que de la pédagogie. De plus, l'ouvrage se lit avec profit et aussi avec plaisir, ce qui ne nuit pas... à l'apprentissage !

Références

Stanislas Dehaene, Cours au Collège de France
Jerry A. Fodor, LOT 2: The Language of Thought Revisited, Oxford University Press, 2010
MediaMediorum: Les sciences cognitives, sciences rigoureuses de la publicité ?
Joshua Tenenbaum, Building machine that learn and think like people
Yuval Noah Harari, A Brief History of Humankind, London: Harvill Secker, 2014. traduction française, Sapiens. Une brève histoire de l'humanité, Albin Michel, 512 p.

vendredi 27 juillet 2018

Les sciences cognitives, sciences rigoureuses de la publicité ?


La cognition. Du neurone à la société, sous la direction de Thérèse Collins, Daniel Andler et Catherine Tallon-Baudry, Paris, essais Folio, Gallimard, 2018, 727 p., Index des noms, bibliographie (hélas, pas d'index des notions), 14,9 €

David Vernon, Artificial Cognitive systems. A Primer, 2014, MIT Press, Boston, 266 p. Index (des noms et des notions). 40 $.

Cet ouvrage imposant peut servir de manuel et de carte pour s'orienter dans les multiples disciplines réunies sous le label général de sciences de la cognition. La lecture du sommaire seule (17 p.) donne le vertige : il s'agit donc d'un outil complet, d'une encyclopédie du domaine. Il sera utile aux étudiants mais aussi aux praticiens de la publicité dont ces sciences ne sont pas le domaine de prédilection. La plupart des chapitres recoupent des préoccupations actuelles de la publicité qu'il s'agisse principalement du ciblage sous toutes ses formes ou de l'évaluation des actions publicitaires (décision d'achat, attribution, performance, agrément, prédiction...). Beaucoup de chapitres seront également utiles à certains domaines du journalisme auxquels il apportera un peu de rigueur et de prudence (psychologie générale, santé, conseils aux parents, psychologie de l'enfant, etc.). L'évolution rapide de ce secteur scientifique impose une mise à jour régulière des manuels, défi pédagogique constant.

Quelque uns de ces chapitres :
- l'émotion
- l'intention
- la perception visuelle (computer vision)
- l'action (la rationalité)
- la personnalité et la personnalisation
- l'attention (distraction, multitasking)
- la mémoire (mémorisation, démémorisation, oubli)
- le langage, etc.

L'ouvrage commence par ce que Jean-Paul Sartre appelait "le sérieux" de la cognition, les données physiologiques : "de la molécule au neurone" puis des neurones au cerveau" chapitre qui se termine par un développement sur "le défi des neurosciences cognitives". Un chapitre complet est consacré au développement, un autre à l'évolution, puis à la perception visuelle, au langage, à la décision (apprentissage, rationalité), à la conscience, au raisonnement, à l'émotion, etc. La question éthique est également évoquée.
D'autres dimensions de la cognition peuvent être abordés par l'activité publicitaire, notamment la création. Comment la tester, l'évaluer ? Les réactions aux tests et enquêtes diverses (AB testing), le design des interfaces utilisateur (UI), la gestion des interactions, tout cela relève également, peu ou prou, des sciences de la cognition. Pensons encore à ce qu'apporte et qu'apportera le développement des capteurs portables (wearables divers et fitness trackers, sous forme de bracelets, d'adhésifs, etc.) capables d'enregistrer en continu (donc réduisant bientôt les biais) des données biologiques et biométriques (rythme cardiaque, sudation, tension, température, mouvement des yeux, niveau de cortisol, etc.) et de les analyser en temps réel ou presque. Ces capteurs devraient révolutionner l'observation indispensable à la compréhension de la cognition.

Devant l'ambition totalisante du livre, comment ne pas évoquer le traité des Passions de l'âme (1647) de Descartes, qui s'attaquait alors aux mêmes problèmes, avec les outils anatomiques et mécaniques de son époque. Mais aussi, plus près de nous, évoquer les ouvrages philosophiques de Henri Bergson sur les "données immédiates de la conscience", la mémoire, le rire ou encore les ouvrages de Jean-Paul Sartre sur l'émotion, l'imaginaire, l'imagination qui relevaient et relèvent encore en France du programme des cours de philosophie. L'espoir de comprendre la cognition, la pensée et sa relation au corps, est ancien (Aristote, Περὶ Ψυχῆς, De anima). L'âme a fait place aux neurones. Quelle sera l'étape suivante de cette histoire des sciences "psychologiques" ?

C'est pourquoi nous mentionnons un manuel universitaire qui met l'accent sur l'intelligence artificielle dans ses relations à la cognition : Artificial Cognitive systems. David Vernon part des sciences cognitives pour en dégager les paradigmes et le système (perception, apprentissage, anticipation, action, adaptation). Au terme de cette analyse, l'auteur passe à l'architecture cognitive puis à l'autonomie, notion clef pour la robotique. Avec la cognition artificielle, celle des machines qui apprennent, David Vernon examine ensuite l'articulation des concepts classiques, l'intention et l'attention (shared intentionsjoint attention) ou encore la mémoire et la prospective, la connaissance et la représentation. L'ouvrage se conclut par l'approche de la cognition sociale.

La confrontation de ces deux manuels permet de mieux situer l'ambition des sciences cognitives et ce qu'y apportent l'intelligence artificielle et les machines. Le lien des sciences cognitives avec l'intelligence artificielle est évident : données (capteurs), réseaux neuronaux, algorithmes, apprentissage, robots, etc.
D'Aristote à ces manuels, les sciences de la cognition ont changé de technique, allant de la philosophie générale à l'informatique en passant par les mathématiques (réseaux neuronaux, machine learning). Néanmoins, la question première de Descartes, celle de la relation de la liberté et de la volonté, reste omniprésente.
L'avenir des études et de la recherche publicitaires passe sans aucun doute par les sciences de la cognition. Ces deux manuels constituent un bon point de départ mais le détour par les textes philosophiques anciens donnera aux lecteurs une perspective féconde et prudente, circonspecte. 


Références
Aristote De l'âme, Paris, Les Belles Lettres, bilingue grec / français, index de quelques termes philosophiques grecs, 35 €
Aristote De l'âme, Paris, édition en poche GF Flammarion, traduction, présentation et annotations par Richard Bodéüs, 1993, 9 €
René Descartes, Les Passions de l'âme, prenez l'édition en poche GF Flammarion, présentée et annotée par Pascale d'Arcy, 1996.
et le commentaire par Denis Kambouchner, L'homme des passions. Commentaires sur Descartes, Editions Albin Michel, Paris, 1995, 2 tomes.

dimanche 27 septembre 2015

Machine learning : le mythe du grand algorithme


Pedro Domingos, The Master Algorithm. How the Quest for the Ultimate Learning Machine Will Remake Our World, New York, 2015, Basic Books, index $18,07, (eBook)

La thèse centrale du livre est celle d'un grand algorithme capable d'apprendre à partir des données disponibles, capable de créer les algorithmes nécessaires, de les combiner pour exploiter ces données de manière flexible et ouverte, et en tirer profit : "the ultimate learning machine", une sorte de metalearner (staked generalisation ?), une machine qui apprend à apprendre, algorithme des algorithmes, qui se construit elle-même : “Machine learning is something new under the sun: a technology that builds itself.”
Moins que de métaphysique, il sera donc surtout question dans ce livre de lever les secrets du machine learning, "le moteur qui transforme les données en connaissance ("the engine that turns data into knowledge").

L'auteur est Professeur de "Computer Science and Engineering" à l'Université de Washington. D'abord, il fait partager aux lecteurs son enthousiasme pour l'algorithmique qui a déjà changé notre monde. Ensuite, il montre comment elle va le changer davantage encore.
La vulgarisation classique des premières pages laisse bientôt la place à des problématiques et des raisonnements plus complexes. On n'est jamais très loin d'exposés mathématiques, simplifiés et limités, certes, mais qui demandent aux non spécialistes un effort d'attention et d'approfondissement.

En dix chapitres, Pedro Domingos parcourt l'histoire de l'algorithmique et des différents modes de raisonnement mobilisés successivement, et de manière polémique, par le machine learning. Ce sont dit-il, les 5 tribus du machine learning. L'histoire commence dans les années 1940 avec le perceptron (Frank Rosenblatt), puis les neurones et la recherche en biologie. L'auteur passe en revue la succession des écoles d'algorithmique : symbolistes (déduction inverse), connectionnistes ("back-propagation", rétro-propagation du gradient), évolutionnistes (algorithmes génétiques), bayésiens (inférence), analogistes (machines à vecteurs de support, support vector machines, ). Ces 5 tribus ensemble forment "le grand algorithme", "the five facets of a single universal learner". L'ouvrage évoque différentes techniques auxquelles recourt couramment le machine learning : probabilités conditionnelles, réseaux bayesiens, chaînes de Markov, complexité, recherche des plus proches voisins (nearest neighbors), etc.

L'auteur ne manque jamais d'anecdotes significatives et drôles, pour détendre ses lecteurs et illustrer ses démonstrations. Ainsi, exposant la différence entre l'approche linguistique (Noam Chomsky) et du machine learning, il cite Fred Jelinek, spécialiste de reconnaissance automatique de la parole (speech recognition) qui prétendait que, chaque fois qu'il excluait un linguiste de son labo, les performances de l'algorithme s'amélioraient (mais lui même avait été influencé par le linguiste Roman Jakobson). L'auteur évoque aussi Andrei Markov appliquant, lettre après lettre, le calcul des probabilités au texte de Eugène Onéguine, roman d'Alexandre Pouchkine, ce qui conduira aux fameuses et omniprésentes chaînes de Markov, qui sont au principe du PageRank de Google et de l'écriture prédictive.

En fin d'ouvrage, l'auteur effectue une mise au point bienvenue sur la notion de singularité technologique (singularity), chère à la science fiction (cf. Synth en séries), transférée des mathématiques par Vernor Vinge, mathématicien et auteur de romans de science fiction (The Coming Technological Singularity, 1993) et développée ensuite par Ray Kurzweil (Singularity is near, 2005). La singularité désigne le moment mythique où l'intelligence artificielle dépasse l'intelligence humaine, moment que Pedro Domingos propose d'appeler Point Turing ; la singularité ne peut être imaginée sans le développement d'un machine learning capable de concevoir des programmes. Selon lui, Ray Kurzweil sur-ajuste (overfitting) : il voit des exponentielles partout (law of increasing returns), même dans les fonctions linéaires où il voit des exponentielles qui n'ont pas encore décollé. Avec ce débat, on touche au messianisme de l'algorithme universel, capable d'induction, sorte de "savoir absolu" ("l'esprit se sachant lui-même comme esprit", Hegel) qui serait atteint au terme d'une phénoménologie du machine learning.

Ouvrage important pour situer l'intelligence artificielle dans la compréhension des médias numériques. De lecture agréable, parfois rude. Au-delà des techniques, l'algorithmique telle que la raconte Pedro Domingos se révèle un ensemble de techniques de pensée, techniques invisibles au commun des mortels utilisateurs. L'auteur en entr'ouvre la boîte noire : boîte de Pandore ?