Pourquoi votre cerveau fait confiance aux machines même quand elles se trompent
La neuroscientifique Vivienne Ming explique pourquoi les réponses faciles des machines intelligentes font du bien mais peuvent éroder en silence la pensée profonde et la santé cérébrale à long terme. Son antidote : utiliser ces outils pour se mettre au défi, rester sceptique et collaborer avec eux pour mieux penser plutôt que de déléguer son esprit.
Aperçu
Dans cette conversation avec le Dr Gundry, la neuroscientifique et entrepreneuse Vivienne Ming se décrit comme réaliste vis-à-vis de l'intelligence artificielle : elle est puissante, mais ce qu'elle fait de mieux n'est pas toujours ce dont nous avons besoin. Elle avertit que le plus grand risque en santé est d'accepter une réponse confiante sans la questionner et d'agir simplement en conséquence.
S'appuyant sur une étude de Nature, elle explique que les humains et les machines commettent des erreurs complémentaires et sont plus performants en équipe. Comme notre cerveau privilégie la pensée rapide et sans effort, les réponses rapides font du bien et peuvent nous faire croire que nous en savons plus alors que notre compréhension s'érode. Sur toute une vie, soutient-elle, déléguer constamment la pensée peut réduire l'exercice mental qui soutient la santé cognitive à long terme.
Elle illustre l'apprentissage avec des vignes qui luttent, des chouettes à l'envers et les systèmes de nettoyage nocturne du cerveau. Elle propose des antidotes pratiques, d'une consigne de némésis qui met votre travail au défi à la montée des explications de niveau primaire jusqu'aux véritables articles scientifiques. Son message est de s'associer à ces outils pour mieux penser, non de les laisser penser à votre place.
Phrases clés
5Ce n'est pas de la magie. Ce qu'elle peut faire est étonnant, mais ce qu'elle peut faire n'est pas toujours ce dont nous avons besoin.
Les médecins et les systèmes de pointe commettent des erreurs complémentaires, et ils finissent meilleurs ensemble que chacun seul.
La réponse rapide et facile vous fait sentir plus intelligent, puis vous cherchez toujours la réponse rapide et facile et ne pensez jamais vraiment par vous-même.
Je ne l'ai pas utilisé pour écrire le livre plus facilement. Je l'ai utilisé pour le rendre plus difficile, d'une manière qui me poussait à être meilleure.
La chose la plus intelligente de la planète n'est pas l'humain le plus intelligent ni le dernier modèle, c'est une personne modérément intelligente associée à une machine modérément intelligente.
Idées clés
9Une réaliste de l'intelligence artificielle
Ming soutient que ces outils ne sont ni des sauveurs magiques ni des destructeurs. Ils sont puissants, mais ce qu'ils font de mieux n'est pas toujours ce dont nous avons vraiment besoin.
Des erreurs complémentaires
Humains et machines commettent des types d'erreurs différents. La recherche suggère que, comme des pièces qui s'emboîtent, ils sont plus performants ensemble que chacun seul.
La pensée rapide et la réponse facile
Notre cerveau est conçu pour économiser l'effort, une réponse rapide fait donc du bien. S'appuyer sur une source extérieure pour tout échange ce confort contre un apprentissage perdu.
Le sentiment de savoir
Recevoir des réponses rapides peut nous faire sentir plus intelligents alors que nous comprenons moins, nous entraînant sur la pente de toujours chercher la réponse facile.
La lutte construit des branches
Comme les vignes qui produisent plus de polyphénols lorsqu'elles luttent, le cerveau construit une ramification dendritique plus riche, appelée arborisation, quand il travaille dur à apprendre.
Les chouettes à l'envers
Dans une expérience classique de Stanford, des chouettes élevées avec des lunettes à prisme inversant le monde ont développé une ramification neuronale plus dense et gardé la souplesse de passer d'un monde à l'autre.
Nettoyer le cerveau la nuit
La pensée active stimule l'activité gamma qui déclenche les astrocytes et le nettoyage glymphatique pendant le sommeil, aidant le cerveau à évacuer les déchets qu'il accumule autrement.
Déprofessionnalisation
Les machines aident le plus les experts d'élite, tout en érodant les compétences en développement des débutants, et posent la question de quelle expertise une pièce a vraiment besoin.
Mode cyborg
Dans ses expériences, une personne modeste associée à un modèle modeste peut mieux prédire que les meilleurs experts comme les meilleures machines, mais seuls environ cinq pour cent atteignent ce niveau.
Enseignements pratiques
6- 1
Rendez-le plus difficile, pas plus facile 24:00
Utilisez les outils pour vous mettre au défi, comme une consigne de némésis qui argumente pourquoi vous pourriez avoir tort, plutôt que pour sauter la réflexion.
- 2
Exercez votre esprit chaque jour 23:30
Prenez un nouveau chemin pour le travail, apprenez une langue ou résolvez une énigme. La pensée exigeante et régulière est un exercice quotidien pour la santé cognitive.
- 3
Gravissez l'échelle de la compréhension 43:30
Demandez à un outil d'expliquer un sujet comme si vous étiez en primaire, puis au lycée, puis en master, pour bâtir un savoir réel étape par étape.
- 4
Demandez des sources à lire 45:00
Demandez un article de presse, puis un reportage plus poussé, puis un véritable article scientifique, pour apprendre de preuves réelles plutôt que d'un blogueur anonyme.
- 5
Restez sceptique 40:00
Ces systèmes ne distinguent pas de façon fiable une étude évaluée par les pairs d'une affirmation inventée, alors vérifiez ce qu'ils fournissent et arrivez informé et interrogateur chez votre médecin.
- 6
Préparez-vous, puis parlez à votre médecin 45:40
Utilisez la recherche pour aborder vos vraies inquiétudes et questions, et tirez le meilleur du temps limité avec un clinicien qui apporte un jugement uniquement humain.
Sujets et chapitres
15La posture de la réaliste
Ming ne se range ni du côté des enthousiastes ni des pessimistes et demande en quoi ces outils sont vraiment bons en médecine.
Des erreurs complémentaires
Un article de Nature montre que humains et machines se trompent différemment et sont meilleurs en équipe que séparément.
Pourquoi nous déléguons la pensée
La pensée rapide et sans effort est utile, mais confier chaque question à une source extérieure nous coûte de l'apprentissage.
Le sentiment de savoir
Les réponses faciles nous font sentir plus intelligents alors même que la compréhension s'estompe, créant une pente glissante.
Lutte et polyphénols
Une analogie végétale : la lutte produit des composés protecteurs, et l'effort construit des connexions neuronales plus riches.
Les chouettes à l'envers
Les chouettes à lunettes à prisme développent une ramification cérébrale plus dense et gardent leur souplesse, illustrant l'enrichissement.
Des environnements enrichis
La lecture et les histoires de mathématiques enrichissent le cerveau des enfants et peuvent repousser le déclin cognitif ultérieur.
Nettoyer le cerveau la nuit
L'activité gamma, les astrocytes et le nettoyage glymphatique gardent un cerveau bien utilisé en ordre pendant le sommeil.
La consigne de némésis
Ming utilise un outil pour attaquer sa propre écriture, rendant le travail plus difficile et meilleur.
La coloscopie à la chaîne
Un souvenir d'enfance et une étude européenne soulèvent le risque que les cliniciens perdent leurs compétences.
Déprofessionnalisation
Les outils renforcent les experts d'élite mais érodent les débutants, redéfinissant qui a sa place dans la pièce.
Mode cyborg
Les équipes humain-machine peuvent surpasser le meilleur de chacun, même si peu de gens atteignent ce potentiel.
Déchets en entrée, déchets en sortie
Ces systèmes peinent à pondérer les sources et peuvent moins bien performer pour les groupes sous-représentés.
Comment ces modèles apprennent
Le pré-entraînement et le retour humain apportent à la fois de la capacité, de la flagornerie et des hallucinations inévitables.
Bâtissez le savoir, ne l'empruntez pas
Des étapes pratiques pour passer d'explications simples à de vrais articles et se préparer à voir son médecin.