Intelligences collective et artificielle face aux fake news

Les travaux de chercheurs tels que Pascal Huguet (Directeur du Laboratoire de Psychologie Sociale et Cognitive, Université de Clermont Auvergne) montrent qu’à côté de l’intelligence analytique voire cartésienne existe une forme de pensée collective et sociale. La composante est essentielle dans la vie de groupe. L’homme lui doit sa résistance face aux embûches de la nature ou aux prédateurs comme ses fortunes dans la chasse ou la conquête. C’est le ciment du groupe.

L’intelligence collective

Les échanges d’informations s’appuient sur un langage commun avec la confiance comme corolaire.
La perception physique de l’environnement nous donne la vérité : il pleut, il fait nuit, une proie se déplace, un prédateur rôde, la mer est une frontière, un arbre est un obstacle.
La perception indirecte génère la vérité « sociale ». La présence d’un danger rapportée par un membre du groupe n’est pas une information accessible directement mais constitue pourtant une vérité vitale pour chaque membre du groupe. Le cerveau « immédiat » donne toute sa confiance à l’information. À la fois primordiale et fatale, l’inclination à porter crédit à un tiers « sachant » est profondément ancrée dans notre cerveau. Primordiale pour la sécurité, fatale en raison des … fake news.

Fake news

Heureusement, le cerveau « analytique » est là pour filtrer d’un regard quelque peu critique ces informations. Le « Système 1 / Système 2 : Les deux vitesses de la pensée » de Daniel Kahneman est ici en application. Le cerveau intuitif économe en énergie délivre immédiatement son verdict, le cerveau analytique se met au labeur pour valider voire infirmer.
Le critère premier est la persistance du signal faible. Dit autrement, la répétition du message vaut confirmation. La force de l’unanimité d’un groupe social pousserait même à considérer comme avérée une information que même les experts contredisent sans ambiguïté pour peu que l’objection émane d’un groupe autre. Les chiffres et les données statistiques n’y pourront rien. L’impact premier ne s’efface pas facilement. Pascal Huguet y voit là une forme renouvelée des tribus. La mécanique génératrice de nouvelles fausses est en place.

Mais que fait l’IA ?

Intuitivement, on compte sur l’Intelligence Artificielle pour nous procurer une aide bienvenue. D’ailleurs OpenAI, laboratoire propriété d’Elon Musk travaille sur un sujet connexe : l’invention de « news » et de textes à la rédaction plus vraie que nature. La vraisemblance de ces textes est telle que la société aurait arrêté ses développements par crainte de prolifération de fake news. Le but premier était pourtant louable : proposer des traductions élaborées, pouvoir répondre à des questions. Ouest-France utilise la banque des articles déjà publiés pour valider ses news.
Le problème est que l’IA sert la cause des auteurs de fake news plus qu’elle ne les combat. On sait aujourd’hui créer des vidéos où l’on peut faire tout dire à n’importe qui. C’est ainsi que circule une vidéo où Barak Obama fait de la publicité pour ce type de produit, ce qui est bien évidemment une démonstration par l’humour que notre méfiance doit être aiguisée.
Fondamentalement, la pertinence de l’IA à la course aux fake news reste à établir. Son métier est d’apprendre à l’aide d’exemples un comportement qui sera qualifié de normal et de l’utiliser comme étalon. Comment dès lors intégrer une information imprévue ? Elle sera étiquetée fausse. Pire : apprentissage pour l’IA et acceptation de fake news procèdent tous deux d’une même mécanique, la répétition.

Faut-il un outil ?

La question se pose. Une étude aurait établi que les générations les plus jeunes sont moins naïves que les plus anciennes quant à la re-diffusion de fake news. Mon optimisme invétéré me pousse à considérer que les jeunes ont forgé leur sens critique à l'aune des nouvelles douteuses. La meilleure arme contre les fallacieuses informations ne reste-t-elle pas la curiosité ?

 

< Revenir à la newsletter

Auteur: 
Jacques Baudron - Secrétaire Forum ATENA - jacques.baudron@ixtel.fr

Ajouter un commentaire

Full HTML

  • Les adresses de pages web et de courriels sont transformées en liens automatiquement.
  • Vous pouvez utiliser du code PHP. Vous devrez inclure les tags <?php ?>.
  • Les lignes et les paragraphes vont à la ligne automatiquement.

Filtered HTML

  • Les adresses de pages web et de courriels sont transformées en liens automatiquement.
  • Tags HTML autorisés : <a> <em> <strong> <cite> <blockquote> <code> <ul> <ol> <li> <dl> <dt> <dd>
  • Les lignes et les paragraphes vont à la ligne automatiquement.

Plain text

  • Aucune balise HTML autorisée.
  • Les adresses de pages web et de courriels sont transformées en liens automatiquement.
  • Les lignes et les paragraphes vont à la ligne automatiquement.