Un nouveau chatbot d’intelligence artificielle (IA) est en train d’être dévoilé. Il est censé être capable de déformer l’esprit des « théoriciens du complot » pour qu’ils croient aux récits officiels du gouvernement.

Les chercheurs affirment que le système d’IA, basé sur la technologie du modèle linguistique à grande échelle (LLM), a été conçu pour combattre les personnes qui croient ce que dit Donald Trump ou qui sont considérées comme une « menace pour la démocratie ».

« Les croyances dans des conspirations selon lesquelles une élection américaine aurait été volée ont incité à une tentative d’insurrection le 6 janvier 2021 », explique l’étude .

« Une autre conspiration alléguant que les restrictions imposées par l’Allemagne pour lutter contre le COVID-19 étaient motivées par des intentions néfastes a déclenché de violentes manifestations au Reichstag, le bâtiment du parlement de Berlin, en août 2020. »

L’étude a été lancée en réponse à ce que l’équipe de recherche décrit comme des « menaces croissantes pour la démocratie ». L’objectif était de mettre au point un système permettant aux robots d’intelligence artificielle de reprogrammer l’esprit des personnes qui s’opposent au statu quo afin qu’elles « abandonnent leurs croyances conspirationnistes ».

« Les participants humains ont décrit une théorie du complot à laquelle ils adhéraient, et l’IA s’est ensuite engagée avec eux dans des arguments persuasifs qui ont réfuté leurs croyances avec des preuves », explique l’étude.

« La capacité du chatbot IA à soutenir des contre-arguments sur mesure et des conversations personnalisées en profondeur a réduit leurs croyances en des complots pendant des mois, ce qui remet en cause les recherches suggérant que de telles croyances sont imperméables au changement. Cette intervention illustre comment le déploiement de l’IA peut atténuer les conflits et servir la société. »

Forcer les gens à sortir du « trou du lapin » grâce à l’IA

Les chercheurs, tous basés dans la région de la Nouvelle-Angleterre, se plaignent du fait que trop de gens remettent aujourd’hui en question ce que leur disent le gouvernement et les médias. De plus en plus de gens refusent de se conformer à l’esprit collectif et au comportement de la pensée de groupe. L’IA peut donc peut-être intervenir par la force.

L’IA générative, disent-ils, forcera les « théoriciens du complot » à sortir du « terrier du lapin » tout en aspirant leur esprit de toutes pensées ou croyances non autorisées.

« La croyance généralisée en des théories du complot non fondées est une source majeure d’inquiétude publique et un sujet de recherche universitaire », explique la section « Introduction » de l’étude. « Bien qu’elles soient souvent peu plausibles, de nombreuses théories du complot sont largement acceptées. »

« Les principales théories psychologiques suggèrent que de nombreuses personnes souhaitent adopter des théories du complot (pour satisfaire des « besoins » ou des motivations psychiques sous-jacentes), et que, par conséquent, les croyants ne peuvent pas être convaincus d’abandonner ces croyances infondées et invraisemblables en utilisant des faits et des contre-preuves. Ici, nous remettons en question cette sagesse conventionnelle et nous nous demandons s’il serait possible de dissuader les gens de se laisser entraîner dans le « terrier du lapin » du complot avec des preuves suffisamment convaincantes. »

Pour que le projet fonctionne, ces systèmes d’IA avancés doivent être plus agréables et crédibles que le présentateur de « nouvelles » moyen ou le spécialiste des médias grand public. À l’heure actuelle, le troupeau humain de propagandistes ne parvient pas à convaincre les générations actuelles que le gouvernement est digne de confiance. C’est donc au tour de l’IA de tenter de le faire.

« Nous avons émis l’hypothèse que les interventions fondées sur des informations factuelles et correctives peuvent sembler inefficaces simplement parce qu’elles manquent de profondeur et de personnalisation suffisantes », explique la section « Justification » de l’étude.

« … nous avons développé un pipeline pour mener des recherches en sciences du comportement en utilisant des interactions personnalisées en temps réel entre les sujets de recherche et l’IA. Au cours de deux expériences, 2 190 Américains ont articulé – dans leurs propres mots – une théorie du complot à laquelle ils croient, ainsi que les preuves qui, selon eux, soutiennent cette théorie. Ils ont ensuite engagé une conversation en trois tours avec le LLM GPT-4 Turbo, que nous avons incité à répondre à cette preuve spécifique tout en essayant de réduire la croyance des participants dans la théorie du complot. »

Lire la suite :