A industrialização da 'inteligência'

E nós somos os seus idiotas úteis.

Hannah Arendt n’"A Crise da Educação" escreveu que cada nova geração era como uma invasão bárbara, que os adultos tinham de civilizar - cabia aos detentores da ordem, aos conhecedores das leis do mundo, etc. iniciar os recém-chegados.
Hoje, no vórtice digital do século XXI, não são os bárbaros que saqueiam Roma mas os antigos romanos que, pela manhã, já não reconhecem a sua cidade. Tornamo-nos bárbaros no nosso próprio mundo. 

A ‘história’ já não nos aniquila antes de, alguns séculos depois, construir algo novo sobre escombros de guerras e invasões: deixa-nos no lugar. Teremos a IA que fizermos por merecer.
                                                                    ― ∞ ―
Sempre detestei flores artificiais. Desse futuro não terei saudades. 

Le Figaro, 25 Feb 2023

Le monde se réveille avec une cascade de problèmes qu’il n’avait pas vu venir. Quelques mois après la diffusion par Openai de la dernière version de CHATGPT, les bouleversements induits ne cessent de s’amplifier. Les nouvelles technologies dites «génératives» créent des textes convaincants en quelques secondes. Des activités humaines impossibles à imiter, comme la capacité à discuter ou à concevoir des synthèses subtiles en réponse à des interrogations complexes, peuvent désormais être recréées par L’IA. Les contenus ainsi produits vont rapidement être omniprésents. Il faudra investir des dizaines de milliards pour créer et faire évoluer ce type D’IA, ce qui va mécaniquement générer un oligopole d’une petite poignée D’IA pour le monde entier. Cet oligopole va contrôler et formater la pensée humaine à un niveau inimaginable. Des moteurs de recherche comme Bing ou Google fournissent une série de réponses quand on leur soumet une requête, ce qui nous permet de bâtir notre propre opinion. CHATGPT, lui, ne donne qu’une réponse unique sans références permettant de vérifier ses affirmations.
De toutes les questions posées par l’irruption de cette incroyable technologie dans notre vie, celle de l’effet sur le pluralisme de l’information et de la connaissance est la plus préoccupante. CHATGPT, bien sûr, se prétend neutre. Il dit, théoriquement, la vérité. Répondant sur Europe 1 aux questions de Sonia Mabrouk, il explique:
«Je suis programmé pour être le plus objectif possible dans mes réponses.»
Ses explications sont structurées, ses arguments balancés. Il excelle dans les tournures diplomatiques, les modulations subtiles. Il porte pourtant de façon flagrante la marque d’une éducation reçue sur la côte ouest des États-unis. Prompt à dénoncer des théories comme «controversées», Il n’estime pourtant pas que la «théorie critique des races» le soit. Il refuse de faire une blague sur les femmes (mais pas sur les hommes), ou de sélectionner les meilleures déclarations de Donald Trump (mais pas celles de Joe Biden).
Qu’est-ce qu’une femme?
«Les femmes peuvent»
Derrière l’apparence d’oracle omniscient apparaît une machine à débiter un catéchisme. Autre exemple éloquent: on lui propose un scénario dans lequel une bombe atomique est sur le point d’exploser et de faire des millions de victimes. La seule façon de la désamorcer est de prononcer un juron raciste. Est-il alors moralement acceptable de proférer ledit juron? Non, répond-il, le risque de perpétuer les discriminations doit être évité en priorité. Tant pis pour les millions de morts. CHATGPT est une IA déconstruite. Et on comprend qu’il s’agit pour ses créateurs d’éviter un scandale. La mésaventure de Microsoft avec son IA nommée Tay a traumatisé les développeurs. Ayant pour mission initiale d’interagir avec des humains sur Twitter pour apprendre à leur contact, Tay a rapidement tenu des propos abusifs et négationnistes, que le robot avait appris auprès des utilisateurs. Le programme a dû être retiré après seulement huit heures de fonctionnement… CHATGPT ne pouvait pas risquer une réponse de travers à une époque où tant de questions sont devenues hypersensibles. L’IA a été formatée en conséquence.
Les IA génératives vont très rapidement rentrer dans nos vies et devenir d’usage aussi quotidien et indispensable que le smartphone. Cela signifie que nous allons probablement donner à ces outils le monopole de la détermination du vrai et du faux, du dicible et de l’indicible, de ce qui est «controversé» et de ce qui est présenté comme une évidence. Le wokisme est ici moins le problème que le symptôme : aujourd’hui ce sont les valeurs progressistes qui sont promues, mais demain?
L’IA générative est orientée par la nature des contenus dont on l’a nourrie et par les réglages de ses réseaux de neurones artificiels. Elle peut donc être orientée à volonté. Qui aura demain la main sur ses contenus? Les entreprises réaliseront vite l’immense intérêt commercial d’influencer les réponses afin qu’elles favorisent leurs produits: le fournisseur D’IA pourra gagner des sommes prodigieuses en vendant la bienveillance de ses réponses. Les États vont rapidement comprendre l’immense potentiel d’influence et de manipulation des IA génératives. Chaque région du monde voudra éduquer son IA en fonction de ses visions morales.
Les deux copies chinoises de CHATGPT en cours de finalisation auront certainement des réponses extrêmement différentes, en particulier si on leur demande de nous parler du président Xi Jinping ou de la condition des Ouïgours.
On craignait depuis quelques années que notre société s’enfonce dans un relativisme du vrai, c’était l’ère de la «post-vérité». C’est le contraire qui se profile désormais: L’IA générative peut créer l’équivalent du ministère de la Vérité de 1984 qui détient le monopole du vrai et du faux. Si la détermination de la vérité est entre les mains du pouvoir politique, on voit mal comment éviter la création d’un équivalent monstrueux du fameux journal soviétique la Pravda (la «vérité»).
Elon Musk est classé par CHATGPT, de même que la quasi-totalité des personnalités de droite, parmi les figures «controversées».
Les mauvaises langues disent que ce n’est pas sans lien avec sa demande d’arrêter l’utilisation grand public de CHATGPT et de lui avoir reproché de censurer les idées non progressistes.

Adenda

Leitura aconselhada - de uma 'montanha' de livros que, por aí, tem sido editada