état des lieux

L’IA est une entrave non seulement à la qualité des textes, mais aussi à nos conditions de travail aujourd’hui et – je rajouterais – aux compétences des générations de demain. En route pour les « bullshit jobs » ? Quand l’époque est à la régression et l’aliénation.

 

« Dans le contexte des grands modèles linguistiques, les recherches ont montré que la formation des [grands modèles de langage] sur du texte généré par un prédécesseur (les modèles linguistiques sont formés sur les données synthétiques produites par les modèles précédents) entraîne une diminution constante de la diversité lexicale, syntaxique et sémantique des résultats du modèle au fil des itérations successives, d’une manière particulièrement notable pour les tâches exigeant des niveaux élevés de créativité. »

Source : https://fr.wikipedia.org/wiki/Effondrement_de_modèles_d'intelligence_artificielle

 

« Si l’être humain abandonne à la machine le soin de penser, de créer, de rêver, il cessera d’exister par lui-même. »

Source : https://www.slate.fr/societe/blog-sagalovitsch-refuse-utiliser-intelligence-artificielle-combat-perdu-avance-ia-evolution-futur-usage-technologie-domination-machine-humain

 

« ChatGPT, il est toujours d’accord et trouve toujours tout formidable. Et si on l’écoute, on ne s’améliore pas, on n’avance pas. »

Source : https://www.arte.tv/digitalproductions/prompt/

 

« […] les IA ne se contentent pas d’automatiser les tâches ingrates, elles suppriment aussi des opportunités d’apprentissage par la pratique. Peu à peu, les compétences s’érodent et la motivation en pâtit. […] ces pertes de compétences entraînent une vraie perte d’autonomie et une dépendance cognitive : la dépendance à l’IA peut éroder des compétences cognitives essentielles comme la pensée analytique ou la résolution de problèmes. »
Source : https://theconversation.com/lia-au-travail-un-gain-de-confort-qui-pourrait-vous-couter-cher-253811

« Confier l’expression de soi à un robot constitue le dernier degré de la servitude volontaire. Signer un e-mail qu’on n’a pas rédigé, c’est abdiquer toute dignité. »
(Gaspard Koenig)

 


article : Comment ChatGPT sape la motivation à écrire et penser par soi-même

Cet article reflète bien la perte systémique des compétences engendrée par l’IA. Ou quand la facilité devient un frein à la pensée (et donc à la créativité).
Que reste-t-il de notre capacité de réflexion si nous ne mettons plus nous-mêmes en forme nos phrases ? N’est-ce pas justement dans le processus de formulation que nous créons et articulons notre pensée ?
Adieu singularité, apprentissage, bienvenue dépossession, annihilation ?
« Le risque de voir l’IA saper à la fois les compétences rédactionnelles et la motivation à composer par soi-même est en fait en gestation depuis des dizaines d’années. »
« Si la génération de textes par l’IA se charge d’écrire à notre place, nous réduisons nos possibilités de réfléchir par nous-mêmes. »
« Mais la tentation de s’appuyer sur des outils d’édition et de génération de textes tels que Grammarly et ChatGPT est trop grande tant il est facile de substituer des résultats prêts à l’emploi à des occasions de réfléchir et d’apprendre. »
Et l’autrice de conclure : « La rédaction doit être un voyage, pas seulement une destination. »

La théorie du trombone

Cette vidéo fait brillamment le tour des enjeux de l’IA.
On commence gentiment par l’allégorie du trombone. Une fois le décor planté, on examine les ressorts néfastes de l’IA, l’étendue de notre méconnaissance. Nous ne maîtrisons rien. Il n’y a rien de fascinant dans cet inconnu-là. La démonstration du cercle vicieux qui nous conduit vers la fin (de la vidéo et de l’humain) est pourtant géniale.
L’IA nous trompant déjà par souci d’efficacité, qu’adviendra-t-il si nous continuons à lui offrir les moyens de sa scalabilité ?
Je disais qu’il n’y avait rien de fascinant, car nous pourrions cesser cette course, qui n’a rien à envier à la course à l’armement nucléaire.
Les puissants à l’origine des développements de l’IA entretiennent le plus grand flou sur la sécurité (gros problème d’alignement entre notre volonté et le résultat fourni par l’IA), sont conscients de foncer vers l’inconnu, mais personne ne se décidera à ralentir, afin de rester dans la compétition.
« Dans le pire des cas, c’est la fin pour nous tous. » Ah ben ça va, alors…
Je pensais que l’IA allait juste nous enfermer (dans l’ignorance, la médiocrité et la dépendance notamment), mais en fait je comprends qu’elle peut nous détruire, et qu’en plus on est d’accord, parce qu’au cas où ça n’arriverait pas, faudrait quand même voir à ce que le voisin ne devienne pas meilleur que nous. 🙄
Je me rends compte que ce que je pensais être très largement de la science-fiction n’est qu’une petite part de ce qui nous attend réellement.

interview de luc julia, spécialiste de l’intelligence artificielle : « les ia génératives vont bientôt disparaître »

L’intelligence artificielle n’est pas une intelligence, ce sont des maths, le niveau de création est nul : « Une IA ne crée rien, soyons clairs. On peut même lui faire dire n’importe quoi en orientant une question. »
On apprend aussi que la course au cerveau artificiel est un mythe, que les tentatives de régulation ne frappent pas au bon endroit, mais que oui, une exploitation illégale des contenus a bien lieu.
Fort heureusement (c’est moi qui introduis de la sorte le propos de l’ingénieur et informaticien, quelque peu plus nuancé) : « Ces IA génératives ne sont pas viables et vont bientôt disparaître. Du moins, les génériques, les LLM (Large Language Models), comme ChatGPT. Parce qu’elles nécessitent énormément de ressources. Si on faisait autant de requêtes ChatGPT que sur Google, il n’y aurait pas assez d’électricité dans le monde. »
Alors quoi ? « On développe maintenant des IA plus petites, spécialisées dans des domaines bien spécifiques, des SLM (Small Language Models). »
J’aurais ajouté la question suivante : Le temps de passer à des formes d’IA spécifiques pour des secteurs donnés, bon nombre d’emplois auront déjà disparu, favorisant la médiocrité, la perte de compétences et la déshumanisation dans les métiers de l’écrit, de la communication et de la culture, entre autres. Ne devrait-on pas mettre le holà plus vite ? Les conséquences climatiques et la création d’une génération dépendante aux robots ne nous alarment-elles pas en ce sens ?

et les linguistes, qu’en disent-ils ?

Lire « vocabulaire et diversité linguistique : comment l’ia appauvrit le langage »

Extraits :
« Parce qu’elle n’emploie que peu d’expressions locales et d’idiomes régionaux, l’IA favoriserait l’homogénéisation de la langue. »
« L’IA pourrait aussi simplifier considérablement le vocabulaire humain, en privilégiant certains mots au détriment d’autres, ce qui conduirait notamment à une simplification progressive de la syntaxe et de la grammaire. »

« À partir d’expressions issues d’innombrables textes, l’IA calcule une langue moyenne. Le processus commence par un vaste corpus de données textuelles qui rassemble un large éventail de styles linguistiques, de sujets et de contextes. Au fur et à mesure l’IA s’entraîne et affine sa "compréhension" de la langue (par compréhension, il faut entendre la connaissance du voisinage des mots) mais en atténue ce qui rend chaque manière de parler unique. L’IA prédit les mots les plus courants et perd ainsi l’originalité de chaque voix. »
« Il pourrait en résulter un éloignement progressif des modèles de langage humain authentique, ce qui créerait une sorte de "vallée de l’étrange" linguistique où le texte généré par l’IA deviendrait simultanément plus répandu et moins représentatif d’une communication humaine authentique. »

Lire et écouter « l’ia a-t-elle du style ? alerte pollution écosystème langagier ! »

IA, ô mon IA, dis-moi qui est la plus belle ?
Tandis que nous utilisons l’IA pour nous « re-narcissiser », notre plasticité neuronale décline, nous devenons des caricatures de nous-mêmes, tels des zombies, tous à l'identique, pauvres et inauthentiques. Plus nos facultés sont nivelées vers le bas, plus nous nous croyons puissants. Attention, danger.

l’alerte des scientifiques

« Pour la première fois, une étude scientifique a quantifié ce que l’usage répété de ChatGPT produit sur notre cerveau.
[...]
L’étude de leur activité cérébrale montre que, sur le plan neuronal, linguistique et comportemental, les utilisateurs de ChatGPT sous-performent systématiquement par rapport aux personnes qui n’utilisent pas le chatbot pour les mêmes tâches. » 

Entre atrophie cérébrale, diminution de l’esprit critique et processus mémoriel déficient, la science dresse un constat alarmant du recours régulier à l’intelligence artificielle.

LIRE L’ARTICLE