Aujourd’hui dans La Presse, un texte élogieux à propos des Intelligences Artificielles que les enseignant.e.s dans les écoles commencent à utiliser. Et je dois dire que c’est effectivement très cool. Ils s’en servent pour rapidement créer des exercices, des quizzs, etc. Le genre de tâches qui prend des heures à faire et qui se fait maintenant en 5 minutes. Et avec un peu d’entrainement, les IA pourrait aussi faire une première correction des travaux des élèves, que l’enseignant.e n’aurait qu’à ensuite réviser rapidement. Ce n’est pas parfait, les IA font encore des erreurs, mais c’est déjà très utile pour les profs et le nombre d’erreurs devrait diminuer dans les prochains mois/années.

Ok, c’est super cool. Pour vrai, je pense que ça peut avoir des impacts super positifs. Comme l’internet ou le téléphone ou l’imprimerie. Mais je trouve que l’article ne parle pas assez des aspects négatifs. Et il y en a beaucoup!

1

Les IA ont présentement raison, disons, 95% du temps. Encore souvent elles se trompent à savoirs si on est en 2022 ou en 2023, parce que la plupart des textes sur lesquelles elle a « appris » datent de 2022. Les créateurs de ces IA eux même nous disent qu’il n’y a aucune vérification ou validation. Si tu connais ton sujet, ça va, tu vas être capable de corriger les erreurs. Mais comment tu fais pour savoirs si ça te dit la vérité, si tu ne connais pas l’information toi-même?

Un autre exemple: ChatGPT est nul en mathématiques. Le modèle va se tromper sur des opérations arithmétique de base dès qu’il y’a plus de 2-3 chiffres. Si tu veux multiplier 4832 par 47, tu es mieux de demander à ta calculatrice qu’à ChatGPT.

2

C’est sûr qu’avec le temps, la qualité des réponses et la quantité de vrai versus faux va s’améliorer. Mais ça nous prend encore des experts pour valider les réponses! Avec le temps, si tout le monde devient paresseux au point de ne plus connaître nos sujet, comment est-ce qu’on va faire pour valider les réponses?

Il faut espérer qu’avec le temps on ne va pas tous devenir trop paresseux et croire tout ce qu’elles nous disent. Sinon on va finir comme les humains dans le film Wall-E, qui étaient complètement dépendant de l’ordinateur de bord, même le pilote!

3

Là c’est bien beau, ça libère du temps pour les enseignants, mais c’est clair que le gouvernement va utiliser ça comme prétexte et augmenter le nombre d’élèves par classe d’ici quelques années.

4

Si on devient dépendant à cette technologie, et que c’est contrôlé par seulement deux ou trois compagnies, on va retomber dans les mêmes problèmes qu’on a présentement avec Facebook, Google, Amazon, Apple, Microsoft, et les autres géants du web. Les compagnies qu’on n’est pas capable de lâcher même si on sait qu’elles nous exploitent. Est-ce qu’on veut vraiment se lancer là-dedans sans aucune protections? Pour l’instant, c’est bien beau et c’est gratuit, mais ça ne va pas durer. Quand ils auront le monopole et qu’on sera tous dépendants, ils vont monter leurs prix, ou vendre nos données personnelles.

“Once men turned their thinking over to machines in the hope that this would set them free. But that only permitted other men with machines to enslave them.”

Frank Herbert, Dune

5

Parce que oui, c’est bien sûr une nouvelle manière pour les grosses compagnies de ramasser tes données personnelles! Tu pensais quand même pas que c’était gratuit juste parce que les compagnies se sentent généreuses!

Plus tu utilises les services d’une compagnie, plus elle en sais sur toi. Même si tu ne rentres aucune données personnelles manuellement, elles peuvent quand même traquer tes habitudes, les sujets qui t’intéressent, dans quelle ville tu es, etc. Et elles ne se gênent pas pour vendre ces données aux plus offrants, notamment aux banques et compagnies d’assurance, qui vont utiliser ça pour déterminer combien tu va payer quand tu auras besoin d’une assurance, d’une hypothèque ou d’une carte de crédit. Ou Tinder qui ajuste ses prix basé sur le modèle qu’ils ont de toi.

6

Le fait que ça ça nécessite les technologies numériques pour fonctionner va encore plus creuser l’écart entre les riches et les pauvres. Déjà que cet écart s’est énormément creusé durant le confinement de la pandémie. L’éducation est supposé donner une chance égale à tous, mais si c’est juste les écoles privés ou les écoles riches qui peuvent se permettre d’utiliser les IA, ça limite énormément les autres enfants.

7

Pour être aussi intelligentes, les IA sont gavés avec tout ce qui est écrit sur l’internet. Mais on sait bien que l’internet a énormément de cochonneries. Comment l’IA fait pour apprendre ce qui est un bon texte et ce qui est inapproprié? La réponse: une armée de travailleurs sous-payés! Des vrais être humains, habituellement dans les pays pauvres, qui se font exploiter pour des salaires de misère.

On leur demande de lire les pires atrocités (des témoignages de viols, descriptions de mutilation, récits détaillés de pédophilie, bestialité, etc) et ils doivent souligner chaque mot inapproprié un par un et expliquer à l’IA pourquoi la phrase est inappropriée. Voir cet article du Time sur le sujet. Tout ça pour un salaire en dessous de 2$ de l’heure. Ces travailleurs sortent de la job avec des traumatismes et des cas de PTSD. Mais personne n’en parle…

Ça n’existe pas encore des IA qui ont été entraînés dans des conditions éthiques.

8

Parlant d’entraînement des IA, je n’ai pas encore parlé du coût environnemental! Pour qu’une IA apprenne, ça prend des milliers de super-ordinateurs qui fonctionnent jours et nuit pendant des mois, voire des années, ce qui utilise une quantité astronomique d’électricité. Et chaque fois qu’on l’utilise, ça prend encore beaucoup d’électricité, moins que durant l’entraînement, mais quand même beaucoup si on lui pose beaucoup de questions en série.

Ok mais alors, on fait quoi?

Je ne dis pas qu’il faut tout arrêter. Je dis juste qu’il ne faut pas foncer aveuglément, qu’il faut prendre le temps de se poser des questions.

Est-ce qu’on pourrait avoir des IA qui ont été entraînées de manière éthique? Est-ce qu’on pourrait avoir des IA qui appartiennent au bien commun, à tout le monde, plutôt qu’aux géants du web? Genre une IA gratuite dans ta bibliothèque de quartier?

Mais comment on va faire pour ne pas devenir complètement paresseux et dépendant des IA, ça je ne sais pas. Peut-être que ce ne sera pas grave. L’arrivé de l’internet ne nous a pas rendu tant paresseux que ça. Idéalement les IA nous libérerait du besoin de travailler, pour nous laisser le temps de créer et de faire nos hobbies, mais tant qu’on est emprisonné par le capitalisme de surveillance et le néo-libéralisme, on n’est pas prêt de s’en sortir…

Note: J’ai rédigé ce texte à la main, sans l’aide d’aucune IA!