Notes personnelles
L'IA générative, nous devons continuer à la surveiller
Depuis le « demande à l'IA, elle fait tout », des rapports illisibles et des documents creux circulent. Si le travail existe pour les gens, ce que produit l'IA doit aussi servir aux gens.
Nommer les fausses notes qui apparaissent quand on confie le travail à l'IA et qu'on se contente d'en transporter les résultats, et dire pourquoi les humains doivent continuer à observer et à superviser.
Ce que produit l'IA penche vers ce qui est le plus facile à comprendre pour une IA. Le travail existe pour les gens : vérifier que le résultat leur sert vraiment doit rester, jusqu'au bout, une tâche humaine.
Avant de transmettre quelque chose produit par une IA, relis-le toi-même et vérifie que la personne qui le reçoit peut vraiment le lire et s'en servir.
Sommaire
Cela fait déjà un bon moment qu’on entend parler d’« IA générative ». On pourrait presque dire aujourd’hui que l’expression a un peu vieilli.
Dans le secteur où je travaille, l’IA est devenue un outil parfaitement banal.
« Demande à l’IA, elle fait tout »
Peu de gens hésitent encore sur la façon de s’en servir. Et si quelqu’un hésite ou s’inquiète, quelqu’un d’autre s’avance pour le conseiller :
« Demande à l’IA, elle te fait tout. »
Cette petite phrase soulève bien des doutes. Mais confiez-lui une tâche une fois, deux fois, et les doutes finissent jetés quelque part. Parce qu’elle le fait trop bien.
À partir de là, rapport ou e-mail, on laisse faire l’IA, et notre seul rôle devient de transporter le résultat.
Les fausses notes quand on ne fait que transporter
C’est là que les fausses notes commencent.
- On transmet des rapports que personne n’arrive à lire.
- Des histoires sans rapport sont reliées comme cause et effet.
- C’est plausible, mais il manque le fond.
Ces problèmes ont commencé à revenir de plus en plus souvent dans les conversations. Certains disent : « L’IA n’est pas encore parfaite », et qu’il ne faut pas travailler ainsi.
J’aimerais formuler cela un peu plus concrètement.
Je pense que le « travail » existe pour les gens, et par les gens.
Les fichiers .md que personne ne lisait
Il y a eu une époque d’engouement pour les fichiers « .md ». (Une époque… enfin, quelques mois.)
Comme l’IA les lit facilement, on les considérait comme le format indispensable pour travailler avec elle. Mais un point d’interrogation a suivi aussitôt : les humains ne les lisaient pas.
(Moi-même, je lis les premières lignes d’un fichier md, je me dis « ça doit être bien écrit » et je passe. Le lire demande trop d’effort.)
La discussion s’est donc poursuivie sur la manière de livrer des résultats sous une forme que les gens peuvent réellement lire, plutôt qu’en fichiers md.
Ce qui est produit doit servir aux gens
Si ce que génère l’IA était lu par une IA et utilisé par une IA, il n’y aurait sans doute aucun problème.
Mais nous travaillons pour un monde où les gens vivent mieux. Ce qui est produit ainsi doit servir aux gens.
La plupart des productions de l’IA vont dans la direction la plus facile à comprendre pour une IA. (Évidemment : elle n’est pas humaine, mais elle essaie de penser comme un humain.)
Pour éviter les problèmes, nous devons donc continuer à observer et mener la supervision jusqu’au bout. Nous devons être capables de trier ce qui est réellement fait pour les gens.
Et si l’on demande pourquoi les premières fois se sont si bien passées, je crois que c’était grâce à ce doute que nous avons fini par jeter.