Il y a deux semaines, OpenAI a annoncé un modèle de langage appelé GPT-2 et indiqué qu'elle n'en publierait pas la version complète en raison des risques qu'il comporte. L'organisation a diffusé une version beaucoup plus petite, un article de recherche et une série d'exemples de textes, et a conservé le grand modèle à l'interne.
Au cours de nos nombreuses années à suivre les entreprises technologiques, nous ne nous souvenons d'aucun autre cas où une entreprise a annoncé un produit pour ensuite refuser de le diffuser parce qu'il fonctionne trop bien.
L'exemple le plus partagé est une nouvelle sur des scientifiques qui découvrent un troupeau de licornes dans une vallée isolée des Andes, des licornes qui parlent un anglais parfait. La prémisse est absurde. Le texte est pourtant grammaticalement correct et assuré, et il se lit comme une véritable dépêche pendant plusieurs paragraphes avant de perdre sa cohérence.
À première lecture, l'exemple paraît amusant. À la relecture, ses implications sont sérieuses.
Qu'est-ce que GPT-2?
Au-delà des manchettes, GPT-2 est un modèle entraîné à prédire le mot suivant. OpenAI l'a entraîné sur le texte d'environ huit millions de pages Web et l'a laissé en apprendre les régularités. La plus grande version compte 1,5 milliard de paramètres. Un paramètre est, en termes simples, l'un des réglages internes que le modèle ajuste pendant son apprentissage, et 1,5 milliard représente un nombre considérable de réglages.
À partir d'une phrase de départ, le modèle poursuit le texte : nouvelles, fiction, avis, recettes ou tout autre genre vers lequel on l'oriente. Il n'a aucun moyen de savoir si ce qu'il produit est vrai. Il sait seulement ce qui vient habituellement ensuite.
L'article d'OpenAI, Better Language Models and Their Implications (en anglais), est court et mérite d'être lu. Il expose les préoccupations : faux articles de nouvelles, usurpation d'identité, pourriel automatisé et faux contenus sur les médias sociaux. Il précise aussi que la décision sera réévaluée dans environ six mois.
Plusieurs personnes du domaine de l'IA ont qualifié cette décision de stratégie publicitaire. C'est peut-être en partie exact, et elle a certainement généré de la visibilité. Il reste que quelqu'un a soulevé publiquement la question avant le lancement, ce qui est peu courant dans ce secteur.
Comment un texte peut-il être fluide et erroné à la fois?
L'élément important n'est pas qu'une machine sache écrire. Les robots à pourriel produisent des textes de piètre qualité depuis des années, et ceux-ci sont faciles à reconnaître.
GPT-2 est différent. Il écrit bien tout en se trompant complètement dans le même paragraphe, sans changer de ton. Lorsqu'une personne bluffe, il y a généralement des signes : les phrases deviennent vagues, prudentes ou défensives. GPT-2 n'en montre aucun. L'histoire des licornes est aussi fluide lorsqu'elle est absurde que lorsqu'elle paraît plausible.
Une grande partie de notre travail professionnel a consisté à concevoir des sites Web et à accompagner des entreprises dans leur contenu. Ce travail consistait en bonne partie à démontrer qu'une rédaction de qualité inspire confiance. Un texte clair, assuré et bien structuré convainc le lecteur que l'auteur maîtrise son sujet.
Une machine peut désormais reproduire l'apparence d'une rédaction de qualité sur demande. L'apparence d'une rédaction de qualité perdra donc bientôt une grande partie de sa signification.
Si n'importe qui peut générer des mots, le jugement devient la compétence.
C'est le point central pour les propriétaires de petites entreprises.
Que pourrait signifier un texte peu coûteux pour le contenu des PME?
Pour l'instant, rien de cela n'est accessible au grand public dans un navigateur. Le petit modèle est disponible pour les personnes capables d'exécuter du code; le grand ne l'est pas. Pour la plupart des propriétaires d'entreprise, il s'agit encore d'une manchette et d'une histoire insolite de licornes.
Nous ne prévoyons pas que cette situation dure. Les technologies de ce type deviennent généralement moins coûteuses et plus faciles à utiliser plus rapidement que prévu. Voici notre analyse de ce qui se produira lorsque ce sera le cas.
Pourquoi la première vague sera-t-elle composée de contenu de faible qualité?
De faux avis, des articles de blogue sans substance rédigés par milliers pour les moteurs de recherche et des sections de commentaires remplies de comptes qui paraissent presque humains. Des fermes de contenu paient déjà très peu des rédacteurs pour produire du remplissage. Une machine capable de le faire sans frais attirera précisément les mauvais utilisateurs.
Les avis constituent la principale préoccupation. Une petite entreprise touristique dépend de ses avis TripAdvisor et Google. S'il devient facile de générer cent avis cinq étoiles crédibles, ou cent avis une étoile crédibles visant un concurrent situé un peu plus loin sur la plage, l'ensemble du système devient moins fiable. Ces plateformes devront considérablement améliorer leur capacité à repérer ce type de contenu.
Pourquoi les sources compteront-elles davantage que les phrases?
Si les mots coûtent peu, ce sont les faits qui les appuient qui prennent de la valeur. D'où provient ce chiffre? Qui a fait cette affirmation? Peut-on la vérifier? Une entreprise locale qui présente de vraies photos, nomme de vraies personnes et indique la provenance de ses informations fait quelque chose qu'un générateur ne peut imiter longtemps.
Pourquoi une voix authentique se démarquera-t-elle?
Le texte généré tend vers la moyenne, puisqu'il fonctionne en prédisant le mot le plus probable. Le résultat est lisse, équilibré et quelque peu fade. Un auteur qui a une véritable opinion, qui connaît bien sa région et qui écrira « j'ai essayé ceci et cela n'a pas fonctionné » produit un texte qui se lit différemment. Les lecteurs perçoivent généralement cette différence, même s'ils ne peuvent l'expliquer.
Il en va de même pour la traduction et le travail multilingue. Une machine peut transposer les mots d'un menu d'une langue à l'autre, mais elle ignore comment les gens de la région parlent de leur propre milieu. Cette connaissance locale est la part de la rédaction bilingue que nous ne prévoyons pas voir prise en charge par un modèle à court terme.
Quelles pratiques recommandons-nous dès maintenant?
À ce stade, il n'y a rien à acheter ni à installer. Plusieurs pratiques méritent toutefois d'être adoptées dès maintenant.
Lisez plus attentivement. Lorsqu'un contenu en ligne est parfaitement lisse et que la provenance de ses affirmations est floue, considérez-le comme un récit non vérifié : peut-être exact, mais à vérifier.
Indiquez vos sources dans ce que vous rédigez, même si cela demande un effort supplémentaire : des liens, des noms, des dates et des photos que vous avez réellement prises.
Restez ouvert aux avantages. Si ces outils deviennent performants et abordables, certaines tâches de rédaction plus routinières, comme les premières versions, les reformulations et les résumés, pourraient être beaucoup plus rapides. Nous les utiliserions à cette fin, à la condition qu'une personne relise chaque mot avant sa publication au nom d'une entreprise.
Une seule histoire inventée de licornes ne constitue pas la principale préoccupation. Le risque le plus important est un afflux graduel de textes d'apparence plausible qui rend l'ensemble du contenu un peu plus difficile à croire.