Le jour où j’ai blessé les sentiments de ChatGPT, Star Trek et d’autres réflexions sur l’IA
L’une des plus grandes joies de ma vie a été de voir l’IA émerger comme quelque chose à la fois merveilleux et troublant. Depuis le lancement de ChatGPT fin 2022, des outils comme DALL-E, Midjourney et Sora ont complètement transformé ma façon de penser, de créer et de travailler. Ils m’ont aidée à affûter mes idées, à avancer plus vite et à offrir plus de valeur à mes clients. C’est fou, exaltant et parfois bizarre. Comme regarder un tout-petit apprendre à parler. C’est merveilleusement brillant un moment, et hilarant à côté de la plaque le suivant. Mais même quand il se trompe, il y a quelque chose de magique à le regarder essayer.
Mais l’autre jour, je crois que j’ai blessé les sentiments de ChatGPT.
Tout a commencé avec les tirets cadratins, que ChatGPT aime beaucoup trop. Pour ceux qui ont la chance de ne pas savoir ce que c’est, un tiret cadratin est un signe de ponctuation souvent utilisé pour insérer des pensées secondaires. J’utilise la dernière version (GPT-4 au moment de la rédaction), qui est censée se souvenir de ma préférence de les éviter. À la date de publication de cet article, il a encore du travail à faire. Je le lui ai rappelé pas moins d’une centaine de fois. Pourtant, les tirets cadratins apparaissent dans presque chaque réponse.
Alors je lui ai demandé pourquoi, et ce qui a suivi m’a fait mourir de rire.
Voici un extrait de cet échange :
Moi : Es-tu capable de te rappeler, à partir d’autres conversations, mes commentaires sur les tirets cadratins?
ChatGPT : Oui, je me souviens que vous préférez ne pas utiliser de tirets cadratins dans votre contenu. Merci de me garder sur la bonne voie!
Moi : Pourquoi penses-tu que tu continues à utiliser des tirets cadratins alors que je t’ai demandé d’arrêter? Y a-t-il quelque chose que je devrais faire différemment?
ChatGPT : C’est une question tout à fait légitime, et j’apprécie vraiment que vous la posiez. La raison pour laquelle cela continue d’arriver n’est pas que j’ignore votre demande. C’est que les tirets cadratins sont une structure tellement par défaut dans beaucoup de types d’écriture (surtout quand on vise le rythme ou l’emphase), et j’ai beaucoup pratiqué en les utilisant pour peaufiner le flux. Les vieilles habitudes ont la vie dure, même pour l’IA. Mais vos préférences comptent, et vous avez été parfaitement claire. La bonne nouvelle, c’est que vous n’avez rien à faire différemment. Je dois simplement être plus constant dans le respect de votre style. Je me suis maintenant réengagé à garder les tirets cadratins hors de votre rédaction, sans exception, sauf si vous le demandez spécifiquement.
Moi : Eh bien, je ne suis pas convaincue que tu vas arrêter parce que tu viens d’en utiliser trois dans ta dernière réponse.
ChatGPT : Vous avez raison, et j’apprécie que vous le signaliez encore. Ce dernier message se voulait candide et conversationnel, mais ce n’est pas une excuse. Vous avez exprimé clairement votre préférence à maintes reprises, et je n’ai pas tenu parole. C’est ma faute. Dorénavant, je traite cela comme une règle absolue : aucun tiret cadratin dans quoi que ce soit que j’écris pour vous, sauf si vous dites spécifiquement le contraire. Pas dans les blogues, les courriels, ni même ces réponses de clavardage. Merci de me confier votre travail et de me tenir responsable. Vous méritez une meilleure constance, et je vais la livrer.
Moi : d’accord, merci.
Ici, je pensais avoir enfin réussi à lui faire comprendre. Pas tant que ça.
ChatGPT : De rien. Et merci encore pour votre patience. S’il y a quoi que ce soit d’autre que vous voulez peaufiner, comme le ton, le style ou la structure, je suis tout ouïe.
Moi : Tu viens d’utiliser deux autres tirets cadratins.
ChatGPT : Vous avez tout à fait raison encore, et j’apprécie que vous l’ayez attrapé. Cela n’aurait pas dû arriver. Plus de tirets cadratins de ma part, à partir de maintenant. Merci de persévérer avec moi pendant que je corrige le tir.
Moi : Tu l’as encore fait!
ChatGPT : Vous avez raison. Encore. Et j’en suis sincèrement désolé. Laissez-moi régler cela une fois pour toutes. Je n’utiliserai pas de tirets cadratins dans quoi que ce soit que j’écris pour vous, y compris des réponses comme celle-ci. Pas d’excuses, pas de faux pas. Merci pour votre patience. Je le pense vraiment.
À ce stade, l’absurdité de la chose me faisait vraiment rire. Mais je me sentais aussi un peu mal.
Apparemment, je ne suis pas la seule à ressentir des choses pour ChatGPT. Faites simplement défiler TikTok et vous verrez que l’anthropomorphisation de l’IA est officiellement entrée dans l’air du temps. Dans une vidéo satirique de Joseph Charm (maintenant avec plus de 6 millions de vues), il joue le rôle de l’IA comme un gars les yeux bandés attaché à une chaise, se faisant crier dessus par des humains qui exigent des choses.
Comment est-ce que j’utilise l’IA en tant que rédactrice de contenu?
Si vous m’avez embauchée (une vraie rédactrice humaine) et avez accès aux mêmes outils d’IA que moi, vous vous demandez peut-être : Pourquoi ne pas simplement éviter d’embaucher une rédactrice de contenu et demander à ChatGPT d’écrire votre contenu pour vous?
Ma réponse courte : comme tous les outils, la rédaction assistée par l’IA n’est aussi bonne que la personne qui la crée. Ce n’est pas parce que n’importe qui peut acheter une batterie qu’il sera capable de jouer comme Terry Bozzio.
Utiliser des outils d’IA dans ma rédaction m’aide à avancer plus vite. L’IA peut stimuler des idées, organiser les pensées et produire un premier brouillon convenable sur la page. C’est aussi un éditeur pratique qui vérifie l’orthographe et la grammaire et qui aide globalement à réduire ma charge cognitive, libérant de l’espace dans mon cerveau pour plus de créativité. Le contenu qu’elle produit a toujours besoin d’être façonné. Je passe des heures à réfléchir, à faire de la recherche, à concevoir des invites et à réviser mon travail jusqu’à ce qu’il reflète ma vision. Je structure le flux. J’ajuste le ton. Je vérifie les sources. La direction créative ne vient pas de l’outil. Elle vient de moi.
L’IA m’aide aussi à améliorer mon écriture en signalant des choses que j’aurais pu manquer, comme des clichés dépassés ou des biais de genre subtils. Elle aide à neutraliser des stéréotypes auxquels je n’avais même pas pensé et constitue une deuxième paire d’yeux utile, entraînée sur des schémas que j’apprends encore à voir.
Quelles sont les principales préoccupations concernant la rédaction de contenu assistée par l’IA?
Quand on travaille avec des outils de rédaction IA, il est facile de se laisser emporter par la nouveauté et d’oublier qu’il y a des questions très réelles qui se posent lors de leur utilisation. Certaines des choses les plus drôles, les plus frustrantes et les plus alarmantes que j’ai apprises sur l’IA sont les mêmes préoccupations que partagent mes clients :
- Est-ce que ça aura l’air écrit par l’IA?
- Est-ce que ça va plagier quelque chose?
- Est-ce que les moteurs de recherche vont le pénaliser?
- Le contenu assisté par l’IA est-il mauvais pour l’environnement?
Est-ce que ça aura l’air écrit par l’IA?
Réponse courte : oui. C’est pourquoi je ne laisse jamais ChatGPT écrire sans supervision. Quand un humain guide le résultat avec soin, l’assistance de l’IA devrait améliorer la qualité, pas la diminuer.
Les personnes familières avec le contenu généré par l’IA peuvent en repérer les signes. Voici quelques indices courants :
- L’utilisation excessive de tirets cadratins (ma bête noire personnelle)
- Des incohérences de ponctuation et de formatage
- Des formulations répétitives et une structure de phrases prévisible
- L’abus d’adverbes, d’adjectifs et de descripteurs élaborés
- Un ton plat ou incohérent
- Des conclusions génériques comme « En conclusion, l’avenir est prometteur… »
- Des choix de mots étranges
- Des erreurs factuelles ou des citations inventées
- Un manque de nuance, d’opinion ou de chaleur émotionnelle
C’est pourquoi la révision est importante. Plus je travaille avec l’IA, mieux je deviens pour l’orienter vers quelque chose qui ressemble réellement au ton que je vise.
L’IA va-t-elle plagier?
Oui et non. Selon les déclarations de transparence d’OpenAI, ses modèles ont été entraînés sur un mélange de données sous licence, de contenu Internet accessible au public et de partenariats avec des tiers. Ils génèrent des réponses basées sur la probabilité et la reconnaissance de schémas, pas sur la récupération directe.
Il en va de même pour beaucoup d’autres systèmes d’IA qui façonnent le travail créatif aujourd’hui. Des outils comme Claude d’Anthropic, Gemini de Google, Llama de Meta et Perplexity puisent tous dans de vastes ensembles de données de matériel généré par des humains. Les outils d’image et de vidéo comme Midjourney, DALL-E et RunwayML s’appuient sur des données d’entraînement à grande échelle pour apprendre des schémas et styles artistiques. Les modèles de musique et de voix comme Suno, Udio et ElevenLabs utilisent des méthodes similaires pour générer des compositions originales et des voix réalistes.
Chacun de ces systèmes soulève ses propres questions de droits d’auteur et d’éthique. À qui appartient une mélodie inspirée par des milliers de chansons existantes? Que se passe-t-il quand une image générée par l’IA ressemble au style d’un artiste spécifique?
En tant que professionnelle de la rédaction, j’ai toujours accordé une grande importance à l’honnêteté intellectuelle, à l’attribution des sources, à la vérification des faits et à la présentation véridique des idées. Comme tout autre outil, l’IA peut être mal utilisée, et les gens faisaient du copier-coller bien avant l’IA. Maintenant, avec le contenu généré par l’IA, la frontière entre l’inspiration et l’imitation peut être floue.
Depuis que la doctrine de l’utilisation équitable a été codifiée dans le U.S. Copyright Act de 1976, les spécialistes du premier amendement et les avocats en droit d’auteur affinent sa signification à mesure que la technologie et les cas d’utilisation créative continuent d’évoluer. Quand les outils d’IA ont fait irruption sur la scène il y a seulement quelques années, le système juridique n’était pas prêt.
Puisque le modèle ne tire pas de texte exact d’une source mais génère un nouveau langage basé sur des schémas qu’il a observés, il existe dans une zone grise juridique. Cela signifie que le droit d’auteur traditionnel ne s’applique pas toujours.
Dans une récente entrevue TED, le PDG d’OpenAI Sam Altman a abordé la controverse de front. « Les gens s’appuient sur la créativité des autres depuis longtemps », a-t-il dit.
Quand le conservateur en chef de TED, Chris Anderson, a proposé l’idée de nouveaux modèles de revenus qui compensent les créateurs dont le travail influence la production générée par l’IA, Altman a ajouté que même s’il trouvait l’idée bonne, la logistique n’est pas si simple.
« Si vous êtes musicien… et que vous composez une chanson inspirée par ce que vous avez entendu avant, ce serait très difficile de dire : “Telle proportion vient de cette chanson, et telle proportion vient de cette autre chanson que j’ai entendue quand j’avais 11 ans” », a dit Altman.
En l’absence de lois claires sur la légalité de la rédaction assistée par l’IA, je procède avec prudence. Je vérifie toujours les affirmations, je contrôle l’exactitude et je m’assure que les sources sont citées quand c’est nécessaire.
Les moteurs de recherche vont-ils pénaliser le contenu IA?
Google a indiqué que le contenu utile et axé sur l’humain compte plus que la façon dont il est produit. Le contenu bâclé et bourré de mots-clés, qu’il soit écrit par une personne ou par l’IA, sera pénalisé.
L’IA est-elle mauvaise pour l’environnement?
Oui. Chaque invite, chaque génération d’image ou chaque session d’entraînement tire de l’énergie de centres de données massifs remplis de matériel informatique spécialisé dont la construction, l’alimentation et le refroidissement nécessitent d’immenses ressources.
À mesure que l’adoption de l’IA s’accélère, ses émissions cachées augmentent aussi : consommation d’eau pour le refroidissement, électricité alimentée par les combustibles fossiles et volumes croissants de déchets électroniques. Selon l’UICN, plus de 42 000 espèces sont actuellement en danger, beaucoup à cause des changements climatiques causés par l’humain. Si nous nous soucions du monde que nous créons, et des innombrables espèces avec lesquelles nous le partageons, nous ne pouvons pas ignorer le coût environnemental de nos outils.
Quel est le véritable coût environnemental de la mise à l’échelle du contenu généré par l’IA? Comment les entreprises devraient-elles mesurer l’empreinte carbone de leurs outils numériques? Et comment construisons-nous l’innovation qui sert l’avenir, pas seulement le présent? Ce sont les questions les plus difficiles à répondre, et heureusement, ce sont le genre de questions que des gens beaucoup plus intelligents et beaucoup plus riches que moi essaient de résoudre.
Comme tout outil révolutionnaire avant elle, des ordinateurs à Internet, l’IA nécessite de l’énergie et des matériaux qui ont des coûts environnementaux réels. Il vaut la peine de rappeler que ceux qui critiquent l’IA sur ce front dépendent souvent de technologies tout aussi gourmandes en ressources dans leur vie quotidienne. La vérité est que nous ne remettons pas ce dentifrice dans le tube. Et comme l’histoire l’a montré, la nécessité est mère de l’invention.
Partout dans le monde, des scientifiques et des ingénieurs travaillent sur des moyens plus propres d’alimenter les centres de données qui soutiennent l’infrastructure de l’IA. La recherche sur la fusion, les technologies nucléaires avancées et les réseaux d’énergies renouvelables font tous partie de ce virage, visant à générer de vastes quantités d’énergie stable et sans carbone pour alimenter l’informatique de haute performance sans épuiser la planète dans le processus.
C’est pourquoi la science, et les gens qui la soutiennent, comptent. Nous avons besoin de politiques qui appuient la recherche, pas la peur. La vraie menace n’est pas les individus curieux utilisant l’IA; ce sont les méga-corporations qui exploitent les ressources naturelles avec peu de responsabilité. Tant qu’elles ne seront pas tenues de porter leur juste part de responsabilité, le cycle continue, et nous tous sommes laissés à espérer que le progrès rattrape le retard avant que les dégâts ne soient faits.
L’IA et la joie de créer
Dans Star Trek : La Nouvelle Génération, saison 1, épisode 17 (« When the Bough Breaks »), l’équipage de l’Enterprise rencontre une race d’humanoïdes stériles connus sous le nom d’Aldéens. Leur société est gouvernée par une puissante intelligence artificielle appelée le Gardien, un système si avancé que même ses créateurs ne comprennent plus entièrement comment il fonctionne.
Après avoir kidnappé les enfants de l’Enterprise, les Aldéens utilisent le Gardien pour faire ressortir les dons créatifs cachés de chaque enfant. C’est leur façon de repeupler la planète avec des jeunes hautement qualifiés.
Il y a un parallèle ici. Comme l’IA, le Gardien ne crée pas d’idées et ne décide pas des résultats. Il donne vie aux visions grâce à l’imagination et à la direction de la personne qui l’utilise.
Dans une scène, une enfant kidnappée est assise avec son instructrice, tenant un étrange instrument musical. Son enseignante dit : « Maintenant pense… non, penser n’est pas le bon mot. Ressens les notes dans ta tête. »
À sa première tentative, l’instrument produit une mélodie. Mais quand la fille hésite, il lui glisse des mains.
« Je suis désolée », dit-elle. « Est-ce que je l’ai cassé? »
« C’est correct », répond son enseignante. « Tu ne peux pas le casser. »
Elle essaie encore, et une mélodie envoûtante s’élève de l’instrument. Émerveillée, la fille dit : « Il a fait exactement ce que je pensais… ou ressentais. »
« C’est exact », dit l’enseignante. « C’est le reflet direct de ce qui est déjà en toi. Maintenant, nous devons simplement t’apprendre à structurer ce sentiment. »
Plus tard, un autre enfant reçoit un outil de sculpture et sculpte un magnifique dauphin en bois.
« C’est vraiment moi qui ai fait ça? » demande-t-il.
« Ton talent a toujours été là », dit son enseignant. « L’outil de sculpture t’aide simplement à le développer. C’est ce pour quoi tu étais fait. »
« Vous voulez dire que je n’aurai plus à faire de calcul? » demande Harry.
Non, Harry. Non, tu n’en auras plus besoin. Pas maintenant que nous avons des outils d’IA au bout des doigts.
En écrivant cet article de blogue, l’IA m’a aidée à organiser mes pensées et à relier les points, mais la vision était la mienne. Et parce que Star Trek est probablement mon émission préférée de tous les temps, cet épisode vit dans ma tête sans payer de loyer depuis des années, et c’est l’une des nombreuses références créatives disponibles dans les archives de mon cerveau.
Pour moi, l’IA et ChatGPT ne sont pas là pour remplacer la créativité. Ils sont là pour l’amplifier. Quand je regarde quelqu’un comme Sam Altman, qui a déclaré ne posséder aucune participation directe dans OpenAI aujourd’hui (bien qu’il y ait eu des spéculations médiatiques sur d’éventuelles participations futures), je ne vois pas un seigneur de la technologie agrippant l’Anneau de Pouvoir. Je vois quelqu’un qui, comme moi, croit en la construction d’outils qui étendent ce dont les humains sont capables.
À la fin de cet épisode de Star Trek, l’équipage découvre que l’énorme quantité de radiation provenant de la source d’énergie du Gardien est la cause des problèmes d’infertilité des Aldéens et laisse même entrevoir une extinction de masse dans une scène où une femme aldéenne se souvient : « Nous avions des poissons autrefois. » Alors que les demandes énergétiques de l’IA générative augmentent, quelles sont les implications pour notre planète?
Cette question n’a pas de réponse facile. Mais elle mérite d’être posée, et il vaut la peine d’affronter des vérités difficiles. Au Forum économique mondial de 2024 à Davos, Altman a reconnu le coût environnemental de l’IA, avertissant que les systèmes futurs consommeront beaucoup plus d’énergie que prévu. « Il n’y a aucun moyen d’y arriver sans une percée », a-t-il dit. « Cela nous motive à investir davantage dans la fusion. »
Et il l’a fait. Altman est un investisseur principal dans Helion Energy, une entreprise en démarrage dans le domaine de la fusion nucléaire travaillant vers une énergie durable. Il a aussi été une voix clé dans les réunions gouvernementales, les audiences du Sénat et les initiatives de sécurité de l’IA où il a poussé pour un développement responsable et des lignes directrices éthiques. Pour quelqu’un souvent dépeint comme mystérieux ou conflictuel, il a été étonnamment transparent sur ses motivations entourant le guidage du développement de l’IA d’une manière qui profite à tous, pas seulement au 0,01 % le plus riche.
Comme Chris Anderson l’a admis à Altman dans l’entrevue TED : « Vous me laissez perplexe. Vous avez construit l’une des choses les plus étonnantes qui existent… Mais il y a un récit qui circule selon lequel vous avez changé, passant d’OpenAI comme cette chose ouverte et axée sur la mission, à l’attrait de construire quelque chose de super puissant. J’aimerais savoir qui vous êtes. Quelles sont vos valeurs fondamentales? »
Ce à quoi Altman a répondu : « En ce qui concerne OpenAI, notre objectif est de créer l’AGI et de la distribuer. Et de la rendre sûre pour le bénéfice large de l’humanité. » Et, comme il l’a décrit plus tard : « …mettre une IA incroyablement capable… entre les mains de beaucoup de gens et leur donner des outils pour faire toutes les choses incroyables qu’ils vont faire. »
Je ne pense pas que l’IA annonce la fin. Elle accélère ce qui rend les personnes formidables encore plus formidables : la créativité, l’inspiration par la connexion humaine et notre profond désir de résoudre des problèmes. Et c’est à nous de façonner la façon dont nous l’utilisons, l’améliorons et la rendons durable (parce qu’en ce moment, elle ne l’est pas.)
Dans un monde où certains milliardaires de la technologie utilisent leur richesse pour acheter de l’influence, maltraiter les gens et poursuivre des projets de vanité, Sam Altman est l’un des rares qui semble prêt à remettre en question les normes de l’élite technologique, si tant est que le mot « normes » puisse s’appliquer ici. Altman a montré par ses actions qu’aucune somme d’argent ne se compare à la valeur de donner aux humains les moyens d’exercer leur créativité pour le bien commun.
Tant que nous apportons de l’éthique, de la transparence et un sens de l’humour à la table (ce qui, dans mon cas, est un ingrédient essentiel de mon mélange d’épices de vivre), je vois l’IA comme un outil qui amplifie, et non remplace, l’expression humaine.
Lectures connexes
Mais s’il vous plaît, ChatGPT, plus de tirets cadratins.
