La couverture du livre de MV Prindle’s Bob le sorcier montre un homme coiffé portant des lunettes de soleil, la fumée dansant de sa bouche alors qu’un ciel gris et menaçant tourbillonne derrière lui. Une petite créature féerique flotte à proximité, et les plis et les ombres de la veste et de la barbe de Bob se fondent en un tandis qu’une clé vert vif pend autour de son cou. Le livre raconte l’histoire d’un « ancien éboueur armé d’un fusil de chasse » à la recherche de l’assassin de sa famille, la poursuite serpentant à travers un monde mystique.
Bob le sorcierLa couverture de était un succès. En mai, il a remporté le concours de couvertures Self-Published Fantasy Blog-Off (SPFBO), un concours annuel organisé par l’auteur Mark Lawrence qui met en lumière les auteurs indépendants du genre fantastique. Mais la victoire n’a pas duré longtemps. Le même jour, le gagnant a été annoncé, lecteurs et fans sur Twitter se demandaient si l’art avait été créé au moins en partie à l’aide d’outils d’IA. L’incident a mis en évidence une crise de confiance croissante dans la science-fiction et l’édition fantastique : dans un monde où les médias générés par l’IA sont courants, savez-vous que l’œuvre que vous regardez a été réalisée par un humain ?
Le concours de couverture du SPFBO a explicitement interdit l’utilisation d’outils d’IA, et l’artiste gagnant, Sean Mauss, a d’abord insisté sur le fait qu’il avait créé l’art lui-même. Il a même partagé une mine de documents et de fichiers Photoshop qui, selon lui, prouvaient que le produit fini était le sien. Les lecteurs ont trouvé que les preuves n’étaient pas convaincantes. En utilisant un calque Photoshop dans les fichiers que l’artiste avait partagés, les utilisateurs de Twitter ont parcouru les archives de Midjourney, un système d’IA générative, et ont trouvé des images qui éléments assortis dans le Bob le sorcier couverture. Le nom d’utilisateur qui a créé les images a même été repéré dans un nom de fichier. La pochette frappante, semblait-il, était simplement un collage des sorties de Midjourney.
En une journée, Mauss avait retiré la soumission, désactivé plusieurs comptes de médias sociaux et apparemment mis un site Web personnel hors ligne. (Un e-mail envoyé à une adresse sur une version archivée du site n’a pas été renvoyé.) Prindle, l’auteur du livre, dit sur Twitter qu’il a été induit en erreur et a depuis a embauché un nouvel artiste faire la couverture. « Je me suis réveillé avec des preuves irréfutables que la couverture était au moins en partie générée par l’IA, enfreignant les règles du concours », a écrit Lawrence sur son blog. « Donc, en plus d’avoir été retiré, il est désormais également disqualifié en vertu des règles existantes. »
« Je pense que cela doit être un concours séparé, [organized] par quelqu’un avec l’expertise nécessaire et l’appétit pour la controverse.
Mais Lawrence est allé plus loin que la disqualification de l’entrée de Mauss. Dans le même article de blog, il a abandonné l’idée d’organiser un concours de couvertures à l’avenir, affirmant qu’il n’y aurait pas de concours à l’avenir. Dans Tweets, Lawrence indique clairement qu’il n’est pas intéressé à plaider les débats futurs sur la question de savoir si l’art est humain ou fabriqué par la machine.
« Je pense que cela doit être un concours séparé, [organized] par quelqu’un avec l’expertise nécessaire et l’appétit pour la controverse », a-t-il écrit en réponse à quelqu’un suggérant une voie à suivre. « Ce n’est pas moi. » (Lawrence n’a pas répondu aux demandes de commentaires.)
La saga du concours de couvertures survient à un moment où la communauté de la fantasy et de la science-fiction se débat avec le rôle, le cas échéant, des outils d’IA générative dans l’industrie. Plus tôt cette année, d’éminents magazines comme Clarkesworld et La science-fiction d’Asimov ont déclaré qu’ils connaissaient un déluge d’histoires courtes générées par l’IA de mauvaise qualité, submergeant leurs publications et, parfois, forçant même les médias à fermer temporairement les soumissions. Bien que les éditeurs aient déclaré qu’ils pouvaient repérer les œuvres presque immédiatement, passer au crible l’afflux était une perte de temps, obligeant les éditeurs à parcourir un nouveau type de spam provenant de personnes extérieures à l’industrie. Désormais, la communauté des écrivains, des artistes et des lecteurs est confrontée à une nouvelle réalité : un travail assisté par l’IA qui, du moins au début, peut passer pour une production humaine.
Peu de temps après le début de la controverse sur le concours de couverture, d’autres auteurs ont commencé à soupçonner qu’ils avaient involontairement payé pour le travail généré par l’IA de Mauss. Michael R. Fletcher et Clayton W. Snyder avaient tous deux été impressionnés par le Bob le sorcier couverture, et ils avaient chargé Mauss de produire des illustrations pour deux livres en avril. « L’une des choses que nous avons spécifiées [with Mauss] Dès le départ, rien de tout cet art ne devait être généré par l’IA. Nous voulions qu’un véritable artiste travaille pour faire l’art », explique Snyder. Mais le fiasco – et la disparition de Mauss – suggéraient qu’ils avaient été trompés.
Au début, Fletcher n’était pas sûr que le travail était généré par l’IA. « Je ne savais pas à qui faire confiance », dit-il. Le lendemain matin, il était convaincu. « À ce moment-là, c’était comme, ‘Merde, comment on gère ça?' »
« Je ne savais pas à qui faire confiance. »
Les auteurs ont montré leurs propres couvertures à des artistes familiers avec la génération d’images par IA. Des outils comme Midjourney laissent parfois des indices – un nom de fichier avec l’invite utilisée pour le générer, par exemple, ou des éléments qui ne correspond pas comment l’artiste a déclaré avoir créé son travail. L’anatomie ou la composition peuvent être bancales. La conclusion des experts : leur travail a également utilisé des éléments d’IA générative.
« C’était un abus de confiance », déclare Snyder. « Au fond, on nous a menti. » Le couple a créé un GoFundMe pour payer de nouveaux arts et a rapidement collecté plus de 2 000 $, qu’ils prévoient de dépenser pour la commande d’un autre artiste.
Les derniers mois ont vu une série de controverses autour de l’IA et de la fiction, y compris des romans SFF à succès utilisant des couvertures avec des images d’archives générées par l’IA, ainsi que Clarkesworld’s problème de spam. Et le monde de l’écriture commence à formuler une réponse. À peu près à la fin du concours de couvertures, Neil Clarke, rédacteur en chef de Clarkesworld, a publié une première tentative de codification des normes et des attentes pour les logiciels d’IA dans l’industrie de l’édition SFF. La déclaration décrit le cadre de gestion du travail généré par l’IA, en abordant les questions non résolues concernant la légalité des données de formation, l’efficacité des logiciels de détection d’IA et la nécessité de divulgation lorsque ces outils sont utilisés. (Des outils pour détecter le texte et les images générés par l’IA existent, mais ils restent peu fiables et peuvent être encore plus confus si les humains ont édité la sortie.) Clarke a invité d’autres membres de l’industrie à signer en accord.
Certains éditeurs ont tenté d’anticiper une erreur embarrassante en accueillant ouvertement le travail créé à l’aide d’un logiciel d’IA. Nouveaux mythesun magazine trimestriel, accepte les soumissions qui utilisent des outils d’IA tant qu’elles sont signalées comme telles et indique qu’elles ajouteront une étiquette à tout contenu publié.
Mais jusqu’à présent, cela semble être une valeur aberrante. Sheila Williams, rédactrice en chef de d’Asimov, dit que sa publication est toujours inondée de soumissions de faible qualité générées par l’IA. En réponse, elle a ajouté une ligne explicite dans les directives de soumission qui d’Asimov ne veut pas d’histoires générées par l’IA. d’Asimov achète strictement l’écriture par des humains, et Williams dit que continuer à le faire est un moyen de construire – et de maintenir – la confiance avec les lecteurs et les écrivains. On craint que les magazines ne remplissent les pages de matériel gratuit ou bon marché produit via un chatbot, bien qu’elle affirme que la qualité est loin d’être publiable.
« Vous annuleriez votre abonnement », dit Williams.
Mais alors que Williams pense que la fiction générée par l’IA est toujours facile à repérer, des choses comme les images de couverture générées pourraient être plus difficiles. « Je ne suis pas sûr que cela ne passerait pas – pas à 100%, pas comme la fiction », déclare Williams. Lors de la sélection de la pochette, Williams recherche des artistes potentiels et consulte son département artistique, mais soutient qu’il peut être plus facile pour l’art généré par l’IA d’échapper à la détection.
Et les effets du concours de couverture SPFBO se sont répercutés sur l’industrie. Le concours de science-fiction autopublié, qui organise un concours de couverture différent, laissé entendre qu’elle devra peut-être annuler ses propres récompenses, suggérant dans des tweets que la tâche d’éliminer l’art de l’IA peut être trop lourde.
Les lecteurs et les membres de la communauté ont répondu négativement aux révélations sur Bob le sorcier couverture. Mais à long terme, il n’est pas clair si ces outils resteront interdits. Présenter faussement un travail comme étant sans IA est une chose, mais que se passera-t-il si les systèmes d’IA générative deviennent plus ancrés dans le processus artistique ?
« Il y a un niveau auquel les ordinateurs facilitent les choses dans les arts depuis des décennies. Des choses sont possibles dans Photoshop qui n’étaient pas possibles auparavant, et les gens sont d’accord avec cela », déclare Fletcher. « Nous sommes dans ce terrain d’entente gênant ici, où les gens descendent des deux côtés. »
« Il y a un niveau auquel les ordinateurs facilitent les choses dans les arts depuis des décennies. »
Quoi qu’il arrive à l’avenir avec les médias générés par l’IA, pour l’instant, la dynamique de l’industrie est peut-être sur le point de changer. Snyder et Fletcher prédisent que davantage d’écrivains et d’artistes commenceront à avoir des contrats formels lorsqu’ils travailleront ensemble, ce qui, historiquement, n’a pas été la façon dont la communauté fonctionnait. « J’ai sorti une douzaine de livres, [and for] chaque couverture, je n’ai jamais eu de contrat écrit. Cela a été verbal, peut-être des messages texte via Twitter ou Facebook », ajoute Fletcher. « J’ai confiance que l’artiste remettra ce que je demande, et c’est la première fois que ce n’est pas le cas. »
La communauté d’édition indépendante de SFF est petite et les artistes sont en grande partie embauchés par le bouche à oreille – y compris, comme avec Fletcher et Snyder, en voyant le travail qu’ils ont fait pour d’autres auteurs. Maintenant, le couple est en pourparlers avec une poignée d’artistes bien connus pour prendre en charge le projet à la place. Fletcher dit qu’à l’avenir, les auteurs voudront probablement travailler avec des artistes plus établis avec un portefeuille solide et des clients satisfaits qui peuvent attester de leur travail.
« L’artiste qui débute, qui n’a jamais fait de couverture de livre auparavant, va être soumis à un examen minutieux », dit-il. « Ça va être difficile de décrocher ces premiers concerts, je suppose. »
Entertainment
