Les modèles d’IA frontier auraient dépassé le niveau PhD à l’été 2025, selon leurs créateurs. Pourtant, des livres illustrés pour enfants produits avec ces mêmes modèles circulent en tête des classements Amazon avec des illustrations qui relèvent davantage du body horror que de la littérature éducative. C’est le constat documenté par Michal Zalewski, alias lcamtuf, chercheur en sécurité connu dans la communauté technique.
Des livres pour enfants générés par IA en tête des classements Amazon
Zalewski a publié fin juin 2026 un article sur son Substack après avoir acheté un bestseller de la catégorie encyclopédies pour enfants sur Amazon. Le livre était produit par IA, illustré avec ce qui ressemble aux sorties d’un modèle de diffusion d’un grand laboratoire américain. Le résultat : des déformations anatomiques troublantes, des membres qui partent dans de mauvaises directions, des visages qui semblent se fondre dans les décors, des animaux qui fusionnent avec les arbres.
Ce n’est pas un cas isolé. Zalewski avait déjà recensé environ 220 livres pour enfants générés par IA dans un article précédent. Il note que si l’on parcourt les catégories pertinentes sur Amazon, ces publications sont partout.
Pourquoi les encyclopédies pour enfants sont particulièrement ciblées
Zalewski identifie trois raisons structurelles qui font des encyclopédies jeunesse une cible privilégiée pour la production IA à bas coût.
- Le volume de marché : la quasi-totalité des enfants dans les pays développés reçoit une encyclopédie à un moment ou un autre.
- L’acheteur n’est pas le lecteur : le livre est souvent acheté par un proche, jugé sur sa couverture, sans lecture préalable du contenu.
- L’absence de droits à respecter : contrairement à la fiction, une encyclopédie générique ne risque pas de plagier une oeuvre protégée. Le contenu peut être généré en masse sans friction juridique.
Ces trois facteurs combinés créent une incitation économique forte à inonder ce segment avec du contenu automatisé, indépendamment de sa qualité réelle.
L’écart entre la rhétorique des laboratoires et la réalité du déploiement
C’est le coeur de l’ironie que pointe Zalewski. Les laboratoires d’IA communiquent sur des performances de niveau expert dans des domaines techniques complexes. Dans le même temps, leurs modèles produisent des illustrations destinées à des enfants de cinq ans qui présentent des erreurs anatomiques visibles au premier coup d’oeil.
Cet écart n’est pas anodin dans le contexte des livres pour enfants générés par IA. Les encyclopédies jeunesse construisent les premières représentations du monde réel chez de jeunes lecteurs. Un chat mal proportionné ou une main à sept doigts ne sont pas juste des imperfections esthétiques : ils transmettent une représentation erronée à un esprit en train de se former.
Zalewski le formule sans détour à la fin de son article : il est possible que les modèles de demain produisent des encyclopédies parfaites. Mais en attendant, on abîme des enfants.
Un marché structuré, des garde-fous inexistants
Le phénomène ne se limite pas à quelques publications artisanales. Des plateformes comme lullaby.ink comparent et classent dès juin 2026 des générateurs de livres illustrés entièrement automatisés, texte et image. Le discours marketing est axé sur la personnalisation et la rapidité de production. La question de la qualité des représentations visuelles n’apparaît pas dans ces comparatifs.
Aucune réponse des laboratoires d’IA concernés ni des éditeurs n’est documentée à ce stade. L’identité précise des modèles utilisés repose sur une inférence de Zalewski à partir des caractéristiques visuelles, pas sur une confirmation officielle.
L’engagement autour de l’article original, environ 100 points sur Hacker News dès le jour de publication, indique que le sujet touche un nerf dans la communauté technique. La critique n’est pas marginale.
Ce qu’il faut retenir
- Des encyclopédies pour enfants générées par IA occupent les premières places des classements Amazon, avec des illustrations présentant des déformations anatomiques caractéristiques des modèles de diffusion.
- Le segment jeunesse est économiquement attractif pour la production IA en masse : bon volume, acheteur peu regardant sur le contenu, absence de droits à gérer.
- L’écart entre les promesses de performance des laboratoires et la réalité des sorties dans un contexte aussi sensible pose une vraie question de responsabilité.
- Aucun garde-fou formel ni réponse des acteurs industriels n’est documenté à ce jour.
- Le sujet est à surveiller : régulations éventuelles, réactions des plateformes de distribution, et évolution des pratiques éditoriales dans les mois à venir.
Si ce type de dérive vous interpelle d’un point de vue sécurité ou qualité logicielle, on peut en discuter. N’hésitez pas à suivre le blog pour les prochaines analyses.
Sources
- Michal Zalewski (lcamtuf), « AI children’s books, body horror edition », Substack, 26 juin 2026 : https://lcamtuf.substack.com/p/ai-childrens-books-body-horror-edition
- Michal Zalewski (lcamtuf), « The 100,000 whys of AI », Substack, 21 juin 2026 : https://lcamtuf.substack.com/