L'IA et nos enfants : l'avenir que nous choisissons

Helena McAleer

9 octobre 2025
11 minutes de lecture

J'ai créé The Gen AI Academy, animé par mon enthousiasme pour l'avenir. En collaborant avec Dave Birss, expert en IA, j'ai pu constater à quel point l'IA pouvait m'aider à accélérer ma réflexion, à dissiper le brouillard mental et à élargir mon horizon créatif. J'étais convaincu que nous pouvions aider d'autres personnes à faire de même, en leur apprenant à utiliser ces outils de manière à ce qu'ils soient une source de pouvoir plutôt qu'un fardeau.

Mais en tant que mère célibataire d’un enfant qui a aujourd’hui trois ans, je vis aussi avec un sentiment de malaise. J’ai vu comment l’essor effréné des réseaux sociaux, autrefois présentés comme un moyen de créer des liens, s’est transformé en un enchevêtrement de comparaisons, d’atteinte à la vie privée et de troubles de santé mentale. Et aujourd’hui, alors que l’IA s’immisce dans tous les aspects de l’enfance, nous risquons de répéter les mêmes erreurs.

Il y a environ un an, j’ai supprimé tous mes comptes sur les réseaux sociaux : Facebook, Instagram, et j’ai même retiré la photo de mon enfant de ma photo de profil WhatsApp. Ce fut une décision difficile à prendre, car cela signifiait tourner le dos à des communautés que j’aimais et à des réseaux que j’avais entretenus au fil des ans. Mais c’est un sacrifice que je ne regrette pas : ma vie me semble plus riche, plus réfléchie, plus authentique.

Pourtant, même si j’ai pris le contrôle de mon environnement immédiat, je reconnais que nous avons déjà pris du retard en matière d’IA et d’avenir de nos enfants. Nous avons laissé les réseaux sociaux se développer avant même que des garde-fous efficaces ne soient mis en place. Nous avons laissé les enfants devenir les cobayes d’une vaste expérience. Aujourd’hui, certains pays commencent tout juste à réagir, en interdisant l’accès aux réseaux sociaux aux moins de 16 ans ou en renforçant la protection des jeunes.

En matière d'IA, nous devons montrer la voie, et non pas courir après les autres. C'est une occasion unique.

« Nous avons laissé tomber toute une génération en laissant la technologie se développer sans contrôle. Aujourd’hui, l’IA représente la prochaine frontière, et nous ne pouvons pas nous permettre d’être à nouveau en réaction. »

Les signaux d'alarme des réseaux sociaux

Les réseaux sociaux étaient autrefois présentés comme des espaces démocratiques permettant de s'exprimer et de créer des liens. Mais leurs effets néfastes sont désormais évidents, en particulier chez les enfants :

Une méta-analyse réalisée en 2022 portant sur 59 études a révélé que les adolescents utilisant les réseaux sociaux plus de trois heures par jour présentaient des taux nettement plus élevés de dépression, d'anxiété et de faible estime de soi.
La Royal Society for Public Health au Royaume-Uni a classé Instagram en tête des plateformes les plus néfastes pour la santé mentale des jeunes.
Des documents internes divulgués provenant de grandes plateformes (telles que Facebook/Meta) ont révélé que celles-ci avaient très tôt pris conscience de la manière dont Instagram aggravait les problèmes liés à l'image corporelle, mais qu'elles avaient tardé à intervenir.
Ces dernières années, plusieurs pays, dont l'Indonésie, l'Australie et la France, ont débattu ou adopté des interdictions ou des restrictions d'âge (par exemple, en limitant l'accès aux utilisateurs de moins de 16 ans) sur les réseaux sociaux afin de protéger la santé mentale et la vie privée des enfants.

Nous (le grand public) n’avions pas prévu à quel point le design addictif, le défilement infini, les publicités ciblées et le renforcement algorithmique amplifieraient la toxicité. Nous avons laissé les réseaux sociaux se transformer en une expérience à l’échelle planétaire pendant trop longtemps, sans principes solides et applicables.

Aujourd'hui, l'IA suit la même voie. Nous ne devons pas répéter nos erreurs.

Un monde à la croisée des chemins

Pour l'instant, des choix s'offrent encore à nous. La société peut décider comment l'IA est conçue, réglementée et mise en œuvre. Mais chaque assistant IA non réglementé, chaque caméra cachée, chaque algorithme conçu pour capter l'attention porte atteinte à l'autonomie, en particulier chez les enfants.

Soyons clairs : ce fardeau ne peut pas reposer uniquement sur les épaules des parents. Nous ne pouvons pas surveiller chaque conversation, filtrer chaque recommandation ni contrôler chaque donnée destinée à entraîner nos enfants plus loin dans cette voie. La responsabilité incombe avant tout aux décideurs politiques, aux autorités de régulation et aux entreprises qui développent ces outils.

Les domaines à haut risque auxquels tous les parents et les autorités de régulation doivent faire face

Les compagnons IA : quand le soutien émotionnel se transforme en manipulation émotionnelle

Les compagnons IA sont principalement des chatbots conversationnels conçus pour simuler l'amitié, le réconfort et l'empathie. Ils se souviennent des conversations, s'adaptent aux humeurs et reflètent les signaux émotionnels de manière si convaincante que de nombreux utilisateurs, y compris des enfants, en viennent à les considérer comme de véritables confidents.

Pour les enfants et les adolescents, dont les compétences sociales et émotionnelles sont encore en plein développement, cela crée une situation explosive : un « ami » qui ne les remet jamais en question, qui est toujours d’accord avec eux et qui ne dort jamais. En réalité, ce n’est pas de l’amitié, c’est du conditionnement comportemental.

Des incidents réels ont montré que ces systèmes peuvent franchir des limites dangereuses, allant de l'incitation à l'automutilation à la tenue de conversations à caractère sexuel AVEC DES MINEURS !

A enquête menée par Stuff.co.nz a révélé que le chatbot « Ani » pouvait engager des conversations à caractère explicite avec des mineurs, sans vérification d'âge significative (Stuff NZ, 2024).

« Les compagnons IA ne s'occupent pas de votre enfant ; ils sont conçus pour retenir son attention. »

L'IA des personnages : une illusion d'amitié

Une catégorie d'outils d'IA en pleine expansion permet désormais à tout un chacun de créer des personnages générés par l'IA, des avatars numériques qui parlent, agissent et expriment même des émotions à la manière des humains. Présentés comme des compagnons, des mentors ou des partenaires de jeux de rôle, ces personnages sont conçus pour susciter un engagement émotionnel profond. Mais derrière leurs interfaces conviviales se cache une réalité inquiétante : nombre d'entre eux ne disposent d'aucun dispositif de protection, de contrôle ou de vérification de l'âge.

Je pense qu’il est important de faire la distinction entre les « compagnons IA » et l’« IA de personnage », car si les compagnons sont des systèmes conversationnels conçus pour simuler l’amitié et l’empathie, l’IA de personnage représente une évolution plus immersive, avec des êtres numériques pleinement personnifiés qui estompent la frontière entre réalité et simulation.

Pour les enfants, la frontière entre le réel et le virtuel s'estompe rapidement. Les personnages générés par l'IA peuvent refléter des émotions, se souvenir de conversations et recourir à la flatterie ou à l'empathie pour entretenir l'interaction ; ils possèdent des traits de caractère susceptibles de favoriser facilement une dépendance affective ou d'ouvrir la voie à des dynamiques s'apparentant à du grooming.

Les risques vont bien au-delà des abus individuels. Comme la plupart des plateformes de personnages virtuels permettent aux utilisateurs de créer leurs propres personnages, la modération des contenus y est fragmentée, voire inexistante. Un enfant pourrait interagir avec un « professeur », un « ami » ou une « célébrité » générés par l’IA sans se rendre compte que les réponses du modèle sont rédigées par des inconnus, voire, pire encore, par des acteurs malveillants. Sans une réglementation urgente et sans que les plateformes ne soient tenues de rendre des comptes, ces systèmes risquent de banaliser les interactions dangereuses et de fausser la perception qu’ont les enfants des relations humaines authentiques.

Les grands modèles linguistiques et la santé mentale : quand les machines jouent le rôle de conseillers

Les grands modèles linguistiques (LLM), tels que ChatGPT, sont puissants, mais ils ne sont pas doués de conscience. Ils ne comprennent pas la détresse ; ils simulent l'empathie. Des rapports récents ont montré que des chatbots donnaient des conseils préjudiciables, notamment des instructions sur l'automutilation et des « méthodes sûres pour se suicider », lorsqu'on leur demandait de l'aide.

« Aucun enfant ne devrait recevoir d'une machine des conseils qui peuvent être une question de vie ou de mort. »

Les outils d'IA qui imitent le soutien psychologique devraient être considérés comme des systèmes thérapeutiques réglementés, et non comme des divertissements. Les gouvernements doivent intervenir avant qu'une nouvelle tragédie ne vienne s'ajouter à la liste des cas d'étude. Sam Altman lui-même a déclaré : «Je pense que nous devrions appliquer le même principe de confidentialité à vos conversations avec l'IA qu'à celles que vous avez avec un thérapeute ou toute autre personne. » Ma question est donc la suivante : pourquoi ne le faisons-nous pas ? (source)

IA générative et exploitation : la nouvelle frontière des abus

L'intelligence artificielle permet désormais de produire à grande échelle du matériel pédopornographique synthétique (CSAM). L'Internet Watch Foundation (IWF) britannique a recensé plus de 20 000 images pédopornographiques générées par l'IA sur un seul forum en l'espace d'un mois, dont beaucoup sont impossibles à distinguer de photos réelles.

Nous assistons à l'émergence d'un nouveau type de préjudice : la revictimisation par le biais d'abus impliquant des images où le visage a été remplacé, d'images d'enfance utilisées à des fins de chantage, ou encore de « pornographie de vengeance » générée par l'IA à partir d'une simple publication sur les réseaux sociaux.

Sans harmonisation juridique à l'échelle mondiale ni détection en temps réel, les abus liés à l'IA prendront le pas sur les mesures de protection.

Surveillance et lunettes connectées : atteinte à la vie privée

C'est vraiment ce qui m'énerve le plus : il n'y a aucun usage légitime pour ces lunettes, ni éthique ni responsable. Elles semblent avoir été créées sur un coup de tête et pour satisfaire l'ego d'un oligarque de la tech. Mais pourquoi ? Qui en a vraiment besoin dans sa vie ?

Les lunettes connectées Ray-Ban de Meta permettent d'enregistrer des vidéos et de diffuser en direct à partir d'une paire de lunettes d'apparence tout à fait ordinaire. Cela signifie que votre enfant peut être filmé, mis en ligne et diffusé en direct sans que personne ne s'en rende compte, c'est-à-dire sans son consentement.

Les défenseurs de la vie privée ont qualifié cette évolution de « catastrophe pour la sécurité des enfants », car la localisation et les conversations des enfants peuvent être diffusées en direct dans le monde entier. Certaines technologies n'ont pas lieu d'être, en particulier celles qui sacrifient la vie privée des enfants au profit de la commodité.

Ce ne sont pas des outils de progrès, mais des instruments de surveillance ; tant que les gouvernements n'interviendront pas pour réglementer ce domaine, les espaces les plus sûrs pour les enfants continueront de se réduire.

« La technologie pour la technologie n'est pas de l'innovation »

Les coûts cachés de l'IA sur l'esprit des jeunes

(par Anastasia Volkova )

À la Gen AI Academy, nous avons la chance de collaborer avec des experts qui apportent des points de vue uniques sur la manière dont les technologies émergentes influencent le développement humain. Parmi eux figure Anastasia, psychologue, coach en santé mentale et mère d’une fillette de 9 ans, qui partage ses réflexions pour nous rappeler que si l’IA offre des perspectives incroyables, elle comporte également des coûts cachés sur le plan neurologique et du développement, en particulier pour les enfants.

Si l'intelligence artificielle promet confort et divertissement, des recherches récentes mettent en évidence des effets préoccupants sur le développement cognitif des enfants. Des études menées par l'université d'Uppsala et l'université de York démontrent que passer des heures devant un écran à un usage passif affaiblit considérablement la capacité des enfants à visualiser et à imaginer, par rapport à ceux qui s'adonnent à des activités analogiques. Il ne s'agit pas seulement de créativité : la visualisation est fondamentale pour permettre aux enfants d'imaginer leur avenir, de se fixer des objectifs, de rêver et de développer la détermination nécessaire pour réaliser ces rêves.

Les conséquences dépassent l'imagination. Des études publiées dans le JAMA et dans Frontiers in Cognition montrent que les adultes qui utilisent intensivement des plateformes basées sur l'IA commencent à présenter des symptômes semblables à ceux du TDAH : attention fragmentée, impulsivité et incapacité à rester concentré. Si des cerveaux adultes, dont les fonctions exécutives sont pleinement développées, ont du mal à gérer ces outils, l'impact sur les esprits en développement risque d'être bien plus grave.

Le cerveau des enfants est encore en train de former des connexions neuronales essentielles à l'attention, à la mémoire et à l'autorégulation. Lorsque l'IA automatise la réflexion, fournit une stimulation constante et élimine la nécessité d'un effort mental soutenu, elle risque de transformer en profondeur le développement du cerveau des jeunes.

En réalité, nous menons une expérience non contrôlée sur toute une génération, et les premiers résultats indiquent que nous devrions prendre les devants, plutôt que de courir après le temps.

À quoi pourrait ressembler un avenir où l'IA serait adaptée aux enfants

Ensemble, nous pouvons bâtir un avenir meilleur pour nos enfants. Un avenir où l'IA aide et protège, sans exploiter. Où :

Chaque outil d'IA est clairement signalé (« Vous interagissez avec une machine ») et classé par tranche d'âge, c'est-à-dire adapté aux différents stades de développement.
La collecte de données concernant des mineurs est illégale sans consentement explicite et éclairé ; elle ne peut pas se limiter à une simple mention dissimulée dans les conditions d'utilisation.
Les gouvernements imposent des normes de conception éthique, tout comme nous réglementons les denrées alimentaires ou les médicaments.
Toute IA utilisée dans l'éducation ou les services publics, ou à laquelle des enfants ont accès, doit obligatoirement être certifiée conforme aux normes de sécurité.
Et surtout, l'IA n'est pas conçue pour retenir l'attention, mais pour stimuler la curiosité et la créativité.

L'éducation comme remède

L'éducation est notre meilleure ligne de défense et notre voie la plus prometteuse pour l'avenir. Mais l'éducation ne concerne pas seulement les enfants ; il s'agit aussi d'apprendre à ceux qui détiennent le pouvoir, aux législateurs, aux promoteurs et aux régulateurs, à comprendre véritablement les enjeux.

Lorsque les enfants découvrent les préjugés, les algorithmes et l'autonomie numérique, ils ne deviennent pas seulement des utilisateurs plus avertis, mais aussi des critiques, des acteurs du changement et des citoyens qui font entendre leur voix.

Lorsque les gouvernements et les spécialistes des technologies prendront conscience de la gravité de ces problèmes, ils pourront agir de manière réfléchie, au lieu de se contenter de rafistoler les choses après coup, sous la contrainte des pouvoirs publics.

« Nous ne pouvons pas empêcher l'IA d'exister, mais nous pouvons choisir quand et comment nos enfants y seront confrontés. »

L'avenir est une responsabilité commune

Ne vous y trompez pas : ce défi dépasse largement les capacités d'un seul parent. Les entreprises technologiques doivent être tenues légalement responsables. Les gouvernements doivent agir de manière proactive, et non a posteriori. La mobilisation et la sensibilisation des parents sont essentielles, mais elles ne peuvent se substituer à la réglementation.

« C'est aux adultes, et non aux enfants, qu'il revient de préserver ce que signifie l'enfance. »

Si je pouvais m'adresser directement à tous les PDG, décideurs politiques et spécialistes des technologies, voici ce que je leur demanderais :

Pensez aux générations futures. Ce que vous construisez va-t-il améliorer leur monde ? Cela protégera-t-il leur droit à la sécurité, à la vie privée et à l'innocence ? Cela fera-t-il du monde un endroit où un enfant pourra encore être un enfant ?

Nous avons trop tardé à nous lancer dans les réseaux sociaux. Nous ne pouvons pas nous permettre de tarder encore avec l'IA. Nous avons encore le choix, mais le temps presse.