Google utilise désormais des agents IA pour traquer les usines à vidéos générées par IA

Une vidéo de chat. Une autre avec un paysage impossible. Une troisième raconte une histoire presque identique avec un personnage différent.

Prises séparément, elles peuvent ne rien avoir d’exceptionnel.

Mais derrière elles peuvent se cacher des dizaines de chaînes, des milliers de variantes et une même mécanique de production industrielle.

C’est précisément le problème auquel Google Research veut répondre avec SAFE — Scaled Abuse Forensics Examiner : un système multi-agents conçu pour enquêter sur des réseaux coordonnés de contenus synthétiques à grande échelle.

L’AI slop n’est plus simplement une mauvaise vidéo

Le terme « AI slop » désigne généralement des contenus synthétiques produits rapidement, en masse et avec peu d’exigence éditoriale, souvent pour capter des vues, des abonnements ou de la monétisation.

La facilité de génération change surtout l’échelle du phénomène.

Une analyse publiée par Kapwing fin 2025 a examiné les chaînes les plus tendances dans de nombreux pays. Elle a identifié 278 chaînes consacrées à ce type de contenu parmi environ 15 000 chaînes étudiées. Ensemble, elles totalisaient plus de 63 milliards de vues et 221 millions d’abonnés ; leurs revenus annuels potentiels ont été estimés à environ 117 millions de dollars, à partir notamment de données Social Blade. Ce dernier chiffre est donc une estimation, pas un revenu audité par YouTube.

Kapwing a aussi créé un compte YouTube neuf et observé ses 500 premiers Shorts : 104, soit 21 %, étaient classés comme générés par IA. Il s’agit de l’expérience d’un compte test, pas d’une mesure selon laquelle 21 % de tout YouTube serait de l’AI slop.

Le problème n’est donc pas simplement esthétique.

C’est un problème d’industrialisation de la production.

Les vieux détecteurs cherchent des copies. Les nouveaux réseaux fabriquent des variantes.

Pendant longtemps, l’une des méthodes les plus évidentes pour combattre le spam consistait à reconnaître que plusieurs contenus étaient presque identiques.

Mais l’IA générative rend ce raisonnement beaucoup moins efficace.

Un même scénario peut désormais être décliné automatiquement : un autre personnage, une autre voix, un autre décor, une autre langue, quelques secondes différentes, un nouveau montage.

Google Research décrit ce décalage comme un « synthetic gap » : les campagnes synthétiques peuvent produire des variations suffisamment différentes pour ne plus tomber dans les mêmes clusters de contenus répétitifs, alors que les comptes qui les diffusent continuent de présenter des comportements coordonnés.

Autrement dit : la vidéo change. La mécanique qui la produit peut rester la même.

Et c’est cette mécanique que SAFE cherche à reconstruire.

SAFE ne cherche pas seulement une vidéo suspecte

L’architecture décrite par Google fonctionne comme une petite équipe d’enquête spécialisée.

Au sommet se trouve un Root Agent.

Il distribue l’analyse entre trois agents spécialisés puis combine leurs résultats pour produire le verdict de l’enquête.

Le premier étudie les relations entre les chaînes.

Le deuxième recherche des comportements spatio-temporels anormaux ou artificiels.

Le troisième analyse le contenu, notamment avec des modèles de langage adaptés, afin d’identifier aussi bien des violations déjà connues que des contenus qui peuvent contourner la lettre d’une règle tout en en violant l’esprit.

La logique est donc radicalement différente d’un simple détecteur de vidéo générée par IA.

SAFE pose une autre question : ces comptes semblent-ils participer à la même opération ?

Une enquête qui devient elle-même multi-agents

C’est là que le sujet devient particulièrement intéressant.

L’IA a rendu possible une production de contenu à une vitesse que des enquêteurs humains ne peuvent plus analyser vidéo par vidéo.

Google répond en appliquant le même principe d’automatisation… à l’enquête.

Un agent examine les contenus.

Un autre observe les comportements.

Un autre cherche les connexions.

Et un agent principal rassemble les éléments.

SAFE est donc moins un « détecteur d’AI slop » qu’un système de forensic automatisé.

Google affirme que ses premiers déploiements réduisent significativement le temps nécessaire pour identifier de nouvelles menaces synthétiques par rapport à des processus d’investigation impliquant des humains. Le papier SAFE ne publie cependant aucun pourcentage précis de gain.

Cette distinction est importante.

74 % des dossiers triés automatiquement ? Oui, mais ce n’est pas SAFE

Un autre travail de Google Research décrit un système apparenté de détection des réseaux coordonnés de contenus synthétiques.

Testé sur 16 250 chaînes candidates par semaine, ce système annonce un taux de faux positifs inférieur à 0,05 %, un routage automatisé de 74 % des dossiers, plus de 1 100 heures de revue économisées par semaine et une réduction pouvant atteindre 50 % du délai d’investigation.

Ces chiffres sont spectaculaires.

Mais ils ne doivent pas être attribués directement à SAFE : ils proviennent d’un autre papier et d’une autre architecture expérimentale de Google Research.

Ce que les deux travaux montrent en revanche est la même évolution : la lutte contre le spam vidéo passe progressivement de l’analyse du contenu isolé à l’analyse de réseaux entiers.

YouTube ne peut pas simplement interdire les vidéos faites avec une IA

Ce serait d’ailleurs contradictoire avec sa propre stratégie.

En janvier 2026, Neal Mohan, CEO de YouTube, révélait que plus d’un million de chaînes utilisaient en moyenne chaque jour les outils de création IA de YouTube en décembre.

Dans la même lettre, il faisait pourtant de la gestion de l’AI slop l’un des chantiers explicites de YouTube pour 2026.

Les deux positions ne s’opposent pas.

YouTube ne veut pas bannir la création assistée par IA.

La plateforme explique au contraire que les créateurs utilisant l’IA peuvent continuer à être monétisés, à condition de respecter les mêmes règles d’originalité et d’authenticité que les autres.

Depuis juillet 2025, YouTube a simplement clarifié sa politique : les contenus répétitifs ou produits en masse entrent dans la catégorie des contenus « non authentiques » et ne sont pas éligibles au Programme Partenaire. Cette règle s’applique indépendamment de la technologie utilisée pour fabriquer le contenu.

C’est une nuance essentielle.

Le problème n’est pas : « cette vidéo utilise-t-elle une IA ? »

Le problème devient : « cette technologie est-elle utilisée pour produire industriellement un contenu destiné à contourner ou saturer les systèmes de la plateforme ? »

L’IA contre l’IA

C’est probablement le paradoxe le plus révélateur.

L’IA réduit le coût nécessaire pour fabriquer des milliers de contenus.

Elle permet de les varier suffisamment pour rendre certaines méthodes de détection moins efficaces.

Elle permet de multiplier les chaînes.

Et maintenant, elle devient aussi l’outil qui aide les plateformes à relier ces contenus entre eux.

La bataille ne se joue donc plus uniquement entre une vidéo suspecte et un algorithme de modération.

Elle se déplace à un niveau supérieur : réseau contre réseau, automatisation contre automatisation, agents contre systèmes automatisés de production.

Avec une difficulté majeure pour YouTube : ne pas confondre l’utilisation créative de l’IA — qu’il encourage lui-même — avec son exploitation industrielle pour fabriquer du contenu répétitif ou coordonné.

SAFE illustre cette nouvelle étape.

L’IA ne sert plus seulement à créer les vidéos.

Elle commence aussi à enquêter sur les machines qui les produisent.