ProPainter
Évaluez ProPainter pour une retouche vidéo précise : vérifiez les masques, les restrictions commerciales, les défauts en mouvement et le fichier final avant validation.
Identité et accès
- Nom du modèle
- ProPainter
- Accès
- Le code et les fichiers préentraînés sont documentés dans le dépôt officiel. La licence S-Lab examinée limite les usages autorisés ; l’utilisation commerciale doit être réglée séparément.
- Type de modèle
- Transformer et propagation
- Architecture
- Propagation dans les domaines des images et des caractéristiques, avec un Transformer vidéo parcimonieux
- Public visé
- Pour les monteurs et les chercheurs capables de préparer des masques, de documenter les essais et de juger les défauts temporels selon une consigne précise pour le plan.
- Entrée
- Une vidéo existante et un masque définissant la zone à reconstruire. L’implémentation accepte un masque unique répété ou une séquence ordonnée de masques.
- Sortie
- Une vidéo reconstruite à examiner en mouvement, puis à contrôler séparément pour l’intégrité du fichier livré et le son.
- Coût
- Prévoyez la préparation des masques, le calcul et la vérification image par image. Les réglages mémoire sont à essayer sur votre vidéo. Cette analyse ne donne ni minimum matériel ni tarif de licence commerciale.
- À éviter
- À écarter si les droits commerciaux restent incertains, si vous avez besoin d’un éditeur hébergé immédiatement utilisable ou si personne ne peut inspecter la séquence retouchée et le fichier final.
Sources et méthode
Licence et droits
- Licence
- S-Lab License 1.0
- Type de licence
- Code source accessible
- Périmètre de la licence
- Code et modèles : usage non commercial sous les conditions S-Lab. Contactez les contributeurs pour un usage commercial. Les droits sur les images et les conditions des services d’hébergement restent distincts.
- Open source
- Non
Disponibilité
- État
- Disponible
- Périmètre de l’état
- La version examinée du dépôt documente le code, les modèles préentraînés et les instructions d’exécution. La disponibilité concerne ces éléments publiés ; elle ne certifie ni un service hébergé, ni la compatibilité avec les appareils actuels, ni les droits commerciaux.
Points clés
Reconstruire les zones masquées entre plusieurs images
Les auteurs associent complétion récurrente du flux optique, propagation dans les images et les caractéristiques, et Transformer vidéo parcimonieux guidé par le masque. Cette description du procédé ne garantit pas une retouche invisible.
L’alignement des masques fait partie du résultat
Le script examiné répète un masque unique ou lit une séquence de masques dans l’ordre de tri. Contrôlez l’ordre des images, les dimensions et les contours à préserver avant de modifier les réglages du modèle.
Un code public ne donne pas tous les droits
La S-Lab License 1.0 autorise les usages non commerciaux sous conditions et renvoie les demandes commerciales aux contributeurs. Clarifiez ce point avant un essai commercial.
Cas d’usage et limites
Un essai ciblé de suppression d’objet
Choisissez un plan représentatif et son masque, définissez les formes voisines à préserver, puis examinez le passage difficile en mouvement. Il s’agit d’une méthode d’évaluation, pas d’une garantie de réussite pour chaque suppression.
Une réparation vidéo avec contrôle de livraison
Évaluez une zone endommagée ou indésirable si vous pouvez comparer les contours protégés, la stabilité temporelle, le cadrage, la durée et le fichier final. Vérifiez le son séparément : le code de sortie examiné ne le réintègre pas.
Avantages
- La méthode documentée utilise les informations entre les images au lieu de traiter chaque retouche comme une photographie indépendante.
- L’implémentation officielle expose les réglages de masque et de mémoire nécessaires à un essai documenté.
- Un masque unique répété et une séquence de masques image par image sont acceptés, ce qui permet d’adapter la préparation au plan.
Limites
- La licence S-Lab examinée n’accorde pas d’autorisation commerciale par défaut.
- L’installation documentée sous Python 3.8 et les dépendances dont les versions ne sont pas toutes fixées ne garantissent pas la compatibilité avec les plateformes actuelles.
- Un traitement terminé peut encore échouer sur les limites du masque, la géométrie à préserver, la stabilité temporelle ou la gestion finale du son.
Thèmes
- ProPainter
À propos du modèle
Sur cette page
ProPainter reconstruit les zones masquées d’une vidéo existante, notamment pour retirer un objet indésirable. Il peut être utile de l’évaluer si vous savez préparer les images et les masques, vérifier les droits d’utilisation et examiner la retouche en mouvement. Le résultat ne sera pas nécessairement invisible. La question à résoudre concerne votre plan précis : peut-on effacer la zone voulue sans abîmer ce qui doit rester à l’image ? Site officiel du projet
Cette analyse repose sur les sources et le code, sans essai pratique sur GPU. Le texte anglais dont elle est issue documente une lecture de la documentation et de l’implémentation le 10 septembre 2026. L’exemple en studio, la fiche d’essai et la grille de validation ci-dessous sont des méthodes proposées par la rédaction. Ce ne sont ni des expériences réalisées pour ce guide ni des résultats annoncés par les chercheurs pour cette scène.
Révisions des sources examinées: code e870e793.
Définir précisément le plan à retoucher
Prenons un exemple fictif : dans une courte vidéo tournée en studio, un sac se trouve à côté d’une chaise. Faire disparaître le sac ne suffit pas. Le pied de la chaise doit garder sa forme, le motif du sol doit rester stable pendant le mouvement de caméra et la zone reconstruite ne doit pas attirer l’attention à vitesse normale. Une vignette propre n’est pas satisfaisante si le sol semble se déplacer indépendamment du décor une seconde plus tard.
Avant toute installation, formulez la consigne en une phrase : retirer le sac, préserver la chaise et le sol, conserver le cadrage. Repérez ensuite le passage difficile. Il peut s’agir de l’instant où le sac recouvre une partie de la chaise, ou de celui où la caméra dévoile davantage le sol. Incluez ce passage dans l’essai, au lieu de ne choisir que les images les plus faciles.
Distinguez les exigences impératives des préférences. Un pied de chaise intact peut être indispensable, alors qu’un léger écart de texture dans un arrière-plan peu lisible reste acceptable pour votre projet. Fixez ce seuil avant de comparer les sorties. Sinon, vous risquez d’assouplir vos critères après coup pour les faire correspondre à ce que le modèle produit.
Conservez un original intact et notez la destination de la vidéo retouchée. Une expérimentation de recherche, un montage personnel et une prestation rémunérée ne soulèvent pas les mêmes questions pratiques ou de licence. La faisabilité technique ne règle pas les droits d’utilisation. La réputation du modèle ne prouve pas non plus qu’une retouche donnée convient à la livraison.
Comprendre la méthode et ses limites
ProPainter est un projet du S-Lab de la Nanyang Technological University présenté à ICCV 2023. Les auteurs décrivent trois composants principaux : la complétion récurrente du flux optique, la propagation dans les domaines des images et des caractéristiques, puis un Transformer vidéo parcimonieux guidé par le masque. Le modèle exploite ainsi des informations entre plusieurs images au lieu de traiter chaque réparation comme une photographie indépendante. Présentation de la méthode
L’article situe cette architecture dans la recherche sur l’inpainting vidéo, notamment par rapport à E2FGVI. Cette filiation ne fait pas de ProPainter une simple nouvelle version d’E2FGVI. De même, une comparaison académique ne désigne pas un vainqueur universel pour tous les travaux de montage actuels. Les expériences de l’article n’ont pas été reproduites pour ce guide. Article original
Pour choisir un outil de travail, distinguez une méthode de recherche d’un service de retouche complet. Le code téléchargeable, une extension communautaire et une interface hébergée peuvent différer par leur installation, leurs réglages, le traitement des données et leurs conditions d’utilisation. Ce guide porte sur l’implémentation des auteurs. Une interface portant le même nom ne donne pas nécessairement accès aux mêmes réglages ni aux mêmes droits.
Régler la question de la licence avant l’essai
La S-Lab License 1.0 examinée autorise les usages non commerciaux sous réserve de ses conditions. Elle demande de contacter les contributeurs pour une utilisation commerciale. L’accès public au code ne constitue donc pas une autorisation commerciale sans restriction. Consultez la licence applicable au code et aux modèles, puis demandez des précisions au titulaire des droits si votre usage n’est pas clairement couvert. Texte de la licence examiné
Gardez trois décisions distinctes dans vos notes : le droit de modifier les images d’origine, le droit d’employer ce modèle pour le projet et les conditions d’un éventuel service d’hébergement. Résoudre l’une ne résout pas les autres. En particulier, le fonctionnement d’une démonstration en ligne ne prouve ni l’autorisation commerciale, ni la confidentialité, ni l’existence d’un quota illimité.
Dans l’exemple en studio, inscrivez la décision relative aux droits en tête de la fiche d’essai. Si la vidéo est destinée à une livraison commerciale et que l’autorisation nécessaire manque, arrêtez l’évaluation de cet usage à ce stade. Vous pouvez étudier une autre méthode autorisée sans en déduire que ProPainter aurait donné un mauvais résultat. Le point non résolu concerne ici les droits, pas la qualité de l’image.
Préparer un essai facile à retracer
Partez des instructions du dépôt officiel. L’installation documentée utilise Python 3.8 et des poids préentraînés. Il s’agit du point de départ décrit par les auteurs, pas d’une compatibilité que nous aurions vérifiée avec tous les systèmes d’exploitation, versions de Python ou environnements GPU actuels. Le fichier de dépendances contient des paquets sans version fixe et des plages de versions. Conservez donc la liste des versions réellement installées.
Utilisez un environnement isolé et joignez ses notes d’installation à l’essai. Essayez d’abord un exemple officiel, puis un plan représentatif de votre propre travail. Cet ordre proposé aide à distinguer un problème d’environnement d’une difficulté de masquage. Si l’exemple ne fonctionne pas, modifier le masque du sac n’expliquera pas l’échec de l’installation.
Créez une fiche avant de lancer le traitement. Donnez-lui un nom unique et indiquez le fichier d’entrée, l’intervalle retenu, les dimensions des images, l’emplacement des masques, la révision du dépôt, les poids, les versions de l’environnement et les arguments exacts. Ajoutez ensuite le chemin de la sortie, l’état d’achèvement et vos observations. Ne remplacez pas un ancien essai lorsque vous changez un réglage.
Une semaine plus tard, cette fiche doit permettre de comprendre ce qui a changé entre un résultat acceptable et un échec. La mention « qualité augmentée » ne suffit pas. Notez le paramètre modifié, la raison de ce choix et le défaut que vous espériez corriger. Une autre personne pourra alors suivre votre démarche sans devoir la deviner.
Vérifier les masques avant les réglages du modèle
L’implémentation examinée reçoit les images et les masques. Lorsqu’un seul masque est fourni, elle le répète sur toute la séquence. Lorsqu’un dossier de masques est fourni, elle lit les fichiers dans l’ordre de tri. Vérifiez le comportement de la révision que vous utilisez avant de supposer qu’une autre interface suit la même logique. Chargement des masques
Pour le sac, comparez d’abord le masque à la première image, à une image intermédiaire et à la dernière. Examinez ensuite chaque passage où sa silhouette ou son recouvrement change. La sélection doit suivre le sac sans englober le pied de la chaise. Décidez séparément si l’ombre fait partie de la suppression : une ombre très visible peut trahir la retouche même lorsque le sac a disparu.
Contrôlez la correspondance entre chaque image et son masque, leurs dimensions et l’ordre des noms de fichiers. Ces vérifications sont particulièrement utiles avec des séquences d’images. Un masque qui paraît correct seul peut être associé à la mauvaise image. Enregistrez une superposition pour distinguer une erreur de sélection d’un défaut de reconstruction.
Pendant le diagnostic, ne changez qu’une variable à la fois. Agrandir le masque, réduire la résolution et modifier les paramètres temporels simultanément peut produire une autre image, mais ne dira pas quelle intervention a aidé. Gardez le premier essai comme référence et attribuez un objectif précis à chaque tentative suivante.
Évaluer les compromis liés à la mémoire
Voici les valeurs par défaut relevées dans l’implémentation en ligne de commande. Elles décrivent le code examiné ; elles ne constituent pas des réglages recommandés pour toutes les vidéos.
| Paramètre | Valeur par défaut examinée |
|---|---|
--mask_dilation | 4 |
--neighbor_length | 10 |
--ref_stride | 10 |
--subvideo_length | 80 |
--resize_ratio | 1.0 |
--fp16 | Désactivé |
Comparez les définitions des arguments à la révision enregistrée dans votre fiche. Les auteurs documentent des moyens de réduire la mémoire utilisée en agissant sur la précision numérique, la résolution et le contexte temporel. Leurs exemples de consommation mémoire ne sont ni une exigence minimale universelle pour le GPU ni une promesse de vitesse. Traitement économe en mémoire
Si la mémoire est le premier obstacle, réduisez l’ampleur de l’essai et consignez la condition modifiée. Une fois le traitement terminé, inspectez de nouveau le résultat. Le fait que le programme arrive au bout ne valide pas la retouche : des contours à préserver peuvent être abîmés et des défauts rester visibles en mouvement.
Mesurez séparément le temps d’installation, les premiers téléchargements, le traitement et les corrections manuelles. Ces postes répondent à des besoins de planification différents. L’environnement installé peut resservir pour les plans suivants, alors que le masquage et les finitions sont à refaire. Aucune durée de traitement par image n’est donnée ici, faute de mesure sur une machine et une entrée précisément définies.
Utiliser une grille de validation horodatée
Cette grille est un outil de décision conçu pour le guide. Elle n’est ni un benchmark validé ni une note attribuée à ProPainter. Adaptez les zones à préserver et les exigences de livraison à votre propre plan avant de lancer l’essai.
| Point de contrôle | Zone à observer dans l’exemple en studio | Motif de refus ou de reprise |
|---|---|---|
| Suppression complète | Contour du sac et ombre volontairement incluse | Un fragment reconnaissable subsiste |
| Géométrie à préserver | Pieds de chaise et limites voisines du sol | Une forme nécessaire est déformée ou effacée |
| Texture en mouvement | Sol reconstruit pendant toute la lecture | La texture flotte, palpite ou change brusquement |
| Passage difficile | Recouvrement des objets et mouvement de caméra | La retouche devient visible au moment critique |
| Intégrité du fichier livré | Cadrage, durée, lecture et son | Le fichier final ne respecte plus la consigne |
Regardez d’abord toute la vidéo à vitesse normale, puis examinez les images séparément. Comparez ensuite le passage difficile à l’original et notez chaque défaut avec son horodatage et sa position. « Le pied de la chaise se plie près du sol pendant le mouvement de caméra » décrit un problème qu’une autre personne peut retrouver. Une note de sept sur dix n’offre pas cette précision.
Demandez à une autre personne de regarder la même séquence sans lui montrer d’abord votre image préférée. Il s’agit d’une étape de vérification proposée, pas d’une affirmation selon laquelle cet exemple aurait déjà été examiné de manière indépendante. Transmettez la consigne et les zones à préserver pour que le retour porte sur le travail demandé, et pas seulement sur une préférence esthétique.
Retenez l’une de trois décisions : accepter pour cet usage défini, reprendre avec un prochain essai précis, ou arrêter et choisir une autre méthode. Une reprise doit nommer la cause soupçonnée et les observations qui confirmeraient une amélioration. Sans hypothèse plausible à vérifier, relancer le traitement en changeant plusieurs valeurs au hasard apporte peu d’informations.
Conserver les éléments utiles au diagnostic
Commencez par les entrées et les masques avant d’interpréter un problème de reconstruction. L’ordre proposé ci-dessous sert à organiser l’enquête. Un symptôme ne démontre pas à lui seul une cause particulière.
| Observation | Première vérification | Élément à conserver |
|---|---|---|
| La mauvaise zone est modifiée | Ordre des images et alignement des masques | Image originale avec son masque superposé |
| Une fine partie de l’objet reste visible | Couverture du contour prévu par le masque | Contour avant et après modification au même instant |
| L’image fixe paraît propre, mais la lecture gêne | Ensemble de la zone retouchée en mouvement | Courte séquence montrant l’apparition du défaut |
| Le traitement s’arrête sans sortie exploitable | Erreur réelle et environnement utilisé | Message d’erreur, arguments et dernière étape terminée |
| Le résultat change après une modification d’environnement | Mêmes entrées et réglages enregistrés | Fiches des deux environnements et deux sorties |
Ne supprimez pas les essais ratés pendant le diagnostic. Ils peuvent montrer qu’un changement n’a pas corrigé le défaut, ou qu’un réglage auparavant acceptable dépendait de l’environnement. Sans cet historique, vous risquez de refaire la même expérience sous un autre nom de fichier.
Le code de sortie examiné écrit une vidéo à partir des images reconstruites, sans étape supplémentaire pour réintégrer la piste audio. Vérifiez donc le son du fichier final séparément. Implémentation de l’écriture vidéo Après un montage ou un export ultérieur, contrôlez également le véritable fichier à livrer, et pas seulement une prévisualisation intermédiaire.
Savoir quand arrêter les essais
Fixez à l’avance le temps disponible pour l’installation, la préparation des masques, les traitements et les finitions. Il s’agit du budget de votre projet, pas d’un nombre de tentatives valable pour toutes les vidéos. Si le passage difficile échoue encore et qu’aucune nouvelle vérification précise ne se dessine, arrêtez. Explorer davantage de paramètres ne garantit pas d’aboutir à un résultat utilisable.
Une retouche dont le déplacement est suivi dans le plan, une prise de vue du décor sans l’objet à retirer ou un nouveau tournage sont d’autres pistes à étudier. Le choix dépend des images disponibles, des droits et du travail que vous pouvez y consacrer. Ces méthodes n’ont pas été comparées expérimentalement à ProPainter dans ce guide. Ce sont des options de travail, pas un classement de performances.
Si votre besoin est de créer une nouvelle scène à partir d’une instruction textuelle, il s’agit d’une autre tâche que la réparation d’images existantes. Consultez l’annuaire des modèles d’IA pour explorer la catégorie pertinente, sans prendre une présence dans l’annuaire pour une preuve d’adéquation. Pour l’inpainting, conservez séparément l’original, les masques, les réglages et la sortie examinée. La reconstruction est une modification de l’image, pas une preuve de ce qui se trouvait réellement derrière l’objet.
L’évaluation doit permettre une décision justifiable pour un seul plan défini : l’usage est autorisé, le passage critique a été inspecté, les zones à préserver restent acceptables et le fichier livré respecte la consigne. Si une condition demeure incertaine, notez-la et différez l’acceptation. Une belle image isolée ne suffit pas à la résoudre.
Questions fréquentes
Quelles entrées faut-il fournir à ProPainter ?
L’implémentation examinée reçoit une vidéo accompagnée d’un masque unique ou d’une séquence ordonnée de masques. Conservez les images, les masques, les arguments exacts et la révision du dépôt avec l’essai.
Peut-on utiliser ProPainter commercialement ?
La S-Lab License 1.0 examinée autorise les usages non commerciaux sous conditions et invite à contacter les contributeurs pour un usage commercial. Le seul accès public au code ne vaut pas autorisation commerciale.
ProPainter conserve-t-il le son de la vidéo ?
Le code de sortie examiné écrit les images reconstruites sans ajouter d’étape de réintégration audio. Contrôlez le véritable fichier livré et prévoyez explicitement le traitement du son dans votre méthode de travail.
Comment juger une vidéo retouchée avec ProPainter ?
Regardez toute la séquence à vitesse normale, puis inspectez les instants difficiles : restes d’objet, contours protégés abîmés et textures instables. Acceptez le résultat uniquement selon les exigences définies pour ce plan.