Runtime MetaHuman Lip Sync | Georgy Dev

Runtime MetaHuman Lip Sync

Lip sync en temps réel, hors ligne et multiplateforme pour les MetaHuman et les personnages personnalisés. Prise en charge universelle des langues - fonctionne avec n'importe quelle langue parlée, sur n'importe quelle plateforme. Adapté aux jeux, bornes interactives, production virtuelle, assistants numériques, simulations de formation, et plus encore.

UE 5.0 – 5.8
Blueprints et C++
Windows, Mac, iOS, Linux, Android, Quest
MetaHuman et personnages personnalisés

Choisissez votre modèle

Choisissez le modèle qui correspond aux exigences de votre projet - d'une large compatibilité multiplateforme à une animation faciale de qualité cinématographique avec expression émotionnelle.

Standard

Compatibilité universelle

Optimisé pour les performances en temps réel sur toutes les plateformes prises en charge. Fonctionne avec les MetaHumans et tout personnage doté de morph targets.

Aperçu du modèle Standard
  • 14 visèmes avec un mappage flexible
  • Fonctionne avec tous les systèmes de personnages
  • Détection du rire
  • Windows, Android, Quest
Réaliste

Fidélité visuelle améliorée

81 contrôles faciaux pour un mouvement de bouche naturel et de haute qualité, pour les MetaHuman et les personnages compatibles ARKit. Disponible en deux variantes : Réaliste standard et avec gestion de l'humeur pour l'expression émotionnelle.

Aperçu du modèle Réaliste
  • 81 contrôles faciaux
  • Personnages MetaHuman et compatibles ARKit
  • Modes visage complet ou bouche uniquement
  • Toutes les plateformes, y compris Mac et iOS

Variante avec prise en charge de l'humeur

  • 12 types d'humeur avec une intensité configurable
  • Joie, Tristesse, Colère, Confiance, Excitation et plus

Comment ça marche

Le plugin analyse directement les phonèmes audio bruts - aucune transcription textuelle requise - ce qui le rend totalement indépendant de la langue et adapté à toute langue parlée.

1

Entrée audio

Microphone, TTS ou fichiers audio - toute source de données audio

2

Analyse des phonèmes

Traitement audio indépendant de la langue, en local

3

Données d'animation

Visèmes ou contrôles faciaux générés avec un contexte d'humeur optionnel

4

Lecture en temps réel

Appliqué au personnage avec des transitions de mélange fluides

Sources audio

Toute source audio fournissant des données PCM est prise en charge.

Entrée microphone

Synchronisation labiale en temps réel à partir de la capture du microphone en direct, grâce à l'onde sonore capturable de Runtime Audio Importer.

Synthèse vocale

Compatible avec la TTS locale hors ligne et des services externes, notamment ElevenLabs, OpenAI, Azure, Google Cloud, et plus encore.

Fichiers audio et flux

Traitez des fichiers audio préenregistrés, des sources de streaming ou tout fournisseur PCM personnalisé.

Prise en charge des personnages

Malgré son nom, le plugin fonctionne bien au-delà des MetaHumans.

Unreal MetaHuman

Les trois modèles prennent en charge les MetaHumans, avec une sortie de contrôle facial direct pour Realistic et Mood-Enabled.

Systèmes de personnages commerciaux

Le modèle Standard prend en charge Daz Genesis 8/9, Reallusion CC3/CC4/CC5, Mixamo, et bien d'autres grâce à un mappage de visèmes flexible. Realistic et Mood-Enabled les prennent également en charge via ARKit, par ex. CC3/CC4/CC5 convertis en ARKit à l'export.

Personnages personnalisés

Tout personnage doté de cibles de morphing peut être configuré. Prend en charge FACS, Apple ARKit, Preston Blair et les systèmes de phonèmes 3ds Max.

Modèle Standard - Exemples de personnages personnalisés

Exemple de personnage personnalisé
Exemple de personnage personnalisé

Prise en charge universelle des langues

Le plugin traite directement les phonèmes audio bruts plutôt que de s'appuyer sur une transcription textuelle, ce qui le rend intrinsèquement indépendant de la langue.

Anglais, espagnol, français, allemand, japonais, chinois, coréen, russe, arabe, hindi, portugais - et toute autre langue parlée.

Anglais
Espagnol
Français
Allemand
Japonais
Chinois
Coréen
+ Toute autre

Référence des plateformes et des modèles

Référence rapide pour la prise en charge des plateformes et les capacités des modèles.

Capacité Standard Realistic Mood-Enabled
Contrôles d'animation 14 visèmes 81 contrôles 81 + 12 humeurs
MetaHuman
Personnages personnalisés Via ARKit Via ARKit
Détection du rire
Windows
Mac / Linux / iOS
Android / Quest

Vidéos

Démos, tutoriels et visites guidées couvrant tous les modèles, sources audio et workflows d'intégration. Tout le contenu est compatible avec Unreal Engine 5.0 jusqu'à 5.8.

Démo d'IA Speech-to-Speech

Workflow complet : reconnaissance vocale, chatbot IA, TTS et synchronisation labiale en temps réel.

Configuration d'un personnage MetaHuman personnalisé

Comment ajouter votre propre personnage MetaHuman au projet de démonstration.

Synchronisation labiale pour les personnages ARKit

Configuration complète de l'Animation Blueprint pour les personnages ARKit, avec des exemples de fichier audio et de streaming ElevenLabs.

Clignement des yeux et suivi du regard

Clignement automatique et regard dynamique qui suit la caméra du joueur ou toute cible en mouvement, configurables dans la Face Animation Blueprint.

Avatar IA conversationnel en temps réel

Voix, synchronisation labiale et animation faciale en direct dans Unreal Engine 5.

Démo de synchronisation labiale de base

Présentation du modèle Realistic avec microphone, TTS local, ElevenLabs et plusieurs langues.

Synchronisation labiale à partir d'un fichier audio/d'un buffer

Configurez une synchronisation labiale réaliste en lisant un fichier audio sur votre MetaHuman, fonctionne aussi avec les buffers audio.

Synchronisation labiale depuis un serveur distant

Pilotez la synchronisation labiale en temps réel depuis une source audio en streaming via WebSocket, avec l'audio importé et traité bloc par bloc.

TTS local avec modèle prenant en charge les humeurs

Synthèse vocale hors ligne avec synchronisation labiale de haute qualité sensible aux émotions, 12 humeurs avec intensité réglable.

Intégration TTS externe

Modèle Realistic avec ElevenLabs et OpenAI pour une sortie de qualité premium.

Microphone en direct (Realistic)

Synchronisation labiale en temps réel à partir de l'entrée microphone en utilisant le modèle Realistic.

Synthèse vocale locale

Synchronisation labiale entièrement hors ligne avec TTS local, aucune connexion Internet requise.

Écosystème de plugins

Runtime MetaHuman Lip Sync s'intègre à l'ensemble plus large des plugins Georgy Dev pour créer des pipelines de personnages interactifs complets.

Runtime Audio Importer

Importez, diffusez et capturez de l'audio à l'exécution pour piloter des animations de synchronisation labiale depuis n'importe quelle source.

En savoir plus

Runtime Speech Recognizer

Ajoutez la reconnaissance vocale pour des personnages interactifs qui répondent aux commandes vocales.

En savoir plus

Runtime Text To Speech

Synthèse vocale hors ligne avec plus de 2800 voix, entièrement compatible avec tous les modèles de synchronisation labiale.

En savoir plus

Intégrateur de chatbot AI

Conversations pilotées par AI avec des réponses en langage naturel et une animation labiale synchronisée.

En savoir plus

Runtime Local LLM

Générez des dialogues avec des LLM sur l'appareil hors ligne, puis pilotez la synchronisation labiale à partir de la parole synthétisée pour des interactions de personnages entièrement hors ligne.

En savoir plus

Documentation et support

Une documentation complète couvre les trois modèles - de la configuration initiale à la configuration avancée des personnages, l'animation émotionnelle et le mappage personnalisé des visèmes.

Documentation complète

Guides étape par étape pour tous les modèles, l'intégration MetaHuman et les personnages personnalisés

Communauté et support

Communauté Discord active avec support développeur

Développement personnalisé

Intégration sur mesure ou développement de fonctionnalités - [email protected]

Prêt à ajouter la synchronisation labiale à votre projet ?

Disponible sur Fab pour UE 5.0 – 5.8. Inclut les trois modèles, la documentation complète et des projets de démonstration.