Runtime MetaHuman Lip Sync | Georgy Dev

Runtime MetaHuman Lip Sync

Echtzeit-, Offline- und plattformübergreifende Lippensynchronisation für MetaHuman und benutzerdefinierte Charaktere. Universelle Sprachunterstützung – funktioniert mit jeder gesprochenen Sprache, auf jeder Plattform. Geeignet für Spiele, interaktive Kiosksysteme, virtuelle Produktion, digitale Assistenten, Trainingssimulationen und mehr.

UE 5.0 – 5.8
Blueprints & C++
Windows, Mac, iOS, Linux, Android, Quest
MetaHuman und benutzerdefinierte Charaktere

Wählen Sie Ihr Modell

Wählen Sie das Modell, das den Anforderungen Ihres Projekts entspricht – von breiter Plattformkompatibilität bis hin zu filmreifer Gesichtsanimation mit emotionalem Ausdruck.

Standard

Universelle Kompatibilität

Optimiert für Echtzeitleistung auf allen unterstützten Plattformen. Funktioniert mit MetaHumans und jedem Charakter mit Morph-Zielen.

Vorschau des Standardmodells
  • 14 Viseme mit flexibler Zuordnung
  • Funktioniert mit allen Charakter- systemen
  • Lacherkennung
  • Windows, Android, Quest
Realistic

Verbesserte visuelle Wiedergabetreue

81 Gesichtssteuerungen für natürliche, hochwertige Mundbewegungen, für MetaHuman- und ARKit-kompatible Charaktere. Erhältlich in zwei Varianten: das Standard-Modell von Realistic und Mood-Enabled für emotionalen Ausdruck.

Vorschau des Realistic-Modells
  • 81 Gesichtssteuerungen
  • MetaHuman- und ARKit-kompatible Charaktere
  • Ganzes Gesicht oder nur Mund- Modi
  • Alle Plattformen einschließlich Mac & iOS

Mood-Enabled Variante

  • 12 Stimmungstypen mit konfigurierbarer Intensität
  • Glücklich, Traurig, Wütend, Selbstbewusst, Begeistert & mehr

So funktioniert es

Das Plugin analysiert rohe Audio-Phoneme direkt - keine Texttranskription erforderlich - wodurch es vollständig sprachunabhängig und für jede gesprochene Sprache geeignet ist.

1

Audio-Eingang

Mikrofon, TTS oder Audiodateien - jede Audio-Datenquelle

2

Phonem-Analyse

Sprachunabhängige Audioverarbeitung, auf dem Gerät

3

Animationsdaten

Viseme oder Gesichtssteuerungen, generiert mit optionalem Stimmungskontext

4

Echtzeit-Wiedergabe

Auf den Charakter angewendet mit sanften Blend-Übergängen

Audio-Quellen

Jede Audioquelle, die PCM-Daten bereitstellt, wird unterstützt.

Mikrofon-Eingang

Echtzeit-Lip-Sync aus Live-Mikrofonaufnahme mit der erfassbaren Soundwelle des Runtime Audio Importer.

Text-zu-Sprache

Kompatibel mit lokalem Offline-TTS und externen Diensten wie ElevenLabs, OpenAI, Azure, Google Cloud und mehr.

Audiodateien & Streams

Verarbeiten Sie vorab aufgenommene Audiodateien, Streaming-Quellen oder beliebige benutzerdefinierte PCM-Anbieter.

Charakterunterstützung

Trotz des Namens funktioniert das Plugin weit über MetaHumans hinaus.

Unreal MetaHuman

Alle drei Modelle unterstützen MetaHumans, mit direkter Gesichtssteuerungsausgabe für Realistic und Mood-Enabled.

Kommerzielle Charaktersysteme

Das Standardmodell unterstützt über flexibles Visem-Mapping Daz Genesis 8/9, Reallusion CC3/CC4, Mixamo, ReadyPlayerMe und mehr. Realistic und Mood-Enabled unterstützen diese ebenfalls über ARKit, z. B. CC3/CC4, die beim Export in ARKit konvertiert werden.

Eigene Charaktere

Jeder Charakter mit Morph-Zielen kann konfiguriert werden. Unterstützt werden FACS, Apple ARKit, das Preston-Blair-Phonemsystem und die Phonemsysteme von 3ds Max.

Standardmodell - Beispiele für eigene Charaktere

Beispiel für einen benutzerdefinierten Charakter
Beispiel für einen benutzerdefinierten Charakter

Universelle Sprachunterstützung

Das Plugin verarbeitet die Phoneme des rohen Audios direkt, anstatt sich auf Text-Transkription zu verlassen, wodurch es von Natur aus sprachunabhängig ist.

Englisch, Spanisch, Französisch, Deutsch, Japanisch, Chinesisch, Koreanisch, Russisch, Arabisch, Hindi, Portugiesisch - und jede andere gesprochene Sprache.

Englisch
Spanisch
Französisch
Deutsch
Japanisch
Chinesisch
Koreanisch
+ Beliebig

Plattform- & Modellreferenz

Schnellreferenz für Plattformunterstützung und Modellfunktionen.

Funktion Standard Realistic Mood-Enabled
Animations-Controls 14 Viseme 81 Controls 81 + 12 Stimmungen
MetaHuman
Benutzerdefinierte Charaktere Über ARKit Über ARKit
Lacherkennung
Windows
Mac / Linux / iOS
Android / Quest

Videos

Demos, Tutorials und Schritt-für-Schritt-Anleitungen, die alle Modelle, Audioquellen und Integrations-Workflows abdecken. Alle Inhalte sind mit Unreal Engine 5.0 bis 5.8 kompatibel.

Speech-to-Speech AI Demo

Vollständiger Workflow: Spracherkennung, AI-Chatbot, TTS und Echtzeit-Lippensynchronisation.

Benutzerdefiniertes MetaHuman-Charakter-Setup

So fügen Sie Ihren eigenen MetaHuman-Charakter zum Demo-Projekt hinzu.

Lippensynchronisation für ARKit-Charaktere

Vollständiges Animation Blueprint-Setup für ARKit-Charaktere, mit Audiodatei- und ElevenLabs-Streaming-Beispielen.

Augenblinzeln & Blickverfolgung

Automatisches Blinzeln und dynamischer Blick, der der Spielkamera oder einem beliebigen sich bewegenden Ziel folgt, konfigurierbar im Face Animation Blueprint.

Echtzeit-Konversations-AI-Avatar

Stimme, Lippensynchronisation und Gesichtsanimation, die live in Unreal Engine 5 laufen.

Realistic Model Demo

Showcase des Realistic-Modells mit Mikrofon, lokalem TTS, ElevenLabs und mehreren Sprachen.

Lippensynchronisation aus Audiodatei/Audiopuffer

Richten Sie realistische Lippensynchronisation ein, indem Sie eine Audiodatei auf Ihrem MetaHuman abspielen. Es funktioniert auch mit Audiopuffern.

Lokale TTS mit stimmungsfähigem Modell

Offline-Text-to-Speech mit emotionsbewusster hochwertiger Lippensynchronisation, 12 Stimmungen mit einstellbarer Intensität.

Externe TTS-Integration

Realistic-Modell mit ElevenLabs & OpenAI für Premium-Qualität Ausgabe.

Live-Mikrofon (Realistic)

Echtzeit-Lippensynchronisation aus der Mikrofoneingabe mit dem Realistic-Modell.

Live-Mikrofon (Standard)

Effiziente Echtzeit-Lippensynchronisation mit dem Standard-Modell.

Lokale Text-to-Speech

Vollständig offline Lippensynchronisation mit lokaler TTS, keine Internetverbindung erforderlich.

Plugin-Ökosystem

Runtime MetaHuman Lip Sync integriert sich in die breitere Georgy-Dev-Plugin-Suite, um vollständige interaktive Charakter-Pipelines zu erstellen.

Runtime Audio Importer

Importieren, Streamen und Aufnehmen von Audio zur Laufzeit, um Lippensynchronisations-Animationen aus beliebigen Quellen zu steuern.

Mehr erfahren

Runtime Speech Recognizer

Fügen Sie Spracherkennung für interaktive Charaktere hinzu, die auf Sprachbefehle reagieren.

Mehr erfahren

Runtime Text To Speech

Offline-Sprachsynthese mit 2800+ Stimmen, vollständig kompatibel mit allen Lippensynchronisations- Modellen.

Mehr erfahren

AI-Chatbot-Integrator

AI-gesteuerte Gespräche mit natürlichen Sprachantworten und synchronisierter Lippenanimation.

Mehr erfahren

Runtime Local LLM

Erzeugen Sie Dialoge mit On-Device-LLMs offline und steuern Sie dann die Lippensynchronisation aus der synthetisierten Sprache für vollständig offline Charakterinteraktionen.

Mehr erfahren

Dokumentation & Support

Umfassende Dokumentation deckt alle drei Modelle ab - von der ersten Einrichtung bis zur fortgeschrittenen Charakterkonfiguration, emotionaler Animation und benutzerdefinierter Visem-Zuordnung.

Vollständige Dokumentation

Schritt-für-Schritt-Anleitungen für alle Modelle, MetaHuman-Integration und individuelle Charaktere

Community & Support

Aktive Discord-Community mit Entwickler-Support

Individuelle Entwicklung

Maßgeschneiderte Integration oder Feature-Entwicklung - [email protected]

Bereit, Lip Sync zu Ihrem Projekt hinzuzufügen?

Verfügbar auf Fab für UE 5.0 – 5.8. Enthält alle drei Modelle, vollständige Dokumentation und Demo-Projekte.