Runtime MetaHuman Lip Sync | Georgy Dev

Runtime MetaHuman Lip Sync

MetaHuman ve özel karakterler için gerçek zamanlı, çevrimdışı ve platformlar arası dudak senkronizasyonu. Evrensel dil desteği - herhangi bir konuşulan dille, herhangi bir platformda çalışır. Oyunlar, interaktif kiosklar, sanal prodüksiyon, dijital asistanlar, eğitim simülasyonları ve daha fazlası için uygundur.

UE 5.0 – 5.8
Blueprints ve C++
Windows, Mac, iOS, Linux, Android, Quest
MetaHuman ve özel karakterler

Modelinizi Seçin

Projenizin gereksinimlerine uygun modeli seçin - geniş platform uyumluluğundan duygusal ifadeye sahip sinematik kalitede yüz animasyonuna kadar.

Standart

Evrensel Uyumluluk

Desteklenen tüm platformlarda gerçek zamanlı performans için optimize edilmiştir. MetaHuman'larla ve morph hedeflerine sahip herhangi bir karakterle çalışır.

Standard model önizlemesi
  • 14 visem esnek eşleme ile
  • Tüm karakter sistemleriyle çalışır
  • Gülme algılama
  • Windows, Android, Quest
Gerçekçi

Gelişmiş Görsel Kalite

MetaHuman ve ARKit uyumlu karakterler için doğal, yüksek kaliteli ağız hareketi sağlayan 81 yüz kontrolü. Duygusal ifade için iki çeşidi mevcuttur: standart Realistic ve Mood-Enabled.

Realistic model önizlemesi
  • 81 yüz kontrolü
  • MetaHuman ve ARKit uyumlu karakterler
  • Tam Yüz veya Yalnızca Ağız modları
  • Mac dahil tüm platformlar ve iOS

Duygu Durumu Etkin Varyant

  • 12 duygu durumu türü, ayarlanabilir yoğunluk
  • Mutlu, Üzgün, Kızgın, Kendinden Emin, Heyecanlı ve daha fazlası

Nasıl Çalışır

Eklenti, ham ses fonemlerini doğrudan analiz eder - metin transkripsiyonu gerekmez - bu da onu tamamen dilden bağımsız ve herhangi bir konuşulan dil için uygun hale getirir.

1

Ses Girişi

Mikrofon, TTS veya ses dosyaları - herhangi bir ses veri kaynağı

2

Fonem Analizi

Dilden bağımsız ses işleme, cihaz üzerinde

3

Animasyon Verileri

Opsiyonel duygu durumu bağlamıyla oluşturulan visemler veya yüz kontrolleri

4

Gerçek Zamanlı Oynatma

Karaktere yumuşak harmanlama geçişleriyle uygulanır

Ses Kaynakları

PCM verisi sağlayan herhangi bir ses kaynağı desteklenir.

Mikrofon Girişi

Runtime Audio Importer'ın yakalanabilir ses dalgasını kullanarak canlı mikrofon yakalamasından gerçek zamanlı dudak senkronizasyonu.

Metinden Sese

Yerel çevrimdışı TTS ve ElevenLabs, OpenAI, Azure, Google Cloud ve daha fazlasını içeren harici hizmetlerle uyumludur.

Ses Dosyaları ve Akışlar

Önceden kaydedilmiş ses dosyalarını, akış kaynaklarını veya herhangi bir özel PCM sağlayıcısını işleyin.

Karakter Desteği

Adına rağmen, eklenti MetaHuman'ların çok ötesinde de iyi çalışır.

Unreal MetaHuman

Her üç model de MetaHuman'ları destekler; Gerçekçi ve Duygu Durumu Etkin için doğrudan yüz kontrolü çıkışı sağlar.

Ticari Karakter Sistemleri

Standard model, Daz Genesis 8/9, Reallusion CC3/CC4, Mixamo, ReadyPlayerMe ve daha fazlasını esnek viseme eşleme yoluyla destekler. Realistic ve Mood-Enabled de bunları ARKit aracılığıyla destekler; örn. CC3/CC4 dışa aktarımda ARKit'e dönüştürülür.

Özel Karakterler

Morf hedefleri olan her karakter yapılandırılabilir. FACS, Apple ARKit, Preston Blair ve 3ds Max fonem sistemlerini destekler.

Standard Model - Özel Karakter Örnekleri

Özel karakter örneği
Özel karakter örneği

Evrensel Dil Desteği

Eklenti, metin transkripsiyonuna güvenmek yerine ham ses fonemlerini doğrudan işler, bu da onu doğası gereği dilden bağımsız kılar.

İngilizce, İspanyolca, Fransızca, Almanca, Japonca, Çince, Korece, Rusça, Arapça, Hintçe, Portekizce - ve diğer tüm konuşulan diller.

İngilizce
İspanyolca
Fransızca
Almanca
Japonca
Çince
Korece
+ Herhangi

Platform ve Model Referansı

Platform desteği ve model yetenekleri için hızlı başvuru.

Yetenek Standard Realistic Mood-Enabled
Animasyon kontrolleri 14 viseme 81 kontrol 81 + 12 ruh hali
MetaHuman
Özel karakterler ARKit ile ARKit ile
Kahkaha algılama
Windows
Mac / Linux / iOS
Android / Quest

Videolar

Tüm modelleri, ses kaynaklarını ve entegrasyon iş akışlarını kapsayan demolar, eğitimler ve adım adım anlatımlar. Tüm içerik Unreal Engine 5.0 ile 5.8 arasındaki sürümlerle uyumludur.

Konuşmadan Konuşmaya AI Demo

Tam iş akışı: konuşma tanıma, AI sohbet botu, TTS ve gerçek zamanlı dudak senkronizasyonu.

Özel MetaHuman Karakter Kurulumu

Kendi MetaHuman karakterinizi demo projesine nasıl eklersiniz.

ARKit Karakterleri için Dudak Senkronizasyonu

ARKit karakterleri için tam Animasyon Blueprint kurulumu, ses dosyası ve ElevenLabs akış örnekleriyle.

Göz Kırpma ve Bakış Takibi

Otomatik göz kırpma ve oyuncu kamerasını veya herhangi bir hareketli hedefi takip eden dinamik bakış, Yüz Animasyon Blueprint'te yapılandırılabilir.

Gerçek Zamanlı Konuşmalı AI Avatar

Ses, dudak senkronizasyonu ve yüz animasyonu Unreal Engine 5'te canlı olarak çalışıyor.

Gerçekçi Model Demo

Gerçekçi modelin mikrofon, yerel TTS, ElevenLabs ve birden çok dil üzerinden tanıtımı.

Ses Dosyası/Ara Belleğinden Dudak Senkronizasyonu

MetaHuman'ınızda bir ses dosyası çalarak gerçekçi dudak senkronizasyonu kurun, ayrıca ses ara bellekleriyle de çalışır.

Ruh Hali Etkin Model ile Yerel TTS

Duygu farkındalıklı yüksek kaliteli dudak senkronizasyonu ve ayarlanabilir yoğunlukta 12 ruh hali ile çevrimdışı metinden konuşmaya.

Harici TTS Entegrasyonu

ElevenLabs ve OpenAI ile Realistic model, üstün kaliteli çıktı.

Canlı Mikrofon (Realistic)

Mikrofon girişinden Realistic model kullanılarak gerçek zamanlı dudak senkronizasyonu.

Canlı Mikrofon (Standard)

Standard model kullanılarak verimli gerçek zamanlı dudak senkronizasyonu.

Yerel Metinden Konuşmaya

Yerel TTS ile tamamen çevrimdışı dudak senkronizasyonu; internet gerekmez.

Eklenti Ekosistemi

Runtime MetaHuman Lip Sync, eksiksiz etkileşimli karakter hatları oluşturmak için daha geniş Georgy Dev eklenti paketiyle entegre olur.

Runtime Audio Importer

Herhangi bir kaynaktan dudak senkronizasyonu animasyonlarını sürmek için çalışma zamanında ses içe aktarın, akışını yapın ve yakalayın.

Daha fazla bilgi

Runtime Speech Recognizer

Sesli komutlara yanıt veren etkileşimli karakterler için konuşma tanıma ekleyin.

Daha fazla bilgi

Runtime Text To Speech

Tüm dudak senkronizasyonu modelleriyle tam uyumlu, 2800'den fazla ses ile çevrimdışı konuşma sentezi.

Daha fazla bilgi

AI Sohbet Botu Entegratörü

Doğal dil yanıtları ve senkronize dudak animasyonu ile AI destekli konuşmalar.

Daha fazla bilgi

Runtime Local LLM

Cihaz üzerinde çalışan LLM'lerle çevrimdışı diyalog üretin, ardından tamamen çevrimdışı karakter etkileşimleri için sentezlenen konuşmadan dudak senkronizasyonunu sürün.

Daha fazla bilgi

Dokümantasyon ve Destek

Kapsamlı dokümantasyon, üç modelin tamamını kapsar - başlangıç kurulumundan gelişmiş karakter yapılandırmasına, duygusal animasyona ve özel viseme eşlemesine kadar.

Tam Dokümantasyon

Tüm modeller, MetaHuman entegrasyonu ve özel karakterler için adım adım kılavuzlar

Topluluk ve Destek

Geliştirici desteğiyle aktif Discord topluluğu

Özel Geliştirme

Size özel entegrasyon veya özellik geliştirme - [email protected]

Projenize Dudak Senkronizasyonu Eklemeye Hazır mısınız?

Fab'da UE 5.0 – 5.8 için mevcuttur. Her üç modeli, tam dokümantasyonu ve demo projelerini içerir.