Runtime MetaHuman Lip Sync | Georgy Dev

Runtime MetaHuman Lip Sync

MetaHuman ve özel karakterler için gerçek zamanlı, çevrimdışı ve platformlar arası dudak senkronizasyonu. Evrensel dil desteği - herhangi bir konuşma dilinde, her platformda çalışır. Oyunlar, etkileşimli kiosklar, sanal prodüksiyon, dijital asistanlar, eğitim simülasyonları ve daha fazlası için uygundur.

UE 5.0 – 5.8
Blueprints ve C++
Windows, Mac, iOS, Linux, Android, Quest
MetaHuman ve özel karakterler

Modelinizi Seçin

Projenizin gereksinimlerine uyan modeli seçin - geniş platform uyumluluğundan duygusal ifadeli sinematik kalitede yüz animasyonuna kadar.

Standart

Evrensel Uyumluluk

Desteklenen tüm platformlarda gerçek zamanlı performans için optimize edilmiştir. MetaHuman'lar ve morph target içeren herhangi bir karakterle çalışır.

Standart model önizlemesi
  • Esnek eşlemeli 14 viseme
  • Tüm karakter sistemleriyle çalışır
  • Kahkaha algılama
  • Windows, Android, Quest
Gerçekçi

Gelişmiş Görsel Sadakat

MetaHuman ve ARKit uyumlu karakterler için doğal, yüksek kaliteli ağız hareketi sağlayan 81 yüz kontrolü. İki varyantta mevcuttur: standart Realistic ve duygusal ifade için Mood-Enabled.

Gerçekçi model önizlemesi
  • 81 yüz kontrolü
  • MetaHuman ve ARKit uyumlu karakterler
  • Tam Yüz veya Yalnızca Ağız modları
  • Mac ve iOS dahil tüm platformlar

Mood-Enabled Varyantı

  • Yapılandırılabilir yoğunluğa sahip 12 ruh hali türü
  • Mutlu, Üzgün, Kızgın, Kendinden Emin, Heyecanlı ve daha fazlası

Nasıl Çalışır

Eklenti ham ses fonemlerini doğrudan analiz eder - metin dökümü gerekmez - bu da onu tamamen dilden bağımsız hale getirir ve herhangi bir konuşma dili için uygun kılar.

1

Ses Girişi

Mikrofon, TTS veya ses dosyaları - herhangi bir ses verisi kaynağı

2

Fonem Analizi

Cihaz üzerinde, dilden bağımsız ses işleme

3

Animasyon Verisi

İsteğe bağlı ruh hali bağlamıyla oluşturulan visemeler veya yüz kontrolleri

4

Gerçek Zamanlı Oynatma

Yumuşak harmanlama geçişleriyle karaktere uygulanır

Ses Kaynakları

PCM verisi sağlayan herhangi bir ses kaynağı desteklenir.

Mikrofon Girişi

Runtime Audio Importer'ın yakalanabilir ses dalgasını kullanarak canlı mikrofon kaydından gerçek zamanlı dudak senkronizasyonu.

Metinden Sese

Yerel çevrimdışı TTS ve ElevenLabs, OpenAI, Azure, Google Cloud ve daha fazlası dahil harici hizmetlerle uyumludur.

Ses Dosyaları ve Akışları

Önceden kaydedilmiş ses dosyalarını, akış kaynaklarını veya herhangi bir özel PCM sağlayıcısını işleyin.

Karakter Desteği

Adına rağmen, eklenti MetaHuman'ların çok ötesinde çalışır.

Unreal MetaHuman

Üç modelin tümü MetaHuman'ları destekler; Realistic ve Mood-Enabled için doğrudan yüz kontrolü çıktısı sunar.

Ticari Karakter Sistemleri

Standart model, esnek viseme eşlemesi aracılığıyla Daz Genesis 8/9, Reallusion CC3/CC4/CC5, Mixamo ve daha fazlasını destekler. Realistic ve Mood-Enabled da bunları ARKit aracılığıyla destekler, örn. CC3/CC4/CC5 dışa aktarımda ARKit'e dönüştürülür.

Özel Karakterler

Morph target içeren herhangi bir karakter yapılandırılabilir. FACS, Apple ARKit, Preston Blair ve 3ds Max fonem sistemlerini destekler.

Standart Model - Özel Karakter Örnekleri

Özel karakter örneği
Özel karakter örneği

Evrensel Dil Desteği

Eklenti, metin transkripsiyonuna güvenmek yerine ham ses fonemlerini doğrudan işler, bu da onu doğası gereği dilden bağımsız hale getirir.

İngilizce, İspanyolca, Fransızca, Almanca, Japonca, Çince, Korece, Rusça, Arapça, Hintçe, Portekizce - ve diğer tüm konuşulan diller.

İngilizce
İspanyolca
Fransızca
Almanca
Japonca
Çince
Korece
+ Herhangi

Platform ve Model Referansı

Platform desteği ve model yetenekleri için hızlı başvuru.

Yetenek Standart Realistic Mood-Enabled
Animasyon kontrolleri 14 viseme 81 kontrol 81 + 12 ruh hali
MetaHuman
Özel karakterler ARKit aracılığıyla ARKit aracılığıyla
Kahkaha algılama
Windows
Mac / Linux / iOS
Android / Quest

Videolar

Tüm modelleri, ses kaynaklarını ve entegrasyon iş akışlarını kapsayan demolar, eğitimler ve rehberler. Tüm içerik Unreal Engine 5.0 ile 5.8 arası sürümlerle uyumludur.

Konuşmadan Konuşmaya AI Demosu

Tam iş akışı: konuşma tanıma, AI chatbot, TTS ve gerçek zamanlı dudak senkronizasyonu.

Özel MetaHuman Karakter Kurulumu

Kendi MetaHuman karakterinizi demo projesine nasıl ekleyeceğiniz.

ARKit Karakterleri için Dudak Senkronizasyonu

ARKit karakterleri için tam Animation Blueprint kurulumu; ses dosyası ve ElevenLabs akış örnekleriyle.

Göz Kırpma ve Bakış Takibi

Oyuncu kamerasını veya herhangi bir hareketli hedefi takip eden otomatik göz kırpma ve dinamik bakış; Face Animation Blueprint içinde yapılandırılabilir.

Gerçek Zamanlı Sohbet AI Avatarı

Unreal Engine 5 içinde canlı olarak çalışan ses, dudak senkronizasyonu ve yüz animasyonu.

Temel Dudak Senkronizasyonu Demosu

Realistic modelinin mikrofon, yerel TTS, ElevenLabs ve birden fazla dil ile sergilenmesi.

Ses Dosyasından/Tamponundan Dudak Senkronizasyonu

MetaHuman'ınızda bir ses dosyası oynatarak gerçekçi dudak senkronizasyonu kurun; ses tamponlarıyla da çalışır.

Uzak Sunucudan Dudak Senkronizasyonu

WebSocket üzerinden bir akış ses kaynağından gerçek zamanlı dudak senkronizasyonunu yönetin; ses içe aktarılır ve parça parça işlenir.

Ruh Hali Destekli Modelle Yerel TTS

Duygu algılayan yüksek kaliteli dudak senkronizasyonu ile çevrimdışı metin okuma, ayarlanabilir yoğunlukta 12 ruh hali.

Harici TTS Entegrasyonu

Premium kalitede çıktı için ElevenLabs ve OpenAI ile Realistic model.

Canlı Mikrofon (Realistic)

Realistic modelini kullanarak mikrofon girişinden gerçek zamanlı dudak senkronizasyonu.

Yerel Metin Okuma

Yerel TTS ile tamamen çevrimdışı dudak senkronizasyonu, internet gerekmez.

Eklenti Ekosistemi

Runtime MetaHuman Lip Sync, eksiksiz etkileşimli karakter iş akışları oluşturmak için daha geniş Georgy Dev eklenti paketiyle entegre olur.

Runtime Audio Importer

Herhangi bir kaynaktan dudak senkronizasyonu animasyonlarını yönlendirmek için çalışma zamanında sesi içe aktarın, akışa alın ve yakalayın.

Daha fazla bilgi edinin

Runtime Speech Recognizer

Sesli komutlara yanıt veren etkileşimli karakterler için konuşma tanıma ekleyin.

Daha fazla bilgi edinin

Runtime Text To Speech

2800+ sesle çevrimdışı konuşma sentezi, tüm dudak senkronizasyonu modelleriyle tam uyumlu.

Daha fazla bilgi edinin

AI Chatbot Integrator

Doğal dil yanıtları ve senkronize dudak animasyonuyla AI destekli konuşmalar.

Daha fazla bilgi edinin

Runtime Local LLM

Cihaz üzerindeki LLM'lerle çevrimdışı diyalog oluşturun, ardından tamamen çevrimdışı karakter etkileşimleri için sentezlenen konuşmadan dudak senkronizasyonunu yönlendirin.

Daha fazla bilgi edinin

Dokümantasyon ve Destek

Kapsamlı dokümantasyon, ilk kurulumdan gelişmiş karakter yapılandırmasına, duygusal animasyona ve özel viseme eşlemesine kadar üç modelin tümünü kapsar.

Tam Dokümantasyon

Tüm modeller, MetaHuman entegrasyonu ve özel karakterler için adım adım kılavuzlar

Topluluk ve Destek

Geliştirici desteği sunan aktif Discord topluluğu

Özel Geliştirme

İhtiyaca özel entegrasyon veya özellik geliştirme - [email protected]

Projenize Lip Sync Eklemeye Hazır mısınız?

Fab'da UE 5.0 – 5.8 için mevcut. Üç modelin tamamını, tam dokümantasyonu ve demo projelerini içerir.