CogVideoX icon

CogVideoX

Açık ağırlık
Tsinghua & ZhipuAI

CogVideoX, Tsinghua Üniversitesi ve ZhipuAI tarafından ortaklaşa geliştirilen ve metin açıklamalarından yüksek kaliteli videolar üretmek için uzman transformer mimarisi kullanan açık kaynaklı bir video üretim modelidir.

Metinden Video

Öne Çıkan Özellikler

3D Nedensel VAE Mimarisi

Video verilerini uzay-zamansal hacimler olarak işleyerek kare kare yaklaşımlardan çok daha iyi zamansal tutarlılık sağlar.

Açık Kaynak Erişilebilirlik

Tescilli modellere yaklaşan kalitede açık kaynak video üretimi sağlayarak araştırma ve geliştirme topluluğuna tam erişim sunar.

Çoklu Model Boyutları

2B ve 5B parametreli varyantlarla farklı donanım kapasitelerine ve kalite gereksinimlerine uygun seçenekler sunar.

Kapsamlı Ekosistem Entegrasyonu

Hugging Face Diffusers, ComfyUI ve SAT arka uçlarıyla sorunsuz entegrasyon sayesinde geniş bir kullanım yelpazesi sunar.

Hakkında

CogVideoX, Tsinghua Üniversitesi ve Zhipu AI tarafından geliştirilen ve Ağustos 2024'te yayınlanan açık kaynaklı metinden videoya üretim modelidir. Model, güçlü zamansal tutarlılıkla yüksek kaliteli videolar üreten uzman transformatör mimarisi ile birleştirilmiş 3D nedensel varyasyonel otokodlayıcı üzerine inşa edilmiştir. CogVideoX, model ağırlıklarına tam erişim sağlarken tescilli modellere yaklaşan yetenekler sunarak açık kaynak video üretiminde önemli bir dönüm noktasını temsil eder. Özellikle Çin'deki AI araştırma ekosisteminin video üretimi alanında ne denli hızlı ilerlediğini gösteren bir proje olarak değerlendirilmektedir ve açık kaynak topluluğunda büyük heyecan yaratmıştır.

Mimari, video verilerini bireysel kareler yerine uzay-zamansal hacimler olarak işleyen ve daha iyi zamansal tutarlılık sağlayan 3D nedensel VAE sunar. Bu VAE yapısı, geleneksel kare bazlı yaklaşımlara kıyasla çok daha güçlü bir zamansal bağımlılık modelleme kapasitesi sunar. Uzman transformatör, verimli video üretimi için adaptif LayerNorm ve uzman dikkat mekanizması kullanır ve bu mekanizma sayesinde model karmaşık hareket kalıplarını verimli şekilde öğrenebilir. CogVideoX birden fazla boyutta gelir: 2 milyar parametreli CogVideoX-2B ve 5 milyar parametreli CogVideoX-5B, daha büyük model önemli ölçüde daha yüksek kaliteli sonuçlar üretir. Her iki model de 8fps'de 6 saniyelik video süreleri ile 720p çözünürlüğe kadar metin-video üretimini destekler. Metin kodlayıcı olarak T5-XXL kullanılması, modelin karmaşık ve detaylı metin promptlarını anlama kapasitesini önemli ölçüde artırmaktadır.

CogVideoX'in eğitim süreci, büyük ölçekli video veri setleri üzerinde çok aşamalı bir yaklaşım izler. İlk aşamada düşük çözünürlüklü videolar üzerinde temel hareket kalıpları öğrenilir ve modelin zamansal dinamikleri kavraması sağlanır. Ardından yüksek çözünürlüklü ince ayar aşamasında görsel detaylar ve zamansal tutarlılık rafine edilir. Bu kademeli eğitim stratejisi, modelin hem genel hareket dinamiklerini hem de ince görsel detayları etkili şekilde yakalamasını sağlar. Eğitim veri setinin kalitesi ve çeşitliliği, modelin doğa sahnelerinden kentsel manzaralara, soyut kompozisyonlardan insan portrelerine kadar farklı sahne türlerinde tutarlı performans göstermesinin temel nedenidir. Veri kümesi kapsamlı filtreleme ve açıklama zenginleştirme süreçlerinden geçirilmiştir.

CogVideoX açık kaynak topluluğunda yaygın şekilde benimsenmiş, Hugging Face Diffusers, ComfyUI ve çeşitli diğer platformlara entegre edilmiştir. Model SAT (SwissArmyTransformer) ve Diffusers çıkarım arka uçlarını destekler ve topluluk tarafından geliştirilen uzantılar görselden videoya ve diğer yetenekleri ekler. CogVideoX, araştırma ve sınırlı ticari kullanıma izin veren CogVideoX LICENSE altında yayınlanmıştır. CogVideoX-5B-I2V varyantı görselden videoya üretim ekleyerek onu mevcut en yetenekli açık kaynak video modellerinden biri yapar. Topluluk tarafından geliştirilen LoRA ince ayarları, belirli hareket stilleri ve görsel estetikler için modelin yeteneklerini genişletmekte olup yüzlerce özel varyant oluşturulmuştur.

Performans açısından CogVideoX, VBench gibi standart video üretim karşılaştırmalarında güçlü sonuçlar elde eder. Özellikle zamansal tutarlılık, metin-video uyumu ve görsel kalite metriklerinde açık kaynak alternatifleri arasında üst sıralarda yer alır. Modelin 2B ve 5B varyantları, farklı donanım kısıtlamalarına sahip kullanıcılar için esneklik sunar; 2B sürümü tüketici GPU'larında çalışabilirken, 5B sürümü profesyonel donanım gerektirir ancak önemli ölçüde daha yüksek kalite sunar. Çıkarım sırasında bellek optimizasyonu teknikleri uygulanarak donanım gereksinimlerinin düşürülmesi mümkündür.

CogVideoX'in pratik kullanım alanları arasında sosyal medya içerik üretimi, reklam prototipleme, eğitim materyali hazırlama ve yaratıcı sanat projeleri yer alır. Modelin açık kaynak yapısı, araştırmacıların video üretim mimarilerini derinlemesine incelemesine ve özelleştirmesine olanak tanır. Zhipu AI'ın sürekli geliştirme taahhüdü ve aktif topluluk katkıları, CogVideoX ekosisteminin hızla büyümesini sağlamaktadır. Model, açık kaynak video üretiminin geleceğini şekillendiren temel projelerden biri olarak konumunu korumakta ve sonraki nesil video modellerine ilham kaynağı olmaya devam etmektedir.

Kullanım Senaryoları

1

Açık Kaynak Video Araştırması

Video üretim teknolojilerini araştırma ve geliştirme için açık kaynak temel model olarak kullanma.

2

Özel Video Üretim Hatları

Kendi ihtiyaçlarınıza göre özelleştirilmiş video üretim iş akışları oluşturma.

3

İçerik Üretim Otomasyon

API entegrasyonu ile otomatik video içerik üretim sistemleri oluşturma.

4

Eğitim ve Öğrenme

Video üretim AI'ları hakkında öğrenmek ve deney yapmak için açık kaynak model olarak kullanma.

Artılar ve Eksiler

Artılar

  • Düşük donanım gereksinimi ile en erişilebilir açık kaynak video modeli; 8-12GB VRAM ile çalışır
  • Tutarlılık ve güvenilirlik öncelikli; promptlar beklendiği gibi çalışır ve nadiren tamamen bozuk çıktılar üretir
  • İnsan Eylemi (96.8), Dinamik Derece (70.95) gibi otomatik metriklerde en yüksek puanlar
  • Image-to-video kalitesinde en iyi olarak derecelendirilir
  • Hızlı üretim ve minimal kurulum karmaşıklığı

Eksiler

  • 3-5 kat daha fazla parametreye sahip modellerin kalitesiyle eşleşemez
  • Fotorealistik değil, daha illüstratif veya stilize bir görünüm üretir
  • Fotorealistik insan yüzleri ve sinematografi için sınırlı; yumuşak yüz detayları ve daha az akıcı hareket
  • Sadece İngilizce girdi destekler; diğer diller çeviri gerektirir

Teknik Detaylar

Parametre

5B

Lisans

Apache 2.0

Özellikler

  • Metinden videoya üretimi
  • Görselden videoya (I2V variant)
  • 3D Causal VAE Architecture
  • Expert Transformer
  • 2B and 5B Parameter Models
  • 720p çözünürlük Output
  • 6-Second Video Duration
  • Hugging Face Diffusers entegrasyon

Benchmark Sonuçları

MetrikDeğerKarşılaştırmaKaynak
Parametre Sayısı5BOpen-Sora: 1.1BTsinghua / CogVideoX GitHub
Video Çözünürlüğü720x480 (2B) / 1360x768 (5B)ModelScope T2V: 256x256CogVideoX GitHub / Hugging Face
Maksimum Süre6 saniye (49 kare)Open-Sora: 16s (720p)CogVideoX Paper (arXiv:2408.06072)
FPS8 fpsAnimateDiff: 8 fpsCogVideoX GitHub

Mevcut Platformlar

hugging face
fal ai
replicate

Haberler ve Referanslar

Sıkça Sorulan Sorular

İlgili Modeller

AnimateDiff icon

AnimateDiff

Yuwei Guo|N/A

AnimateDiff, Yuwei Guo tarafından geliştirilen ve mevcut mimariye öğrenilebilir zamansal dikkat katmanları ekleyerek herhangi bir kişiselleştirilmiş text-to-image difüzyon modelini video üreticisine dönüştüren bir hareket modülü çerçevesidir. Temmuz 2023'te yayınlanan AnimateDiff, hareket öğrenimini görsel görünüm öğreniminden ayırarak video üretimine çığır açıcı bir yaklaşım getirmiş ve kullanıcıların ince ayarlanmış Stable Diffusion modellerinin ve LoRA adaptasyonlarının geniş ekosistemini yeniden eğitim olmadan video oluşturmak için kullanmasına olanak tanımıştır. Temel yenilik, video verilerinden genel hareket kalıplarını öğrenen ve herhangi bir Stable Diffusion kontrol noktasına eklenerek o kontrol noktasının belirli görsel stilini ve kalitesini korurken çıktılarını canlandırabilen tak-çıkar bir hareket modülüdür. Hareket modülü, kareler arası öz dikkat içeren zamansal transformer blokları içerir ve nesnelerin doğal hareket ettiği ve sahne dinamiklerinin tutarlı kaldığı zamansal olarak tutarlı dizilerin üretilmesini sağlar. AnimateDiff, her mimari için optimize edilmiş farklı hareket modülü sürümleriyle hem SD 1.5 hem de SDXL temel modellerini destekler. Çerçeve, özelleştirilebilir kare sayıları, kare hızları ve hareket yoğunlukları ile animasyonlu GIF'ler ve kısa video döngüleri üretmeyi sağlar. Kullanıcılar AnimateDiff'i poz rehberli animasyon için ControlNet, referans tabanlı hareket için IP-Adapter ve stile özgü video üretimi için çeşitli LoRA modelleriyle birleştirebilir. Yaygın uygulamalar arasında animasyonlu sanat eserleri oluşturma, sosyal medya içeriği, oyun varlık animasyonu, ürün görselleştirme ve yaratıcı hikaye anlatımı dizileri yer alır. Apache 2.0 lisansı altında sunulan AnimateDiff, Hugging Face, Replicate ve fal.ai üzerinde erişilebilir olup ComfyUI iş akışları ve Automatic1111 uzantıları aracılığıyla kapsamlı topluluk desteğine sahiptir. Çerçeve, yaratıcıların emsalsiz esneklik ve kontrolle stilize animasyonlu içerik üretmesini sağlayarak en etkili açık kaynak video üretim yaklaşımlarından biri haline gelmiştir.

Açık ağırlık
CogVideoX-5B icon

CogVideoX-5B

Tsinghua & ZhipuAI|5B

CogVideoX-5B, Tsinghua Üniversitesi ve ZhipuAI tarafından ortaklaşa geliştirilen, metin açıklamalarından ve görüntü girdilerinden yüksek kaliteli, zamansal olarak tutarlı videolar üreten 5 milyar parametreli açık kaynak bir video üretim modelidir. Bir 3D VAE (Variational Autoencoder) ile Diffusion Transformer mimarisini birleştiren CogVideoX-5B, uzamsal ve zamansal boyutları birlikte işleyerek düzgün hareket, tutarlı nesne görünümleri ve kareler arasında uyumlu sahne dinamiklerine sahip videoların üretilmesini sağlar. Model, kullanıcıların istenen sahneleri doğal dilde tanımladığı metinden videoya üretim ve statik bir görüntünün ilk kare olarak kullanıldığı ve modelin uygun hareketle canlandırdığı görüntüden videoya üretimi destekler. CogVideoX-5B, saniyede 8 kare ile 480x720 çözünürlükte 6 saniyeye kadar video üretebilir ve sosyal medya klipleri, konsept görselleştirme ve yaratıcı prototipleme için uygun içerik sağlar. 3D VAE, video verilerini zamansal tutarlılığı koruyan kompakt bir gizli uzaya sıkıştırırken Diffusion Transformer, hareket, fizik ve uzamsal ilişkilerin güçlü semantik anlayışıyla içerik üretir. Mevcut en yetenekli açık kaynak video üretim modellerinden biri olan CogVideoX-5B, araştırma ve geliştirme için serbestçe erişilebilir kalırken tescilli alternatiflerle rekabetçi kalite elde eder. Apache 2.0 lisansı altında yayınlanan model, Hugging Face üzerinden mevcuttur ve kolay dağıtım için Diffusers kütüphanesiyle entegre olur. Temel uygulamalar arasında kısa biçimli video içerik üretme, animasyonlu ürün gösterimleri oluşturma ve film ön prodüksiyonu için görsel konsept önizlemeleri üretme yer alır.

Açık ağırlık
Gemini Omni Flash icon

Gemini Omni Flash

Durumu bilinmiyor
Google DeepMind|undisclosed

Gemini Omni Flash, Google DeepMind'ın metin, görüntü, video ve ses girdilerinin herhangi bir kombinasyonundan fizik-bilinçli ve senkronize sesli video üreten çığır açıcı multimodal AI modelidir. Google I/O 2026'da duyurulan model, geleneksel text-to-video modellerinden farklı olarak konuşma tabanlı iteratif video düzenleme imkânı sunar — kullanıcılar sıfırdan yeniden üretim yapmadan doğal dil ile sahneleri iyileştirebilir. Model, birden fazla düzenleme turunda karakter tutarlılığını ve sahne belleğini korur, sekanslar boyunca kimlik ve sesi muhafaza eder, yerçekimi, çarpışma ve malzeme özellikleri dahil gerçek dünya fiziğini anlar. Sinematik kamera kontrolleri (dolly zoom, omuz üstü çekimler, takip), kelime kelime animasyonlu doğru metin oluşturma, çoklu girdi sentezi (video, görüntü, ses ve storyboard birleştirme) ve anime, kil animasyonu, suluboya gibi sanatsal ortamlar arasında stil transferi destekler. Gemini'nin eğitim verisine dayandığından Veo gibi bağımsız video modellerinden çok daha zengin dünya bilgisi taşır ve kuantum hesaplamadan tarihi olaylara kadar karmaşık kavramları ayrıntılı prompting gerektirmeden görselleştirebilir. Gemini uygulaması, Google Flow ve Google AI Studio üzerinden erişilebilen model, içerik özgünlüğü için görünmez SynthID filigranlı 10 saniyeye kadar klipler üretir.

Tescilli
Hailuo MiniMax icon

Hailuo MiniMax

MiniMax|N/A

Hailuo MiniMax, Çinli yapay zeka şirketi MiniMax tarafından geliştirilen, etkileyici hareket kalitesi ve doğal, akıcı hareket dinamikleriyle görsel olarak çekici video içeriği üretme yeteneğiyle öne çıkan yüksek kaliteli bir video üretim modelidir. Eylül 2024'te yayınlanan Hailuo, yapay zeka video modelleri arasında en gerçekçi hareket kalıplarından bazılarını üreterek uluslararası tanınırlık kazanmış ve özellikle insan hareketi, yüz ifadeleri ve karmaşık fiziksel etkileşimlerde üstün performans sergilemiştir. Model, hem metinden videoya hem de görselden videoya üretim modlarını destekleyerek doğal dil açıklamalarını ve referans görselleri kabul eder ve tutarlı görsel kalite ile zamansal tutarlılığa sahip kısa video klipler oluşturur. Hailuo'nun transformer tabanlı mimarisi, yerçekimi, momentum, kumaş hareketi ve çevresel etkileşimler dahil fiziksel dünya dinamiklerinin güçlü anlayışını sergileyen video içeriği üretmek için çok modlu girdileri işler. Model, fotorealistik sahnelerden stilize sanatsal içeriğe kadar çeşitli içerik türlerini yönetir ve özellikle profesyonel düzeyde aydınlatma ve kompozisyonla sinematik kalitede görüntüler üretmede güçlüdür. Çeşitli çıktı çözünürlüklerini ve en boy oranlarını destekleyerek sosyal medya, reklam materyalleri ve farklı platformlardaki yaratıcı projeler için uygun hale gelir. Uluslararası video üretim kıyaslamalarında rekabetçi performans sergileyerek hareket kalitesi değerlendirmelerinde sıklıkla Batılı rakiplerle aynı seviyede veya üzerinde yer alır. Tescilli bir model olan Hailuo, MiniMax platformu ve fal.ai ile Replicate dahil üçüncü taraf API sağlayıcıları aracılığıyla erişilebilir olup geliştiricilerin yeteneklerini özel uygulamalara ve üretim iş akışlarına entegre etmesini sağlar. Model, üretici video teknolojisinde Çin yapay zeka araştırmasının artan gücünü temsil etmektedir.

Tescilli

Hızlı Bilgi

Parametre5B
Tiptransformer
LisansApache 2.0
Yayınlanma2024-08
GeliştiriciTsinghua & ZhipuAI

Bağlantılar

Etiketler

cogvideo
open-source
text-to-video
transformer
Siteyi Ziyaret Et

Daha Fazla Kesfet