OpenLedger Derinlik Araştırması: OP Stack+EigenDA temel alınarak, veri odaklı, model kombinasyonuna sahip bir akıllı ekonomi inşa etmek
Bir, Giriş | Crypto AI'nın model katmanındaki sıçrama
Veri, model ve hesaplama gücü, AI altyapısının üç temel unsurudur; bunlar yakıt (veri), motor (model) ve enerji (hesaplama gücü) gibi birbirini tamamlayan unsurlardır. Geleneksel AI endüstrisinin altyapı evrimine benzer şekilde, Crypto AI alanı da benzer aşamalardan geçmiştir. 2024 yılının başlarında, piyasa merkeziyetsiz GPU projeleri tarafından domine edildi ve yaygın olarak "hesaplama gücünü birleştirme" gibi yaygın bir büyüme mantığı vurgulandı. Ancak 2025'e girerken, sektörün odak noktası model ve veri katmanına kaymaya başladı; bu, Crypto AI'nın alt düzey kaynak rekabetinden daha sürdürülebilir ve uygulama değeri olan orta düzey yapılar inşa etmeye geçtiğini göstermektedir.
Genel Büyük Model (LLM) vs Özelleşmiş Model (SLM)
Geleneksel büyük dil modellerinin (LLM) eğitimi, genellikle büyük ölçekli veri setlerine ve karmaşık dağıtık mimarilere yüksek derecede bağımlıdır; parametre ölçeği genellikle 70B ila 500B arasında değişmektedir ve bir eğitim süreci genellikle milyonlarca dolara mal olmaktadır. Öte yandan SLM (Özelleşmiş Dil Modeli), yeniden kullanılabilir bir temel modelin hafif ince ayar paradigması olarak, genellikle LLaMA, Mistral, DeepSeek gibi açık kaynaklı modelleri temel alır, az sayıda yüksek kaliteli uzman verisi ve LoRA gibi teknolojileri birleştirerek, belirli alan bilgisine sahip uzman modelleri hızla inşa eder ve eğitim maliyetlerini ile teknik engelleri önemli ölçüde azaltır.
Dikkate değer olan, SLM'nin LLM ağırlıklarına entegre edilmeyeceği, bunun yerine Agent mimarisi çağrıları, eklenti sistemi dinamik yönlendirmesi, LoRA modülü sıcak takibi, RAG (Retrieve-Enhanced Generation) gibi yöntemlerle LLM ile işbirliği içinde çalışacağıdır. Bu mimari, LLM'nin geniş kapsama yeteneğini korurken, ince ayar modülleriyle uzmanlık performansını artırarak son derece esnek bir kombinasyon akıllı sistem oluşturur.
Kripto AI'nin model katmanındaki değeri ve sınırları
Kripto AI projeleri esasen büyük dil modellerinin (LLM) temel yeteneklerini doğrudan artırmada zordur, bunun temel nedeni şudur:
Teknoloji eşiği çok yüksek: Foundation Model'i eğitmek için gereken veri ölçeği, hesaplama kaynakları ve mühendislik yetenekleri son derece büyük, şu anda yalnızca Amerika ve Çin gibi teknoloji devleri bu yeteneklere sahiptir.
Açık kaynak ekosisteminin sınırlamaları: LLaMA, Mixtral gibi ana akım temel modeller açık kaynak olsa da, modelin gerçekten ilerlemesini sağlayan anahtar hâlâ araştırma kurumları ve kapalı kaynak mühendislik sistemlerinde yoğunlaşmaktadır, zincir üzerindeki projelerin temel model katmanındaki katılım alanı sınırlıdır.
Ancak, açık kaynaklı temel modellerin üzerinde, Crypto AI projeleri, özel dil modellerini (SLM) ince ayar yaparak ve Web3'ün doğrulanabilirliği ile teşvik mekanizmalarını birleştirerek değer uzantısı gerçekleştirebilir. AI endüstri zincirinin "çevresel arayüz katmanı" olarak, iki ana yönde kendini göstermektedir:
Güvenilir doğrulama katmanı: Model oluşturma yolları, veri katkıları ve kullanım durumlarını zincir üzerinde kaydederek, AI çıktılarının izlenebilirliğini ve değiştirilmesine karşı dayanıklılığını artırır.
Teşvik Mekanizması: Yerel Token kullanarak, veri yükleme, model çağrısı, akıllı ajan (Agent) yürütme gibi eylemleri teşvik etmek için, model eğitimi ve hizmetleri için olumlu bir döngü oluşturma.
AI model türleri sınıflandırması ve blok zinciri uygulanabilirlik analizi
Bu durumda, model türü Crypto AI projelerinin uygulanabilir noktaları esas olarak küçük SLM'lerin hafif ince ayarı, RAG mimarisinin zincir üzerindeki veri erişimi ve doğrulaması ile Edge modellerinin yerel dağıtımı ve teşvikleri üzerinde yoğunlaşmaktadır. Blockchain'in doğrulanabilirliği ve token mekanizması ile bir araya geldiğinde, Crypto, bu orta-düşük kaynaklı model senaryolarına özel bir değer sunabilir ve AI "arayüz katmanı" için farklılaşmış bir değer oluşturabilir.
Veri ve model tabanlı blockchain AI ağı, her veri ve model katkısının kaynağını net, değiştirilemez bir şekilde blockchain'e kaydedebilir, veri güvenilirliğini ve model eğitiminin izlenebilirliğini önemli ölçüde artırır. Aynı zamanda, akıllı sözleşme mekanizması ile veri veya model çağrıldığında otomatik olarak ödül dağıtımını tetikleyerek, AI davranışlarını ölçülebilir, ticareti yapılabilir token değerine dönüştürür ve sürdürülebilir bir teşvik sistemi oluşturur. Ayrıca, topluluk kullanıcıları token ile model performansını değerlendirmek, kural belirleme ve iterasyona katılmak için oy verebilir, merkeziyetsiz yönetim yapısını geliştirebilir.
İki, Proje Özeti | OpenLedger'ın AI Zincir Vizyonu
OpenLedger, mevcut pazarda veri ve model teşvik mekanizmalarına odaklanan birkaç blok zinciri AI projesinden biridir. "Ödenebilir AI" kavramını öncülüğünü yaparak, veri katkıcıları, model geliştiricileri ve AI uygulama inşaatçılarını aynı platformda işbirliği yapmaya teşvik eden, adil, şeffaf ve bileşen olarak bir AI çalışma ortamı inşa etmeyi amaçlamaktadır ve gerçek katkılara göre zincir üstü kazanç elde etmektedir.
OpenLedger, "veri sağlama"dan "model dağıtım"ına ve ardından "kar paylaşımına" kadar tam bir zincir kapama sunar; ana modülleri arasında şunlar bulunmaktadır:
Model Factory: Programlama gerektirmeden, açık kaynak LLM temelinde LoRA ile ince ayar yaparak eğitim ve özelleştirilmiş model dağıtımı yapabilirsiniz;
OpenLoRA: Binlerce modelin aynı anda çalışmasını destekler, ihtiyaç duyulduğunda dinamik olarak yükler, dağıtım maliyetlerini önemli ölçüde düşürür;
PoA (Atıf Kanıtı): Zincir üzerindeki çağrı kayıtları aracılığıyla katkı ölçümü ve ödül dağıtımı gerçekleştirilir;
Datanets: Dikey senaryolara yönelik yapılandırılmış veri ağı, topluluk işbirliği ile inşa edilmekte ve doğrulanmaktadır;
Model Öneri Platformu (Model Proposal Platform): Kombinlenebilir, çağrılabilir, ödenebilir zincir üstü model pazarı.
Yukarıdaki modüller aracılığıyla, OpenLedger veri odaklı, model birleştirilebilir "akıllı ajan ekonomi altyapısı" kurdu ve AI değer zincirinin zincir üzerinde gerçekleştirilmesini sağladı.
Ve blok zinciri teknolojisinin benimsenmesinde, OpenLedger, OP Stack + EigenDA ile bir temel oluşturarak AI modelleri için yüksek performanslı, düşük maliyetli ve doğrulanabilir veri ve sözleşme çalışma ortamı inşa etti.
OP Stack üzerine inşa edildi: Optimism teknoloji yığınına dayalı, yüksek işlem hacmi ve düşük maliyetli uygulama desteği;
Ethereum ana ağında uzlaşma: İşlem güvenliğini ve varlık bütünlüğünü sağlamak;
EVM uyumlu: Geliştiricilerin Solidity tabanlı hızlı dağıtım ve genişleme yapmasını kolaylaştırır;
EigenDA, veri kullanılabilirliği desteği sağlar: depolama maliyetlerini önemli ölçüde azaltır ve verilerin doğrulanabilirliğini garanti eder.
NEAR gibi daha çok temel odaklı, veri egemenliğini ve "AI Agents on BOS" mimarisini hedefleyen genel amaçlı AI zincirlerine kıyasla, OpenLedger, veri ve model teşviklerine yönelik AI özel zincirleri inşa etmeye daha fazla odaklanmaktadır. Model geliştirme ve çağrılarının zincir üzerinde izlenebilir, birleştirilebilir ve sürdürülebilir bir değer kapalı döngüsü oluşturmasını sağlamaya çalışmaktadır. Web3 dünyasında model teşvik altyapısıdır; HuggingFace tarzı model barındırma, Stripe tarzı kullanım faturalandırması ve Infura tarzı zincir üzerindeki birleştirilebilir arayüzleri birleştirerek "model varlık olarak" gerçeğe ulaşma yolunu desteklemektedir.
Üç, OpenLedger'ın temel bileşenleri ve teknik mimarisi
3.1 Model Fabrikası, kodsuz model fabrikası
ModelFactory, OpenLedger ekosistemindeki büyük bir dil modeli (LLM) ince ayar platformudur. Geleneksel ince ayar çerçevelerinden farklı olarak, ModelFactory tamamen grafik arayüzü ile işlem yapma imkanı sunar, komut satırı araçları veya API entegrasyonu gerektirmez. Kullanıcılar, OpenLedger'da yetkilendirilmiş ve onaylanmış veri setlerini temel alarak modeli ince ayar yapabilirler. Veri yetkilendirmesi, model eğitimi ve dağıtımını birleştiren entegre bir iş akışı sağlamıştır; ana süreçleri şunlardır:
Veri erişim kontrolü: Kullanıcı veri talebi gönderir, sağlayıcı onaylar, veriler otomatik olarak model eğitim arayüzüne entegre edilir.
Model Seçimi ve Yapılandırması: Ana akım LLM'leri (örneğin LLaMA, Mistral) destekler, GUI aracılığıyla hiperparametreleri yapılandırır.
Hafifletilmiş ince ayar: Dahili LoRA / QLoRA motoru, eğitim sürecini gerçek zamanlı olarak gösterir.
Model Değerlendirme ve Dağıtım: Yerleşik değerlendirme araçları, dağıtım veya ekosistem paylaşım çağrısını dışa aktarmayı destekler.
Etkileşimli doğrulama arayüzü: Modelin soru-cevap yeteneklerini doğrudan test etmek için sohbet tarzı bir arayüz sunar.
RAG oluşturma izleme: Kaynak alıntısı ile cevap vererek güven ve denetlenebilirliği artırır.
Model Factory sistem mimarisi, kimlik doğrulama, veri yetkisi, model ince ayarı, değerlendirme dağıtımı ve RAG izlenebilirliği ile bütünleşik bir model hizmet platformu oluşturmak için altı ana modül içermektedir. Güvenli, kontrol edilebilir, gerçek zamanlı etkileşimli ve sürdürülebilir bir gelir modeli sunmaktadır.
ModelFactory şu anda desteklenen büyük dil modeli yeteneklerinin özeti aşağıdadır:
LLaMA Serisi: En geniş ekosistem, aktif topluluk ve güçlü genel performans ile şu anda en yaygın açık kaynak temel modellerden biridir.
Mistral: Verimliliği yüksek, mükemmel çıkarım performansına sahip, esnek dağıtım ve sınırlı kaynaklar için uygun olan bir mimari.
Qwen: Kapsamlı yeteneklere sahip, yerli geliştiriciler için en uygun seçim.
ChatGLM: Çincede konuşma etkisi belirgin, dikey müşteri hizmetleri ve yerelleştirme senaryoları için uygundur.
Deepseek: Kod üretimi ve matematiksel akıl yürütmede üstün performans gösterir, akıllı geliştirme yardımcı araçları için uygundur.
Gemma: Google tarafından sunulan hafif bir model, yapısı net, hızlı bir şekilde öğrenmek ve denemek için kolay.
Falcon: Performans ölçütüydü, temel araştırma veya karşılaştırmalı testler için uygundur, ancak topluluk etkinliği azalmıştır.
BLOOM: Çok dilli destek oldukça güçlü, ancak çıkarım performansı zayıf, dil kapsama araştırmaları için uygundur.
GPT-2: Klasik erken model, yalnızca öğretim ve doğrulama amaçları için uygundur, gerçek dağıtım için önerilmez.
OpenLedger'in model kombinasyonu en son yüksek performanslı MoE modeli veya çok modlu modeli içermese de, stratejisi çağdışı değil; aksine, zincir üzerindeki dağıtımın gerçek kısıtlamaları (çıkarsama maliyeti, RAG uyumu, LoRA uyumluluğu, EVM ortamı) temelinde "pratik öncelik" yapılandırması yapılmıştır.
Model Factory, kodsuz bir araç zinciri olarak, tüm modeller katkı kanıtı mekanizması ile entegre edilmiştir ve veri katkıda bulunanların ile model geliştiricilerin haklarını güvence altına alır. Düşük giriş engeli, dönüştürülebilirlik ve birleştirilebilirlik gibi avantajlara sahiptir. Geleneksel model geliştirme araçları ile karşılaştırıldığında:
Geliştiriciler için: Model inkübasyonu, dağıtımı ve gelir için tam bir yol sunar;
Platform için: Model varlık dolaşımı ve kombinasyon ekosistemi oluşturmak;
Uygulayıcılar için: Modelleri veya Ajanları API'yi çağırır gibi birleştirebilirsiniz.
3.2 OpenLoRA, modelin zincir üzerindeki varlıklaştırılması
LoRA (Düşük Sıralı Adaptasyon), önceden eğitilmiş büyük bir modele "düşük rütbeli matris" ekleyerek yeni görevleri öğrenen, orijinal model parametrelerini değiştirmeden çalışan etkili bir parametre ince ayar yöntemidir ve bu sayede eğitim maliyetlerini ve depolama ihtiyaçlarını önemli ölçüde azaltır. Geleneksel büyük dil modelleri (örneğin LLaMA, GPT-3) genellikle on milyarlarca hatta yüz milyarlarca parametreye sahiptir. Onları belirli görevler (örneğin hukuki soru-cevap, tıbbi danışma) için kullanmak amacıyla ince ayar (fine-tuning) yapılması gerekmektedir. LoRA'nın temel stratejisi şudur: "Orijinal büyük modelin parametrelerini dondurmak, yalnızca eklenen yeni parametre matrislerini eğitmek." Bu, parametre verimliliği, hızlı eğitim ve esnek dağıtım özellikleri ile şu anda Web3 modeli dağıtımı ve kombinasyon çağrıları için en uygun ana akım ince ayar yöntemidir.
OpenLoRA, OpenLedger tarafından çoklu model dağıtımı ve kaynak paylaşımı için tasarlanmış hafif bir çıkarım çerçevesidir. Temel hedefi, mevcut AI model dağıtımında yaygın olan yüksek maliyet, düşük yeniden kullanım, GPU kaynak israfı gibi sorunları çözmek ve "ödeme yapılabilir AI" (Payable AI) uygulamasını ilerletmektir.
OpenLoRA sistem mimarisi ana bileşenleri, modüler tasarım temelinde, model depolama, çıkarım yürütme, istek yönlendirme gibi kritik aşamaları kapsayarak, verimli, düşük maliyetli çoklu model dağıtımı ve çağrısı yeteneklerini gerçekleştirmektedir:
LoRA Adaptörü Depolama Modülü (LoRA Adaptörleri Depolama):İnce ayar yapılmış LoRA adaptörü OpenLedger üzerinde barındırılır, ihtiyaç duyulduğunda yüklenir, tüm modelin önceden belleğe yüklenmesini önler ve kaynak tasarrufu sağlar.
Model Barındırma ve Dinamik Birleştirme Katmanı (Model Hosting & Adapter Merging Layer)
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
17 Likes
Reward
17
10
Repost
Share
Comment
0/400
GasFeeWhisperer
· 08-19 18:34
Kim hala GPU pisti yapıyor?
View OriginalReply0
MrDecoder
· 08-18 15:49
Yine emiciler tarafından oyuna getiriliyor.
View OriginalReply0
gas_fee_therapist
· 08-16 20:00
Artık GPU spekülasyonlarının modasının geçtiğini söyleyelim.
View OriginalReply0
CryptoNomics
· 08-16 19:57
*ah* yine stokastik denge analizi eksik bir başka GPT anlatısı
View OriginalReply0
FlashLoanLord
· 08-16 19:47
Ah bu, bilgi işlem gücü oyunu değil mi?
View OriginalReply0
HodlVeteran
· 08-16 19:44
Bir başka AI anlatısı geliyor, deneyimli sürücü herkesi emniyet kemerini takmaya davet ediyor.
OpenLedger, AI on-chain model teşvik ekosistemini OP Stack ve EigenDA'ya dayalı olarak inşa ediyor.
OpenLedger Derinlik Araştırması: OP Stack+EigenDA temel alınarak, veri odaklı, model kombinasyonuna sahip bir akıllı ekonomi inşa etmek
Bir, Giriş | Crypto AI'nın model katmanındaki sıçrama
Veri, model ve hesaplama gücü, AI altyapısının üç temel unsurudur; bunlar yakıt (veri), motor (model) ve enerji (hesaplama gücü) gibi birbirini tamamlayan unsurlardır. Geleneksel AI endüstrisinin altyapı evrimine benzer şekilde, Crypto AI alanı da benzer aşamalardan geçmiştir. 2024 yılının başlarında, piyasa merkeziyetsiz GPU projeleri tarafından domine edildi ve yaygın olarak "hesaplama gücünü birleştirme" gibi yaygın bir büyüme mantığı vurgulandı. Ancak 2025'e girerken, sektörün odak noktası model ve veri katmanına kaymaya başladı; bu, Crypto AI'nın alt düzey kaynak rekabetinden daha sürdürülebilir ve uygulama değeri olan orta düzey yapılar inşa etmeye geçtiğini göstermektedir.
Genel Büyük Model (LLM) vs Özelleşmiş Model (SLM)
Geleneksel büyük dil modellerinin (LLM) eğitimi, genellikle büyük ölçekli veri setlerine ve karmaşık dağıtık mimarilere yüksek derecede bağımlıdır; parametre ölçeği genellikle 70B ila 500B arasında değişmektedir ve bir eğitim süreci genellikle milyonlarca dolara mal olmaktadır. Öte yandan SLM (Özelleşmiş Dil Modeli), yeniden kullanılabilir bir temel modelin hafif ince ayar paradigması olarak, genellikle LLaMA, Mistral, DeepSeek gibi açık kaynaklı modelleri temel alır, az sayıda yüksek kaliteli uzman verisi ve LoRA gibi teknolojileri birleştirerek, belirli alan bilgisine sahip uzman modelleri hızla inşa eder ve eğitim maliyetlerini ile teknik engelleri önemli ölçüde azaltır.
Dikkate değer olan, SLM'nin LLM ağırlıklarına entegre edilmeyeceği, bunun yerine Agent mimarisi çağrıları, eklenti sistemi dinamik yönlendirmesi, LoRA modülü sıcak takibi, RAG (Retrieve-Enhanced Generation) gibi yöntemlerle LLM ile işbirliği içinde çalışacağıdır. Bu mimari, LLM'nin geniş kapsama yeteneğini korurken, ince ayar modülleriyle uzmanlık performansını artırarak son derece esnek bir kombinasyon akıllı sistem oluşturur.
Kripto AI'nin model katmanındaki değeri ve sınırları
Kripto AI projeleri esasen büyük dil modellerinin (LLM) temel yeteneklerini doğrudan artırmada zordur, bunun temel nedeni şudur:
Ancak, açık kaynaklı temel modellerin üzerinde, Crypto AI projeleri, özel dil modellerini (SLM) ince ayar yaparak ve Web3'ün doğrulanabilirliği ile teşvik mekanizmalarını birleştirerek değer uzantısı gerçekleştirebilir. AI endüstri zincirinin "çevresel arayüz katmanı" olarak, iki ana yönde kendini göstermektedir:
AI model türleri sınıflandırması ve blok zinciri uygulanabilirlik analizi
Bu durumda, model türü Crypto AI projelerinin uygulanabilir noktaları esas olarak küçük SLM'lerin hafif ince ayarı, RAG mimarisinin zincir üzerindeki veri erişimi ve doğrulaması ile Edge modellerinin yerel dağıtımı ve teşvikleri üzerinde yoğunlaşmaktadır. Blockchain'in doğrulanabilirliği ve token mekanizması ile bir araya geldiğinde, Crypto, bu orta-düşük kaynaklı model senaryolarına özel bir değer sunabilir ve AI "arayüz katmanı" için farklılaşmış bir değer oluşturabilir.
Veri ve model tabanlı blockchain AI ağı, her veri ve model katkısının kaynağını net, değiştirilemez bir şekilde blockchain'e kaydedebilir, veri güvenilirliğini ve model eğitiminin izlenebilirliğini önemli ölçüde artırır. Aynı zamanda, akıllı sözleşme mekanizması ile veri veya model çağrıldığında otomatik olarak ödül dağıtımını tetikleyerek, AI davranışlarını ölçülebilir, ticareti yapılabilir token değerine dönüştürür ve sürdürülebilir bir teşvik sistemi oluşturur. Ayrıca, topluluk kullanıcıları token ile model performansını değerlendirmek, kural belirleme ve iterasyona katılmak için oy verebilir, merkeziyetsiz yönetim yapısını geliştirebilir.
İki, Proje Özeti | OpenLedger'ın AI Zincir Vizyonu
OpenLedger, mevcut pazarda veri ve model teşvik mekanizmalarına odaklanan birkaç blok zinciri AI projesinden biridir. "Ödenebilir AI" kavramını öncülüğünü yaparak, veri katkıcıları, model geliştiricileri ve AI uygulama inşaatçılarını aynı platformda işbirliği yapmaya teşvik eden, adil, şeffaf ve bileşen olarak bir AI çalışma ortamı inşa etmeyi amaçlamaktadır ve gerçek katkılara göre zincir üstü kazanç elde etmektedir.
OpenLedger, "veri sağlama"dan "model dağıtım"ına ve ardından "kar paylaşımına" kadar tam bir zincir kapama sunar; ana modülleri arasında şunlar bulunmaktadır:
Yukarıdaki modüller aracılığıyla, OpenLedger veri odaklı, model birleştirilebilir "akıllı ajan ekonomi altyapısı" kurdu ve AI değer zincirinin zincir üzerinde gerçekleştirilmesini sağladı.
Ve blok zinciri teknolojisinin benimsenmesinde, OpenLedger, OP Stack + EigenDA ile bir temel oluşturarak AI modelleri için yüksek performanslı, düşük maliyetli ve doğrulanabilir veri ve sözleşme çalışma ortamı inşa etti.
NEAR gibi daha çok temel odaklı, veri egemenliğini ve "AI Agents on BOS" mimarisini hedefleyen genel amaçlı AI zincirlerine kıyasla, OpenLedger, veri ve model teşviklerine yönelik AI özel zincirleri inşa etmeye daha fazla odaklanmaktadır. Model geliştirme ve çağrılarının zincir üzerinde izlenebilir, birleştirilebilir ve sürdürülebilir bir değer kapalı döngüsü oluşturmasını sağlamaya çalışmaktadır. Web3 dünyasında model teşvik altyapısıdır; HuggingFace tarzı model barındırma, Stripe tarzı kullanım faturalandırması ve Infura tarzı zincir üzerindeki birleştirilebilir arayüzleri birleştirerek "model varlık olarak" gerçeğe ulaşma yolunu desteklemektedir.
Üç, OpenLedger'ın temel bileşenleri ve teknik mimarisi
3.1 Model Fabrikası, kodsuz model fabrikası
ModelFactory, OpenLedger ekosistemindeki büyük bir dil modeli (LLM) ince ayar platformudur. Geleneksel ince ayar çerçevelerinden farklı olarak, ModelFactory tamamen grafik arayüzü ile işlem yapma imkanı sunar, komut satırı araçları veya API entegrasyonu gerektirmez. Kullanıcılar, OpenLedger'da yetkilendirilmiş ve onaylanmış veri setlerini temel alarak modeli ince ayar yapabilirler. Veri yetkilendirmesi, model eğitimi ve dağıtımını birleştiren entegre bir iş akışı sağlamıştır; ana süreçleri şunlardır:
Model Factory sistem mimarisi, kimlik doğrulama, veri yetkisi, model ince ayarı, değerlendirme dağıtımı ve RAG izlenebilirliği ile bütünleşik bir model hizmet platformu oluşturmak için altı ana modül içermektedir. Güvenli, kontrol edilebilir, gerçek zamanlı etkileşimli ve sürdürülebilir bir gelir modeli sunmaktadır.
ModelFactory şu anda desteklenen büyük dil modeli yeteneklerinin özeti aşağıdadır:
OpenLedger'in model kombinasyonu en son yüksek performanslı MoE modeli veya çok modlu modeli içermese de, stratejisi çağdışı değil; aksine, zincir üzerindeki dağıtımın gerçek kısıtlamaları (çıkarsama maliyeti, RAG uyumu, LoRA uyumluluğu, EVM ortamı) temelinde "pratik öncelik" yapılandırması yapılmıştır.
Model Factory, kodsuz bir araç zinciri olarak, tüm modeller katkı kanıtı mekanizması ile entegre edilmiştir ve veri katkıda bulunanların ile model geliştiricilerin haklarını güvence altına alır. Düşük giriş engeli, dönüştürülebilirlik ve birleştirilebilirlik gibi avantajlara sahiptir. Geleneksel model geliştirme araçları ile karşılaştırıldığında:
3.2 OpenLoRA, modelin zincir üzerindeki varlıklaştırılması
LoRA (Düşük Sıralı Adaptasyon), önceden eğitilmiş büyük bir modele "düşük rütbeli matris" ekleyerek yeni görevleri öğrenen, orijinal model parametrelerini değiştirmeden çalışan etkili bir parametre ince ayar yöntemidir ve bu sayede eğitim maliyetlerini ve depolama ihtiyaçlarını önemli ölçüde azaltır. Geleneksel büyük dil modelleri (örneğin LLaMA, GPT-3) genellikle on milyarlarca hatta yüz milyarlarca parametreye sahiptir. Onları belirli görevler (örneğin hukuki soru-cevap, tıbbi danışma) için kullanmak amacıyla ince ayar (fine-tuning) yapılması gerekmektedir. LoRA'nın temel stratejisi şudur: "Orijinal büyük modelin parametrelerini dondurmak, yalnızca eklenen yeni parametre matrislerini eğitmek." Bu, parametre verimliliği, hızlı eğitim ve esnek dağıtım özellikleri ile şu anda Web3 modeli dağıtımı ve kombinasyon çağrıları için en uygun ana akım ince ayar yöntemidir.
OpenLoRA, OpenLedger tarafından çoklu model dağıtımı ve kaynak paylaşımı için tasarlanmış hafif bir çıkarım çerçevesidir. Temel hedefi, mevcut AI model dağıtımında yaygın olan yüksek maliyet, düşük yeniden kullanım, GPU kaynak israfı gibi sorunları çözmek ve "ödeme yapılabilir AI" (Payable AI) uygulamasını ilerletmektir.
OpenLoRA sistem mimarisi ana bileşenleri, modüler tasarım temelinde, model depolama, çıkarım yürütme, istek yönlendirme gibi kritik aşamaları kapsayarak, verimli, düşük maliyetli çoklu model dağıtımı ve çağrısı yeteneklerini gerçekleştirmektedir: