JetMonero
Yerel LLM Ters Proxy ve Madencilik Ödül Ajanı
macOS için tasarlanmış, sıfır maliyetli altyapı ve donanım izleme ekosistemi. Apple Silicon (M4+) cihazlarda yerel LLM iş yüklerini ve sistem metriklerini gerçek zamanlı izleyerek ters proxy mekanizmaları sunar.
Öne Çıkan Özellikler
Yerel LLM Çalıştırma
Veri gizliliğini koruyarak şirket içi modelleri barındırma.
Akıllı Yük Dengeleme
Gelen istekleri en uygun node'a yönlendiren ters proxy.
Ödül Mekanizması
Boşta duran kaynakları ağa sunanları token ile ödüllendirme.
Teknik Mimari
Kullanım Senaryoları
- Kurumsal yapay zeka çözümleri
- Gizlilik odaklı veri işleme
- Dağıtık GPU ağları
Detaylı Proje İncelemesi
JetMonero, şirketinizin iç ağında veya kişisel çalışma ortamınızda bulunan Apple Silicon tabanlı macOS cihazların işlem gücünü tek bir noktada birleştiren devrim niteliğinde bir platformdur. Bulut hizmetlerine ödediğiniz astronomik sunucu masraflarını sıfıra indirerek, mevcut donanımlarınızın atıl (boşta bekleyen) kapasitelerini aktif bir yapay zeka motoruna dönüştürür.
İçerisinde barındırdığı L4 düzeyindeki akıllı ters proxy (reverse proxy) mekanizması sayesinde, kullanıcılardan veya uygulamalardan gelen devasa LLM (Büyük Dil Modeli) isteklerini anlık olarak analiz eder. O an ağ üzerinde hangi cihazın işlemcisi, belleği veya neural engine'i müsaitse, yükü mikrosaniyeler içinde o cihaza yönlendirerek darboğazları engeller. Böylelikle şirket içi verileriniz internete çıkmadan tamamen güvenli bir ortamda işlenmiş olur.
Sistem ayrıca, kaynaklarını şirket veya genel ağ havuzuna sunan cihazları izlemek için gelişmiş bir metrik ve ödül ajanı kullanır. Bu sayede, işlem gücü sağlayan donanımlar katkılarına göre takip edilir ve ödül tabanlı mekanizmalarla merkeziyetsiz bir hesaplama (compute) altyapısının temelleri atılır.