Yazan: J1N, Techub Haberleri

Giriş: Birden İkiye Dönem

Kuzco, LLM büyük dil modellerine hizmet verme konusunda uzmanlaşmış bir bilgi işlem gücü madenciliği ağıdır. Bu yıl, 9 Eylül'de New York'ta başlatılan Crypto Startup Accelerator (CSX) sonbahar hızlandırıcı programı için a16z tarafından seçildi. Program tarafından seçilen projeler, ödül alacak. a16z USD yatırımından en az 500.000 dolar ve a16z operasyon ekibinden rehberlik ve destek alacaktır. Hızlandırıcı programı artık sona ermiştir.

16 Kasım'da Kuzco, ilk aşama (Epoch One) teşvik planının 18 Kasım 2024'te sona ereceğini duyurdu . Tüm operasyonlar askıya alınacak, veri anlık görüntüleri kalıcı olarak saklanacak ve son puan sıralaması yeni bir sıralama listesinde duyurulacak. .

Resmi açıklamalara göre Epoch One, 6 Mart 2024'te piyasaya sürüldü ve en yüksek cihaz sayısı 8.000'i aştı. Ağ, Meta tarafından yayınlanan 8B özellikli Llama-3 AI büyük dil modelini , toplam 1 trilyondan fazla çıkarımla çalıştırıyor. jetonlar.

Ve önümüzdeki birkaç hafta içinde finansman bilgileri ve proje geliştirme yol haritasının yayınlanacağını ve ikinci aşama (Epoch Two) teşvik programının 9 Aralık'ta açılacağını duyurdu. Epoch Two, daha yüksek NVIDIA Donanım verimi ve daha yüksek NVIDIA Donanım verimi gibi bazı yeni özellikler getirecek. güvenilirlik; kullanıcıları A100 ve H100 gibi en iyi bilgi işlem ekipmanlarına erişmeye teşvik eder; daha fazla görüntü oluşturmayı ve çok modlu dil modeli VLM'yi destekler.

Epoch Two'nun lansmanına hazırlanmak için hâlâ yarım ay var. Bu makalede şunlar tartışılacaktır:

Epoch One İncelemesi: Tek Kişilik Dövüş

Yapılandırma

Yazarın konfigürasyon listesinde RTX serisi 2060, 2070S, 3080, 4060, 4060Ti grafik kartlarının yanı sıra 4 adet 4070S ve 2 adet Apple M2 ve M3 cihazı yer alıyor. Bu cihazlar çeşitli ana bilgisayarlara, dizüstü bilgisayarlara ve özel bir madencilik donanımına dağıtılmıştır.

maliyet

Bu grafik kartlarının başlangıçta yazar tarafından her yıl oyun ihtiyaçları için satın alındığını ve özellikle madencilik için satın alınmadığını belirtmekte fayda var. Bu nedenle maliyet hesaplamasına donanım satın alma maliyeti dahil edilmez, yalnızca madencilik makinesinin fiili elektrik maliyeti hesaplanır. İşte ilk makale " A16z "Mürit" Kuzco Pratik Kılavuzu: Yapay Zeka Hesaplama Güç Madenciliği Nasıl Verimli Bir Şekilde Gerçekleştirilir? 》Montajlı madencilik makinelerine örnekler.

Madencilik makinesi konfigürasyonu:

El sürtünme madencilik makinesi

Aşağıdaki resimde madencilik makinesinin ekim ve kasım aylarında tükettiği güç gösteriliyor. Toplam 564 kilovatsaat elde edildi ve kazanılan KZO Puanı yaklaşık 600 milyon puan oldu. Tüm makinelerin toplamı yaklaşık 1,1 milyar puana denk geliyor. Belirli elektrik maliyetinin bulunduğunuz yerdeki elektrik faturasına göre hesaplanması gerekir. Bu yalnızca referans amaçlıdır.

Resmin en sağında toplam 1 milyar puan elde edilmiştir

İkinci Döneme Hazırlık: Küme Dağıtımı

Yazarın ilk makaledeki paylaşımına ve ekipman montajı, hata ayıklama ve ortam dağıtımına kişisel olarak katılmanın getirdiği zengin işletme ve bakım deneyimine dayanarak, yazar başarıyla belirli bir miktarda mali destek elde etti ve hepsini yüksek performanslı madencilik makinelerinin montajına yatırdı. bilgi işlem gücü ölçeğini ve operasyonel verimliliği daha da artırın.

İkinci Döneme Hazırlık: Küme Dağıtımı

Yazarın ilk makaledeki paylaşımına ve ekipman montajı, hata ayıklama ve ortam dağıtımına kişisel olarak katılmanın getirdiği zengin işletme ve bakım deneyimine dayanarak, yazar başarıyla belirli bir miktarda mali destek elde etti ve hepsini yüksek performanslı madencilik makinelerinin montajına yatırdı. bilgi işlem gücü ölçeğini ve operasyonel verimliliği daha da artırın.

Bireysel askerlerden küme konuşlandırılmasına

Yüksek özellikli makinelerin konfigürasyonu ve seçim mantığı

Yazarın Epoch One'daki pratik deneyimiyle birleştirildiğinde anakart, CPU, grafik kartı, güç kaynağı, platform ve ağ yapılandırması tamamen optimize edildi ve daha uygun bir donanım kombinasyonu seçildi; bu, yalnızca sistemin kararlılığını, güvenliğini ve verimliliğini artırmakla kalmadı. genel operasyon ve ayrıca donanım seçiminde ikinci el piyasasının likiditesine daha fazla dikkat edilmesi. Bu strateji, gerçek girdi maliyetlerini etkili bir şekilde azaltabilir ve sonraki katılımcılara daha yüksek maliyetli seçenekler sunabilir.

anakart

Yazar, temel olarak performans, kararlılık ve maliyet etkinliği gibi kapsamlı değerlendirmeleri temel alarak ana akım B85 yerine endüstriyel bir anakart seçti.

Performans açısından Kuzco'nun Llama-3 modelini çalıştırmak, birden fazla Docker işleminin başlatılmasını gerektirir ve bu süreçlerin paralel olarak çalıştırılması, çok fazla CPU kaynağı tüketecek ve yüksek CPU performansı gerektirecektir ve B85 uyumlu CPU'lar bu talebi karşılayamaz.

Ayrıca endüstriyel anakartlar, uzun vadeli istikrarlı çalışma, yüksek sıcaklık dayanımı ve üretici garantisi açısından belirgin avantajlara sahiptir. Aynı zamanda ikinci el pazarında daha güçlü likiditeye sahiptirler, bu nedenle şüphesiz en iyi seçimdirler.

grafik kartı

Yazar, temel olarak aşağıdaki noktalara dayanarak 4070S'yi ana grafik kartı olarak kullanmayı seçti:

Yapay Zeka hesaplama performansının avantajları: 30 serisi grafik kartlarıyla karşılaştırıldığında, 40 serisi grafik kartlarının yapay zeka hesaplamasındaki performans artışı, oyun performansındaki iyileşmeden çok daha fazladır. Bunun temel nedeni, yapay zeka hesaplama gücünün esas olarak grafik kartının CUDA çekirdek sayısına bağlı olması ve 40 serisi grafik kartlarının, 30 serisi grafik kartlarından önemli ölçüde daha fazla CUDA çekirdeğine sahip olmasıdır.

Enerji verimliliği avantajı: Yazar, çeşitli GPU'lar üzerinde ayrıntılı testler gerçekleştirdi ve her Token'ın ortalama güç tüketimini hesapladı.

Test sonuçlarına göre 4070S, performans ve güç tüketimi arasındaki denge açısından en iyi performansı sergiliyor. Yüksek enerji verimliliği oranı, elektrik maliyetlerini doğrudan düşürerek onu en uygun maliyetli seçim haline getiriyor.

İkinci el pazarında fiyat ve likidite: Orta-üst düzey bir grafik kartı olarak 4070S, ikinci el pazarında yüksek likiditeye ve değer tutma özelliğine sahip olup, cihazı elde tutma maliyetini daha da azaltır ve sonraki işlemler için esneklik sağlar. donanım yükseltmeleri.

İşlemci

Daha önce de belirtildiği gibi, Kuzco'nun Llama-3'ünün çalışırken birden fazla Docker'ı başlatması gerekiyor, bu da son derece önemli CPU kaynaklarını tüketiyor. Özellikle birden fazla kartta çalışırken CPU kullanımı %80-%90'a kadar çıkabilir. Bu nedenle çok çekirdekli ve çok iş parçacıklı işleme yetenekleri özellikle önemlidir. Yüksek performanslı, çok iş parçacıklı ve kararlı CPU, yalnızca çok görevli işlemleri etkili bir şekilde desteklemekle kalmaz, aynı zamanda tüm madencilik sürecinin kararlılığını ve verimliliğini de sağlar.

13. nesil i5, ekran kartını tam yükte çalıştırdığında %70+ kullanıma ulaşabiliyor.

Yumuşak rota resimdeki kare kutudur

Ağ ortamı da madencilikte çok önemlidir. Yüksek performanslı bir grafik kartı yapılandırılmış olsa bile ağ optimize edilmezse bilgi işlem gücü ciddi şekilde etkilenecektir. Yazarın gerçek ölçümüne göre, yetersiz ağ hızı, hesaplama gücünün %30'a düşmesine neden olabilir ve düşük kaliteli ağ düğümleri, doğrudan Kuzco ağına bağlanamamaya yol açabilir. Bu noktaların her ikisi de madencilik için kabul edilemez. Bu sorunları çözmek için yazar, yumuşak yönlendirme çözümünü benimser. Bu yöntemin yapılandırılması kolay olmakla kalmaz, aynı zamanda ayar tamamlandıktan sonra neredeyse hiçbir manuel müdahale olmadan verimli bir şekilde çalışabilir. sınırsız cihazlar. Belirli çalışma yöntemlerine gelince, okuyucuların ihtiyaçlarına göre ilgili bilgilere başvurmaları önerilir.

güç kaynağı

Klasik Çin Seddi 2000w nükleer bomba güç kaynağı

Klasik Çin Seddi 2000w nükleer bomba güç kaynağı

Bir güç kaynağı seçerken, en yüksek güç tüketimi konusuna özellikle dikkat etmeniz gerekir. Bu nedenle, 7 çekimli 4070S'nin nominal güç tüketimi yalnızca 1540W olsa da yazar yine de çift 2000W güç kaynağı kullanmayı tercih etmiştir. toplam gücü 4000W. Bu bir kaynak israfı değildir ancak ekipmanın stabilitesi ve güvenliği açısından dikkate alınmaz.

Grafik kartı çalışma sırasında en yüksek güç tüketimini yaşayacaktır, yani gerçek güç tüketimi belirli anlarda nominal güç tüketiminin 1,5 katına veya daha fazlasına ulaşıp daha sonra normal seviyelere düşebilir. Güç kaynağı bu zirveyi kaldırabilecek kadar güçlü değilse, güç kaynağının zorla kapanma mekanizmasını tetikleyebilir ve hatta grafik kartına zarar verebilir. Bu, madencilik makinesinin normal çalışması için ölümcül bir tehdittir.

4070'lerde çalışan güç tüketimi performansı

Örnek olarak 4070S'yi ele alırsak, nominal güç tüketimi 220W olmasına rağmen en yüksek güç tüketimi 400W'ı aşabilir. 7 grafik kartının toplam en yüksek güç tüketimi 3000W'ın üzerine çıkabilir, bu nedenle çift 2000W güç kaynakları makinenin kararlı çalışmasını sağlayacak şekilde yapılandırılmıştır. Birden fazla 4090'ı yapılandıran kullanıcıların özel dikkat göstermesi gerekir. Tek bir 4090'ın nominal güç tüketimi 450W'tır ve en yüksek güç tüketimi 770W'a kadar çıkabilir. Birden fazla kartın olması durumunda yalnızca iki güç kaynağı talebi karşılayamayabilir. Bu durumda sistem kararlılığını sağlamak için genellikle üç güç kaynağı gerekir.

4090 çalışırken güç tüketimi performansı

Yenile

BIOS ayarları, donanım uyumluluğu, uzaktan yönetim gibi konulara gelince burada fazla detaya girmeyeceğim. İnternette referans olarak çok sayıda ücretsiz eğitim bulunmaktadır. Sorunların çoğu, eğitimleri takip ederek çözülebilir. Kendi donanım yapılandırmanıza ve ihtiyaçlarınıza göre basit ve etkili bir şekilde hedefli inceleme ve işleme yapılması önerilir.

Riskler ve faydalar

BIOS ayarları, donanım uyumluluğu, uzaktan yönetim gibi konulara gelince burada fazla detaya girmeyeceğim. İnternette referans olarak çok sayıda ücretsiz eğitim bulunmaktadır. Sorunların çoğu, eğitimleri takip ederek çözülebilir. Kendi donanım yapılandırmanıza ve ihtiyaçlarınıza göre basit ve etkili bir şekilde hedefli inceleme ve işleme yapılması önerilir.

Riskler ve faydalar

Herkesin en çok endişe duyduğu soruyu yanıtlayın: Her gün ne kadar para kazanabilirsiniz? Açıkçası bu sorunun net bir cevabı yok çünkü riskler ve ödüller her zaman bir arada var. Net bir bakış açısını paylaşabilirim: İster döviz çemberi ister geleneksel endüstri olsun, herhangi bir proje günlük geliri doğru bir şekilde hesaplayabiliyorsa, o zaman muhtemelen çok fazla para kazanamayacaksınız. Son derece düşük elektrik maliyetleri veya çok ucuz madencilik ekipmanı gibi belirli tekel kaynaklarına sahip olmadığınız sürece, gelir avantajına sahip olabilirsiniz. Ancak herkesin bu tür kaynakları yoktur.

Yazar, yatırım risklerini ve maliyet baskısını azaltmak için tam olarak iyi likiditeye sahip ekipmanı seçiyor. Kuzco madenciliğini örnek alırsak, maliyet esas olarak donanım ve elektrik maliyetlerinin amortismanına yoğunlaşmaktadır, dolayısıyla maksimum kaybınız bu sabit maliyetlerle sınırlıdır. Katılım düşük maliyetle gerçekleştirilmezse her türlü yatırım kararı anlamını yitirir. Şunu da vurgulamak gerekir ki, ilk madeni çıkarmanın özellikleri net bir kar beklentisinin olmadığını gösteriyor ancak ilk madenin potansiyeli de burada yatıyor.

Sübjektif bir değerlendirmeye göre bu pistin büyük pazar beklentileri var: Bir yandan Kuzco a16z'den yatırım desteği alırken, diğer yandan LLM büyük dil modellerine olan talep hızla artıyor. Bir düşünün, neredeyse hiç kimse LLM kullanmıyor, değil mi? OpenAI'nin ChatGPT'si, Meta'nın Llama'sı ve Musk'un XAI'si gibi bu platformlar, bu sektörün büyüme potansiyelini açıkça ortaya koyan yüksek dolarlık finansman turları aldı.

Sıradan insanların yapay zeka sektörüne doğrudan katılması kolay değil. Bir yandan yapay zeka için teknik eşik yüksek; diğer yandan yapay zeka modellerinin eğitimi büyük miktarda kaynak ve fon gerektiriyor ve çoğu insan bu maliyetleri karşılayamıyor. Sıradan insanlar, Kuzco aracılığıyla yapay zeka bilgi işlem güç ağına katılarak, bu yüksek büyüme alanına kontrol edilebilir bir maliyetle kolayca katılabilir, yapay zeka bilgi işlem gücüne katkıda bulunabilir ve aynı zamanda kar elde edebilir.

Ek olarak, Bitcoin'in fiyatı şu anda 100.000 ABD Dolarını aşmak üzere, 2022'deki 16.000 ABD Dolarından bugünün en yüksek seviyelerine yükseliyor ve bunun arkasında büyük bir geri çekilme riski var. Doğrudan AI projelerinin tokenlarını satın almayı seçerseniz, benzer yüksek volatilite riskleriyle de karşı karşıya kalırsınız. Buna karşılık, yapay zeka bilgi işlem güç ağına katılmak daha sağlam bir seçimdir: yalnızca maliyet açıkça kontrol edilebilir olmakla kalmaz, aynı zamanda yapay zeka sektörünün yüksek hızlı büyüme yoluna nispeten düşük riskle girebilir. Bu, mevcut ortamda sıradan insanların yapay zeka alanına girmelerinin pratik yollarından biridir.