Yapay zeka, GPU eksikliğini tetikliyor: Blockchain, makine öğrenimi darboğazlarını nasıl hafifletebilir?

Blockchain, modellere dağıtılmış erişime izin vererek ve kriptografik teşviklerle daha ucuz modeller için bir pazar yaratarak daha düşük hesaplama maliyetli GPU'lara erişim için bir köprü sağlar.

Orijinal başlık: "Yapay Zeka ve GPU Eksikliklerinin Yükselişi: Blockchain, Makine Öğrenimi Darboğazlarını Nasıl Azaltır"

Tommy Eastman'ın yazdığı

Derleyen: Frank, Öngörü Haberleri

Yapay zeka geliştikçe ve GPU'lara olan talep arttıkça makine öğrenimi sektörü GPU maliyeti ve erişilebilirlik sorunuyla karşı karşıya kalıyor. Blockchain teknolojisinin nasıl bir çözüm sağlayabileceğini görelim.

GPU endüstrisi

Geçtiğimiz yıl yapay zeka tabanlı uygulamalarda ve entegrasyonlarda muazzam bir büyüme yaşandı. OpenAI'nin ChatGPT'si şimdiye kadarki en hızlı büyüyen uygulama haline geldi ve piyasaya sürülmesinden yalnızca iki ay sonra aylık 100 milyon aktif kullanıcıya ulaştı. Karşılaştırıldığında, TikTok'un aynı dönüm noktasına ulaşması 9 ay ve Instagram'ın 18 ay sürdü.

Yapay zekaya olan talep, grafik işleme birimlerinin (GPU'lar) değerini ve kullanılabilirliğini büyük ölçüde etkiledi. GPU'lar, paralel hesaplamalar gerçekleştirmek ve aynı anda birçok veriyi işlemek için optimize edilmiş işlem birimleridir; bu da onları makine öğrenimi, video düzenleme ve oyun uygulamaları için faydalı kılar. Yapay zeka devresinde GPU'ların çok amaçlı kullanılması nedeniyle pazarda GPU'lara olan talep arttı.

GPU'lar bir avuç şirket tarafından geliştirilip dağıtılıyor; bu da üretim tedarik zincirindeki gecikmelerde açıkça görülüyor. 2017'deki boğa koşusundan bu yana blockchain endüstrisiyle yakından ilişkililer ve Ethereum iş kanıtı madencileri 2018'de neredeyse mevcut tüm GPU'ları satın alıyor. Ethereum blok zinciri, hisse kanıtına geçti, ancak yapay zekanın patlamasıyla birlikte blok zinciri teknolojisi, GPU'lara erişim, eğitim maliyetleri, dağıtılmış çıkarım ve daha fazlası gibi yaygın sorunlara hâlâ yararlı çözümler sunuyor.

Makine öğrenimi süreci ve darboğazlar

Makine öğrenimi büyük ve hızla büyüyen bir endüstridir. Model eğitimi genellikle birkaç adıma bölünür ve her adımın belirli darboğazları vardır.

1. Temel model eğitimi

Temel model eğitimi, büyük bir veri kümesinin (Wikipedia gibi) alınmasını ve genel bir zeka modeli olarak kullanılacak veya sonunda ince ayar yapılacak, dizideki bir sonraki öğeyi tahmin etmek için öğrenilmiş kalıpları ve ilişkileri kullanan bir başlangıç temel modelinin eğitilmesini içerir.

Örneğin, görüntü oluşturma modelleri, görüntü desenlerini karşılık gelen metinle ilişkilendirmek üzere eğitilir; böylece metin girişi verildiğinde, bu öğrenilen desenlere dayalı olarak görüntüler üretirler. Benzer şekilde, metin için model, önceki kelimelere ve bağlama dayalı olarak bir metin dizesindeki sonraki kelimeyi tahmin eder.

Temel modellerin eğitimi iş gücü, altyapı, zaman ve çaba açısından pahalıdır ve mevcut tedarik zinciri, bütçesi geniş şirketler için bile son teknoloji ürünü NVIDIA GPU'ların elde edilmesini zorlaştırmaktadır.

Örneğin, OpenAI'nin GPT-3'ünün yinelemeli eğitimi birkaç ay sürdü ve yalnızca milyonlarca dolar enerji maliyeti tüketti. Bu nedenle temel modellerin eğitimi, yalnızca bir avuç özel şirketin erişebildiği, son derece pahalı bir çaba olmaya devam ediyor.

2. İnce ayar

Özellikle, temel model eğitiminden daha az kaynak yoğun olan ince ayar, modelleri belirli görevler için optimize eder (yeni lehçelerin öğrenilmesine yönelik dil modelleri gibi). Temel modelin belirli bir görevdeki performansı, ince ayar yapılarak büyük ölçüde geliştirilebilir.

GPU kıtlığı bu üç alanı etkilerken, ince ayar en az etkilenir. Ancak ince ayar tamamen açık kaynak temel modeline dayanır. Özel şirketler modellerini açık kaynak olarak kullanmayı bırakmaya karar verirse, topluluk modelleri endişe verici bir oranda son teknoloji (SOTA) modellerin gerisinde kalacak.

3. Muhakeme

Modele erişim, bu adımdaki son adımı temsil eder (örneğin, kullanıcı istemlerinin istikrarlı bir şekilde yayılmasına dayalı olarak oluşturulan görüntüler olan ChatGPT'den soruların yanıtlarını almak gibi) ve model sorgulama için GPU kaynakları gerektirir. Çıkarım, özellikle GPU harcaması açısından bilgi işlem gereksinimleri açısından hızla artıyor.

Çıkarım, hem son kullanıcıların hem de geliştiricilerin modeli uygulamalarına dahil etmesini içerir; bu, modelin ekonomik olarak uygulanabilirliğini sağlamanın yoludur. Bu kavram, yapay zeka sistemlerinin topluma entegrasyonu açısından hayati önem taşıyor ve önemi, ChatGPT gibi araçları aktif olarak kullanan son kullanıcıların hızlı benimseme oranına da yansıyor.

GPU'ların kıtlığı, çıkarım maliyetlerinin hızla artmasına neden oluyor. Çıkarım için temel gereksinimler temel model eğitiminden daha düşük olsa da, şirketin konuşlandırılan uygulamalarının ölçeği, modelin sorgulanması sırasında şaşırtıcı bir GPU yükü gerektiriyor. GPU modellerinin çeşitliliği arttıkça (ince ayar ve yeni temel model geliştirme yoluyla), uygulamaların çeşitliliği de artacak ve çıkarımdan elde edilen GPU talebi önemli ölçüde artacaktır.

Blockchain, makine öğrenimi darboğazlarına çözümler sunuyor

Geçmişte GPU'lar Ethereum ve diğer PoW tokenlerini çıkarmak için kullanılıyordu. Artık blockchain, özellikle makine öğreniminde erişim sağlamak ve GPU alanı darboğazları arasındaki koordinasyonu artırmak için eşsiz bir fırsat olarak görülüyor.

Kripto teşvikleri

Büyük ölçekli GPU dağıtımı, önemli miktarda ön sermaye gerektirir ve bu, en büyük şirketler dışında tüm şirketler için bu alanda ilerlemeyi engellemiştir. Blockchain teşvikleri, GPU sahiplerinin yedek bilgi işlemden kâr elde etme potansiyelini yaratarak kullanıcılar için daha ucuz ve daha erişilebilir bir pazar yaratıyor.

dağıtılmış erişim

Herkes hesaplamaları, barındırma modellerini ve sorgu modellerini sağlayabilir/kullanabilir; bu, beta sürümde olma veya geleneksel bir alanda sınırlı erişime sahip olma zorunluluğundan önemli ölçüde farklıdır.

Blockchain'in makine öğrenme alanına sağlayabileceği önemli bir özellik dağıtılmış erişimdir. Makine öğrenimi geleneksel olarak büyük veri merkezlerine ihtiyaç duymuştur çünkü FMT henüz kümelenmemiş GPU'larda geniş ölçekte gerçekleştirilememiştir ve dağıtılmış protokoller bu sorunu çözmeye çalışmaktadır ve başarılı olmaları halinde FMT'nin kapılarını açacaktır.

pazar koordinasyonu

Blockchain pazarı, GPU satın alımlarının koordine edilmesine yardımcı olur, GPU sahibi bireylerin ve şirketlerin, onları boşta bırakmak yerine onları kiralamak isteyen kişileri bulmasına olanak tanır ve GPU'lar boştayken gelir elde etmek, GPU satın almanın ön maliyetini dengelemeye yardımcı olarak daha fazla olanak sağlar. Varlık GPU barındırmaya katılır.

Foundry'nin Sorumlu Yapay Zeka Taahhüdü

Blockchain makine öğrenimi alanı, ana ağda yalnızca birkaç projeye sahip, yeni doğmakta olan bir endüstridir. Foundry şu anda Bittensor AI projesinin yanı sıra dağıtılmış yapay zekayı geliştirmenin anlamlı bir yolu olduğu kanıtlanmış Akash'ı da destekliyor.

Isırıcı

Bittensor, modellere daha kolay erişim sağlayan ve herkesin modelleri barındırabileceği ve kullanıcı istemlerinin belirli bir yöntemle sıralanabileceği kriptografik teşvikler yoluyla daha ucuz bir model pazarı oluşturan, merkezi olmayan, izin gerektirmeyen bir bilgi işlem ağıdır. En yüksek modellerle eşleşir.

Bittensor, kriptodaki en büyük yapay zeka projelerinden biri haline geldi ve yakın zamanda görüntü oluşturma, tahmin pazarları ve daha fazlasını içeren farklı modları teşvik eden alt ağları yayınlayan büyük ölçekli bir hesaplamalı çıkarım ağı oluşturmak için blockchain'den yararlandı.

Foundry, ağ üzerinde doğrulama ve madencilik gerçekleştirir ve fikir birliğini sağlamak için Yetki Kanıtı düğümlerini çalıştırır.

Akaşa

Akash, GPU'lara geniş ölçekte daha kolay erişim sağlayan, daha fazla temel model eğiten ve GPU'ların maliyetini azaltan genel amaçlı bir bilgi işlem pazarıdır.

Akash yakın zamanda girişin önündeki mali engeli azaltmak, GPU işlem maliyetlerini düşürmek ve erişilebilirliği artırmak gibi hedeflerle GPU Marketplace'i başlattı ve temel model eğitim programı Akash'ta büyüyor. Foundry, ağ için GPU bilgi işlem sağlıyor ve özellikler geliştirmek için ekiplerle birlikte çalışıyor.

Sıradaki ne?

Makine öğrenimi işletmeye entegre olmaya devam ettikçe GPU'lara olan talep artmaya devam edecek ve bu da makine öğrenimi alanında devam eden tedarik zinciri sorunlarına neden olacak.Blockchain teknolojisi, modellere dağıtılmış erişime izin vererek ve kripto teşvikleriyle daha ucuz bir model pazarı yaratarak yardımcı oluyor. , daha düşük hesaplama maliyetli GPU'lara erişim için bir köprü sağlar.