DOLAR
32,8553
EURO
35,2274
ALTIN
2.454,27
BIST
10.471,32
Adana Adıyaman Afyon Ağrı Aksaray Amasya Ankara Antalya Ardahan Artvin Aydın Balıkesir Bartın Batman Bayburt Bilecik Bingöl Bitlis Bolu Burdur Bursa Çanakkale Çankırı Çorum Denizli Diyarbakır Düzce Edirne Elazığ Erzincan Erzurum Eskişehir Gaziantep Giresun Gümüşhane Hakkari Hatay Iğdır Isparta İstanbul İzmir K.Maraş Karabük Karaman Kars Kastamonu Kayseri Kırıkkale Kırklareli Kırşehir Kilis Kocaeli Konya Kütahya Malatya Manisa Mardin Mersin Muğla Muş Nevşehir Niğde Ordu Osmaniye Rize Sakarya Samsun Siirt Sinop Sivas Şanlıurfa Şırnak Tekirdağ Tokat Trabzon Tunceli Uşak Van Yalova Yozgat Zonguldak
Ankara
Açık
31°C
Ankara
31°C
Açık
Salı Açık
31°C
Çarşamba Açık
31°C
Perşembe Açık
31°C
Cuma Açık
31°C

Yandex, GPU Kaynaklarında %20’ye Kadar Tasarruf Sağlayan LLM Eğitim Aracını Açık Kaynak Olarak Kullanıma Sundu

YaFSDP’nin en son sürat artışı %26’ya ulaşıyor. GPU kullanımında sağlanan optimizasyon, geliştiricilerin ve şirketlerin potansiyel olarak ayda yüz binlerce dolar tasarruf etmesini sağlıyor.

Yandex, GPU Kaynaklarında %20’ye Kadar Tasarruf Sağlayan LLM Eğitim Aracını Açık Kaynak Olarak Kullanıma Sundu
11.06.2024 20:52
5
A+
A-

Global teknoloji şirketi Yandex, büyük lisan modellerinin (Large Language Model-LLM) eğitimi için yeni ve açık kaynaklı bir prosedür olan YaFSDP’yi tanıttı. YaFSDP şu anda GPU bağlantısını geliştirmek ve LLM eğitiminde bellek kullanımını azaltmak için halka açık en tesirli sistemi simgeliyor. Sistem, mimariye ve parametre sayısına bağlı olarak FSDP’ye kıyasla %26’ya varan hızlanma sunuyor. YaFSDP kullanımıyla LLM’lerin eğitim mühletinin azaltılması, GPU kaynaklarında %20’ye varan tasarruf sağlama potansiyeline sahip oluyor.

Küresel yapay zeka topluluğunun gelişimine manalı bir katkı sunma emeliyle Yandex, YaFSDP’yi dünya çapındaki LLM geliştiricilerinin ve yapay zeka meraklılarının kullanımına açtı.

Yandex’te kıdemli geliştirici olarak vazife yapan ve YaFSDP’nin gerisindeki takımın modülü olan Mikhail Khruschev, şunları söyledi: “Şu anda YaFSDP’nin çok taraflılığını genişletmek için çeşitli model mimarileri ve parametre boyutları üzerinde faal olarak deneyler yapıyoruz. LLM eğitimindeki gelişmelerimizi global ML topluluğuyla paylaşmaktan, dünya genelindeki araştırmacılar ve geliştiriciler için erişilebilirliğin ve verimliliğin artmasına katkıda bulunmaktan heyecan duyuyoruz.”

YaFSDP’nin Türkiye’deki Lisan Modeli Geliştirme Projelerine Katkıları 

Türkiye’de yer alan çeşitli teknoloji ve finans kuruluşları, Türkçe lisan modelleri geliştirerek bu alanda dünya çapında değerli projelere imza atıyor. Türkiye’de geliştirilen bu büyük lisan modelleri, Yandex’in sunduğu YaFSDP usulü ile değerli avantajlar elde edebilir. YaFSDP’nin sunduğu GPU tasarrufları ve eğitim hızlandırmaları, bu projelerin daha verimli ve maliyet faal bir halde gerçekleştirilmesine katkıda bulunabilir. Bilhassa, lisan modeli eğitimi sırasında GPU kaynaklarında %20’ye varan tasarruf sağlanması ve %26’ya kadar hızlanma elde edilmesi, bu projelerin hem ekonomik hem de operasyonel açıdan daha sürdürülebilir olmasını sağlayabilir.

Neden YaFSDP tercih edilmeli

LLM’lerin eğitimi vakit alıcı ve ağır kaynak gerektiren bir süreç oluyor. Kendi LLM’lerini geliştirmek isteyen makine tahsili mühendisleri ve şirketler, bu modellerin eğitimi için değerli ölçüde vakit ve GPU kaynağı, hasebiyle para harcamak zorunda kalıyor. Model ne kadar büyükse, eğitimi için gereken vakit ve masraf da o kadar artıyor.

Yandex YaFSDP, GPU bağlantısındaki verimsizliği ortadan kaldırarak GPU etkileşimlerini kesintisiz hale getiriyor ve eğitimin sadece gerektiği kadar süreç belleği kullanmasını sağlıyor.

YaFSDP, öğrenme suratını ve performansını optimize ederek dünya çapındaki yapay zeka geliştiricilerinin modellerini eğitirken daha az bilgi süreç gücü ve GPU kaynağı kullanmalarına yardımcı oluyor. Örneğin, 70 milyar parametreli bir modeli içeren ön eğitim senaryosunda, YaFSDP kullanmak yaklaşık 150 GPU kaynağına denk tasarruf sağlama potansiyeline sahip bulunuyor. Bu da sanal GPU sağlayıcısına yahut platformuna bağlı olarak ayda kabaca 500 bin ila 1,5 milyon dolar tasarruf anlamına geliyor.

YaFSDP eğitim verimliliği

FSDP’nin geliştirilmiş bir versiyonu olan YaFSDP, ön eğitim, hizalama ve ince ayar üzere LLM eğitiminin irtibat yüklü evrelerinde FSDP usulüne kıyasla daha güzel performans gösteriyor. YaFSDP’nin Llama 2 ve Llama 3 üzerinde gösterdiği son hızlanma, Llama 2 70B ve Llama 3 70B üzerinde sırasıyla %21 ve %26’ya ulaşarak eğitim suratında değerli gelişmeler olduğunu ortaya koyuyor.

Mikhail Khruschev, “YaFSDP, 13 ila 70 milyar parametre ortasında değişen modellerde etkileyici sonuçlar gösterdi ve bilhassa 30 ila 70 milyar aralığında güçlü bir performans sergiledi. YaFSDP, şu an LLaMA mimarisine dayalı yaygın olarak kullanılan açık kaynaklı modeller ortasında en uygun olanıdır” diyor.

YaFSDP, Yandex’in sunduğu birinci açık kaynaklı araç değil. Şirket daha evvel ML topluluğu ortasında tanınan hale gelen öteki araçlar da paylaşmıştı:

  • CatBoost, karar ağaçlarında gradyan artırma için yüksek performanslı kütüphane.
  • YTsaurus, dağıtık depolama ve sürece için büyük bilgi platformu.
  • AQLM, Yandex Araştırma, HSE Üniversitesi, Skoltech, IST Avusturya ve NeuralMagic tarafından ortaklaşa geliştirilen büyük lisan modellerinin çok sıkıştırılması için en gelişmiş niceleme algoritması.
  • Petals, Yandex Research, HSE University, University of Washington, Hugging Face, ENS Paris-Saclay ve Yandex School of Veri Analysis işbirliğiyle geliştirilen, LLM’lerin eğitim ve ince ayar sürecini kolaylaştırmak için tasarlanmış kütüphane.

Kaynak: (BYZHA) Beyaz Haber Ajansı

ETİKETLER: , , , ,
Yorumlar

Henüz yorum yapılmamış. İlk yorumu yukarıdaki form aracılığıyla siz yapabilirsiniz.

ankara web tasarım law office wordpress hosting ingilizce kursu web tasarım ankara haberler Renault Yedek Parça Ankara Çıkışlı Karadeniz Batum Turu Dacia Yedek Parça Fluence Yedek Parça iveco yedek parça ankara Güneş Enerjisi İmplant Süt Sağım Makinesi Yedek Parça Casıo g shock forklift aküsü Pt100 ankara ceza avukatı Ankara endoskopi labomat Beta Law dacia yedek parça güç trafosu oto yedek parça dunnage airbag e-imza check up Huzurevi damla etiket radyal fan iç mimar jean Hobi Bahçesi Yatırımı etiler pilates değer kaybı Adblue yer yıkama makinesi Baharat Çeşitleri