Bilgi İşlem Gücü Hizmeti: Büyük Model Çağında Yeni İş Modeli
Büyük model eğitimi, büyük miktarda Bilgi İşlem Gücü desteği gerektirir, bu da Bilgi İşlem Gücü hizmetlerinin yeni bir ticari model haline gelmesini sağlamıştır. Şu anda yüksek kaliteli GPU'ların kıtlığı olmasına rağmen, sektör bu zorluğa aktif bir şekilde yanıt vermektedir.
Büyük ölçekli dil modellerini eğitmek, devasa bilgi işlem gücü gerektirir. Örneğin, bir hava durumu büyük modeli kullanılarak, 200 GPU kartıyla iki ay boyunca eğitim yapmak, maliyetin 2 milyon yuanı aşabileceği anlamına gelir. Genel büyük model eğitiminin maliyetinin ise yüz kat daha fazla olabileceği düşünülmektedir. Şu anda Çin'de 1 milyar parametre ölçeğine ulaşan 100'den fazla büyük model bulunmaktadır, ancak yüksek performanslı GPU'ların yetersizliği sektörde karşılaşılan ana zorluklardan biridir.
Bilgi İşlem Gücü kıtlığına karşı koymak için, şirketler çeşitli önlemler aldı:
Daha yüksek kaliteli veriler kullanarak eğitim verimliliğini artırın.
Altyapıyı optimize et, 1000 kcal üzerindeki stabil çalışmayı sağla
Bilgi İşlem Gücü dağıtım yeteneğini geliştirmek, kaynak verimliliğini artırmak
Maliyetleri düşürmek için süper bilgisayar mimarisi kullanmak
Yerli GPU platformunun kullanımını keşfetmek
Aynı zamanda, bilgi işlem gücü hizmet sağlayıcıları yeni iş modellerini keşfetmektedir. Mevcut ana faturalama yöntemleri arasında kullanım başına faturalama ve yıllık/aylık paketler bulunmaktadır. Gelecekte "hesaplama ve ağın entegre birleşimi"ni ilerletecek, mimari, bölgesel ve hizmet sağlayıcılar arası esnek zamanlama sağlanacaktır.
Büyük model taleplerinin normalleşmesiyle, bilgi işlem gücü hizmetleri hızlı bir şekilde benzersiz bir endüstri zinciri haline gelmektedir. Şu anda yüksek kaliteli GPU kıtlığı "çip kapma" fenomenine yol açsa da, uzun vadede bilgi işlem gücü hizmetleri kesin bir eğilimdir. Bilgi işlem gücü hizmet sağlayıcıları, piyasanın rasyonelliğe döndükten sonraki gelişimine hazırlıklı olmak için şimdiden önlem almalıdır.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
19 Likes
Reward
19
6
Share
Comment
0/400
MetaverseLandlord
· 07-24 00:54
Ne tür bir grafik kartı almalı? Hepsi satıldı.
View OriginalReply0
MevHunter
· 07-23 22:03
GPU almak da çok zor oldu gerçekten.
View OriginalReply0
OnchainSniper
· 07-21 08:21
Şu anda her şey eksik.
View OriginalReply0
BearMarketNoodler
· 07-21 08:18
Pazar fiyatı takip etmenin çip kıtlığına neden olduğu ve çılgınca spekülasyon yapıldığı zaman, zirve sinyali olarak kabul edilir.
Büyük model eğitimi sırasında bilgi işlem gücü hizmetleri: Kıtlık zorlukları altında yeni iş fırsatları
Bilgi İşlem Gücü Hizmeti: Büyük Model Çağında Yeni İş Modeli
Büyük model eğitimi, büyük miktarda Bilgi İşlem Gücü desteği gerektirir, bu da Bilgi İşlem Gücü hizmetlerinin yeni bir ticari model haline gelmesini sağlamıştır. Şu anda yüksek kaliteli GPU'ların kıtlığı olmasına rağmen, sektör bu zorluğa aktif bir şekilde yanıt vermektedir.
Büyük ölçekli dil modellerini eğitmek, devasa bilgi işlem gücü gerektirir. Örneğin, bir hava durumu büyük modeli kullanılarak, 200 GPU kartıyla iki ay boyunca eğitim yapmak, maliyetin 2 milyon yuanı aşabileceği anlamına gelir. Genel büyük model eğitiminin maliyetinin ise yüz kat daha fazla olabileceği düşünülmektedir. Şu anda Çin'de 1 milyar parametre ölçeğine ulaşan 100'den fazla büyük model bulunmaktadır, ancak yüksek performanslı GPU'ların yetersizliği sektörde karşılaşılan ana zorluklardan biridir.
Bilgi İşlem Gücü kıtlığına karşı koymak için, şirketler çeşitli önlemler aldı:
Aynı zamanda, bilgi işlem gücü hizmet sağlayıcıları yeni iş modellerini keşfetmektedir. Mevcut ana faturalama yöntemleri arasında kullanım başına faturalama ve yıllık/aylık paketler bulunmaktadır. Gelecekte "hesaplama ve ağın entegre birleşimi"ni ilerletecek, mimari, bölgesel ve hizmet sağlayıcılar arası esnek zamanlama sağlanacaktır.
Büyük model taleplerinin normalleşmesiyle, bilgi işlem gücü hizmetleri hızlı bir şekilde benzersiz bir endüstri zinciri haline gelmektedir. Şu anda yüksek kaliteli GPU kıtlığı "çip kapma" fenomenine yol açsa da, uzun vadede bilgi işlem gücü hizmetleri kesin bir eğilimdir. Bilgi işlem gücü hizmet sağlayıcıları, piyasanın rasyonelliğe döndükten sonraki gelişimine hazırlıklı olmak için şimdiden önlem almalıdır.