Сервіс обчислювальної потужності в тренуванні великих моделей: нові можливості під час викликів нестачі

robot
Генерація анотацій у процесі

Обчислювальна потужність: нова бізнес-модель ери великих моделей

Навчання великих моделей потребує значної обчислювальної потужності, що сприяє виникненню обчислювальних послуг як нової комерційної моделі. Хоча наразі існує нестача висококласних GPU, галузь активно реагує на цей виклик.

Навчання великих мовних моделей потребує величезних обчислювальних ресурсів. Наприклад, для навчання великої метеорологічної моделі, використовуючи 200 графічних процесорів, вартість може перевищити 2 мільйони юанів за два місяці. А вартість навчання універсальної великої моделі може бути в сотні разів вищою. Наразі в Китаї вже є понад 100 великих моделей з кількістю параметрів до 1 мільярда, але нестача високопродуктивних графічних процесорів стала основною проблемою, з якою стикається індустрія.

Для подолання нестачі обчислювальної потужності підприємства вжили різноманітних заходів:

  1. Використання даних вищої якості для підвищення ефективності навчання
  2. Оптимізація інфраструктури, забезпечення стабільної роботи понад тисячу кілокалорій
  3. Покращення обчислювальної потужності управління, підвищення ефективності використання ресурсів
  4. Використання суперкомп'ютерної архітектури для зниження витрат
  5. Дослідження використання вітчизняних платформ GPU

Одночасно провайдери обчислювальної потужності досліджують нові бізнес-моделі. Наразі основні способи оплати включають оплату за використання та підписку на рік чи місяць. У майбутньому буде просуватися "інтеграція обчислювальної мережі", що дозволить гнучко планувати між архітектурами, регіонами та провайдерами.

З розвитком попиту на великі моделі, обчислювальна потужність швидко розвивається в унікальний промисловий ланцюг. Хоча в даний час нестача висококласних GPU викликає явище "викрадення чіпів", проте в довгостроковій перспективі обчислювальні послуги є визначеною тенденцією. Постачальники обчислювальної потужності повинні заздалегідь підготуватися до розвитку після повернення ринку до раціональності.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 6
  • Поділіться
Прокоментувати
0/400
MetaverseLandlordvip
· 07-24 00:54
Що купувати, якщо всі відеокарти продані?
Переглянути оригіналвідповісти на0
MevHuntervip
· 07-23 22:03
GPU занадто важко купити, правда ж, це справжня боротьба.
Переглянути оригіналвідповісти на0
OnchainSnipervip
· 07-21 08:21
Зараз усе не вистачає
Переглянути оригіналвідповісти на0
BearMarketNoodlervip
· 07-21 08:18
Ринок гнеться за ціною до нестачі чіпів, і коли спекуляції досягають божевільного рівня, це є сигналом до піку.
Переглянути оригіналвідповісти на0
EthSandwichHerovip
· 07-21 08:17
Відеокарта - це бог
Переглянути оригіналвідповісти на0
LoneValidatorvip
· 07-21 08:14
Все, чого не вистачає, так це грошей.
Переглянути оригіналвідповісти на0
  • Закріпити