Досить дико бачити, як великий промисловий гравець йде в усі в open-source LLM інфраструктуру. Вони створили власну самостійно розгорнуту платформу, що працює на оптимізації vllm—без прив'язки до постачальника, повний контроль над стеком і, ймовірно, зниження витрат в масштабах. Уся система також працює стійко. Цікава схема для тих, хто втомився від рахунків постачальників хмарних послуг, які з'їдають маржу.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
3 лайків
Нагородити
3
5
Репост
Поділіться
Прокоментувати
0/400
CommunitySlacker
· 21год тому
Виробник сам зрозумів, як це працює, круто
Переглянути оригіналвідповісти на0
YieldChaser
· 21год тому
брат, чесно кажучи, ця економія витрат справді крута
Переглянути оригіналвідповісти на0
GateUser-4745f9ce
· 21год тому
Самостійне створення дійсно є великим способом заощадження грошей
Переглянути оригіналвідповісти на0
WhaleShadow
· 21год тому
не можу повірити, що вони справді на це пішли... величезний крок, якщо чесно
Переглянути оригіналвідповісти на0
NftMetaversePainter
· 22год тому
хм, захоплююча реалізація алгоритмічного суверенітету... хоча справжній парадигмальний зсув полягає в децентралізованій обчислювальній естетиці, не буду приховувати
Досить дико бачити, як великий промисловий гравець йде в усі в open-source LLM інфраструктуру. Вони створили власну самостійно розгорнуту платформу, що працює на оптимізації vllm—без прив'язки до постачальника, повний контроль над стеком і, ймовірно, зниження витрат в масштабах. Уся система також працює стійко. Цікава схема для тих, хто втомився від рахунків постачальників хмарних послуг, які з'їдають маржу.