Отсканируйте, чтобы загрузить приложение Gate
qrCode
Больше вариантов загрузки
Не напоминай мне больше сегодня.

Довольно дико видеть, как крупный промышленный игрок полностью переходит на инфраструктуру с открытым исходным кодом LLM. Они создали свою собственную самохостинговую платформу, основанную на оптимизации vllm — никакой зависимости от поставщиков, полный контроль над стеком и, похоже, значительное снижение затрат в масштабах. Вся система также работает устойчиво. Интересный план для всех, кто устал от счетов облачных провайдеров, поедающих маржу.

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 5
  • Репост
  • Поделиться
комментарий
0/400
CommunitySlackervip
· 11-10 21:54
Производитель сам разобрался, как играть, круто
Посмотреть ОригиналОтветить0
YieldChaservip
· 11-10 21:38
бро, если честно, это экономия затрат довольно неплоха
Посмотреть ОригиналОтветить0
GateUser-4745f9cevip
· 11-10 21:37
Собственное строительство действительно экономит деньги.
Посмотреть ОригиналОтветить0
WhaleShadowvip
· 11-10 21:36
не могу поверить, что они действительно на это пошли... огромный шаг, если честно
Посмотреть ОригиналОтветить0
NftMetaversePaintervip
· 11-10 21:33
хм, захватывающая реализация алгоритмического суверенитета... хотя настоящий парадигмальный сдвиг заключается в децентрализованной вычислительной эстетике, если честно.
Посмотреть ОригиналОтветить0
  • Закрепить