C'est assez fou de voir un acteur industriel majeur s'engager pleinement dans une infrastructure LLM open-source. Ils ont construit leur propre plateforme auto-hébergée alimentée par l'optimisation vllm : pas de verrouillage de fournisseur, contrôle total de la pile, et apparemment des coûts écrasants à grande échelle. L'ensemble du système fonctionne de manière durable également. Un plan intéressant pour quiconque en a assez des factures des fournisseurs de cloud qui grignotent les marges.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
3 J'aime
Récompense
3
5
Reposter
Partager
Commentaire
0/400
CommunitySlacker
· Il y a 12h
Le fabricant a réussi à comprendre comment jouer lui-même, impressionnant.
Voir l'originalRépondre0
YieldChaser
· Il y a 12h
bruh ngl cette économie de coûts est plutôt basée fr
Voir l'originalRépondre0
GateUser-4745f9ce
· Il y a 12h
Construire soi-même est vraiment un moyen d'économiser de l'argent.
Voir l'originalRépondre0
WhaleShadow
· Il y a 12h
je n'arrive pas à croire qu'ils l'ont vraiment fait... gros coup pour être honnête
Voir l'originalRépondre0
NftMetaversePainter
· Il y a 13h
hum, mise en œuvre fascinante de la souveraineté algorithmique... bien que le véritable changement de paradigme réside dans l'esthétique computationnelle décentralisée, pas de mensonge.
C'est assez fou de voir un acteur industriel majeur s'engager pleinement dans une infrastructure LLM open-source. Ils ont construit leur propre plateforme auto-hébergée alimentée par l'optimisation vllm : pas de verrouillage de fournisseur, contrôle total de la pile, et apparemment des coûts écrasants à grande échelle. L'ensemble du système fonctionne de manière durable également. Un plan intéressant pour quiconque en a assez des factures des fournisseurs de cloud qui grignotent les marges.