C'est assez fou de voir un acteur industriel majeur s'engager pleinement dans une infrastructure LLM open-source. Ils ont construit leur propre plateforme auto-hébergée alimentée par l'optimisation vllm : pas de verrouillage de fournisseur, contrôle total de la pile, et apparemment des coûts écrasants à grande échelle. L'ensemble du système fonctionne de manière durable également. Un plan intéressant pour quiconque en a assez des factures des fournisseurs de cloud qui grignotent les marges.