Belle discussion de @mike64_t sur pccl et la communication de tolérance aux pannes.

Probablement l'un des emplois d'infrastructure les plus passionnants.

La prochaine génération de startups de produits valorisés à plus de 10 milliards sera construite en développant l'entraînement dans un environnement RL interne. Nous vivons dans une abondance de capacités et pourtant, nous n'avons que deux produits majeurs en IA, chatgpt et un agent de codage, et cela me frustre profondément. La chaîne d'approvisionnement actuelle de l'intelligence artificielle est structurellement cassée avec un seul fournisseur de matériel, quelques géants de l'IA possédant toute la raffinerie d'intelligence, les développeurs se retrouvant avec un accès API avec à peine aucun contrôle. Comme si l'ère d'Internet avait été construite avec Intel vendant des CPU à 4 géants du cloud possédant toute l'infrastructure et la pile logicielle avec des secrets et des NDA partout, et donnant WordPress comme kit de développement aux startups. Pourquoi perplexity n'a-t-il pas inventé la recherche approfondie ? Ils n'ont tout simplement pas pu car cela s'entraîne avec RL. Ma prédiction pour les prochaines années : RL deviendra l'outil le plus puissant pour les startups construisant des produits IA. Nous verrons des centaines d'histoires de succès comme Cursor et Lovable. L'utilisateur final en bénéficiera le plus. Les grands laboratoires évolueront vers des entreprises de produits, OAI se concentrera sur le marché des consommateurs, Antropic sur l'agent de codage, DeepMind intégrera l'IA dans toutes les entreprises de Google, Meta et XAI se battront pour les réseaux sociaux. Nous verrons émerger un écosystème de startups d'infrastructure IA, vendant des capacités de calcul, entraînant des modèles de base, organisant des données, construisant des environnements RL, offrant des inférences et des entraînements bon marché, propulsés par la science ouverte et les logiciels open source. @PrimeIntellect est à l'avant-garde de cet écosystème et la vision de l'AGI open source, le hub d'environnement RL est l'un des premiers éléments clés.