Ventura Labs Folge 50 - Steffen Cruz und Felix Quinque Felix Quinque, AI Lead, und Steffen Cruz (@macrocrux), CTO & Co-Founder Macrocosmos (@MacrocosmosAI) Zeitstempel: 1:24 – Einführung 2:12 – Übergang von Subnet 9 zu IOTA 2:47 – Das Problem: Training großer Sprachmodelle 4:51 – Übersicht über Layer-Gruppen 5:02 - Definieren einer Schicht in einem LLM 6:07 – Layer- vs. Dataset-Partitionierung 7:21 – Datenverteilung unter den Minern 10:08 – Einführung in die Pipeline-Parallelität 11:18 – Orchestrator: Planung und Koordination 15:44 Uhr – Validierung: Schatten-Audits 19:39 – Zukunft des Validierungsprozesses 24:51 - Bedeutung der Aktivierungskomprimierung 31:30 – Butterfly All-Reduce erklärt 36:43 - Stolzeste Errungenschaften von Subnet 9 39:33 - Definition des Erfolgs für IOTA Subnet 46:21 - Ratschläge für Zero-to-One-Teams 52:16 - Fazit & Dank
8,76K