Ventura Labs Tập 50 - Steffen Cruz và Felix Quinque Felix Quinque, Trưởng nhóm AI và Steffen Cruz (@macrocrux), CTO & Đồng sáng lập Macrocosmos (@MacrocosmosAI) Timestamps: 1:24 – Giới thiệu 2:12 - Chuyển đổi của mạng con 9 sang IOTA 2:47 – Vấn đề: Đào tạo mô hình ngôn ngữ lớn 4:51 – Tổng quan về nhóm lớp 5:02 – Xác định một lớp trong LLM 6:07 - Phân vùng lớp so với tập dữ liệu 7:21 – Phân phối dữ liệu giữa các thợ đào 10:08 – Giới thiệu Pipeline Parallelism 11:18 – Orchestrator: Lập lịch trình & Điều phối 15:44 - Xác nhận: Kiểm tra bóng tối 19:39 – Tương lai của quy trình xác nhận 24:51 - Tầm quan trọng của nén kích hoạt 31:30 - Giải thích về Butterfly All-Reduce 36:43 – Thành tựu đáng tự hào nhất của mạng con 9 39:33 – Xác định thành công cho mạng con IOTA 46:21 - Lời khuyên cho các nhóm zero-to-one 52:16 – Kết luận & Cảm ơn