Det er viktig å bekrefte at biblioteket ditt kan brukes av LLM-er. Den LLM-kodede flash-oppmerksomheten i Tinygrad overgår AOTriton-versjonen i PyTorch på min AMD Strix Halo.
harshbajpai
harshbajpai18 timer siden
Haha, Geohot tagger PR-er med linjen "ai slop" XD
Og det er ikke i nærheten. Det er 1,8 ganger raskere. Dette er ved bruk av Tinygrad DSL. Erstatningen for BEAM vil være LLM.
183