1/ Karpathy beschreef net de harde limiet op triljoen-dollar autonome systemen als een terloopse kanttekening over zijn hyperparameter-script van de nacht ervoor (@NoPriorsPod) — en ging weer verder met het afstemmen van zijn leersnelheid...

2/ @karpathy: "Dit is extreem goed geschikt voor alles wat objectieve metrics heeft die gemakkelijk te evalueren zijn... het schrijven van kernels voor efficiëntere CUDA-code [...] is de perfecte match. Perfecte match."

6/ Wat hij eigenlijk zei is: de bottleneck bij autonome AI is niet intelligentie. Het is niet de rekenkracht. Het is niet de data. Het is of iemand het antwoord kan controleren. Dat is het. Dat is de hele economie van AGI!

7/ Elk laboratorium is in een race om mensen uit de lus te verwijderen. De hele economie hangt ervan af om ze erin te houden. Niemand heeft dit verzoend. We hebben het geprobeerd.

8/ De kosten om te automatiseren dalen. De kosten om te verifiëren zijn begrensd door de biologie. Die enkele asymmetrie stuurt alles aan: uitlijningsafwijking, de ineenstorting van de junior pipeline, aansprakelijkheid-als-software, de toekomst van werk, en waar waarde uiteindelijk zal accumuleren.

9/ Papier: