Моя інтуїція підказує, що щось подібне (за межами простої трансформаторної архітектури) необхідне, щоб досягти реального AGI/ASI. Хороша новина полягає в тому, що ці додаткові шари може бути відносно легко побудувати. Невелика частка ресурсів (як обчислювальних, так і людського капіталу), виділених на гіпермасштабування, може привести нас туди. Я бачу багато таких інноваційних ідей, що приходять із синосфери. Якщо гіпермасштабування – це не шлях до AGI/ASI (на відміну від розумних нових ідей та кращих архітектур), то відрив США від Китаю може бути нульовим або навіть негативним!

@brandonwilson Як я вже зазначаю, серйозні люди, які думають про світ, повинні спробувати зрозуміти конкуренцію між США та Китаєм, особливо в галузі штучного інтелекту та технологій.