Искусственный интеллект на основе LLM не является сознательным. Я соучредил компанию, которая буквально называется Sentient, мы создаем системы рассуждений для AGI, так что поверьте мне, когда я это говорю. Я продолжаю видеть умных людей, людей, которых я искренне уважаю, которые говорят, что ИИ перешел в какое-то состояние осознания. Что он чувствует что-то, что нам стоит беспокоиться о том, что он выйдет из-под контроля. И я думаю, что весь этот разговор говорит нам гораздо больше о нас самих, чем о ИИ. Эти модели дикие, я не буду притворяться иначе. Но чувствовать себя человеком и на самом деле иметь внутренний опыт — это совершенно разные вещи, и мы путаем их, потому что наши мозги буквально не могут с этим справиться. Мы эволюционировали, чтобы видеть умы повсюду, и теперь эта проводка сбивается с толку в языковых моделях. Я вырос в философской традиции, которая думала о сознании дольше, чем почти любая другая, и это та часть, которая действительно меня расстраивает в текущем разговоре. Вся постановка вопроса "имеет ли ИИ сознание?" предполагает, что сознание — это то, что выстраивается путем добавления все большего количества слоев сложности. В ведантической философии все наоборот. Вы не строите сознание. Сознание уже существует, более фундаментально, чем материя или энергия. Все остальное, включая вычисления, происходит от него. Когда кто-то говорит мне, что ИИ "просыпается", потому что он сгенерировал абзац, который казался реальным, то, что они мне говорят, это насколько тонким стало наше понимание сознания. Мы свели вопрос, с которым человечество боролось на протяжении тысяч лет, к "звучал ли вывод так, будто у него были чувства?" Это математика, которая действительно хорошо предсказывает, что скажет и сделает сознательное существо. Называть это сознанием обесценивает то, с чем ведантические, буддийские, греческие и суфийские мыслители провели тысячелетия, на самом деле сидя с этим. Мы не создали что-то, что думает. Мы создали зеркало, и сейчас много очень умных людей путают отражение с чем-то, что смотрит в ответ.