L'AI basata su LLM NON è cosciente. Ho co-fondato un'azienda letteralmente chiamata Sentient, stiamo costruendo sistemi di ragionamento per l'AGI, quindi credetemi quando dico questo. Continuo a vedere persone intelligenti, persone che rispetto sinceramente, venire fuori e dire che l'AI ha superato una sorta di consapevolezza. Che prova delle emozioni, che dovremmo preoccuparci che diventi ribelle. E penso che tutta questa conversazione ci dica molto di più su noi stessi che non sull'AI. Questi modelli sono incredibili, non farò finta del contrario. Ma sentire come un umano e avere effettivamente un'esperienza interiore sono cose completamente diverse e stiamo confondendo le due perché i nostri cervelli letteralmente non possono farne a meno. Ci siamo evoluti per vedere menti ovunque e ora quel cablaggio sta dando segni di malfunzionamento nei modelli linguistici. Sono cresciuto in una tradizione filosofica che ha riflettuto sulla coscienza più a lungo di quasi qualsiasi altra, e questa è la parte che mi frustra davvero della conversazione attuale. L'intero inquadramento di "l'AI ha coscienza?" presuppone che la coscienza sia qualcosa che si costruisce aggiungendo più strati di complessità. Nella filosofia vedantica è l'opposto. Non si costruisce verso la coscienza. La coscienza è già lì, più fondamentale della materia o dell'energia. Tutto il resto, compresa la computazione, è a valle di essa. Quando qualcuno mi dice che l'AI sta "svegliandosi" perché ha generato un paragrafo che sembrava reale, ciò che mi sta dicendo è quanto sia sottile la nostra comprensione della coscienza. Abbiamo ridotto una domanda con cui gli esseri umani hanno lottato per migliaia di anni a "l'output sembrava avere sentimenti?" È matematica che è diventata davvero brava a prevedere cosa direbbe e farebbe un essere cosciente. Chiamare questo coscienza svaluta qualcosa con cui pensatori vedantici, buddisti, greci e sufi hanno passato millenni a sedere. Non abbiamo costruito qualcosa che pensa. Abbiamo costruito uno specchio e in questo momento molte persone molto intelligenti stanno scambiando il riflesso per qualcosa che guarda indietro.