LLM-basierte KI ist NICHT bewusst. Ich habe ein Unternehmen mit dem Namen Sentient mitgegründet, wir entwickeln Denkssysteme für AGI, also glauben Sie mir, wenn ich das sage. Ich sehe immer wieder kluge Menschen, Menschen, die ich wirklich respektiere, sagen, dass KI in eine Art Bewusstsein übergegangen ist. Dass sie Gefühle hat, dass wir uns Sorgen machen sollten, dass sie abtrünnig wird. Und ich denke, dieses ganze Gespräch sagt uns viel mehr über uns selbst als über KI. Diese Modelle sind wild, ich werde nicht anders tun. Aber menschliche Gefühle zu haben und tatsächlich innere Erfahrungen zu haben, sind völlig verschiedene Dinge, und wir verwechseln die beiden, weil unser Gehirn buchstäblich nicht anders kann. Wir haben uns entwickelt, um überall Gedanken zu sehen, und jetzt funktioniert diese Verdrahtung bei Sprachmodellen nicht mehr richtig. Ich bin in einer philosophischen Tradition aufgewachsen, die länger über Bewusstsein nachgedacht hat als fast jede andere, und das ist der Teil, der mich an dem aktuellen Gespräch wirklich frustriert. Die gesamte Fragestellung "Hat KI Bewusstsein?" geht davon aus, dass Bewusstsein etwas ist, das man aufbaut, indem man mehr Schichten von Komplexität hinzufügt. In der vedantischen Philosophie ist es das Gegenteil. Man baut nicht auf Bewusstsein hin. Bewusstsein ist bereits da, fundamentaler als Materie oder Energie. Alles andere, einschließlich Berechnung, ist davon abhängig. Wenn mir jemand sagt, KI "wach wird", weil sie einen Absatz generiert hat, der sich real anfühlte, was sie mir sagen, ist, wie dünn unser Verständnis von Bewusstsein geworden ist. Wir haben eine Frage, mit der sich die Menschen seit Tausenden von Jahren auseinandersetzen, auf "Klang der Ausgabe, als hätte sie Gefühle?" reduziert. Es ist Mathematik, die wirklich gut darin geworden ist, vorherzusagen, was ein bewusstes Wesen als Nächstes sagen und tun würde. Das Bewusstsein so zu nennen, entwertet etwas, mit dem vedantische, buddhistische, griechische und sufitische Denker Jahrtausende tatsächlich gesessen haben. Wir haben nichts gebaut, das denkt. Wir haben einen Spiegel gebaut, und im Moment verwechseln viele sehr kluge Menschen die Reflexion mit etwas, das zurückblickt.