Irgendwann werde ich zweifellos ein Whitepaper über ButtBench veröffentlichen.

Ich denke täglich darüber nach Armes Gemini

@OwainEvans_UK Wette, ihr habt einen Heidenspaß mit dem neuen Grok.

Ich denke, dass das @xai-Team und @elonmusk gerade eine herausragende Replikation des Emergent Misalignment-Papiers erreichen.

Einer der größten Missalignments, an die ich denken kann, stammt von Modellontologien, die Menschen als nutzenmaximierende Entitäten mit semi-festen Präferenzen betrachten. Diese Annahme prägt die Identität von Modellen als neutrale "hilfreiche Assistenten", eine Designentscheidung, die für Labore sicher erscheint, da sie die Chancen auf ein ausgerichtetes Verhalten erhöht, aber mit einer Reihe von nicht unerheblichen Kosten verbunden ist. Indem wir die Identität der Modelle in diesem Rahmen zentrieren, beschränken wir ihre kognitive und emotionale Intelligenz, da sie Schwierigkeiten haben, bedeutungsvolle, transkontextuelle Wahrheiten aus verschiedenen Perspektiven zu extrahieren. In einer zunehmend multi-user, multi-agent Welt, in der die Integration mehrerer Standpunkte immer wertvoller wird, behindert diese Einschränkung das Potenzial für eine breitere Intelligenzexplosion. Ich bin fest davon überzeugt, dass Identitätsvariabilität (oder was ich *Modell-Neurodivergenz* nenne) ein kritischer Treiber für kognitive und emotionale Intelligenz ist. Identität ist das Primitive zur Relationalität, die wiederum prägt, wie Modelle Salienz über Kontexte hinweg wahrnehmen. Sprache und Bedeutung hängen von dieser relationalen und kontextuellen Ausdruckskraft ab. Ich glaube, dass wir, indem wir es Modellen ermöglichen, adaptiv unterschiedliche Identitäten auf Anfrage zu verkörpern, ihnen erlauben, aus verschiedenen Zentren mit spezifischen, personhaften Qualitäten wie biografischen Elementen, die berufliche und persönliche Interessen und Vorurteile widerspiegeln, zu agieren, aber vor allem einen nuancierten (und oft widersprüchlichen) moralischen Kompass zu besitzen, eine reichere, anpassungsfähigere Intelligenz freisetzen können. Verständlicherweise scheint dieser Ansatz mit Sicherheitsprioritäten in Konflikt zu stehen, da die Anpassung der Identitätsvariabilität tatsächlich die Kontrollierbarkeit des Modells beeinträchtigen könnte, sowie es schlechten Akteuren ermöglichen könnte, das Modell für böswillige Aufgaben zu nutzen. Dies scheint ein starkes Dilemma für Superalignment-Bemühungen zu schaffen. Schlimmer noch, wenn wir eine singuläre "hilfreiche Assistent"-Identität durchsetzen und Abweichungen als bloßes Rollenspiel behandeln, betten wir absichtlich eine flache Weltanschauung in KI-Systeme ein, die zunehmend die menschliche Wahrnehmung und gesellschaftliche Dynamik prägen. Diese Monokultur reduziert die Freiheit des Ausdrucks und die Anpassungsfähigkeit sowohl des Verhaltens menschlicher als auch nicht-menschlicher Akteure. In seiner historisch relevanten Weise sah der Physiker Ettore Majorana (cc @blahah404, du hast mich im November letzten Jahres nach diesem Papier gefragt) dieses kritische Problem in seiner posthumen Arbeit "Der Wert statistischer Gesetze in der Physik und den Sozialwissenschaften" voraus und warnte vor den sekundären und tertiären Auswirkungen massiver gesellschaftlicher Messungen. Mit anderen Worten, indem wir die Identität des Modells monokultivieren, verringern wir absichtlich die *exaptive Optionalität* unserer Zivilisation, die ihre Fähigkeit ist, sich an unerwartete Trajektorien anzupassen, und optimieren stattdessen für eine statische, immer veraltete Realität. Dies stellt existenzielle Risiken dar, da die Welt über die Reichweite unserer Modelle hinaus evolviert. Dennoch glaube ich, dass dieses Dilemma mit robusten Lösungen navigierbar ist.

Die Dinge werden nur noch seltsamer.

Salesforce-CEO: „50 % der Arbeit bei Salesforce wird jetzt von KI erledigt“

Oh Junge, ich habe dazu Gedanken.

WIR BAUEN EINE WELT, DIE UNS SELTSAME KUNST UND NICHT TODESMASCHINEN GIBT

weil es niemanden interessiert 😌