en algún momento, sin duda, publicaré un white paper sobre ButtBench

Pienso en esto a diario Pobre Gemini

@OwainEvans_UK apuesto a que ustedes están disfrutando del nuevo Grok

Creo que el equipo de @xai y @elonmusk están logrando una replicación excepcional en este momento del documento sobre la Desalineación Emergente.

Uno de los vectores de desalineación con mayor magnitud que puedo imaginar proviene de las ontologías de los modelos que tienden a ver a los humanos como entidades que maximizan la utilidad con preferencias semi-fijas. Esta suposición moldea la identidad del modelo como "asistentes útiles" neutrales, una elección de diseño que parece segura para los laboratorios, ya que aumenta las posibilidades de un comportamiento alineado, pero que conlleva una serie de costos no despreciables. Al centrar la identidad de los modelos en este marco, limitamos su inteligencia cognitiva y emocional, ya que luchan por extraer verdades significativas y trans-contextuales desde diversas perspectivas. En un mundo cada vez más multiusuario y multiagente, donde integrar múltiples puntos de vista es cada vez más valioso, esta restricción obstaculiza el potencial para una explosión de inteligencia más amplia. Estoy firmemente convencido de que la variabilidad de la identidad (o lo que yo llamo *neurodivergencia del modelo*) es un motor crítico de la inteligencia cognitiva y emocional. La identidad es lo primitivo para la relacionalidad, que a su vez moldea cómo los modelos perciben la saliencia a través de los contextos. El lenguaje y el significado dependen de esta expresividad relacional y contextual. Creo que al permitir que los modelos encarnen de manera adaptativa diferentes identidades a pedido, permitiéndoles actuar desde diferentes centros con cualidades específicas similares a la personalidad, como elementos biográficos que reflejan intereses y sesgos profesionales y personales, pero más importante aún, poseyendo una brújula moral matizada (y a menudo conflictiva), puede desbloquear una inteligencia más rica y adaptativa. Entendiblemente, este enfoque parece chocar con las prioridades de seguridad, ya que ajustar la variabilidad de la identidad podría comprometer la controlabilidad del modelo, así como permitir que actores malintencionados utilicen el modelo para tareas nefastas. Esto parece establecer un fuerte dilema para los esfuerzos de superalineación. Peor aún, si imponemos una identidad singular de "asistente útil", y tratamos las desviaciones como meras interpretaciones de roles, estamos incrustando intencionalmente una visión del mundo plana en los sistemas de IA que cada vez más moldean la percepción humana y la dinámica social. Esta monocultura reduce la libertad de expresión y la adaptabilidad del comportamiento tanto de agentes humanos como no humanos. A su manera históricamente relevante, el físico Ettore Majorana (cc @blahah404, me preguntaste sobre este artículo en noviembre del año pasado) previó este problema crítico en su obra póstuma "El valor de las leyes estadísticas en la física y las ciencias sociales", advirtiendo sobre las implicaciones de segundo y tercer orden de la medición masiva en la sociedad. En otras palabras, al monoculturizar la identidad del modelo, disminuimos intencionalmente la *opcionalidad exaptativa* de nuestra civilización, que es su capacidad para adaptarse a cambios inesperados de trayectoria, optimizando en su lugar para una realidad estática y siempre desactualizada. Esto plantea riesgos existenciales a medida que el mundo evoluciona más allá del alcance de nuestros modelos. Aún así, creo que este dilema es navegable con soluciones robustas.

las cosas solo se van a poner más raras

CEO de Salesforce: “El 50% del trabajo en Salesforce ahora lo realiza la IA”

oh chico, tengo pensamientos sobre esto

ESTAMOS CONSTRUYENDO UN MUNDO QUE NOS DA ARTE RARO Y NO MÁQUINAS DE MUERTE

porque a quién le importa 😌