Cómo @cline experimentó la "lección amarga" en su propio viaje. Cuando se lanzó el Sonnet 4, muchas cosas se rompieron. El modelo funcionaba en bucles. Tomaba las instrucciones demasiado literalmente y hacía cosas raras. Estábamos confundidos. El mismo aviso del sistema había funcionado para 3.5, 3.7, todo lo anterior. En ese momento nos dimos cuenta: nuestro aviso estaba sobrecargando sensorialmente al modelo. ¿Todas esas instrucciones cuidadosas que habíamos escrito? Estaban interfiriendo con la forma en que el modelo realmente piensa. La lección amarga para los agentes: Crees que puedes ajustar los avisos y hacer que los modelos sean mejores. Y tal vez eso funcione... por ahora. Pero con más capacidad de cómputo, los modelos simplemente mejoran por sí solos. Y cuanto más apoyo brindes, más te estás interponiendo en el camino. El mejor aviso del sistema es el que señala a los agentes en la dirección correcta pero luego se aparta del camino del modelo.