Comment @cline a vécu la "leçon amère" dans son propre parcours. Lorsque Sonnet 4 est sorti, beaucoup de choses se sont cassées. Le modèle fonctionnait en boucle. Il prenait les instructions trop littéralement et faisait des choses étranges. Nous étions confus. Le même prompt système avait fonctionné pour 3.5, 3.7, tout ce qui était avant. À ce moment-là, nous avons réalisé : notre prompt surchargeait sensiblement le modèle. Toutes ces instructions soigneusement rédigées ? Elles interféraient avec la façon dont le modèle pense réellement. La leçon amère pour les agents : Vous pensez pouvoir ajuster les prompts et améliorer les modèles. Et peut-être que cela fonctionne... pour l'instant. Mais avec plus de puissance de calcul, les modèles s'améliorent d'eux-mêmes. Et plus vous guidez, plus vous vous mettez en fait en travers du chemin du modèle. Le meilleur prompt système est celui qui oriente les agents dans la bonne direction mais qui ensuite laisse le modèle tranquille.