Больше контекста не означает лучшую производительность LLM. Исследования Келли Хонг (@kellyhongsn) показывают, что "гниение контекста" происходит даже в передовых моделях. Производительность ухудшается по мере увеличения длины ввода. Секрет? Инженерия контекста важнее, чем размер контекстного окна.