Andrej Karpathy kannattaa uuden termin käyttöönottoa, joka liittyy "kontekstisuunnitteluun" tekoälyohjelmistojen kehittämisessä LLM:ien avulla. Ja tämä termi on pitkään tuntunut erittäin tarpeelliselta. Joka kerta kun selitän ihmisille, miten kehitämme Nethermind AuditAgentiamme, yksi tärkeimmistä näkökohdista verkkotunnuksen asiantuntemuksen (web3-turvallisuus) ja parhaiden saatavilla olevien tekoälymallien (OpenAI, Anthropic ja Google) ja LLM-työkalujen käytön lisäksi on nimenomaan "kontekstisuunnittelu". Joskus on ilmaisu "konteksti on kuningas", ja se on todella totta. LLM:t, olivatpa ne sitten suuria edistyneitä tai optimoituja pieniä LLM:iä, ovat tehokas työkalu, mutta kuten mikä tahansa työkalu, jos se on väärissä käsissä, saat paljon vähemmän lupaavia tuloksia kuin jos työskentelet niiden kanssa oikein. Ja kontekstinhallinta (tai suunnittelu) on todellakin monimutkainen ja ei kovin hyvin kuvattu alue, joka kehittyy jatkuvasti, ja se todella nousi esiin nopean suunnittelun käsitteen jatkeena, jolla on jo joitain negatiivisia konnotaatioita. Kaiken kaikkiaan Andrej luetteli tärkeimmät kontekstisuunnitteluun liittyvät näkökohdat (toisessa kuvakaappauksessa), mutta jokaisessa tehtävässä ihmiset saavuttavat erinomaisia tuloksia suurelta osin yrityksen ja erehdyksen kautta, joka kerta yrittäen yksitoikkoisesti valita oikeat kontekstielementit, joita todella tarvitaan ongelmanratkaisun tässä vaiheessa, keräämällä vertailuarvoja jokaiselle vaiheelle, tarkastelemalla mittareita, jakamalla tietojoukot testeihin, validointi ja niin edelleen, ja niin edelleen. Mitä mieltä olet "kontekstisuunnittelusta"?