Je řetězové uvažování LLM fata morgánou? ... Naše výsledky ukazují, že uvažování CoT je křehký přelud, který zmizí, když je posunut za hranice distribuce tréninku. Tato práce nabízí hlubší pochopení toho, proč a kdy uvažování CoT selhává, a zdůrazňuje přetrvávající výzvu k dosažení autentického a zobecnitelného uvažování. ... Naše zjištění ukazují, že CoT uvažování funguje efektivně, když je aplikováno na in-distribuci nebo blízko v distribuci, ale stává se křehkým a náchylným k selhání i při mírných distribučních posunech. V některých případech LLM generují plynulé, ale logicky nekonzistentní kroky uvažování. Výsledky naznačují, že to, co se zdá být strukturovaným uvažováním, může být fata morgána, vycházející z naučených nebo interpolovaných vzorců v trénovacích datech, spíše než z logické dedukce. ... Společně tato zjištění naznačují, že LLM nejsou principiální uvažovatelé, ale spíše sofistikované simulátory textu podobného uvažování.

NYTimes: Columbia a Brown zveřejní údaje o přiznáních a rase v Trumpově dohodě Bylo zapotřebí existenční hrozby ze strany Trumpa, aby je přiměl tato data uvolnit. Před lety fakultní výbor systému Kalifornské univerzity zkoumal právě tento druh dat a vytvořil níže uvedené grafy. Pokud se podíváte na data, pochopíte monstrózní povahu afirmativní akce, jak je praktikována v USA po ~50 let. NYT: ... Columbia a Brown budou muset zachovat "přijímací politiku založenou na zásluhách", jak se uvádí v jejich dohodách, které kodifikují širší cíle administrativy v právně závazném jazyce. Univerzity "nesmí v žádném případě nezákonně upřednostňovat uchazeče na základě rasy, barvy pleti nebo národnostního původu při přijímání do svých programů," uvádějí obě dohody ve stejném jazyce. "Nebude tolerován žádný zástupný důkaz pro rasové přijetí." ... "Ministerstvo spravedlnosti skoncuje s ostudným systémem, ve kterém je něčí rasa důležitější než jeho schopnosti," řekl v březnu Chad Mizelle, úřadující náměstek generálního prokurátora. "Každá vysoká škola a univerzita by měla vědět, že nezákonná diskriminace při přijímání bude vyšetřena a odstraněna." Jazyk použitý v urovnání s Columbií a Brownem zatlouká do hlavy sporná tvrzení o případu přijímacího řízení u Nejvyššího soudu, která Trumpova administrativa předkládá od února. Trvá na tom, že rozhodnutí jde nad rámec přijímacího řízení a zakazuje jakékoli zohledňování rasy v univerzitním životě.

Podpořte ATOM! Open source AI je dobrá! Níže je další 💀 graf. Věci jsou mnohem horší, než naznačuje tento graf, protože většina stahování čínských modelů se pravděpodobně neděje na HuggingFace. Vzhledem k tomu, že ~50 % vývojářů umělé inteligence v ČLR a ~100 % jejich stahování tvoří otevřené modely vytvořené čínskými laboratořemi (abych byl upřímný, Llama není konkurenceschopná), došlo již ke křižovatce na globální úrovni.

Amerika musí brát otevřené modely vážněji. Letos v létě předstihl vedoucí postavení v adopci otevřeného modelu v USA prostřednictvím lamy čínský model. Prostřednictvím projektu The American Truly Open Models (ATOM) se snažíme získat podporu a vyjádřit naléhavost tohoto problému.