Przedstawiamy `gpt-oss Pro Mode`! W zasadzie o3 Pro, ale dla nowych modeli open source OpenAI :) Pro Mode łączy do 10 instancji nowego modelu OpenAI GPT-OSS, co pozwala na uzyskanie lepszej odpowiedzi niż jedna instancja mogłaby stworzyć! Open source, link tutaj:

On Macbook M4 Max gpt-oss 120b: 48 tok/s high 35 tok/s normal 23 tok/s low power Very nice outputs, new model of choice

Agent głosowy zasilany przez gpt-oss. Działa lokalnie na moim MacBooku. Demo nagrane w Waymo z wyłączonym WiFi. Wciąż jestem na fali AI głosowego w mojej grze kosmicznej, oczywiście. Link do kodu poniżej. Dla konwersacyjnego AI głosowego, chcesz ustawić zachowanie rozumowania gpt-oss na "niski". (Domyślnie jest "średni".) Notatki na temat tego, jak to zrobić, oraz szablon jinja, którego możesz użyć, znajdują się w repozytorium. LLM w filmie demo to duża wersja gpt-oss, 120B. Możesz użyć mniejszego modelu 20B do tego, oczywiście. Ale OpenAI naprawdę zrobiło coś fajnego, projektując model 120B, który działa w "tylko" 80GB VRAM. A wnioskowanie w llama.cpp mlx jest szybkie: ~250ms TTFT. Uruchamianie dużego modelu na urządzeniu wydaje się jak podróż w czasie w przyszłość AI.

Zbudowałem zespół agentów AI do nieruchomości z wieloma agentami, korzystając z gpt-OSS i Firecrawl. Ma 3 agentów AI, którzy współpracują jako zespół: 1. Agent wyszukiwania nieruchomości 2. Agent analizy rynku 3. Agent wyceny nieruchomości 100% otwarte źródło z instrukcją krok po kroku.

openai gpt-oss chat app with thinking-ui (100% local):

Minęło zaledwie nieco ponad 19 godzin, odkąd OpenAI wypuściło gpt-oss, w pełni otwarty model. A ludzie już zaczynają być szalenie kreatywni i osiągają niesamowite wyniki z jego pomocą. 10 dzikich przykładów: