Pi vietinio modelio darbo eiga

Pi plėtinys: vietinis modelis dirba, GPT-5.6 tik tikrina planą ir peržiūrą.

TypeScriptPiAgent workflow

Dev-story

Iššūkis

Debesų kodavimo agentai brangūs kiekvienam paleidimui, o vien vietinis modelis nepakankamai patikimas neprižiūrimiems pakeitimams.

Ką darėme

Pi plėtinys, kur vietinis 27B modelis (FAST/SMART aliasai ant vienos įkeltos kopijos) rašo juodraštį, įgyvendina ir pats peržiūri, o GPT-5.6 kviečiamas tik prie dviejų vartų — plano užbaigimo ir galutinės peržiūros — ir niekada negauna keičiančių įrankių; keturios komandos (/deep, /run, /ralph, /web), slaptažodžius užtušavęs įrodymų paketas mokamai peržiūrai ir fail-closed ribos vienam paleidimui (užklausos, tokenai, kaina).

Rezultatas

Vartais valdomas agentinis kodavimas, kur mokamas modelis tik planuoja ir peržiūri — dauguma tokenų sukasi vietoje mūsų klasteryje — su kietomis išlaidų ribomis.

Dev-story straipsnis

Kaip buvo kuriamas projektas: Pi vietinio modelio darbo eiga

Debesų kodavimo agentai greiti, bet apmokestina kiekvieną tokeną; visiškai vietinis modelis pigus, bet vienas nepakankamai patikimas neprižiūrimam darbui. Pi-local — darbo eiga, bandanti gauti abu iš karto: leisti vietiniam 27B dirbti, o brangų debesies modelį leisti tik ten, kur jis realiai keičia rezultatą — plane ir peržiūroje.

Skyriai

Moduliai

Stackas

TypeScript + Pi

Kodėl projektas atsirado

Debesų kodavimo agentai brangūs kiekvienam paleidimui, o vien vietinis modelis nepakankamai patikimas neprižiūrimiems pakeitimams.

Ką sukūrėme

Pi plėtinys su lygiai keturiomis komandomis (/deep, /run, /ralph, /web). /run varo vartais valdomą konvejerį: vietinis modelis rašo plano juodraštį, debesies modelis jį audituoja ir užbaigia, vietinis įgyvendina ir patikrina, vietinis priešiškai peržiūri pats save, paleidžiama pasirenkama vietinė pataisa, o debesies modelis atlieka galutinę peržiūrą prieš APPROVED. Debesies modelis tik planuoja ir peržiūri ir niekada negauna keičiančių įrankių.

Pagrindiniai moduliai ir vartotojo kelias

M01

Pradėta nuo bendro vietinio rantaimo ir jo atsisakyta: Thunderbolt-RDMA pora tapo vieninteliu vietiniu vykdytoju, tad visa eiga sukasi mūsų dviejų Mac klasteryje.

M02

Kaina fail-closed: kietos ribos vienam paleidimui mokamoms užklausoms, tokenams ir doleriams, o mokamas recenzentas pradeda nuo slaptažodžius užtušavusio įrodymų paketo be įrankių (gali atsakyti NEEDS_INSPECTION, o ne spėti).

M03

Eskalavimas — apsauginis tinklas: kai vietinis modelis išsemia pataisų ciklus, protingas modelis užbaigia paleidimą, o ne pateikia ką nors sugadinto — pigus kelias yra numatytasis, ne skardis.

M04

Prefikso talpyklos drausmė laiko greitį: lipni per sesiją įgūdžių injekcija laiko rantaimo prefikso talpyklą šiltą, o greitas ir protingas vaidmenys yra aliasai ant vienos įkeltos svorių kopijos, tad etapų keitimas niekada neperkrauna modelio.

M05

Deterministinis repozitorijaus žemėlapis orientuoja kiekvieną brief ir įrankio kvietimą, o gyvas end-to-end stendas paleidžia visą konvejerį prieš tikrą rantaimą, tad vartai testuojami, ne tik aprašyti.

Architektūra ir technologiniai sprendimai

Sukurta su TypeScript, Pi, Agent workflow.

TypeScript Pi plėtinys; keturios komandos; vietiniai greitas/protingas vaidmenys išvedami iš jau įkelto modelių katalogo; pažangus modelis kaip be įrankių planuotojas ir recenzentas; hermetiniai ir daugiaraundžiai smoke testai atveria go-live.

Rezultatas ir pamokos

Vartais valdomas agentinis kodavimas, kur mokamas modelis tik planuoja ir peržiūri — dauguma tokenų sukasi vietoje mūsų klasteryje — su kietomis išlaidų ribomis.

Vartais valdomas agentinis kodavimas, kur dauguma tokenų sukasi vietoje mūsų klasteryje, o mokamas modelis leidžiamas tik planavimui ir peržiūrai — su kietomis išlaidų ribomis ir eskalavimu, kad įstrigęs vietinis paleidimas vis tiek švariai baigtųsi, o ne lūžtų ar tyliai kainuotų turtus.