AI programer koji možete pokrenuti izravno na svom prijenosnom računalu

Startup tvrtka Recursive objavila je model na platformi Hugging Face pod licencom Apache 2.0. KremenTo je demonstracija kako napredni sustavi mogu pomoći u stvaranju novih modela umjetne inteligencije. Sustav Eureka Machine predlagao je eksperimente i vodio razvoj, ali samo u ulozi istraživačkog asistenta pod nadzorom tima stručnjaka.

Glavna prednost lokalnog rada je što programski kod i podaci ostaju na korisnikovom računalu, bez slanja u oblak i bez plaćanja pretplate na temelju količine obrađenog teksta. Nedostatak je potreba za odgovarajućim hardverom i činjenica da model zahtijeva puno detaljnije upute od etabliranih plaćenih cloud asistenata.

Flint koristi arhitekturu „mješavine stručnjaka“ s ukupno 40 milijardi parametara, pri čemu je za svaki zadatak aktivirano samo 2,5 milijardi. U internim testovima na MacBook Pro računalu s Apple M4 Pro čipom postigao je brzinu od oko 131 tokena u sekundi, što je osjetno brže od modela poput Googleovog Gemma 4 i Nvidijinog Nemotron 3.5 Lightninga.

Na grafičkoj kartici Nvidia RTX Spark brzina je premašila 150 čipova u sekundi. Prema navodima tvrtke, u SWE-Bench Verified testu nadmašila je rezultate konkurentskih modela za manje od 50 milijardi parametara. Unatoč obećavajućim brojkama, treba zadržati određenu dozu opreza, jer detaljni uvjeti testiranja nisu javno objavljeni, pa će stvarna korisnost modela biti potvrđena tek širom primjenom u praksi.

Recursive vidi novi Flint samo kao prvi korak. Iako je vizija automatiziranog razvoja umjetne inteligencije privlačna, Flint je prvenstveno demonstracija da je moguće stvoriti moćan i upravljiv lokalni model za generiranje koda.