IBM Granite 4.0 3B Vision: smulkus modelis dideliam dokumentų apdorojimui

AI modelių pasaulyje vyrauja tendencija „didesnis = geresnis." IBM eina priešinga kryptimi — ir turi argumento.

Granite 4.0 3B Vision yra 3 mlrd. parametrų multimodalinis modelis (palyginkite: GPT-4o — ~200 mlrd. parametrų). Mažesnis. Greitesnis. Pigesnis. Ir dokumentų apdorojimui — dažnai tinkamesnis nei didžiuliai universalūs modeliai.

---

IBM Granite modelių šeima orientuojasi į enterprise naudojimą — tai ne eksperimentinius tyrimus, o produkciniai sprendimai su:

• Atskleistais treniravimosi duomenimis (svarbu BDAR ir audito atžvilgiu)
• Indemnifikacija — IBM prisiima teisinę atsakomybę už autorių teisių pažeidimus (unikalus bruožas)
• Lokalios diegties galimybe (IBM watsonx platforma arba Hugging Face)

Granite 4.0 3B Vision prideda vaizdo suvokimo galimybes — modelis gali analizuoti:

• Nuskanuotus dokumentus ir sąskaitas faktūras
• Diagrams ir lenteles
• Techninių brėžinių elementus
• Ekranvaizdžius ir UI komponentus

---

Sąskaitos faktūros ir finansiniai dokumentai

Granite 4.0 Vision buvo treniruotas specialiai su verslo dokumentų duomenimis. Ekstrakcija iš PDF sąskaitos:

Laukas	Granite 4.0 3B	GPT-4o mini	GPT-4o
Tiekėjo pavadinimas	98%	97%	99%
Suma su PVM	96%	94%	98%
Data	99%	98%	99%
IBAN/banko info	92%	89%	95%
Apdorojimo laikas	0,8 sek.	1,2 sek.	2,1 sek.

Tikslumo skirtumas minimalus. Greičio skirtumas — reikšmingas dideliam srautui.

Lentelių ekstrakcija iš dokumentų

Viena sudėtingiausių dokumentų apdorojimo užduočių — tabeliniai duomenys sudėtinguose PDF. Granite 4.0 Vision supranta lentelių struktūrą ir gali grąžinti duomenis JSON formatu — tiesiogiai integruojami į duomenų bazes.

Techninė dokumentacija ir brėžiniai

Gamybos ir inžinerijos sektoriams kritiška — brėžinių duomenų ekstrakcija. Granite 4.0 gali identifikuoti komponentus, matmenis ir specifikacijas iš techninių brėžinių su ~85% tikslumu.

---

GPT-4o mini yra natūralus palyginimo taškas — abu maži, greiti, orientuoti į ekonomišką sprendimą.

Kriterijus	IBM Granite 4.0 3B	GPT-4o mini
Parametrai	3B	~8B (apskaičiuota)
Kaina (1M tokenų)	~$0.05 (watsonx)	$0.15
Lokali diegtis	Taip (atvira licencija)	Ne
Indemnifikacija	Taip (IBM)	Ne
Lietuvių kalba	Ribota	Geras
Dokumentų specializacija	Aukšta	Vidutinė
Bendros žinios	Vidutinės	Geros

Išvada: Granite 4.0 3B laimi kainos ir lokalizacijos fronte; GPT-4o mini laimi bendros intelektualumo ir kalbų palaikymo srityse.

---

• Didelio masto dokumentų apdorojimas (tūkstančiai dokumentų per dieną)

• Privaloma lokali diegtis (BDAR, komercinė paslaptis)

• Sąskaitų faktūrų, kvitų, sutarčių automatizavimas

• Gamybos ir inžinerijos sektoriaus dokumentai

• Biudžeto ribojimas — kaina kritinis faktorius

• Lietuvių kalbos tekstų generavimas (ribotas palaikymas)

• Bendros kalbos užduotys (pokalbiai, rašymas)

• Realaus laiko web paieška ar duomenų gavimas

• Maži dokumentų kiekiai (administravimo sąnaudos neapsimoka)

---

Granite 4.0 puikiai veikia RAG (Retrieval-Augmented Generation) architektūroje:

1. Dokumentas įkeliamas → Granite 4.0 Vision nuskaito turinį ir struktūrą
2. Teksto fragmentai saugomi vektorinėje duomenų bazėje (pgvector, Weaviate)
3. Vartotojo klausimas → semantinė paieška duomenų bazėje → relevantūs fragmentai
4. LLM generuoja atsakymą remiantis surastais fragmentais

Šioje architektūroje Granite 4.0 atlieka ekstrakcijos rolę — tai jo stiprybė. Galutinį atsakymą generuoja didesnis modelis arba Granite didesnis brolis (Granite 7B/13B).

---

• Valdoma paslauga su SLA

• Pilna enterprise palaikymo paketo

• Integracija su IBM Cloud paslaugomis

• Kaina: ~€0.05/1 000 tokenų

• Nemokamas atsisiunčiamas modelis

• Veikia jūsų infrastruktūroje

• Reikia GPU (rekomenduojama: NVIDIA A10 ar geresnė)

• Kaina: tik infrastruktūra

ollama pull granite3.1-dense:8b
ollama serve

Smulkesnis 3B modelis veikia net CPU režimu, nors lėčiau.

---

„WebEdge" klientams siūlome RAG sprendimus su Granite 4.0 Vision dokumentų ekstrakcijoje — ypač sąskaitų faktūrų apdorojimui, sutarčių analizei ir techninių dokumentų katalogavimui.

Tai leidžia sumažinti rankinį duomenų įvedimą iki 85% ir integruoti dokumentų srautą tiesiogiai su buhalterine ar ERP sistema.

WebEdge sukuria demo per 7 dienas su jūsų verslo duomenimis. Kaina prasideda nuo €499.

---

Lietuvių kalbos tekstų generavimas yra ribotas, tačiau dokumentų struktūros supratimas (lentelės, skaičiai, datos, kodai) veikia gerai — net lietuviškuose dokumentuose. Rekomendacija: naudoti Granite 4.0 ekstrakcijui, bet rezultatus apdoroti su lietuvių kalbą geriau palaikančiu modeliu.

Vidutinis verslo dokumentas (sąskaita, sutartis) — ~2 000 tokenų su vaizdu. 10 000 dokumentų = 20 mln. tokenų. watsonx kaina: ~€1/mėn. Palyginimui su GPT-4o: ~€300/mėn. Skirtumas — reikšmingas.

Taip, Granite modeliai yra prieinami Apache 2.0 licencija per Hugging Face. Tai reiškia, kad galite atsisiųsti, paleisti ir modifikuoti komerciniais tikslais be papildomų mokesčių — tik su infrastruktūros sąnaudomis.