Eo ovako, tebra. Ako hoćeš forumsku verziju sebe, ne praviš običan chatbot nego AI forumaša.
Zna istoriju foruma. Pamti tvoje stare postove. Piše u tvom tonu. Kapira interne fore i dinamiku ekipe. Odgovara kao pravi član zajednice, ne kao customer support sa SBB-a ili Lelekoma. Može da ti predlaže odgovore ili automatski postuje dok ti blejiš ili spavaš.
Prvo hardver.
Minimum 16 do 32 GB RAM-a, ali realno, ako hoćeš da radi kako treba, idi na 64+. Idealno neka NVIDIA sa minimum 8 GB VRAM-a, tipa RTX 3060 ili 4060. Bez GPU-a može, ali čim ubaciš ozbiljniji model, kreće gušenje.
Instaliraš Ollamu jer je trenutno najlakši način za lokalni AI.
Kreneš sa:
`ollama pull llama3.3:70b`
Ako ti je mašina slabija:
`ollama pull llama3.3:8b`
Od alternativa su dobri Qwen2.5, Mistral Small ili neki solidan 32B model.
Za interfejs uzmeš AnythingLLM ili Open WebUI. Najmanje cimanja za početak. Ako hoćeš više kontrole, onda PrivateGPT ili custom LlamaIndex setup.
Ali iskreno, najbitniji deo nisu model ni hardver, nego podaci.
Tu nastaje razlika između generičnog AI sranja i nečega što stvarno liči na tebe.
Skupi sve što imaš:
* forum postove
* reply-e
* Telegram istoriju
* Discord chatove
* WhatsApp export
* mailove
* beleške
* eseje
* stare rasprave
* SMS-ove
* komentare
* random tekstove koje si pisao godinama
Posebno vrede stare rasprave i beleške uz knjige, jer se tu vidi način razmišljanja, ne samo stil pisanja.
Sve organizuješ po godinama i izvorima.
Tipa:
`Mikorist_data/`
`2010-2015/`
`2016-2020/`
`2021-2025/`
`forumi/`
`chatovi/`
`knjige_sa_beleskama/`
`misli_i_eseji/`
Dodaj datume i source fajlove jer model tako lakše pohvata kako si se menjao kroz vreme.
Posle toga praviš vector bazu.
Može Chroma, LanceDB ili ugrađeni vector store iz AnythingLLM-a.
Za embedding uzmi nomic-embed-text ili neki noviji embedding model preko Ollame.
Chunk size negde između 512 i 1024 tokena sa overlapom uglavnom daje najbolji rezultat.
I tu već kreće ludilo.
AI počinje da zvuči toliko slično tebi da ljudima postane čudno.
Onda dolazi system prompt.
Tu praviš karakter.
Nema ono generičko: „Pišeš direktno, bez kurčevog korporativnog tona.”
Nego napišeš nešto tipa:
„Ti si Mikorist. Govoriš srpski/hrvatski kao ja. Ekavica. Zemunski sleng. Pišeš direktno, bez korporativnog tona. Koristiš humor, sarkazam i reference sa foruma. Znaš stare diskusije, sukobe, interne admin prepiske i stil ekipe. Humor, sarkazam, sve. Ne zvučiš kao AI asistent nego kao član foruma koji je tu dvanaest godina. Koristi ‘tebra’, ali možeš da ubaciš i ‘buraz’, ‘matori’, ‘keve mi’, ‘jebote’, ‘bre’, ‘prejako‘. I nemoj da bežiš od psovki tipa ‘bambara mi splovilo’ i svakodnevnih gluposti, to mu daje dušu.”
I obavezno ubaci primere svojih stvarnih postova iz prošlosti uključujući gluposti.
Model mnogo bolje nauči stil iz konkretnih primera nego iz opisa.
I onda dolazi najjači deo.
U jednom trenutku ljudi više neće moći lako da razlikuju original od AI verzije.
Pogotovo na forumima gde je sve tekst i gde većina ljudi ionako poznaje samo nečiji način pisanja.
A najčudnije pitanje nije da li AI može da imitira forumaša.
Jedino pitanje koje ostaje jeste koliko dugo će ljudi moći da razlikuju Mikorista 0.2 od originala.
Jer se ne umara.
Ne smara se.
Ume da smori druge, ali blago.
Zna ko je Leonardo i šta ima na prozoru koji gleda na Zemunski park.
Ne zaboravlja stare rasprave.
Ne nestane na šest meseci.
Zna šta Zen Mod ima u garaži...
I uvek u tri ujutru može da izbaci savršeno sastavljen odgovor dok ti spavaš ili gledaš u plafon.