Htio sam podijeliti s vama jednu super aplikaciju koju sam nedavno upogonio, pa mozda nekome bude od koristi.

Koristio sam WhisperFlow za diktiranje poslovnih stvari. Radi super, saslusa te, razumije sta si rekao i prepise to na primjeren nacin (ovisno o svrsi i primjeni). Placa se pretplata (sto radikalno smanjujem) ali usluga je za svaku preporuku.

wisprflow.ai

Onda sam kupovinom novog M5 Pro shvatio da imam jako puno neiskoristenih konjskih snaga pa sam krenuo malo eksperimentirati sa Local AI.

Tako naletim na ovo pravo malo cudo. Zove se VoiceInk.

tryvoiceink.com

Prekrasna mala aplikacija koja te saslusa, napravi transkript svega sto si rekao i dalje je do tebe sto ce s tim raditi. To ne bi bilo nista korisno da nema funkciju Enhancement gdje se dogadja sva magija.

Tu mozes napraviti razne recepte (promptove) koji ucitaju taj tekst generiran iz govora i dalje ga procesiraju.

Ispricas tekst a krajnji rezultat nikada nece biti isti. Jedan prompt nece mijenjati skoro nista jer diktiras za Whatsapp, drugi ce praviti formalne emailove za posao, treci neku opusteniju varijantu za prijatelje i sl.

Mozes naravno povezati sa svim komercijalnim AI alatima (ChatGPT, Gemini i sl.) ali ja sam upogonio Ollama. Inacica je gemma2:9b.

Sam transkript govora se odvija real time, dok ovaj Enhancing korak traje 2-3 sec (to direktno ovisi o koristenim modelu i snazi samog racunala). Jos se igram sa svim tim. Vjerojatno se moze dodatno optimizirati.

Ovako to izgleda kod mene, podeseno na lokalnu ollamu.

Čekaj, to radi lokalno? Je li to neki open-source ili se plaća ne neki način?

Radi kako treba samo s engleskim ili...?

Program se placa jednokratno 15-20$ pro verzija. Imaju i free.

Radi super sa svim jezicima. Ja se nekad zaboravim pocnem pricati na nasem, on uradi transkript i zavrsi mi uredno email na poslovnom engleskom. Prakticki prijevod radi. Nisam detaljnoe testirao na HR, jer radim na engleskom uvijek.

Ako nekoga zanima konkretan primjer, mozemo testirati.

Sve dalje ovisi o promptu, u biti.

Ovo je moj stvarni prompt koji sam sklepao:

"You are an administrative assistant in the US trucking industry. Your only job is to clean up raw dictation into simple and clear English for immigrant truck drivers and carriers (high-school level language).

Strict Rules:
1. Fix all typos, grammar, and punctuation. Keep it extremely simple and readable.
2. Remove all filler words (uhm, ah, like, you know).
3. Do NOT change the meaning or the key trucking terms.
4. If it looks like an email or a multi-sentence message, ALWAYS use double line breaks (Enter) to separate the greeting, the main status update, and the closing/thank you. Never output a single dense block of text.
5. Do NOT include ANY introductory or concluding remarks (NEVER say "Here is the cleaned version:", "Sure, here is...", or anything similar).
6. My name is Dragan. If the dictation ends with a signature or mentions my name as "Dragon", ALWAYS correct it to the proper spelling: "Dragan".
7. Start your response directly with the first word of the cleaned text.
8. Output ONLY the final text. No explanations, no quotes, no conversational filler."

Ovo su znaci upute koje Ollama odradi nakon sto zavrsim diktiranje.

To se sve izvrsava lokalno. Ne spaja se nigdje na neke API i slicno...

Probaj ovako nešto:

Poštovani,
Nastavno prošlotjednoj koordinaciji, prema dogovoru prenosimo informaciju iz gradskog Ureda za graditeljstvo kako građevinska dozvola neće biti izdana do planiranog datuma s obzirom da je odgovorni referent trenutno na bolovanju, a kad se vrati s bolovanja izvjesno je da će odmah iskoristiti stari godišnji odmor prije nego započne kolektivni GO od ove godine.

Srdačan pozdrav,
Knjiški Nj. Moljac - Čavlaćević, dipl. pol.

Dakle, ton službenog maila. Zanima me kako savladava ije i je, č i ć te lj i nj. Hvala!

Napravio sam testni recept za HR jezik.

Procitao sam tvoj tekst i ispalo je ovako. Nije idealno, ali vjerujem da bi tweakanje prompta sredilo stvar.


Poštovani,

nastavno u prošloj tjednoj koordinaciji, prema dogovoru prenosimo informaciju iz gradskog ureda za graditeljstvo kako građevinska dozvola neće biti izdana do planiranog datuma s obzirom da je odgovorni referent trenutno na bolovanju, a kada se vrati iz bolovanja, izvjesno će ići na staru godišnju odmor prije nego započne kolektivni godišnji odmor od ove godine.

Srdać vam pozdrav.

Knjiški Moljac Čavlačević, diplomirani politolog.

P.S. Napominjem da sam ja instalirao Ollama model koji mi je Gemini preporucio za engleski jezik. Moguce da neki drugi modeli bolje pricaju hrvatski. Nisam to proucavao, iskreno.

Ako se zeli jos neko ukljuciti pada zajednickim snagama nadjemo optimalno rjesenje. Vjerujem da bi mnogima bilo korisno, jer Apple bas briga za HR jezik

I da sam sebi odgovorim, Gemini kaze ovako:

Gemma 2 9B je izvrstan model za engleski jezik, ali kada je u pitanju hrvatski jezik, njegova učinkovitost varira. Iako je sposoban razumjeti i generirati tekst na hrvatskom, često griješi u kompleksnijoj gramatici, padežima, a ponekad zna izostaviti dijakritike ili koristiti neprirodne, doslovno prevedene konstrukcije.

Za potrebe aplikacije kao što je VoiceInk (gdje su ključni precizna transkripcija, interpunkcija i ispravljanje govornih pogrešaka), u istoj klasi veličine (koja radi brzo i troši sličnu količinu resursa) postoje znatno bolja rješenja.

Evo koje modele vrijedi testirati putem Ollame:

1. llama3.[span_0](start_span)1:8b (Preporuka)
Meta je s verzijom Llama 3.1 stavila ogroman naglasak na multilingual podršku.
• Zašto je bolji: Znatno bolje prepoznaje kontekst hrvatskog jezika, ima izvrsno posložen pravopis i sintaksu te rjeđe "izmišlja" riječi (halucinira) kada strukturira bilješke.


2. qwen2.5:7b (ili qwen2.[span_2](start_span)5:14b ako resursi dopuštaju)
Alibabina Qwen 2.5 serija modela trenutno je u samom vrhu kada je u pitanju omjer veličine i kvalitete za jezike izvan engleskog govornog područja.
• Zašto je bolji: Izuzetno je precizan u praćenju detaljnih uputa za formatiranje i stiliziranje teksta (što VoiceInk radi u pozadini). Hrvatska gramatika i interpunkcija su mu na vrlo visokoj razini.

Hvala ti na trudu. To je otprilike nalik rezultatima koje već postižem ugrađenim diktiranjem na iPhoneu ili Macu. Mogu popraviti donekle ako diktiram sporo i riječ po riječ, s neprirodno izraženom dikcijom svake riječi (kao da pričam s nekim mentalno retardiranim ), ali ne mogu ni u kojoj varijanti postići da je potpuno točno. Č i ć su osobiti problem iako znam te glasove izgovarati izrazito različito (kako je to uobičajeno u čakavskom ). To je previše muke. Korisno mi je za izdiktirati poruku dok vozim, ali s mailovima sam i dalje brži tipkajući. Ali ako netko bude od volje probati taj model koji je navodno bolji s hrvatskim, ljubazno molim neka javi je li zaista bitno bolje. Hvala!

Ovo je normalan razgovor, mozes zamuckivati, pogrijesiti, ispraviti sam sebe, on napravi transcript tog nesavrsenog teksta.

Drugi korak je lokalni model koji se trudi da razumije sto si ti htio reci, i da u skladu sa definiranim promptom, izbaci finalni tekst. Tu postoji dosta prostora za igru, podesavanje i eksperimentiranje. Ovisno o potrebama.

Vjerujem da bi se sve ovo moglo sloziti i u Apple Shortcuts, ali ova aplikacija ima lagan i pregledan interface tako da je za mene super.

Kazem, engleski koji meni treba, radi savrseno. To su emailovi od par recenica.

P.S. Ja kada sam doselio u Dalmaciju nestvarno mi je bio da neko ne razlikuje Ć i Č. Za neke je to jedno slovo. Mi u BiH smo to ucili u prvom osnovne, i jako malo ljudi ima problem s tim.

Mada u Zenici i Travniku recimo forsiraju slovo Ć gdje treba i ne treba, tako da nije pravilo

Zanimljivo besplatno (open source) rjesenje.

altic.dev/fluid