Johdanto: Rakentamassa jotain oikeaa
Kun puhumme paikallisesta AI:sta, on helppoa jäädä testitilaan. Aja malli, heitä sille muutama kehote, vertaile vastauksia. Mutta todellinen arvo alkaa, kun alat kytkeä sen omaan työhösi. Kun paikallinen mallisi muuttuu pieneksi osaksi todellista työnkulkuasi.
Siinä kohtaa asiat alkoivat muuttua minulle. Tässä artikkelissa selitän, miten rakensin kevyen mutta tehokkaan AI-assistentin. Se auttaa minua käsittelemään haavoittuvuustietoja, lajittelemaan niitä ja nostamaan esiin sen, millä on merkitystä niiden teknologioiden perusteella, joita oikeasti käytän. Se ei ole hienostunut. Se ei puhu takaisin. Mutta se säästää aikaa ja parantaa keskittymistä. Siinä on pointti.
Ongelma, joka minun piti ratkaista
Työskentelen kyberturvallisuuteen liittyvän tiedon parissa monista eri lähteistä. Osa tulee uhkasyötteistä. Osa verkkoraporteista. Osa on pelkkää tekstiä, osa pitkiä, jäsenneltyjä dokumentteja. Haaste on aina sama: löydä se, mikä on minulle olennaista, ja tee se nopeasti.
Niinpä aloin hahmotella prosessia. Kerään dataa muutamasta tunnetusta lähteestä ja käytän sitten paikallista mallia:
-
Poimimaan sen, mikä on tärkeää.
-
Järjestämään sen haavoittuvuuksien vakavuuden mukaan.
-
Nostamaan esiin ne, jotka liittyvät omiin järjestelmiini ja sovelluksiini.
Sen sijaan, että lukisin kaiken käsin, saan nyt kohdennetun näkymän siihen, mikä tarvitsee huomiotani. Pelkästään se muuttaa sitä, miten hoidan päiväni.
Miten rakensin sen
Tämä assistentti pyörii paikallisesti. En käytä pilveä missään sen osassa. Tällä hetkellä ajan sitä testausympäristössäni käyttäen LM Studioa ja malleja kuten DeepSeek tai BOLT.
Prosessi on yksinkertainen. Liitän haavoittuvuustiedot käyttöliittymään ja annan sille tehtävän kuten:
“Tiivistä haavoittuvuudet vakavuuden mukaan. Sisällytä vain ne, joissa mainitaan nämä järjestelmät tai sovellukset.”
Vaikka prosessi on suoraviivainen, olen yrittänyt automatisoida mahdollisimman paljon.
Tehdäkseni sen käytän n8n:ää työnkulkujen rakentamiseen, jotka ohjaavat datavirtaa eri vaiheiden välillä. Sen avulla voin käynnistää toimintoja uuden syötteen perusteella, muotoilla ja lähettää dataa mallille sekä käsitellä vastaukset ilman, että minun tarvitsee tehdä manuaalisia vaiheita.
Muutamassa sekunnissa saan jäsennellyn tulosteen. Lyhyen, suoran ja suodatetun. Usein se huomaa linkkejä tai asioita, jotka olisin voinut ohittaa. Ja koska mikään ei poistu koneeltani, minun ei tarvitse huolehtia arkaluonteisen sisällön liittämisestä kolmannen osapuolen työkaluun.
Muutamassa sekunnissa saan jäsennellyn tulosteen. Lyhyen, suoran ja suodatetun. Usein se huomaa linkkejä tai asioita, jotka olisin voinut ohittaa. Ja koska mikään ei poistu koneeltani, minun ei tarvitse huolehtia arkaluonteisen sisällön liittämisestä kolmannen osapuolen työkaluun.
Käynnistys ja työnkulun suunnittelu
Tällä hetkellä käytän näppäimistösyötettä assistentin käynnistämiseen. Olen testannut ääniaktivointia, mutta se ei vielä sovi kokoonpanooni. Se on liian epäjohdonmukaista.
Myöhemmin, kun olen saanut uuden pöytäkoneeni asennettua valmiiksi, aion integroida low-code-automaatioalustoja kuten n8n. Siten voin:
-
Hakea syötteen dokumenteista tai datasyötteistä automaattisesti.
-
Lähettää sen syötteen paikalliselle mallille.
-
Työntää tuloksen yhteenvedoksi, tiedostoksi tai jopa sähköpostiksi itselleni.
Tällainen virtaus ei vaadi manuaalista kopiointia tai liittämistä. Se voisi pyöriä ajastetusti tai käynnistyä saapuvista tiedostoista. Sinne haluan seuraavaksi mennä.
Miksi uskon, että sillä on merkitystä
Tässä ei ole kyse tuotteen rakentamisesta. Kyse on siitä, että näytetään, miten jopa pieni, kohdennettu työkalu voi tehdä todellisen eron päivittäisessä työssä. Tällainen paikallinen assistentti voi auttaa sinua pysymään tehtäviesi edellä, huomaamaan sen, millä on merkitystä, ja säästää sinut energian tuhlaamiselta.
Se on se osa, joka käy kiinnostavaksi. Kun se toimii, ajattelusi laajenee. Alat pohtia, missä muussa siitä voisi olla apua. Ehkä ehdotusten kirjoittamisessa. Koodin katselmoinnissa. Sähköpostien luonnostelussa. Kokousmuistioiden tekemisessä. Jopa sisäisessä tuessa.
Ja paras osa? Et tarvitse pilveä. Et tarvitse lisenssejä. Se on sinun. Se pyörii hiljaa taustalla. Se vastaa, kun kysyt.
Lopuksi
Jos olet perehtymässä paikalliseen AI:hin, tämä on hyvä askel kokeilla. Rakenna jotain, vaikka se olisi perus. Vaikka se välillä hajoaisi. Mallin kytkeminen omaan työhön opettaa sinulle enemmän kuin yksikään opas.
Ja kun se alkaa säästää aikaasi, vaikka pienilläkin tavoilla, tiedät, että se on sen arvoista.
Viimeisessä artikkelissa kokoan kokonaiskuvan yhteen — mihin paikallinen AI on menossa ja miksi uskon, että omien työkalujen henkilökohtainen omistajuus on muuttumassa tärkeämmäksi kuin koskaan.
Markku Arvekari
Digital Transformation Expert
