: Enemmän kuin pelkkiä chatbotteja
Yksi suurimmista väärinkäsityksistäni ennen paikallisen tekoälyn testaamista oli, että siitä olisi hyötyä vain chatbot-tyyliseen kysymys–vastaus-käyttöön. Mutta jo muutaman viikon jälkeen tajusin, kuinka monia todellisia tehtäviä jopa pienempi malli voi tukea.
Paikalliset LLM:t (large language models) eivät ole vain juttelua varten. Ne voivat tehdä kaikkea ajatustesi jäsentämisen auttamisesta sähköpostien luonnosteluun, sotkuisen tekstin siistimiseen, pitkien PDF-tiedostojen tiivistämiseen tai jopa koodin logiikan testaamiseen. Ja kaikki tämä tapahtuu ilman, että dataa lähetetään pilveen.
Yleisimmät käyttötapaukseni tänään
Näin minä henkilökohtaisesti käytän paikallista tekoälyä:
-
Testaaminen ja oppiminen: Mallin käyttäytymisen, kehotteille herkkyyden ja käyttötapaukseen sopivuuden vertailu.
-
Ideoiden tuottaminen: Pyydän mallia haastamaan ajatuksiani tai auttamaan niiden hiomisessa.
-
Ajatusteni selkiyttäminen: Kirjoitan tekstimassan ja pyydän sitten mallia löytämään siitä rakenteen ja pääkohdat.
Tämä viimeinen oli todellinen pelinmuuttaja. Voit dumpata kaiken mielessäsi olevan ja antaa mallin auttaa sinua näkemään, mitä oikeasti yritit sanoa. Se on kuin puhuisit jollekin, joka kuuntelee ja peilaa takaisin.
Luova hauskanpito: Snake-pelitesti
Tykkään testata myös outoja ideoita. BOLTilla pyysin sitä auttamaan minua rakentamaan paremman version klassisesta Nokian snake-pelistä. Se ei toiminut täysin (vielä), mutta se pääsi yllättävän pitkälle. Tällaiset hauskat haasteet näyttävät erilaisten mallien rajat – ja kyvykkyydet.
Miksi paikalliset mallit riittävät moniin tehtäviin
Kaikkiin tehtäviin ei tarvita miljardin parametrin hirviömallia. Tässä on, mitä olen huomannut jopa pienten paikallisten mallien osaavan tehdä hyvin:
-
Tiivistää asiakirjoja tai sähköposteja
-
Muotoilla tekstiä uudelleen tai kääntää sitä
-
Auttaa kirjoittamaan ammattimaisia julkaisuja, kuten tämä
-
Vastata kysymyksiin paikalliseen tietoon perustuen
Siitä huolimatta nämä vahvuudet näkyvät enimmäkseen kevyissä tehtävissä. Pidemmissä tai kerroksittaisissa keskusteluissa paikalliset mallit voivat olla vaikeuksissa. Ne saattavat keksiä omiaan, ajautua sivuraiteille tai unohtaa, mitä juuri sanottiin. Se ei ole este, mutta on tärkeää ymmärtää rajoitukset.
Kenen kannattaisi kokeilla paikallisia käyttötapauksia?
Jos sinä:
-
Työskentelet luottamuksellisen tai rajoitetun datan kanssa
-
Haluat tutustua tekoälyyn käytännön kautta
-
Rakennat tuotteita tai palveluita, jotka tarvitsevat laitekohtaista älykkyyttä
-
Tai haluat vain ymmärtää, miten nämä mallit oikeasti toimivat
…silloin paikallisen tekoälyn kokeileminen kannattaa. Ja jos et? Pysy pilvessä. Siinä ei ole mitään häpeää. Mutta eron tunteminen on arvokasta.
Markku Arvekari
Digital Transformation Expert
