Webinaaritallenne: AI Agentit - Next Gen AI

Tallenteessa kuulet alan asiantuntijoiden näkemykset ja kokemukset AI agenttien nykytilasta ja tulevaisuudesta. Tämä on tilaisuutesi ymmärtää, kuinka voit hyödyntää generatiivisen tekoälyn agentteja omassa liiketoiminnassasi ja ottaa kilpailuetua käyttöön jo tänään. 

Lue lisää AI Agenteista blogistamme: Mitä ovat tekoälyagentit?

Webinaaritallenteen sisältö: 

15:00 Tervetuloa ja mitä ovat AI Agentit? 

Patrick Qvick, Service Director, Data Management, Loihde 

15:25 Case-esimerkki oikean elämän AI Agentista + Demo

Jan Holmberg, Principal Consultant, Data Management, Loihde 

15:50 Q&A - Vastaukset alla 👇

K: Onko AI-Agentin teko omaan organisaatioon realistinen opinnäytetyön aihe dataengineering and AI, YAMK tutkintoon? Esim. rajatulla aineistolla, missä mukana muutama tietotaulu. 

Kyllä tämä olisi erinomainen opinnäytetyön aihe dataengineering ja AI YAMK tutkintoon, jos halutaan esim. näyttää erilaisten agenttien käyttömahdollisuuksia tai vaikkapa yhdistää erilaisia agentteja ratkaisemaan jotain tiettyä prosessiongelmaa tai automatisoimaan jotain spesifistä työnkulkua organisaatiossa.  

K: Voiko AI agentin tuottamaan tulokseen luottaa? ChatGPT:n kanssa on huomattu, että se palauttaa usein vääriä vastauksia tai jättää huomioimatta / kertomatta jotain oleellista. Käyttäjän täytyy huomata / todentaa virhe ja tarkentaa kysymystä.  Mutta jos tällaisen palvelun valjastaa toteuttamaan jotain automaattista niin on iso riski, että lopputulos on katastrofi. 

V: Hallusinointi eli ”fiktiivisten” tai ”väärien” vastausten tuottaminen on osa suurten kielimallien toimintaa. Hallusinointia voidaan vähentää ja riskiä mitigoida erilaisin käytännön keinoin, kuten hyödyntämällä RAG:ia (retrieval augmented generation), jossa ennen kielimallille viemistä, etsitään tietoa esim. asiakkaan omista tietokannoista ja liitetään se osaksi kyselyä. Näin toimii mm. Loihteen Dokumenttiagentti. On olemassa myös monia muita tekniikoita, joita yhdistelemällä saadaan agentti toimimaan halutulla tavalla ja voidaan pienentää hallusinaatioiden tai muiden ei toivottujen lopputulosten riskiä huomattavasti. Loihteen tekoälyagenttitoteutuksissa on tuotu testaus osaksi toteutusta, jolloin agentin toimintaa sekä sen prosessin toistettavuutta voidaan valvoa ja tunnistaa mahdolliset virhetilanteet sekä korjata ne. Lisäksi on myös huomautettava, että tekoälyagentit eivät ole hopealuoti ja vastaus kaikkiin ongelmiin. Tekoälyagenttipohjainen lähestyminen ei sovellu kaikkiin toteutuksiin ja siksi toteutuskohteet, rajoitteet ja asiakkaan tarpeet käydään läpi ennen jokaista toteutusta.  

K: Voidaanko räätälöity agentti yhdistää jo digitaaliseen avattareen? 

V: Agentti voidaan liittää digitaaliseen Avatariin toteutuksena. Loihde ei vielä ole tällaista toteutusta tehnyt, mutta mikään ei teknologisesti estä tämän toteuttamista. 

K: Millaista ylläpitoa tekoälyagentti tarvitsee rakentamisen jälkeen? 

V: Tekoälyagentti on sovellus, jota pitää ylläpitää aivan kuin mitä tahansa ohjelmistosovellusta. Kun agentilla käytössä olevat generatiivisen tekoälyn kielimallit päivittyvät voidaan ne helposti koodia muokkaamalla vaihtaa. Lisäksi agenttitoteutukseen rakennetaan testaus ja validointimoduuli, jonka avulla voidaan seurata ja kehittää mallin vastauksien tarkkuutta ja totuudenmukaisuutta. Käyttäjäpalautteen kerääminen on myös suositeltavaa, jotta agentin toimintaa voidaan tehokkaasti seurata. Myös agentin käytössä olevien tietolähteiden ajantasaisuus on tärkeää, eli jos agentin pohjalla olevat tiedot muuttuvat tulee agentille lisätä uusia tietolähteitä ja poistaa vanhentuneita lähteitä. Joskus voi olla tarpeen muokata agentin toteutusta, jotta agentti saadaan toimimaan oikein muutosten jälkeen. Tietoturvapäivitykset ovat tietenkin ajankohtaisia ja jos agentti on rakennettu asiakkaan verkkoympäristöön esimerkiksi osana asiakkaan pilvitoteutusta, päivittyvät agentissa käytetyt komponentit pilvitarjoajan syklin mukaisesti. Jokaiseen toteutukseen kuuluu tietysti ylläpitosuunnitelma, joka on yksilöllinen riippuen ympäristöstä, johon agentti asennetaan.  

K: Onko Loihde kehittämässä chatbottien lisäksi muita erilaisia AI-agenttien käyttöliittymiä? Chatbot käyttöliittymänä asettaa tiettyjä haasteita esim. data-agenttien hyödyntämiselle. 

V: Uusia käyttöliittymiä kehitetään tarpeen mukaan. Chatbot tyyppinen ratkaisu on tyypillinen käyttöliittymä kielimalleille, mutta tarvittaessa voidaan tuottaa mikä tahansa käyttäkohteeseen räätälöity ratkaisu. 

K: Voisitko antaa mielipiteen parhaista käytännöistä tekoälyn koulutuksen ja testaamisen kanssa? 

Tekoälyn koulutuksessa ja testaamisessa on useita parhaita käytäntöjä, jotka auttavat varmistamaan, että mallit ovat tehokkaita, luotettavia ja eettisesti kestäviä. Tässä on joitakin keskeisiä periaatteita: 

1. Laadukas ja monipuolinen data

• • Datankeruu: Kerää mahdollisimman monipuolista ja tasapainoista dataa, joka edustaa koulutettavan mallin kohderyhmää ja mahdollisia käyttötapauksia.
  • Datapuhdistus: Poista virheelliset, puutteelliset tai epäoleelliset tiedot. Tämä vähentää mallin virheiden ja harhan riskiä.
  • Tietosuoja ja anonymisointi: Varmista, että henkilötiedot käsitellään asianmukaisesti, ja anonymisoi data tarvittaessa. 

2. Koulutuksen vaiheistus ja iteratiivisuus

• • Esikoulutus: Aloita pienemmillä malleilla tai osittaisilla datamassoilla, jotta voit nopeammin arvioida mallin toimivuutta.
  • Jatkuva optimointi: Käytä iteratiivista lähestymistapaa, jossa mallia päivitetään ja parannetaan jatkuvasti oppimiskäyrän perusteella.
  • Yli- ja alisovittamisen estäminen: Varmista, että malli ei ole liian monimutkainen (ylioppiminen) eikä liian yksinkertainen (alisovittaminen) suhteessa ongelmaan ja dataan. 

3. Mallin validointi ja testaus

• • Jaottelu treeniin, validointiin ja testaukseen: Jaota data erillisiin treeni-, validointi- ja testidatasettiin. Tämä auttaa arvioimaan mallin yleistettävyyttä uusiin tietoihin.
  • Ristivarmennus (cross-validation): Käytä ristivarmennusta mallin suorituskyvyn luotettavampaan arviointiin. Tämä vähentää tulosten satunnaisvaihtelun vaikutusta.
  • A/B-testaus: Testaa mallin suorituskykyä verrattuna nykyisiin menetelmiin tai kilpailijoiden malleihin todellisissa olosuhteissa. 

4. Eettisyys ja vastuullisuus

• • Harhan tunnistaminen ja hallinta: Ole tietoinen mahdollisista harhoista (esim. sukupuoleen, etniseen taustaan, ikään liittyvistä) ja pyri minimoimaan niiden vaikutus.
  • Läpinäkyvyys ja selitettävyys: Pyri kehittämään malleja, jotka ovat mahdollisimman läpinäkyviä ja helposti selitettävissä. Tämä on erityisen tärkeää korkean riskin sovelluksissa.
  • Eettinen arviointi: Arvioi mallin mahdolliset eettiset vaikutukset ja riski väärinkäytöksiin ennen käyttöönottoa. 

5. Mallin käytön seuranta ja ylläpito

• • Jatkuva monitorointi: Seuraa mallin suorituskykyä tuotannossa ja tee tarvittavat päivitykset ja hienosäädöt. Datan ja olosuhteiden muuttuessa malli voi tarvita uudelleenkoulutusta.
  • Muutosten hallinta: Tallenna kaikki mallin versiot ja muutokset, jotta voit tarvittaessa palata aiempiin versioihin tai analysoida muutosten vaikutuksia. 

6. Koulutuksen ja testauksen resurssien hallinta

• • Laskentateho ja kustannukset: Optimoi laskentateho ja kustannukset. Käytä hajautettua laskentaa tai pilvipalveluja, jos tarvitset suuria laskentatehoja.
  • Ajoitukset ja aikarajoitukset: Suunnittele koulutusprosessit niin, että mallin kehitystyö sujuu tehokkaasti, mutta älä tingi laadusta aikataulusyistä. 

Näiden periaatteiden noudattaminen auttaa varmistamaan, että tekoälymallit ovat sekä teknisesti päteviä että yhteiskunnallisesti vastuullisia. 

K: Koska mahdamme olla siinä pisteessä että olemme edenneet näistä 'boteista' todellisiin AI agentteihin, jotka hoitavat tehtäviä puolestamme (eikä pelkästään tarjoa vastauksia)? 

V: Koska nykyiset agentit hyödyntävät suuria kielimalleja ja niillä on mahdollisuus käyttää erilaisia työkaluja ja funktioita, kuten esim. komentotulkkia ja siten toteuttaa koodia tai hakea tietoa, informaatiota tai dataa internetistä tehtävän suorittamista varten, kykenevät ne itsenäiseen toimintaan kehotteiden perusteella. Eli, AI Agentit voivat toimia osana automaatioketjuja ja toteuttaa monimutkaisiakin työnkulkuja täysin itsenäisesti ilman ihmistä.  

K: Onko vinkata jotain AI agentti -sovellusta, jonka voisi ottaa käyttöön oman työn/opintojen tueksi arjessa? Onko tällaisia jo markkinoilla?  

V: Jos haluaa käyttää jotain sovellusta verkon välityksellä vaihtoehtoja on monia, Claude, chatGPT, Gemini tai sitten omalle koneelle asennettuna "anythingLLM".   

K: Hyödyntävätkö Loihteen ratkaisut jotain frameworkkejä? 

V: Loihteen ratkaisut on koodattu ilman frameworkeja eli esimääriteltyjä koodityökaluja. Tämä siksi, että koodin luominen itse ilman frameworkeja mahdollistaa paremman kontrollin koodiin ja sen toimivuuteen. Tämä puolestaan tuo mukanaan toistettavuuden ja tarkemman testattavuuden asiakastoteutuksissa. Frameworkien haasteena on usein se, että niiden toimintaa on vaikea seurata tarkasti ja virheiden diagnosointi ja korjaaminen koodissa voi olla hankalaa.  Toki, jos tehtävä, johon agenttia halutaan käyttää, on yksinkertaisempi ja tarkoitus on saada nopeasti ratkaisu tuotantoon saakka, voivat frameworkit lyhentää aikaa suunnittelusta toteutukseen.  

K: Voisitteko kertoa lisää siitä, mitä räätälöidyt agentit ovat? Mitä niillä tarkoitetaan? 

Räätälöidyt agentit ovat tiettyyn tarkoitukseen tehtyjä ohjelmistoja, jotka osaavat suorittaa hyvin spesifisiä tehtäviä. Koska agentti pitää sisällään kielimallin ja kielimallilla on ”ymmärrys” kontekstista, niitä voidaan käyttää yhdessä tavanomaisen automaation kanssa, jolloin monimutkaisiakin työnkulkuja voidaan automatisoida eli luoda ns. joustavaa hyperautomaatiota.  

K: Mitä eroa on käytännössä data-agentilla ja dokumenttiagentilla? 

V: Dokumenttiagentti käyttää vastauksiensa lähteenä ainoastaan dokumentteja, kun taas data-agentti voidaan liittää tietovarastoihin ja se voi hakea tietoa tietovarastoista ja muodostaa vastauksensa tietovarastojen datan pohjalta.  

K: Miten voin tietää kuinka generatiivinen AI on vastaukseen päätynyt? 

V: Generatiivista tekoälyä voi promptaamalla pyytää perustelemaan miksi se päätyi kyseiseen vastaukseen. Silloin Tekoäly vastaa ja kertoo, miten on vastaukseen päätynyt. On kuitenkin tärkeää ymmärtää suurten kielimallien toimintaperiaatetta, jotta voi ymmärtää miten vastaus on syntynyt. Suuret kielimallit ovat ”tilastolaskimia”, joita on koulutettu erittäin laajalla tekstidatalla, joka kattaa monenlaisia aiheita ja kirjoitustyylejä. Malleilla ei kuitenkaan ole pääsyä reaaliaikaiseen tietoon ja niiden tietotaso riippuu mallin koulutuksen ajankohdasta. Esimerkiksi GPT 4:n koulutus päättyi vuonna 2023. Vastaukset malli muodostaa ennustamalla seuraavaa sanaa tai lauseketta perustuen siihen mitä se on oppinut tekstimassasta. Vastaukset siis rakentuvat tilastollisen todennäköisyyden perusteella pohjaten mallin taustalla olevaan koulutusdataan. Tekoäly ei kykene ajattelemaan tai päättelemään samalla tavalla kuin ihmiset. Suosittelen lukemaan tästä lisää blogistamme, siellä on monia tekoälyyn pureutuvia postauksia.