”Mistä puhut, kun puhut AI Agenteista”
AI Agentti on käsitteenä yleistynyt nopeasti. AI Agenttina markkinoidaan tänä päivänä mitä tahansa, jopa perussovelluksia. Ohjelmistotoimittajien (esim. Microsoft tai Salesforce) tuottamia agenttisovelluksia, käyttäjän dataan perustuvia sovelluksia, joissa data siiretään agentille ja organisaation omaan dataan perustuvia agentteja.
Tämä on johtanut siihen, että moni ei välttämättä tunnista näiden välistä eroa. Yhteen ongelmaan on monta ratkaisua, mutta mikä niistä olisi paras ja pitkäikäisin?
Haluamme auttaa sinua ymmärtämään mitä eroja on eri AI Agenttien välillä. Olennaista on, että kehität omaa toimintaasi valikoimalla käyttöösi sinulle sopivan tavan hyödyntää AI Agenttien luomia mahdollisuuksia.
Tässä webinaarissa
- Esittelemme millaisia AI Agentteja on olemassa, mitkä ovat niiden hyödyt ja riskit eri käyttäjätapauksissa.
- Lupaamme yksinkertaista puhetta monimutkaisesta asiasta.
- Näytämme millaisille organisaatioille erilaiset AI Agentit soveltuvat parhaiten
- Kerromme myös kokemuksiamme itse toteuttamistamme AI Agenteista
Tämä webinaari soveltuu parhaiten niille, jotka kaipaavat lisää ymmärrystä AI Agenteista ja niiden eroista. Myös niille, jotka ovat työskennelleet AI Agenttien kanssa, mutta haluavat kasvattaa ymmärrystään vaihtoehtoisista tavoista toteuttaa AI Agentteja.
Q&A - Vastaukset alla 👇
Q - Miten tulevaisudessa muut mediat kuin teksti liitetään tekoälyyn? Muutetaanko edelleen esimerkiksi kuva ensin tekstiksi ja sitten teksti syötetään LLM:ään taikka vastaavaan. Ratkeaako symbol grounding problem?
A - Multimodaalinen data on nouseva trendi, mm. OCR:ää ja kuvan kaptiointia voidaan hyödyntää kuvien esittämiseen dokumenteissa tekoälylle.
Q - Minkälaista osaamista tekoälykoodaus vaatii verrattuna perinteiseen koodaukseen? Mistä saadaan kaikki tekoälyosaajat?
A - Promptaaminen (eli englannin kielen kirjoitus) ainakin korostuu verrattuna perinteiseen koodaamiseen. Lisäksi tehtävän selkeä kuvaaminen ja paloittelu alaongelmiin on tärkeässä roolissa. Myös datan laadun varmistus on erityisen tärkeässä roolissa.
Q - Mitä datan ja infomraation kuntoonlaitto konkreettisesti voisi tarkoittaa?
A - Datan laatu tulisi varmistaa ja formaatin tulisi olla konsistentti. Myöskin pitää minimoida puuttuva data. Tämä helpottaa kielimallin työtä.
Q - Milloin AI Agentti ja milloin robotiikka automaatio?
A - Yksinkertaistettuna ero on siinä käyttääkö prosessi isoja kielimalleja vai ei.
Q - Miten tulevaisuudessa mahdollistetaan agentin kielimallin vaihtaminen, jos/kun tukeudutaan vahvasti Microsoft-teknologiaan? Voiko esim. Copilot Studiossa käyttää muiden toimijoiden kielimalleja?
A - Tässä Loihde voi varmasti auttaa, osaamme toimia teknologia agnostisesti, jolloin vendor lockit kielimalleissa voidaan helposti välttää. Osaamme myös varmistaa arviointikehyksellämme, että migraatio säilyttää aikaisemman mallin suorituskyvyn.
Q - Onko jotain arvioita mitä tällaisten agenttien rakentaminen kustantaa ja millaisista työmääristä puhutaan? Eroja on varmasti riippuen siitä millaista agenttia ollaan tekemässä, mutta joku data agentti Copilottiin esim.?
A - Rakennamme jatkuvasti kyvykkyyksiä, joilla agenttien rakentaminen olisi nopeampaa. Tarkkaa työmääräarvioita on vaikea antaa, mutta puhutaan yleensä joistakin viikoista ensimmäisen proof of value toteutuksen luomiseen.
Q - Miten hyötyjä mitataan suhteessa kustannuksiin?
A - Automatisoinnissa ainakin säästetyt työtunnit vs. kehitystunnit on helppo mitata ihan rahassa.
Q - Minkälaisissa palveluissa agentin ylläpitotyö tulisi olla jatkuvaa; työllistääkö agentin ylläpito?
A - Agentin lähdedata yleensä muuttuu ajan kanssa, joten olisi hyvä olla prosessit kunnossa, joilla data voidaan systemaattisesti päivittää tekoälyn käyttöön ilman liiallista ylläpito tarvetta. Myös mallit kehittyvät jatkuvasti ja migraatiot tulisi suunnitella huolella ja mitata muutokset suorituskyvyssä.
Q - Millä mittareilla (KPI/OKR...) laskette omien agenttienne onnistunutta käyttöönottoa?
A - Meillä on olemassa arviointikehys tekoälyagenttien suorituskyvyn arviointiin, eli esim. miten paljon se hallusinnoi ja kuinka hyvin sen vastaukset vastaavat mallivastauksia. Tämä on tärkeää mitata, jotta nähdään, että tekoälykehitys on menossa oikeaan suuntaan.
Q - Kuinka paljon ja miten tämän webinaarin tuottamisessa on käytetty tekoälyagentteja? Tai olisi voinut? (Tarkoitin enemmän, no konkreettisesti, kalvoja ja repliikkejä.)
A - Esitetyt demot ainakin hyödyntävät tekoälyagentteja. Tuohon en osaa vastata, kun en kalvoja luonut, mutta toki esimerkiksi Microsoft 365 Copilottia voi hyödyntää presiksien tekemineen.
Q - Oletteko esim. Teidän omat nettisivut optimoineet niin että AI saa haettua sieltä tiedon mahdollisimman hyvin? Oman kokemuksen mukaan Copilot ei kovin hyvin osannut hakea tietoja oikein nettisivuilta.
A - Meillä on tähän liittyvä demo, joka on aika mielenkiintoinen. Webbisivujemme sisältö voidaan indeksoida kokonaisuudessaan vektorikantaan, jota vasten voidaan esittää agentille kysymyksiä nettisivuihimme liittyen (esim. "mitä AI-palveluja Loihde tarjoaa?"). Laittakaahan minulle rohkeasti viestiä, jos kiinnostaa kuulla lisää: pasi.pyrro@loihde.com
Q - Mitä kielimallia käytätte noissa?
Azure AI Foundryn OpenAI mallit on todettu aika hyviksi, toki myös tutkimme aktiivisesti open source vaihtoehtoja, joita voidaan ajaa lokaalisti pienemmillä kustannuksilla.
Q - Kuinka suojataan mihin tekoälyagentilla on pääsy? Jos agentti saa luoda esimerkiksi crm-järjestelmään uuden asiakkaan ei haluttaisi että se pystyisi lukemaan koko asiasrekisteriä.
Tai halutaan että agentti lähettää sähköpostia, mutta halutaan varmistua että posti menee vain tietylle joukolle vastaanottajista eikä tiedot "karkaa" vahingossa tai tietomurron jälkeen vahingollisille tahoille.
A - Näkisin, että keskiössä on perinteiselle tietoturvalle tyypilliset kontrollit ja luvitukset. Eli tekoälyn käyttämille työkaluille pitää määrittää selkeästi toimivalta-alueet ja luvat. Samaan tapaan kuin ihmistyöntekijällä ei ole lupaa tehdä tiettyjä operaatioita, jotka voisivat olla organisaatiolle haitallisia, vaikka hän niin päättäisi tehdä.
Toki myös kehotteilla voidaan kieltää agenttia tekemästä jotain, mutta tämä ei ole yhtä varma tapa tällaisen tilastollisen mallin hallintaan.
Q - Mikä on agentin ja chatbotin ero?
A - Agentti kykenee itsenäisesti tekemään päätöksiä ja muokkaamaan työkulkuaan itsenäisesti sekä hyödyntämään työkaluja tavoitteeseen pääsemiseksi kun taas Chatbot käyttää tietolähteenään koulutustdataansa ja sillä ei ole työkaluja käytettävänä. Chatbot ei myöskään tee itsenäisesti päätöksiä tai ratkaise monimutkaista tehtävää
Q - Millaisia käyttöliittymiä tällaisille AI Agenteille on olemassa?
A - Agenteille on olemassa käyttäjille tuttuja käyttöliittymiä kuten chätti tai nettisivun formi, mutta aina tällaista käyttäjälle näkyvää käyttöliittymää ei kuitenkaan ole. Agentteja voidaan myös käskyttää IT-järjestelmän rajapintojen kautta, jolloin agentin prosessointi tapahtuu taustalla käyttäjälle huomaamattomasti osana IT-järjestelmän normaalia toimintaa
Q - Mielessä on tekoälysovellus, joka tarvitsisi sapista tietoa ja veisi sap-järjestelmään tietoa. Oletteko integroineet sovelluksia sapin kanssa ja miten erppeihin liitytään tekoälyllä?
A - Moi, olen ainakin käyttänyt ratkaisua, jossa SAP:piin asennetaan worker ohjelma, joka kaivaa SAP:ista halutut taulut ja tallentaa ne haluttuun SQL-tietokantaan. Näihin tietokantoihin on sitten helppo yhdistyä vaikka Azuren Data Factoryä tai Databricksiä käyttäen, joiden data pipelineissä data pitää käsitellä tekoälylle sopivaan muotoon, eli vaikka tietyt tekstikentät tallennetaan sitten tekoälyn hyödyntämään vektoritietokantaan. Vektorikantaa voidaan hyödyntää semanttisesti hyödyllisen kontekstin hakemiseen tekoälyagenttien kehotteisiin tai prompteihin, joka parantaa tekoälyn vastausten laatua.
tekoäly hyödyntää rajapintoja tiedon hakemiseen. SAP:ista tiedon hakeminen tai sinne tiedon vieminen, ei ole sinänsä mikään ongelma. Kyse on lähinnä siitä, millaista asiaa halutaan tekoälysovelluksen avulla automatisoida. Voit ottaa yhteyttä minuun juuso.salmu@loihde.com niin voimme keskustella tästä enemmän, jos haluat.
Soita tai lähetä meille viestiä aiheesta, niin olemme sinuun yhteydessä mahdollisimman pian!
