AWS re:Invent 2023 on ohi ja on aika istahtaa alas ja pohtia mitä siellä julkaistiin ja jäikö jotain puuttumaan. Viikko oli täynnä mitä erilaisimpia julkistuksia, tapahtumia ja kohtaamisia.
Osallistuin itse neljään eri Keynoteen, lukuisiin sessioihin ja workshoppeihin, joissa pääsin kädet savessa tutustumaan mm. LLM mallien ajamiseen AWS EKS palvelussa. Tämä onkin mielenkiintoinen ja hyvin käytännönläheinen tapa tutustua uusiin ja itselle vähemmän tuttuihin AWS tuotteisiin ja palveluihin. Asiantuntijoiden avustuksella saa apua jos jää johonkin jumiin tai haluaa tarkentavia vastauksia itseään askarruttaviin kysymyksiin.
Maanantai-illan keynote
Viikko alkoi perinteisesti maanantai-illan Peter DeSantiksen keynote-luennolla. Ehdin itse ensimmäistä kertaa livenä seuraamaan hänen luentoaan ja odotukset olivat suuret. Eikä hän tuottanut pettymystä. Omaan mielenkiintoiseen tyyliinsä hän johdatti kuulijansa matkalle tietokantojen ja tietovarastojen maailmaan ja niihin innovaatioihin, joita AWS on tehnyt poistaakseen esteitä meiltä kehittäjiltä tehdä työtämme mahdollisimman tehokkaasti ja laadukkaasti. Aurora limitless database tästä oivana esimerkkinä tietokannasta, joka skaalautuu horisontaalisesti yli alla olevan fyysisen infrastruktuurin kapasiteetin ja rajoitteiden. Serverless jatkaa voittomarssiaan. Se on tekniikka, johon AWS selvästi panostaa ja ohjaa meitä kehittäjiä. Ja onhan sen edut huomattavat: skaalautuvuus, ylläpidon minimointi, kustannustehokkuus, ympäristöystävällisyys jne. Tällä hetkellä AWS portfoliossa ei juurikaan ole tietokanta- tai tietovarastoratkaisua joka ei tarjoaisi serverless vaihtoehtoa.
DeSantiksen keynotessa oli esillä myös AWS oma kehitteillä oleva looginen kubitti. Tähän asti AWS on keskittynyt tekemään yhteistyötä olemassa olevien kvanttilaskentaan erikoistuneiden yritysten kanssa mutta nyt heillä on kehitteillä oma tuote tähän. Sen tarkoituksena on vähentää kvanttilaskennan epätarkkuuksia ja häiriötekijöitä merkittävästi. Vielä työ ei ole valmis mutta tulemme varmasti kuulemaan tästä tulevina vuosina lisää.
Malleja, malleja, malleja
Generatiivinen AI oli hyvin vahvasti esillä tämän vuoden re:Inventissä. Voisin hiha-arviona heittää, että yli 75% julkistuksista, keskusteluista ja muista eteen tulleista asioista keskittyi siihen.
Adam Selipsky aloitti keynotensa julkaisemalla uusia prosessoreita, joista varsinkin Trainium2 on tarkoitettu FM-mallien kouluttamiseen. Mielenkiintoisin julkistus oli AWS Q. Se on AWS generatiivisella AI:lla höystetty assistentti. Q sisältää useita eri ulottuvuuksia niin kehittäjille, kuin business puolelle tarjoten liitännät useisiin kymmeniin eri datalähteisiin niin AWS sisällä kuin sen ulkopuolellakin. Q
sisäänrakennettu tietoturva ja pääsynhallintamekanismi takaa ja kunnioittaa olemassa olevia pääsyrajoituksia. Toki Q on vielä tässä vaiheessa Preview-tilassa ja se tulee saamaan lähiviikkojen aikana lukuisia parannuksia ja korjauksia.
Swami Sivasubramanian AI/ML-keynote olikin sitten mallien ja generatiivisen AI:n tykitystä ja ilotulistusta. Luennon aikana saimme silmiemme eteen lukuisia erilaisia ja eri tarkoituksiin kehitettyjä malleja. AWS todellakin on valinnut strategiansa siten, että yksi malli ei hallitse kaikkea vaan antaa kaikkien kukkien kukkia ja heidän filosofiansa on tarjota kehittäjille ja asiakkaille ne mallit mitä he tarvitsevat. Ja kun näitä malleja on mahdollista käyttää keskitetysti AWS Bedrock alustan kautta niin voi vain mielenkiinnolla odottaa mitä kaikkea kehittäjät saavatkaan tulevien vuosien aikana rakennettua näillä työkaluilla.
Erilaiset mallit eivät yksinään riitä tekemään niistä hyödyllisiä yrityksille ja kehittäjille. Tarvitaan kustomointia ja räätälöintiä. Tähän auttaa luennossa julkistetu Knowledge bases for Amazon Bedrock ja erilaiset vektorikannat, joita Swami Sivasubramanian keynotessa julkistettiinkin useita; Neptune analytics graafikantoihin, Vector search MemoryDB for Redis, Vector search for DocumentDB and DynamoDB, Vector engine Opensearch serverless.
AWS julkaisi myös, tällä hetkellä ilmaisen ja ilman AWS tiliä toimivan, PartyRock alustan jolla kuka tahansa voi harjoitella ja kehittää taitojaan Generatiivisen AI maailmassa. Lisäksi PartyRock tarjoaa mahdollisuuden tehdä omia AI applikaatioita ja jakaa tuotoksensa linkkinä muiden testattavaksi ja kokeiltavaksi. Mielenkiintoista nähdä mitä kaikkea tällä saadaankaan aikaan ja on jo saatu.
Werner Vogelsin keynote kustannuksista ja niiden optimoinnista
Odotukset Werner Vogelsin keynoteen olivat korkealla. Tulikohan nyt jotain muuta kuin Gen AI aiheinen luento. Ja Werner ei tuottanut tälläkään kertaa pettymystä. Hänen kahden tunnin luennostaan puolet käytettiin kustannusten hallintaan ja niiden optimoimiseen lähtien arkkitehtuurisuunnittelusta.
Arkkitehtuurisuunnittelun tulisi lähteä liikkeelle siitä, että se suunnitellaan alusta asti kustannustehokkaaksi. Yleensä arkkitehtuuria on hankala muuttaa jälkikäteen, koska edelleen monien mielestä, if it works do not fix it, pätee. Taloudellinen arkkitehtuuri on myös läheisessä suhteessa kestävään kehitykseen. Mitä pienemmillä resursseilla applikaatio tai järjestelmä pyörii, sen pienempi sen aiheuttama hiilijalanjälki on. Kuinka sitten kustannuksia voi optimoida ja arkkkitehtuuria suunnitella taloudelliseksi. Ihan ensimmäiseksi tulee tuntea kustannukset ja niiden lähteet. Monitoroi ja valvo järjestelmääsi. Ole pitkäjänteinen. Kustannusoptimointi ei ole yhden sprintin mittainen suoritus vaan jatkuvaa toimintaa.
Ensimmäisen tunnin jälkeen Werner Vogels vaihtoi teemaa. Hän palasi AI/ML maailmaan omaperäisellä tavallan. Klassinen ML on edelleen validi optio ja kaikkia ongelmia ei ole suinkaan tarve ratkaista generatiivsita AI:ta käyttäen. Klassisessa koneoppimisessa mallit ovat paljon pienempiä ja niitä on kustannustehokkaampaa ajaa. Lisäksi hän jätti kuulijoiden mieliin erittäin tärkeän lauseen Tekoäly ennustaa, ammattilaiset päättävät!
Werner Vogelsin keynote luennon jälkeen istahdin alas ja mietin mitä kaikkea AWS re:Invent olikaan tarjonnut. Aikamoisen ilotulituksen Gen AI julkistuksia ja uutuuksia. Nyt työkalut ovat esillä ja kaikkien saatavilla. Nyt on meidän kehittäjien aika ottaa ne käyttöön. Odotan innolla mitä seuraavan vuoden aikana saadaankaan tethtyä näiden julkistusten avulla. Kuten Werner Vogels aina sanoo Now Go Build.
Knowit lavalla
Lukuisten Keynote-luentojen ja erilaisten Workshoppien, ja Chalk Talkien lisäksi haluan nostaa esiin työkaverini Viktor Svenssonin luennon. Se keskittyi aina ajankohtaiseen kustannusten optimointiin ja säästöihin, varsinkin kolmannen osapuolen tuotteiden aiheuttamiin piilokustannuksiin. Viktor Svensson nosti esiin luennossaan vastaavanlaisia teemoja kuin Werner Vogels omassa luennossaan. On hyvä ja välttämätöntä tuntea omat kustannukset ja niiden lähteet ennen kuin niitä voidaan lähteä optimoimaan ja pienentämään.
Juttelin Viktorin kanssa hänen luentonsa jälkeen ja kysyin hänen kokemuksistaan ensimmäistä kertaa isolla lavalla ja isossa tapahtumassa luennoimisesta. Viktor kertoi, että koko prosessi oli mielenkiintoinen ja kesti yllättävän pitkään. Lisäski se poikkesi hyvin paljon esiintymisistä paikallisissa tapahtumissa ja AWS Summitissa. Ero oli melkoinen, sekä valmistautumisessa, että esityksen toteuttamisessa oli paljon eroja. Esityksen kalvot piti tehdä annetun mallin mukaan ilman poikkeuksia ja ne piti lähettää tarkastettavaksi yli kuukausi ennen tapahtumaa, jotta AWS:n sisäinen tiimi voisi tarkistaa kaiken oikeinkirjoituksesta tekijänoikeuksilla suojattuihin kuviin. Itse tapahtumapaikalla hänen pitää kirjautua SRR:ään (Speaker Ready Room) ilmoittaakseen, että oli saapunut ja oli valmis puhumaan. Siellä oli myös mahdollisuus tehdä harjoituskierros samalla AV-laitteistolla, jota käytettiin esityslavalla, sekä tehdä viime hetken muutokset esitykseen. Juuri ennen lavalle menoa tapahtuma- ja mediatiimi auttoi käytännön asioissa, kuten mikrofonin kiinnittämisessä, lavalla seisomisen ohjeistamisessa ja laitteiden käyttämisessä. He todella auttoivat tuntemaan esiintyjän olon vähemmän hermostuneeksi. Oli todella hauska kokemus pitää esitys näin suuressa konferenssissa ja Viktor toivoi, että osallistujat arvostivat sitä. Esitys itsessään meni sujuvasti ja selkeästi. Hyvin harjoiteltu esitys ja tasapainoinen kaikin puolin.
Muuta
AWS re:Invent on myös paikka missä pääsee keskustelemaan AWS omien asiantuntijoiden kanssa ajankohtaisista asioista tai itseään askarruttavista asioista. Kävin itse mielenkiintoisen keskustelun AWS arkkitehdin kanssa generatiivisen AI:n tilasta ja tulevaisuudesta. Keskustelumme keskittyi pitkälti valmistavan teollisuuden nykytilaan, haasteisiin ja mahdollisuuksiin. Keskustelun ohessa sain tutustua myös Boston Dynamicsin robottikoiraan, joka on suunniteltu erityisesti teollisuusympäristössä tapahtuviin tehtäviin. Tämä koira ei pure eikä hauku.
Expossa riitti ihmisiä ja tuotteita. Oivallinen paikka tutustua erilaisiin yrityksiin, tuotteisiin ja haistella vähän trendejä mihin suuntaan ollaan menossa. Mikä nyt on pinnalla ja mitä on kenties tuloillaan. Useita tuotteita vektorikantoihin liittyen. AI/ML pohjaisia ratkaisuja jne. Olemme selkeästi vasta Gen AI vallankumouksen ensi päivissä ja askelissa. Savut on nyt otettu koneesta, ensimmäiset kokeilut ja PoCit on tehty. Nyt on aika erikoistua ja erilaistua.
Verkostoituminen ja vanhojen tuttujen tapaaminen on olennainen osa re:Invent tapahtumaa. Eikä tämä vuosi ollut poikkeus. Vanhojen työkavereiden, yhteistyökumppaneiden ja AWS työntekijöiden kanssa on aina mukava vaihtaa pari sanaa kun törmää heihin erilaisissa tilanteissa ja tapahtumissa.
Viikko oli työntäyteinen mutta antoisa. Arvelin käveleväni re:Invent viikon aikana 100k askelta. Ihan tähän en päässyt, koska olin suunnitellut ohjelmani siten, että pyrin olemaan samassa osassa re:Invent campusta koko päivän. Lisäksi käytin Shuttle bussia siirtymisiin tapahtumapaikalta toiselle. Tuleville vuosille muistilistaan ylös, myös itselleni, vielä tiiviimpi keskittäminen ja pyrkimys välttää siirtymisiä päivän aikana.