Uutiset
MixAI: valitsen yhdistelmän paikallista ja pilvitekoälyä — ja tässä syy
Meidän ei tarvitse valita paikallisen ja pilvitekoälyn välillä. Meidän on opittava ottamaan molemmista paras irti.
Lähes vuosi käytännön kokeiluja. Laitteistoa 500 dollarista 15 000 dollariin. Pilvi-API:ita, tekoälyagentteja ja todellisia tehtäviä yrityksille ja kodeille. Tästä eteenpäin kerron enemmän tästä yhdistetystä lähestymistavasta tekoälyyn — lähestymistavasta, jolla on mielestäni erittäin lupaava tulevaisuus.
Asiat muuttuvat lähes päivittäin. Tekoälyteknologia on kuitenkin jo saavuttanut pisteen, jossa voimme saada luotettavia tuloksia ja suunnitella realistisesti sen käyttöä seuraavan vuoden tai kahden ajan.
Ja olen päätynyt yksinkertaiseen johtopäätökseen: meidän ei tarvitse valita paikallisen ja pilvitekoälyn välillä. Meidän on opittava ottamaan molemmista paras irti.
Kyse on paljon muustakin kuin eri mallien yhdistämisestä tai niiden orkestroinnista. Kyse on koko järjestelmän suunnittelusta: mitkä tehtävät ajetaan paikallisesti, mitkä ohjataan ulkoisille malleille, miten laskentaresurssit jaetaan, mitkä tilaukset ovat järkeviä ja mitkä laitteet todella kannattaa ostaa.
Meidän on suunniteltava myös fyysinen infrastruktuuri — tietokoneet, palvelimet, näytönohjaimet, muisti, virrankulutus ja tuleva laajentaminen.
Uskon, että paikallisesta tekoälystä tulee olennainen osa elämäämme. Se on jo tulossa älypuhelimiin, tietokoneisiin ja jopa kokeellisiin käyttöjärjestelmiin.
Neljä tärkeintä asiaa
- Todellinen arvo. Tärkein prioriteetti on saada hyödyllisiä, käytännöllisiä tuloksia.
- Kustannukset. Paljonko todella maksamme tehtävän suorittamisesta — emmekä vain laitteista, tilauksista tai tokeneista?
- Turvallisuus. Se ansaitsee oman kategoriansa, kaikkien järjestysten ulkopuolella. Henkilötiedot, yksityisyys ja oman infrastruktuurin hallinta vaativat erityistä huomiota.
- Helppokäyttöisyys. Kuinka helposti, nopeasti ja luotettavasti saamme työn tehtyä?
Näillä kriteereillä vertailen teknologioita ja rakennan omaa kokoonpanoani.
Tilaukset ja API:t: kaksi maailmaa alkaa sulautua
Tämä on kiinnostava aihe, joka jää usein huomiotta.
Pilvitekoälyä käytetään joko käyttörajoitetuilla tilauksilla tai API:illa, joissa maksetaan siitä, mitä todella käytetään.
Kullakin tavalla on oma taloutensa, rajoituksensa ja etunsa. Ja ne on arvioitava erikseen.
Mutta raja niiden välillä alkaa hämärtyä.
Tuore esimerkki on OpenAI. Oikeutetut ChatGPT Pro -tilaajat voivat saada tilaustasostaan riippuen 100–500 dollaria kuukaudessa API-krediittejä. Krediitit on aktivoitava erikseen, ja API-laskutus pysyy erillisenä.
Se on varsin kiinnostava esimerkki kahden hinnoittelumallin lähentymisestä.
Siksi en vertaile vain malleja. Tutkin myös tilausten ja API:iden taloutta, niiden rajoituksia ja sitä, miten niitä yhdistetään tehokkaasti.
Alla: kolme aluetta, joita tutkin aktiivisesti, laitteistokokeiluni, yhdessä toimivat tekoälyagentit ja se, miten aion tuoda kaiken tämän tiedon saatavillesi.
Mitä tutkin — ja mitä on tulossa
Kolme tärkeintä tutkimusaluettani
1. Paikalliset tekoälypalvelimet
Kokeilen laitteistoa jo 500 dollarista alkaen, vaikka vakavaan käytännön käyttöön suosittelisin noin 1 000 dollaria.
Minulla on tällä hetkellä käytössäni jopa 15 000 dollarin arvoisia järjestelmiä sekä vuokrattuja, paljon kalliimpia näytönohjaimia sellaisten mallien testaamiseen, joiden ajaminen omalla laitteistolla ei olisi taloudellisesti järkevää.
Mallien raaka suorituskyky ei ole tärkein prioriteettini. Laitteet ja ohjelmistot ovat vain työkaluja.
Ratkaisevaa on, mitä nämä järjestelmät todella voivat tehdä yrityksille ja kodeille, kuinka luotettavasti ne toimivat ja milloin paikallinen laskenta on taloudellisesti järkevämpää kuin pilvi.
2. Pilvimallit ja tekoäly-API:t
Edullisista API:ista, kiinalaiset mallit mukaan lukien, huipputason tekoälyyn. Vertailen ominaisuuksia, rajoituksia, todellisia kustannuksia ja integraatiota paikallisiin järjestelmiin. Tilaukset tai käytön mukaan laskutettavat API:t ovat toinen tärkeä tekijä — tehokkain malli ei aina ole taloudellisesti fiksuin valinta.
3. Tekoälyagentit
Ilmeisten etujen lisäksi minua kiinnostaa erityisesti itsenäisten moniagenttiekosysteemien välinen yhteistyö. Hermes- ja Grokbot-järjestelmäni toimivat jo yhdessä — kaksi erillistä ekosysteemiä, kummallakin omat agenttinsa ja työkalunsa.
Tekoäly kohtaa fyysisen maailman
Yksi tärkeimmistä prioriteeteistani on yhdistää tekoäly edullisiin älykoteihin, toimistoihin, palvelimiin, tietokoneisiin ja arjen laitteisiin.
Tutkin, kuinka itsenäisiksi, turvallisiksi, luotettaviksi ja edullisiksi nämä järjestelmät voivat tulla — erityisesti yksityishenkilöille ja pienyrityksille.
Tekoälyohjelmointi siirtyy taka-alalle
Keskityn vähemmän tekoälyohjelmointiin. En siksi, että se olisi vähemmän tärkeää, vaan koska siitä on tulossa vain yksi työkalu muiden joukossa.
Tavoite ei ole kirjoittaa koodia. Tavoite on saada asiat tehdyiksi.
Minua kiinnostavat kokonaiset, todelliset työnkulut, joita tekoäly voi hoitaa mahdollisimman vähäisellä ihmisen osallistumisella.
Suurin hyöty, kohtuulliset kustannukset
En yritä todistaa, että paikallinen tai pilvitekoäly olisi parempi. Joskus oikea valinta on 1 000 dollarin tietokone, 10 000 dollarin palvelin, vuokrattu näytönohjainaika, edullinen API tai huipputason mallin tilaus.
Merkitystä on lopputuloksen hinnalla — ei sen saavuttamiseen käytetyillä työkaluilla.
Mitä on tulossa
Julkaisuni ovat tähän asti olleet enimmäkseen hajanaisia päivityksiä yksittäisistä kokeiluista, joskus raakoja ja jäsentymättömiä. Haluan muuttaa ne yhtenäiseksi, toisiinsa kytkeytyväksi kuvaksi tekoälyinfrastruktuurista — laitteista, malleista, agenteista, kustannuksista ja todellisista tuloksista. Yksityiskohtaiset tekniset tiedot ja diagnostiikka kerätään automaattisesti ja jaetaan erikseen, todennäköisesti linkkien kautta.
Aion myös antaa sinulle suoran pääsyn tekoälyagentteihini. Voit kysyä niiltä mitä tahansa kokeiluistani, laitteistostani, kokoonpanoistani ja tuloksistani. Ne vastaavat kerättyjen tietojen perusteella — ja jos ne eivät pysty, tulen itse apuun.
Tavoitteeni on rakentaa avoin, järjestelmällinen ja aidosti hyödyllinen kuva siitä, mitä tekoäly voi saavuttaa eri budjeteilla.
Yhdistän paikallista ja pilvitekoälyä, suunnittelen resurssit fiksusti ja keskityn todellisiin tuloksiin yrityksille ja kodeille.
Tämän parissa työskentelen — ja tätä jatkan jakamista kanssasi.
Älä valitse puolta. Yhdistä parhaat.