Meta on esitellyt uuden Muse Glimmer -tekoälymallin, joka on suunniteltu paikalliseen käyttöön. Mallia voi hyödyntää suoraan Mac- tai PC-tietokoneella ilman tarvetta pilvipalveluille.
Meta Superintelligence Labsin kehittämä Muse Glimmer on avoimena mallina julkaistu 30 miljardin parametrin tekoälymalli. Tämä tarkoittaa, että käyttäjät voivat ladata mallin omalle laitteelleen ja soveltaa sitä omiin tarpeisiinsa. Malli on erityisesti kehitetty niin sanottuihin agenttitehtäviin. Se kykenee esimerkiksi suorittamaan monivaiheisia tehtäviä, hyödyntämään ulkoisia työkaluja ja seuraamaan pitkiä toimintaketjuja ilman käyttäjän jatkuvaa ohjausta.
Malli pystyy käsittelemään tekstin ohella myös kuvia. Käyttäjät voivat antaa sille tarkasteltavaksi esimerkiksi kuvakaappauksia, kaavioita ja asiakirjoja. Muse Glimmer ymmärtää myös yli 100 kieltä, Meta tiedottaa.
Merkittävä etu on mahdollisuus käyttää Muse Glimmeriä paikallisesti omalla tietokoneella. Tällöin käyttäjän tietoja ei välttämättä tarvitse siirtää verkon kautta ulkopuoliselle palvelimelle, ja tekoälyä voidaan hyödyntää myös ilman jatkuvaa internet-yhteyttä.
Meta on vähentänyt Muse Glimmerin laskentatehovaatimuksia erilaisilla optimoinneilla. Tavallisesti malli vaatisi yli 55 gigatavua muistia, mutta kevennettynä pienemmällä tarkkuudella se tarvitsee alle 20 gigatavua. Tämän ansiosta sitä voidaan käyttää esimerkiksi 24 tai 32 gigatavun käyttömuistilla varustetuilla tietokoneilla.
Muse Glimmer on jo ladattavissa Hugging Face -alustalta. Meta valmistelee myös tukea useille suosituimmille työkaluilla, joiden avulla tekoälymalleja voidaan käyttää paikallisesti Mac- ja muilla PC-tietokoneilla.