PrismML.
Startup-yritys PrismML on esitellyt Bonsai 27B -tekoälymallinsa, jonka yhtiö ilmoittaa toimivan suoraan Applen laitteilla, kuten iPhonella, iPadilla ja Macilla.
Samalla PrismML:n toimitusjohtaja Babak Hassibi on kertonut CNBC:lle, että Apple arvioi yhtiön teknologisia ratkaisuja.
PrismML sai huomiota jo viime viikolla, kun The Information raportoi Applen käyneen keskusteluja startupin kanssa sen teknologian mahdollisesta hyödyntämisestä.
Bonsai 27B:n keskeinen lupaus on tarjota suuri malli vähäisellä muistivaatimuksella. PrismML:n mukaan 1-bittinen Bonsai 27B mahtuu noin 4 gigatavuun, mikä mahdollistaa sen käytön myös mobiililaitteissa.
Käyttömuistin määrä rajoittaa tekoälymallien soveltuvuutta laitteissa.
Esimerkiksi 12 gigatavun RAM-muistilla varustetuissa iPhoneissa sovellukselle on käytettävissä vain noin 6 gigatavua. Tähän muistimäärään on mahdutettava tekoälymallin KV-välimuisti ja aktivoinnit. PrismML:n mukaan tavallisesti 27 miljardin parametrin malli ei mahtuisi iPhonen muistiin, mutta heidän ratkaisunsa tekee sen mahdolliseksi.
Bonsai 27B:n mallipainot ovat saatavilla Apache 2.0 -lisenssillä. PrismML tarjoaa lisäksi rajoitetun ajan kehittäjille ilmaisen esikatselu-API-rajapinnan, jonka avulla mallia voi kokeilla.
PrismML:n toimitusjohtaja Babak Hassibi kertoi CNBC:lle, että Apple ja muut yritykset arvioivat startupin malleja. Arvioinnissa tarkastellaan muun muassa nopeutta, energiatehokkuutta ja suorituskykyä laitteissa. Keskusteluja Applen kanssa Hassibi kuitenkin kuvaili varhaisiksi ja totesi, ettei vielä ole selvää, mihin ne johtavat.
Apple ei kommentoinut asiaa CNBC:lle.
Toimitusjohtajan lausuntojen jälkeen Apple-viittauksia on pidetty lähinnä markkinointikikkana, sillä jos Apple todella olisi kiinnostunut yhteistyöstä PrismML:n kanssa, olisi se todennäköisesti vaatinut PrismML:ltä asian pitämistä salassa tyypillisen toimintatapansa mukaisesti.
Applen kannalta PrismML:n teknologia olisi kiinnostavaa, koska Apple on rakentanut tekoälystrategiaansa yksityisyyden ja laitteessa tapahtuvan tietojenkäsittelyn ympärille. Mitä enemmän tekoälyä voidaan suorittaa suoraan iPhonessa, sitä vähemmän käyttäjän tietoja on tarpeen lähettää pilveen.
PrismML:n sijaan Apple voi kuitenkin edetä itsenäisesti ja muiden yritysostojen kautta.
Apple on viime aikoina parantanut tekoälykykyjään, kun se esitteli päivitetyn Siri AI:n, joka perustuu Googlen Gemini-mallien pohjalta kehitettyihin Apple Foundation Models -malleihin.
Apple esitteli kesäkuun alussa WWDC-tapahtumassa yhteensä viisi uutta tekoälymallia. Tähän joukkoon kuuluu myös AFM 3 Core Advanced, joka on Applen tehokkain laitteessa toimiva malli. Se on natiivisti multimodaalinen ja tukee muun muassa ilmeikkäämpiä ääniä sekä tarkempaa sanelua. Mallissa on 20 miljardia parametria, mutta se hyödyntää harvaa arkkitehtuuria, jossa vain noin 1–4 miljardia parametria aktivoituu kerrallaan riippuen pyynnöstä.
Vuoden 2026 alussa raportoitiin myös Applen ostaneen salamyhkäisen israelilaisen Q.ai-tekoäly-yhtiön lähes 2 miljardilla dollarilla.
