Alastonkuvia tuottavia sovelluksia on levinnyt App Storessa.
Apple on poistanut App Storesta tekoälysovelluksen, joka mahdollisti seksuaalissävytteisten syväväärennösten luomisen ihmisistä. Sovellusta mainostettiin Metan alustoilla useilla mainoksilla.
Kysymyksessä oli Kromix-niminen sovellus, jota markkinoitiin tekoälypohjaisena kuvankäsittelytyökaluna. Verkkolehti Wiredin tutkimuksen mukaan sovelluksella oli mahdollista myös luoda pornografisia syväväärennöksiä oikeista ihmisistä.
Kromixia mainostettiin Metan alustoilla kampanjalla, joka sisälsi yhteensä 32 mainosta. Ne oli suunnattu erityisesti mieskäyttäjille, ja niissä sovellusta kuvattiin palveluksi, ”jota miehet todella käyttävät.”
Yhdessä mainoksista esiintyi tunnetun yhdysvaltalaisen naispoliitikon näköinen tekoälyllä luotu hahmo, Wiredin mukaan. Muissa mainoksissa alastomista hahmoista tuotettiin myös videosisältöjä.
Sekä Apple että Meta ryhtyivät toimenpiteisiin Wiredin ottaessa heihin yhteyttä. Apple poisti Kromixin App Storesta, kun taas Meta keskeytti sovelluksen mainoskampanjan.
Applen mukaan Kromix ei kuitenkaan sisältänyt kiellettyjä ominaisuuksia sovelluksen alkuperäisen tarkastuksen aikana. Kielletty sisältö on todennäköisesti lisätty sovellukseen vasta myöhemmin.
Apple korostaa, että se kieltää pornografian luomiseen, jakamiseen tai kuluttamiseen tarkoitetut sovellukset sovelluskaupassaan. Myös tekoälyllä ihmisiä alastomiksi muuntavat sovellukset rikkovat yhtiön App Store -sääntöjä. Apple ilmoittaa pyrkivänsä poistamaan sekä tällaiset sovellukset että tarkastusprosessia kiertävät kehittäjätilit.
Kromix ei kuitenkaan ole ainoa vastaavanlainen tapaus. Wired löysi erillisessä tutkimuksessaan myös MaskAI-nimisen sovelluksen, jonka avulla käyttäjät pystyivät lisäämään valokuvissa esiintyvien ihmisten kasvoja seksuaalisiin tilanteisiin.
