Google hefur kynnt nýja uppfærslu á Messages appinu sínu, þar sem viðbótin við viðvaranir um viðkvæm efni hefur verið stækkuð til að ná yfir myndbönd. Með þessari nýju aðgerð er notaður gervigreindartækni sem skannar myndbönd fyrir kynferðislegu efni, þar sem það dimmir þau sjálfkrafa og gefur viðvaranir áður en notendur skoða eða senda slíkt efni.
Að þessu leyti heldur Google áfram að styðja við notendavernd í ljósi vaxandi áhyggna af stafrænum áreitum. Þessi aðgerð, sem er valkvæð fyrir fullorðna, er aðgengileg í stillingum appsins undir „Viðvaranir um viðkvæm efni,“ en er sjálfgefin fyrir aðgátarkontó sem eru undir 18 ára í gegnum Google„s Family Link.
Uppfærslan kemur á tímum þar sem cyberflashing, sem felur í sér að senda ósköpuð kynferðisleg efni, hefur leitt til lagasetningar í ýmsum löndum, þar á meðal nýjum lögum í Bretlandi og lagafrumvörpum í Bandaríkjunum. Samkvæmt skýrslum frá Android Authority er gervigreindin þjálfuð á stórum gagnasöfnum, sem miðar að því að ná mikilli nákvæmni við að greina kynferðislegt efni án þess að valda falskri viðvörun, sem gæti verið pirrandi fyrir notendur.
Þó að þetta skref sé skynsamlegt, veltur umræða um möguleg skekkju í gervigreindinni á lofti. PCMag bendir á að kerfið dimmir efni fyrirfram, sem veitir notendum stjórn á því að afdima það ef þeir kjósa, en hindrar ekki sendingu – aðeins veitir viðvörun. Þetta hefur leitt til umræðna meðal einkaréttarverndara um möguleg ofríki, þó að Google haldi því fram að aðgerðin sé notendastýrð og geymir engin greind gögn.
Í ljósi þess að skönnun á hreyfanlegu efni eins og myndböndum krefst meiri úrvinnslu en stöðugra mynda, gæti þetta haft áhrif á rafhlöðulífið á eldri tækjum. Innherjar sem þekkja til þróunarferlis Google benda á að komandi útgáfur gætu innleitt endurgjöf frá notendum til að fínstilla greiningaraðferðir, sem minnkar villur í mismunandi menningarlegum samhengi þar sem túlkun kynferðislegra mynda getur verið fjölbreytt.
Þetta uppfærslu samræmist víðtækari umbótum í vistkerfi Google, þar á meðal bættum ruslpóstgreiningum og samstillingu milli tækja. Eins og Android Central útskýrir, er virkjanin einföld, en ekki síst áhrifa þessara aðgerða gæti haft áhrif á iðnaðarstaðla og þrýst á aðrar þjónustur eins og WhatsApp til að fylgja í kjölfarið. Fyrir fyrirtækjareikninga, sérstaklega í regluðum geirum, gætu slík verkfæri dregið úr hættu á kynferðislegu áreiti í gegnum fyrirtækjatæki.
Að lokum, þegar stafrænn samskipti þróast, eru eiginleikar eins og viðvaranir um viðkvæm efni dæmi um að halda jafnvægi á milli nýsköpunar og sjálfræði notenda. Með hættum í aukningu á netinu getur aðferð Google sett fordæmi fyrir öflugari vernd og skýrari vernd persónuupplýsinga í tæknigeiranum, jafnvel þegar það fer í gegnum flóknar áskoranir við alþjóðlega efnisstjórnun.
