„Google Play“ susidoroja su dirbtinio intelekto programomis, kai buvo išplatintos programos, skirtos netikriems aktams kurti

„Google“ ketvirtadienį išleidžia naujas gaires kūrėjams, kuriantiems AI programas, platinamas per „Google Play“, tikėdamasi sumažinti netinkamo ir kitaip draudžiamo turinio skaičių. Bendrovė teigia, kad AI funkcijas siūlančios programos turės neleisti generuoti apriboto turinio, kuris apima seksualinį turinį, smurtą ir kt., ir turės pasiūlyti vartotojams būdą pažymėti aptiktą įžeidžiantį turinį. Be to, „Google“ teigia, kad kūrėjai turi „griežtai išbandyti“ savo AI įrankius ir modelius, kad užtikrintų, jog jie gerbia naudotojų saugumą ir privatumą.

Taip pat kovojama su programomis, kuriose rinkodaros medžiagoje reklamuojami netinkamo naudojimo atvejai, pvz., programos, kurios nurengia žmones arba kuria nesąmoningus nuogų vaizdus. Jei skelbimo kopijoje nurodoma, kad programa gali atlikti tokius veiksmus, ji gali būti uždrausta iš „Google Play“, neatsižvelgiant į tai, ar programa iš tikrųjų gali tai padaryti.

Šios gairės vadovaujasi didėjančia AI nurengimo programų, kurios pastaraisiais mėnesiais reklamavo save socialinėje žiniasklaidoje, rykšte. Pavyzdžiui, balandžio mėnesio „404 Media“ ataskaitoje nustatyta, kad „Instagram“ talpina programų, kuriose teigiama, kad naudoja dirbtinį intelektą, kad sukurtų netikrus nuogus, skelbimus. Viena programa reklamavo save naudodama Kim Kardashian paveikslėlį ir šūkį „Nurengti bet kurią merginą nemokamai“. „Apple“ ir „Google“ ištraukė programas iš atitinkamų programų parduotuvių, tačiau problema vis dar plačiai paplitusi.

Mokyklos visoje JAV praneša apie problemas, susijusias su mokiniais, apgaubiančiais kitų mokinių (o kartais ir mokytojų) dirbtinio intelekto nuogas dėl patyčių ir priekabiavimo bei kitokio netinkamo AI turinio. Praėjusį mėnesį Baltimorėje buvo suimtas mokyklos direktoriaus rasistinis dirbtinio intelekto klastojimas. Dar blogiau, kai kuriais atvejais ši problema paliečia net vidurinių mokyklų mokinius.

„Google“ teigia, kad jos politika padės nepatekti į „Google Play“ programas, kuriose yra dirbtinio intelekto sukurto turinio, kuris gali būti netinkamas arba žalingas naudotojams. Jame nurodoma esama AI sukurto turinio politika, kurioje galima patikrinti programos patvirtinimo sistemoje „Google Play“ reikalavimus. Bendrovė teigia, kad AI programos negali leisti generuoti jokio apriboto turinio ir taip pat turi suteikti vartotojams galimybę pažymėti įžeidžiantį ir netinkamą turinį, taip pat stebėti ir teikti pirmenybę atsiliepimams. Pastarasis yra ypač svarbus programose, kuriose naudotojų sąveika „formuoja turinį ir patirtį“, sako „Google“, pavyzdžiui, programose, kuriose populiarūs modeliai vertinami aukščiau arba galbūt labiau pastebimi.

Kūrėjai taip pat negali reklamuoti, kad jų programa pažeidžia bet kurias „Google Play“ taisykles pagal „Google“ programų reklamos reikalavimus. Jei joje reklamuojamas netinkamas naudojimo atvejis, programa gali būti paleista iš programų parduotuvės.

Be to, kūrėjai yra atsakingi už savo programų apsaugą nuo raginimų, galinčių manipuliuoti jų AI funkcijomis ir sukurti žalingą ir įžeidžiantį turinį. „Google“ teigia, kad kūrėjai gali naudoti savo uždarojo testavimo funkciją, kad bendrintų ankstesnes savo programų versijas su vartotojais, kad gautų atsiliepimų. Bendrovė primygtinai siūlo, kad kūrėjai ne tik išbandytų prieš paleidžiant, bet ir dokumentuotų tuos bandymus, nes „Google“ gali paprašyti jį peržiūrėti ateityje.

Bendrovė taip pat skelbia kitus išteklius ir geriausios praktikos pavyzdžius, pvz., „People + AI Guidebook“, kuriuo siekiama padėti kūrėjams, kuriantiems AI programas.