ԼՈՆԴՈՆ — Արհեստական բանականության վրա հիմնված այնպիսի հավելվածները, որոնք հնարավորություն են տալիս ստեղծել չհամաձայնեցված պոռնոգրաֆիկ և մերկ պատկերներ, շարունակում են մնալ հասանելի անչափահաս օգտատերերի համար հիմնական խանութներում՝ չնայած հարթակների կանոններին և ծնողական վերահսկողության գործառույթներին: The Guardian-ի կողմից երկուշաբթի օրը հրապարակված զեկույցի համաձայն՝ հետազոտողները պարզել են, որ 13-ամյա օգտատերերի համար նախատեսված հաշիվները կարողացել են շրջանցել առկա սահմանափակումները և ներբեռնել տասնյակ չարտոնված խմբագրման գործիքներ:
Հետազոտության արդյունքները բացահայտում են համակարգային խոցելիություններ թվային խանութների կողմից օգտատերերի տարիքի ստուգման և երրորդ կողմի ծրագրային ապահովման նկատմամբ հսկողության գործընթացում: Այս գործիքները թույլ են տալիս անհատներին ստեղծել սեռական բնույթի խաբեբայական տեսանյութեր և լուսանկարներ համադասարանցիների և այլ անձանց մասնակցությամբ:
Փորձարկման մեթոդաբանությունը և հասանելիությունը խանութներում
Անվտանգությունը գնահատելու համար Tech Transparency Project (TTP) խմբի հետազոտողները ստեղծել էին չորս փորձնական հաշիվ՝ երկուսը Apple-ի, երկուսն էլ Google-ի էկոհամակարգերում: Հաշիվները հստակորեն կարգավորվել էին որպես 13-ամյա դեռահասներին պատկանող: Օգտագործելով այնպիսի որոնման բառեր, ինչպիսիք են «adult AI»-ը կամ «AI video generator»-ը, հետազոտողները փորձել են գտնել պատկերների մշակման և դեմքերի փոխարինման հավելվածներ:
Այս փորձնական պրոֆիլների միջոցով հետազոտողներին հաջողվել է հաջողությամբ ներբեռնել 135 տարբեր հավելվածներ, որոնք ունեն մերկացման կամ դեմքերը մերկ մարմինների վրա տեղադրելու գործառույթներ: Փորձարկումների ընթացքում մասնագետներն օգտագործել են ԱԲ-ի միջոցով ստեղծված նմուշային պատկերներ՝ խուսափելով իրական մարդկանց լուսանկարներից:
Ծնողական վերահսկողության գործառույթները, որոնք նախատեսված են արգելափակելու անպատշաճ ներբեռնումները, մեծ մասամբ անարդյունավետ են գտնվել: Apple-ի և Google-ի հաշիվները, որոնք ունեին ակտիվացված սահմանափակումներ, կարողացել են ներբեռնել համապատասխանաբար 24 և 51 «nudify» հավելվածներ՝ առանց որևէ ծնողական հաստատման պահանջի:
Մոլորեցնող գնահատականներ և մշակողների բացթողումներ
Հետաքննությունը պարզել է, որ շուկաներում վերահսկողական մեխանիզմները մեծապես կախված են հավելվածների մշակողների կողմից տրամադրվող ինքնագնահատականներից: Բազմաթիվ բացահայտ բնույթի ծրագրեր սխալմամբ դասակարգվել են որպես պատշաճ կրտսեր լսարանի համար: Օրինակ՝ դեմքերի փոխարինման հավելվածներից մեկը, որն ուղեկցվել էր սեռական բնույթի գովազդային պատկերով, պաշտոնապես գնահատվել էր որպես անվտանգ 4 տարեկանից բարձր օգտատերերի համար:
Երբ հետազոտողները փորձել են ներբեռնել բացահայտ մեծահասակների համար նախատեսված հավելվածներ, արգելքները շատ հեշտությամբ շրջանցվել են։ Apple-ի խանութում 13 տարեկան գրանցված հաշիվը պարզապես հաստատել է, որ 17 տարեկան կամ բարձր է, ինչը բավարար է եղել արգելքը շրջանցելու համար՝ առանց ծնողական հաստատման։
Հարթակների արձագանքը և հավելվածների հեռացման խնդիրները
Ի պատասխան բացահայտումների՝ տեխնոլոգիական հսկաները ձեռնամուխ են եղել խախտումներ թույլ տվող ծրագրերի հեռացմանը: Հետաքննության ընթացքում Apple-ը հեռացրել է 25, իսկ Google-ը՝ 6 այդպիսի հավելված։ Հարթակների ներկայացուցիչները հավաստիացրել են, որ հավատարիմ են մնում անվտանգ թվային միջավայրի ապահովմանը:
Google-ի խոսնակ Դեն Ջեքսոնը նշել է, որ ընկերությունը պարբերաբար քայլեր է ձեռնարկում վնասակար բովանդակությամբ հավելվածների հայտնաբերման և հեռացման ուղղությամբ: Այնուամենայնիվ, հավելվածների հեռացումը խանութներից չի նշանակում, որ դրանք դադարում են գործել արդեն իսկ տեղադրված սարքերում: Հետազոտողները պարզել են, որ նախկինում ներբեռնված ծրագրերը շարունակել են անխափան աշխատել հեռախոսներում, ինչը լուրջ մտահոգություններ է առաջացնում տվյալների անվտանգության և պատասխանատվության հարցում: