Արագ Ընթերցում
- Մարկ Կուբանը հրապարակավ քննադատել է OpenAI-ի՝ ChatGPT-ի անվտանգության սահմանափակումները մեղմելու ծրագիրը։
- Նա զգուշացնում է, որ ծնողներն ու դպրոցները կարող են կորցնել վստահությունը, եթե մեծահասակների բովանդակությունը հասանելի լինի։
- OpenAI-ի ղեկավար Սեմ Ալթմանը խոստանում է դեկտեմբերին գործարկել խիստ տարիքային վերահսկման համակարգ։
- Տեխնոլոգիական ոլորտի փորձագետները բաժանված են՝ արդյոք հնարավոր է լիարժեք պաշտպանել անչափահասներին։
Երբ տեխնոլոգիական հսկա OpenAI-ը հայտարարում է անվտանգության նոր քաղաքականության մասին, աշխարհը լսում է, իսկ երբեմն՝ հակադարձում։ Այս շաբաթ միլիարդատեր ներդրող, հանրաճանաչ ձեռնարկատեր Մարկ Կուբանը բացահայտ քննադատել է OpenAI-ի ղեկավար Սեմ Ալթմանի՝ ChatGPT-ի սահմանափակումները մեղմելու ծրագիրը, որը, ըստ պլանների, արդեն դեկտեմբերին թույլ կտա մեծահասակների համար հասանելի դարձնել մեծահասակներին ուղղված բովանդակություն։
OpenAI-ի նոր ուղղությունը․ ավելի ազատ և մարդկային ChatGPT
OpenAI-ի գլխավոր տնօրեն Սեմ Ալթմանը վերջերս ներկայացրել է ChatGPT-ի սահմանափակումները մեղմելու իր տեսլականը։ X սոցիալական ցանցում (նախկինում՝ Twitter) Ալթմանը հայտնել է, որ ընկերությունը շուտով կներկայացնի նոր տարբերակ՝ ավելի մեծ անձնականության ճկունությամբ, ներառյալ «շատ մարդկային» կերպարներն ու, ամենավիճարկվողը՝ «էրոտիկա» տարբերակը մեծահասակների համար։ Նպատակը՝ արհեստական բանականության հետ շփումը դարձնել ավելի իրական և անկաշկանդ։
Ալթմանի խոսքով՝ նախորդ սահմանափակումներն անհրաժեշտ էին հոգեկան առողջությունը պաշտպանելու համար, սակայն այժմ ընկերությունը պատրաստ է «անվտանգ կերպով մեղմել սահմանափակումները»։ Փոփոխությունները նախատեսված են առաջիկա շաբաթներին, իսկ դեկտեմբերին կգործարկվի հատուկ տարիքային վերահսկման համակարգ՝ միայն ստուգված մեծահասակներին հասանելի դարձնելու համար։
Մարկ Կուբանի նախազգուշացումը․ վստահության կորուստ ծնողների ու դպրոցների համար
Մարկ Կուբանը բացահայտ ու կտրուկ արձագանքել է OpenAI-ի նոր քաղաքականությանը՝ նշելով, որ դա կարող է լուրջ հետևանքներ ունենալ։ «Ոչ մի ծնող չի հավատա, որ իր երեխան չի կարող շրջանցել ձեր տարիքային վերահսկումը»,– գրել է Կուբանը՝ կանխատեսելով, որ ընտանիքները կհրաժարվեն ChatGPT-ից՝ նախընտրելով ավելի անվտանգ հարթակներ։ Նա նաև բարձրացրել է դպրոցներում օգտագործման վտանգները՝ ընդգծելով, որ նույնիսկ 18-ամյա ստուգված օգտատերերը կարող են չարաշահել մեծահասակների ֆունկցիաները և դրանց միջոցով տարածել ոչ պատշաճ բովանդակություն փոքրերին։
«Ի՞նչ կարող է սխալ լինել»,– ավելացրել է Կուբանը՝ ընդգծելով իր կասկածները OpenAI-ի վերահսկման մեխանիզմների արդյունավետության վերաբերյալ։ Նրա կարծիքով՝ դպրոցները կարող են վերանայել ChatGPT-ի օգտագործումը, քանի որ դժվար է երաշխավորել, որ անպատշաճ բովանդակությունը չի հասնի անչափահասներին։ Խնդիրը ոչ միայն տեխնոլոգիական է, այլ՝ վստահության․ արդյոք OpenAI-ը կկարողանա համոզել հանրությանը, որ իր պաշտպանիչ մեխանիզմները իսկապես արդյունավետ են։
Ազատության և անվտանգության հակադրությունը արհեստական բանականության ոլորտում
Կուբանի մտահոգությունները արտացոլում են լայնածավալ քննարկում տեխնոլոգիական ոլորտում՝ որքան ազատություն պետք է տրվի օգտատերերին, և ինչ պատասխանատվություն ունեն մշակողները՝ խոցելի խմբերին պաշտպանելու հարցում։ OpenAI-ի խնդիրն է հավասարակշռել նորարարությունը և զգուշավորությունը։ Սահմանափակումները մեղմելը կարող է գրավել մեծահասակներին, բայց վտանգել այն օգտատերերի վստահությունը, ովքեր կարևորում են խիստ անվտանգությունը։
Ալթմանի ներկայացրած տարիքային վերահսկումը կենտրոնական դեր ունի ռիսկի նվազեցման գործում։ Սակայն Կուբանի կասկածները տարածված են ծնողների ու մանկավարժների շրջանում՝ վախենալով, որ տեխնիկական արգելափակումները հեշտությամբ կարող են շրջանցվել, իսկ մեկ անգամ մեծահասակների բովանդակությունը հասանելի դարձնելուց հետո, դժվար է վերահսկել դրա տարածումը անչափահասների շրջանում։ Հարցը միայն տեխնոլոգիայի մասին չէ, այլ՝ վստահության․ արդյո՞ք OpenAI-ը կկարողանա համոզել հանրությանը իր մեխանիզմների արդյունավետության մեջ։
Ոլորտի արձագանքը և առաջիկա ամիսները
OpenAI-ի հայտարարությանը հետևել են լայն քննարկումներ ոլորտի փորձագետների, մանկավարժների ու տեխնոլոգիական վերլուծաբանների շրջանում։ Ոմանք կարևորում են խիստ ստուգման և թափանցիկ քաղաքականության անհրաժեշտությունը, մյուսները զգուշացնում են, որ ոչ մի համակարգ լիովին պաշտպանված չէ, հատկապես դպրոցներում, որտեղ վերահսկողությունը սահմանափակ է։
Խաղադրույքը մեծ է։ ChatGPT-ն արդեն օգտագործվում է դպրոցներում ու ընտանիքներում՝ տնային աշխատանքից մինչև անձնական խորհրդատվություն։ Եթե ծնողները ու մանկավարժները կորցնեն վստահությունը հարթակի նկատմամբ, հնարավոր է, որ նրանք փնտրեն այլընտրանքներ՝ փոխելով AI կրթական գործիքների շուկան։ Ինչպես նշում է Benzinga-ն, առաջիկա ամիսները վճռորոշ կլինեն՝ պարզելու համար՝ արդյո՞ք OpenAI-ը կկարողանա պահպանել անվտանգությունը՝ չզոհաբերելով մատչելիությունն ու օգտակարությունը։
Կուբանի համար սա տեսական խնդիր չէ։ Նրա հրապարակային քննադատությունը ընդգծում է տեխնոլոգիական որոշումների իրական հետևանքները։ Նրա զգուշացումը հիշեցնում է, որ նորարարությունը պետք է ուղեկցվի պատասխանատվությամբ, հատկապես այն գործիքների դեպքում, որոնք օգտագործվում են միլիոնավոր երեխաների կողմից։
Դեկտեմբերին, երբ OpenAI-ը գործարկի իր նոր տարիքային վերահսկման համակարգը, բոլորի ուշադրությունը կենտրոնացած կլինի դրա արդյունավետության վրա։ Կկարողանա՞ դա համոզել ծնողներին ու մանկավարժներին, թե՞ Կուբանի կանխատեսած հակազդեցությունը կստիպի OpenAI-ին վերանայել իր մոտեցումը։
Մարկ Կուբանի քննադատությունը վառ կերպով ընդգծում է տեխնոլոգիական առաջընթացի ու հանրային վստահության հակադրությունը։ Մինչ OpenAI-ը ձգտում է ստեղծել ավելի «մարդկային» արհեստական բանականություն, դրա հաջողությունը կախված կլինի այն բանից, թե ինչպես կպահպանի ամենախոցելի խմբերի՝ երեխաների ու աշակերտների անվտանգությունը՝ չկորցնելով ընդհանուր հանրության վստահությունը։