Արհեստական բանականության անվտանգությունը. փորձագետների կոչը խիստ գնահատականների համար

Ինչու է ԱԲ-ի անվտանգությունը դառնում ավելի կարևոր

Արհեստական բանականությունը (ԱԲ) վերջին տարիներին զգալի առաջընթաց է գրանցել, սակայն այս զարգացումներն իրենց հետ բերում են լուրջ ռիսկեր: Մասաչուսեթսի տեխնոլոգիական ինստիտուտի (MIT) ֆիզիկոս և ԱԲ հետազոտող Մաքս Տեգմարկը կոչ է անում խիստ անվտանգության միջոցառումներ ձեռնարկել՝ ապահովելու, որ գերհզոր ԱԲ համակարգերը մնան մարդու վերահսկողության ներքո: Տեգմարկի վերջին հոդվածում ներկայացվում է «Կոմպտոնի հաստատուն» հասկացությունը, որը ռիսկերի հաշվարկման նոր մեթոդ է:

Կոմպտոնի հաստատունը՝ նոր անվտանգության չափանիշ

«Կոմպտոնի հաստատուն» տերմինը ներշնչված է 1945 թվականին Տրինիտի միջուկային փորձարկումից առաջ ֆիզիկոս Արթուր Կոմպտոնի կատարած հաշվարկներից: Կոմպտոնը հաշվարկել էր ինքնաբուխ ֆյուժիայի ռիսկը և հանգել եզրակացության, որ այն չափազանց փոքր է: Տեգմարկը պնդում է, որ ԱԲ ընկերությունները պետք է կիրառեն նման մոտեցում՝ հաշվարկելով Արհեստական Գերհզոր Բանականության (ԱԳԲ) հետ կապված ռիսկերը:

Տեգմարկի կարծիքով, ԱԲ ընկերությունների միջև Կոմպտոնի հաստատունի վերաբերյալ համաձայնությունը կարող է նպաստել գլոբալ անվտանգության կանոնակարգերի հաստատմանը: «Բավական չէ ասել՝ մենք լավ ենք զգում այս մասին»,- նշել է Տեգմարկը: «Նրանք պետք է հաշվարկեն տոկոսը»:

Արհեստական բանականության անվտանգության գլոբալ համագործակցություն

ԱԲ անվտանգության խիստ միջոցառումների կոչը համահունչ է ԱԲ անվտանգության հետազոտությունների գլոբալ առաջնահերթությունների Սինգապուրյան համաձայնությանը: Այս զեկույցը, որը համահեղինակել են Տեգմարկը և այլ առաջատար փորձագետներ, ներառում է երեք հիմնական ուղղություններ՝

• Գործող և ապագա ԱԲ համակարգերի ազդեցության չափման մեթոդների մշակում:
• ԱԲ համակարգերի վարքագծի սահմանում և համապատասխանության ապահովման մեխանիզմների մշակում:
• ԱԲ վարքագծի կառավարում և վերահսկում՝ անցանկալի հետևանքներից խուսափելու համար:

Այս առաջնահերթությունները նպատակ ունեն ստեղծել պատասխանատու ԱԲ տեխնոլոգիաների զարգացման շրջանակ:

Դասեր պատմությունից՝ չվերահսկվող զարգացման ռիսկերը

ԱԲ-ի արագ զարգացումը համեմատվում է այլ տեխնոլոգիական առաջընթացների հետ, որոնք չունեին բավարար վերահսկողություն: Օրինակ, սոցիալական մեդիայի ոլորտը բախվել է քննադատության՝ զարգացման ընթացքում ռիսկերը անտեսելու համար, ինչը հանգեցրել է ապատեղեկատվության և սոցիալական բևեռացման խնդիրների: Նմանապես, փորձագետները զգուշացնում են, որ Արհեստական Ընդհանուր Բանականության (ԱԸԲ) զարգացման մրցավազքը կարող է հանգեցնել աղետալի հետևանքների, եթե անվտանգությունը առաջնահերթ չդառնա:

Դանիել Կոկոտայլոն, OpenAI-ի նախկին հետազոտող, գնահատում է, որ ԱԸԲ-ի իրականացման 50% հավանականություն կա ընդամենը երեք տարվա ընթացքում: Սակայն նա մտահոգություն է հայտնել ոլորտի պատրաստվածության վերաբերյալ՝ կառավարելու նման հզոր համակարգերը: «Աշխարհը պատրաստ չէ, և մենք պատրաստ չենք»,- նշել է Կոկոտայլոն:

Կառավարությունների և հանրային պատասխանատվության դերը

Չնայած որոշ կառավարություններ, ինչպիսիք են Եվրոպական Միությունը, քայլեր են ձեռնարկել ԱԲ-ի կարգավորման ուղղությամբ, մյուսները հետ են մնում: Արհեստական բանականության ոլորտում թափանցիկությունն ու պատասխանատվությունը ապահովելու համար կարևոր է հանրային մասնակցությունը: Տեգմարկը նշել է. «Միջազգային համագործակցությունը վերադարձել է մեծ թափով», ինչը վկայում է գլոբալ համագործակցության նոր շեշտադրման մասին:

Շրջակա միջավայրի և էթիկական հետևանքները

ԱԲ-ի զարգացման անվտանգությունից բացի, պետք է ուշադրություն դարձնել նաև շրջակա միջավայրի և էթիկական ծախսերին: Մեծ ԱԲ մոդելների ուսուցումը սպառում է զգալի էներգիա և բնական ռեսուրսներ: Օրինակ, ChatGPT-3-ը յուրաքանչյուր 10–15 պատասխանի համար օգտագործում է մոտ 500 միլիլիտր ջուր: Միլիոնավոր ակտիվ օգտատերերի դեպքում կուտակային ազդեցությունը զգալի է:

Բացի այդ, ԱԲ համակարգերը հաճախ հիմնվում են տվյալների արտահանումների վրա, ինչը էթիկական մտահոգություններ է առաջացնում: Նաոմի Քլայնը այս երևույթը նկարագրում է որպես «մարդկության պատմության ամենամեծ և ամենակարևոր գողությունը», ընդգծելով էթիկական ուղեցույցների անհրաժեշտությունը ԱԲ-ի զարգացման մեջ:

Քանի որ ԱԲ-ն շարունակում է զարգանալ, խիստ անվտանգության միջոցառումների, էթիկական նկատառումների և գլոբալ համագործակցության կարևորությունը չի կարելի թերագնահատել: Կոմպտոնի հաստատունի նման չափանիշների կիրառմամբ և միջազգային համագործակցությամբ ոլորտը կարող է նվազեցնել ռիսկերը և ապահովել, որ ԱԲ-ն ծառայի մարդկությանը պատասխանատու կերպով:

Աղբյուր՝ The New York Times, The Guardian