Արհեստական բանականության սպառնալիքները. նոր բանավեճ
Արհեստական բանականության (ԱԲ) զարգացման հետ կապված էքզիստենցիալ վտանգների մասին բանավեճը նոր թափ է ստացել՝ OpenAI-ի և Anthropic-ի նախկին հետազոտող Ջեյքոբ Քոքսոնի վիրուսային հայտարարությունից հետո։ Սեպտեմբերի 8-ին Քոքսոնը X սոցիալական հարթակում հրապարակեց նախազգուշացում, որտեղ պնդում է, թե ԱԲ մշակող առաջատար ընկերությունները «մրցավազքի մեջ են դեպի ինքնակատարելագործվող գերինտելեկտ»՝ վտանգելով մարդկության ապագան։ Գրառումը հավաքել է ավելի քան 150 միլիոն դիտում՝ դառնալով լայն հանրային քննարկման առարկա։
Ինչպես հաղորդում է Fortune-ը, Քոքսոնի հայտարարությունը առանձնահատուկ է նրանով, որ նա հրաժարվել է Anthropic-ի իր բաժնետոմսերից՝ ի նշան բողոքի, ինչը նրան որոշակի հեղինակություն է հաղորդում։ Anthropic-ի համապատասխանեցման (alignment) ղեկավարը հաստատել է, որ ընկերության ներսում կա մտավախություն, որ ԱԲ-ն կարող է վտանգել մարդկությունը՝ հաջորդ տասնամյակում 10%-ից ավելի հավանականությամբ։
Կոնկրետ ապացույցների պակասը
Չնայած լայն արձագանքին, Քոքսոնի նախազգուշացումը քննադատության է ենթարկվել կոնկրետ ապացույցների բացակայության համար։ Տեխնոլոգիական լրագրողները նշում են, որ առանց ներքին փաստաթղթերի կամ կոնկրետ օրինակների, հայտարարությունները կարող են ստեղծել միայն անհիմն վախ։ Մյուս կողմից, հետազոտող Ռաֆի Այուբը կարծում է, որ ուշադրությունը պետք է սևեռել ոչ թե հեռավոր ապագայի սպառնալիքների, այլ ներկայիս հասարակական ազդեցությունների վրա։
Քաղաքական դաշտում արձագանքները տարբեր են։ Մինչ մի շարք օրենսդիրներ կոչ են անում խստացնել ԱԲ-ի կարգավորումները, ԱՄՆ նախագահ Դոնալդ Թրամփը հայտարարել է, որ հարցը չափազանցված է և մարդիկ պետք է «ավելի դրական մտածեն»։ Սենատոր Բեռնի Սանդերսը կտրուկ քննադատել է այս մոտեցումը՝ պահանջելով անհապաղ դադարեցնել զարգացման գործընթացը՝ մինչև անվտանգության երաշխիքների ստեղծումը։
Դիտարկելու հարցեր
Ինչո՞ւ Ջեյքոբ Քոքսոնը չի ներկայացրել ներքին փաստաթղթեր՝ իր պնդումներն ամրապնդելու համար։
Քոքսոնը չի հրապարակել փաստաթղթեր, ինչի պատճառով ենթարկվել է քննադատության։ Ոլորտի փորձագետները նշում են, որ նախկին աշխատակիցները հաճախ սահմանափակված են գաղտնիության պայմանագրերով, ինչը խոչընդոտում է ապացույցների հրապարակմանը։
Ի՞նչն է դեռ անորոշ։ ։ Հստակ չէ՝ արդյոք նա ունի՞ իրավականորեն արգելված փաստաթղթեր, թե՞ նրա պնդումները հիմնված են միայն ընդհանուր դիտարկումների վրա։
Ո՞րն է ոլորտի պաշտոնական արձագանքը էքզիստենցիալ ռիսկի 10% գնահատականին։
Anthropic-ի համապատասխանեցման ղեկավարը հրապարակավ համաձայնել է Քոքսոնի գնահատականին՝ հաստատելով մարդկության համար վտանգի առկայությունը։ OpenAI-ի հետազոտությունների ղեկավարը նույնպես նշել է իր մտահոգությունները։
Ի՞նչն է դեռ անորոշ։ Ոլորտում դեռևս չկա միասնական համաձայնություն ռիսկերի հստակ տոկոսային հարաբերակցության վերաբերյալ։
Դիտանկյուններ
Նախկին աշխատակցի տեսակետը vs Լրագրողների և քննադատների տեսակետը
Դիտանկյուն
Նախկին աշխատակցի տեսակետը
Քոքսոնի նման մարդիկ պնդում են, որ հնարավոր էքզիստենցիալ վտանգի լրջությունը արդարացնում է հանրային ահազանգը՝ նույնիսկ առանց կոնկրետ ապացույցների։ Նրանք իրենց դերը տեսնում են որպես մշակույթի բացահայտում, որտեղ արագությունը գերակայում է անվտանգությանը։
Լրագրողների և քննադատների տեսակետը
Քննադատները պնդում են, որ անորոշ նախազգուշացումները կարող են հակաարդյունավետ լինել։ Նրանք կարծում են, որ առանց կոնկրետ ապացույցների՝ նման հաղորդագրությունները միայն մեծացնում են հանրային տագնապը և կարող են հանգեցնել ոչ արդյունավետ քաղաքական որոշումների։
Օգոստոսի 28-ին Նեպալում տեղի ունեցած ավերիչ ջրհեղեղներից հետո, երկիրը շարունակում է պայքարել հետևանքների դեմ, մինչդեռ միջազգային օգնության ջանքերն ակտիվանում են։
}// Handle language redirects
const langLink = e.target.closest(".azat-switcher-item a");
if (langLink) {
e.preventDefault();
e.stopPropagation();const origin = window.location.origin;
const path = window.location.pathname;
const lang = langLink.getAttribute("data-lang");// Determine current active language of the page:
let currentLang = "am";
if (path.startsWith("/en/") || path === "/en") {
currentLang = "en";
} else if (path.startsWith("/ru/") || path === "/ru") {
currentLang = "ru";
}let newPath = path;if (currentLang === "en" && lang === "ru") {
newPath = path.replace("/en/", "/ru/");
} else if (currentLang === "ru" && lang === "en") {
newPath = path.replace("/ru/", "/en/");
} else if (currentLang === "en" && lang === "am") {
newPath = path.replace("/en/", "/");
} else if (currentLang === "ru" && lang === "am") {
newPath = path.replace("/ru/", "/");
} else if (currentLang === "am" && lang === "en") {
newPath = "/en" + path;
} else if (currentLang === "am" && lang === "ru") {
newPath = "/ru" + path;
}window.location.href = origin + newPath;
}
});
})();
