Վիբրացիա

Արհեստական ​​ինտելեկտ. էթիկական մտահոգություններ

Կան մի քանի այլ լուրջ հարցեր, թե ինչպես պետք է AI-ն օգտագործվի մոլախաղերի համար: Արդյո՞ք դա չափազանց հզոր է: Կարո՞ղ է այն ստեղծել խաղեր, որոնք չափազանց կախվածություն են առաջացնում: Ահա այսպիսի հարցեր է առաջադրում դոկտոր Կասրա Ղահարյանը՝ Նևադայի համալսարանի Լաս Վեգասի UNLV-ի Միջազգային խաղերի ինստիտուտի հետազոտության տնօրենը: Նա համաշխարհային խաղերի փորձագետ է, ով մասնագիտացած է առցանց կարգավորումների և AI հավելվածների, մեքենայական ուսուցման, սպառողների պաշտպանության և վճարումների արդիականացման մեջ: Նա նաև AI-ի և մոլախաղերի էթիկայի վերաբերյալ բեկումնային հետազոտության հեղինակներից է, որը հրապարակվել է 2024 թվականի հուլիսին: Մենք զրուցեցինք նրա հետ՝ լսելու նրա կարծիքը այս հարցերի վերաբերյալ:

Որո՞նք են պոտենցիալ ռիսկերն ու մարտահրավերները, որոնք կապված են մոլախաղերի ոլորտում AI-ի օգտագործման կանոնակարգման և վերահսկողության բացակայության հետ:

Դոկտոր Կասրա Ղահարյան. Երբ մենք խոսում ենք մոլախաղերի ոլորտում AI-ի կարգավորման մասին, կան մի քանի տարբեր երթուղիներ այն առումով, թե ինչպես մենք կարող ենք կարգավորել այն ոլորտում: Բայց կա նաև այն փաստը, որ AI կանոնակարգերը կամ ուղեցույցները մշակվում են նաև ոլորտից դուրս: Այս պահին ամենահայտնին ԵՄ AI ակտն է, որը պարտադիր օրենսդրություն է լինելու, որին պետք է հետևեն AI մշակողները, ինչպես նաև AI կիրառողները: Եվ, ըստ երևույթին, համաձայնությունը կայանում է նրանում, որ ԵՄ AI ակտը հիմնականում ուղղված է AI-ի մշակողներին, մասնավորապես՝ գեներատիվ AI-ին: Այնուամենայնիվ, ակտը շատ համահունչ է ոլորտի վրա հիմնված կարգավորող շրջանակի հետ, որտեղ հատուկ ոլորտի կարգավորիչները կդիտարկեն ԵՄ AI ակտը և այնուհետև այնտեղ կուսումնասիրեն իրենց սեփական արդյունաբերության և արհեստագործական կանոնակարգերը: Օրինակ, դուք կարող եք տեսնել, հավանաբար, ավիացիոն կարգավորող մարմինը, որը նայում է ԵՄ AI ակտին, որպեսզի տեղեկացնի իրենց սեփական կարգավորող պրակտիկան: Եվ մենք, անշուշտ, կարող էինք տեսնել, որ նույնը կատարվում է մոլախաղերի ոլորտում: Եվ եթե մենք նայենք ԵՄ AI ակտի ռիսկերի վրա հիմնված շրջանակին, ապա դա մի տեսակ խառն է այն առումով, թե որտեղ են ընկնում մոլախաղերը:

Կարծում եմ, որ մոլախաղերի օգտագործման դեպքերի մեծամասնության համար նրանք, հավանաբար, չեն ընկնի ավելի բարձր ռիսկային կամ արգելված օգտագործման կատեգորիաների մեջ: Բայց ո՞վ կարող է ասել, որ անձի խաղային վարքագծի վերլուծությունը և հետևելը շատ նպատակային, գրավիչ բովանդակություն և հաղորդագրություններ ուղարկելը, որը փոխում է մարդու վարքագիծը պոտենցիալ վնասակար և կախվածություն առաջացնող արտադրանքի համար, չի կարող դասակարգվել որպես բարձր ռիսկային կամ արգելված օգտագործման դեպք: Ինչ-որ մեկը կարող է վերջում ասել, որ դա ավելի բարձր ռիսկի օգտագործման դեպք է և որպես այդպիսին պետք է մանրակրկիտ ուսումնասիրվի: Այսպիսով, շահագրգիռ կողմերը անպայման պետք է հսկեն դրա վրա և իրենց լավագույն ոտքը առաջ տանեն:

Ինչ վերաբերում է մոլախաղերի ոլորտին, թեև, գոնե կարգավորվող շուկաներում, մենք լավ կանոնակարգված ենք, և օրենսդրության և կանոնակարգերի առումով բավականին լավ հենասյուներ կան՝ մոլախաղն անվտանգ պահելու, այն արդար պահելու և դրա հետ կապված վնասները նվազագույնի հասցնելու համար: Այսպիսով, թերևս գոյություն ունեցող մոլախաղերի կանոնակարգերը կարող են բավարար լինել սպառողներին AI-ի վտանգներից և ռիսկերից պաշտպանելու համար: Այնուամենայնիվ, կարծում եմ, որ պետք է լինի որոշակի ոլորտի կարգավորող վերահսկողություն՝ մեղմելու ռիսկերն ու մտահոգությունները, որոնք կարող են լինել այնպիսի բաներ, ինչպիսիք են խաղացողների շահագործումը, ալգորիթմական կողմնակալությունը, օպերատորների կողմից ոչ թափանցիկ գործելաոճը, նման բաներ, որոնք այժմ բավականին հայտնի են, եթե արդի մնաք AI էթիկայի և AI կանոնակարգերի հետ:

Մյուս բանը, որ ես կասեի, որն անձամբ իմ կարծիքով ամենամեծ ռիսկն է մեր ոլորտի համար, AI գրագիտության պակասն է: Ես իսկապես կարծում եմ, որ մենք պետք է ավելի համաձայնեցված ջանքեր գործադրենք այս տեխնոլոգիայի մասին բոլոր շահագրգիռ կողմերին կրթելու համար, որպեսզի կարողանանք քայլեր և ջանքեր գործադրել տեխնոլոգիան կարգավորելու համար: Քանի որ AI գրագիտության մակարդակն այս պահին չափազանց տարբեր է: Այսպիսով, ես կարծում եմ, որ իրականում ինձ համար դա ամենամեծ ռիսկն է, որ մենք ջանքեր չենք գործադրում բարելավելու AI գրագիտությունը ոլորտի շահագրգիռ կողմերի միջև:

Արդյո՞ք AI-ն կարող է զարգացնել խաղեր, որոնք չափազանց կախվածություն են առաջացնում:

Կասրա Ղահարեան դոկտՆայեք TikTok-ին: TikTok-ը ստեղծում է շատ գրավիչ բովանդակություն: Ես չգիտեմ TikTok-ի ներքին աշխատանքը, բայց ես պետք է մտածեմ, որ նրանք օգտագործում են այնպիսի բաներ, ինչպիսիք են մեքենայական ուսուցումը և տվյալների վրա հիմնված այլ մեթոդներ՝ օգտատերերին հնարավորինս ներգրավելու համար, քանի որ դա նրանց բիզնես մոդելն է: Նույնը մոլախաղերի դեպքում. Օգտագործողների ներգրավումը հետաքրքիր նոր բովանդակությամբ, որը գրավում է նրանց, բիզնես մոդելի մի մասն է: Կարծում եմ, որ մոլախաղերի արդյունաբերությունը գոնե ունի գործող կանոնակարգեր այն առումով, թե ինչ կարող եք փոխել խաղերի մեխանիկայի և նման բաների վերաբերյալ: Բայց ի՞նչ տեղի կունենա, եթե հասնենք այն փուլին, որը հավանաբար շուտով կլինի, որտեղ AI-ի ստեղծած տեսանյութը կարող է իրական ժամանակում ստեղծվել այն դիտելիս, ի՞նչ է դա նշանակում առցանց խաղային ավտոմատի համար: Ես չգիտեմ, արդյոք կարգավորողները կամ գործող կանոնակարգերը խոսում են առաջադեմ գեներատիվ AI-ի այդ մակարդակի մասին: Այսպիսով, ձեր կարծիքով, կարծում եմ, որ դա մտահոգիչ է: Ես չեմ խորացել դրա մեջ, բայց կարծում եմ, որ դա օրինական մտահոգություն է:

AI-ն կկարողանա բացահայտել մոլախաղերից կախվածության խնդիր ունեցող խաղացողներին. Կա՞ վտանգ, որ AI-ի օգտագործումը մոլախաղերի հետ կապված խնդիրներին օգնելու համար կարող է չափազանցված լինել:

Դոկտոր Կասրա Ղահարյան. Կարծում եմ, որ այստեղ երկու բան կա, որ ես հավանաբար կմեկնաբանեմ: Մեկը, AI ռիսկերի հայտնաբերման ալգորիթմի տարածքը: Կարծում եմ, որ հսկայական քայլեր են արվել այն առումով, թե ինչպես է այդ տեխնոլոգիան նպաստել վնասների կանխարգելմանը: Կարծում եմ, որ անկասկած է, որ դա մեծ օգուտ է տալիս, և կան շատ ֆանտաստիկ ապրանքներ, և մենք ոչ մի կերպ չպետք է զեղչենք այդ ապրանքների թողած ազդեցության վրա: Այնուամենայնիվ, դա բարդ բան է անել: Շատ դժվար է սահմանել, թե ինչ է մոլախաղերի խանգարումը: 

Շատ դժվար է դա սահմանել միայն հետևելու տվյալների միջոցով: Եվ դա այս ամբողջ հարցի առանցքն է, քանի որ չկա երկուական դրոշ, որը մենք կարող ենք օգտագործել: Եվ դա է պատճառը, որ դուք տեսել եք նման առաջխաղացումներ արհեստական ​​ինտելեկտի պատկերների ստեղծման և տեսանյութերի արտադրության մեջ: Որովհետև մենք ունենք ինտերնետ, որն ունի բազմաթիվ պատկերներ, այնպես չէ՞: Այսպիսով, եթե մենք ցանկանում ենք ստեղծել արհեստական ​​ինտելեկտ, որը կարող է ստեղծել տան պատկեր, կարող ենք ասել, թե ինչ տեսք ունի տունը: Մենք չենք կարող AI-ին ասել՝ հիմնված առցանց հետևելու վարքագծի վրա, թե ինչ տեսք ունի խնդրահարույց խաղամոլը: Մենք գաղափար ունենք, բայց տեխնիկապես չգիտենք։ Այսպիսով, այս համակարգերի համար շատ դժվար է իրականում կատարել իրենց աշխատանքը: Բայց մենք դրա համար պրոքսիներ մշակելու ուղիներ ենք գտել, և ես կասեի, որ գոնե ավելի շատ զննման գործիք ենք ստեղծել:

AI-ն օգտագործվում է նաև առևտրային նպատակներով, ինչպիսիք են մարքեթինգը, գովազդը, բովանդակության ստեղծումը: Կարծում եմ, այն, ինչ ես իրականում կցանկանայի տեսնել, սպառողների պաշտպանության համար նախատեսված արհեստական ​​ինտելեկտն է, որը միացված է այդ առևտրային նպատակներին: Այսպիսով, ինչպես, երբ ինչ-որ մեկը ստեղծում է նոր գովազդային արշավ, որտեղ նրանք օգտագործում են AI, հնարավոր է, որ այնտեղ բաներ լինեն: Միգուցե յուրաքանչյուր ընկերություն պետք է ունենա ներքին էթիկական AI խորհուրդ, որի միջոցով բոլոր նախագծերը պետք է հաստատվեն: Միգուցե պետք է լինեն որոշ տեխնիկական մշակողներ, ովքեր հասկանում են սպառողների պաշտպանության կետը, որպեսզի նրանք իմանան, թե որտեղ պետք է գծել գիծը: Կամ գուցե խաղացողի պաշտպանության տարրը պետք է միացվի մարքեթինգային գործունեության մեջ: Կարծում եմ, որ այս հարցում գերատեսչությունների միջև պետք է շատ ավելի համագործակցություն լինի:

Արդյո՞ք մենք բավականաչափ գիտակ ենք մոլախաղերի AI-ն կարգավորելու համար:

Դոկտոր Կասրա Ղահարյան. Եթե ​​ես լինեի ընկերության գործադիր տնօրեն, հավանաբար կվարձեի AI-ի չեմպիոնի կամ, գիտեք, AI-ի գլխավոր գործադիր տնօրենի կամ ինչ էլ որ լինի կոչումը: Կարծում եմ, որ պետք է լինի այդ անձը, ով ղեկավարի քննարկումը, նայի այս բոլոր հարցերին: Կարծում եմ, որ դա լավ առաջին քայլ կլիներ: Եվ ես նույնիսկ կարծում եմ, որ կարգավորող մարմինները կարող են նույնը անել: 

AI-ի վերաբերյալ սովորաբար արտահայտվող մտահոգություններից մեկն այն է, որ այն կարող է հանգեցնել այլ աշխատատեղերի կորստի: Արդարացվա՞ծ են արդյոք այս մտահոգությունները։

Դոկտոր Կասրա Ղահարյան. Աշխատանքի տեղաշարժի առումով, չեմ կարծում, որ դա անտեսելու խնդիր է: Կարծում եմ՝ գուցե մի քիչ չափազանցված է։ Չեմ կարծում, որ մենք գտնվում ենք այն փուլում, երբ խոշոր լեզվական մոդելները կարող են փոխարինել կոդավորողներին: Նրանք դառնում են շատ, շատ, շատ բարդ արագ տեմպերով: Կարծում եմ, որ մենք անտեղյակ կլինենք, եթե դա անտեսենք: Ինչ վերաբերում է հողի վրա հիմնված հատվածին, ապա ռոբոտաշինության ոլորտում հսկայական առաջընթաց պետք է լինի, որպեսզի այն երբևէ փոխարինի տան դերերը և նման բաները: Դրա ընդունման վերաբերյալ հետազոտություններ պետք է կատարվեն։ Արդյո՞ք մարդիկ ուզում են քարտեր վաճառող ռոբոտ, թե՞ մարդ են ուզում: 

Կարծում եմ, որ իմ ավելի մեծ բարոյական մտահոգությունը կապված է թափանցիկության հետ, և ես կխոսեմ այս մասին կոնկրետ օգտագործման դեպքի մասին, որը ցույց է տալիս դրա ավելի լայն խնդիրը: Դիտարկենք AI-ի օգտագործման դեպքը խնդրահարույց մոլախաղերում ռիսկերի հայտնաբերման համար: Կան բազմաթիվ ընկերություններ, որոնք մշակել են ալգորիթմներ, որոնք հիմնված են վարքագծային խաղադրույքների տվյալների վրա, որոնք պնդում են, որ կարող են հայտնաբերել անհատներին, ովքեր վտանգի տակ են մոլախաղերի հետ կապված վնասներ ստանալու համար: Մենք գաղափար չունենք, թե ինչպես են աշխատում այս ալգորիթմները: Մենք չգիտենք, թե որքանով են դրանք արդյունավետ։ 

Մենք նաև պատկերացում չունենք, թե դա որքանով է օգուտ սպառողին, ինչը կարգավորող մարմինների համար շատ դժվար է դարձնում այս պրակտիկայի շուրջ որևէ հստակ կանոնակարգ կամ ուղեցույց կիրառելը: Այսպիսով, դա իրականում մի բան է, որի վրա մենք կաշխատենք առաջիկա տասներկու ամիսների ընթացքում, այս ռիսկերի հայտնաբերման ալգորիթմների չափանիշն է: Գաղափարն այն է, որ մենք կունենանք չափորոշիչ տվյալների հավաքածուների ստանդարտացված փաթեթ, և ցանկացած շահագրգիռ կողմ կարող է օգտագործել մեր հարթակը իրենց ալգորիթմը փորձարկելու համար, և մենք կտրամադրենք կատարողականի վարկանիշը: Սա արդեն արվում է մեծ լեզվական մոդելների համար: Մենք ներկայումս հայեցակարգում ենք սա և հուսով ենք, որ այն կսկսենք հաջորդ տարի, որը UNLV-ի Միջազգային խաղերի ինստիտուտի ավելի լայն AI հետազոտական ​​նախաձեռնության մի մասն է:

Ի՞նչ եք կարծում, AI-ն, ընդհանուր առմամբ, ինչպե՞ս կազդի մոլախաղերի արդյունաբերության վրա ընդհանուր առմամբ:

Դոկտոր Կասրա Ղահարյան. Կարծում եմ, որ դա կդարձնի գործողություններն ավելի արդյունավետ, ավելի բարդ: Կարծում եմ, որ սպառողական փորձից օգուտներ կլինեն: Պետք է հիշել, որ սա ժամանցային արտադրանք է: Մարդիկ դրանով զբաղվում են մի պատճառով. Եվ մարդկանց մեծամասնությունը դրանով զբաղվում է, գիտեք, իրենց հնարավորությունների սահմաններում, և նրանք օգտագործում են մոլախաղը որպես զվարճանքի ձև: 

Այնպես որ, կարծում եմ, այդ առումով սպառողին օգուտներ կլինեն։ Եվ ես կարծում եմ, որ դա կարևոր է, ինչպես այն աշխատանքը, որը դուք անում եք և խոսքի տեղ հասցնելը` հասկանալու, որ դրա հետ կապված ռիսկ կա: Կարծում եմ, որ նույն խոսակցությունը հավանաբար եղել է, երբ ինտերնետը դուրս եկավ: Համացանցը մոլախաղը դարձրեց ավելի մատչելի, ավելի հարմար. Դուք կարող եք խաղալ ձեր պիժամաներով, ձեր հյուրասենյակում: Կարծում եմ՝ մարդիկ սկսեցին դա հասկանալ, և այդ պատճառով մենք տեսանք առաջընթաց՝ սպառողների պաշտպանության և կարգավորման առումով: Կան կանոնակարգեր, որոնք կոնկրետ այժմ խոսում են առցանց մոլախաղերի մասին: 

Այսպիսով, ես կարծում եմ, որ հուսով եմ, որ նույնը տեղի կունենա AI-ի հետ, և կարևոր է, որ ավելի շատ քննարկումներ, որոնք մենք անում ենք հենց հիմա, տեղի ունենան: