Ասացեք ձեր ձագուկին, թե ինչ եք մտածում ներսում՝ սև արկղի էֆեկտը
Պարունակություն
Այն փաստը, որ արհեստական ինտելեկտի առաջադեմ ալգորիթմները նման են սև արկղի (1), որը դուրս է նետում արդյունքը՝ չբացահայտելով, թե ինչպես է այն հասել դրան, ոմանց անհանգստացնում է, իսկ մյուսներին՝ վրդովեցնում:
2015 թվականին Նյու Յորքի Մաունթ Սինայ հիվանդանոցի հետազոտական թիմին խնդրեցին օգտագործել այս մեթոդը՝ տեղացի հիվանդների մեծ տվյալների բազան վերլուծելու համար (2): Այս հսկայական հավաքածուն պարունակում է հիվանդների մասին տեղեկատվության օվկիանոս՝ թեստի արդյունքներից, բժշկի հրամաններից և այլն:
Աշխատանքի ընթացքում մշակված վերլուծական ծրագիրն անվանել են գիտնականները. Այն վերապատրաստվել է մոտավորապես 700 հազար մարդու տվյալների վրա։ մարդկանց, և երբ փորձարկվել է նոր գրանցամատյաններում, այն չափազանց արդյունավետ է եղել հիվանդությունների կանխատեսման գործում: Առանց մարդկային փորձագետների օգնության, նա հիվանդանոցային գրառումներում հայտնաբերեց օրինաչափություններ, որոնք ցույց էին տալիս, թե որ հիվանդն է գտնվում այնպիսի հիվանդության ճանապարհին, ինչպիսին է լյարդի քաղցկեղը: Մասնագետների կարծիքով, համակարգի պրոգնոստիկ և ախտորոշիչ արդյունավետությունը շատ ավելի բարձր է եղել, քան որևէ այլ հայտնի մեթոդի:
2. Բժշկական արհեստական ինտելեկտի համակարգ՝ հիմնված հիվանդների տվյալների բազաների վրա
Միաժամանակ հետազոտողները նկատել են, որ այն աշխատում է առեղծվածային ձևերով։ Պարզվեց, օրինակ, որ այն իդեալական է հոգեկան խանգարումների ճանաչումինչպիսին է շիզոֆրենիան, որը չափազանց դժվար է բժիշկների համար: Սա զարմանալի էր, մանավանդ որ ոչ ոք պատկերացում չուներ, թե ինչպես է արհեստական ինտելեկտի համակարգը այդքան լավ տեսնում հոգեկան հիվանդությունը՝ հիմնվելով միայն հիվանդի բժշկական գրառումների վրա: Այո, փորձագետները շատ գոհ էին նման արդյունավետ մեքենայի ախտորոշիչի օգնությամբ, բայց նրանք շատ ավելի գոհ կլինեին, եթե հասկանային, թե ինչպես է AI-ն եկել իր եզրակացություններին:
Արհեստական նեյրոնների շերտեր
Հենց սկզբից, այսինքն՝ այն պահից, երբ հայտնի դարձավ արհեստական ինտելեկտի հայեցակարգը, AI-ի վերաբերյալ երկու տեսակետ կար. Առաջինն առաջարկեց, որ ամենախելամիտ բանը կլինի կառուցել մեքենաներ, որոնք տրամաբանում են հայտնի սկզբունքների և մարդկային տրամաբանության համաձայն՝ թափանցիկ դարձնելով նրանց ներքին աշխատանքը բոլորի համար: Մյուսները կարծում էին, որ ինտելեկտն ավելի հեշտությամբ կհայտնվի, եթե մեքենաները սովորեն դիտարկման և կրկնվող փորձերի միջոցով:
Վերջինս նշանակում է տիպիկ համակարգչային ծրագրավորման շրջում: Փոխարենը, որ ծրագրավորողը հրամաններ գրի խնդիրը լուծելու համար, ծրագիրը առաջացնում է սեփական ալգորիթմ նմուշի տվյալների և ցանկալի արդյունքի հիման վրա: Մեքենայական ուսուցման տեխնիկան, որը հետագայում վերածվեց այսօր հայտնի AI համակարգերի ամենահզոր համակարգերի, հենց նոր գնացել են ըստ էության մեքենան ինքն է ծրագրավորում.
Այս մոտեցումը մնաց 60-70-ական թվականներին AI հետազոտության լուսանցքում: Միայն նախորդ տասնամյակի սկզբին, որոշ նորարարական փոփոխություններից և բարելավումներից հետո, «Խորը» նեյրոնային ցանցեր սկսեց ցուցադրել ավտոմատացված ընկալման հնարավորությունների արմատական բարելավումներ:
Խորը մեքենայական ուսուցումը համակարգիչներին տվել է արտասովոր ունակություններ, ինչպիսիք են ասված բառերը գրեթե նույնքան ճշգրիտ ճանաչելու ունակությունը, որքան մարդը: Սա չափազանց բարդ հմտություն է նախապես ծրագրավորելու համար: Մեքենան պետք է կարողանա ստեղծել իր սեփական «ծրագիրը» ըստ ուսուցում հսկայական տվյալների հավաքածուների վերաբերյալ.
Խորը ուսուցումը նաև հեղափոխություն է կատարել համակարգչային պատկերների ճանաչման գործում և զգալիորեն բարելավել է մեքենայական թարգմանության որակը: Այսօր այն օգտագործվում է բժշկության, ֆինանսների, արտադրության և այլնի բոլոր տեսակի հիմնական որոշումներ կայացնելու համար:
Այնուամենայնիվ, այս ամենով հանդերձ դուք չեք կարող պարզապես նայել խորը նեյրոնային ցանցի ներսում՝ տեսնելու, թե ինչպես է այն աշխատում «կափարիչի տակ»: Ցանցային հիմնավորման գործընթացները ներդրված են հազարավոր մոդելավորված նեյրոնների վարքագծի մեջ՝ կազմակերպված տասնյակ կամ նույնիսկ հարյուրավոր խճճված փոխկապակցված շերտերի մեջ:.
Առաջին շերտի նեյրոններից յուրաքանչյուրը ստանում է մուտքային ազդանշան, ինչպիսին է պատկերի պիքսելի ինտենսիվությունը, և այնուհետև կատարում է հաշվարկներ մինչև ելքային ազդանշան դուրս բերելը: Դրանք բարդ ցանցով փոխանցվում են հաջորդ շերտի նեյրոններին և այլն, մինչև վերջնական ելքային ազդանշանը: Բացի այդ, կա մի գործընթաց, որը հայտնի է որպես անհատական նեյրոնների կողմից կատարված հաշվարկների ճշգրտում, որպեսզի վերապատրաստման ցանցը արտադրի ցանկալի արդյունքը:
Շան պատկերի ճանաչման հետ կապված հաճախ հիշատակված օրինակում AI-ի ստորին շերտերը վերլուծում են պարզ բնութագրեր, ինչպիսիք են ուրվագիծը կամ գույնը: Բարձրահասակները զբաղվում են ավելի բարդ հարցերով, ինչպիսիք են մորթի կամ աչքերը: Միայն վերին շերտը միավորում է այդ ամենը, նույնականացնելով տեղեկատվության ամբողջական փաթեթը որպես շուն:
Նույն մոտեցումը կարող է կիրառվել այլ տեսակի մուտքերի նկատմամբ, որոնք թույլ են տալիս մեքենան սովորել ինքն իրեն. հնչյուններ, որոնք կազմում են խոսքի բառերը, տառերն ու բառերը, որոնք նախադասություններ են կազմում գրավոր տեքստում կամ ղեկ, օրինակ: տրանսպորտային միջոցը կառավարելու համար անհրաժեշտ շարժումներ.
Մեքենան ոչինչ բաց չի թողնում
Փորձ է արվել բացատրել, թե կոնկրետ ինչ է տեղի ունենում նման համակարգերում։ 2015-ին Google-ի հետազոտողները փոփոխել են խորը ուսուցման վրա հիմնված պատկերների ճանաչման ալգորիթմը, որպեսզի լուսանկարներում առարկաներ տեսնելու փոխարեն դրանք գեներացվեն կամ փոփոխվեն: Գործարկելով ալգորիթմը հետընթաց՝ նրանք ցանկացան բացահայտել այն բնութագրերը, որոնք ծրագիրը օգտագործում է, ասենք, թռչուն կամ շենք ճանաչելու համար։
Այս փորձերը, որոնք հանրությանը հայտնի են իրենց անվանումով, ստեղծեցին (3) գրոտեսկային, տարօրինակ կենդանիների, բնապատկերների և կերպարների ապշեցուցիչ պատկերներ: Թեև նրանք բացահայտեցին մեքենայական ընկալման որոշ գաղտնիքներ, ինչպիսիք են այն փաստը, որ որոշ օրինաչափություններ շրջվում և կրկնվում են նորից ու նորից, նրանք նաև ցույց տվեցին, թե որքան խորը մեքենայական ուսուցումը տարբերվում է մարդկային ընկալումից, օրինակ՝ այն իմաստով, որ այն ընդլայնվում և ընդլայնվում է։ կրկնօրինակում է արտեֆակտները, որոնք մենք անտեսում ենք մեր ընկալման մեջ առանց մտածելու: .
3. Նախագծում ստեղծված պատկեր
Ի դեպ, մյուս կողմից, այս փորձերը բացահայտեցին մեր սեփական ճանաչողական մեխանիզմների գաղտնիքը: Թերևս մեր ընկալման մեջ է, որ կան տարբեր անհասկանալի բաղադրիչներ, որոնք ստիպում են մեզ անմիջապես ինչ-որ բան հասկանալ և անտեսել այն, մինչդեռ մեքենան համբերատար կրկնում է իր կրկնությունները «անկարևոր» առարկաների վրա:
Այլ թեստեր և ուսումնասիրություններ են իրականացվել՝ փորձելով «հասկանալ» մեքենան։ Ջեյսոն Յոսինսկի նա ստեղծել է մի գործիք, որը գործում է ուղեղում խրված զոնդի պես՝ թիրախավորելով ցանկացած արհեստական նեյրոն և փնտրելով այն պատկերը, որն ամենաուժեղ ակտիվացնում է այն: Վերջին փորձի ժամանակ ցանցի «լրտեսության» արդյունքում հայտնվեցին վերացական պատկերներ, ինչն էլ ավելի առեղծվածային դարձրեց համակարգում տեղի ունեցող գործընթացները։
Այնուամենայնիվ, շատ գիտնականների համար նման հետազոտությունը թյուրիմացություն է, քանի որ, նրանց կարծիքով, համակարգը հասկանալու, բարդ որոշումներ կայացնելու օրինաչափություններ և բարձրակարգ մեխանիզմներ ճանաչելու համար, բոլոր հաշվողական փոխազդեցությունները խորը նեյրոնային ցանցի ներսում: Դա մաթեմատիկական ֆունկցիաների և փոփոխականների հսկա լաբիրինթոս է: Այս պահին մեզ համար անհասկանալի է։
Համակարգիչը չի՞ սկսի աշխատել: Ինչո՞ւ։
Ինչու՞ է կարևոր հասկանալ առաջադեմ արհեստական ինտելեկտի համակարգերի որոշումների կայացման մեխանիզմները: Արդեն իսկ կիրառվում են մաթեմատիկական մոդելներ՝ որոշելու համար, թե որ բանտարկյալները կարող են պայմանական վաղաժամկետ ազատ արձակվել, որոնց կարելի է վարկ տալ, իսկ ովքեր՝ աշխատանքի: Բոլոր հետաքրքրվողները կցանկանային իմանալ, թե ինչու է կայացվել կոնկրետ այս որոշումը, այլ ոչ թե մեկ այլ, որոնք են դրա պատճառներն ու մեխանիզմը։
նա ընդունել է 2017 թվականի ապրիլին MIT Technology Review-ում: Թոմի Յակկոլա, պրոֆեսոր MIT-ում, ով աշխատում է մեքենայական ուսուցման հավելվածների վրա։ -.
Կա նույնիսկ իրավական և քաղաքական դիրքորոշում, ըստ որի՝ AI համակարգերի որոշումների կայացման մեխանիզմը մանրամասն ուսումնասիրելու և հասկանալու կարողությունը մարդու հիմնարար իրավունքն է:
2018 թվականից ԵՄ-ն աշխատում է ընկերություններից պահանջելու իրենց հաճախորդներին բացատրություններ տրամադրել ավտոմատացված համակարգերով կայացված որոշումների վերաբերյալ: Պարզվում է, որ երբեմն դա հնարավոր չէ նույնիսկ համեմատաբար պարզ թվացող համակարգերի դեպքում, ինչպիսիք են հավելվածներն ու կայքերը, որոնք օգտագործում են խորը գիտություն՝ գովազդ ցուցադրելու կամ երգեր առաջարկելու համար:
Համակարգիչները, որոնք գործարկում են այս ծառայությունները, իրենք են ծրագրավորում, և դա անում են այնպես, որ մենք չենք կարող հասկանալ... Նույնիսկ այս հավելվածները ստեղծող ինժեներները չեն կարող ամբողջությամբ բացատրել, թե ինչպես է այն աշխատում:
