Ո՞ւմ է սպանելու ինքնակառավարվող մեքենան. Մեքենա, փրկիր այնքան մարդկանց, որքան կարող ես, բայց ամենից շատ փրկիր ինձ:

Եթե ​​իրավիճակ է ստեղծվում, երբ մեքենայի ինքնավար համակարգը պետք է արագ ընտրություն կատարի, թե ում զոհաբերի մոտալուտ վթարի դեպքում, ինչպե՞ս պետք է արձագանքի: Զոհաբերե՞լ ուղևորներին՝ հետիոտներին փրկելու համար. Անհրաժեշտության դեպքում սպանե՞լ հետիոտնին, որ խնայես, օրինակ, մեքենայով շրջող չորս հոգանոց ընտանիքին։ Կամ գուցե նա միշտ պետք է պաշտպանի իրեն առաջին հերթին:

Թեև ավելի քան վաթսուն ընկերություններ արդեն ստացել են անձնական փորձարկման թույլտվություններ միայն Կալիֆորնիայում, դժվար է ասել, որ արդյունաբերությունը պատրաստ է դիմակայել էթիկական երկընտրանքներին: Այս պահին նա պայքարում է ավելի տարրական խնդիրների դեմ՝ համակարգերի շահագործումն ու նավիգացիոն արդյունավետությունը և պարզապես խուսափել բախումներից ու չնախատեսված իրադարձություններից։ Այնպիսի իրավիճակներում, ինչպիսիք են Արիզոնայում հետիոտնի վերջին սպանությունը կամ հետագա վթարները (1), մինչ այժմ խոսքը պարզապես համակարգի խափանումների մասին է, և ոչ թե մեքենայի ինչ-որ «էթիկական ընտրության»:

Փրկեք հարուստներին և երիտասարդներին

Նման որոշումների կայացման հարցերը վերացական խնդիրներ չեն։ Ցանկացած փորձառու վարորդ կարող է դա հավաստել։ Անցյալ տարի MIT Media Lab-ի հետազոտողները վերլուծել են ամբողջ աշխարհից հարցվածների ավելի քան քառասուն միլիոն պատասխաններ, որոնք հավաքվել են 2014 թվականին մեկնարկած հետազոտության ընթացքում: Հարցումների համակարգը, որը նրանք անվանում են «Էթիկական մեքենա», ցույց է տվել, որ աշխարհի տարբեր վայրերում աշխարհը, նմանատիպ հարցերին տրվում են տարբեր պատասխաններ:

Ամենաընդհանուր եզրակացությունները կանխատեսելի են։ Ծայրահեղ իրավիճակներում մարդիկ նախընտրում են փրկել մարդկանց, քան կենդանիներին խնամել՝ նպատակ ունենալով հնարավորինս շատ կյանքեր փրկել և հակված են լինել ավելի երիտասարդ, քան տարեցները (2): Կան նաև որոշ, բայց ավելի քիչ ակնհայտ նախապատվություններ, երբ խոսքը վերաբերում է կանանց փրկելուն տղամարդկանցից, ավելի բարձր կարգավիճակ ունեցողներին ավելի աղքատ մարդկանցից և հետիոտներին մեքենայի ուղևորներից:.

2. Ո՞ւմ պետք է փրկի մեքենան:

Քանի որ գրեթե կես միլիոն հարցվածներ լրացրել են ժողովրդագրական հարցաթերթիկներ, հնարավոր է եղել նրանց նախասիրությունները կապել տարիքի, սեռի և կրոնական համոզմունքների հետ: Հետազոտողները եզրակացրել են, որ այդ տարբերությունները «էականորեն չեն ազդել» մարդկանց որոշումների վրա, սակայն նշել են որոշ մշակութային ազդեցություններ: Ֆրանսիացիները, օրինակ, հակված էին որոշումները կշռադատել՝ ելնելով մահացությունների գնահատված թվից, մինչդեռ Ճապոնիայում շեշտը ամենաքիչն էր: Սակայն Ծագող արևի երկրում տարեցների կյանքը շատ ավելի է գնահատվում, քան Արևմուտքում։

«Նախքան թույլ տանք, որ մեր մեքենաներն ինքնուրույն կայացնեն էթիկական որոշումներ, մենք պետք է այս մասին գլոբալ բանավեճ ծավալենք: Երբ ինքնավար համակարգերի վրա աշխատող ընկերությունները իմանան մեր նախասիրությունների մասին, այդ ժամանակ նրանք կմշակեն էթիկական ալգորիթմներ դրանց վրա հիմնված մեքենաներում, և քաղաքական գործիչները կարող են սկսել համապատասխան իրավական դրույթներ ներդնել», - գրել են գիտնականները 2018 թվականի հոկտեմբերին Nature-ում:

«Բարոյական մեքենայի» փորձի մեջ ներգրավված հետազոտողներից մեկը՝ Ժան-Ֆրանսուա Բոննֆոնտը, տագնապալի համարեց ավելի բարձր կարգավիճակ ունեցող մարդկանց (օրինակ՝ ղեկավարներին, քան անօթևաններին) փրկելու նախապատվությունը: Նրա կարծիքով, սա շատ կապված է տվյալ երկրում տնտեսական անհավասարության մակարդակը. Այնտեղ, որտեղ անհավասարությունն ավելի մեծ էր, նախապատվությունը տրվեց աղքատներին ու անօթևաններին զոհաբերելուն:

Նախորդ ուսումնասիրություններից մեկը, մասնավորապես, ցույց է տվել, որ, ըստ հարցվածների, ինքնավար մեքենան պետք է հնարավորինս շատ մարդկանց պաշտպանի, նույնիսկ եթե դա նշանակում է ուղևորների կորուստ։ Միևնույն ժամանակ, սակայն, հարցվածները նշել են, որ չեն գնի այս կերպ ծրագրավորված մեքենա։ Հետազոտողները բացատրել են դա Թեև մարդիկ ավելի էթիկական են համարում ավելի շատ մարդկանց փրկելը, նրանք նաև շահագրգռված են, ինչը կարող է ազդանշան լինել արտադրողների համար, որ հաճախորդները չեն ցանկանա գնել ալտրուիստական ​​համակարգերով հագեցած մեքենաներ:. Որոշ ժամանակ առաջ Mercedes-Benz ընկերության ներկայացուցիչներն ասում էին, որ եթե իրենց համակարգը փրկի միայն մեկ մարդու, իրենք կընտրեն վարորդին, ոչ թե հետիոտնին։ Հասարակական բողոքի ալիքը ստիպեց ընկերությանը հետ վերցնել իր հայտարարությունը։ Բայց հետազոտությունները հստակ ցույց են տալիս, որ այս սուրբ վրդովմունքի մեջ շատ կեղծավորություն կար։

Սա արդեն տեղի է ունենում որոշ երկրներում։ իրավական կարգավորման առաջին փորձերը դաշտում։ Գերմանիան օրենք է ընդունել, որը պահանջում է առանց վարորդի մեքենաներին ամեն գնով խուսափել վնասվածքներից կամ մահից: Օրենքը նաև նշում է, որ ալգորիթմները երբեք չեն կարող որոշումներ կայացնել՝ հիմնվելով այնպիսի բնութագրերի վրա, ինչպիսիք են տարիքը, սեռը, առողջությունը կամ հետիոտնը:

Audi-ն ստանձնում է պատասխանատվությունը

Դիզայները չի կարողանում գուշակել մեքենայի շահագործման բոլոր հետեւանքները։ Իրականությունը միշտ կարող է ապահովել փոփոխականների համադրություն, որոնք նախկինում երբեք չեն փորձարկվել: Սա խաթարում է մեր հավատը մեքենան ընդհանրապես «էթիկական ծրագրավորելու» հնարավորության հանդեպ: Մեզ թվում է, որ այն իրավիճակներում, երբ տեղի է ունենում սխալ և տեղի է ունենում ողբերգություն «մեքենայի մեղքով», պատասխանատվությունը պետք է կրի համակարգը արտադրողն ու մշակողը։

Թերևս այս պատճառաբանությունը ճիշտ է, բայց գուցե ոչ այն պատճառով, որ այն սխալ էր։ Ավելի շուտ, որովհետև թույլատրվեց մի շարժում, որը 2019%-ով զերծ չէր այն կատարելու հնարավորությունից։ Թվում է, թե դա է պատճառը, և ընկերության համատեղ պատասխանատվությունը չի խուսափում, որը վերջերս հայտարարեց, որ պատասխանատվություն է կրելու 8-ամյա A3-ի հետ կապված վթարների համար՝ օգտագործելով դրա մեջ ավտոմատ Traffic Jam Pilot (XNUMX) համակարգը:

3. Audi Traffic Jam Pilot Interface

Մյուս կողմից, կան միլիոնավոր մարդիկ, ովքեր մեքենա են վարում և նույնպես սխալվում են։ Ուրեմն ինչու՞ պետք է մեքենաները, որոնք վիճակագրորեն շատ ավելի քիչ սխալներ են թույլ տալիս, քան մարդիկ, ինչի մասին վկայում են բազմաթիվ սխալները, այս առումով խտրականության ենթարկվեն:

Եթե ​​որևէ մեկը կարծում է, որ ինքնավար մեքենաների աշխարհում էթիկայի և պատասխանատվության երկընտրանքները պարզ են, շարունակեք մտածել...