Етика на изкуствения интелект, която се бори страстно за вашето законно право да бъдете изключение

Казват, че всяко правило има изключение.

Проблемът обаче е, че често преобладава постоянното правило и има малко или никакво разрешение за изключение, което да бъде признато или забавено. Средният случай се използва въпреки голямата възможност изключение да е на преден план. Изключение не получава никакво ефирно време. Няма шанс да бъде надлежно разгледано.

Сигурен съм, че трябва да знаете за какво говоря.

Опитвали ли сте някога да получите някакво индивидуално обслужване на клиентите, при което сте били безсмислено третирани без никакво разграничение за вашия конкретен случай и вашите специфични нужди?

Това несъмнено ви се е случвало, вероятно безброй пъти.

Ще ви преведа през една смущаваща тенденция, която възниква относно това как изкуственият интелект (AI) е безмилостно изобретен, за да принуди всичко да се вмести в парадигмата „един размер за всички“.

Изключенията или не се откриват, или са избрани да бъдат огънати извън форма, сякаш изобщо не са изключения. Основата за това се дължи отчасти на появата на машинно обучение (ML) и дълбоко обучение (DL). Както скоро ще видите, ML/DL е форма на съпоставяне на изчислителни шаблони, подобни на които са „по-лесни“ за разработване и внедряване, ако желаете да игнорирате или заобикаляте изключенията. Това е много проблематично и поражда сериозни опасения относно етиката на ИИ. За цялостното ми текущо и обширно отразяване на AI Ethics и Ethical AI вижте връзката тук намлява връзката тук, Само за да назовем няколко.

Нещата не трябва да са по този начин и, моля, знайте, че това се подклажда от онези, които създават и внедряват AI, като избират да игнорират или омаловажават обработката на изключения в рамките на техните измислици на AI.

Когато правилата са изключенията

Нека първо разопаковаме природата на средния случай спрямо реализацията на изключения.

Любимият ми пример за този тип натрупване или късогледо подход за среден случай без изключения е ярко осветен от почти всеки епизод на всепризнатия и все още изключително популярен телевизионен сериал, известен като Къща, д-р (обикновено се изразява само като Къщи, който продължи от 2004 до 2012 г. и може да се гледа днес в социалните медии и други медии). Шоуто включваше измислен герой на име д-р Грегъри Хаус, който беше груб, непоносим и доста неконвенционален, но въпреки това той беше представен като медицински гений, който може да открие най-неясните болести и неразположения. Други лекари и дори пациенти може да не са го харесали непременно, но той свърши работата.

Ето как се разигра един типичен епизод (общо предупреждение за спойлер!).

Пациент се появява в болницата, където д-р Хаус работи. Първоначално пациентът проявява донякъде общи симптоми и различни други лекари се редуват, опитвайки се да диагностицират и излекуват пациента. Странното е, че опитите да се помогне на пациента или не успяват да подобрят неблагоприятните условия, или още по-лошо, все още имат обратен ефект. Пациентът става все по-зле и по-зле.

Тъй като сега на пациента се гледа като на вид медицинско любопитство и тъй като никой друг не може да разбере от какво страда пациентът, д-р Хаус е привлечен в случая. Понякога това се прави нарочно, за да се използва медицинската му мощ, докато в други случаи той чува за случая и вродените му инстинкти го привличат към необичайните обстоятелства.

Постепенно установяваме, че пациентът има някакво изключително рядко заболяване. Само д-р Хаус и неговият екип от стажанти могат да разберат това.

Сега, след като споделих с вас основната сюжетна линия на епизодите, нека се потопим в научените уроци, които илюстрират естеството на средния случай спрямо изключенията.

Измислените истории са предназначени да покажат как вътрешното мислене понякога може да пропусне целта. Всички останали лекари, които първоначално се опитват да помогнат на пациента, са замъглени в мисловните си процеси. Те искат да вкарат симптомите и представените аспекти в конвенционална медицинска диагноза. Пациентът е само един от многото, които вероятно са виждали преди. Прегледайте пациента и след това предпишете същите лечения и медицински решения, които той многократно е използвал през цялата си медицинска кариера.

Измийте, изплакнете, повторете.

В известен смисъл можете да оправдаете този подход. Шансовете са, че повечето пациенти ще имат най-честите заболявания. Ден след ден тези лекари се сблъскват с едни и същи медицински проблеми. Бихте могли да предположите, че пациентите, влизащи в болницата, наистина са на медицинска поточна линия. Всеки от тях протича по стандартизираните протоколи на болницата, сякаш е част от производствено съоръжение или монтажен завод.

Средният случай преобладава. Това не само е подходящо като цяло, но също така позволява на болницата и медицинския персонал да оптимизират съответно своите медицински услуги. Разходите могат да бъдат намалени, когато измислите медицинските процеси за справяне със средния случай. Има един доста известен съвет, който често се набива в съзнанието на студентите по медицина, а именно, че ако чуете звуци от копита, идващи от улицата, има вероятност да мислите за кон, а не за зебра.

Ефективно, продуктивно, ефективно.

Докато едно изключение не се прокрадва по средата.

Може би зебра от зоологическата градина е избягала и се е скитала по вашата улица.

Означава ли това, че изключенията трябва да са правило и трябва да оставим настрана правилото за средния случай, вместо да се фокусираме изключително върху изключенията?

Трудно ще ви е да твърдите, че всичките ни ежедневни срещи и услуги трябва да бъдат фокусирани върху изключения, а не върху средния случай.

Имайте предвид, че не правя такова предложение. Това, което твърдя, е, че трябва да гарантираме, че са разрешени изключения и че трябва да разпознаваме кога възникват изключения. Споменавам това, защото някои специалисти са склонни да заявяват шумно, че ако сте привърженик на признаването на изключения, трябва следователно да се противопоставяте на разработването за средния случай.

Това е фалшива дихотомия.

Не си падайте по това.

Можем да вземем нашата торта и да я изядем също.

Обосноваване на правото да бъдеш изключение

След това може би ще представя малко шок, който свързва всичко това с процъфтяващата употреба на AI.

Системите за изкуствен интелект все повече се създават така, че да се концентрират върху средния случай, често с изключване или в ущърб на разпознаването на изключения.

Може да се изненадате да разберете, че това се случва. Повечето от нас биха предположили, че тъй като AI е форма на компютърна автоматизация, красотата на автоматизирането на нещата е, че обикновено можете да включите изключения. Това обикновено може да стане на по-ниска цена, отколкото ако използвате човешки труд за извършване на подобна услуга. С човешкия труд може да е скъпо или непосилно да разполагате с всякакъв вид труд, който може да се справи с изключения. Нещата са много по-лесни за управление и поставяне на място, ако можете да приемете, че вашите клиенти или клиенти са от среден калибър. Но използването на компютъризирани системи трябва да позволява изключения, което е лесно. По този начин на мислене би трябвало бурно да се радваме на по-компютъризираните възможности, които излизат на преден план.

Приемете това като умопомрачителна главоблъсканица и отделете малко време, за да помислите върху този досаден въпрос: Как може AI, който иначе се смята за най-доброто от автоматизацията, привидно неумолимо да върви по рутинизирания и безизключителен път, който по ирония на съдбата или неочаквано си представяхме, че ще върви в точно обратната посока?

Отговор: Машинното обучение и задълбоченото обучение обаче ни отвеждат до безизключително съществуване не защото задължително трябва да поемем по този път (можем и по-добре).

Нека разопаковаме това.

Да предположим, че решим да използваме машинно обучение, за да създадем AI, който ще се използва за разгадаване на медицински диагнози. Ние събираме куп исторически данни за пациентите и техните медицински обстоятелства. ML/DL, който създадохме, се опитва да предприеме съпоставяне на изчислителен модел, който ще изследва симптомите на пациентите и ще изобрази очаквано заболяване, свързано с тези симптоми.

Въз основа на въведените данни, ML/DL математически установява, че симптоми като хрема, болки в гърлото, главоболие и болки са силно свързани с обикновената настинка. Една болница избира да използва този AI за извършване на предварителен скрининг на пациенти. Разбира се, пациентите, съобщаващи за тези симптоми при първото си идване в болницата, са „диагностицирани“ като вероятно имащи обикновена настинка.

Сменяйки предавките, нека добавим нещо като д-р Хаус към всичко това.

Пациент идва в болницата и се диагностицира от AI. AI показва, че пациентът изглежда има обикновена настинка въз основа на симптомите на хрема, възпалено гърло и главоболие. На пациента се дават привидно подходящи рецепти и медицински съвети за справяне с обикновена настинка. Всичко това е неразделна част от подхода на средния случай, използван при разработването на AI.

Оказва се, че пациентът има тези симптоми в продължение на няколко месеца. Експерт по редки болести и храни осъзнава, че същите тези симптоми могат да отразяват изтичане на цереброспинална течност (CSF). Експертът лекува пациента с различни хирургични процедури, свързани с такива течове. Пациентът се възстановява (между другото, тази забележителна история за пациент с изтичане на ликвор, който първоначално е бил диагностициран като обикновена настинка, се базира на реален медицински случай).

Сега ще проследим нашите стъпки в тази медицинска сага.

Защо изкуственият интелект, който извършваше предварителния скрининг на приема, не успя да прецени, че пациентът може да има това рядко заболяване?

Един от отговорите е, че ако данните за обучение, използвани за изработване на ML/DL, не съдържат такива случаи, в тях няма да има нищо, към което да съпостави изчислителния модел. Като се има предвид липсата на данни, обхващащи изключения от правилото, самото общо правило или среден случай ще се считат за привидно безупречни и ще се прилагат без никакво колебание.

Друга възможност е, да кажем, че е имало случай на това рядко изтичане на CSF в историческите данни, но това е само един конкретен случай и в този смисъл отклонение. Всички останали данни бяха математически близки до установения среден случай. Тогава възниква въпросът какво да правим с така наречения извънреден показател.

Моля, имайте предвид, че справянето с тези извънредни стойности е въпрос, който значително се различава от това как разработчиците на AI могат да решат да се борят с появата на нещо извън определения среден случай. Няма задължителен подход, който разработчиците на AI да са принудени да предприемат. Това е малко див запад по отношение на това, което всеки разработчик на AI може да направи във всеки даден случай, предизвикващ изключение от техните усилия за разработка на ML/DL.

Ето моя списък с начините, по които тези изключения са често срещани неприлично обработван:

• Изключението се приема като грешка
• Изключението се счита за недостойно
• Изключение се приема като регулируемо в „нормата“
• Изключение изобщо не се забелязва
• Забелязано изключение, но накратко игнорирано
• Изключението е забелязано и по-късно забравено
• Изключението е забелязано и скрито от погледа
• Т.н.

Разработчик на AI може да реши, че рядкостта не е нищо повече от грешка в данните. Може да изглежда странно, че някой би мислил по този начин, особено ако се опитате да го хуманизирате, например като си представите, че пациентът с изтичане на CSF е този единствен пример. Съществува обаче силно изкушение, че ако всички ваши данни извън контекста казват основно едно нещо, може би състоящо се от хиляди и хиляди записи и всички те се събират в среден случай, появата на една странна част от данните може лесно (мързеливо!) да се тълкува като откровена грешка. След това „грешката“ може да бъде отхвърлена от разработчика на AI и да не се разглежда в областта на това, върху което се обучава ML/DL.

Друго средство за справяне с изключение би било да се реши, че това е недостоен въпрос. Защо да се занимавате с една рядкост, когато може би бързате да стартирате ML/DL? Изхвърлете отклонението и продължете напред. Никоя мисъл не се насочва непременно към последствията по пътя.

Още един подход включва сгъване на изключението в останалата част от средната среда. Разработчикът на AI модифицира данните, за да отговарят на останалата част от нормата. Освен това има вероятност разработчикът на AI да не забележи, че изключението съществува.

ML/DL може да съобщи, че изключението е открито, след което разработчикът на AI трябва да инструктира ML/DL как да се третира математически отклонението. Разработчикът на AI може да постави това в списък със задачи и по-късно да забрави да се справи с него или може просто да избере да го игнорира и т.н.

Като цяло, откриването и разрешаването на справянето с изключения, когато става въпрос за AI, е без конкретно уговорен или убедително балансиран и обоснован подход сам по себе си. Изключенията често се третират като недостойни изгнаници и средният случай е преобладаващият победител. Справянето с изключения е трудно, може да отнеме много време, изисква подобие на умни умения за разработване на AI и в противен случай е караница в сравнение с събирането на неща в изящна папийонка от универсален пакет.

До известна степен това е причината етиката на ИИ и етичният ИИ да е толкова важна тема. Предписанията на AI етиката ни карат да останем бдителни. AI технолозите понякога могат да бъдат заети с технологиите, особено с оптимизирането на високите технологии. Те не обмислят непременно по-големите обществени разклонения.

Освен използването на принципите на етиката на ИИ като цяло, има съответен въпрос дали трябва да имаме закони, които да управляват различните употреби на ИИ. Нови закони се обединяват на федерално, щатско и местно ниво, които засягат обхвата и естеството на начина, по който трябва да се създаде ИИ. Усилията за изготвяне и приемане на такива закони са постепенни.

В тази конкретна дискусия за ролята на изключенията идва една провокативна гледна точка, че може би трябва да има законово право, свързано с това да бъдеш изключение. Възможно е единственото жизнеспособно средство за получаване на добросъвестно признание за някой, който вероятно е изключение, да включва използването на дългата ръка на закона.

Въведете нов вид човешки права.

Правото да се счита за изключение.

Помислете за това предложение: „Правото да бъдеш изключение не означава, че всеки индивид is изключение, но когато дадено решение може да нанесе вреда на субекта на решението, вземащият решението трябва да обмисли възможността субектът може бъде изключение. Правото да бъдеш изключение включва три съставки: вреда, индивидуализация, и несигурност. Лицето, което взема решение, трябва да избере да нанесе вреда само когато е обмислило дали решението е подходящо индивидуализирано и, което е изключително важно, несигурността, която придружава управлявания от данни компонент на решението. Колкото по-голям е рискът от увреждане, толкова по-сериозно е съображението” (от Сара Сен, в изследователска статия, озаглавена Правото да бъдеш изключение при вземането на решения, базирани на данни, MIT, 12 април 2022 г.).

Може да се изкушите да предположите, че вече имаме такова право.

Не е задължително. Според изследователската статия вероятно най-близкото международно признато човешко право може да бъде това на индивидуалното достойнство. На теория идеята, че трябва да има признаване на достойнството, така че да се обхване дадено лице и неговата специфична уникалност, ви въвежда в полето на потенциално човешко право на изключение. Едно притеснение е, че съществуващите закони, управляващи сферата на достойнството, се смятат за малко мъгляви и прекалено гъвкави, поради което не са добре настроени към конкретната правна конструкция на правото на изключение.

Тези, които подкрепят ново право, което се състои от правото на човека да бъде изключение, биха казали, че:

• Подобно право би принудило законно разработчиците на AI изрично да се справят с изключенията
• Фирмите, произвеждащи AI, биха били по-законно застрашени, защото не се занимават с изключения
• AI вероятно ще бъде по-добре балансиран и по-стабилен като цяло
• Тези, които използват AI или са обект на AI, биха били по-добре
• Когато AI не допуска изключения, правната защита би била лесно осъществима
• Създателите на AI също ще бъдат по-добре (техният AI ще покрие по-широк кръг от потребители)
• Т.н.

Онези, които се противопоставят на едно ново право, обозначено като човешко право да бъде изключение, са склонни да казват:

• Съществуващите права на човека и законови права обхващат в достатъчна степен това и няма нужда да усложнявате нещата
• На плещите на създателите на изкуствен интелект ще бъде поставена ненужна тежест
• Усилията за създаване на AI ще станат по-скъпи и ще забавят напредъка на AI
• Ще се появят фалшиви очаквания, че всички ще изискват да бъдат изключение
• Самото право несъмнено би било предмет на различни тълкувания
• Тези, които печелят най-много, ще бъдат адвокатските професии, когато съдебните дела скочат до небето
• Т.н.

Накратко, опозицията срещу такова ново право обикновено твърди, че това е игра с нулева сума и че законното право да бъде изключение ще струва повече, отколкото извлича полза. Онези, които смятат, че такова ново право е разумно необходимо, са склонни да подчертаят, че това не е игра с нулева сума и че в крайна сметка всички печелят, включително тези, които правят ИИ, и тези, които използват ИИ.

Можете да сте сигурни, че този дебат, обхващащ правни, етични и обществени последици, свързани с ИИ и изключенията, ще бъде силен и упорит.

Самоуправляващите се автомобили и значението на изключенията

Помислете как това се прилага в контекста на автономни системи като автономни превозни средства и самоуправляващи се автомобили. Вече имаше различни критики относно средностатистическия начин на мислене на разработването на AI за самоуправляващи се автомобили и автономни превозни средства.

Например, в началото много малко дизайни на самоуправляващи се автомобили са приспособени към тези, които имат някаква форма на физическо увреждане или увреждане. Не се е мислило много за по-широкото обхващане на пълната гама от нужди на ездача. Като цяло тази осведоменост се е увеличила, въпреки че все още се изразяват опасения относно това дали това е достатъчно напреднало и толкова широко възприето, колкото трябва да бъде.

Друг пример за среден случай срещу изключение е свързан с нещо, което може да ви хване неподготвен.

Готови ли сте?

Дизайнът и внедряването на много от системите за шофиране с изкуствен интелект и самоуправляващите се автомобили днес са склонни да правят мълчаливо или неизказано предположение, че възрастните ще се возят в самоуправляващата се кола. Знаем, че когато зад волана е шофьор, в превозното средство, разбира се, има възрастен, по дефиниция, тъй като обикновено получаването на свидетелство за шофиране се основава на пълнолетие (е, или почти). За самоуправляващите се автомобили, които имат AI, който извършва цялото шофиране, няма нужда да присъства възрастен.

Въпросът е, че можем да имаме деца, които се возят в коли сами без присъствието на възрастен, поне това е възможно в случай на напълно автономни самоуправляващи се коли с AI. Можете да изпратите децата си на училище сутрин, като използвате самоуправляваща се кола. Вместо да се налага да карате децата си или да се налага да използвате човешки шофьор на услуга за споделено пътуване, можете просто да накарате децата си да се натрупат в самоуправляваща се кола и да бъдат откарани до училището.

Не всичко е розово, когато става въпрос за деца в самоуправляващи се коли.

Тъй като вече няма нужда да има възрастен в превозното средство, това означава, че децата вече няма да се чувстват повлияни или да кажем контролирани от присъствието на възрастен. Децата ще полудеят ли и ще разкъсат интериора на самоуправляващите се коли? Ще се опитат ли децата да се изкачат или да се протегнат през прозорците на самоуправляващата се кола? Какви други видове лудории биха могли да направят, водещи до потенциални наранявания и сериозни щети?

Отразих разгорещения дебат относно идеята децата да се возят сами в самоуправляващи се коли, вижте връзката тук. Някои казват, че това никога не трябва да се допуска. Някои казват, че е неизбежно и трябва да разберем как най-добре да го накараме да работи.

Заключение

Нека се върнем към всеобхватната тема за средния случай срещу изключението.

Изглежда всички сме съгласни, че винаги ще има някакво изключение от правилото. След като правилото е формирано или идентифицирано, трябва да търсим изключения. Когато се натъкнем на изключения, трябва да помислим за кое правило вероятно се отнася това изключение.

Много от изкуствения интелект, който се създава днес, е оформен около формулирането на правилото, докато предизвикателствата, свързани с изключенията, обикновено се изоставят и пренебрегват.

За тези, които обичат да бъдат злобни и да казват, че няма изключения от правилото, че винаги има изключения от правилото, бих признал, че това остроумие изглежда е умствено озадачаващо. А именно, как можем да имаме правило, че винаги има изключения, но след това самото това правило изглежда не се прилага към правилото, че винаги има изключения от правилото?

Направо ви върти главата.

За щастие, няма нужда да усложнявате излишно тези отрезвяващи въпроси. Надяваме се, че можем да живеем с удобното и жизненоважно практическо правило, за което трябва да се грижим и да се съобразяваме с изключенията от всяко правило.

Това урежда нещата, така че сега нека да работим по въпроса.