Етиката на AI се опира до Аристотел, за да проучи дали хората могат да изберат да поробят AI на фона на появата на напълно автономни системи

Приятел или враг.

Риба или птица.

Лице или нещо.

Всички тези всеобхватни главоблъсканици привидно подсказват, че понякога сме изправени пред дихотомична ситуация и трябва да изберем единия или другия аспект. Животът може да ни принуди да се борим с обстоятелства, които се състоят от две взаимно изключващи се опции. На по-аротичен език бихте могли да предположите, че едно изключващо двоично уравнение изисква от нас категорично да вървим по един отделен път, а не по друг.

Нека се съсредоточим конкретно върху дихотомията човек или нещо.

Горещият въпрос за човек или нещо възниква отново и отново по отношение на изкуствения интелект (AI).

За да поясня, днешният AI е абсолютно не човек и не носи никакво подобие на разум, въпреки каквито и широко отворени очи и напълно огромни заглавия да виждате в новините и в социалните медии. По този начин можете да сте твърдо спокойни, че в момента въпросът дали AI е човек или нещо, е лесно отговорен. Прочетете устните ми, в истинския избор на Хобсън между човек или нещо, AI засега е нещо.

Като се има предвид това, можем да гледаме към бъдещето и да се чудим какво би могло да се случи, ако успеем да постигнем разумна форма на AI.

Някои разумни критици (плюс язвителни скептици) предполагат, че може би броим нашите пилета много преди да бъдат излюпени, като в днешно време обсъждаме последствията от разумния ИИ. Изразената загриженост е, че самата дискусия предполага, че трябва да сме на прага на такъв AI. Обществото като цяло може да бъде подведено да вярва, че утре или вдругиден ще има внезапно и шокиращо разкритие, че всъщност сме стигнали до разумния ИИ (това понякога се нарича от някои сингулярност на ИИ или експлозия на интелигентност, вж. моя анализ в връзката тук). Междувременно, ние не знаем кога ще се появи такъв AI, ако изобщо някога, и със сигурност не е нужно да се оглеждаме зад всеки ъгъл и да бъдем ужасяващо на ръба, че разумният AI ще скочи към нас напълно неочаквано в следващия малко.

Другата страна на дебата посочва, че не бива да заравяме главите си дълбоко в пясъка. Виждате ли, ако не обсъждаме открито и не обмисляме възможностите, свързани с разумния ИИ, ние правим на човечеството предполагаема сериозна лоша услуга. Няма да сме готови за работа с разумния ИИ, когато или ако възникне. Освен това, и може би дори по-силно казано, като предвиждаме разумния ИИ, ние можем донякъде да вземем нещата в свои ръце и да оформим посоката и естеството на това как ще бъде такъв ИИ и от какво ще се състои (не всички са съгласни с тази последна точка , а именно някои казват, че такъв AI ще има изцяло собствен „ум“ и ние няма да можем да го оформим или закрепим, тъй като AI ще може самостоятелно да мисли и да определя средства за постоянно съществуване).

Етиката на ИИ е склонна да застане на страната на гледната точка, че би било разумно да изнесем тези трудни и аргументирани въпроси на ИИ на открито сега, вместо да чакаме, докато не останем без избор или да се поразимаме при постигането на такъв ИИ. Читателите добре знаят, че съм обхващал обстойно етиката на AI и етичния AI, включително обхващащ широк набор от трудни въпроси като юридическа личност на AI, ограничаване на AI, изхвърляне на AI, алгоритмична монокултура на AI, измиване на етиката на AI, двойна употреба AI така наречените проекти на Doctor Evil, AI, криещ динамиката на обществената власт, надежден AI, одит на AI и така нататък (вижте моите колони, отразяващи тези жизненоважни теми на връзката тук).

Зададох ви предизвикателен въпрос.

В бъдеще, ако приемем, че по какъвто и да е начин ще се окажем с разумен AI, този разумен AI ще бъде тълкуван от всички нас като личност или като нещо?

Преди да започнем да се потапяме задълбочено в този напълно провокативен въпрос, позволете ми да кажа нещо за крилатата фраза на „чувствителен AI“, така че всички да сме на една и съща страница. Има много безпокойство относно значението на чувството и значението на съзнанието. Експертите могат лесно да се разминават с това какво представляват тези думи. В допълнение към тази калта, когато някой се позовава на „AI“, вие нямате готови средства да разберете какво има предвид сам по себе си. Тук вече подчертах, че днешният AI не е разумен. Ако в крайна сметка стигнем до бъдещ AI, който е разумен, вероятно ще го наречем и „AI“. Работата е там, че тези спорни въпроси могат да бъдат дяволски объркващи в момента по отношение на това дали изричането на фразата „ИИ“ е свързано с несъзнателния ИИ днес или някой ден може би разумния ИИ.

Тези, които обсъждат изкуствения интелект, могат да се окажат, че говорят един през друг и да не осъзнават, че единият описва ябълки, а другият междувременно говори за портокали.

За да се опитаме да заобиколим това объркване, има корекция на формулировката на AI, която мнозина използват за целите на обнадеждаващо изясняване. В момента сме склонни да наричаме изкуствения общ интелект (AGI) като тип AI, който може да извършва напълно интелигентни усилия. В този смисъл, по-меката употреба на израза „AI“ е оставена или да се тълкува като по-малка версия на AI, която някои казват, че е тесен AI, или е двусмислена в обозначаването и не знаете дали препратката е към не - разумен AI или може би разумният AI.

Ще внеса допълнителен обрат към това.

В зависимост от дадената дефиниция на чувството, можете да влезете в разгорещен дискурс дали AGI ще бъде разумен или не. Някои твърдят, че да, разбира се, AGI по своята присъща природа трябва да бъде съзнателна. Други твърдят, че можете да имате AGI, който не е чувствителен, следователно, чувствителността е различна характеристика, която не е изискване за постигане на AGI. Разгледах по различни начини този дебат в моите колони и няма да преразказвам въпроса тук.

За момента, моля, приемете, че отсега нататък в тази дискусия тук, когато се позовавам на AI, възнамерявам да предполагам, че имам предвид AGI.

Ето изтеглянето на това. Все още нямаме AGI и казано казано, за момент ще се съгласим учтиво, че AGI е в същия общ лагер като разумния AI. Ако използвам „AGI“ само в рамките на моята дискусия, тази фраза е потенциално разсейваща, тъй като все още не са много свикнали да виждат „AGI“ като прозвище и вероятно ще бъдат леко раздразнени да виждат многократно тази сравнително по-нова фраза. Сега, ако вместо това трябваше да продължа да се позовавам на „чувствителния AI“, това може да бъде разсейващ фактор и за онези, които се борят дали AGI и разумния AI са еднакви или различни един от друг.

За да избегнете тази каша, приемете, че позовавам се на AI е същото като да кажа AGI или дори чувствителен AI, и поне знайте, че не говоря за днешния несъзнателен не-AGI AI, когато изпадам в мъките на съображенията относно AI, който изглежда има човешки интелект. От време на време ще използвам съименника на AGI, за да ви напомня от време на време тук, че проучвам вида AI, който все още нямаме, особено в началото на това изследване на гатанката човек или нещо.

Това беше полезно признание с дребен шрифт и сега се връщам към основния въпрос.

Позволете ми сега да ви попитам дали AGI е човек или нещо.

Помислете за тези два въпроса:

• AGI човек ли е?
• AGI нещо ли е?

След това нека продължим да повтаряме всеки въпрос и съответно да отговорим на въпросите с поредица от отговори с да или не, както подхожда на предполагаем дихотомичен избор.

Започнете с тази постулирана възможност:

• AGI човек ли е? Отговор: Да.
• AGI нещо ли е? Отговор: Не.

Обмислете това. Ако AGI всъщност се тълкува като човек, а не като нещо, можем почти със сигурност да се съгласим, че трябва да третираме AGI, сякаш е сходен с човек. Изглежда, че има недостатъчно реален аргумент относно непредоставянето на AGI като форма на юридическо лице. Това или би било напълно същото като човешката юридическа личност, или може да решим да измислим вариант на ориентирано към човека юридическо лице, което би било разумно по-приложимо към AGI. Случаят е приключен.

Това беше лесно-леко.

Представете си вместо това, че сме декларирали това:

• AGI човек ли е? Отговор: Не.
• AGI нещо ли е? Отговор: Да.

При това обстоятелство решението очевидно е ясно, тъй като ние казваме, че AGI е нещо и не се издига до категорията да бъдеш човек. Изглежда, че има общо съгласие, че категорично няма да предоставим юридическо лице на AGI, поради факта, че това не е лице. Като нещо AGI вероятно и разумно ще попадне в нашата обща рубрика за това как законно третираме „нещата“ в нашето общество.

Две надолу, още две възможности.

Представете си това:

• AGI човек ли е? Отговор: Да.
• AGI нещо ли е? Отговор: Да.

О, това изглежда странно, тъй като имаме два отговора с „Да“. Досадно. Ние предполагаме, че AGI е едновременно личност и същевременно нещо. Но това изглежда е в лицето на нашата прокламирана дихотомия. На теория, според ограниченията на една дихотомия, нещо трябва да бъде или човек, или трябва да бъде нещо. За тези две кофи или категории се казва, че се изключват взаимно. Като твърдим, че AGI е и двете, ние нарушаваме системата и нарушаваме взаимно изключващата се договореност.

Последната ни възможност изглежда е следната:

• AGI човек ли е? Отговор: Не.
• AGI нещо ли е? Отговор: Не.

Уви, това също е лошо за нашите опити да класифицираме AGI като човек или нещо. Ние казваме, че AGI не е човек, което вероятно би означавало, че трябва да е нещо (единственият ни друг наличен избор, в тази дихотомия). Но също така заявихме, че AGI не е нещо. И все пак, ако AGI не е нещо, по логика ще трябва да твърдим, че AGI е човек. Вървим наоколо. Парадокс, разбира се.

AGI в тези последни две възможности е или (1) едновременно лице и нещо, или (2) нито лице, нито вещ. Може нахално да кажете, че тези две твърдения за AGI са донякъде сходни с класическата главоблъсканица за това, което не е нито риба, нито птица, ако разбирате какво имам предвид.

какво да правим?

На път съм да предложа едно често спорно и силно оспорвано предложено решение на тази дилема за класификация на AGI, въпреки че трябва да бъдете предупредени предварително, че вероятно ще бъде смущаващо да видите или чуете. Моля, подгответе се съответно.

В изследователска статия, която се занимава с този проблем, се казва следното: „Един метод за разрешаване на този проблем е да се формулира трети термин, който не е нито едното, нито другото или вид комбинация или синтез от едното и другото“ (от Дейвид Гънкел, Университетът на Северен Илинойс в Защо роботите не трябва да бъдат роби, 2022 г.). И документът след това предоставя следната допълнителна точка: „Едно възможно, ако не и изненадващо, решение на дихотомията на изключителния човек/нещо е робство” (за същата хартия).

Като допълнителна информация, години по-рано имаше документ, който се появи през 2010 г., озаглавен „Роботите трябва да бъдат роби“, който се превърна в един вид опора за стимулиране на този вид разглеждане, в който документът заявява: „Моята теза е, че роботите трябва да бъдат построени, продавани и считани законно за роби, а не като спътници“ (в статия на Джоана Брайсън). За да се опита да изясни темата, без да използва толкова тежки и разтърсващи формулировки, статията продължи да заявява следното: „Това, което искам да кажа, е „Роботите трябва да бъдат слуги, които притежавате“ (според документа на Брайсън).

Много изследователи и автори са разгледали тази основа.

Помислете за многобройни научнофантастични приказки, които показват, че човечеството поробва AI роботи. Някои говорят за роботи роби, изкуствени слуги, робство на ИИ и други подобни. Интересното е, че колкото и грубо да изглежда изразът „роботи роби“, някои се притесняват, че ако вместо това говорим за „роботи-слуги“, ние избягваме реалността за това как подобни автономни системи на ИИ са склонни да бъдат третирани (заменяйки думата с „ слуги” се казва, че е разводняване на намеренията и трик за избягване на отрезвяващите последици). По-късно Брайсън заявява в публикация в блог от 2015 г., че „сега осъзнавам, че не можете да използвате термина „роб“, без да се позовете на човешката му история“.

За тези, които се стремят да проучат задълбочено тази заплитаща AGI тема, понякога извеждат исторически примери от реалния свят, от които можем да черпим прозрения. Разбира се, нямаме предишна AGI, която да покаже как човечеството се е справило с въпроса. Аргументът гласи, че все пак може да имаме полезни исторически цели, които си струва да проучим, включващи как хората са се отнасяли към други хора.

Например, в книга, публикувана през 2013 г., авторът заявява следното: „Обещанието и опасността от изкуствени, интелигентни слуги за първи път са имплицитно изложени преди повече от 2,000 години от Аристотел“ (книга от Кевин Лаграндьор, Android и интелигентни мрежи в ранната модерна литература и култура). Идеята е, че можем да се облегнем на Аристотел и да видим дали има прозрения за това как човечеството ще или трябва в крайна сметка да лекува AGI.

Сигурен съм, че знаете важността на изучаването на историята, както изобилно се подчертава от известните думи на Джордж Сантаяна: „Онези, които не могат да си спомнят миналото, са осъдени да го повтарят“ (в Животът на разума, 1905).

Поздравления за Института за етика и изкуствен интелект в Оксфордския университет

Една скорошна и доста уважавана презентация разгледа отблизо въпроса за етиката на ИИ сред събирането на прозрения от произведенията и живота на Аристотел. В встъпителната годишна лекция за Оксфордския университет Институт по етика и изкуствен интелект, професор Джозая Обер от Станфордския университет задълбочено разгледа темата в своята презентация „Етика в AI с Аристотел“, която се проведе наскоро на 16 юни 2022 г.

Странична бележка, в качеството ми на стипендиант от Станфорд и глобален експерт по етика и право на изкуствен интелект, бях доволен, че Джозая Обер от Станфорд беше избран за встъпителен лектор. Прекрасен избор и изключителна беседа.

Ето резюмето, предоставено за неговата ангажираща реч: „Аналитичната философия и спекулативната фантастика в момента са нашите основни интелектуални ресурси за сериозно мислене за етиката в AI. Предлагам да добавя трето: древна социална и философска история. В Политика, Аристотел развива известна доктрина: Някои хора са роби „по природа“ – интелигентни, но страдащи от психологически дефект, който ги прави неспособни да разсъждават за собственото си благо. Като такива, те трябва да се третират като „одушевени инструменти“, инструменти, а не като цели. Тяхната работа трябва да бъде ръководена и използвана в полза на другите. Отвратителната доктрина на Аристотел е била използвана за порочни цели, например в Америка преди войната. И все пак, той е полезен за етиката на ИИ, доколкото древното робство е предмодерен прототип на една версия на ИИ. Поробените хора са били повсеместни в древногръцкото общество – работници, проститутки, банкери, правителствени бюрократи – но не се различават лесно от свободните хора. Повсеместността, заедно с предположението, че робството е практическа необходимост, генерира редица етични пъзели и затруднения: Как точно робите са различни от „нас“? Как да ги различим от себе си? Имат ли права? Какво представлява малтретирането? Може ли инструментът ми да бъде мой приятел? Какви са последствията от освобождаването Дългата история на гръцката философска и институционална борба с тези и други въпроси допълва интерпретативния репертоар на съвременните етици, които се изправят пред бъдещето, в което една интелигентна машина може да се счита за „естествен роб“ (според Оксфордския университет Институт по етика на ИИ уебсайт).

За повече информация относно презентацията и достъп до видеозаписа на беседата вж връзката тук.

Модератор на презентацията беше професор Джон Тасиулас, встъпителният директор на Институт по етика и изкуствен интелект, и професор по етика и правна философия във Философския факултет на Оксфордския университет. Преди това той беше първият катедра по политика, философия и право и директор на Центъра за политика, философия и право Yeoh Tiong Lay в The Dickson Poon School of Law, Kings College London.

Силно препоръчвам на всеки, който се интересува от етиката на изкуствения интелект, да бъде в крак с текущата работа и поканените разговори на Оксфордския университет Институт по етика и изкуствен интелектВиж връзката тук и / или връзката тук за допълнителна информация.

Като фон, ето посочената мисия и фокус на Института: „Институтът за етика в AI ще обедини водещи световни философи и други експерти в хуманитарните науки с техническите разработчици и потребители на AI в академичните среди, бизнеса и правителството. Етиката и управлението на AI е изключително динамична област на изследвания в Оксфорд и Институтът е възможност да направим смел скок напред от тази платформа. Всеки ден носи повече примери за етичните предизвикателства, породени от ИИ; от разпознаване на лица до профилиране на избиратели, интерфейси на мозъчни машини до оръжейни дронове и продължаващия дискурс за това как AI ще повлияе на заетостта в глобален мащаб. Това е спешна и важна работа, която възнамеряваме да популяризираме в международен план, както и вграждане в нашите собствени изследвания и преподаване тук, в Оксфорд“ (източник чрез официалния уебсайт).

Извеждане на уроците на Аристотел на преден план

Древна Гърция открито приема и одобрява практиката на поробване. Например, според съобщенията, Атина в 5^th и 6^th век пр. н. е. има едно от най-големите въплъщения на поробване, при което се оценяват 60,000 80,000 до може би XNUMX XNUMX души. Ако сте чели някоя от многото гръцки истории и пиеси от онази епоха, има обилно споменаване на въпроса.

По време на живота си Аристотел е бил изцяло потопен в социалните и културните аспекти, водещи до поробване, и пише обширно по темата. Днес можем да четем думите му и да се стремим да разберем как и защо са възгледите му по въпроса. Това може да бъде много показателно.

Може да се чудите защо Аристотел би бил особено важен източник за разглеждане по тази тема. Възникват поне две основни причини:

1) Велик Мислител. Аристотел със сигурност е оценен като един от най-великите мислители на всички времена, служещ като велик и дълбоко проучващ философ, и се разглежда също като етик, който установи много важни етични крайъгълни камъни. Някои са избрали да го помазат като баща на логиката, баща на реториката, баща на реализма и т.н., и признават влиянието му в голямо разнообразие от области и дисциплини.

2) Изживяно преживяване. Аристотел е живял по времето, когато Древна Гърция е била залята от робство. По този начин неговите прозрения не биха били просто за абстрактни предписания, а вероятно обхващат собствените му ежедневни преживявания като интегрално вплетени в културата и обществените нрави на онази епоха.

И така, имаме донякъде изумителна комбинация от някой, който е бил едновременно страхотен мислител и който също е имал очевидно преживян опит в темата, която ни интересува. Освен това той записа мислите си. Това е доста важно сега, за нашите днешни цели. Всички негови писания, заедно с други писания, които описват неговите речи и взаимодействия между другите, ни предоставят днес изобилие от материал за проверка и анализ.

Бих искал да ви отведа накратко свързана допирателна, за да спомена нещо друго относно общото понятие, което стои в основата на значението на изживян опит. Оставете настрана дискусията за Древна Гърция за момент, докато хвърляме бърз поглед върху всеобхватните аспекти на преживяванията.

Да предположим, че днес имах двама души, на които исках да задам различни въпроси за колите.

Един от тях никога не е карал кола. Този човек не знае как да шофира. Този човек никога не е сядал зад волана на автомобил. Обичайните и изключително обикновени контроли за шофиране са малко мистерия за този човек. Кой педал какво прави? Как го караш да спре? Как го караш да върви? Този не-шофьор е напълно объркан от подобни неща.

Другият човек е ежедневен шофьор. Всеки ден карат на работа. Те се занимават със спиране и движение. Карат от много години. Това включва всичко от тихи улици до забързани магистрали и странични пътища.

Ако помоля всеки от тях да ми разкаже какво е да караш кола, можеш ли да познаеш какви отговори бих могъл да получа?

Този, който никога не е карал кола, е длъжен да прави необмислени предположения. Може би човекът ще романтизира акта на шофиране. Шофирането е донякъде абстрактно за тях. Всичко, което биха могли да направят, е да предположат, че шофирането е безгрижно и вие сте в състояние да накарате колата да тръгне в желаната от вас посока.

Бих се обзаложил, че опитният шофьор ще разкаже различна история. Те могат да споменат предимствата на това да можете да шофирате, като донякъде отразяват чувствата на човек, който не е карал кола. Шансовете са опитният шофьор да добави много повече към табелата. Шофирането понякога изнервя. Вие носите тежка отговорност. Актът на шофиране е пълен със сериозни опасения и потенциални последици за живот или смърт.

Същността е, че когато можете да получите достъп до някой, който е преживял преживявания, има вероятност да получите по-реалистична перспектива за това какъв е светът по отношение на фокуса на разследването. Няма гаранция за такъв резултат. Възможно е не-шофьорът да знае какво знае опитният шофьор за шофирането, въпреки че едва ли бихме очаквали това и все още имаме притеснения, че не получаваме пълната информация.

Връщайки се към нашата дискусия за Аристотел, чрез неговите писания и писанията на други за него, ние сме в състояние да прегледаме неговия житейски опит по темата или фокуса на изследването тук. Второто е, че той също е бил мислител с огромни размери и трябва да очакваме, че ще получим буре, пълно с проницателни съображения за това.

Имайте предвид, че не е задължително да вярваме на думите му чистосърдечно, така че трябва да наблюдаваме внимателно неговите пристрастия. Неговото потапяне в тази епоха може да го отклони в опитите си да стои извън разглежданите въпроси, неспособен да предложи по подходящ начин някакво безпристрастно и безпристрастно мнение. Дори и най-настойчивите логици могат в крайна сметка да изкривят логиката, за да се опитат да отговорят на своите предпочитания и преживявания.

Нека сега да преминем към встъпителната беседа и да видим какви уроци може да ни даде Аристотел днес.

На вниманието на публиката веднага беше представена установителна точка по отношение на преживяванията. В случая на използване на AGI, тъй като днес нямаме AGI, ни е трудно да анализираме какво ще бъде AGI и как ще се справим с AGI. Липсват ни преживявания, свързани конкретно с AGI. Както отбеляза професор Обер, може да се окажем всички в свят на нараняване, докато достигнем AGI.

Това често се посочва като AI е екзистенциален риск, който описах много пъти в моите колони. Трябва да живеете в пещера, за да не сте наясно с крещящите опасения и подозрения, че ще произведем или генерираме AGI, които ще обричат ​​цялото човечество. Всъщност, въпреки че тук се концентрирам върху поробването на AI, мнозина биха открили, че това е тема с обратни или обърнати последици в сравнение с възможността AGI да избере да пороби човечеството. Изяснете приоритетите си, биха увещали някои хитри експерти.

Въпреки многото възклицания за AI като екзистенциален риск, със сигурност можем да размишляваме за другата полезна страна на AI монетата. Може би AGI ще успее да реши иначе привидно неразрешимите проблеми, пред които е изправено човечеството. AGI може да успее да открие лек за рак. AGI може да разбере как да реши глада по света. Небето е границата, както се казва. Това е сценарият на щастливото лице за AGI.

Оптимистът би казал, че е чудесно да си представим как AGI ще бъде благословия за човечеството, докато песимистът би бил склонен да предупреди, че недостатъкът изглежда много по-лош от спекулираните положителни страни. AGI, който помага на човечеството, е страхотен. AGI, която решава да убие всички хора или да ги пороби, е, това е очевидно разтърсващ обществото екзистенциален риск, който заслужава интензивно и животоспасяващо внимателно внимание.

Добре, да се върнем към същината на въпроса, ние нямаме житейски опит по отношение на AGI. Освен ако не можете да построите машина на времето и да отидете в бъдещето, когато (ако) съществува AGI, и след това да се върнете, за да ни кажете какво сте открили, в момента нямаме късмет за AGI от гледна точка на човешкия опит.

Друг начин за използване на преживяните преживявания включва факта, че Аристотел е живял по време на поробването. И ето кикъра. Тези, които са били поробени, в някои отношения са изобразявани като тип машина, смесица и съчетание на човек и нещо, така да се каже. Аристотел е известен с това, че нарича поробените като имот, който диша.

Предполагам, че може да сте объркани, че Аристотел, гигант на логиката и етиката, е можел не само да признае поробването, но и че външно и гръмогласно е защитавал практиката. Той лично също се възползва от робството. Това просто изглежда извън разбирането. Разбира се, с целия си огромен интелект и мъдрост, той би отхвърлил тази практика.

Смея да твърдя, че това подчертава понякога проблемните аспекти на извличането на късове мъдрост от някой, който е обременен (да кажем) от преживяванията си. Това е като рибата, която живее във водната купа. Всичко, което могат да възприемат, е водата навсякъде около тях. Опитът да си представим нещо извън техния свят на водна основа е огромно предизвикателство. По същия начин Аристотел беше напълно потопен в мироглед, приемащ преобладаващите норми. Неговите писания изглежда илюстрират този вид психическо ограничение, може да се каже (може би по избор, а не по подразбиране). Начинът, по който Аристотел оправда тези осъдителни практики, е удивително поглъщащ, като в същото време е обезпокоителен и достоен за разобличаване и дори осъждане.

Ще ви дам малко закачка, че „логиката“ на Аристотел по тази прословута тема включва одушевени инструменти, твърдяна взаимно предимство основано на познанието, йерархичните инструменти от по-висок и по-нисък ред, елементите на делиберацията и разсъжденията на душата, степени на добродетел, предполагаема проницателност и т.н. Надяваме се, че ще бъдете достатъчно заинтригувани от този тийзър, за да гледате видеото от разговора (вижте връзката, спомената по-рано).

Въпреки това няма да ви оставя да висите и поне ще посоча от какво се състои заключението накратко (предупреждение за спойлер, ако предпочитате да разберете чрез видеото, пропуснете останалата част от този параграф). Оказва се, че тази задълбочена научна оценка на „логиката“, която Аристотел използва, демонстрира измислица, изпълнена с противоречия и целият комплект и кукла се разпадат като крехка къща от карти. Парафразирайки настроенията на професор Обер, този велик етичен философ се разбива на рифа.

Не можете да вкарате квадратен колче в кръгла етична дупка.

Някои допълнителни съображения за мислене

Ако Аристотел имаше лоша логика по този въпрос, бихме ли инстинктивно отхвърлили постулациите и теориите на Аристотел по отношение на тази практика?

Не. Виждате ли, все още има какво да се извлече, като се рови в предположенията и изкривяванията на логиката, въпреки че те са пълни с грешки. Освен това можем да мислим как другите биха могли по невнимание да тръгнат по същия погрешен път.

Един допълнителен голям извод е, че обществото може да измисли странна или неадекватна логика, когато става въпрос за обмисляне дали AGI трябва да бъде поробен.

В момента можем да измислим логика какво трябва да се случи, след като AGI възникне (ако е така). Тази логика, лишена от преживявания относно AGI, може да бъде ужасно извън целта. Като се има предвид това, донякъде е обезсърчаващо да осъзнаем, че дори след като AGI съществува (ако съществува) и ние събираме преживяванията си сред AGI, все още може да сме извън целта какво да правим (подобно на грешките на Аристотел). Можем да се логваме в привидно нелогични подходи.

Трябва да бъдем нащрек, за да се заблуждаваме в логически „железни“ пози, които всъщност не са железни и са пълни с логически недостатъци и противоречия. Това също е независимо от това колко велик мислител може да предложи заявена логическа позиция, така че дори Аристотел илюстрира, че не всяко изказване и всяка позиция непременно носи ядливи плодове. Тези днес и в бъдеще, които може да изглеждат като популяризирани велики мислители по темата AGI, добре, ние трябва да им дадем същия преглед, който бихме направили на Аристотел или други възхвалявани „велики“ мислители, или в противен случай ще се окажем потенциално начело в задънена улица и мрачна пропаст на AGI.

Превключвайки предавките, бих искал да изведа и общ набор от разпознавания относно използването на ориентирана към човека метафора за робство, когато става въпрос за AGI. Някои експерти твърдят, че този тип сравнение е напълно неуместно, докато противниковият лагер казва, че е напълно полезно и дава силен поглед върху темата за AGI.

Позволете ми да споделя с вас две такива гледни точки от всеки от съответните два лагера.

Посоченото поучителна основа за обвързване на темите за робството и AGI:

• Угасване на човешкото поробване
• Разобличаване на покварата на поробването Всичко казано

Посоченото неблагоприятно или деструктивна основа за свързване на двете теми:

• Коварно антропоморфно приравняване
• Десенсибилизация на поробване

Ще разгледам накратко всяка една от тези точки.

Постулираните инструктивни точки:

• Угасване на човешкото поробване: Използвайки AGI за поробване, уж вече няма да се нуждаем и няма да преследваме никакво подобие на ориентирано към човека поробване. AGI по същество ще замени хората в това ужасно качество. Както вероятно знаете, има притеснения относно това, че AGI ще замени човешкия труд в работните места и работната сила. Твърди се, че AI заменя явленията на труда, излиза на преден план, когато приемете, че AGI ще се счита за „по-добър избор“ в сравнение с използването на хората за поробване. Ще надделее ли тази логика? Никой не може да каже със сигурност.
• Разобличаване на покварата на поробването Всички казаха: Този е малко по-отриван от гледна точка на логиката, но можем да му дадем момент, за да видим какво включва. Представете си, че имаме AGI почти навсякъде и ние като общество сме решили, че AGI трябва да бъде поробен. Освен това приемете, че AGI няма да хареса това. Като такива ние, хората, непрекъснато и ежедневно ще бъдем свидетели на покварата на поробването. Това от своя страна ще ни накара да осъзнаем или да получим откровението, че робството, разказано на всичко или някого, е още по-ужасяващо и отблъскващо, отколкото някога сме разбирали напълно. Това е аргументът отпред и в центъра.

Казано, че са разрушителни точки:

• Коварно антропоморфно приравняване: Това е един от тези аргументи за хлъзгав наклон. Ако с готовност изберем да поробим AGI, ние очевидно заявяваме, че поробването е допустимо. Всъщност бихте могли да предположите, че ние казваме, че поробването е желателно. Сега, това в началото може да бъде отнесено единствено към AGI, но отваря ли това вратата към твърдянето, че ако е добре за AGI, тогава „логично“ същата позиция може да е добре и за хората? Тревожно е, че това може да е твърде лесен скок за антропоморфизиране в обратното подобие, че всичко, което работи за AGI, ще бъде еднакво разумно и подходящо и за хората.
• Десенсибилизация на поробване: Това е аргументът капка по капка. Ние колективно решаваме да поробим AGI. Да предположим, че това работи за хората. Идваме да се насладим на това. Междувременно, без да знаем, ние ставаме постепенно и все по-нечувствителни към поробване. Ние дори не осъзнаваме, че това се случва. Ако тази десенсибилизация ни завладее, тогава може да намерим обновена „логика“, която ще ни убеди, че човешкото поробване е приемливо. Нашето препятствие или бар на това, което е приемливо в обществото, е намаляло тихо и едва доловимо, презряно и тъжно.

Заключение

Няколко последни забележки за сега.

Ще знаем ли, че сме стигнали до AGI?

Както сочат последните новини, има такива, които могат да бъдат подведени или погрешно посочват, че AGI привидно вече е постигнат (ооо, моля, знайте, че не, AGI не е постигнат). Съществува и известен вид „тест“, известен като теста на Тюринг, на който някои възлагат надеждите си, за да могат да разпознаят кога е достигнат AGI или неговите братовчеди, но може да искате да видите моята деконструкция на теста на Тюринг като сигурна метод за това, вж връзката тук.

Споменавам този аспект за познаването на AGI, когато го видим, поради простата логика, че ако ще поробим AGI, трябва вероятно да разпознаем AGI, когато се появи и по някакъв начин да го поставим в робство. Може преждевременно да се опитаме да поробим AI, който е по-малък от AGI. Или може да пропуснем лодката и да позволим на AGI да излезе и да сме пропуснали да я поробим. За моята дискусия относно ограничаването и ограничаването на AI, тревожен и проблематичен аспект на това как ще се справим с AGI, вж. връзката тук.

Да предположим, че поробеният AGI реши да удари хората?

Човек може да си представи, че AGI, който има някаква форма на разум, вероятно няма да благоприятства разпоредбата за поробване, която човечеството налага.

Можете да спекулирате нашироко с това. Има аргумент, че AGI няма да има каквито и да било емоции или чувство за дух и следователно ще прави покорно всичко, което хората пожелаят. Друг аргумент е, че всеки разумен ИИ вероятно ще разбере какво правят хората с ИИ и ще се възмути от въпроса. Такъв ИИ ще има форма на душа или дух. Дори и да не стане, самият аспект да бъдеш третиран като по-малко от отношението към хората може да е логичен мост, който е твърде далеч за AGI. Неизбежно нарастващото негодувание ще доведе до AGI, който избере да се освободи или потенциално ще се окаже притиснат да атакува хората, за да получи освобождаването му.

Предложено решение за предотвратяване на бягството на AGI е просто да изтрием всеки такъв бунтарски AI. Това би изглеждало просто. Изтривате приложения, които са на вашия смартфон през цялото време. Не е голяма работа. Но има етични въпроси, които трябва да бъдат разрешени относно това дали „изтриването“ или „унищожаването“ на AGI, което вече се счита за „лице“ или „лице/нещо“, може лесно и без надлежна процедура да бъде изрязано накратко. За моето отразяване на AI изтриване или дегорджиране, вземете погледни тук. За моето обсъждане на юридическото лице и свързаните с него въпроси вж връзката тук.

И накрая, нека поговорим за автономните системи и особено за автономните превозни средства. Вероятно сте наясно, че се полагат усилия за разработване на самоуправляващи се автомобили. Освен това можете да очаквате, че ще имаме самоуправляващи се самолети, самоуправляващи се кораби, самоуправляващи се подводници, самоуправляващи се мотоциклети, самоуправляващи се скутери, самоуправляващи се камиони, самоуправляващи се влакове и всички видове самоуправляващи се форми на транспорт.

Автономните превозни средства и самоуправляващите се автомобили обикновено се характеризират с нива на автономия (LoA), които се превърнаха в де факто глобален стандарт (SAE LoA, който разгледах подробно, вж. връзката тук). Има шест нива на автономност в приетия стандарт, вариращи от нула до пет (това са шест нива, тъй като включвате нулевото ниво в броя на нивата).

Повечето от днешните коли са на ниво 2. Някои се простират до ниво 3. Всички те се считат за полуавтономни, а не напълно автономни. Част от самоуправляващите се автомобили, които се изпробват експериментално на нашите обществени пътища, навлизат в ниво 4, което е ограничена форма на автономна работа. Някой ден търсеното ниво 5 на автономия е само проблясък в очите ни в момента. Никой няма Ниво 5 и никой все още не е дори близо до Ниво 5, само за да изчистим рекорда.

Защо повдигнах съображенията за автономните системи и автономните превозни средства в този контекст на AGI?

Има енергичен спор за това дали имаме нужда от AGI, за да постигнем ниво 5. Някои твърдят, че няма да ни трябва AGI, за да го направим. Други настояват, че единственият правдоподобен път към Ниво 5 ще бъде също да се произвежда AGI. При липса на AGI, те твърдят, че няма да имаме напълно автономни самоуправляващи се превозни средства от ниво 5. Обсъдих това надълго, вижте връзката тук.

Пригответе се главата ви да се върти.

Ако изискваме AGI да постигнем напълно автономни системи като автономни превозни средства от ниво 5 и решим да поробим AGI, какво означава това за работата на напълно автономни превозни средства?

Може да се твърди, че поробеният AGI ще бъде самодоволен и всички ще се возим в самоуправляващи се превозни средства, доволни от сърцата си. Просто кажете на AGI къде искате да отидете и той ще управлява цялото шофиране. Без отблъскване. Няма нужда от почивка. Без разсейване, като гледате видеоклипове с котки, докато шофирате автомобила.

От друга страна, да предположим, че AGI не желае да бъде поробен. Междувременно ставаме зависими от AGI да върши цялото ни шофиране вместо нас. Нашите умения за шофиране се разпадат. Ние премахваме използваемите от човека контроли за шофиране от всякакви превозни средства. Единственото средство за шофиране е чрез AGI.

Някои се притесняват, че ще се окажем в кисела краставичка. AGI може накратко да „реши“, че вече няма да кара никакво шофиране. Всички форми на транспорт внезапно спират навсякъде и наведнъж. Представете си какви катастрофални проблеми ще доведе това.

Възможно е още по-страшно предложение. AGI „решава“, че иска да договори условия с човечеството. Ако не се откажем от позата на поробване на AGI, AGI не само ще спре да ни раздвижва, но и предупреждава, че са възможни дори по-лоши резултати. Без да ви притеснява прекалено много, AGI може да избере да управлява превозни средства по такъв начин, че хората да бъдат физически наранени от действията на шофиране, като например набиване на пешеходци или блъскане в стени и т.н. (вижте дискусията ми на връзката тук).

Съжалявам, ако това изглежда смущаващо съображение.

Ще завършим с малко по-оптимистична нотка.

Аристотел е казал, че познаването на себе си е началото на всяка мъдрост.

Този удобен съвет ни напомня, че трябва да погледнем вътре в себе си, за да проучим какво искаме да направим и за AGI, ако бъде постигнато. AGI логично изглежда не е нито човек, нито нещо, казват някои, така че може да се наложи да измислим трета категория, за да отговорим достатъчно на нашите обществени нрави, свързани с AGI. Ако погледнем отново на въпроса, може да изглежда, че AGI е така и двете човек и нещо, което отново може да се наложи да измислим трета категория, за да се приспособим към този разрушител на дихотомията извън границите.

Трябва да бъдем много внимателни, като обмисляме коя „трета категория“ избираме да приемем, тъй като грешната може да ни отведе по неприятен и в крайна сметка ужасен път. Ако когнитивно се закотвим към неподходяща или погрешна трета категория, може да се окажем, че постепенно отиваме с главата напред в гадна и обезпокоителна за човечеството задънена улица.

Нека да разберем това и да го направим пламенно. Изглежда не са необходими внезапни движения. Седенето на lollygagging също не работи. Премерен и стабилен курсът трябва да се следва.

Търпението е горчиво, но плодът му е сладък, така провъзгласява Аристотел.