Етика на AI и известната AI Uncanny Valley, която също разтърсва базирани на AI самоуправляващи се автомобили

Понякога има леко странни неща, които привличат вниманието ви и предизвикват интуитивните ви сокове, че по някакъв начин нещо не е наред. Странността не е крещяща, въобще не е крещяща в лицето ви. Може дори да не успеете веднага да разберете какво е несъответствието или защо пословичното ви чувство за паяк изтръпва.

Може би се долавят фини издайнически улики. Може би случайно в червата си осъзнавате, че съществува дисонанс. Предполагам, че можете да кажете, че има и най-малкия намек за занижена зловещост и вашият деликатен човешки радар улавя иначе привидно скрити сигнали.

Добре дошли в тайнствената долина.

Ако никога не сте чували за невероятната долина, тема, относително популяризирана в областта на AI и особено роботиката, ви очаква малко удоволствие, тъй като това е темата, която ще обсъждам и анализирам отблизо тук.

Общата идея може да се приложи за много неща, които преживяваме в живота, въпреки че основните принципи и първоначалната дефиниция включват AI системи и роботи. Първо ще проучим произхода и първоначалното значение на невероятната долина и след това ще преминем към разширяване, за да видим как явленията изглеждат приложими в по-широк контекст.

Бих могъл също да добавя, че ще обмислим дали тази тайнствена долина изобщо съществува.

Виждате ли, някои скептици и циници твърдят, че целият въпрос е малко измама и не задържа вода. Бъдете внимателни, когато повдигате темата на тези, които са запознати. Някои ще се усмихнат радостно и ще ви пляскат по гърба, че сте добре запознати с невероятната долина, докато други ще ви дават настойчиви лекции, че това е трапезария от свинщина и трябва накратко да изчистите ума си с пяна сапун за умствено почистване .

Добрата новина тук е, че вие ​​трябва да решите дали невероятната долина е реална или не, заедно с това дали има достойнства за внимателно приложение или вместо това трябва да бъде хвърлена безцеремонно върху боклука с техно-идеи. В този смисъл вие сте на мястото на водача.

Всичко това също се отнася тясно до процъфтяващото поле на етичния AI и нарастващото осъзнаване, че обществото трябва сериозно и трезво да обръща внимание на етиката на AI. Ще направим тази връзка за момент.

Най-доброто място да започнете е с директно цитиране на професора, който е измислил концепцията за невероятната долина и откровено нарече това обявено явление. През 1970 г. професор Масахиро Мори от Токийския технологичен институт публикува доста дребна статия в малко по-малко известно списание, наречено Енергия (не особено място за AI и роботика сами по себе си) и каза това:

„Забелязах, че при изкачването към целта роботите да изглеждат хора, нашият афинитет към тях се увеличава, докато стигнем до долина, която аз наричам тайнствената долина.

Моля, имайте предвид, че горната фраза е показана на английски, въпреки че оригиналната статия е на японски. Английската преведена версия беше наблюдавана от автора и по-късно публикувана в IEEE спектър през 2012 г. и се приписва на Масахиро Мори като автор. Можете сами да прочетете статията, тъй като тя е открито и свободно достъпна онлайн. Това е определено бързо четене от около десет минути и не съдържа никаква технологична терминология.

Като се има предвид това, интересно е и донякъде невероятно, че такава оживена статия, публикувана през 1970 г., в крайна сметка постави началото на цяла арена на разследване и постави началото на безброй свързани проучвания, проекти, изследвания, а понякога и буря от спорове относно това дали въведеното концепцията за невероятна долина наистина съществува. Предполагам, че това показва, че интригуващите и понякога променящи гледната точка идеи не трябва да бъдат силно заплетени или препълнени с жаргон и възвишени. Една сбита идея може да бъде сякаш не дори по-мощна, отколкото изглежда на пръв поглед.

Вярвам, че това ще ви насърчи да опитате и насърчавате новите си идеи, като го правите с осъзнаването, че сладкото и простото може да бъде толкова великолепно, а понякога и повече, отколкото заплетено и сложно.

Нека се върнем обратно в тайнственото извличане на долината.

Попадате на роботизирана система, която има лице, подобно на лице, изглеждащо като човек. Представете си, че това роботизирано лице е измислено чрез множество итерации. Разработчиците на AI, които сглобяват главата на робота, постепенно се стремят да направят така, че роботизираната лицева част да изглежда все повече и повече като истинско човешко лице.

Първият им опит беше изключително примитивен. Лицето на робота имаше същия вид, който сте виждали в научнофантастичните филми, че е изцяло метален и показва зъбни колела и жици. Веднага разбирате, когато погледнете измислицата, че това е робот. Нямате съмнение за това.

Следващият опит на разработчиците на AI включваше увиване на някои пластмасови материали около металните парчета. Въпреки че това изглежда малко по-приятелски, вие все пак веднага знаете, че това е глава на робот и роботизирано лице. Отново, лесно за откриване.

Тези разработчици на AI са решени да продължат това. Те извайват пластмасата и й придават тонове на кожата. Те добавят черти, които изглеждат много подобни на човешкото лице, като бенки, коса, петна и други подобни.

На пръв поглед може да се накарате да повярвате, че това е човешко лице. Ако е направена снимка на роботизираното лице и ви бъде поискано да идентифицирате дали снимката изобразява човек срещу роботизирано лице, може да се затрудните веднага да кажете кое е то. От друга страна, ако стоите до устройството, вероятно при внимателна проверка ще можете да разберете, че това не е човек, а вместо това робот.

Работата е там, че преди да получите тази възможност да прегледате отблизо, имаше нещо в лицето, което изглежда не съвпадаше напълно. Със сигурност изглеждаше като човешко лице. Но имаше нещо нередно. Трябваше да продължиш напрегнато да се взираш отново и отново, за да сложиш пръст върху това, което не изглежда съвсем правилно. Може би това е истинско лице. От друга страна, може би не е така. Съответно умът ви се тресе.

Привидност на зловещо влиза в ума ви.

Не сте имали същото подобие на зловещо, когато видяхте двете по-ранни версии. Можете без пауза или колебание да откриете, че роботът е робот. Само дете може да се заблуди да повярва, че някоя от тези версии е на истински човек.

Тази последна версия обаче беше различна. Все още не беше усъвършенствано, за да изглежда като човешко лице. Нито пък беше толкова далеч от истинското нещо, че беше очевидно, че трябва да е робот. Стигна се до някаква объркана земя.

Да предположим, че разработчиците са продължили усилията си за изследване и са подредили всичко така, че роботизираното лице да е почти неразличимо от човешкото лице. Колкото и дълго да се взирате в нещото, не сте сигурни дали е човек или не. Когато ви информират, че това е роботизираното лице, вие сте изненадани. Господи, те са свършили страхотна работа, за да изглеждат истински.

Забележете, че досега сте обмисляли аспектите на роботиката само въз основа на външния вид.

Можем да добавим движение към уравнението. Това добавя допълнително измерение, за да разберете дали роботът е робот или човек. Не искам напълно да разглеждам това като многоизмерен вид проблем в тази дискусия, тъй като прави изясняването на тази тема по-сложно (въпреки че има многоизмерни неизбежно преплетени). Във всеки случай си представете, че не само сте видели роботизираното лице, но и можете да наблюдавате как роботът движи чертите на лицето, като устата, очите, носа и т.н. робот или човек.

Един жизненоважен аспект, който трябва да се задържи в челните редици на тайнствената долина, е, че първоначалната концепция подчертава акта на човешкия афинитет. Твърдият феномен е, че вашият афинитет се увеличава, когато виждате постепенно подобряваните лица на роботите, до момента, в който възниква невероятният вариант. В този момент се казва, че вашето чувство за афинитет намалява драстично, падайки надолу в пропаст или долина на афинитета.

За конкретната версия, която ви накара да подозирате, че нещо не е наред, твърдите, че вашият афинитет е намалял радикално. Освен това, според теорията, вашият афинитет може да нарасне отново, след като срещнете по-усъвършенстваната версия, която е почти идентична с истинската човешка форма.

Ето повече за това, което авторът заяви за нормалната ни склонност да приемем, че аспектите на живота плавно се увеличават: „Математическият термин монотонно нарастваща функция описва връзка, в която функцията y = ƒ(x) нараства непрекъснато с променливата x. Например като усилие x расте, доходите y се увеличава или при натискане на газта на автомобила колата се движи по-бързо. Този вид връзка е повсеместна и много лесно разбираема. Всъщност, тъй като такива монотонно нарастващи функции обхващат повечето явления от ежедневния живот, хората могат да изпаднат в илюзията, че представляват всички отношения. Също така свидетелства за това погрешно впечатление е фактът, че много хора се борят през живота си, като упорито натискат, без да разбират ефективността на отдръпването. Ето защо хората обикновено са озадачени, когато се сблъскат с някакъв феномен, който тази функция не може да представи.” Това се цитира според IEEE спектър преведена хартия.

Това почти универсално предположение за винаги нарастване може да бъде отменено, когато срещнем нещо нередно. Зловещият и подозрителен ще доведат до сравнително рязък и драматичен спад в афинитета, според теорията, като например роботизирана ръка, която сте избрали да разклатите и не можете да почувствате костните характеристики на човешката ръка: „Когато това се случи, ние губим усета си на афинитет и ръката става невероятна. В математически термини това може да бъде представено с отрицателна стойност."

Ако приемете предпоставката, че съществува този феномен на невероятна долина, сигурен съм, че се чудите каква полза ви е да знаете, че тази тайнствена долина очевидно съществува.

Това е класическата за всички времена "и какво от това?" тест за практичност.

Оказва се, че много хора са измислили много интерпретации на това какво трябва или можем да направим с тайнствената долина. Има много мнения. Ще се спра на някои от тях скоро.

Междувременно ето какво предложи Масахиро Мори: „Надяваме се да проектираме и изградим роботи и протези на ръцете, които няма да паднат в тайнствената долина. По този начин, поради риска, присъщ на опитите да увеличат степента си на човешко подобие за мащабиране на втория връх, препоръчвам на дизайнерите вместо това да вземат първия връх като своя цел, което води до умерена степен на човешко подобие и значително чувство за афинитет . Всъщност предвиждам, че е възможно да се създаде безопасно ниво на афинитет чрез умишлено преследване на нечовешки дизайн. Моля дизайнерите да обмислят това.”

Една бърза кондензация от моя страна на дванадесетте удобни правила за това какво да правите по отношение на невероятната долина върви по следния начин за разработчиците на AI по-специално:

1) Бъдете наясно с невероятната долина и бъдете на пръсти съответно

2) Предполага се, че искате да постигнете човешки афинитет към вашия AI, доколкото е възможно

3) Бъдете готови за загуба на човешки афинитет, ако вашият AI попадне в невероятната долина

4) Опитайте се да избегнете невероятната долина, като създадете своя AI по този начин

5) Почитаемо е да имаш цел, която е далеч от тайнствената долина

6) Придвижете се до ръба на невероятната долина, но не падайте над скалата

7) Не бъдете обсебени от излизането отвъд тайнствената долина

8) Има шанс все пак да прескочите покрай невероятната долина

9) Не се занимавайте със скока, тъй като така или иначе може да паднете в долината

10) Максималният човешки афинитет определено би бил постигнат, като се премине през тайнствената долина

11) Въпреки това има адекватен и подходящ афинитет, открит преди тайнствената долина

12) Непрекъснато внимавайте за тайнствената долина и не позволявайте тя да ви изплъзне

Всички тези дузини са общи заповеди, които могат да се считат за крайъгълен камък или опорни точки на знанието за тайнствената долина. Веднага ще призная, че има други точки, които не са изброени в тези оскъдни дузини, за които може да се твърди, че са също толкова важни. Също така с готовност ще призная, че неизбежно има разногласия по всяка от посочените точки и може да се стигне до дълъг разгорещен дебат по всяка изказана точка.

Нещо повече, някои биха казали, че дванадесетте точки са напълно боклук, защото се основават на лъжа, като начало. Няма такова нещо като тайнствена долина, биха възразили те. Всичко това е просто шега и измислена измислица, която привлича единствено и тъжно да се хареса на слабите умове (оо, това искрено боли!). Всяко внимание към невероятната долина е пропиляна глътка въздух и някой трябва да дойде и да постави остър дървен теоретичен кол в сърцето на въпроса (някои изследователи са се опитали да направят това).

В интерес на дискусията, нека се движим по течението и да приемем, че има невероятна долина и че тя като цяло съвпада с това, което посочих досега. Тези, които не са съгласни с концептуализирането на една невероятна долина, са добре дошли да се разделят или да продължат да четат със стиснати зъби и интелектуалният им гняв назрява и кипи (съжалявам за това).

Ето как се появяват етичният AI и фокусът на разработването и прилагането на етичен AI. Между другото, за моите текущи и задълбочени проучвания на етиката на ИИ, вижте дискусията ми на тази връзка тук намлява тази връзка тук, Само за да назовем няколко.

Странната долина е категорично любовно-омразна афера за тези, които се занимават с етичен AI.

Първо, някакъв необходим фон. Едно от най-вдигащите косъмчета етични притеснения, свързани с ИИ, е, че хората могат да бъдат заблудени да вярват, че една система с ИИ е разумна. Моля, имайте предвид, че в днешно време няма ИИ, който да се доближи далече до това да бъдете съзнателни. Просто не се случва в този момент. Моето привидно „нагло“ твърдение е направено въпреки тези непрестанни и крещящи заглавия, които декларират, че този AI или че AI е или разумен, или достатъчно близък, за да бъде считан за такъв. Маларкий. Ние не сме в състояние на ИИ.

Не знаем как да стигнем до там. Не знаем дали ще стане. Чувството на AI е мечта и стремеж, които си заслужават, въпреки че не хвърляйте оръжието и не си мислите, че сме на крачка от постигането му.

Разбира се, мнозина пламенно предупреждават, че ако по някакъв начин успеем да извлечем съзнанието на AI, независимо дали го правим по замисъл или чисто случайно, ще се изправим пред екзистенциален риск. При този начин на мислене, може би търсенето на AI разум не е толкова полезно. Рискът е, че този разумен AI може да определи, че хората не си струва да има наоколо. Може да ни смачкат като буболечка. Или станете роб на AI. Това може да се случи, когато AI открито избере да го направи, или AI може да се окаже наша собствена машина на съдния ден, която ни унищожава поради собствената ни неспособност. За моето отразяване на тези тревожни резултати от AI чувствителност или сингулярност, вж връзката тук.

Решаваща загриженост за етичния AI е, че разработчиците на AI и тези, които се занимават с AI, понякога подтикват хората да мислят, че AI е разумен. Начинът на това как AI се проявява, като например чрез роботизирана формулировка или чрез неговата разговорна интерактивност, може коварно да подтикне хората да приемат, че AI е разумен. Това от своя страна ви води по потенциално лош път на иглика.

Ако попаднете в менталния капан да мислите, че една AI система е разумна, вероятно ще разчитате на нея, за да прави неща, които биха направили съзнателните същества. Но все още няма здрав разум за човешко качество, вградено в нито един от днешните AI. AI, който изпитваме в момента, е изключително крехък и плитък, когато става въпрос за човешки способности. Можете да влезете в някои неприятни и опасни води, като повярвате, че AI система е разумна.

Как това се свързва с тайнствената долина?

Ето сделката.

Припомнете си, че невероятната долина сякаш ни казва, че човешкият афинитет постепенно ще се покачва, докато AI система или робот се доближава все повече и повече до формулировка, подобна на човек. В момент, в който AI системата наближава точката да бъде доста близо, но все още, не съвсем там, получаваме зловещо усещане, че нещо не е наред. Дотогава знаехме, че AI не е човек. Сега не сме сигурни. Нашият човешки афинитет намалява. Едва след като AI или роботът стане напълно убедителен по отношение на човешките способности, ние възвръщаме подобието си на афинитет към устройството.

Разработчиците на AI, които се заемат с това сърце, вероятно биха преднамерено се стремят да държат своя AI далеч от невероятната долина, като се стремят да спрат по отношение на характеристиките на AI, точно преди да паднат в невероятната бездна (припомнете си, това също подчерта Масахиро Мори). Очевидно разработчиците биха направили това, като се уверят, че все още съществуват изобилие от издайнически улики, за да стане доста ясно, че AI е по-малко от разумен AI и следователно не е човек или също толкова.

Като цяло етиците на ИИ биха приветствали това сърдечно усилие.

Разсъжденията са ясни. Тези толкова информирани и прегърнати разработчици на AI се опитват да се уверят, че системата за изкуствен интелект не подвежда хората да приписват фалшиво човешки съоръжения на AI. Това със сигурност е добра новина. Разработчиците нарочно ще изработят AI, за да предотвратят гмуркане в тайнствената долина. Хората лесно ще осъзнаят, че AI не е съзнателен.

Опитът да накара разработчиците на AI да прегърнат подобен подход не е лесен. Всъщност това може да бъде противоинтуитивно на техните обичайни инстинкти и движещи амбиции.

Правят се много твърдения, че разработчиците на AI и техниците като цяло са погълнати от цели. Те виждат цел и често ще я преследват сляпо с голямо удоволствие. Няма време да спреш и да помиришеш розите. Тръгваме към състезанията, отиваме. В областта на AI нормативната цел би била идеализиран AI, който е неразличим от хората, тъй като AI би могъл да бъде интелигентно равен по паритет. Но все още не сме там. Като такава, невероятната долина осигурява вторична цел, кацане пред иначе завладяващата невероятна долина и се превръща в цел, която въпреки това е приемлива. Разбира се, това не е златният награден пръстен, но идеята е тази „вторична“ награда да е добре, много ви благодаря и можете да се гордеете с нея.

Ние променихме разрушителната най-висока амбиция за търсене на цели и я впрегнахме в логично звучаща аргументирана основа, за да постъпим както трябва.

Ура!

Отбележи победа за етиката на AI.

Но изчакайте за секунда, предупреждение за спойлер, има нещо друго, което също трябва да вземем предвид.

Сега, когато тези умни разработчици на изкуствен интелект знаят за невероятната долина, те може да насочат разума и техническата си умение към умишлено прескачане над бездната и все пак да го направят с привидност на измама. Направете AI да изглежда и да изглежда изцяло като човек, въпреки че разработчиците знаят, че това не е вярно.

Лошото мислене е така. Не позволявайте на вашата AI система да наклони шапката си и да накара хората да получат това неуловимо подводно течение на зловещо. Изключете аспектите, които биха могли да дадат някакъв намек или улика, че AI не е с човешки способности. Правете това, докато тайно осъзнавате и непростимо знаете, че AI не е с човешки способности и това е всичко за скриване на тази истина от тези, които взаимодействат с или са зависими от AI.

Какви дяволски планове.

По ирония на съдбата невероятната долина може да бъде един вид сигнал за събуждане за разработчиците на AI, че ако искат наистина да заблуждават хората, те трябва да са достатъчно умни, за да избягат от бездната. Те не правят това, като постигат пълен AI, а вместо това като издигат дим и огледала, за да направят AI подвеждащ, сякаш е човешки. Ако разработчиците на AI не осъзнаха, че съществува тази невероятна долина, те като цяло щяха да попаднат в нея. Това е добре за човечеството, защото следователно хората биха загубили афинитета си към ИИ, по отношение на това да не разчитат прекалено на днешното качество на ИИ.

За съжаление, знаейки, че капанът съществува, разработчиците на AI, които искат да се промъкнат около него, ще намерят пагубно умни начини да го направят.

Направете удар срещу заповедите на етичния AI.

Виждате ли как това създава връзка между любовта и омразата за етиците на AI относно тайнствената долина?

По дяволите, ако го направиш, по дяволите, ако не го направиш.

Осъзнавам, че това беше донякъде по-високо разглеждане на тайнствената долина и може би копнеете за някои ежедневни примери. Има специален и със сигурност популярен набор от примери, които са ми близки. Виждате ли, в качеството ми на експерт по ИИ, включително етичните и правните последици, често ме молят да посоча реалистични примери, които показват дилемите на етиката на ИИ, така че донякъде теоретичният характер на темата да може да бъде схванат по-лесно. Една от най-впечатляващите области, които ярко представят това етично затруднение с AI, е появата на базирани на AI истински самоуправляващи се автомобили. Това ще послужи като удобен случай на употреба или пример за обширна дискусия по темата.

Ето един важен въпрос, който си струва да се обмисли: Появата на базирани на изкуствен интелект истински самоуправляващи се автомобили осветява ли нещо за тайнствената долина и ако е така, какво ни информира да правим това?

Позволете ми малко да разопаковам въпроса.

Първо, имайте предвид, че няма водач-човек, участващ в истинска самоуправляваща се кола. Имайте предвид, че истинските самоуправляващи се автомобили се управляват чрез система за шофиране с изкуствен интелект. Няма нужда от водач-човек на волана, нито има разпоредба човек да управлява превозното средство. За моето обширно и непрекъснато покритие на автономните превозни средства (AV) и особено на самоуправляващите се автомобили, вж. връзката тук.

Бих искал допълнително да изясня какво се има предвид, когато имам предвид истински самоуправляващи се автомобили.

Разбиране на нивата на самоуправляващите се автомобили

Като пояснение, истинските самоуправляващи се автомобили са тези, че AI управлява колата изцяло самостоятелно и няма никаква човешка помощ по време на шофиране.

Тези превозни средства без шофьор се считат за ниво 4 и ниво 5 (вижте моето обяснение на тази връзка тук), докато автомобил, който изисква от водач човек да споделя усилията за шофиране, обикновено се разглежда на ниво 2 или ниво 3. Автомобилите, които споделят задачата за шофиране, са описани като полуавтономни и обикновено съдържат различни автоматизирани добавки, които се наричат ​​ADAS (Разширени системи за подпомагане на водача).

Все още няма истинска самоуправляваща се кола на ниво 5, за която все още не знаем дали това ще бъде възможно и колко време ще отнеме, за да стигнем до там.

Междувременно усилията на ниво 4 постепенно се опитват да получат известно сцепление, като се подлагат на много тесни и селективни изпитания на обществените пътища, въпреки че има противоречия относно това дали това тестване трябва да бъде разрешено само по себе си (всички ние сме морски свинчета на живот или смърт в експеримент които се провеждат по нашите магистрали и странични пътища, някои твърдят, вижте репортажа ми на тази връзка тук).

Тъй като полуавтономните автомобили изискват човешки шофьор, приемането на тези типове автомобили няма да бъде значително по-различно от шофирането на конвенционални превозни средства, така че няма много ново само по себе си за тази тема (макар че, както ще видите след миг следващите точки като цяло са приложими).

За полуавтономните автомобили е важно обществеността да бъде предупредена за смущаващ аспект, който се появява напоследък, а именно, че въпреки онези човешки шофьори, които продължават да публикуват видеоклипове на себе си, заспали зад волана на автомобил от ниво 2 или 3 , всички ние трябва да избягваме да се заблуждаваме да вярваме, че водачът може да отнеме вниманието им от задачата за шофиране, докато шофира полуавтономна кола.

Вие сте отговорната страна за действията по шофиране на превозното средство, независимо от това колко автоматизация може да бъде хвърлена в ниво 2 или 3.

Самоуправляващи се автомобили и невероятната долина

За истински самоуправляващи се превозни средства от ниво 4 и ниво 5 няма да има човешки водач, участващ в задачата за шофиране.

Всички пътници ще бъдат пътници.

AI прави шофирането.

Един аспект, който трябва да се обсъди веднага, включва факта, че ИИ, включен в съвременните системи за управление на ИИ, не е разумен. С други думи, AI е съвкупност от компютърно базирано програмиране и алгоритми и със сигурност не е в състояние да разсъждава по същия начин, по който хората могат.

Защо този допълнителен акцент върху AI не е съзнателен?

Тъй като искам да подчертая, че когато обсъждам ролята на системата за управление на AI, не приписвам човешки качества на AI. Моля, имайте предвид, че в наши дни съществува постоянна и опасна тенденция към антропоморфизиране на ИИ. По същество хората приписват човешка чувствителност на днешния ИИ, въпреки неоспоримия и неоспорим факт, че такъв ИИ все още не съществува.

С това уточнение можете да си представите, че системата за управление на изкуствения интелект по някакъв начин няма да „знае“ за аспектите на шофирането. Шофирането и всичко, което води до това, ще трябва да бъдат програмирани като част от хардуера и софтуера на самоуправляващия се автомобил.

Нека да се потопим в безбройните аспекти, които идват да играят по тази тема.

Първо, важно е да се осъзнае, че не всички AI самостоятелни автомобили са едни и същи. Всеки автомобилен производител и самостоятелна техническа фирма приема подхода си към разработването на автомобили за самообслужване. Като такъв е трудно да се правят метене изявления за това какви системи за шофиране ще направят или не.

Освен това, когато се заявява, че системата за управление на изкуствен интелект не прави нещо конкретно, това може по -късно да бъде изпреварено от разработчиците, които всъщност програмират компютъра да направи точно това. Стъпка по стъпка, системите за управление на изкуствен интелект постепенно се подобряват и разширяват. Съществуващо ограничение днес може вече да не съществува в бъдеща итерация или версия на системата.

Вярвам, че това осигурява достатъчно предупреждения, за да лежи в основата на това, което ще разкажа.

Сега сме подготвени да направим дълбоко гмуркане в самоуправляващите се автомобили и етичните въпроси на AI, включващи невероятната долина.

Има четири аспекта, свързани с този въпрос, които ще бъдат обхванати тук:

1. Цялостният вид на самоуправляващите се автомобили

2. Въпросът къде "търсят" самоуправляващите се автомобили

3. Действия при шофиране на AI на самоуправляващи се автомобили

4. Роботи, които шофират като средство за постигане на самоуправляващи се автомобили

Допълнителните аспекти също са обхванати, но поради ограничения на пространството тези четири теми ще бъдат достатъчни, за да осветят посоката на невероятната долина, свързана с базираните на AI самостоятелно управляващи автомобили.

1. Общ вид на самоуправляващите се автомобили

Обзалагам се, че сте виждали снимки или видеоклипове от днешните проби на самоуправляващи се автомобили. Като такива, може би сте забелязали, че повечето от превозните средства са конвенционално изглеждащи автомобили, които са оборудвани с допълнително специализирано оборудване. Например, може да има багажник на покрива, който съдържа множество електронни сензори. Сензорите понякога включват видеокамери, радарни устройства, LIDAR устройства, ултразвукови сензори и други подобни.

Футуристичните дизайни са склонни да подсказват, че можем да се отклоним от конвенционално изглеждащите автомобили, за да променим дизайна на автомобили както в интериора, така и в екстериора, за да бъдат по-хлъзгави автономни превозни средства. В момента общото мислене е, че е по-лесно да използвате конвенционални автомобили и да не изразходвате енергия, опитвайки се да разтегнете начинанието, като едновременно бърникате с неконвенционално изглеждащи коли (има някои изключения от тази обща гледна точка, вижте моето отразяване на връзката тук).

Същността в момента е, че ако шофирате по пътното платно и срещнете близка самоуправляваща се кола, почти винаги можете веднага да разберете, че това вероятно е самоуправляваща се кола, като просто забележите малкото сензори, монтирани на автономното превозно средство. Това е бърз визуален подарък. Разбира се, не знаете със сигурност, че е самостоятелно шофиране само по себе си, тъй като в този момент контролите за шофиране обикновено са все още непокътнати и може да бъде зад волана човек, резервен шофьор.

По един начин на мислене можете да предположите, че е особено удобно, че самоуправляващите се коли физически изглеждат изпъкнали и лесно се забелязват визуално от шофьори в близките коли, управлявани от хора, а също и от пешеходците наблизо. Осъзнаването, че наблизо се върти самоуправляваща се кола, може да бъде удобна улика, за да бъдете нащрек, като ви подтиква да бъдете бдителни и внимателни, че AI управлява или може да управлява превозното средство.

Да предположим, че самоуправляващите се автомобили изглеждат идентични с конвенционалните, управлявани от хора. Това е реалистично осъществимо поне по два начина. Първо, сензорите биха могли потенциално да бъдат скрити или оформени, така че да не са толкова очевидни за случайна визуална проверка. Второ, възможно е всички автомобили, включително конвенционалните, управлявани от хора, постепенно да бъдат оборудвани с подобни сензори, дори ако превозното средство все пак ще остане като автомобил, управляван предимно от хора. Вижте по-нататъшното ми отразяване на тази връзка тук.

Ако внимателно обмислите това съображение дали самоуправляващите се автомобили могат или трябва да бъдат идентични на външен вид с конвенционалните коли, управлявани от човек, може да стигнете до мисълта, че в тази яхния може да се крие невероятна долина.

Виждате ли, колите, които явно изглеждат като самоуправляващи се автомобили, може да се охарактеризират като намиращи се в момент, който е съвсем близо до тайнствената долина. По принцип „знаете“, че това е робот или роботизирана система. Това е преценка, към която можете да скочите почти веднага.

Когато самоуправляващите се автомобили изглеждат идентично с колите, управлявани от човек, може би това предполага, че автономните превозни средства са прескочили покрай невероятната долина по отношение на външния си вид, подобен на робот. Има ли все пак средно положение между тези две физически изяви, което ни отвежда в тайнствената долина?

Може би забелязвате самоуправляваща се кола, която идва по улицата и изглежда, че вероятно е самоуправляваща се кола, от друга страна, външният вид не изглежда нито строго автономен, нито изглежда строго управляван от човека. Може да се твърди, че самоуправляващата се кола сега е в зловещо или обезпокоително състояние.

Самоуправляващата се кола привидно се е потопила в тайнствената долина.

Като се има предвид това, не всеки би се съгласил с тази категоризация. Някои биха твърдят, че физическият вид няма нищо общо с тайнствената долина. Някои, разбира се, също така твърдят, че няма нищо реалистично известно като тайнствената долина.

Както споменахме по-рано, можете да вземете собствено решение за това.

2. Въпрос накъде гледат самоуправляващите се автомобили

Очертаващо се притеснение, което мнозина изпитват относно самоуправляващите се автомобили, е, че обикновено им липсва водач-човек на мястото на водача и поради това е трудно да се разбере къде гледа „шофьорът“, докато управлява колата.

Обикновено поглеждате човешки шофьори, за да шпионирате къде гледат. Например, може да сте пешеходец на пешеходна пътека и кола се приближава до кръстовището. Поглеждате внимателно човека, който седи на мястото на шофьора, и се опитвате да разберете къде е обърната главата му и накъде гледат очите. Ако смятате, че човекът шофьор ви е видял, може да ви е по-удобно да пресечете улицата. За разлика от това, ако човекът шофьор изглежда не ви е видял, вие с право се притеснявате за пресичане.

В някои градове има един вид игра на котка и мишка по тези аспекти. Конкретна културна норма в даден град може да бъде, че ако осъществите зрителен контакт с шофьор, шофьорът „печелва“ и той има привидно право да продължи, независимо от законността на ситуацията на шофиране. Други градове може да са напълно противоположни, а именно, че културната норма е, че когато се осъществи зрителен контакт, пешеходецът „побеждава“ и се предполага, че човекът шофьор трябва да се подчинява на действията на пешеходеца.

Изглежда, че сме възприели този обичай през сравнително дългото време, когато колите са в средата на нашите градове и общности. Проблемът с появата на самоуправляващите се автомобили е, че на мястото на водача няма човек-шофьор и по този начин всеки пешеходец или близък шофьор, който обикновено използва главата и очите на шофьорите на автомобили като културен индикатор за намерение за шофиране, вече е без късмет.

Автомобилните производители и разработчиците на самоуправляващи се автомобили са добре наясно с този възникващ проблем. Едно от предложените решения се състои в това, че самоуправляващият се автомобил мига фаровете на автономното превозно средство или евентуално бие клаксона. Друга представа е, че самоуправляващата се кола може да има вариант на високоговорител и да каже на хората наблизо какви са „намеренията“ на системата за шофиране с изкуствен интелект. Всяка от тези идеи има значителни недостатъци.

И все пак различно предложение предполага да направите нещо, което в началото може да смятате за нелепо. Предложението се състои в поставяне на кълба, подобни на очни ябълки, върху екстериора на автономното превозно средство. Тези кълба до голяма степен биха изглеждали като човешки очи, като че ли могат да се въртят напред-назад, давайки ви незабавна индикация, която предполага, че ИИ „ви е видял“ (ще интерпретирате това чрез очните ябълки, които гледат във вашата конкретна посока). Анализирах този подход в връзката тук.

Каква би била реакцията ви, ако видите как самоуправляваща се кола идва надолу по пътното платно и имате тези огромни странни кълба, които се появяват, монтирани на капака или покрива?

Предполагам, че може да си помислите, че е зловещо, може би страховито.

Някои биха предположили, че зловещото произтича от това, че напълно оборудваната самоуправляваща се кола се намира в тайнствената долина. Други твърдо биха възразили, че това няма нищо общо с тайнствената долина. От тези такива експерти, някои биха казали, че има зловещо, което може да бъде зловещо, без да се налага да бъде окопано в тайнствената долина (т.е. тайнствената долина привидно винаги произвежда зловещо, но не цялото зловещо се произвежда единствено чрез тайнствената долина). Другият ъгъл е, че кълбата може да са проектирани така, че да изглеждат по-малко очни ябълки и да изглеждат по-роботизирани, или че всички ние неизбежно ще приемем появата на тези кълба и първоначалната стряскаща реакция ще отшуми.

3. Действия при шофиране с изкуствен интелект на самоуправляващи се автомобили

Много от днешните изпитания на самоуправляващи се автомобили показаха, че съществуващите системи за шофиране с изкуствен интелект са склонни да бъдат програмирани да шофират по доста хладни и донякъде стриктно спазващи се законови начини. Системата за шофиране с изкуствен интелект обикновено спира самоуправляващата се кола при знаци Стоп. Системата за шофиране с изкуствен интелект не прави смели бягания през кръстовища, когато светофарният сигнал неизбежно ще бъде червен. Тези своенравни практики на шофиране са провинцията на човешките шофьори.

В известен смисъл можете почти да се досетите, че самоуправляващата се кола е самоуправляваща се по стила на шофиране, който излага. Дори ако автономното превозно средство изглежда визуално е конвенционална кола, управлявана от човек, може да наблюдавате действията на шофиране и може би логически да заключите, че вероятно се задвижва от AI система.

Някои смятат, че ще трябва да направим системите за шофиране с изкуствен интелект да бъдат по-сходни с лудориите на човешките шофьори, така че ефективно да се слеят с нормативните подходи към шофирането. Предполагам, че можете да тълкувате това като борба с огъня с огън.

Има ли смисъл да се прави?

Имайте предвид, че откровените скептици и критици се отвращават от идеята. Те упорито ще твърдят, че искаме системите за шофиране с изкуствен интелект да шофират правилно и предпазливо. Добавянето на потенциално милиони самоуправляващи се автомобили към пътищата, които са програмирани да бъдат като заблудени човешки шофьори, би изглеждало колосален кошмар. Обсъдих това противоречиво предложение на връзката тук.

Нека преработим дилемата, като използваме невероятната долина.

Когато системата за шофиране с изкуствен интелект е строго законна със своите действия при шофиране, това може би е издайнически улика, че е вероятно да е роботизирана система (независимо от човешките шофьори, които действително правят това, макар че в днешния свят изглеждат далеч и малко между тях). Ако системите за шофиране с изкуствен интелект трябва да шофират толкова странно, колкото човешките шофьори, това скача ли през тайнствената долина или пада в тайнствената долина?

Обмислете това.

4. Роботи, които шофират като средство за постигане на самоуправляващи се автомобили

Този последен елемент за покритие е най-изумителният от тези четири.

Може да не сте наясно, че някои разработчици на AI се опитват да изработят роботи, които да карат автомобили. Роботът би изглеждал като човек в различни отношения, като има роботизирани крака и роботизирани ръце като крайници. Когато искате всяка конвенционална кола, управлявана от човек, да бъде самоуправляваща се кола, вие просто поставяте този специализиран робот за шофиране с изкуствен интелект на седалката на водача на вашия автомобил. Вижте моя анализ на това понятие на връзката тук.

Защо искаме да караме роботи?

Красотата на такъв робот е, че всички днешни коли, управлявани от човека, биха могли по някакъв начин на интерпретация да се превърнат в самоуправляващи се автомобили, почти за една нощ. Вие просто купувате, наемате или по някакъв начин си набавяте робот за шофиране. Поставяте робота на шофьорската си седалка, когато тръгвате на шофиране. Роботът ви отвежда до вашата дестинация. Ако искате да преминете към човешко шофиране, изваждате робота от автомобила, може би го прибирате в багажника за по-нататъшна употреба.

Днес в Съединените щати има около 250 милиона конвенционални коли. Някои смятат, че те в крайна сметка ще бъдат изхвърлени, когато се появят самоуправляващите се автомобили. Вместо да изхвърляме тези конвенционални автомобили, може би бихме могли да се опитаме да ги модернизираме, за да станат самоуправляващи се автомобили, въпреки че това вероятно е доста скъпа идея. Привидно по-разумният подход би бил да се предоставят роботи за шофиране.

Ако видите конвенционално изглеждаща кола да идва по кварталната ви улица и имаше робот на волана, каква би била вашата реакция?

Вероятно зловещо.

Едно безспорно спорно твърдение е, че тази зловеща причина се дължи на роботът, управляващ конвенционална кола, който се потапя надолу в известната или скандална тайнствена долина.

Заключение

От гледна точка на етичния AI, невероятната долина представлява интригуваща главоблъсканица.

Има някои в ИИ, които напълно вярват в тайнствената долина, а други не вярват. Но независимо дали вярвате в невероятната долина или не го правите, въпреки това самата тема е заобиколена. Не можете да скриете главата си и да се преструвате, че конструкцията сама по себе си не съществува. Конструктът като идея е жив и по някакъв начин е вирусно мощен. Мразете го или го обичайте, проклетата или може би възвишена тема продължава.

Според по-ранния ми дискурс относно достойнствата на тайнствената долина от гледна точка на етиката на ИИ, в нея има двубоя любов и омраза. Трябва ли тези в етичната сфера на ИИ да прегърнат невероятната долина, или да отхвърлят накратко тайнствената долина, или да останат донякъде неутрални по отношение на истинността и вместо това да се съсредоточат върху въздействието, което се натрупва поради продължаващите различни вярвания за нея.

Това предизвикателство води до изтъкнатия икономист Адам Смит, който веднъж каза (перефразирайки), че по пътя от Града на скептицизма трябва да преминете през Долината на двусмислието.