Етика на ИИ и почти разумния въпрос дали хората ще надживеят ИИ

Имам един въпрос към вас, който изглежда предизвиква много раздразнения и разгорещени дебати тези дни.

Готови ли сте?

Ще надживеят ли хората AI?

Обмислете това.

Ще разопаковам въпроса и ще разгледам внимателно отговорите и как са изяснени отговорите. Основното ми намерение е да подчертая как самият въпрос и заобикалящият дискурс неизбежно и неумолимо се коренят в Етика на ИИ.

За онези, които пренебрежително смятат, че въпросът по своята същност е без отговор или е загуба на време и дъх, учтиво бих предложил, че опитът да се отговори на въпроса повдига някои жизненоважни съображения за етиката на ИИ. По този начин, дори ако искате да отхвърлите въпроса като може би абсурден или нереалистичен, аз казвам, че той все още предизвиква някаква стойност като средство или механизъм, който подчертава предписанията на Етичния изкуствен интелект. За моето текущо и обширно отразяване на AI Ethics и Ethical AI вижте връзката тук намлява връзката тук, Само за да назовем няколко.

С гореспоменатата предпоставка, моля, позволете ми още веднъж да повторя спорния въпрос и да позволите на умовете ни да се скитат по значението на въпроса.

Ще надживеят ли хората AI?

Ако се чувствате неудобно от тази конкретна фраза, можете да преформулирате въпроса, за да попитате дали ИИ ще надживее хората. Не съм сигурен дали това улеснява отговора на въпроса, но може би изглежда по-малко смущаващо. Казвам го, защото идеята AI да надживее хората може да изглежда малко по-безобидна. Ще бъде почти като да ви попитам дали големите сгради и паметниците, изработени от хора, могат да надживеят човечеството.

Със сигурност това изглежда осъществимо и не особено заплашително. Ние правим тези големи неща по време на живота си и подобни на пирамидите, тези могъщи структури ще надживеят тези, които са ги създали. Разбира се, това не е равносилно на продължаване след края на човечеството, тъй като хората все още са тук. Въпреки това изглежда съвсем логично и възможно структурите, които правим, да надживеят съществуването ни като цяло.

Забележителната разлика обаче е, че различни структури като високи небостъргачи и великолепни статуи не са живи. Те са инертни. За разлика от това, когато се пита за AI, предположението е, че AI по същество е „жив“ в смисъл, че има някаква форма на интелигентност и е в състояние да действа по начин, по който хората го правят. Ето защо въпросът за по-дългото живеене е по-плашещ, умопомрачителен и като цяло пъзел, над който си заслужава да се озадачавате.

В моите бележки тук ще се придържам към въпроса, който е формулиран дали хората ще надживеят ИИ. Това е само с цел обсъждане и улеснение на съзерцанието. Нямам предвид неуважение към алтернативния въпрос дали ИИ ще надживее хората. Като цяло, този анализ обхваща и двете формулировки и аз просто намирам, че въпросът за хората, надживяващи ИИ, изглежда по-привлекателен в тези трънливи въпроси.

Добре, ще го попитам пак:

Изглежда, че имате два потенциални отговора, или железния да, хората ще надживеят AI, или може да сте от другата страна на монетата и пламенно да настоявате, че не, хората няма да надживеят AI. По този начин този възвишен и изпълнен с гняв въпрос се свежда до директно предаване на да или не.

Направете своя избор.

Осъзнавам, че злобният отговор е, че нито да, нито не е приложимо.

Чувам те.

Докато на въпроса със сигурност може да се отговори само по ясно бинарен начин, а именно само с да или не, ще ви призная, че може разумно да се направи контрааргумент, че отговорът е нещо друго.

Нека накратко да разгледаме някои от основанията да не искаме просто да кажем да или не на този въпрос.

Първо, може да отхвърлите думата „надживея“ в контекста на зададения въпрос.

Тази конкретна формулировка може би предполага, че ИИ е жив. Въпросът не казваше „надживее“, а вместо това пита дали хората ще надживеят AI. Outlive важи ли само за човешката част от въпроса, или се отнася и за AI частта от въпроса? Някои биха се опитали да твърдят, че надживяната аура се отнася и за частта на AI. В такъв случай биха имали киселини, като кажат, че AI е живо същество. За тях AI ще бъде подобен на високи сгради и други структури. Не е живо по същия начин, по който хората са живи.

Следователно, в тази пламенна противоречива гледна точка въпросът е неправилно формулиран.

Може да сте бегло запознати с въпроси, които имат неверни или подвеждащи предпоставки. Един от най-известните примери е дали някой ще спре да бие жена си (стара поговорка, която очевидно трябва да се остави настрана). В този позорен пример, ако отговорът е „да“, това означава, че човекът вече го е правил. Ако кажат „не“, внушението е, че са били и ще продължат да го правят.

В случай на въпрос дали хората ще надживеят AI, можем да се окажем погребани в блатото дали AI се смята за нещо като жив аспект. Както ще обясня веднага, днес нямаме ИИ, който да е разумен. Мисля, че повечето разумни хора биха се съгласили, че несъзнателният AI не е живо същество (е, не всички са съгласни, но ще го уточня засега – вижте моето отразяване на юридическото лице за AI на връзката тук).

Същността на тази първа основа за липса на отговор на въпроса дали хората ще надживеят AI е, че думата „надживее“ може да се тълкува като означаваща, че AI е жив. Все още нямаме AI от този вид. Ако все пак произвеждаме или по някакъв начин имаме съзнателен ИИ, който възниква, ще ви бъде трудно да спорите, че той не е жив (въпреки че някои ще се опитат да направят такъв аргумент). Така че ключът тук е, че въпросът поставя нещо, което не съществува и ние просто спекулираме за неизвестно и мъгляво бъдеще.

Можем да вземем тази бъркотия и да се стремим да я разширим в по-експресивен израз. Да предположим, че вместо това питаме това:

• Ще надживеят ли хората като живи същества ИИ, който е или (1) нежив, или (2) живо същество, ако това някой ден се случи?

Имайте предвид тази разширена формулировка и скоро ще се върнем към нея.

Втората причина да не искаме да отговорим на първоначално зададения въпрос дали хората ще надживеят ИИ е, че се предполага, че едно от нещата ще надживее едно от другите неща. Да предположим обаче, че и двамата живеят вечно? Или да предположим, че и двамата изтичат или изчезват едновременно?

Сигурен съм, че можете лесно да разберете как това кара формулировката „да или не“ да се разпада.

Изглежда, че се нуждаем от възможен трети отговор, състоящ се от „нито един“ или подобен отговор.

Има множество пермутации, свързани с „нито едното“. Например, ако някой е силно убеден, че хората ще се самоунищожат чрез ИИ, и същевременно хората успеят да унищожат ИИ, този вярващ не може искрено да отговори на въпроса кой ще надживее другия с негъвкав отговор да или не. Отговорът, в този доста мрачен и тъжен случай, би бил по-скоро в смисъл, че нито едното не надживява другото.

Същото би било вярно, ако огромен метеор удари Земята и унищожи всичко на планетата, включително хората и всеки ИИ, който се намира наоколо (ако приемем, че всички сме ограничени до Земята и вече не живеем допълнително на Марс). Още веднъж, отговорът „нито едно“ не изглежда по-подходящ от това да се предполага, че хората са надживели AI или че AI е надживял хората (тъй като и двамата са били унищожени едновременно).

Не искам да отивам твърде далеч тук, но може също да искаме да установим някои параметри относно времето на надживяването. Да предположим, че метеор удари Земята и хората почти мигновено са унищожени. Междувременно да предположим, че AI продължава известно време. Мислете за това, сякаш имаме вече работещи машини във фабрики, които продължават да бръмчат, докато накрая машините спрат, защото няма хора, които да ги поддържат в работно състояние.

Трябва да кажете, че хората са надживели или надживели тези машини. Следователно отговорът е „не“ по отношение на това дали хората са оцелели по-дълго. Този отговор изглежда схематичен. Машините постепенно и неумолимо спират, вероятно поради липсата на хора около тях. Изглежда ли справедливо да се твърди, че машините са били в състояние да издържат по-дълго от хората?

Вероятно само за тези, които са капризни и винаги искат да бъдат дразнещо точни.

Тогава бихме могли да добавим към въпроса някакъв елемент, свързан с времето. Ще надживеят ли хората AI повече от ден? За повече от месец? За повече от година? За повече от век? Осъзнавам, че това за съжаление отваря кутията на Пандора.

Каква е приемливата времева рамка, след която бихме били готови да признаем, че AI действително е надживял или надживява хората? Точният отговор изглежда е, че дори да се случи за наносекунда (една милиардна част от секундата) или по-кратко, AI като цяло печели и хората губят по този въпрос. Разрешаването на географска ширина чрез използване на ден, седмица или месец може би изглежда по-справедливо, може би. Оставянето на това да продължава години или векове изглежда възможно разтягане. Като се има предвид това, ако погледнете света в мащаба на милиони години, идеята ИИ да надживее или надживее хората за не повече от няколко века изглежда изключително невпечатляваща и бихме могли да заявим, че и двамата са изчезнали приблизително на същото време (на закръглена основа).

Както и да е, нека признаем, че поради редица разумни причини, зададеният въпрос може да има три възможни отговора:

• Да, хората ще надживеят AI
• Не, и по този начин се твърди, че хората ще го направят не надживее AI
• Нито да, нито не е приложимо (изисква се обяснение, ако обичате)

Споменавам, че ако изберете „нито едно от двете“, трябва също да предоставите обяснение за отговора си. Това е така, за да знаем защо смятате, че „нито едно от двете“ не е приложимо, а също и защо отхвърляте използването на „да“ или „не“. За да направим живота по-справедлив за всички, предполагам, че трябва донякъде да настояваме или поне да насърчаваме, че дори и да отговорите с да или не, все пак трябва да предложите обяснение. Предоставянето на просто да или не не разкрива особено вашата логика защо отговаряте по начина, по който сте. Без също да предоставяме обяснение, бихме могли да хвърлим монета. Монетата не знае защо е попаднала на глави или опашки (освен ако не вярвате, че монетата има душа или олицетворява някаква всезнаеща ръка на съдбата, но засега няма да се занимаваме с това).

Очакваме хората, които отговарят на въпроси, да предоставят някакво обяснение за своите решения. Обърнете внимание, че не казвам, че обясненията ще бъдат непременно от логичен или разумен характер и наистина едно обяснение може да бъде напълно празно и да не добавя никаква специална стойност. Въпреки това можем искрено да се надяваме, че едно обяснение ще бъде просветляващо.

По време на тази дискусия имаше неизразено предположение, че по една или друга причина едно от тези неща наистина ще надживее другото.

Защо трябва да вярваме на такова подразбиращо се условие?

Отговорът на този второстепенен въпрос е почти очевиден.

Ето сделката.

Знаем, че някои видни предсказатели и интелектуалци са направили доста смели и откровени прогнози за това как появата или пристигането на разумен ИИ ще промени радикално света, какъвто го познаваме днес (като напомняне, че днес нямаме разумен ИИ) .

Ето няколко докладвани известни цитата, които подчертават променящото живота въздействие на разумния ИИ:

• Стивън Хокинг: „Успехът в създаването на AI ще бъде най-голямото събитие в човешката история.“
• Рей Кърцвейл: „В рамките на няколко десетилетия машинният интелект ще надмине човешкия интелект, което ще доведе до Сингулярността – технологична промяна, толкова бърза и дълбока, че представлява разрив в тъканта на човешката история.“
• Ник Бостром: „Машинният интелект е последното изобретение, което човечеството някога ще трябва да направи.“

Тези твърдения са очевидно оптимистични.

Работата е там, че трябва да вземем под внимание и грозния корем, когато става въпрос за работа с разумен ИИ:

• Стивън Хокинг: „Развитието на пълен изкуствен интелект може да означава края на човешката раса.“
• Илон Мъск: „Все повече съм склонен да мисля, че трябва да има някакъв регулаторен надзор, може би на национално и международно ниво, само за да сме сигурни, че няма да направим нещо много глупаво. Искам да кажа, че с изкуствения интелект ние призоваваме демона.

Очаква се Sentient AI да бъде пословичният тигър, който сме хванали за опашката. Ще изстреляме ли човечеството напред чрез използване на разумен ИИ? Или глупаво ще предизвикаме собствената си смърт от разумен ИИ, който избира да ни унищожи или пороби? За моя анализ на тази главоблъсканица с ИИ с двойна употреба вижте връзката тук.

Основното опасение относно това дали хората ще надживеят ИИ е, че може би създаваме Франкенщайн, който избира да изкорени човечеството. AI става победител. Има много възможни причини AI да ни причини това. Може би AI е зъл и действа съответно. Може би изкуственият интелект се пресища от хората и осъзнава, че има силата да се отърве от човечеството. Човек предполага, че може да се случи и по погрешка. AI се опитва да спаси човечеството и в процеса, опа, убива всички нас направо. Поне мотивът беше чист.

Може да откриете, че представлява интерес за известна главоблъсканица с ИИ, известна като проблем с кламерите, която разгледах връзката тук.

Накратко, от един разумен изкуствен интелект някой ден се иска да направи кламери. AI е фиксиран върху това. За да гарантира, че производството на кламери е напълно извършено до крайна степен, AI започва да поглъща всички други планетарни ресурси, за да направи това. Това води до смъртта на човечеството, тъй като AI е погълнал всички налични ресурси за единствената цел, предоставена му от хората. Кламерите причиняват нашето собствено унищожение, ако щете. Изкуственият интелект, който е тясно измислен и му липсва всякакво подобие на здрав разум, е видът ИИ, към който трябва да бъдем особено подозрителни.

Преди да преминем по-нататък към въпроса дали хората ще надживеят ИИ, забележете, че продължавам да повдигам въпроса за съзнателния ИИ срещу несъзнателния ИИ. Правя го по важни причини.

Можем да спекулираме диво за разумния ИИ. Никой не знае със сигурност какво ще бъде това. Никой не може да каже със сигурност дали някой ден ще постигнем разумен ИИ. В резултат на това неизвестно и все още неизвестно обстоятелство може да се изведе почти всякакъв вид сценарий. Някой може да каже, че съзнателният ИИ ще бъде зло. Някой може да каже, че разумният ИИ ще бъде добър и добронамерен. Можете да продължите безкрайно, при което не можете да предоставите „доказателство“, което да подкрепи даденото твърдение до каквато и да е сигурност или увереност.

Това ни отвежда до сферата на етиката на ИИ.

Всичко това също се отнася до трезво възникващите опасения относно днешния AI и особено използването на машинно обучение (ML) и дълбоко обучение (DL). Виждате ли, има употреби на ML/DL, които са склонни да включват AI да бъде антропоморфизиран от широката общественост, вярвайки или избирайки да приеме, че ML/DL е или чувствителен AI, или близо до (не е).

Може да е полезно първо да изясня какво имам предвид, когато говоря за AI като цяло, и също така да дам кратък преглед на машинното обучение и дълбокото обучение. Съществува голямо объркване по отношение на това какво означава изкуствен интелект. Бих искал също така да ви представя предписанията на етиката на ИИ, които ще бъдат особено неразделна част от останалата част от този дискурс.

Посочване на записа за AI

Нека се уверим, че сме на една и съща страница относно природата на днешния AI.

Днес няма ИИ, който да е разумен.

Ние нямаме това.

Не знаем дали разумният AI ще бъде възможен. Никой не може точно да предвиди дали ще постигнем съзнателен ИИ, нито дали съзнателният ИИ ще възникне по някакъв чудотворен начин спонтанно под формата на изчислителна когнитивна свръхнова (обикновено наричана Сингулярността, вижте моето отразяване на връзката тук).

Осъзнайте, че днешният изкуствен интелект не е в състояние да „мисли“ по никакъв начин, равен на човешкото мислене. Когато взаимодействате с Alexa или Siri, възможностите за разговор може да изглеждат подобни на човешките способности, но реалността е, че те са изчислителни и им липсва човешко познание. Най-новата ера на AI широко използва машинно обучение и задълбочено обучение, които използват съвпадение на изчислителни модели. Това доведе до AI системи, които изглеждат като човешки склонности. Междувременно днес няма изкуствен интелект, който да има подобие на здрав разум, нито когнитивното чудо на здравото човешко мислене.

Част от проблема е нашата тенденция да антропоморфизираме компютрите и особено ИИ. Когато изглежда, че компютърна система или AI действа по начини, които свързваме с човешкото поведение, има почти непреодолимо желание да се припишат човешки качества на системата. Това е често срещан умствен капан, който може да хване дори най-непреклонния скептик относно шансовете за достигане на разум. За моя подробен анализ на такива въпроси вижте връзката тук.

До известна степен това е причината етиката на ИИ и етичният ИИ да е толкова важна тема.

Предписанията на ИИ етиката ни карат да останем бдителни. AI технолозите понякога могат да бъдат заети с технологиите, особено с оптимизирането на високите технологии. Те не обмислят непременно по-големите обществени разклонения. Наличието на мислене относно етиката на ИИ и правенето на това неразделна част от разработването и прилагането на ИИ е от жизненоважно значение за създаването на подходящ ИИ, включително оценката на начина, по който етиката на ИИ се приема от фирмите.

Освен използването на принципите на етиката на ИИ като цяло, има съответен въпрос дали трябва да имаме закони, които да управляват различните употреби на ИИ. Нови закони се обединяват на федерално, щатско и местно ниво, които засягат обхвата и естеството на начина, по който трябва да се създаде ИИ. Усилията за изготвяне и приемане на такива закони са постепенни. Етиката на ИИ служи най-малкото като временно средство и почти сигурно до известна степен ще бъде директно включена в тези нови закони.

Имайте предвид, че някои категорично твърдят, че не се нуждаем от нови закони, които обхващат AI и че съществуващите ни закони са достатъчни. Те предупреждават, че ако приемем някои от тези закони за ИИ, ще убием златната гъска, като ограничим напредъка в ИИ, който предлага огромни социални предимства.

В предишни колони разгледах различните национални и международни усилия за изработване и приемане на закони, регулиращи ИИ, вж. връзката тук, например. Освен това разгледах различните принципи и насоки за етиката на ИИ, които различни нации са идентифицирали и приели, включително например усилията на ООН, като набора от етика на ИИ на ЮНЕСКО, който почти 200 страни приеха, вж. връзката тук.

Ето един полезен ключов списък с етични критерии или характеристики на ИИ по отношение на системите с ИИ, които преди това проучих отблизо:

• Прозрачност
• Справедливост и справедливост
• Не-зловредност
• отговорност
• Поверителност
• Благодеяние
• Свобода и автономия
• Доверие
• Устойчивост
• достойнство
• Солидарност

Тези принципи на етиката на ИИ сериозно трябва да се използват от разработчиците на ИИ, заедно с тези, които управляват усилията за разработка на ИИ, и дори тези, които в крайна сметка прилагат и извършват поддръжка на системи с ИИ. Всички заинтересовани страни през целия жизнен цикъл на AI на разработване и използване се разглеждат в обхвата на спазването на установените норми на етичния AI. Това е важен акцент, тъй като обичайното предположение е, че „само програмистите“ или тези, които програмират AI, подлежат на спазване на понятията за етика на AI. Както беше подчертано тук, необходимо е едно село, за да създаде и внедри AI, и за което цялото село трябва да бъде запознато и да спазва етичните правила на AI.

Нека да запазим нещата на земята и да се съсредоточим върху днешния изчислителен несъзнателен ИИ.

ML/DL е форма на съвпадение на изчислителни модели. Обичайният подход е, че събирате данни за задача за вземане на решение. Вие подавате данните в компютърните модели ML/DL. Тези модели се стремят да намерят математически модели. След намиране на такива модели, ако бъдат открити, системата AI ще използва тези модели, когато срещне нови данни. При представяне на нови данни, моделите, базирани на „старите“ или исторически данни, се прилагат за вземане на текущо решение.

Мисля, че можете да познаете накъде води това. Ако хората, които са вземали решения по модел, са включвали неблагоприятни пристрастия, има вероятност данните да отразяват това по фини, но значими начини. Съпоставянето на изчислителни модели с машинно обучение или дълбоко обучение просто ще се опита да имитира математически данните съответно. Няма подобие на здрав разум или други разумни аспекти на моделирането, създадено от AI, само по себе си.

Освен това разработчиците на AI също може да не осъзнават какво се случва. Тайната математика в ML/DL може да затрудни откриването на сега скрити пристрастия. С право се надявате и очаквате, че разработчиците на AI ще тестват за потенциално заровените пристрастия, въпреки че това е по-сложно, отколкото може да изглежда. Съществува солидна възможност дори при сравнително обширно тестване да има отклонения, все още вградени в моделите за съвпадение на модели на ML/DL.

Можете донякъде да използвате известната или скандална поговорка за боклука-в боклука-извън. Работата е там, че това е по-подобно на пристрастия, които коварно се вливат като пристрастия, потопени в AI. Алгоритъмът за вземане на решения (ADM) на AI аксиоматично се натоварва с неравенства.

Не е добре.

Вярвам, че вече съм подготвил подходящата основа за по-нататъшно изследване дали хората ще надживеят ИИ.

Хората и ИИ са приятели, врагове или врагове

По-рано бях обявил, че всеки отговор на въпроса дали хората ще надживеят ИИ трябва да бъде придружен от обяснение.

Ще разгледаме Да отговор. Ще дам кратък списък с обяснения. Можете да приемете някое от тези обяснения. Вие също така се насърчавате да извлечете други обяснения, от които са възможни множество.

Да, хората ще надживеят AI, защото:

• Хората като творци: Хората са създателите и поддържащите ИИ, така че без хора ИИ ще спре да работи или да съществува
• Човешкият вроден дух: Хората имат неукротим дух към живота, докато AI не го прави, така че по един или друг начин хората ще оцелеят, но AI несъмнено ще остане встрани поради липса на вродена сила за оцеляване
• Хората като победители: Хората няма да позволят ИИ да надживее хората, тъй като хората биха избрали да победят изцяло ИИ, ако хората са застрашени от ИИ или по друг начин изчезват
• Други

Ще разгледаме отговора Не ​​(не-да). Ще дам кратък списък с обяснения. Можете да приемете някое от тези обяснения. Вие също така се насърчавате да извлечете други обяснения, от които са възможни множество.

Хората няма да надживеят AI, защото:

• AI, способен да се самоустои: Дори ако хората са създателите и поддържащите AI, AI или ще бъде програмиран, или създаден от хората, за да продължи да съществува в отсъствието на хора, или AI ще намери свои собствени средства за устойчивост (вероятно без хората да го осъзнават)
• AI изкуствен дух: Дори ако хората имат неукротим дух към живота, ние знаем, че хората също имат дух на самоунищожение; във всеки случай ИИ може да бъде програмиран с изкуствен дух, ако желаете, така че ИИ да се стреми да оцелее и/или ИИ да предскаже подобие на вродено ободряване според собствените си условия
• AI преодолява победителите: Дори и хората да не искат да оставят ИИ да надживее хората, ИИ потенциално ще бъде програмиран да надхитри усилията за побеждаване на хората или може сам да извлече как да го направи (и може би да избере съответно да победи хората или не)
• Други

Ние сме еднакво задължени да разгледаме „Нито“ (не Да, Не Не) отговор. Ще дам кратък списък с обяснения. Можете да приемете някое от тези обяснения. Вие също така се насърчавате да извлечете други обяснения, от които са възможни множество.

Хората не надживяват ИИ и междувременно ИИ не надживява хората поради:

• Хората и ИИ съществуват сърдечно завинаги: Оказва се, че хората и AI са предназначени да бъдат един с друг, завинаги. Може да има неравности по пътя. Добрата новина или щастливото лице е, че всички се разбираме.
• Хората и AI съществуват омразни завинаги: Уау, хората и ИИ започват да се мразят. Сценарий с тъжно лице. Работата е там, че има задънена улица. AI не може да надделее над хората. Хората не могат да надделеят над AI. Теглене на въже с вечно състояние.
• Хората и AI се унищожават взаимно: Двама състезатели в тежка категория в крайна сметка се нокаутират един друг от ринга и от този свят. Хората надделяват над ИИ, но ИИ успя да надделее и над хората (може би настройка за края на света)
• Хората и ИИ биват унищожени от някаква необходимост: Хората и ИИ биват унищожени от поразителен метеор или може би извънземно от друга планета, което решава, че е категорично забранено за хората и ИИ, произхождащ от човечеството (дори не се интересуват от кражбата на нашия невероятен ИИ от нас)
• Други

Има някои от най-често споменаваните причини за отговорите „Да“, „Не“ и „Нито едно“ на въпроса дали хората ще надживеят ИИ.

Заключение

Може би си спомняте, че по-рано предложих този разширен вариант на въпроса за изкуствения интелект, надживяващ хората:

• Ще надживеят ли хората като живи същества ИИ, който е или (1) нежив, или (2) живо същество, ако това някой ден се случи?

Гореспоменатите отговори обикновено са фокусирани върху последната част от въпроса, а именно обстоятелството, включващо ИИ от чувствителна разновидност. Вече посочих, че това е изключително спекулативно, тъй като не знаем дали ще се появи разумен ИИ. Някои биха казали, че за всеки случай е разумно да обмислим предварително какво може да възникне.

Ако това ви изглежда крайно нереалистично, съчувствам, че всичко това е доста хипотетично и изпълнено с предположения върху предположения. Това е буре, пълно с предположения. Ще трябва да установите стойността, която смятате, че предоставят подобни спекулативни начинания.

Стигайки повече до месинговите тактики, можем да разгледаме неживия или несъзнателния тип AI.

Съкратете въпроса до това:

• Ще надживеят ли хората неживия несъзнателен ИИ?

Вярвате или не, това е достоен по същество въпрос.

Може да не сте сигурни защо този нежив несъзнателен ИИ може да бъде някъде в полето на възможността по някакъв начин да надживее човечеството.

Помислете за ситуацията, свързана с автономни оръжейни системи, която обсъждах в връзката тук. Вече виждаме, че оръжейните системи се въоръжават с AI, което позволява на оръжието да работи донякъде автономно. Този нежив несъзнателен ИИ няма никакво подобие на мислене, никакво подобие на здрав разум и т.н.

Представете си една от онези апокалиптични ситуации. Няколко нации са внедрили този нискокалибрен ИИ в своите оръжия за масово унищожение. По невнимание (или умишлено) тези автономни оръжейни системи, задвижвани от AI, се изстрелват или отприщват. Няма достатъчно безопасност, за да ги спре. Човечеството е унищожено.

Щеше ли AI да надживее хората при такъв сценарий?

Първо, може да не ви пука особено. С други думи, ако цялото човечество е било унищожено, безпокойството или грижата дали ИИ все още си тананика изглежда малко като преместването на тези шезлонги на Титаник. Има ли значение, че AI все още работи?

Привърженикът може да възрази, че все още има значение. Добре, ще забавляваме лепенка. AI може да работи сам чрез слънчеви панели и други форми на енергия, които могат да продължат да захранват машината. Може също да сме създали AI системи, които ремонтират и поддържат други AI системи. Имайте предвид, че това не изисква разумен AI.

Като цяло можете да измислите сценарий, при който човечеството е изтекло и AI все още работи. Може би AI продължава да работи само за кратък период от време. Независимо от това, според по-ранната дискусия за прецизно отношение към времето, изкуственият интелект всъщност е надживял хората (за известно време).

Последна мисъл по тази тема, за сега.

Обсъждането дали хората ще надживеят разумния ИИ е почти като пословичната лъжица захар (как е възможно това, може би се чудите, добре, дръжте се за шапката си и ще ви кажа).

Виждате ли, определено трябва да си наумим, че несъзнателният ИИ също има огромен и тежък потенциал да участва в унищожаването на човечеството и да ни надживее. Не особено защото AI „искаше да ни надживее“, а просто от нашите собствени ръце при изработването на AI, който не се нуждае от човешка намеса, за да продължи да функционира. Някои биха твърдяли, че изкуственият интелект, който е създаден да бъде донякъде вечен, може да бъде дестабилизиращо влияние, което може да накара някои хора да искат да направят първа стъпка при унищожаването на други хора, вижте моето обяснение на връзката тук.

Частта за надживелите хора не е основната причина защо въпросът заслужава такава тежест днес. Вместо това скритото скрито течение за това как изработваме днешния AI и как използваме AI е истинският удар тук. Трябва да мислим обилно за разклоненията на етиката на ИИ и обществените въздействия на съвременния ИИ.

Ако донякъде странният въпрос за това дали хората ще надживеят AI ще се появи на масата за проблемите тук и сега на съвременния AI, ще бъдем по-добре. По този начин на разглеждане аспектите на чувствителния ИИ на хората, надживяващи ИИ, са лъжицата захар, която, надяваме се, намалява лекарството за справяне с ИИ тук и сега.

Само една лъжица захар понякога помага на лекарството да спадне. И то по най-приятния начин. Или поне по увлекателен начин, който привлича вниманието ни и ни държи приковани към това, за което трябва да се тревожим.

Както се казва в песента по-нататък, като червеноперка, която перна гнездото си, имаме много малко време за почивка.