AI разтърсване, тъй като виден AI гуру предлага умопомрачителни „смъртни компютри“, които също така включват етиката на AI и закона за AI

Ето нещо, за което вероятно още не сте се замисляли: Смъртни компютри.

Но може би трябва да бъдеш.

Опияняващата тема се появи на неотдавнашната и като цяло доста важна годишна конференция за ИИ, която е специално фокусирана върху появата на невронни мрежи и машинно обучение, а именно Конференцията за системи за обработка на невронна информация (известна от вътрешните лица като NeurIPS). Поканеният основен лектор и смятан за дългогодишен AI гуру Джефри Хинтън направи интригуващото и може би противоречиво твърдение, че трябва да мислим за компютрите в смъртен и безсмъртен контекст.

Ще се обърна към забележителното твърдение и ще го направя по два начина, които на пръв поглед няма да изглеждат непременно свързани, но след малко допълнително изясняване ще станат по-ясно свързани помежду си по отношение на споровете между смъртните и безсмъртните.

Двете теми са:

1) Интегрално свързване на хардуера и софтуера за AI механизации, вместо да ги има като различни и отделни съюзници

2) Прехвърляне или дестилиране на формулировки за машинно обучение от един AI модел в друг, което прави това, без да изисква, нито непременно да желае (или дори възможно по друг начин възможно) право напред, пълно чистокръвно копиране

Всичко това има големи съображения за AI и бъдещата посока на развитие на AI.

Освен това възникват множество много трудни опасения относно етиката на ИИ и Закона за ИИ. Тези видове технологични постижения, предвидени от AI, обикновено се обединяват на чисто технологична основа много преди да се осъзнае, че това може да има също така забележителни последици за етичния AI и закона за AI. В известен смисъл обикновено котката вече е излязла от торбата или конят е излязъл от плевнята преди пробуждането, че етиката на ИИ и Законът за ИИ трябва да получат участие в надлежната проверка.

Е, нека прекъснем този закъснял цикъл на закъснели мисли и да влезем на приземния етаж по този въпрос.

За тези от вас, които се интересуват като цяло от най-новите прозрения в основата на етиката на ИИ и Закона за ИИ, може да намерите информативно и вдъхновяващо ангажиране на моето текущо и обширно отразяване на връзката тук намлява връзката тук, Само за да назовем няколко.

Тук първо ще разгледам горната точка относно свързването на хардуер и софтуер. Ще се проведе дискусия и анализ на темата ръка за ръка. След това ще засегна въпроса за копирането или някои казват дестилиране ключовите елементи на система за машинно обучение AI от един AI до новоразработен AI като цел.

Да започваме.

Обвързване заедно на хардуер и софтуер за AI

Вероятно знаете, че като цяло дизайнът на компютрите е такъв, че има хардуерна страна на нещата и отделно има софтуерна страна на нещата. Когато купувате ежедневен лаптоп или настолен компютър, той се тълкува като изчислително устройство с общо предназначение. В компютъра има микропроцесори, които след това се използват за стартиране и изпълнение на софтуер, който можете да закупите или напишете сами.

Без какъвто и да е софтуер за вашия компютър, той е парче метал и пластмаса, което по същество няма да ви помогне много, освен да действа като преспапие. Някои биха казали, че софтуерът е цар и управлява света. Разбира се, ако нямате хардуер, на който да стартирате софтуера, софтуерът няма да свърши много работа. Можете да напишете толкова редове код, колкото сърцето ви желае, но докато софтуерът не се използва чрез компютър, формулираният изходен код е толкова крехък и нелетлив като красиво поетично произведение или вълнуващ детективски роман.

Позволете ми за момент да превключа на друг път, който може да изглежда далече (няма да бъде).

Често се опитваме да направим аналогии между това как работят компютрите и това как работи човешкият мозък. Този опит да се направят концептуални паралели е удобен. Като се има предвид това, трябва да внимавате да прекалявате с тези аналогии, тъй като сравненията са склонни да се развалят, когато се доближите до месестите детайли.

Както и да е, в името на дискусията, ето една често използвана аналогия.

Самият мозък неофициално понякога се нарича wetware. Това е закачлив начин да се формулират нещата. Знаем, че компютрите се състоят от хардуер и софтуер, така че е умно да се използва частта „изделия“ от монетата, за да се опише какво представлява мозъкът. Сгушен в краката ни, могъщият и мистериозен мозък се рее наоколо, изчислявайки мислено всички наши дела (някои добри, докато някои от мислите ни определено не са изпълнени с доброта).

При средно тегло от около три килограма, мозъкът е забележителен орган. По някакъв начин и все още не знаем как, мозъкът е в състояние да използва от порядъка на 100 милиарда неврони и може би някъде между 100 и 1,000 трилиона връзки или синапси, за да върши цялото ни мислене вместо нас. Как биологичните и химичните свойства на мозъка пораждат интелигентност? Никой не може да каже със сигурност. Това е мисия на вековете.

Питам ви това, мозъкът привидно само хардуерен ли е или е комбиниран и хардуер, и софтуер?

Нудъл на тази главоблъсканица.

Може да се изкушите да твърдите, че мозъкът е просто хардуер (в общ смисъл). Това е орган на тялото. По същия начин може да кажете, че сърцето е хардуер, пикочният мехур е хардуер и т.н. Всички те са механизации, подобни на тези, когато говорим за артефакти, които имат физическа форма и извършват физически свързани действия.

Къде тогава е софтуерът, който управлява хората?

Смея да предположа, че всички сме съгласни, че „софтуерът“ на човечеството по някакъв начин се намира в мозъка. Стъпките, необходими за приготвяне на яйце или поправяне на спукана гума, са инструкции, които са въплътени в мозъка ни. Използвайки тази по-рано отбелязана компютърна аналогия на хардуер и софтуер, нашият мозък е част от хардуер, така да се каже, за който научаваме за света и инструкциите какво да правим се „движат“ и „съхраняват“ в мозъците ни.

На компютър можем лесно да посочим хардуера и да кажем, че това е хардуер. Можем да имаме списък с изходен код и да посочим списъка като софтуер. В днешно време ние изтегляме онлайн софтуер по електронен път и го инсталираме на нашите лаптопи и смартфони. В дните на древността сме използвали флопи дискове и перфокарти, за да съхраняваме нашия софтуер за зареждане в хардуера на компютъра.

Вкарвам ви в важна главоблъсканица.

След като сте научили нещо и знанието присъства в мозъка ви, можете ли все още да правите разлика между „хардуера“ на вашия мозък и предполагаемия „софтуер“ на вашия мозък?

Една аргументирана позиция е, че знанието в мозъка ви не е отделно от концепциите за хардуер и софтуер. По този начин аналогията с природата на компютрите се разваля, някои пламенно биха възразили. Знанието в мозъка е преплетено и неотделимо от хардуера на вашия мозък. Биологичните и химичните свойства преплитат знанието, което умствено притежавате.

Задушете това за малко умствен размисъл.

Ако се надяваме някой ден да създадем компютри, които са равни на човешкия интелект или дори надминават човешкия интелект, може би можем да използваме структурите на мозъка и неговата вътрешна работа като ръководство за това какво трябва да направим, за да постигнем такава възвишена цел. За някои в областта на ИИ съществува убеждението, че колкото повече знаем за това как работи мозъкът, толкова по-добри са шансовете ни да създадем истински ИИ, понякога наричан Общ изкуствен интелект (AGI).

Други в AI са по-малко влюбени в това да знаят как работи мозъкът. Те подчертават, че можем да продължим бързо към създаването на AI, независимо дали сме в състояние да отключим тайната вътрешна работа на мозъка. Не позволявайте на мистериите на мозъка да възпрепятстват усилията ни за ИИ. Разбира се, продължавайте да се опитвате да декодирате и дешифрирате човешкия мозък, но не можем да седим и да чакаме мозъкът да бъде конструиран обратно. Ако това някой ден е осъществимо, прекрасна новина, макар че може би е невъзможно или ще се случи след векове.

Вече съм готов да споделя с вас спора между смъртните и безсмъртните компютри. Моля, уверете се, че сте седнали и сте готови за голямото разкритие.

Компютър, който има ясно разделение на хардуера и софтуера, може да се твърди, че е „безсмъртен“, тъй като хардуерът може да съществува вечно (в рамките на ограниченията, разбира се), докато софтуерът може да бъде писан и пренаписван отново и отново. Можете да поддържате конвенционален компютър толкова дълго, колкото можете да ремонтирате хардуера и поддържате измишльотината в състояние да се захранва. Все още можете да използвате днес грубите домашни компютри от 1970-те години на миналия век, които се доставяха в комплекти за сглобяване, въпреки че бяха на около петдесет години (много време в компютърни години).

Да предположим обаче, че сме избрали да направим компютри, при които хардуерът и софтуерът работят неразделно (ще кажа повече за това след малко). Разгледайте това на същата основа, на която по-рано споменах, че мозъкът може би има интегрална композиция от хардуер и софтуер. Ако случаят беше такъв, можеше да се предположи, че компютърът от този вид вече нямаше да бъде безсмъртен. Вместо това ще се тълкува като „смъртен“.

Според забележките, направени на конференцията NeurIPS от поканения основен лектор и забележителен AI гуру Джефри Хинтън, и както е посочено в придружаващата му изследователска статия:

• „Цифровите компютри с общо предназначение бяха проектирани да следват вярно инструкциите, тъй като се предполагаше, че единственият начин да накараш компютър с общо предназначение да изпълни конкретна задача е да напишеш програма, която уточнява точно какво да правиш с мъчителни подробности. Това вече не е вярно, но изследователската общност бавно разбира дългосрочните последици от дълбокото обучение за начина, по който са изградени компютрите. По-конкретно общността се е придържала към идеята, че софтуерът трябва да бъде отделим от хардуера, така че същата програма или същия набор от тегла да могат да се изпълняват на различно физическо копие на хардуера. Това прави знанията, съдържащи се в програмата, умиращи или тежестите безсмъртни: Знанието не умира, когато хардуерът умира” (както се съдържа и цитира от неговата изследователска статия „The Forward-Forward Algorithm: Some Preliminary Investigations”, предпечат, достъпен онлайн) .

Имайте предвид, че конкретният вид изчисления, които се обсъждат в този тип AI, използва изкуствени невронни мрежи (ANN).

Нека изясним нещата по този въпрос.

В мозъците ни има биологични неврони от реалния свят. Вие ги използвате през цялото време. Те са биологично и химически взаимосвързани в мрежа във вашето краче. По този начин можем да наречем това като a невронна мрежа.

На други места има, да кажем, фалшиви „неврони“, които изчислително представяме в компютрите за целите на разработването на AI. Много хора в AI също ги наричат ​​​​невронни мрежи. Вярвам, че това е донякъде объркващо. Виждате ли, предпочитам да ги наричам изкуствен невронни мрежи. Това помага веднага да се разграничи препратката към in-your-head невронни мрежи (истинското, така да се каже), и компютърно базираните (изкуствен невронни мрежи).

Не всеки заема тази позиция. Много хора в AI просто приемат, че всички останали в AI „знаят“, че когато се позовават на невронни мрежи, те почти винаги говорят за ANN – освен ако не възникне ситуация, в която по някаква причина те искат да обсъдят истински неврони и реални невронни мрежи в мозък.

Вярвам, че ме разбирате. През повечето време хората с изкуствен интелект ще кажат „невронни мрежи“, което е потенциално двусмислено, защото не знаете дали имат предвид истинските в главите ни или изчислителните, които програмираме в компютрите. Но тъй като хората с изкуствен интелект като цяло работят с компютърно базирани инстанции, те по подразбиране приемат, че имате предвид изкуствени невронни мрежи. Обичам да добавя думата „изкуствено“ в предния край на текста, за да бъда по-ясна относно намеренията.

Продължавайки напред, можете донякъде да разглеждате тези изчислителни изкуствени неврони като математическа или изчислителна симулация на това, което смятаме, че действителните биохимични физически неврони правят, като например използване на числови стойности като тегловни фактори, които иначе се случват биохимично в мозъка. Днес тези симулации не са толкова сложни, колкото са истинските неврони. Настоящите ANN са изключително грубо математическо и изчислително представяне.

Като цяло, ANN често са основният елемент за машинно обучение (ML) и задълбочено обучение (DL) — моля, имайте предвид, че има много повече подробности за това и ви призовавам да разгледате моето широко покритие на ML/DL при връзката тук намлява връзката тукНапример.

Връщайки се към безсмъртните срещу смъртните видове компютри, ето още неща за размисъл според изследователя:

• „Разделянето на софтуера от хардуера е една от основите на компютърните науки и има много предимства. Това прави възможно изучаването на свойствата на програмите, без да се притеснявате за електротехниката. Той дава възможност да се напише програма веднъж и да се копира на милиони компютри. Ако обаче сме готови да се откажем от безсмъртието, би трябвало да е възможно да постигнем огромни спестявания на енергията, необходима за извършване на изчисление, и на разходите за производство на хардуера, който изпълнява изчислението. Можем да позволим големи и неизвестни вариации в свързаността и нелинейността на различни екземпляри на хардуер, които са предназначени да изпълняват една и съща задача и да разчитаме на процедура за обучение, за да открием стойности на параметри, които използват ефективно неизвестните свойства на всеки конкретен екземпляр на хардуера. Тези стойности на параметрите са полезни само за този конкретен хардуерен екземпляр, така че изчислението, което извършват, е смъртоносно: то умира заедно с хардуера” (пак там).

Вече се запознахте с това как безсмъртен и смъртен се използват в този контекст.

Нека уточня.

Предложението е, че компютър, който е специално създаден на базата на ANN, може да бъде създаден така, че хардуерът и софтуерът да се считат за неразделни. След като хардуерът някой ден престане да функционира (което, разбира се, казваме, че интегрира софтуера), този тип компютър изглежда вече не е полезен и няма да функционира повече. Казват, че е смъртен. Можете също така да погребете компютъра, базиран на ANN, тъй като отсега нататък той няма да ви помогне много, след като неразделният хардуер и софтуер вече не работят жизнеспособно като екип.

Ако искате да опитате да свържете това с аналогията с човешкия мозък, може да си представите мрачното положение на човешки мозък, който напълно се влошава или който по някакъв начин е непоправимо увреден. Ние приемаме идеята, че човек е смъртен и неговият мозък в крайна сметка и неизбежно ще спре да работи. Знанието, което са съдържали в мозъка си, вече не е достъпно. Освен ако не са се опитали да кажат на другите или да запишат това, което са знаели, знанията им са изчезнали в света като цяло.

Несъмнено сте чували или виждали съобщения за опити за запазване на мозъци, като поставянето им в замразено състояние, според теорията, че може би хората някой ден биха могли да бъдат безсмъртни или поне да продължат отвъд обичайния си живот. Вашият мозък може да продължи да живее, дори и да не е в тялото ви. Много научнофантастични филми и истории спекулират с подобни идеи.

Вече сме готови за подробен поглед върху смъртния компютър и безсмъртния компютър като концепция и какво предсказва.

Внимателна дискусия и обмислен анализ

Преди да се потопите в вътрешностите на този анализ на постулирания подход, си струва да споменем няколко важни предупреждения и допълнителни точки.

Изследователят подчерта, че изкованата смъртни компютри няма да замени или избута от съществуването безсмъртни компютри които днес наричаме конвенционални цифрови компютри. Ще има съвместно съществуване и на двата вида компютри. Казвам това, защото реакцията на някои беше, че призивът за ред е общо твърдение all компютрите по необходимост са или ще се насочват към смъртния тип.

Това не беше твърдение.

По време на изказването си той спомена, че тези специализирани невроморфно ориентирани компютрите ще извършват изчислителна работа, известна като смъртни изчисления: „Ще направим това, което наричам смъртно изчисление, където знанието, което системата е научила, и хардуерът са неразделни“ (както е цитирано в статия на ZDNET от Tiernan Ray на 1 декември 2022 г.).

И по-специално: „Няма да замени цифровите компютри“ (пак там).

Също така, тези нови типове компютри определено няма да бъдат скоро в местния компютърен магазин или достъпни за покупка онлайн веднага, както беше посочено по време на неговата презентация: „Това, което мисля, е, че ще видим напълно различен тип компютър, не от няколко години, но има всички основания да се изследва този напълно различен тип компютър.“ Употребите също биха се различавали: „Няма компютърът да отговаря за банковата ви сметка и да знае точно колко пари имате.“

Допълнителен обрат е, че компютрите на смъртните изглежда ще бъдат отглеждани, вместо да бъдат произвеждани, както правим днес, за производството на компютърни процесори и изчислителни чипове.

По време на процеса на растеж смъртният компютър ще увеличи способностите си в стил на изчислително съзряване. По този начин даден смъртен компютър може да започне с почти никакви способности и да узрее до това, което е трябвало да стане. Да предположим например, че искаме да създадем мобилни телефони чрез използването на компютри на смъртните. Бихте започнали с прост вариант на смъртен компютър, който първоначално е бил оформен или заложен за тази цел. След това ще се превърне в по-разширената версия, която търсите. Накратко: „Бихте заменили това с всеки от тези мобилни телефони, който ще трябва да започне като бебешки мобилен телефон и ще трябва да се научи как да бъде мобилен телефон.“

На един от неговите основополагащи слайдове за изчисленията на смъртните ползите са описани по следния начин: „Ако изоставим безсмъртието и приемем, че знанието е неотделимо от точните физически детайли на конкретен хардуер, получаваме две големи предимства: (1) Можем да използваме аналогови изчисления с много ниска мощност, (2) Можем да развием хардуер, чиято точна свързаност и аналогово поведение са неизвестни.“

Част от същата беседа и както се съдържа в неговата изследователска статия за предпечат е предложена техника за това как ANN могат да бъдат по-добре създадени, което той нарича използване на напред-напред мрежов подход. Някои от вас, които са запознати с ANN, несъмнено вече са доста наясно с използването на обратно разпространение или обратна подкрепа. Може да искате да разгледате предложената от него техника напред-напред. Ще покрия този завладяващ подход в бъдеща публикация в колона, така че бъдете внимателни за предстоящото ми отразяване за него.

Сменяйки предавките, нека помислим какво се говори в коридорите и отстрани на общността на изкуствения интелект за този нагъл смъртен компютър машинация.

Ще започнем с това, което някои биха казали, че не е начинаещ по цялата тема.

Готови ли сте?

Спри да наричаш това нещо а смъртен компютър.

По същия начин спрете да декларирате, че днешните конвенционални компютри са такива безсмъртен.

И двете употреби са просто погрешни и изобилно подвеждащи, увещават скептиците.

Дефиницията в ежедневния речник за това, което е безсмъртно, се състои от нещо, което не може да умре. То живее вечно. За да не умрете, вероятно трябва да кажете, че самото нещо е живо. Вие стъпвате по грешен път, за да твърдите, че днешните компютри са живи. Никой разумен човек не би приписал добросъвестни „живи“ свойства на съвременните компютри. Те са машини. Те са неща. Те не са хора, нито животни, нито са в състояние на живот.

Ако искате да разширите определението за безсмъртен, за да позволите, че имаме предвид и неживи същества, в този случай неживото същество изглежда никога няма да се разпадне и не може неизбежно да се разпадне на прах. Можете ли да направите такова твърдение за днешните компютри? Това изглежда разширено (странична бележка: разбира се, бихме могли да влезем в голяма философска дискусия за природата на материята и съществуването, но нека не навлизаме там в този случай).

Същността е, че използването или някои биха казали злоупотреба с думите „смъртен“ и „безсмъртен“ е странно и ненужно. Вземането на често използван народен език и повторното му използване за други цели е объркващо и води до мътни води. Трябва да сте готови очевидно да преосмислите какво означава смъртен и безсмъртен в този специфичен контекст. Това става проблематично.

Още по-смущаващо е, че тези избори на думи са склонни да антропоморфизират компютърните аспекти.

Вече има повече от достатъчно проблеми, свързани с антропоморфизирането на AI, със сигурност не е нужно да измисляме повече такива възможности. Както подробно обсъждах в моето отразяване на AI Ethics и Ethical AI, има всякакви диви начини, по които хората приписват чувствителни способности на компютрите. На свой ред това подвежда хората да вярват погрешно, че компютрите, базирани на AI, могат да мислят и действат като хората. Това е хлъзгав наклон на заплаха, когато обществото се приспива да вярва, че днешният AI и компютрите са наравно с интелекта и здравия разум на човечеството, вижте например моя анализ на връзката тук намлява връзката тук.

Добре, можем да отхвърлим или да пренебрегнем неудобния избор на формулировки, но предполага ли това, че трябва да изхвърлим бебето заедно с водата за баня (стар израз, вероятно наближаващ пенсионирането)?

Някои твърдят, че може би можем да намерим по-добра формулировка за този общ подход или концепция. Изхвърлете използването на „смъртен“ и „безсмъртен“, така че останалите идеи да не бъдат опетнени от неподходяща или неправилна употреба. Междувременно има контрааргументи, че е напълно приемливо да се използват тези избори на думи, или защото са подходящи, или защото не трябва да сме негъвкави относно това как избираме да използваме повторно думи. Розата е роза с всяко друго име, заявяват те.

За да избегна по-нататъшен остър дебат тук, отсега нататък ще избягвам да използвам думите „смъртен“ и „безсмъртен“ и просто ще заявя, че имаме два основни типа компютри, които се обвързват, единият, който е конвенционален цифров компютър днес и друго е предложение невроморфен компютър.

Изглежда, че няма нужда да въвличаме главоблъсканицата със смъртността в това. Пазете небето чисто, за да видим какво още можем да направим от разглеждания въпрос.

В този случай някои биха възразили, че предложената идея за невроморфен компютър не е нищо ново.

Можете да проследите назад до по-ранните дни на AI, особено когато първоначално се изследват ANN, и да видите, че се говори за разработване на специализирани компютри за извършване на работата на изкуствени невронни мрежи. Бяха предложени всякакви видове нов хардуер. Това се случва и до днес. Разбира се, можете да контрааргументирате, че повечето от днешните изследвания на специализиран хардуер за ANN и машинно обучение все още се основават на конвенционалния подход към изчисленията. В този смисъл тази аналогова неразделност на хардуера и софтуера донякъде разширява обвивката и предложението за „разрастване“ на компютъра го прави също, поне по отношение на излизането извън разглеждания мейнстрийм.

Накратко, има някои, които са напълно потопени в тези въпроси, които са изненадани, че някой друг може да бъде изненадан от предлаганите предложения. Тези понятия са или същите като преди, или отразяват това, което вече се изследва в различни изследователски лаборатории.

Не си разрошвайте косата, казват те.

Това наистина ни отвежда до друг аспект, който е притеснителен за мнозина.

С една дума: Предсказуемост.

Днешните компютри обикновено се смятат за предвидими. Можете да разгледате хардуера и софтуера, за да разберете какво ще прави компютърът. По същия начин можете да проследите какво компютърът вече е направил, за да разберете защо е направил това, което е направил. Разбира се, има ограничения за това, така че не искам да преувеличавам предвидимостта, но мисля, че схващате идеята като цяло.

Може би сте наясно, че един от трудни проблеми, пред които е изправен AI днес, е, че някои AI са създадени да се самонастройват. AI, който разработчиците поставят, може да се промени, докато се използва. В сферата на етиката на ИИ има многобройни примери за ИИ, които са били използвани, които първоначално не са имали неоправдани пристрастия или дискриминационни тенденции, които след това постепенно са били изчислително самомутирани по време на производството на ИИ, вижте моя подробни оценки при връзката тук.

Притеснението е, че вече навлизаме в среда, включваща AI, която не е непременно предвидима.

Да предположим, че AI за оръжейни системи претърпява самонастройки и резултатът е, че AI въоръжава и изстрелва смъртоносни оръжия в цели и времена, които не са очаквани. Хората може да не са в процес на спиране на AI. Хората, които са в цикъла, може да не са в състояние да реагират достатъчно бързо, за да изпреварят действията на AI. За допълнителни смразяващи примери вижте моя анализ на връзката тук.

За невроморфните компютри безпокойството е, че поставяме непредсказуемост на стероидите. От самото начало същността на невроморфния компютър може да бъде, че той работи по начин, който се противопоставя на прогнозите. Ние парадираме с непредвидимостта. Превръща се в почетен знак.

Съществуват два лагера.

Един лагер казва, че можем да живеем с неприятните опасения за непредсказуемостта, като направим това, като поставим парапети, за да попречим на ИИ да отиде твърде далеч. Другият лагер твърди, че повеждате света по опасен път. Ще настъпи денят, в който претендираните предпазни парапети или се провалят, или не са достатъчно строги, или че по случайност или злонамерено предпазните парапети са премахнати или с тях се играе.

Трябва ли да отхвърлим опасенията относно невроморфните компютри и предвидимостта?

Според забележките на изследователя: „Сред хората, които се интересуват от аналогови изчисления, все още има много малко хора, които са готови да се откажат от безсмъртието.“ Освен това: „Ако искате вашият аналогов хардуер да прави едно и също нещо всеки път... Имате истински проблем с всички тези бездомни електрически неща и други неща.“

Ще завъртя това.

Очертаваща се и донякъде мрачна перспектива е, че така наречената предвидимост, свързана с днешните цифрови компютри, така или иначе върви в посока на непредсказуемост. Както споменахме, това може да се случи особено при AI, който се самонастройва на конвенционалните компютърни платформи. Само защото невроморфните компютри може да изглеждат непредсказуеми, следователно не е знак, че конвенционалните цифрови компютри всъщност са предвидими.

Парният валяк на непредсказуемостта идва към нас с пълна пара, без значение коя компютърна платформа искате да изберете. За моята оценка на последните усилия да се опитаме да постигнем безопасност на ИИ в тази светлина, вижте връзката тук.

Този обрат относно предсказуемостта би трябвало да накара ума ви да се насочи към нещо от непознат характер. Тези от вас, които се занимават с етиката на ИИ и Закона за ИИ, може би не са обмисляли разклоненията на невроморфни компютри.

Вероятно сте се стремили към конвенционалните цифрови компютри, които работят с AI. Е, познайте какво, имате изцяло допълнителен и нововъзникващ сегмент от изчисленията с изкуствен интелект, за който вече можете да останете будни и да се тревожите през нощта. Да, невроморфни компютри. Поставете това в списъка си със задачи.

Съжалявам, още безсънни нощи за вас.

Нека разгледаме накратко какво правят AI Ethics и AI Law относно конвенционалните цифрови компютри и AI.

В предишни колони разгледах различните национални и международни усилия за изработване и приемане на закони, регулиращи ИИ, вж. връзката тук, например. Освен това разгледах различните принципи и насоки за етиката на ИИ, които различни нации са идентифицирали и приели, включително например усилията на ООН, като набора от етика на ИИ на ЮНЕСКО, който почти 200 страни приеха, вж. връзката тук.

Ето един полезен ключов списък с етични критерии или характеристики на ИИ по отношение на системите с ИИ, които преди това проучих отблизо:

• Прозрачност
• Справедливост и справедливост
• Не-зловредност
• отговорност
• Поверителност
• Благодеяние
• Свобода и автономия
• Доверие
• Устойчивост
• достойнство
• Солидарност

Тези принципи на етиката на ИИ сериозно трябва да се използват от разработчиците на ИИ, заедно с тези, които управляват усилията за разработка на ИИ, и дори тези, които в крайна сметка прилагат и извършват поддръжка на системи с ИИ.

Всички заинтересовани страни през целия жизнен цикъл на AI на разработване и използване се разглеждат в обхвата на спазването на установените норми на етичния AI. Това е важен акцент, тъй като обичайното предположение е, че „само програмистите“ или тези, които програмират AI, подлежат на спазване на понятията за етика на AI. Както беше подчертано тук, необходимо е едно село, за да създаде и внедри AI, и за което цялото село трябва да бъде запознато и да спазва етичните правила на AI.

Частта от това, за която може би не сте се замисляли преди, е как същите правила на етиката на ИИ и нарастващият списък от нови закони за ИИ ще се прилагат за невроморфните компютри. За да поясним, етиката на ИИ и Законът за ИИ наистина трябва да вземат това изрично предвид. Посочвам, че малцина го правят и имайте предвид, че има малък шанс появата на невроморфните компютри да хвърли мнозина в заблуда по отношение на ново измерение за опитите да царуват в AI.

Трябва да обмислим етичния AI и законите за AI по достатъчно широк начин, за да обхванем каквото и да е новосъздадено AI, включително невроморфните компютри.

Алтернативата на люлката е класически гамбит на котка и мишка. Ето как става това. Замислени и изградени са нови начини за създаване на AI. Съществуващата AI етика и AI закони са хванати неподготвени и не обхващат напълно най-новите AI измами. Полагат се бързи усилия за актуализиране на етичните правила за ИИ и за промяна на тези новосъздадени закони за ИИ.

Напенете, изплакнете, повторете.

Би било по-добре за всички нас да останем напред в играта, вместо да бъдем хванати зад осмицата.

Заключение

Заведох те на малко пътешествие.

В началото предложих да има две основни теми за разглеждане:

1) Интегрално свързване на хардуера и софтуера за AI механизации, вместо да ги има като различни и отделни съюзници

2) Прехвърляне или дестилиране на формулировки за машинно обучение от един AI модел в друг, което прави това, без да изисква, нито непременно да желае (или дори възможно по друг начин възможно) право напред, пълно чистокръвно копиране

Първата тема за обвързването на хардуер и софтуер е по-голямата част от пътуването тук. Това ни доведе до смъртното срещу безсмъртното компютърно тресавище. От които имаше някои важни съображения относно етиката на изкуствения интелект и закона за изкуствения интелект, които иначе обикновено не биха били повдигнати, тъй като този тип теми, свързани с компютъра, обикновено се разглеждат от някои като чисто технологични, а не като свързани с някакво безпокойство за въздействие върху обществото.

Казвам, че е най-мъдро да бъдем по-рано и по-безопасно, отколкото по-късно и по-зле, когато става въпрос за повдигане на етичния ИИ и Закона за ИИ.

Втората тема, която все още не съм формулирал тук, е свързана съществено с първата тема.

Ето сделката.

Да предположим, че имаме „смъртен компютър“ и искаме да запазим възможностите, така че да можем да имаме резервно копие или привидни копия на това, което AI съдържа. Може да се тревожим, че конкретен смъртен компютър е към своя край. Да, ние сме зависими от това. какво да правим Един от отговорите е, че трябва да копираме проклетото нещо.

Но копирането на невроморфен компютър от вида, който е скициран, ще бъде по-трудно, отколкото може да изглежда на пръв поглед. Нещата могат да станат трудни.

Може би трябва да измислим трик за копиране, който ще бъде обобщен и приложим към обстоятелства, включващи машинно обучение и изкуствени невронни мрежи. Искаме това да работи при мащабни и изключително мащабни случаи. Ние също бихме искали копието да не е точен дубликат, а вместо това може да бъде по същество еквивалентен или може би дори по-добре измислен в резултат на действието по копиране.

Техника, известна като дестилация е предложено.

Свърши ми мястото за днешната колона, така че ще се заема с тази втора тема в предстояща колона. Реших, че бихте искали да знаете веднага за връзката между тази втора тема и първата тема, която беше обстойно разгледана тук. Мислете за това като за добавена бележка, която служи като тийзър или трейлър на това, което предстои.

Останете на ръба на мястото си, тъй като темата за дестилацията е доста добра.

Както казваше Батман, скръстете крилата си на прилеп и бъдете готови за същото време на прилеп и канал на прилеп за разкриване на досадния въпрос как да копирате ANN или модел на машинно обучение или невроморфен компютър на друг.

Последна забележка за сега. Във филма има известна реплика Тъмният рицар се завръща в който нашият кръстоносец с пелерина казва следното: „Светът има смисъл само ако го принудите“. Ще се опитам да се придържам към този идеал, когато разглеждам втората тема за свързаната с AI дестилация.

Очаквайте част 2 от този вълнуващ и завладяващ двоен хедър.