Причините за регулиране на AI алгоритмите са по-прости, отколкото си мислите

Притеснявате ли се, че изкуственият интелект ще завладее света? Много го правят. От тревогите на Илон Мъск за DeepMind побеждава хората в усъвършенстваната игра Go през 2017 г., на членове на Конгреса, европейски политици (вж Европейски подход към изкуствения интелект), и академици, има чувството, че това е десетилетието да се приема сериозно ИИ и то се налага. Въпреки това, не поради причините, които може би си мислите, и не поради някаква настояща заплаха.

Тук идват алгоритмите. Какво е алгоритъм, може да попитате? Най-простият начин да се мисли за това е като набор от инструкции, които машините могат да разберат и да се учат от тях. Вече можем да инструктираме машина да изчислява, обработва данни и да разсъждава по структуриран, автоматизиран начин. Проблемът обаче е, че след като посочените инструкции бъдат дадени, машината ще ги следва. Засега това е въпросът. За разлика от хората, машините следват инструкциите. Те не научават това добре. Но след като го направят, те могат да причинят проблеми.

Не искам да правя сензационен аргумент за идеята компютрите един ден да надминат човешкия интелект, по-известен като аргумента за сингулярността (вижте философа от Нюйоркския университет Дейвид Чалмърс разсъждения по темата.) По-скоро производството може да е най-добрият пример за това защо алгоритмите на AI започват да имат по-голямо значение за широката публика. Човек се опасява, че машините ще ускорят значително своята мощ за наша сметка. Не от някакви усъвършенствани разсъждения, непременно, а поради оптимизацията в границите на това, което казва алгоритъмът.

Производството е свързано с правенето на неща. Но когато машините правят неща, трябва да обърнем внимание. Дори ако това, което правят машините, е просто. Ще обясня защо.

От дъждобрани до мобилни телефони и обратно

Да речем, една фабрика произвежда дъждовни ботуши. Обичам дъждовните ботуши, защото съм израснал в район на Норвегия, където вали много; Обичам да съм навън, подчинен на многото елементи на природата. Nokia направи дъждовните ботуши, с които израснах. Да, Nokia, която днес познаваме като компанията за електроника, използвана за производство на гумени ботуши. Защо е този ключ? Защото след като направиш нещо, ти е предопределено да искаш да правиш подобрения. Това има смисъл. Може да се каже, че това е човешката природа.

Това, което се случи с Nokia, е добре известно и върви малко по следния начин: Първоначално фабрика за хартия, докато бях дете, производството на гумени ботуши (и гуми) беше особено успешно за компанията. Те обаче видяха допълнителни възможности. Следователно, в някакъв момент през 1980-те години, те преминаха към електрониката и бързо промениха фабриките наоколо, изграждайки голяма структура от местни доставчици, когато започнаха да произвеждат мобилни телефони. Това постави началото на революцията в мобилните комуникации, която започна в Скандинавия и се разпространи в останалия свят. Разбираемо е, че мнозина са написали историята на Nokia през 1990-те години (вж Тайните зад финландското чудо: възходът на Nokia).

Моят пример е ясен. Може би твърде просто. Но помислете за това по този начин. Ако една голяма компания може бързо да премине от производство на хартия към писане, към ботуши, които улесняват престоя в дъжда, накрая, към мобилни телефони, които променят начина, по който хората общуват: колко лесна ще бъде следващата стъпка? Да предположим, че компания, която произвежда мобилни телефони, реши да направи наноботи и може би те ще излитат след десетилетие, променяйки човечеството с миниатюрни машини, които автономно се движат навсякъде, способни да сглобяват и променят човешкото преживяване. Ами ако това се случи, без да обмисляме как искаме да се случи, кой искаме да бъде начело и крайните цели?

Предположението, че роботите съзнателно са помогнали на Nokia да реши да произвежда мобилни телефони, би било трудно. Но признаването, че технологията е имала роля, за да позволи на финландски селски район на северния си бряг да мислят, че могат да получат световно господство в нова индустрия, играе важна роля.

Историята на Nokia не е била толкова розова през последното десетилетие, като се има предвид, че те не са взели предвид появата на софтуерно базирани операционни системи iOS и Android. В резултат на това Nokia вече не произвежда телефони. В малко история за завръщане, те сега правят мрежова и телекомуникационна инфраструктура, решения за мрежова сигурност, Wi-Fi рутери, интелигентно осветление и смарт телевизори (вж. Историята на завръщането на Nokia). Nokia все още прави неща, това е вярно. Единственото наблюдение е, че Nokia винаги изглежда обича да смесва нещата, които правят. Дори производствените решения на човешките същества понякога са трудни за разбиране.

Производството означава да правиш нещата и нещата се развиват. Като цяло това, което правим днес, се е променило само преди десетилетие. 3D принтерите имат децентрализирано производство на много съвременни продукти, както в индустрията, така и в дома. Променящите живота последици от 3D печата все още не са настъпили. Не знаем дали това ще продължи, но знаем, че фокусът на FDA е върху регулирането на производството на продукти (вж. тук) като отпечатаните хапчета или медицински устройства, които произтичат, очевидните проблеми с интелектуалната собственост и отговорността или проблемите около възможността за отпечатване на огнестрелни оръжия. В крайна сметка политическата дискусия за това какви негативни последици може да има 3D печат извън това не съществува и малцина от нас са си направили труда да мислят за това.

Не предполагам, че 3D печатането е опасно само по себе си. Може би това е лош пример. Въпреки това нещата, които първоначално изглеждат обикновени, могат да променят света. Има много примери: връх на стрела на ловец/събирач, изработен от метал, който започва войни, ритуални маски, които ни предпазват от COVID-19, пирони, които изграждат небостъргачи, подвижни печатни преси, които (все още) пълнят нашите фабрики с печатна хартия и захранват издателска дейност, електрически крушки, които ви позволяват да виждате и работите вътре през нощта, мога да продължа. Никой, за когото познавам, не седна в края на 1800-те и предсказа, че Nokia ще прехвърли производството си от хартия към гума към електроника, а след това далеч от мобилните телефони. Може би е трябвало.

Хората са лоши предсказатели за стъпаловидна промяна, процеса, при който една промяна води до повече промяна и изведнъж нещата са коренно различни. Все още не разбираме този процес, защото имаме малко практически познания за експоненциалната промяна; не можем да си го представим, да го изчислим или да го проумеем. Въпреки това отново и отново ни удря. Пандемии, нарастване на населението, технологични иновации от печатането на книги до роботиката, това обикновено ни удря без предупреждение.

Номерът с футуризма не е ако, а кога. Човек всъщност може да бъде в състояние да предвиди промяна, само като избере някои нови производствени методи и заяви, че те ще станат по-разпространени в бъдеще. Това е достатъчно просто. Трудната част е да разберете точно кога и особено как.

Клапите не са проблемът

Помислете отново за моя заводски пример, но този път си представете, че машините са отговорни за множество решения, не всички решения, а производствени решения като оптимизация. В неговата книга свръхразум, дистопичният хуманист от Оксфордския университет Ник Бостром си представи алгоритъм за оптимизация на AI, който управлява фабрика за кламери. В един момент, казва той, представете си, че машината мотивира, че да се научите да отклонявате все по-големи ресурси към задачата е рационално, като в крайна сметка постепенно превръща нашия свят в кламери и се противопоставя на опитите ни да го изключим.

Въпреки че е умен човек, примерът на Бостром е доста тъп и подвеждащ (все пак запомнящ се). От една страна, той не успява да отчете факта, че хората и роботите вече не са отделни единици. Ние си взаимодействаме. Повечето умни роботи се развиват в коботи или колаборативни роботи. Хората ще имат много шансове да коригират машината. Въпреки това основната му точка остава. В даден момент може да има стъпаловидна промяна и ако тази промяна се случи достатъчно бързо и без достатъчен надзор, контролът може да бъде загубен. Но този краен резултат изглежда малко пресилен. Така или иначе, съгласен съм, трябва да регулираме хората, които управляват тези машини, и да задължим работниците да са винаги на линия, като ги обучаваме по подходящ начин. Този тип обучение не върви добре. В момента отнема твърде много време и са необходими специални умения както за обучение, така и за обучение. знам едно нещо. В бъдеще всички видове хора ще работят с роботи. Тези, които не го направят, ще бъдат доста безсилни.

Увеличаването на хората е по-добро от безсмислената автоматизация, независимо дали никога не се слеем напълно с машините. Двете понятия са логически различни. Възможно е както хората, така и роботите да бъдат блокирани в автоматизацията в името на автоматизацията. Това би нанесло големи щети на производството в бъдеще. Дори и да не произвежда роботи-убийци. Вярвам, че сливането е след стотици години, но не това е въпросът. Дори и да са само след тридесет години, самоходните машини, работещи по опростени алгоритми, които губят контрол, този сценарий вече се случва в цеха. Някои от тези машини са на тридесет години и работят със стари, собствени системи за управление. Основното им предизвикателство не е, че са напреднали, а точно обратното. Те са твърде опростени, за да могат да общуват. Това не е проблем за утрешния ден. Това е вече съществуващ проблем. Трябва да отворим очите си за това. Помислете за това следващия път, когато стъпите в гумените си ботуши.

Все още имам моите ботуши Nokia от 1980-те години. Имат дупка в тях, но ги пазя, за да си напомня откъде съм и колко далеч съм извървял. Дъждът също продължава да вали и стига да е достатъчно чист, не искам по-добро решение за него от тези ботуши. От друга страна, аз съм човек. Предполага се, че роботът вече щеше да продължи напред. Каква е AI версията на rainboots, чудя се. Не е мобилен телефон. Не е сензор за дъжд. Смайва ума.

Дигиталните ботуши днес означават, че можете да ги персонализирате, защото имат 3D отпечатани дизайни. Има виртуални обувки, които съществуват само като NFT (незаменими токени), които могат да се продават и търгуват. Най-добрите виртуални маратонки днес струват 10,000 XNUMX долара (вж Какво е NFT маратонка и защо струва 10,000 XNUMX долара?). Не ме е страх от тях, но трябва ли да се страхувам? Ако виртуалният свят стане по-ценен от физическия свят, може би ще го направя. Или трябва да изчакам да се притеснявам, докато собственият аватар на AI си купи своя собствена NFT обувка, за да се справи с „дъжд“? Ако изградим алгоритми по собствен образ, по-вероятно е ИИ да е добър в неща, в които бихме искали да сме добри, но обикновено не сме, като купуване на акции, изграждане на лоялни приятелства (може би с машини и хора) и запомняне неща. Индустриалната метавселена може да е изненадващо сложна – пълна с дигитални близнаци, които имитират нашия свят и го превъзхождат по ползотворни начини – или може да е шокиращо проста. Може би и двете. Просто още не знаем.

Трябва да регулираме алгоритмите за изкуствен интелект, защото не знаем какво е зад ъгъла. Това е достатъчна причина, но що се отнася до това как го правим, това е по-дълга история. Позволете ми още едно бързо наблюдение, може би всички основни алгоритми трябва да бъдат публично достъпни. Причината е, че ако не, няма начин да разберем до какво могат да доведат. Най-добрите са доста известни (вж Топ 10 алгоритма за машинно обучение), но няма световен преглед на това къде и как ще се използват. Особено неконтролираните алгоритми трябва да се наблюдават внимателно (вж Шест мощни примера за използване на машинно обучение в производството), независимо дали се използват за прогнозиране на поддръжка или качество, за симулиране на производствена среда (напр. цифрови близнаци) или за генериране на нови дизайни, за които човек никога не би се сетил. В днешния пейзаж тези неконтролирани алгоритми обикновено са така наречените изкуствени невронни мрежи, които се опитват да имитират човешкия мозък.

Започнах да се тревожа за невронни мрежи, само защото ми е трудно да разбера тяхната логика. Проблемът е, че повечето експерти, дори и тези, които ги внедряват, не разбират как тези алгоритми се движат от стъпка на стъпка или слой на слой. Не мисля, че метафората на „скрити слоеве“, която често се използва, е много подходяща или много забавна. Като начало не трябва да има скрити слоеве в производството, в автоматизираното събиране на данъци, в решенията за наемане или в приема в колеж. Може би и вие трябва да помислите да се притеснявате? Едно е сигурно, че хората и машините, които правят нещата заедно, ще променят света. Вече е имало, многократно. От хартия до дъждобрани и слоевете на днешния изкуствен мозък, нищо не трябва да остава неизследвано. Не бива да се крием от простия факт, че от много малки промени може изведнъж да се появи по-голяма промяна.