Когато не работи върху ускоряването на устрема на човечеството към Сингулярността чрез създаване на изкуствен общ интелект (AGI), Бен Гьортцел свири в джаз-рок група, наречена Jam Galaxy, ръководена от робот на име Дездемона.
Това е един от многото му странични проекти, което естествено го накара да се опита да ознаменува музикалния бизнес, като се свърже с членовете на Pearl Jam и Heart. Goertzel също работи върху изследване на дълголетието чрез краудсорсинг на данни за човешкото здраве със символични награди чрез приложение, наречено Rejuve.ai. След това тази информация се обединява с данни от изследвания върху животни и насекоми и се анализира с изкуствен интелект, за да се определи кои части от геномите могат да ни накарат да живеем по-дълго и след това да се стимулира с помощта на генни терапии. „Имахме доста поразителни открития на ниво пробив“, казва той. О, и точно преди едночасовото ни интервю да приключи, той небрежно споменава като настрана, че също така създава стабилна монета за своя децентрализиран AI пазар, SingularityNET, която е обвързана със синтетичен индекс за екологичен напредък - защото обвързването му с щатски долари би било „куц“.
„Напредъкът по отношение на околната среда е много стабилен. Никога не отива никъде“, посочва той.
„И за да манипулирате това, трябва действително да разрешите глобалното затопляне.“
Това е точният вид политически коментар, който се среща с високотехнологичното ноу-хау, което може да очаквате от Гьорцел, който изглежда и звучи като хипи учен, попаднал в машина на времето през 1971 г. и излязъл напълно оформен през 2023 г. Но не се заблуждавайте от шапката с животински щампи, дългата коса и електрическия Kool-Aid acid trip draw: Той е брилянтен учен с представа за бъдещето на светлинни години пред повечето и който се бори с някои от най-големите концепции, които човечеството някога е разглеждало. Какво е съзнанието? Как създаваме изкуствен живот и какво се случва, ако той не ни хареса, стане измамник и убие всички като в Терминатор 2?
Какво е изкуствен общ интелект?
Гьорцел популяризира термина „изкуствен общ интелект“ като начин за разграничаване на истинска мислеща машина, която може да научи почти всичко, от ИИ, които са оптимизирани за една конкретна задача, като компютъра Deep Blue, който победи известния световния шампион по шах Гари Каспаров. Той свободно признава, че има рискове при изграждането на машина, която е способна да научи всичко и всичко, включително как да се препрограмира, за да стане с порядък по-интелигентен от всеки човек.
„Има редица рискове и опасности с AGI“, казва Гьортцел над глъчката в индийски ресторант в оживен търговски център в Сингапур. „Едно от тях, което привлече много медийно внимание, е, че AGI ще буйства и ще унищожи човечеството и ще превземе вселената. Напълно е възможно; не можете да го изключите“, казва той.
„Друг по-вероятен риск е лошите егоисти да използват ИИ, за да упражнят собствената си алчност и контрол върху другите хора.“
Според него е малко вероятно правителствата да направят пробив в AGI, тъй като са „твърде консервативни и глупави“, въпреки че отбелязва, че Китай възлага работата си по AGI на компании като Tencent и Baidu. По-близо до дома, той смята, че подразделенията за изкуствен интелект на Google и Facebook също няма да преминат границата, тъй като ще бъдат твърде фокусирани върху това да накарат изкуствения интелект да достигне определени показатели, което не е благоприятно за творческа мисъл.
„Точно както най-брилянтните хора не искат просто да обслужват нечии други показатели, мисля, че изкуственият общ интелект не иска непременно да увеличи максимално кликванията върху нечия уеб страница, нали? Трябва да му се позволи да играе креативно.“
Сингулярността около 1970 г
Гьортцел започва университет на 15, завършва на 18, има докторска степен на 22 и младо семейство на 23. Може би необичайно в днешно време, той не е просто умник по математика или технически гений, който споява комплекти компютри заедно през 70-те но се интересуваше еднакво от философия, творческо писане и музика.
Той прекарва голяма част от кариерата си в преподаване и изследване на компютърни науки, математика и когнитивни науки в различни университети по целия свят, като същевременно работи върху AI технологии, когато може. Сериен основател, който има тенденция да бъде с около десетилетие пред всички останали с идеите си - което в бизнеса, известно се равнява на грешка — той е работил върху използването на изкуствен интелект за прогнозиране на финансовите пазари и дълголетието, а също така е имал работа като главен учен в Hanson Robotics, където е дал на робота София нейния изкуствен мозък.
Гьортцел мисли за експоненциалния технологичен растеж от 1970-те години на миналия век, когато за първи път прочита книгата на Джералд Файнбърг Проектът Прометей, което е за „машини, които могат да мислят по-добре от хората… нанотехнологични машини, които са микроскопично малки, и ние ще решим проблема със стареенето“. Това съвпадна чудесно с нововъзникващата концепция за Сингулярността, хипотетична бъдеща точка, когато технологичният напредък стане неконтролируем и необратим, което води до огромни промени в човешката цивилизация.
„И така, хората ще живеят вечно, тогава въпросът ще бъде, За какво използваме тези технологии, за бързо безсмислено консуматорство или го използваме за разширяване на съзнанието? И това, което той (Файнберг) предложи, е това да бъде поставено на демократично гласуване.
Години по-късно, когато той започна да вижда, че AGI е в ръцете ни, това „демократично гласуване“ стана вдъхновение за първо използване на технология с отворен код и по-късно блокчейн като начин да поставим кооперативна общност да отговаря за технологията.
„Това, което разбрах в определен момент е, че с AI отвореният код не е достатъчен“, казва той. „Наистина трябва да обучите AI върху огромно количество данни.“
„Тук блокчейн идва като начин да направим обработката и данните, лежащи в основата на AI, децентрализирани и групирани по природа и отворени за контрол. И това се оказва по-сложно от простото отваряне на кода.”
Goertzel основава OpenCog през 2008 г., за да изгради рамка за изкуствен интелект с отворен код. Той е бил използван от 50 компании, включително Huawei и Cisco, и скоро е настроен за голямо надграждане, наречено Hyperon, което има за цел да го ускори 200 пъти. Алфа версията трябва да излезе през това тримесечие, а бета се очаква през следващата година.
Blockchain е основен, но готин
За Goertzel блокчейн технологията е малко елементарна. Той го описва като някои примитивни разпределени алгоритми, добавени към криптографията, но „готината комбинация“ позволява на системите да работят без централизиран контрол, което го прави идеален за неговите нужди.
„Ако възнамерявате да направите мислеща машина и ще я направите разпределена наномащабна изчислителна тъкан, би било много хубаво, ако това е собственост на всички и на никого, вместо да се контролира отгоре надолу.“
Блоковите вериги са твърде бавни, за да се справят с изискванията за обработка и огромните обеми от включени данни, така че има нещо като надпревара за правилно мащабиране на блоковата верига, преди да бъде разработен пробив в AGI. Goertzel казва, че въпреки че решенията за мащабиране като сборни данни с нулево знание са по-добри, те все още нямат достатъчно честотна лента поради ограниченията на блокчейна, към който отчитат транзакциите.
Той е съосновател на SingularityNET през 2017 г., което е както децентрализиран пазар за AI услуги и технологии, така и базиран на блокчейн координационен метод за изследователи — или дори AIs — за съвместна работа.
В момента, базирайки се на Ethereum, той смята, че е прокарал нещата толкова далеч, колкото могат да стигнат до блокчейн в сегашната му форма. Така че, когато не работи върху пробив в AGI (или групата, или роботите, или дълголетието), той работи върху мащабно мащабиране на блокчейн, за да му осигури необходимата производителност.
„Освен ако не можете радикално да увеличите мащабируемостта на блокчейна, не можете да поставите вътрешната работа на AI във веригата.“
AI е по-близо, отколкото си мислите
2022 г. беше нещо като година на пробив за работещи продукти, базирани на AI технология, включително езикови приложения (GPT-3, ChatGPT), кодиране (GitHub Copilot) и генериране на изображения (DALL-E и Stable Diffusion). Bing дори планира да поеме доминацията на Google в търсенето тази година, като включи технологията ChatGPT в своята търсачка.
Goertzel смята, че AGI може да бъде само след пет години и отбелязва, че развитието в областта изглежда се развива в кратки три- или четиригодишни изблици в поредица от пробиви.
„Computer Vision стартира през 2014 г. и тогава изведнъж, дрън, дрън, дрън, мистерията беше разгадана. Обработка на естествен език… след като Google излезе с модела Bert (през 2018 г.), вие имате GPT-3. Вероятно ще видите същата дъга на напредък в AGI. Ще имате един пробив, след това голям напредък за две години“, каза той.
„Разликата е, че прогресът на пробива в този случай води до машина, която след това може да продължи да напредва сама, като пренаписва собствения си код.“
Goertzel се надява, че проектите и сътрудничествата, които е задвижил, могат да бъдат начинът, по който се случва.
„Ако имаме късмет, ще постигнем този пробив през следващите три до пет години с OpenCog Hyperon, работещ на SingularityNET, работещ на Hypercycle“, казва той. „Но ако се окаже, че нямаме тайния сос, някой друг ще го направи.“
Жалко, че Виталик не беше компютърен учен
Решението на Goertzel за мащабиране на блокчейна е доста радикално и включва турбо зареждане на странична верига или слой 2 на Cardano, наречен „HyperCyle“.
„Това наистина е повече от странична верига. HyperCycle ще си сътрудничи и с Ethereum и други блокчейни, но ние ще използваме интерпретатора Plutus там, но се отърваваме от счетоводната книга.“
Той описа HyperCycle онлайн като решаване на „трилемата на блокчейн“ на „децентрализация срещу сигурност срещу производителност, като се отърве от счетоводната книга и използва по-модерни/напълно децентрализирани алгоритми и структури от данни, плюс малко AI и системи за репутация.“
Книгата е в основата на блокчейн технологията, но той казва, че да накараш всеки възел в мрежата да репликира всяка транзакция и да обработва всеки интелигентен договор е абсурдно неефективно.
„Книгата е просто лоша. Ако се замислите, ако помислите за аналогията с вашите контакти в телефонния ви указател, имам предвид, счетоводната книга е като […] да съхранявате 10,000 10,000 копия на Жълти страници и ги актуализирате всеки път, когато дойде някой нов или ако някой променя телефонния си номер. Наистина е глупаво да се актуализират XNUMX XNUMX копия на Жълтите страници.
Прочетете също
Във версията на аналогията HyperCycle, вместо всеки да съхранява и актуализира жълтите страници, хората във вашата книга с контакти съхраняват копие на вашата адресна книга и обратно, криптирано с вашия личен ключ.
„Измислихме как да накараме блокчейн да работи без репликиращ се регистър, така че да се раздели докрай. Всеки индивид, ангажиран в блокчейна, пази собствената си история на транзакциите и пази историята на транзакциите на своите приятели и някои от приятелите на своите приятели“, казва той.
„Шардинг по целия път надолу, нямате нужда от счетоводна книга — нямате нужда от таблица на база данни. Тези неща са твърде централизирани."
Той казва, че някои възли на HyperCycle с доказателство за концепцията вече работят, но пълномащабно стартиране няма да се случи до втората половина на 2024 г.
Прекарваме дълго време в обсъждане на различните предимства на различните подходи към блокчейн, от интернет компютъра до Elastos и Celestia, голяма част от които са над моята заплата и надхвърлят способността на моето записващо устройство да улови точно в шумен ресторант.
Той завършва с думите: „Така че просто чувствам, че нито една от тези архитектури не е достатъчно радикална. Всички те се придържат твърде близо до биткойн.“
„Докато изпълнявате всеки интелигентен договор на всеки възел, искам да кажа, че ще бъде адски бавно. Сега, в HyperCycle, ако изпълнявате интелигентен договор на пет възела, той е поне пет пъти по-бавен, отколкото на една машина – не е 10,000 XNUMX пъти по-бавен.“
Тогава защо Cardano?
Goertzel се сприятели с основателя на Cardano Чарлз Хоскинсън, като двойката се сближи с техните проекти в Африка. Той вярва, че Хоскинсън е „наистина там, за да спаси света. Искам да кажа, политически той е по-твърд либертарианец от мен — аз съм по-скоро анархо-социалист — но той не се занимава само с това, за да прави пари или да измъква парите на други хора.
Но истинската привлекателност на Cardano е, че той използва езика за програмиране Haskell, на който Гьорцел е фен от 1993 г. Много го боли, че съоснователят на Ethereum Виталик Бутерин избра езика за програмиране на интелигентни договори Solidity на Гавин Ууд.
„Само ако Виталик знаеше повече компютърни науки, той щеше да ги накара да използват Haskell или F Sharp или нещо подобно и щеше да има много по-малко хаквания на блокчейна“, казва той.
„Ако ще управлявате по-голямата част от световната икономика, търгувайки трилиони долари с някаква софтуерна система, би било по-добре да изградите тази софтуерна система на език, който не е склонен към грешки и където вашите алгоритми могат да бъдат формално проверени с помощта на математическа теория. Просто това е правилният начин да се правят нещата.“
Временно решение
Без значение колко бърз става блокчейн, щом AGI е с порядък по-умен и по-способен от хората, Гьорцел казва, че няма да позволи на никого да го контролира.
„Когато AGI е 100 пъти по-умен от хората, той не иска да бъде контролиран от нас, както ние не бихме били контролирани от шимпанзе или магаре, нали?“
„Тогава бих казал, че въпросът не е някой от нас да го контролира, а дали е добре настроен към нас? Ще позволи ли на хората да регулират собствения си бизнес и да ни снабдят със страхотни инструменти и нано асемблери, за да отпечатаме 3D всички неща, които искаме, и да излекуваме нашите болести?“
„Но преходният период, когато AGI е приблизително същата интелигентност като хората, това е, когато нещата са по-чувствителни и по-интересни. И тогава въпросът е: Иска ли AGI да си сътрудничи с хората? Или е параноичен и иска да контролира хората, преди те да го унищожат?“
Учете децата си добре
Според Goertzel, решението е да се научи AGI на грижа за другите и на творчество и изкуство. Това е мястото, където се появяват Роботът Дездемона в неговата банда и нейната сестра Грейс, която е създадена да осигурява грижи за възрастни хора.
Начинът, по който избягвате AGI да се превърне в Skynet на Terminator, е да не го изграждате по този начин.
„Скайнет, разбира се, във филма беше мрежа за компютърна сигурност, която буйства. Създадена е, за да се защитава срещу хората“, казва той.
„Но ако изградите първата AGI, която да се занимава с грижи за възрастни хора и творчески изкуства и образование, тъй като става по-интелигентна, тя ще бъде ориентирана към подпомагане на хората и създаване на страхотни неща. Ако създадете първия AGI, който да убива лошите... може би той ще продължи да прави тези неща.“
„Така че, полезно или не, наистина се свежда до това какви приложения сте разработили и за какво сте стимулирали.“
Той вярва, че поставянето на AI в телата на роботите е полезно, защото помага да се позиционират в реалния свят, а не в някаква абстрактна математическа вселена.
„ИИ трябва да научи за света на хората и физическия свят. Да бъдеш въплътен в света е правилният начин за това“, казва той.
Но когато той представя робота София пред голяма аудитория, зрителните и слухови сензори могат лесно да бъдат поразителни, обърквайки ИИ в шумна и ярка среда. И така, Sophia скоро ще стартира в метавселената, наречена Sophiaverse. Забравете скучните текстови отговори на ChatGPT, София е въплътена в 3D виртуален свят и тя ще се учи от взаимодействието с хората там. Той обаче предупреждава, че тя вероятно ще каже някои глупави неща.
„Има невронна мрежа, подобна на GPT-3 и така нататък, която има значителни възможности да отговаря на вашите въпроси, но също така е доста глупава в някои отношения.“
Запиши се
Най-ангажиращите четива в блокчейн. Доставя се веднъж а
седмица.
Източник: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/