Какво трябва да знаете за GPT-4 Току-що пуснатият наследник на Generative AI ChatGPT, плюс AI етика и съображения относно закона за AI

Каква е обичайната ви реакция при пускането на продължение на голям хитов филм, който грабва заглавията?

Някои хора отиват да видят продължението и заявяват, че е толкова добро, ако не дори по-добро от оригинала. Други може да имат изключително високи очаквания и след като са гледали по-новия филм, да го обявят за сравнително добър, макар и нищо, за което да ревете екстатично. Има някои, които несъмнено ще бъдат изключително разочаровани, без значение какво включва най-новият филм, и накратко ще заявят, че първият филм е бил безсрамно над продължението.

Същият набор от реакции и емоции излязоха на преден план във вчерашното пускане на GPT-4 от производителя на изкуствен интелект OpenAI, което се проведе на деня на Пи, а именно 3.14 или 14 март 2023 г. Вероятно съвпадение на любимия пай на математика - ден за хранене, разкриването на GPT-4 наистина привлече много внимание на пресата и огромен разговор в социалните медии.

Тук ще опиша основните функции и възможности на GPT-4, заедно с правенето на сравнения с неговия предшественик ChatGPT (първоначалният „блокбъстър“ в моята аналогия). Плюс това, има множество наистина жизненоважни съображения относно етиката на ИИ и Закона за ИИ, които вървят заедно с генеративния ИИ, включително и може би особено в случая на GPT-4 и ChatGPT поради несъмнено широкото им използване и предизвикването на лудост в медиите и общественото внимание относно настоящ и бъдещ AI.

Накратко, точно като продължение на филм, GPT-4 в някои отношения е по-добър от ChatGPT, като например е по-голям, по-бърз и привидно по-плавен, докато в други отношения поражда допълнителни и ясно изразени опасения (ще ги покрия накратко тук). Малко объркана реакция. Продължението не е забиване, което мнозина очакваха, че ще бъде. Оказва се, че нещата са по-нюансирани от това. Изглежда, че това е реалният свят, в който всички живеем.

Може би главният изпълнителен директор на OpenAI, Сам Алтман, го каза най-добре в своите туитове на 14 март 2023 г. относно стартирането на GPT-4:

• „Ето го GPT-4, нашият най-способен и съобразен модел досега. Той е достъпен днес в нашия API (със списък за изчакване) и в ChatGPT+.“
• „Все още има недостатъци, все още е ограничен и все още изглежда по-впечатляващ при първа употреба, отколкото след като прекарате повече време с него.“

Моите предложения за това какво може да обмислите да направите в резултат на пускането на GPT-4 и в зависимост от съществуващата ви ситуация или обстоятелства, се състоят от следните потенциални действия:

• Съществуващи потребители на ChatGPT. Ако вече използвате ChatGPT, трябва да разгледате внимателно GPT-4, за да видите дали може да искате да го използвате вместо него (или може да използвате GPT-4 в допълнение към използването на ChatGPT, ето защо използвайте един от ChatGPT или GPT -4, в зависимост от вашите нужди, когато възникнат). Можете да играете с GPT-4, ако се абонирате за ChatGPT Plus, режимът на абонамент за $20 на месец за използване на ChatGPT, в противен случай нямате особено лесен начин за достъп до GPT-4 в момента (уговорката или обратът е, че Microsoft Bing, търсачката, използва вариант на GPT-4, който съм обсъждал на връзката тук).
• Никога не е използвал генеративен AI. Ако не използвате ChatGPT и никога не сте използвали генеративен AI, може да искате първо да започнете с ChatGPT, тъй като е достъпен безплатно (или, разбира се, обмислете използването на някое от безбройните други генеративни AI приложения, за да започнете своето пътуване в това царство на AI). GPT-4 не е безплатен в момента, както е споменато в точките по-горе относно съществуващите потребители на ChatGPT. След като намокрите краката си с ChatGPT, можете да решите дали си струва да се абонирате за ChatGPT Plus, за да получите допълнителните предимства, включително достъп до GPT-4.
• Използване на друг генеративен AI. Ако използвате генеративно AI приложение, различно от ChatGPT, може да се окаже, че GPT-4 може да представлява голям интерес, тъй като има подобрения отвъд това, което предлага ChatGPT. Споменавам това, защото някои опитни потребители на AI решиха, че ChatGPT не е толкова добър за тях, колкото другите опции. Бих препоръчал да се запознаете по-бързо с GPT-4, за да решите дали съществуващият ви избор все още е най-добрият за вас. Може и да е. По този начин аз не защитавам, че със сигурност трябва да преминете към GPT-4 и само казвам, че винаги е разумно да ритате гумите на други налични автомобили.
• Друг софтуер, който има достъп до ChatGPT чрез API. За тези, които правят софтуер, който се свързва с ChatGPT чрез API (интерфейс за програмиране на приложения), който обсъждах на връзката тук, би било разумно да разгледате отблизо използването на GPT-4 чрез неговия API. Един голям въпрос е, че цената на използването на GPT-4 API е много по-висока от тази на ChatGPT. Ще искате да направите анализ на компромиса на добавените предимства на GPT-4 спрямо по-евтината алтернатива да се придържате към ChatGPT. Това е малко сложно решение. Правете го внимателно, а не безсмислено.

Едно нещо, което изглежда шокиращо за мнозина, е, че новинарската значимост не достигна нивото, което се очакваше по-рано.

Позволете ми да обясня защо.

Оригиналният блокбъстър и сега неговото продължение

Вероятно знаете, че генеративно AI приложение, известно като ChatGPT, беше предоставено в края на ноември миналата година.

Това беше изненадващ хит.

Дотогава предишните усилия за пускане на генеративни AI приложения за широката публика обикновено бяха посрещнати с презрение и възмущение. Основата за опасенията беше, че генеративният AI може да произвежда резултати, които съдържат всякакъв вид фалшиви резултати, включително сквернословен език, неприятни пристрастия, лъжи, грешки и дори измислени факти или т.нар. AI халюцинации (Не харесвам тази терминология за „халюцинации“, тъй като има тенденция да антропоморфизира ИИ, вижте моята дискусия на връзката тук).

Генеративният AI е вид AI, който включва генериране на изходни данни от въведени от потребителя текстови подкани, като например възможност за създаване или генериране на текстови есета или създаване на изображения или произведения на изкуството, или създаване на аудио или видео и т.н. Това обикновено са наричани текст към текст, текст към есе, текст към изкуство, текст към изображение, текст към аудио, текст към видео и други подобни. Забележителният аспект на генеративния AI е, че генерираните произведения изглеждат наравно с генерираните от човека резултати. Ще ви е трудно да се опитате да различите генеративен AI резултат от сравнима композиция, произведена единствено от човешкия ум и човешката ръка.

За повече информация относно генеративния AI вижте моята текуща поредица, като тази връзка тук за основите на ChatGPT и генеративния AI, заедно с отразяването на ChatGPT от студенти и проблемите с потенциалното измама на есета (използвайте връзката тук), силно съмнителната употреба на ChatGPT за съвети за психично здраве (вижте връзката тук), опасения относно потенциално плагиатство и нарушаване на авторски права на генеративен AI (връзката тук) и много други важни теми на връзката тук.

Част от причината ChatGPT да не получи обичайния камшичен удар се дължи на някаква задкулисна работа от производителя на AI, OpenAI, преди да пусне ChatGPT. Те се опитаха да използват различни техники и технологии, за да отблъскват издаването на особено омразни и омразни есета. Имайте предвид, че ChatGPT е изключително стил на текст към текст или текст към есе на генеративен AI. По този начин опитите да се предотвратят странни и вбесяващи резултати се състоят в работа с думи. Подобни проблеми възникват, когато резултатът е изкуство или изображения, въпреки че това може да бъде еднакво или по-трудно за улавяне, за да се предотврати производството на обидни изображения от един или друг вид.

Една забележителна техника, която все повече се възприема от създателите на AI, се състои в използването RLHF (учене с подсилване чрез човешка обратна връзка). Ето как обикновено работи това. След като дадено генеративно AI приложение е първоначално обучено за данни, като например чрез сканиране на текст в интернет, човешки рецензенти се използват, за да помогнат в насочването или демонстрирането на AI какво си струва да се каже и какво е скандално да се каже. Въз основа на тази поредица от одобрения и неодобрения, генеративният AI е в състояние приблизително да съпостави модела на това, което изглежда добре да се излъчва, и това, което изглежда не е допустимо.

Бих искал да спомена и още един изключително важен момент.

AI не е разумен.

Без значение какво твърдят закачливите заглавия, бъдете сигурни, че днешният AI не е съзнателен. За генеративен AI, приложението е обширен изчислителен софтуер за съпоставяне на модели и апарат за моделиране на данни. След изследване на милиони и милиони думи от Интернет се извличат модели за думите и техните статистически връзки. Резултатът е невероятна форма на мимикрия на човешкия език (някои AI вътрешни хора наричат ​​това като a стохастичен папагал, което донякъде подчертава смисъла, но за съжаление внася иначе чувствителен елемент в дискусията).

Можете да мислите за генериращия AI като функцията за автоматично завършване, когато използвате пакет за текстообработка, въпреки че това е много по-всеобхватна и усъвършенствана способност. Сигурен съм, че сте започнали да пишете изречение и имате автоматично довършване на препоръчителната формулировка за остатъка от изречението. С генеративен AI, като ChatGPT, вие въвеждате подкана и приложението AI ще се опита не просто да завърши вашите думи, но ще се опита да отговори на въпроси и да състави цели отговори.

В допълнение, грешка на новобранец, която мнозина правят, когато използват ChatGPT или друго подобно генеративно AI приложение, води до пропуск да се използват прехвалените интерактивни възможности за разговор. Някои хора въвеждат подкана и след това чакат отговор. Те изглежда смятат, че това е всичко. Едно и готово. Но тук липсва същината на генеративния ИИ. По-полезният подход се състои в извършване на поредица от подкани, свързани с участието в диалог с генеративния AI. Това е мястото, където генеративният AI наистина блести, вижте моите примери на връзката тук.

ChatGPT беше обявен от медиите и обществеността като цяло за невероятен пробив в AI.

Реалността е, че много други сходни AI приложения са били създадени, често в изследователски лаборатории или мозъчни тръстове, а в някои случаи са били предпазливо предоставени на обществеността. Както казах по-горе, резултатът обикновено не беше добър. Хората подтикнаха и бъркаха в генеративния AI и успяха да получат есета от жесток характер, вижте моето отразяване на връзката тук. Създателите на AI в тези случаи обикновено са били принудени да изтеглят AI от отворения пазар и да се върнат към фокусиране върху лабораторна употреба или внимателно подбрани AI бета тестери и разработчици.

Голяма част от останалата част от AI индустрията беше шокирана, че ChatGPT успя да се справи с все още произвеждането на лоши резултати и все пак не до такава степен, че общественото мнение принуди OpenAI да премахне приложението AI от цялостния достъп.

Това беше истинският шок от ChatGPT.

Повечето хора предположиха, че шокът е способността за познаване. Не за тези в AI. Изненадата, която разтърси почти всички AI вътрешни хора, беше, че можете да пуснете генеративен AI, който може да избълва омразни речи и ответната реакция не беше достатъчно яростна, за да принуди бързо отстъпление. Кой знаеше? Всъщност, преди пускането на ChatGPT, мелницата за слухове предричаше, че в рамките на няколко дни или най-много седмици, OpenAI ще съжалява, че е направила приложението AI лесно достъпно за всички желаещи. Те ще трябва да ограничат достъпа или евентуално да го приберат пеша и да си поемат въздух.

Невероятният успех на внедряването на ChatGPT предпазливо отвори вратата за други генеративни AI приложения, които също се срещнаха на улицата. Например, обсъждах разкриването на Bard от Google и как войните на интернет търсачките се разгарят поради желанието да се включи генеративен AI в конвенционалното уеб търсене, вижте връзката тук.

ChatGPT може с основание да се характеризира като блокбастър. Той също е такъв, който се появи от нищото, така да се каже. Понякога се знае предварително, че един блокбъстър има вероятност да бъде блокбъстър след излизането си. В други случаи филмът е сън, който изненадва публиката и дори създателя на филма. Това се случи с ChatGPT и OpenAI.

Добре, значи имаме блокбъстъра, ChatGPT.

ChatGPT по същество се основава на версия на GPT, известна като GPT-3.5. Преди това имаше GPT-3, GPT-2 и други подобни. Светът на изкуствения интелект и тези, които имат връзка с изкуствения интелект, всички знаеха, че OpenAI работи върху следващата версия, GPT-4.

GPT-4 ще се счита за наследник или продължение на ChatGPT.

Това ни връща към моята аналогия с филмите. ChatGPT, изненадващ блокбъстър, беше огромна популярност. Очакванията за това какво ще бъде GPT-4 и как ще реагира обществеността бяха изпълнени с диви спекулации. GPT-4 ще ходи по вода! GPT-4 ще бъде по-бърз от бърз куршум! GPT-4 ще бъде постигането на разумен AI или изкуствен общ интелект (AGI)!

Това продължава и продължава.

Може би сте наясно, че главният изпълнителен директор на OpenAI, Сам Алтман, каза това в интервю, публикувано в YouTube (с дата 17 януари 2023 г.): „Слуховете за GPT-4 са нелепо нещо. Не знам откъде идва всичко това. Хората се молят да бъдат разочаровани и те ще бъдат. Шумът е точно като… Ние нямаме действителен AGI и това е нещо, което се очаква от нас.“

Е, GPT-4 е тук.

Филмът излезе.

Можем да го видим със собствените си очи. Край на необузданите спекулации. Реалността дойде на мястото си.

Нека разопаковаме новата лъскава играчка.

Основното на GPT-4

Несъмнено искате да знаете какво предоставя GPT-4.

В моята дискусия ще се позовавам на различни документи и видеоклипове, които OpenAI направи достъпни за GPT-4, заедно с правенето на забележки въз основа на моето използване на GPT-4. За улеснение на дискусията, моля, имайте предвид, че има два удобни документа, които ще цитирам жадно, единият, озаглавен OpenAI official GPT-4 Технически доклад а другият е официалният OpenAI GPT-4 системна карта документ (и двата са достъпни на уебсайта на OpenAI). Ще ги цитирам с акронимите на TR за GPT-4 Технически доклад намлява SC за GPT-4 системна карта.

Нека започнем с цитиране на първото изречение от резюмето за TR:

• „Ние съобщаваме за разработването на GPT-4, широкомащабен мултимодален модел, който може да приема изображения и текстови входове и да произвежда текстови изходи.“

Вярвате или не, в това едно изречение има много неща.

Седнете и вземете удобно питие в ръката си.

Един аспект, който е общоприето правило за генеративния ИИ, е, че колкото по-голяма е системата, толкова по-вероятно е плавността и цялостната способност да стават. Това изглежда е сравнително добре установено от исторически нарастващите размери на генеративните AI системи и тяхната все по-забележителна плавност по отношение на провеждането на интерактивни разговори. Не всеки вярва, че това трябва да е така и има изследователи, които активно търсят по-малки настройки, които използват различни оптимизации, за да постигнат потенциално толкова, колкото и по-големите си братя.

В цитираното по-горе изречение за GPT-4 от TR може да сте забелязали израза, че това е „мащабен“ генериращ AI. Вероятно всеки би склонил да се съгласи, въз основа на относителните размери на генеративните AI системи днес.

Очевидният въпрос в съзнанието на хората с изкуствен интелект е колко голям е мащабна когато става въпрос за GPT-4?

Обикновено производителите на AI гордо декларират различни показатели за оразмеряване на своя генеративен AI. Може да го направите, за да информирате останалата част от света на ИИ за значението на размера и мащаба. Може да го направите, за да се похвалите. Може да го направите просто защото е като кола, при която естественото любопитство е колко голям е двигателят и колко бързо ще се движи.

Според ТР е посочено ето какво:

• „Като се има предвид както конкурентната среда, така и последиците за безопасността на широкомащабни модели като GPT-4, този доклад не съдържа допълнителни подробности за архитектурата (включително размера на модела), хардуера, изчисленията за обучение, изграждането на набор от данни, метода на обучение или други подобни.“

Вътрешните хора на AI са склонни да намират това за примамливо. От една страна, изглежда обезпокоително прекъсването на дипломацията да не се разказва за тези важни характеристики. Като се има предвид това, логиката, че това може да разкрие частни тайни или евентуално да отвори вратата за бричовете на киберсигурността, е, това също изглежда има смисъл.

Трябва ли създателите на AI да бъдат принуждавани да разкриват конкретни характеристики за своя генеративен AI, като го правят до степен и по начин, който няма да разкрие по невнимание никакви жизненоважни издайнически улики?

Ще ви позволя да си сложите шапката за етиката на изкуствения интелект, за да обмислите това съображение.

Някои смятат, че може да се стигне до установяването на нови закони за ИИ, които ще изискват изрично разкриване на информация.

Мисълта е, че обществеността трябва да знае какво се случва с AI, особено когато AI стане по-голям и вероятно има потенциала в крайна сметка да се насочи към ужасната зона на екзистенциални рискове, вижте моя анализ на връзката тук.

Продължавайки напред, ние също не знаем какви данни са използвани за обучение на GPT-4.

Данните правят или прекъсват появата на генеративния AI. Някои хора погрешно приемат, че целият интернет е бил сканиран, за да се създадат тези генеративни способности на ИИ. не Всъщност, както обсъждам на връзката тук, само малка част от интернет се сканира.

Свързан аспект е дали генеративният AI сканира в реално време интернет и коригира в движение съпоставянето на изчислителни модели. ChatGPT беше ограничен до сканирания, извършени не по-късно от 2021 г. Това означава, че когато използвате ChatGPT, няма почти никакви данни за случилото се през 2022 г. и 2023 г.

Говореше се, че GPT-4 ще съдържа актуална и в реално време връзка с интернет за настройка в движение.

Ето какво казва TR:

• „GPT-4 като цяло няма познания за събития, настъпили след прекъсването на по-голямата част от неговите данни преди обучението през септември 2021 г. и не се учи от своя опит. Понякога може да допусне прости грешки в разсъжденията, които не изглеждат съобразени с компетентността в толкова много области, или да бъде прекалено лековерен при приемането на очевидно неверни твърдения от потребител.

Тогава може би ще разберете защо някои са малко разочаровани от GPT-4. Слуховете предполагаха, че ще работи в реално време, като същевременно се настройва в движение към интернет. Считано за голямо подобрение спрямо ChatGPT. Реалността е, че GPT-4 все още работи с датирани данни. И не се извършва корекция в реално време на изчислителното съпоставяне на шаблони само по себе си въз основа на опреснявания от Интернет.

Имам още новини за вас.

Изречението, което цитирах по-рано за GPT-4 като широкомащабен, също казва, че GPT-4 е такъв мултимодален.

Позволете ми да дам малко информация за идеята за мултимодален генеративен AI.

Споменах в началото на тази дискусия, че има различни видове генеративен AI, като текст към текст или текст към есе, текст към изкуство или текст към изображение, текст към аудио, текст -към видео и т.н. Всички те се считат за единичен режим на обработка на съдържанието. Например, можете да въведете текст и да получите генерирано есе. Друг пример би бил, че въвеждате текст и получавате генерирано произведение на изкуството.

В края на миналата година направих годишните си прогнози за това какво ще видим в напредъка на AI за 2023 г. (вижте връзката тук). Бях заявил, че мултимодалният генеративен AI ще бъде горещ. Идеята е, че бихте могли например да въведете текст и изображение (два режима при въвеждане), като ги използвате като подкана в generative AI, и можете да получите есе като изход заедно с генерирано видео и аудиозапис (три режима на изход).

По този начин могат да съществуват едновременно множество режими. Може да имате множество режими при подканата или въвеждането. Може също да имате множество режими при генерирания отговор или изход. Можете да имате смесване и съпоставяне както на входове, така и на изходи. Натам отиват нещата. Вълнуващо и възможностите за това какво може да се направи с генериращия AI се отварят изключително поради мултимодалната функционалност.

ChatGPT има само един единствен режим. Въвеждате текст, получавате някакъв генериран текст като изход.

Слуховете бяха, че GPT-4 ще преодолее звуковата бариера, така да се каже, и ще осигури пълна мултимодална способност от всичко към всичко. Всички знаеха, че този текст ще бъде включен. Очакванията бяха, че ще бъдат добавени изображения или произведения на изкуството, заедно с аудио и вероятно дори видео. Би било безплатно за всички. Всеки режим на вход, включително толкова от тези режими, колкото желаете. Плюс всеки режим на изхода, включително толкова смесени режими, колкото желаете.

Истинско шведско столче от режими.

Какво предоставя GPT-4?

Върнете се към това изречение от TR:

• „Ние съобщаваме за разработването на GPT-4, широкомащабен мултимодален модел, който може да приема изображения и текстови входове и да произвежда текстови изходи.“

Можете да въведете текст и ще получите изведен текст, плюс евентуално можете да въведете изображение на входа.

Демонстрации, показващи обработката на изображения или визията на въведени изображения, показват, че елементите в картина например могат да бъдат идентифицирани от генеративния AI и след това да бъдат съставени в писмен разказ, обясняващ картината. Можете да помолите генеративния AI да обясни какво изглежда изобразява картината. Като цяло обработката на зрението ще бъде забележително допълнение.

Възможностите за обработка на визията или анализ на изображения все още не са достъпни за обществено ползване (според блога на уебсайта на OpenAI):

• „За да подготвим възможността за въвеждане на изображения за по-широка наличност, ние си сътрудничим в тясно сътрудничество с един единствен партньор, за да започнем.“

Същността на всичко това е, че е стоплящо сърцето да осъзнаем, че GPT-4 очевидно има способността да прави въвеждане и анализ на изображения. Мнозина с нетърпение очакват публичното пускане на тази функция. Браво на OpenAI за навлизането в мултимодалната арена.

И така, имаме текст като вход, плюс изображение като вход (когато е достъпен за обществено ползване) и текст като изход.

Някои въпреки това са били ръкописни в общността на AI, че това едва се съобразява с идеята за мултимодален. Да, има още един режим, изображението като вход. Но не изображение като изход. Изглежда няма аудио като вход, нито аудио като изход. Изглежда няма видео като вход, нито видео като изход. Онези с тънък наклон намират това за „мултимодален“ по най-минималистичния начин.

Контрааргументът е, че трябва да пълзиш, преди да ходиш, и да ходиш, преди да тичаш.

Вярвам, че това обхваща първото изречение от TR и можем да преминем към допълнителни теми.

Още основни неща от GPT-4

Ще ускоря сега, след като имате допълнителна предистория като цяло по този въпрос.

Ето нещо важно, както е отбелязано в публикацията в блога на OpenAI за GPT-4:

• „През последните две години изградихме отново целия си стек за дълбоко обучение и заедно с Azure съпроектирахме суперкомпютър от самото начало за нашето работно натоварване.“

Две бързи точки за това.

Първо, индикацията, че са изградили отново целия си стек за дълбоко обучение, със сигурност е забележителна забележка и постижение (това означава, че са преработили моделите за съвпадение на изчислителни модели и са избрали да преструктурират как работят нещата под капака). Добре за тях. Настоятелният въпрос, който някои изразяват, е, че със сигурност би било хубаво да знаем какво точно са направили при това възстановяване. TR и SC донякъде споменават какво се е случило, но не в някаква задълбочена степен.

Разбира се, можете убедително да твърдите, че те не трябва да разкриват тайния си сос. Те нямат изискване да го правят. Защо да оказват ненужна помощ на своите конкуренти? Другата страна на монетата твърди, че за подобряването на ИИ и обществото като цяло, това вероятно ще помогне за напредъка на генеративния ИИ, който изглежда ще бъде добър за човечеството (човек се надява).

Върнахме се към тази тънка разделителна линия между етиката на ИИ и закона за ИИ.

Второ, цитираната забележка показва, че те са проектирали суперкомпютър от самото начало. Освен интереса към това какво прави този суперкомпютър и как точно работи, някои от които са обяснени, това повдига съвсем различен въпрос.

Някои се притесняват, че генеративният AI се превръща в игра за големи пари. Само технологичните компании с най-големи пари и най-големи ресурси ще могат да създадат и внедрят генериращ AI. Причината това да бъде поставено под въпрос е, че може би ще имаме генеративен ИИ, който е строго контролиран само от шепа технологични фирми. Можем да станем силно зависими от тези фирми и техните стоки.

Трябва ли потенциално да използваме съществуващи закони или да измислим нови закони за ИИ, за да предотвратим концентрацията на генеративен ИИ да бъде в тесния контрол само на малцина?

Нещо за размисъл.

Ако чакате обувката да падне по отношение на някаква невероятно огромна разлика между ChatGPT и GPT-4, погледнете това от блога на OpenAI, публикуващ за GPT-4:

• „В случаен разговор разликата между GPT-3.5 и GPT-4 може да бъде едва доловима. Разликата се проявява, когато сложността на задачата достигне достатъчен праг – GPT-4 е по-надежден, креативен и способен да обработва много по-нюансирани инструкции от GPT-3.5.“

Открих, че тази липса на отличителна разлика донякъде е вярна, а именно, че ако правите ежедневен празен вид чат с ChatGPT и правите същото с GPT-4, може да не осъзнавате особено, че GPT-4 се счита за по-мощен като цяло .

Един аспект, който наистина изглежда открояващ се, се състои от установяване на контекст за вашите разговори с двете генеративни AI приложения.

Ето какво искам да кажа.

Когато използвате генеративно AI приложение, на моменти просто скачате в разговор, който започвате и продължавате заедно с AI. В други случаи започвате, като казвате на AI контекста на разговора. Например, мога да започна, като кажа на генеративния AI, че искам да обсъждам автомобилни двигатели с AI и че искам AI да се преструва, че е автомобилен механик. Това след това задава етапа или настройката за AI да реагира по съответния начин.

Много хора, които използват ChatGPT, не осъзнават важността на задаването на контекста, когато за първи път се включат в диалог с приложението AI. Може да е огромна разлика по отношение на това какъв отговор ще получите. Често установявам, че ChatGPT не се адаптира много добре сам към определени контексти. Опитва се, но често не успява. Досега GPT-4 изглежда наистина блести чрез използването на контекстно установяване.

Ако ще използвате генериращ AI и искате да установите контексти, когато го правите, определено бих дал общото предимство на GPT-4 пред ChatGPT.

На свързан елемент има и аспект, известен като управляемост това влиза в действие.

Някои потребители на ChatGPT са били изненадани, че понякога приложението AI предоставя отговори, които изглеждат може би прекалено хумористични или прекалено кратки. Това може да се случи, ако генеративният изкуствен интелект открие нещо във вашата подкана за въвеждане, което изглежда задейства този вид отговор. Може да попитате на шега за нещо и да не осъзнаете, че това ще насочи ChatGPT към шеги и безгрижен тон.

Според публикацията в блога на OpenAI за GPT-4 и управляемостта:

• „Вместо класическата индивидуалност на ChatGPT с фиксирана многословност, тон и стил, разработчиците (а скоро и потребителите на ChatGPT) вече могат да предписват стила и задачата на своя AI, като опишат тези указания в „системното“ съобщение. Системните съобщения позволяват на потребителите на API значително да персонализират изживяването на своите потребители в границите.“

Отново, това ще подобри потребителското изживяване с генеративните AI приложения. Други създатели на генеративен AI правят същото и ние неизбежно ще имаме почти всички подобни AI приложения с някаква форма на управление и функционалност за контекстно установяване.

Неравният път все още предстои

Продължаващ и обезпокоителен проблем в основата на генеративния ИИ като цяло е, че могат да бъдат произведени всякакви неприятни и откровено смущаващи резултати.

В моите публикации в колони съм покрил тези различни и отрезвяващи опасения:

• Грешки, генерирани от AI
• Генеративният изкуствен интелект създава лъжи
• Генеративни отклонения, вградени в AI
• AI Халюцинации
• Нарушения на поверителността
• Слабости на поверителността на данните
• Разпространител на дезинформация
• Разпространител на дезинформация
• Двойна употреба за оръжие
• Свръхразчитане на хората
• Икономически въздействия върху хората
• Укрепване на киберпрестъпността
• Т.н.

Някои слухове бяха, че магически и чудодейно GPT-4 ще изчисти и разреши всички тези генеративни болести на ИИ.

Никой с добра глава на раменете не си помисли, че подобен слух може да понесе вода. Това са много трудни проблеми с ИИ. Те не се решават лесно. Има много още да се направи, за да се преборим с тези трайни и дразнещи трудности. Вероятно ще отнеме село, за да завладее литанията от въпроси, свързани с етиката на ИИ, заплетени в средата на генеративния ИИ.

За да отдаде дължимото, OpenAI се опита да обясни как се справят с тези много различни предизвикателства. Тези от вас, които се интересуват от AI Ethics, трябва да обмислят да прочетат внимателно TR и SC.

Ето например някои ясни коментари за GPT-4, както е посочено от OpenAI в TR:

• „GPT-4 може да генерира потенциално вредно съдържание, като съвети за планиране на атаки или реч на омразата. То може да представлява различни обществени пристрастия и светогледи, които може да не са представителни за намеренията на потребителите или за широко споделяните ценности. Може също така да генерира код, който е компрометиран или уязвим. Допълнителните възможности на GPT-4 също водят до нови рискови повърхности.“

Освен това те казват това в TR:

• „Чрез този анализ откриваме, че GPT-4 има потенциала да бъде използван за опит за идентифициране на частни лица, когато е допълнен с външни данни. Откриваме също, че макар възможностите за киберсигурност на GPT-4 да не превъзхождат значително предишните поколения LLM, той продължава тенденцията за потенциално намаляване на разходите за определени стъпки на успешна кибератака, като например чрез социално инженерство или чрез подобряване на съществуващите инструменти за сигурност . Без смекчаване на безопасността, GPT-4 може също така да даде по-подробни насоки за това как да се извършват вредни или незаконни дейности.

Тук нямам място в колоната, за да покрия всички многобройни елементи, свързани с тези трудности. Потърсете допълнително покритие в колони в моя текущ анализ на генеративния AI от гледна точка на етиката на AI и Закона за AI.

Струва си да отделите малко време и да признаете, че OpenAI е предоставил своята идентификация за това как се справят с тези тежки предизвикателства. Може да се каже, че не е имало причина да го правят. Те могат просто да се държат така, сякаш няма какво да се види там. Или можеха просто да направят някакво неясно ръкомахане и да твърдят, че правят много умни неща, за да се справят с тези проблеми.

За щастие, те са избрали разумния подход да се опитат да излязат там пред негативните реакции и бъркотията, които обикновено вървят с генеративни версии на AI. Предполага се, че те се стремят да покажат твърдо своята сериозност и ангажираност за изкореняване на тези проблеми и стремеж към тяхното смекчаване или разрешаване.

Бих предложил допълнителната мисъл, че полето на ИИ като цяло ще претърпи жесток удар, ако няма продължаващи и напрегнати усилия за преследване на тези въпроси по откровен и бъдещ начин. Възприемането на подход на скрита черна кутия неминуемо ще нарасне гнева сред широката общественост. Можете също така да предвидите, че ако фирмите за изкуствен интелект не се опитат да се справят с тези проблеми, шансовете са, че законодателите и регулаторите ще бъдат въвлечени в тези въпроси и цунамито от нови закони за изкуствен интелект ще засегне всички производители на изкуствен интелект и тези, които работят AI.

Някои смятат, че вече сме на този етап.

Те настояват, че въпреки че много от създателите на AI изглежда споделят какво правят, това е донякъде скрита форма на правдоподобно отричане. Накратко, продължете напред и пуснете AI, който е ужасяващ и очевидно погрешен, вместо да чакате, докато нещата бъдат измислени по-добре, и отблъсквайте онези в Етиката на AI и Закона за AI, като декларирате, че правите всичко възможно, за да поправите нещата. Обсъждал съм този продължаващ спор „изчакайте, докато бъде готово“ често в моите коментари.

Според TR:

• „OpenAI повтаря GPT-4 и нашия план за внедряване от началото на август, за да се подготви за по-безопасно стартиране. Вярваме, че това е намалило рисковата повърхност, но не я е елиминирало напълно. Днешното внедряване представлява баланс между минимизиране на риска от внедряването, позволяване на положителни случаи на употреба и учене от внедряването.“

Връщайки се към разглеждания въпрос, по-рано споменах, че AI халюцинациите са преобладаващ проблем, когато става дума за генеративен AI.

Пак казвам, не ми харесва крилатата фраза, но изглежда се е хванала. Основният проблем с AI халюцинациите е, че те могат да произвеждат резултати, които съдържат много луди неща. Може би си мислите, че зависи от потребителя да разпознае дали резултатите са правилни или грешни. Притеснението тук е, че резултатите може да съдържат измислени неща, които потребителят няма лесен начин да определи, че са измислени. Те може да повярват докрай на всичко, което се казва в резултата.

Съществува и фина тенденция да се приспиш да повярваш на резултатите от генеративния AI. Обикновено резултатът е написан с тон и по начин, който предполага сигурно подобие на увереност. Ако приемем, че използвате генеративен AI редовно, лесно е да се увлечете да виждате правдив материал през повечето време. След това можете лесно да се заблудите, когато нещо измислено бъде вмъкнато в средата на това, което иначе изглежда напълно разумно и изпълнено с факти генерирано есе.

Ето какво казва TR за GPT-4:

• „GPT-4 има тенденцията да „халюцинира“, т.е. „да произвежда съдържание, което е безсмислено или невярно по отношение на определени източници.“ Тази тенденция може да бъде особено вредна, тъй като моделите стават все по-убедителни и правдоподобни, което води до прекомерно разчитане на потребителите на тях. Противно на интуицията, халюцинациите могат да станат по-опасни, тъй като моделите стават по-правдиви, тъй като потребителите изграждат доверие в модела, когато той предоставя вярна информация в области, в които те познават.

Добрата новина е, че са положени усилия и изглежда продължават да се опитват да намалят шансовете за AI халюцинации в GPT-4. Освен това се твърди, че GPT-4 превъзхожда GPT-3.5 по отношение на предотвратяването на AI халюцинации, въпреки че става ясно, че те все още ще се появят.

Ето TR за това:

• „При вътрешни оценки GPT-4-launch отбелязва 19 процентни пункта по-висок резултат от най-новия ни модел GPT-3.5 за избягване на халюцинации в отворен домейн и 29 процентни пункта по-висок при избягване на халюцинации в затворен домейн.“

За да затворим тази част от дискусията засега, генеративният AI от всички създатели на AI се сблъсква с тези проблеми. Никой не е излекувал това по някакъв начин. Ако търсите трудни проблеми с ИИ, призовавам ви да се впуснете в тези води и да помогнете. Има много работа за вършене.

Заключение

Когато блокбъстър е бил наоколо известно време и е преминал от кината към стрийминг у дома, доста хора вероятно са гледали филма или знаят нещо за него от други, които са го гледали. След това, когато бъде обявено продължение и се снима, очакването може да достигне астрономически нива.

Джей Джей Ейбрамс, сега легендарният режисьор на части от поредицата Междузвездни войни и рестартирането на Стар Трек, каза следното за продълженията: „Няма нищо лошо в правенето на продължения, те просто се продават по-лесно.“

Едуин Катмул, съосновател на Pixar, подчерта следното относно продълженията: „Повярвайте ми, продълженията се правят също толкова трудно, колкото и оригиналните филми.“

Ако се интересувате да видите хитовия ChatGPT, можете лесно да се регистрирате. Достъпът до продължението GPT-4 е малко по-труден. Осъзнайте също, че има много други налични филми, е, други налични генеративни AI приложения, така че може да искате да сте сигурни, че вашето гледане на филми (известно още като генеративен AI) изживяване е разнообразно и пълноценно.

Една последна отрезвяваща бележка. Бъдете предупредени, че съдържанието, което може да срещнете, може да бъде PG13, R или дори NC-17. Имайте го предвид.