Успоредно с напредъка си, изкуственият интелект (AI) напредва все повече и рискът от така нареченото „инбридинг“ в генеративните системи на AI се превръща в опасност, отдавна често срещана сред популациите от хора и домашни животни.
Тази статия ще хвърли малко светлина върху концепцията за инбридинг в светлината на генеративния AI и как инбридингът може да се свърже с бъдещето на генерираното от AI съдържание.
Разбиране на генеративния AI инбридинг Генеративните AI системи като големи езикови модели (LLM) се обучават основно върху изчерпателни набори от данни от текстово, визуално и аудио съдържание, достъпно в мрежата. Първоначално наборът от данни включва до голяма степен предмети, направени от човешки същества, като литература, статии и произведения на изкуството. Въпреки това, с нарастването на генеративните AI инструменти, все повече и повече съдържание в интернет се пише от самия AI.
Тази промяна поражда опасения относно качеството и разнообразието на наборите от данни, използвани за обучение на бъдещи системи за изкуствен интелект. С развитието на съдържанието, генерирано от AI, се очаква много бъдещи поколения AI модели да се учат от набори от данни, които не представляват човешко съдържание, а материал, създаден от AI.
Последиците от генеративното изкуствено инбридинг са многостранни.
Напротив, продължаването на обучението от AI системата от все по-голям брой хомогенни набори от данни може да доведе до намаляване на креативността и оригиналността в генерирания от AI резултат.
Ако този процес се повтаря – т.е. копиране от копие – последователно през поколенията, качеството на продукцията се размива и има риск резултатите да бъдат по-малко ангажираща работа и по-малко отразяващи това, което считаме за човешка творческа продукция . С нарастването на съдържанието, генерирано от изкуствен интелект, обучено върху набори от инбредни данни, подобни проблеми могат да бъдат изострени.
Ако наборите от данни за обучение не са достатъчно разнообразни, тогава разработените AI системи биха служили само за укрепване и увеличаване на отклоненията, присъстващи в съдържанието, генерирано от AI, като по този начин допълнително подкопават надеждното използване на съдържание, генерирано от AI, като източник на информация. Освен това, липсата на разнообразие в данните за обучение може да ограничи възможността за разработване на системи за ИИ, които биха могли да разберат и представят правилно широкия набор от човешки опит и перспективи. Това може да ограничава напредъка в различните области на приложение на AI, като обработка на естествен език, генериране на съдържание и системи за вземане на решения.
Справяне с предизвикателството на генеративното изкуствено инбридинг
Преди всичко това е истински риск, особено кръвосмешението на генеративни AI технологии. Все пак това дава тежест на изследователите, разработчиците и дори на политиците да действат проактивно, като гарантира, че разнообразните и представителни набори от данни се използват като основен приоритет по време на обучението на системата за изкуствен интелект, интегрирайки механизми, които ще могат да откриват и намаляват пристрастия в съдържанието, генерирано от AI, и осигуряване на ефективно интердисциплинарно сътрудничество, като същевременно се обръща внимание и се гарантира, че са взети предвид етичните и обществени последици от изграждането на AI.
Те следва допълнително да улеснят необходимостта от откритост и отчетност при внедряването на системи с ИИ и да изискват информираността за ограниченията и пристрастията да се споделя с потребителите на съдържание, генерирано от ИИ. Следователно всички заинтересовани страни могат проактивно да се стремят да си сътрудничат за овладяване на силата на генеративния AI, като същевременно смекчават рисковете, свързани с инбридинга при разработването на AI.
Концепцията за инбридинг в генеративния AI е голямо бъдещо предизвикателство за разработването и внедряването на AI системи. Това ще им помогне да гарантират, че отговорното и етично развитие на технологичното подобрение за обществото е посрещнато чрез разбиране на последиците и начините за ефективно подобряване на генеративното AI инбридинг.
Източник: https://www.cryptopolitan.com/generative-ai-growing-in-ai-development/