Разгневени притеснения, че Generative AI ChatGPT стимулира учениците да мамят значително, когато пишат есета, предизвиква омагьосано внимание за етиката на AI и закона за AI

Писмено есе от съвременните студенти никога ли не е?

Изпълнената с тревога студентска курсова работа излиза ли трескаво през прозореца?

Това е скандалът, който напоследък избухна в пълен скандал. Виждате ли, появата на AI приложение, известно като ChatGPT, привлече много внимание и същевременно предизвика много гняв. За моето изчерпателно покритие на ChatGPT вижте връзката тук. За моето текущо и обширно отразяване на етиката на ИИ и Закона за ИИ вижте връзката тук намлява връзката тук, Само за да назовем няколко.

Същността на викането и ревовете е, че този вид ИИ, обикновено наричан генеративен AI, ще бъде погребалното звънене за това, че учениците трябва да изпълняват задачи в стил есе.

Защо така?

Тъй като най-новият генеративен AI е в състояние да произвежда привидно плавни есета само с въвеждането на проста подкана. Ако въведете ред като „Разкажете ми за Ейбрахам Линкълн“, AI ще генерира есе за живота и времето на Линкълн, което често е достатъчно добро, за да бъде сбъркано, че е написано изцяло и изключително от човешки ръце. Освен това, и тук е най-важното, есето няма да бъде дубликат или забележимо копие на нещо друго, което вече е написано по същата тема. Създаването на есе ще бъде по същество „оригинал“, доколкото всяка случайна проверка би установила.

Ученик, изправен пред писмена задача, може просто да извика едно от тези генеративни AI приложения, да въведе подкана и готово, цялото му есе е написано за него. Те само трябва да изрежат и поставят автоматично генерирания текст в празен документ, тайно да напишат името си и информацията за класа върху него и с малко смелост да продължат напред и да го предадат като своя собствена работа.

Шансовете учител да успее да разбере, че есето е написано от AI, а не от ученика, са почти нулеви.

Скандално!

Заглавията прибързано обявиха, че сме стигнали до горчивия край на това учениците да пишат есета или да изпълняват по същество всякакви извънкласни писмени задачи. Единственото средство за справяне със ситуацията изглежда е използването на писане на есе в клас. Когато учениците са в контролирана среда като класна стая и предполагат, че нямат достъп до лаптопи или смартфони, те ще се окажат ограничени да пишат есета по старомодния начин.

За да поясним, старомодният начин означава, че те ще трябва да пишат единствено чрез използването на собствените си крака.

Всеки вид есе, направено извън класната стая, веднага ще бъде заподозряно. Ученикът ли е написал есето или приложение с изкуствен интелект? Както споменахме, есето ще бъде толкова добре написано, че не можете лесно да откриете, че е написано от машина. Правописът ще бъде безупречен. Синтаксисът ще бъде страхотен. Линията на дискурса и направените потенциални аргументи ще бъдат убедителни.

По дяволите, в известен смисъл бихте могли да предположите, че генеративният ИИ ще наклони пословичната си ръка, като направи есе, което е извън възможностите на ученика, който избере да поеме по този нечестен път. Учителят може да стане подозрителен просто защото есето е твърде добро. Един разумен учител би се изкушил да предположи, че ученикът не би могъл да напише толкова елегантна и херметична проза. Вътрешните алармени звънци започват да звънят.

Разбира се, предизвикването на ученик относно есето му ще бъде грозно и може да има неблагоприятни последици.

Да предположим, че ученикът внимателно е написал есето, съвсем сам. Може да са го проверили двойно и тройно. Има също шанс, че може би са накарали приятел или познат да погледнат, за да забележат нещо, което се нуждае от допълнително полиране. Като цяло, това все още е тяхното есе, написано от тях. Представете си учител, който задава на този сериозен и ученолюбив ученик конкретни въпроси относно есето. Смущението и огорчението от факта, че по същество са обвинени в измама, са осезаеми, дори ако учителят не изказва подобно твърдение на глас. Самата конфронтация сама по себе си е достатъчна, за да подкопае уважението на ученика и да го накара да се почувства фалшиво оклеветен.

Някои настояват, че всеки учител със съмнения относно авторството на дадено есе трябва да помоли ученика да обясни какво е написал. Предполага се, че ако есето е написано от ученика, конкретният ученик може да го обясни адекватно. Учителите са правили този вид запитвания от векове. Ученик може да е накарал друг ученик да напише есето си вместо него. Ученикът може да е накарал родител да напише есето му. В днешния свят студентът може да плати на някого в интернет да напише тайно есето му от негово име.

По този начин да помолите ученик да потвърди авторството чрез запитване в класната стая е обичайно и не е голяма работа.

Радвам се, че повдигна това.

Опитът да огорчите ученик меко или демонстративно не е толкова ясен лакмус, колкото си мислите. Ученикът би могъл да проучи внимателно създаденото от AI есе и да се подготви за потенциален разпит.

Мислете за това по този начин. Студентът първо генерира есето само с натискане на бутон. След това ученикът прекарва много време, което би посветил на написването на есето, вместо щателно преглеждане и изучаване на есето. След известно време думите почти изцяло се запаметяват. Ученикът почти се заблуждава, че наистина е написал есето. Това подобие на увереност и осведоменост може лесно да ги прокара през контрол, ръководен от учители.

Аха, някои казват с малко контрапункт на страховете от генеративните AI приложения, имайте предвид, че ученикът всъщност е „научил“ нещо, като е генерирал есето. Разбира се, ученикът не е свършил крака, за да проучи темата, нито пък е написал есето, но въпреки това, ако са проучили внимателно есето, изглежда показва, че са научили за възложената тема. Ученикът, който се ангажира да научи наизуст есето за Линкълн, вероятно е научил нещо съществено за Линкълн.

Ученето се случи.

Уау, репликата продължава, задачата вероятно е била двоен процес. Научаването за Линкълн може да е било сравнително второстепенно. Истинската цел беше ученикът да се научи да пише. Тази съществена част от задачата е напълно подкопана. Учителите често задават теми с отворен край и всъщност просто се стремят да накарат ученика да се опита да пише. Трябва да изложите това, което искате да напишете, трябва да разберете думите, които ще използвате, трябва да поставите думите в разумен набор от изречения и абзаци и т.н. Простото четене на създадено от AI есе изобщо не се съчетава с този основен аспект на задачата за есе.

Контраударът на това е твърдението, че ученикът потенциално се учи за писане, като внимателно изследва писмеността, създадена от AI. Не изучаваме ли всички гросмайсторите на писането, за да видим как пишат? Нашето писане е опит да достигнем до хора като Шекспир и други велики писатели. Изучаването на писменото слово е валидно средство за набиране на умения за писане.

Подобно на ожесточен тенис мач, топката се премества от другата страна на мрежата. Въпреки че изучаването на добро писане е добро, в крайна сметка трябва да пишете, ако искате да можете да пишете. Не можете просто да четете безкрайно и след това празно да приемете, че ученикът вече знае как да пише. Те трябва да пишат, и да пишат, и да продължат да пишат, докато не успеят осезаемо да покажат и подобрят своите способности за писане.

Виждате ли как всичко това е главоблъсканица?

Имайте предвид, че всичко това има милион или повече обрати.

Ще разгледам някои от по-гениалните и интересни обрати.

Настройка на есето чрез подсказване на AI

След като току-що споменахме Шекспир, ето един аспект на генеративния AI, който може да е изненадващ за вас. В много от генеративните AI приложения можете да кажете нещо подобно: „Напишете есе за Линкълн, сякаш Шекспир е написал есето.“ AI ще се опита да генерира есе, което изглежда написано на езика, обичайно използван от Шекспир в неговите писания. Това е доста забавно и увлекателно постижение за гледане и мнозина получават доста удоволствие от това.

Как това се отнася за ученика, който „изневерява“, като използва генеративен AI, за да напише своите есета?

В много генеративни AI приложения можете да кажете на AI да пише по не толкова звезден начин. AI ще се стреми да създаде есе, което е донякъде грубо по ръбовете. Тук или там има проблеми със синтаксиса. Логиката на есето може да е нестабилна или леко несвързана.

Това би било хитра хитрост. Ученикът взема полученото есе и го предава. Есето е достатъчно добро, за да получи най-висока оценка, но междувременно не е толкова перфектно, че да предизвика гнева на учителя. Още веднъж изкуственият интелект е свършил цялата работа вместо ученика, включително правейки есето някак несъвършено.

Освен това повечето от генеративните AI приложения ви позволяват да използвате приложението толкова, колкото желаете. Ето как става това. Студент въвежда, че приложението AI трябва да направи малко несъвършено есе за Линкълн. Есето е произведено. Ученикът гледа есето и осъзнава, че все още е прекалено перфектно. Ученикът въвежда друга подкана, която инструктира AI да направи несъвършенствата по-изразени.

Напенете, изплакнете, повторете.

Студентът продължава да въвежда подкани и да проверява произведените есета. Това се случва отново и отново. В крайна сметка студентът насочва AI до точното ниво на несъвършенство в есето. Версията на Златокоската е постигната. Той е достатъчно съвършен, за да получи висока оценка, и достатъчно несъвършен, за да не буди подозрения.

Сигурен съм, че някои от вас хитро казват, че ако ученикът просто беше избрал да напише проклетото есе на първо място, може би щеше да отдели по-малко време или поне същото време в написването на самото есе. Цялото това отнемащо енергия използване на приложението AI можеше да бъде насочено към простото пристъпване към написването на есето.

Е, запомнете, ученикът няма това предвид. Лесното въвеждане на подкани и итеративното преглеждане и избиране на желаното есе ще бъде много по-лесно за ученика. Един час правене на това е много по-малко трудно, отколкото директното писане на есето. Интелигентността в този случай трябва да се претегли спрямо реалността.

Какво се случва, ако други ученици направят същото

Обзалагам се, че сте имали предвид тази умна мисъл, докато четете предходния анализ за есета и генеративни AI приложения, а именно, че студентът несъмнено ще бъде хванат, ако много други студенти правят същото.

Позволете ми да обясня.

Учител възлага на целия си клас да напише есе за Линкълн. Да предположим, че 90% от учениците решат да използват генериращо AI приложение за тази задача. Ако 90% изглежда прекалено депресиращо, продължете и използвайте 10% вместо това. Само имайте предвид, че докато учениците научават за полезността на генеративните AI приложения, изкушението да ги използвате ще расте като гъби.

Добре, значи значителен процент от класа използва генеративно AI приложение. Бихте предположили, че следователно всички студенти ще предадат приблизително едно и също есе за Линкълн. Учителят ще забележи, когато оцени третото или четвъртото есе, че всички есета са почти еднакви. Това ще бъде огромна следа, че нещо не е наред.

Съжалявам, но едва ли ще имате този късмет.

Повечето генеративни AI приложения са силно чувствителни към това как конкретно е съставено подканата. Ако напиша „Разкажи ми за Линкълн“ спрямо „Разкажи ми за живота на Линкълн“, шансовете са, че есетата ще бъдат съществено различни. На първо място, може би есето, създадено от AI, се фокусира върху президента Линкълн по време на мандата му в Белия дом и пропуска всичко за детството му. Другата подкана може да създаде есе, обхващащо раждането му до смъртта му.

Учениците вероятно няма да въведат точно това, което учителят им е дал като подкана за есето. Би било разумно, като измамник, да опитате варианти. Но дори ако всички ученици въведат точно една и съща подкана, шансовете са доста добри всяко есе да е малко по-различно от останалите.

Тези AI приложения използват огромна вътрешно създадена математическа и изчислителна мрежа, която основно има широко съвпадение на шаблони в текст, открит в Интернет. В процеса на генериране на есе е включен вероятностен фактор. Избраните думи е малко вероятно да бъдат в същия ред и с еднаква точна формулировка. Всяко генерирано есе обикновено ще бъде различно.

Все пак има една уловка. Ако избраната тема е доста неясна, има шанс някои от създадените есета да си приличат. Това отчасти би било така, защото шаблонът в основата на текста беше тънък в началото. Като се има предвид това, начинът, по който е съставено есето, може да бъде доста различен. Всичко, което казвам, е, че същността на съдържанието сама по себе си потенциално може да бъде приблизително същата.

Не искам да изглеждам мрачен, но потенциално бихте могли да направите същото твърдение за обща тема като живота на Линкълн. По колко различни начина можете да разработите цялостните аспекти на живота му? Ако по някакъв начин сте осигурили учениците в заключена класна стая да пишат за Линкълн и сте им дали онлайн достъп да изследват живота му, смея да твърдя, че шансовете есетата да са донякъде подобни може да се случи така или иначе.

Безплатният и лесен фактор е съществен

Ако студент в днешно време иска да измами, като плати на някого в Интернет да напише есето му, е много лесно да го направи (надявам се, че това не ви шокира, може би трябваше да предложа предупреждение за задействане предварително).

Проблемът обаче е, че трябва да платите за есето. Освен това има някакъв малък шанс по-късно да ви хванат, може би. Използвахте ли кредитна карта, за да платите за есето? Може би е по-добре да използвате някаква форма на подземна обработка на плащания, за да се опитате да запазите следите си чисти.

Красотата или може би дразнещият фактор на генеративния AI е, че в момента повечето от тях са достъпни безплатно. Не се изисква плащане. Няма конкретен запис на вашето използване (добре, за да бъде ясно, приложението AI може да следи използването ви, особено след като много от приложенията на AI изискват да се регистрирате с имейл адрес, но разбира се, можете да фалшифицирате и това ).

Някои хора естествено предполагат, че трябва да сте магьосник с изкуствен интелект, за да използвате генеративно приложение с изкуствен интелект.

Не е така.

Като цяло генеративните AI приложения са удивително лесни за използване. Извиквате приложението AI. Представя ви отворено текстово поле, за да въведете подканата си. Въвеждате подкана и натискате изпращане. Приложението AI генерира текста.

Това е всичко.

Не са необходими специализирани компютърни езици. Без познания по бази данни или наука за данни. Уверявам ви, че почти всяко дете в училище може лесно да използва генеративно AI приложение. Ако едно дете може да пише, то може да използва тези приложения.

Някои твърдят, че компаниите, които предоставят генеративни AI приложения, трябва първо да проверят възрастта на потребителя, вероятно за да попречат на лица, които не са възрастни, да използват AI за измамни цели, когато пишат есета. Ако потребителят посочи, че не е възрастен, не му позволявайте да използва приложението AI. Честно казано, това е малко вероятен сценарий за превенция, освен ако по някакъв начин не са приети закони, свързани с ИИ, които се опитват да установят този вид ограничения. Дори и да бъдат приети такива закони, вероятно можете да заобиколите това, като използвате генеративно AI приложение, което се хоства в друга държава и т.н.

Друг забранителен ъгъл би бил, ако генеративните AI приложения струват пари за използване. Да предположим, че има такса за транзакция или такса за абонамент. Това би поставило генеративното AI приложение наравно с онези хора в интернет, които ще напишат есе за вас и ви таксуват да го направите. Лейбъристите биха се сблъскали с AI (като настрана, всичко това предполага, че хората, които си изкарват прехраната, пишат есета за студенти, ще бъдат заменени от AI, който прави същото; въпросът е трябва ли да бъдем натъжени или доволни че тези хора, които си изкарват такъв живот, вече няма да могат да го правят по този начин).

Компаниите, които създават генеративни AI приложения, със сигурност желаят да печелят пари от тези приложения, въпреки че как да го направят все още е във въздуха. Начисляването на такса за транзакция, абонаментна такса или може би таксуване на генерирана дума са на масата. Вместо да таксувате хората, монетизирането може да се извърши чрез използването на реклами. Може би всеки път, когато използвате конкретно генеративно AI приложение, първо трябва да видите реклама. Това може да е средство за правене на пари.

Мразя да разливам мляко по този въпрос, но като средство за преодоляване на измамата на учениците, това няма да бъде никакъв сребърен куршум. Дори не е близо.

Има версии с отворен код на generative AI. Хората ги пускат там, а други са склонни да направят приложението достъпно безплатно. По един или друг начин, дори ако някои компании изискват такса, вие ще можете да намерите варианти, които са безплатни за използване, въпреки че може да се наложи да видите реклами или може би да се регистрирате и да дадете информация за себе си за маркетингови цели.

Помага ли Multi-Step за това

Ученик избира да използва генеративно AI приложение, за да създаде своето есе.

Вместо веднага да предаде есето, студентът решава да редактира есето. Те благоразумно изваждат няколко думи тук. Въведете няколко думи там. Преместете изречение нагоре. Преместете изречение по-надолу. След малко редактиране и усъвършенстване, те вече имат есе, което са готови да предадат.

Това есе дело на студента ли е или не е?

Доведох ви до големия неразрешен въпрос за милиони долари без отговор.

Нека направим кратка предистория за законните права и нарушенията. Това е тема, която съм покрил доста, като напр връзката тук намлява връзката тукНапример.

Вероятно вече знаете нещо за авторските права и това, което е известно като интелектуална собственост (IP). Някой, който има защитена с авторски права история, трябва да запази различни законови права, свързани с тази история. Те нямат напълно желязно, всеобхватно подобие на законни права. Има изключения и изключения.

Един от най-трудните проблеми при нарушаването на нечий защитен с авторски права материал е близостта на това, което може да имате, в сравнение с оригиналния източник. Може би сте чели или гледали новинарски истории за известни певци и техните текстове, при които някой друг е написал песен с привидно подобен текст и дали това е законно правилно или не.

По-рано бях споменал, че обикновено генеративното AI приложение не създава есе, което е копие на други материали, на които е било обучено по-рано чрез изследване на съдържание в Интернет. Вероятността материалът да е генерализиран и размит заедно, така че вече да не прилича много на това, от което се е състояло изходното съдържание.

Ще трябва да изчакаме и да видим как съдебният процес ще се справи с това. Ако генеративно AI приложение създава произведение на изкуството, което визуално очевидно е подобно на произведение на изкуството, вероятно ще се наклоним към обвинение срещу AI и създателите на AI, че са нарушили авторските права, свързани с оригиналното произведение. Можем да го видим със собствените си очи.

Когато става въпрос за есета, това може да бъде по-трудно. Очевидните случаи са, когато цели изречения и абзаци са идентични дума по дума. Всички можем да видим това. Но когато формулировката се различава с малка разлика, попадаме в сиви зони.

Колко далеч от оригиналния изходен материал трябва да бъде новосъздаденият материал, за да се декларира, че е добросъвестен оригинал сам по себе си?

Това е тежък въпрос.

Нека свържем това с ученика, който използва генеративното AI приложение за своето есе.

Престорете се за момента, че дадено есе, генерирано от приложението AI, ще бъде изтълкувано като „оригинално“ есе. Казвам да предположим, че това не нарушава по никакъв видим начин никое друго съществуващо есе или текстов разказ навсякъде по земята.

След това ученикът започва с оригинален източник на материала. Както вече беше посочено, студентът редактира и усъвършенства този материал. Нещата достигат точка, при която оригиналът, създаден от приложението AI, вече се различава от усъвършенстваната версия, която ученикът е измислил.

Това измама ли е?

Може би да, може би не.

Можете да спорите, че е така. Студентът започна с AI, който написа есето им вместо тях. Всичко, което ученикът е направил, е механична игра с есето. Очакваме ученикът да напише есето от въздуха и да използва собственото си притискане, за да го направи. Очевидно е измама да се използва приложението AI за генериране на тяхната базова линия. Поставете оценка „F“ на ученика.

Не толкова бързо. Можете да спорите, че не е измама. Ученикът е преработил изходния материал. Ако сравнението между есето, направено от AI приложение, и версията, усъвършенствана от студенти, е достатъчно голяма разлика, бихме казали, че ученикът е написал есето. Разбира се, те са използвали друг материал за това, но не можете ли да кажете същото, ако са използвали енциклопедия или друг източник? Този ученик заслужава оценка „А“ за това, че е съставил есе чрез собствената си съобразителност (независимо че е посочил други материали, за да го направи).

Учителите ще бъдат хванати в средата на този вече тревожен въпрос.

Един подход е, че учителят може да заяви категорично, че учениците трябва да изброят всички референтни материали, включително дали е използвано генеративно AI приложение или не. Ако ученик не успее директно да посочи генеративния ИИ като референция и ако учителят разбере, че не е успял да го посочи, ученикът получава накратко оценка „F“ за заданието. Или може би някои училища ще сметнат това за акт на измама, който кара ученика да получи автоматичен провал. Или може би изгонен. Ще трябва да видим докъде са стигнали училищата по тези въпроси.

Като цяло се насочваме към обърнат свят на интелектуална собственост и законна собственост върху произведения като есета (текст), изкуство (изображения) и видео, включително:

• Някои ще потърсят правна защита от създателите на генеративни AI относно източниците на съдържание, които са били използвани от AI за генериране на произведения резултат.
• Някои ще вземат резултата от генеративния AI и ще считат резултата за техни собствени произведения и след това ще се опитат да потърсят правна защита от всеки, който нарушава тяхната „оригинална“ работа.
• Това може да се върти наоколо, така че някой да произвежда резултат от генеративен ИИ, който се публикува в интернет, а след това идва друг генеративен ИИ и да го използва в обучението си за създаване на подобни произведения.

Превръщане на отрицателното в положително

Всички тези приказки за вредата на генеративния ИИ, когато става дума за измама на ученици, може би замъгляват умовете ни, увещават някои.

Вземете това в друга посока.

сядаш ли?

Може би учителите трябва да помислят целенасочено да накарат учениците да използват генеративен AI като част от учебния процес за това как да пишат есета.

И преди съм писал за т.нар двойна употреба на AI, вижте връзката тук. Идеята е, че понякога AI система може да се използва за лошо, а понякога може да бъде превключена и използвана за добро. Притеснителният аспект е, когато някой пише AI за добро и е в блажено неведение колко лесно неговият AI може да бъде превърнат в призрака на злото. Част от Етичен AI е осъзнаването, че ИИ трябва да бъде създаден така, че да не може да се превърне за една нощ в проклятие. Това е постоянен проблем.

Обратно към генеративния AI за създаване на есета.

По-рано повдигнах концепцията, че ученикът може да научи за писането, като гледа писмени работи, които вече съществуват. Това има много смисъл. По принцип, колкото повече четете, шансовете са да разширявате умственото си подобие към възможността да пишете. Както беше посочено по-рано, все още трябва да пишете, тъй като цялото четене на света не е задължително да ви накара да станете добър писател, ако не практикувате акта на писане.

Можем да използваме генеративен AI, за да насърчим това свързване на четене и писане. Накарайте ученик умишлено да използва генеративен AI. AI създава есе. Студентът получава задачата да критикува създаденото от AI есе. След това на студента се възлага да напише ново есе, може би на различна тема, но може да използва структурата и други общи елементи на по-ранното есе, генерирано от AI.

Някои предполагат, че това може да е дори по-продуктивно за учениците, отколкото просто да четат книги или други текстове от писатели, с които ученикът няма достъп да „взаимодейства“. С приложението AI ученикът може да опита да повтори и създаде първоначалното есе, като използва множество подкани, една след друга. Студентът може да каже на AI да напише есе за Линкълн. След това студентът иска дълго есе за Линкълн, написано с неформален глас. След като го прегледа, студентът показва на приложението AI да създаде силно формализирана версия на есето за Линкълн. и т.н.

Направеното твърдение е, че това може да помогне материално на ученика да научи за писането и как може да се осъществи писането.

Скорошна изследователска статия предлага точно тази точка: „Авторите на тази статия вярват, че AI може да се използва за преодоляване на три пречки пред ученето в класната стая: подобряване на трансфера, разбиване на илюзията за дълбочина на обяснението и обучение на учениците да оценяват критично обясненията“ ( в документ, озаглавен „Нови режими на обучение, активирани от AI Chatbots: три метода и задачи“, д-р Итън Молик и д-р Лилач Молик, Wharton School на Университета на Пенсилвания & Wharton Interactive, 12 декември 2022 г.)

Например, те посочват, че подобряването на трансфера на обучение може да се случи по следния начин: „AI е евтин начин да предоставите на учениците много примери, някои от които може да са неточни, или да се нуждаят от допълнително обяснение, или може просто да са измислени. За ученици с основни познания по дадена тема можете да използвате AI, за да им помогнете да тестват разбирането си и изрично да ги накарате да назоват и обяснят неточности, пропуски и липсващи аспекти на дадена тема. AI може да предостави безкрайна поредица от примери за концепции и приложения на тези концепции и можете да подтикнете учениците към: сравняват примери в различни контексти, обясняват същността на концепция и посочват несъответствия и липсваща информация в начина, по който AI прилага концепции към нови ситуации” (пак там).

Това е подобно на стария рефрен, ако не можете да ги победите, присъединете се към тях.

Превърнете генеративния AI в образователен инструмент.

Да, идва бързият отговор.

Вкарвате лисицата в кокошарника. Учениците, които нямаха представа какво е генеративен ИИ, сега ще го покажат открито чрез явните действия на учител и техните училища. Ако учениците не са били наясно с възможностите за измама, вие го поставяте директно в лицата и ръцете им.

Изглежда напълно отблъскващо властимащите да запознават учениците със средство за измама. Така завинаги ще поставите най-честните студенти в царството на изкушенията за измама. Всеки ще има достъп до машината за измама. Казва им се да го направят. Няма нужда да го криете. Няма нужда да се преструвате, че не използвате генеративен AI. Училището и учителят те накараха да го използваш.

Репликата на това е, че трябва сляпо и невежо да си хвърлите главата в пясъка, за да мислите, че учениците няма да се запознаят с генеративния ИИ. Докато вие глупаво се преструвате, че те не знаят за него, те бързат извън училище, за да го използват. Вашият по-добър избор е да им представите нещото, да обсъдите за какво може и за какво не може да се използва и да внесете ярка светлина в цялата главоблъсканица.

Доста е гадно.

За тези от вас, които правят проучване на образователни иновации в технологиите, може да искате да погледнете генеративния AI и как той може да промени естеството на образователните подходи и да повлияе на ученето на учениците. Ще дойде достатъчно скоро.

Използване на откриване, за да ни спаси от разруха

Разменете шапките и нека разгледаме цифровите произведения на изкуството за момент.

Ако създадете произведение на дигиталното изкуство, може да искате да го маркирате по някакъв начин, така че по-късно да можете да разберете дали някой е избрал да използва или повторно да използва вашата артистичност. Лесен начин да направите това се състои в промяна на някои от пикселите или точките във вашето цифрово произведение на изкуството. Ако направите няколко тук или там, видът на произведението все още ще изглежда същият в очите на хората. Те няма да забележат тези пиксели, които са малки и са били настроени на някакъв специален цвят, който може да се види само при внимателно разглеждане чрез цифрови инструменти.

Може би знаете за тези техники като форма на воден знак. Точно както в старите времена имаше опити за поставяне на водни знаци на хартиени материали и друго недигитализирано съдържание, постепенно станахме свидетели на възхода на цифровите водни знаци.

Дигитален воден знак може да е скрит в изображението на цифрово произведение на изкуството. Ако това може да изглежда натрапчиво за изображението, можете да опитате да вградите водния знак във файла, който съдържа цифровото произведение (така наречените „мета-данни“ на цифровото произведение).

Има игра на котка и мишка, която може да възникне.

Идва някакъв злодей и открива вашия цифров воден знак. Премахват го. Сега те могат привидно свободно да използват вашите дигитални произведения на изкуството, без да се притесняват, че по-късно ще можете да бръкнете в тях и да покажете, че очевидно това е кражба на вашите усилия. Тези негодници!

Трябва да засилим цифровия воден знак, което можем да направим чрез използването на криптографски техники и технологии. Помислете за секретни съобщения и кодиране.

Идеята е да кодираме цифровия воден знак, така че да е труден за намиране. Освен това е потенциално трудно да се премахне. Можем дори да се опитаме да гарантираме, че софтуерът, който ще показва или позволява използването на цифровото произведение на изкуството, трябва първо да провери и да види дали в произведението съществува валиден кодиран цифров воден знак, в противен случай то се счита за неправилно копие. Хванах те на местопрестъплението.

Можем ли да направим същото за генериращия AI, който произвежда текст?

Сложена е ръкавица. Проблемът обаче може да бъде по-труден до известна степен, отколкото при разглеждането на цифрови водни знаци за произведения на изкуството.

Ето защо.

Да приемем, че единственото място, където можете да поставите водния знак, е директно в самия текст. Казвам това, защото не е задължително текстът, който се генерира, да влезе във файл. Текстът си е просто текст. Можете да го изрежете и поставите от генериращия AI инструмент. В този смисъл обикновено няма метаданни или файл, в които водният знак да може да бъде вграден.

Трябва да се съсредоточите единствено върху текста. Чист текст.

Един от начините би бил тайно да накараме генеративния AI да произведе текста по начин, който може да бъде проследен. Като груб, но непрактичен пример, представете си, че сме решили да започваме всяко трето изречение с думата „И“ в началото на изречението. Все още бихме генерирали привидно напълно свободно есе. Единствената измама е, че всяко трето изречение започва с избраната от нас магическа дума. Никой друг не знае какво сме намислили.

Ученик използва генеративен AI, за да създаде зададеното му есе за Линкълн. Ученикът го взема директно от приложението AI и го изпраща по имейл на учителя. Оказва се, че ученикът е чакал до последния момент и е изпреварил обявения срок. Няма време за преглед на есето. Просто го изпратете и се надявайте на най-доброто.

Учителят разглежда есето. Да предположим, че сме й казали, че нашият воден знак се състои от магическата дума, използвана в началото на всяко трето изречение. Учителят открива, че това е случаят в това изпратено есе. Въпреки че има може би невероятно малък шанс ученикът да е написал есето и може би обича да използва тази конкретна дума в началото на всяко трето изречение, мисля, че можем разумно да се съгласим, че това е много малко вероятно и вместо това ученикът вероятно е използвал генеративния AI за изготвяне на есето.

Виждате ли как работи това?

Вярвам, че го правиш.

Проблемът сега е как да измислим воден знак, който не е толкова очевиден. Ученик може да забележи, че изреченията изглежда странно използват определена дума. Може да се досетят какво става. На свой ред ученикът може да се движи из изреченията и да преформулира. Това тогава доста потъва този конкретен воден знак, тъй като есето вече не се забелязва лесно като написано от генеративния AI.

Играта на котка и мишка отново напира.

Трябва да създадем плавен текст, който по някакъв начин съдържа „воден знак“ по начин, който не може лесно да се различи. Освен това, ако е възможно, водният знак трябва да продължи да съществува дори ако есето е леко преработено. Цялостната ревизия вероятно няма да позволи на водния знак да оцелее. Но ние искаме известна излишност и устойчивост, така че водният знак за предпочитане да бъде откриваем дори ако се направят известни промени в текстовата област.

Изследовател, който върши известна работа за компанията, която прави ChatGPT (приложението AI от OpenAI), проучва някои интересни криптографски усилия по тези съображения за воден знак. Скот Арънсън е професор по компютърни науки в Тексаския университет в Остин и наскоро изнесе лекция за част от извършваната работа (препис е публикуван в неговия блог).

Помислете за този откъс, в който той накратко обяснява съществуващия подход: „Как работи? За GPT всеки вход и изход е низ от токени, които могат да бъдат думи, но също и препинателни знаци, части от думи или повече - общо има около 100,000 XNUMX токена. В основата си GPT непрекъснато генерира разпределение на вероятността за следващия токен за генериране, в зависимост от низа от предишни токени. След като невронната мрежа генерира разпределението, OpenAI сървърът всъщност взема проби от токен според това разпределение или някаква модифицирана версия на разпределението, в зависимост от параметър, наречен „температура“. Въпреки това, докато температурата е различна от нула, обикновено ще има известна произволност в избора на следващия токен: можете да изпълнявате отново и отново с една и съща подкана и да получавате различно завършване (т.е. низ от изходни токени) всеки път .”

Както беше отбелязано, има определена степен на произволност за това кои думи ще бъдат поставени следващите в есето, което се извлича от приложението ChatGPT. Това също обяснява по-ранната точка, че всяко есе вероятно ще бъде малко по-различно, дори ако е на една и съща тема. Целенасоченото използване на подход на случаен подбор, който е в определени граници, е под капака по време на генерирането на есе.

Сега стигаме до пикантната част, криптографското смесване: „Така че за воден знак, вместо да избираме следващия токен произволно, идеята ще бъде да го избираме псевдослучайно, като използваме криптографска псевдослучайна функция, чийто ключ е известен само на OpenAI . Това няма да има забележима разлика за крайния потребител, ако приемем, че крайният потребител не може да различи псевдослучайните числа от наистина случайните. Но сега можете да изберете псевдослучайна функция, която тайно променя определен резултат - сума върху определена функция g, оценена на всеки n-грам (последователност от n последователни токена), за някои малки n - който резултат можете също да изчислите, ако знаете ключът за тази псевдослучайна функция.

Осъзнавам, че това може да изглежда донякъде технологично задръстено.

Същността е, че създаденото есе ще изглежда гладко и няма да можете лесно да различите, като четете есето, че съдържа цифров воден знак. За да разберете дали дадено есе съдържа воден знак, ще трябва да поставите есето в специално създаден детектор. Програмата, която извършва откриването, ще изчисли стойност въз основа на текста и ще може да я сравни със съхранен ключ. При описания подход ключовете ще се държат от доставчика и няма да бъдат налични по друг начин, като по този начин, ако приемем, че ключовете се пазят в тайна, само програмата за помазано откриване може да изчисли дали есето вероятно е получено от ChatGPT в този случай.

Той продължава, като признава, че това не е сигурно: „Сега всичко това може да бъде победено с достатъчно усилия. Например, ако сте използвали друг изкуствен интелект, за да перифразирате изхода на GPT — добре, няма да можем да открием това. От друга страна, ако просто вмъкнете или изтриете няколко думи тук и там или пренаредите реда на някои изречения, сигналът за воден знак ще остане там. Тъй като зависи само от сума в n-грамове, той е здрав срещу този вид интервенции.

На учител може да бъде предоставен достъп до детекторна програма, която да проверява ученически есета. Да предположим, че въпросът е сравнително лесен, тъй като учителят кара учениците да изпращат своите есета по имейл на учителя и на автоматизирания детектор. След това приложението за детектор информира учителя за вероятността есето да бъде изработено от ChatGPT в този случай.

Сега, ако детекторът е открито достъпен за всеки, ще имате „преуспяващи“ студенти измамници, които просто ще пуснат своите есета в детектора и ще направят серия от промени, докато детекторът покаже ниска вероятност, че есето е получено от генеративни AI. Още от котката и мишката. Предполага се, че детекторът трябва да бъде строго защитен чрез използване на парола или са необходими някои други средства или методи за работа с криптографски подходи (има различни методи, базирани на ключове и фокусирани без ключ, които могат да бъдат използвани).

Учителят може да се сблъска с възможността за десетки или стотици генеративни AI приложения, достъпни за използване в Интернет. В който случай, опитвайки се да накарам всички тези да използват някакви цифрови водни знаци и да се налага да подадете есе във всички тях, е, просто става по-примамливо и логистично сложно.

Без повече есета извън класната стая

Гледната точка на гибелта и мрака е, че може би учителите ще трябва да изоставят използването на външно писане на есета. Всички есета трябва да бъдат написани само в контролирана среда на класна стая.

Това има много и много проблеми.

Да предположим, че един ученик обикновено изисква десет часа, за да напише конкретно цялостно есе, което е класен проект. Как ще стане това в класната стая? Ще го разделите ли и ще накарате ученика да напише малка част от есето в продължение на няколко дни? Помислете за трудностите, които създава това.

Някои твърдят, че може би въпросът се преувеличава.

Учителите трябва да правят както винаги са правили с плагиатството от учениците. Предварително учителят заявява, че плагиатството е сериозна загриженост за измама. Подчертайте, че използването на генеративен AI, по какъвто и да е начин, ще се счита за измамно действие.

Налагайте наказания, които имат значителна тежест, като ниска оценка, провалени класове или изключване от училище, ако се стигне дотам. Изисквайте от учениците да удостоверят писмено за всяко външно задание за есе, че това, което са предали, е тяхна работа (направено без помощни средства като генериращ AI, копиране от интернет, използване на съученици, използване на родител, плащане за изпълнение и скоро). Освен това изисквайте от учениците да изброят всички онлайн инструменти, използвани при подготовката на работата, включително специално да отбележат всяко генеративно използване на AI.

Учителят може или не може да използва детекторно приложение, за да се опита да разбере дали изпратеното есе вероятно е от генеративно AI приложение. Това е потенциално натоварваща стъпка, в зависимост от това колко лесни са детекторите за използване и достъп.

Предполага се, че учителите вече трябва да предприемат действия, за да установят дали външните писмени есета изглеждат легитимни. Като правите писане на есе в клас, има шанс да сравните и контрастирате, като осъзнавате обаче, че времето за писане в класната стая е по-малко и може също да бъде възпрепятствано от ограничението да не се позволява достъп до онлайн справочни материали.

Същността е, че не трябва да поемаме по пътя на внезапно изхвърляне на използването на външно писане на есета. Някои биха осъдили това като необмислен акт и такъв, който изглежда напомня на изхвърляне на бебето заедно с водата за баня (стара поговорка, която може би си струва да се оттегли).

Ако външното писане е изцяло преустановено като учебна дейност, вероятно има сериозни и продължителни недостатъци при премахването на тази привидно ежедневна образователна дейност от учебната програма. Налице е компромис. Колко ученици ще изневерят, въпреки всички гореспоменати проверки и баланси? Колко ученици няма да мамят и следователно ще продължат да използват полезен образователен подход, за да усъвършенстват уменията си за писане?

На теория, да се надяваме, че процентът на измамниците ще бъде достатъчно малък, така че външното писане все още да е от значение за преобладаването на учениците.

Заключение

AI може да бъде доста главоболие.

За учителите AI може да бъде както благословия, така и проклятие. Така или иначе, това означава, че учителите трябва да знаят за ИИ, заедно с това как да се борят с обратите на ИИ, свързани с техните преподавателски дейности, което е още една допълнителна тежест върху техните вече прекалено разтегнати гръб и рамене. Поздрави към учителите навсякъде.

Може би можем да пожелаем AI да си отиде.

Не.

Виждате ли, ние няма да върнем часовника назад и да премахнем генериращия AI. Всеки, който призовава за това, е мечтател. И, като настрана, използвам думата „И“ като първата дума от третото изречение на този абзац (опа, раздавам ключа!), генеративният AI е тук, за да остане.

Ето подсказка, която да раздвижи разгорещените ви дискусии: Генеративният AI ще стане все по-разпространен и ще има още по-удивителни и изнервящи способности.

Микрофон.

Последна мисъл за сега.

Известният Шекспир е написал, че „Да бъдеш или да не бъдеш: това е въпросът“.

Уверявам ви, че генеративен AI ще бъде. Вече е така.

Трябва да разберем как искаме генеративният ИИ да навлезе в живота ни и как обществото ще избере да оформи и ръководи такава употреба. Ако някога сте имали нужда от причина да мислите за етиката на изкуствения интелект и закона за изкуствения интелект, може би генеративният изкуствен интелект ще ви подтикне към търсене на това, което сме, дори и да не знаем какво може да бъдем (скрита препратка към Шекспир).