Горна линия
Инструментите за набиране на работа, които твърдят, че използват изкуствен интелект за избягване на полови и расови пристрастия, може да не подобрят многообразието при наемане на работа и всъщност биха могли да увековечат тези предразсъдъци, твърдят изследователи от университета в Кеймбридж в неделя, представяйки програмите - които са предизвиквали критики в миналото - като начин за използване на технологията за предлагане на бързо решение за по-дълбок проблем.
Показана е системата за лицево разпознаване, базирана на изкуствен интелект на Google Vision.
Getty Images
Ключови факти
В публикация, публикувана от Философия и технологии, изследователите разгледаха твърдения от няколко компании, които предлагат задвижвани от AI инструменти за набиране на персонал, много от които твърдят, че премахват пристрастията и насърчават разнообразието чрез скриване на имената, пола и други идентификатори на кандидатите, а някои от които класира кандидати въз основа на сканиране на автобиография, онлайн оценки и анализ на речта и изражението на лицето на кандидатите.
Изследователите - двама професори от Центъра за изследване на пола на университета в Кеймбридж - твърдят, че тези инструменти могат действително да насърчат еднаквостта при наемане, защото възпроизвеждат културни пристрастия на „идеалния кандидат“, който в миналото е бил бял или европеец.
Инструментите също така може да не подобрят разнообразието, тъй като се основават на минали фирмени данни и по този начин могат да насърчават кандидати, които са най-сходни с настоящите служители.
Има „малко отговорност за това как са изградени или тествани тези продукти“, каза в изявление Елинор Драге, съавтор на изследването и изследовател от Центъра за изследвания на пола към Университета в Кеймбридж, добавяйки, че технологията може да служи като „опасна“ източник на „дезинформация за това как набирането може да бъде „непредубедено“ и направено по-справедливо.“
Решаваща оферта
„Като твърдят, че расизмът, сексизмът и други форми на дискриминация могат да бъдат премахнати от процеса на наемане с помощта на изкуствен интелект, тези компании намаляват расата и пола до незначителни точки от данни, вместо системи на власт, които оформят начина, по който се движим по света, “, каза Драге в изявление.
Допирателна
Amazon обяви през 2018 г., че ще го направи Спри се използване на инструмент за набиране на AI за преглед на автобиографиите на кандидатите за работа, след като установи, че системата силно дискриминира жените. Това е така, защото компютърните модели, на които разчита, са разработени въз основа на автобиографии, изпратени до компанията през последните 10 години, които идват предимно от мъже кандидати.
Основен фон
Организациите все повече се обръщат към AI, за да помогнат при управлението на процесите на набиране на работа. В един Анкета 2020 от повече от 300 лидери по човешки ресурси, цитирани от авторите на неделния вестник, консултантската фирма Gartner установи, че 86% от работодателите използват виртуални технологии в своите практики за наемане, тенденция, която се ускори, след като пандемията Covid-19 принуди мнозина да преместят работата си онлайн. Докато някои компании твърдят, че AI може да предложи по-ефективен от гледна точка на разходите и времето процес на наемане, някои експерти имам намерени системите имат тенденция да насърчават, вместо да премахват, наемането на работа, основано на расови и полови признаци, като възпроизвеждат съществуващи предразсъдъци от реалния свят. Няколко американски законодатели го направиха Насочена за справяне с пристрастията в системите с изкуствен интелект, тъй като технологията продължава да се развива бързо и съществуват малко закони, които да я регулират. Белият дом пусна тази седмица „Проект за Закон за правата на ИИ“, който твърди, че е установено, че алгоритмите, използвани при наемане, „отразяват и възпроизвеждат съществуващи нежелани несправедливости“ или вграждат нови „пристрастия и дискриминация“. Планът, който не е правно обвързващ или официална правителствена политика, призовава компаниите да гарантират, че AI не дискриминира или нарушава поверителността на данните и да информира потребителите кога се използва технологията.
Какво да гледате
В списък с препоръки авторите на Sunday's Философия и технологии документ предлага компаниите, които разработват AI технологии, да се съсредоточат върху по-широки, систематични неравенства, вместо върху „индивидуализирани случаи на пристрастия“. Например, те предлагат на разработчиците на софтуер да изследват категориите, използвани за сортиране, обработка и категоризиране на кандидатите и как тези категории могат да насърчават дискриминацията, като разчитат на определени предположения относно пола и расата. Изследователите също така твърдят, че специалистите по човешки ресурси трябва да се опитат да разберат как работят инструментите за набиране на AI и какви са някои от техните потенциални ограничения.
Изненадващ факт
Европейският съюз класифицира базирания на изкуствен интелект софтуер за наемане и инструменти за оценка на представянето като „висок риск“ в новия си проект правна рамка за ИИ, което означава, че инструментите ще бъдат обект на по-внимателен контрол и ще трябва да отговарят на определени изисквания за съответствие.
Допълнителна информация
Източник: https://www.forbes.com/sites/madelinehalpert/2022/10/09/ai-powered-job-recruitment-tools-may-not-improve-hiring-diversity-experts-argue/