Meta подкрепя нова платформа, за да помогне на непълнолетните да изтрият голи сексуални изображения от интернет

TНационалният център за изчезнали и експлоатирани деца стартира платформа, финансирана от Meta, за да помогне на децата и тийнейджърите да премахват свои голи или сексуални снимки и видеоклипове от социалните медии.

Новата услуга за непълнолетни, т.нар Свали го, беше представен една година след пускането на подобен инструмент за възрастни, известен като StopNCII (съкратено за интимни изображения без съгласие). Днес Take It Down ще работи само в пет платформи, които са се съгласили да участват: собственост на Meta Facebook и Instagram, както и Yubo, OnlyFans и Pornhub.

„Създадохме тази система, защото много деца са изправени пред тези отчайващи ситуации“, каза президентът и главен изпълнителен директор на NCMEC Michelle DeLaune. „Надяваме се, че децата ще разберат за тази услуга и ще изпитат облекчение, че съществуват инструменти, които да помогнат за премахването на изображенията.“

Как компаниите за социални медии защитават децата и тийнейджърите – и къде не успяват – се очертава като основен въпрос на двупартийната технологична политика в новия Конгрес и такъв, при който законодателите имат най-добрия шанс да приемат законодателство. Все пак предстои дълъг път за всякакви предложения за създаване или укрепване на предпазни мерки и без предстоящи закони, NCMEC продължава да действа като мост между онлайн компаниите и правоприлагащите органи по въпросите на безопасността на децата. През 2021 г. организацията с нестопанска цел получи близо 30 милиона съвета от целия бранш относно очевидно сексуално изнудване и материали за сексуално малтретиране на деца в техните платформи. Повечето са докладвани от платформи, собственост на Meta.

Могат да ползват непълнолетни лица и родители Безплатният, анонимен инструмент на NCMEC за маркиране на експлицитни материали на непълнолетно лице, които са били – или които смятат, че ще бъдат – разпространени онлайн. След като изберат чувствителните снимки или видеоклипове на устройството си, платформата генерира еквивалента на цифров пръстов отпечатък на тази снимка (наречен „хеш“), който NCMEC след това споделя с участващите сайтове на социални медии, за да могат да се опитат да намерят, ограничите или премахнете и продължете да наблюдавате това съдържание.

Въпросните снимки или видеоклипове не напускат устройството и не се гледат от никого, според NCMEC. (Хешът също така прави жертвите неидентифицирани както за NCMEC, така и за приложението за социални медии, като сигнализира само, че дадено изображение е вредно и трябва да бъде премахнато.) NCMEC каза, че не са известни пробиви в неговата хеш база данни, които потенциално биха могли да разкрият самоличността на дадено лице. .

Но една от най-големите пречки за това усилие е възходът на криптирането от край до край. „Когато технологичните компании прилагат криптиране от край до край, без вградени превантивни мерки за откриване на известни материали за сексуално малтретиране на деца, въздействието върху безопасността на децата е опустошително“, каза DeLaune, президент на NCMEC, пред съдебната комисия на Сената по време на изслушване този месец . Слонът в стаята е, че финансовият поддръжник и най-известната компания, участваща в Take It Down, Meta, е преминаване на клип към криптиране от край до край както в Instagram, така и в Messenger.

Как двете организации могат да съгласуват това е „въпросът за милиони долари“, каза вицепрезидентът на NCMEC Гавин Портной Forbes, отбелязвайки, че NCMEC все още не знае точно какви са плановете на Meta за криптиране и какви предпазни мерки може да има. (Мета каза, че те са в процес на работа и че различни функции за криптиране се тестват в Instagram и Messenger.)

„Ние изграждаме Take It Down за начина, по който интернет и [доставчикът на електронни услуги] са разположени днес,” каза Портной. „Това наистина е мост, който ще трябва да преминем, когато разберем по-добре как изглежда средата за криптиране от край до край на [Meta] – и дали има свят, в който Take It Down може да работи.“

Глобалният ръководител на Meta по безопасността, Антигона Дейвис, каза Forbes че „криптирането ще доведе до това, че определени изображения не могат да бъдат идентифицирани от нас“, но че то се превръща в индустриален стандарт в съобщенията, което е жизненоважно за поверителността и сигурността на потребителите. Използването на хеш технология и поддръжката на NCMEC за проекти като този са сред няколкото начина, по които Meta се опитва „наистина да се изправи пред проблема“, каза тя. (И двете страни отказаха да кажат колко пари е дала Meta на NCMEC за изграждането на Take It Down.)

„Няма панацея за справяне с тези проблеми“, каза Дейвис в интервю, описвайки подхода на Мета като „многостранен“. В допълнение към сътрудничеството по тази нова система, насочена към осуетяване на сексуалното изнудване и разпространението на интимни изображения без съгласие, Meta не позволява на възрастни непознати да се свързват с непълнолетни чрез нейните функции за съобщения, каза тя. Той също така използва класификатори, за да предотврати избутването на акаунти и съдържание на непълнолетни към възрастни потребители на Meta, които са показали подозрително поведение онлайн, добави тя.

„Надявам се, че хората, които са имали такива снимки, споделяни като млади от някого – от родител, който ги е експлоатирал, от друг възрастен, който ги е експлоатирал, от бивше гадже или приятелка – че ще се почувстват заинтересовани използвайте този инструмент“, каза Дейвис.

NCMEC каза, че е поставил някои 200 други доставчици на електронни услуги които са изпратили информация до своя „CyberTipline“ за присъединяване към програмата Take It Down. Остава да видим кой друг – освен малката шепа играчи в социалните медии, които го защитават днес – ще се включи. Yubo, от своя страна, каза, че се надява тези ранни осиновители да подтикнат други да се присъединят.

„Необходима е повече от обикновена намеса на правителството, за да се смекчат рисковете и да се решат проблемите онлайн“, каза изпълнителният директор на Yubo Саша Лазими по имейл. „Всички актьори трябва да играят своята роля. … Сътрудничеството е от ключово значение за намирането на решения за големи предизвикателства, така че се надяваме да видим повече платформи да се присъединят към инициативата Take It Down.“

ПОВЕЧЕ ОТ ФОРБИКак TikTok Live се превърна в „стриптийз клуб, пълен с 15-годишни деца“By Александра С. ЛевинПОВЕЧЕ ОТ ФОРБИТези акаунти в TikTok крият на видно място материали за сексуално насилие над децаBy Александра С. ЛевинПОВЕЧЕ ОТ ФОРБИМодераторите на TikTok се обучават да използват графични изображения на сексуално насилие над децаBy Александра С. Левин