Достапни линкови

Немоќта на Фејсбук да отстранува навредлива содржина на глобално ниво


Системите за вештачка интелигенција што Фејсбук ги користи често не се на висина на задачата

Вработените во Фејсбук со години предупредуваат дека додека компанијата се бори да стане глобален сервис, таа не успева да ги контролира навредливите содржини во земјите каде што таквиот говор веројатно ќе предизвика најголема штета.

Повеќе од една деценија, Фејсбук се обидува да стане доминантна светска онлајн платформа. Во моментов работи во повеќе од 190 земји и може да се пофали со повеќе од 2,8 милијарди корисници месечно кои објавуваат содржини на повеќе од 160 јазици.

Но, напорите на компанијата да спречи нејзините производи да станат канали за говор на омраза, запалива реторика и дезинформации - некои и за поттикнување насилство - не го задржаа чекорот со нејзината глобална експанзија.

„Обесете ги на дрвја“-закани кон сопственик на хостел за мигранти во Србија

Внатрешните документи на компанијата во кои увид имаше Ројтерс покажуваат дека Фејсбук знаел дека не ангажирал доволно работници кои поседуваат јазични вештини и знаења за локалните настани потребни за да се идентификуваат непријатните објави од корисниците во голем број земји во развој.

Документите, исто така, покажаа дека системите за вештачка интелигенција што Фејсбук ги користи за да ја искорени таквата содржина често не се на висина на задачата. Тие недостатоци, предупредуваат вработените, би можеле да ја ограничат способноста на компанијата да го исполни ветувањето дека ќе го блокира говорот на омраза и други објави за кршење правила од Авганистан до Јемен.

Во прегледот објавен во минатата година во врска со начините на кои компанијата ги идентификува злоупотребите на нејзината страница, еден вработен пријавил „значителни празнини“ во одредени земји кои се изложени на ризик од насилство во реалниот свет, особено Мјанмар и Етиопија.

Документите се меѓу обелоденувања до Комисијата за хартии од вредност на Конгресот на САД од страна на „свиркачот“ на „Фејсбук“, Френсис Хауген, поранешна менаџерка во „Фејсбук“, која ја напушти компанијата во мај годинава.

Портпаролот на Фејсбук Мејвис Џонс изјави дека компанијата има луѓе кои говорат на мајчин јазик ширум светот и кои прегледуваат содржина на повеќе од 70 јазици, како и експерти за хуманитарни прашања и прашања за човековите права. Таа рече дека овие тимови работат на запирање на злоупотребата на платформата на Фејсбук на места каде што има зголемен ризик од конфликт и насилство. „Знаеме дека овие предизвици се реални и горди сме на работата што ја направивме досега“, рече Џонс.

Сведочење: За Фејсбук профитот е пред луѓето

Сепак, внатрешните документи на Фејсбук нудат детални снимки за тоа како вработените во последниве години алармираат за проблеми со алатките на компанијата - и човечки и технолошки - насочени кон искоренување или блокирање на говорот.

Меѓу наведените слабости е недостатокот на алгоритми за проверка на јазиците што се користат во некои од земјите што Фејсбук ги смета за најзагрозени за потенцијална штета и насилство во реалниот свет што произлегуваат од злоупотребите на неговата страница.

Компанијата ги означува земјите „загрозени“ врз основа на можни немири, етничко насилство, бројот на корисници и постојните закони, изјавија за Ројтерс двајца поранешни вработени. Системот има за цел да ги насочи ресурсите до места каде што злоупотребите на страницата на Фејсбук би можеле да имаат најтешко влијание, велат луѓето.

Фејсбук ги прегледува и им дава приоритет на овие земји на секои шест месеци во согласност со упатствата на Обединетите нации кои имаат за цел да им помогнат на компаниите да спречат и да ги отстранат кршењата на човековите права во нивните деловни операции, рече портпаролот Џонс.

Во 2018 година, експертите на Обединетите нации кои ја истражуваа бруталната кампања на убиства и протерувања против муслиманското малцинство Рохинџа во Мјанмар изјавија дека Фејсбук нашироко се користи за ширење говор на омраза. Тоа ја поттикна компанијата да го зголеми својот персонал во ранливите земји, изјави поранешен вработен за Ројтерс.

Фејсбук соопшти дека требало да стори повеќе за да спречи користењето на платформата за поттикнување насилство во земјата. Ашраф Зејтун, поранешен шеф на политиката на Фејсбук за Блискиот Исток и Северна Африка оцени дека пристапот на компанијата е „колонијален“, фокусиран врз монетизација без безбедносни мерки.

ЈАЗИЧНИ ПРАШАЊА

Фејсбук долго време ја промовираше важноста на своите системи за вештачка интелигенција (ВИ), во комбинација со човечки преглед, како начин за справување со непристојната и опасна содржина на своите платформи.

Системите за машинско учење можат да детектираат таква содржина со различно ниво на точност. Но, јазиците што се зборуваат надвор од Соединетите држави, Канада и Европа се камен на сопнување за автоматизираната модерација на содржината на Фејсбук, покажуваат документите доставени до владата од Хауген.

Паднаа и акциите на Фејсбук

Компанијата нема системи за вештачка интелигенција за откривање навредливи објави на голем број јазици што се користат на нејзината платформа. Во 2020 година, на пример, компанијата немаше алгоритми за проверка познати како „класификатори“ за да најде дезинформации на бурмански, јазикот кој се користи во Мјанмар.

Овие празнини може да овозможат навредливи објави да се размножуваат во земјите каде што самиот Фејсбук утврди дека ризикот од штета во реалниот свет е висок. Ројтерс овој месец најде објави на амхарски, еден од најчестите јазици во Етиопија, со закани за различни етнички групи. Во речиси едногодишмиот конфликт во земјата меѓу владата на Етиопија и бунтовничките сили загинаа илјадници луѓе, а раселени се повеќе од 2 милиона.

Во документ без датум, за кој лице вработено во Фејсбук вели дека е од 2021 година, вработените во компанијата, исто така, споделија примери за „застрашувачки, антимуслимански наративи“ што се шират на страницата во Индија, вклучително и повици за истерување на големото малцинско муслиманско население.

„Нашиот недостаток на хинду класификатори значи дека голем дел од оваа содржина никогаш не се означува“, се вели во документот. Внатрешните објави и коментари на вработените оваа година, исто така, забележаа недостаток на класификатори на урду и пашту јазици за прикажување на проблематичната содржина објавена од корисници во Пакистан, Иран и Авганистан.


ИЗГУБЕНИ ВО ПРЕВОДОТ

Човечкиот преглед на објавите на Фејсбук, кој е клучен за нијансираните проблеми како говорот на омраза, исто така има празнини меѓу клучните јазици, покажуваат документите. Без датум документ покажува дека недостасуваат рецензенти што зборуваат арапски. Џонс од Фејсбук вели дека компанијата има инвестирано во персоналот во последните две години, но признава дека „има уште работа да се направи“.

Фејсбук криел студија дека Инстаграм влијае на самоубиствени мисли кај младите

Тројца поранешни вработени на Фејсбук кои работеа за канцелариите на компанијата во Азија, Блискиот Исток и Северна Африка во изминатите пет години, изјавија за Ројтерс дека веруваат оти умереноста на содржината во нивните региони не била приоритет за управувањето со Фејсбук. Овие луѓе рекоа дека раководството не посветило доволно кадар и ресурси.

Компанијата соопшти дека користи вештачка интелигенција проактивно за да идентификува говор на омраза на повеќе од 50 јазици. Фејсбук соопшти дека своите одлуки за тоа каде да се распореди вештачката интелигенција ги заснива врз големината на пазарот и проценката на ризиците во земјата. Фејсбук одби да каже во колку земји нема функционални класификатори на говор на омраза. Фејсбук, исто така, вели дека има 15.000 модератори на содржини кои прегледуваат материјали од неговите глобални корисници


Корисниците на Фејсбук се моќен ресурс за да се идентификува содржината што ги крши стандардите на компанијата. Компанијата изгради систем, но призна дека процесот може да одземе време за корисниците во земји без сигурен пристап до интернет. Алатката за известување исто така имала грешки, недостатоци во дизајнот и проблеми со пристапноста за некои јазици.

Проблемите вклучуваат технички дефект што го спречува системот за прегледување содржини на Фејсбук да може да гледа непристојни текстови со видеа и фотографии во некои објави од корисниците. Тоа спречи сериозните прекршувања, како што се смртните закани во текстот на овие објави, да бидат соодветно оценети, изјави поранешен вработен во Фејсбук за Ројтерс. Фејсбук соопшти дека продолжува да работи на подобрување на своите системи за известување и дека сериозно ги зема предвид повратните информации.

  • 16x9 Image

    Гоце Атанасов

    Со новинарство започна да се занимава за време на студиите по новинарство во Скопје. Работел во Млад борец, Нова Македонија, Македонската радио телевизија, А1 телевизијата и во Дојче Веле, а во Радио Слободна Европа е од започнувањето на емитувањето на македонски јазик.

XS
SM
MD
LG