«Твіттер-файли» Маска пропонують уявлення про грубу, складну та невдячну роботу модерації • TechCrunch

Новий власник Twitter, Ілон Маск, гарячково просуває свої «файли Twitter»: вибрані внутрішні комунікації компанії, які старанно твітують співчуваючі amanuenses. Але очевидне переконання Маска в тому, що він випустив якийсь партизанський кракен, є помилковим — файли, далекі від змови чи системних зловживань, є цінним зазирком за завісу модерування в масштабі, натякаючи на сізіфову працю, виконану кожною платформою соціальних мереж.

Протягом десятиліття такі компанії, як Twitter, YouTube і Facebook, виконували складний танець, щоб зберегти деталі своїх процесів модерації однаково поза досяжністю зловмисників, регуляторів і преси.

Розкрити занадто багато означало б піддати процеси зловживанням з боку спамерів і шахраїв (які справді користуються кожним витоком або опублікованою деталлю), тоді як розкриття занадто мало призводить до шкідливих звітів і чуток, оскільки вони втрачають контроль над розповіддю. Водночас вони повинні бути готові обґрунтувати та задокументувати свої методи, інакше ризикують отримати осуд та штрафи з боку державних органів.

Результатом є те, що хоча всі знають a мало про те, як саме ці компанії перевіряють, фільтрують і впорядковують вміст, опублікований на їхніх платформах, цього достатньо, щоб бути впевненими, що те, що ми бачимо, є лише верхівкою айсберга.

Іноді трапляються викриття методів, які ми підозрювали — підрядники, які працюють щогодини, переглядають насильницькі та сексуальні зображення — огидна, але, очевидно, необхідна індустрія. Іноді компанії зловживають своїми руками, як-от неодноразові заяви про те, як штучний інтелект революціонізує модерацію, і подальші звіти про те, що системи штучного інтелекту для цієї мети незбагненні та ненадійні.

Чого майже ніколи не трапляється (як правило, компанії не роблять цього, якщо їх не змушують), так це того, що фактичні інструменти та процеси масштабної модерації вмісту розкриваються без фільтра. І це те, що Маск зробив, можливо, на свій страх і ризик, але, безсумнівно, для великого інтересу всіх, хто коли-небудь замислювався, що насправді роблять модератори, кажуть і клацають, приймаючи рішення, які можуть вплинути на мільйони.

Не звертайте уваги на чесну, складну розмову за завісою

Ланцюжки електронних листів, розмови Slack і скріншоти (точніше знімки екранів), опубліковані за останній тиждень, дають уявлення про цей важливий і погано зрозумілий процес. Те, що ми бачимо, є частиною сирого матеріалу, який не є пристрасним ілюмінатом, якого деякі очікували, — хоча з його дуже вибіркової презентації ясно, що це те, що ми маємо сприймати.

Далеко від цього: залучені люди по черзі є обережними та впевненими, практичними та філософськими, відвертими та поступливими, показуючи, що вибір обмежити чи заборонити робиться не довільно, а відповідно до еволюції консенсусу протилежних точок зору.

Підводячи до вибору тимчасово обмежити історію ноутбука Хантера Байдена — ймовірно, на даний момент найбільш спірне рішення про модерацію за останні кілька років, що стоїть за забороною Трампа — не було ані прихильності, ані змови, натяканої на розгромну упаковку документів.

Натомість ми знаходимо серйозних, вдумливих людей, які намагаються узгодити суперечливі та неадекватні визначення та політику: що таке «зламані» матеріали? Наскільки ми впевнені в тій чи іншій оцінці? Що таке пропорційна відповідь? Як ми повинні повідомити це, кому і коли? Які будуть наслідки, якщо ми це зробимо, якщо ми не обмежимо? Які прецеденти ми створюємо чи порушуємо?

Відповіді на ці запитання зовсім не очевидні, і вони зазвичай вигадуються протягом місяців досліджень і обговорень або навіть у суді (юридичні прецеденти впливають на юридичну мову та наслідки). І їх потрібно було зробити швидко, перш ніж ситуація так чи інакше вийшла з-під контролю. Інакомислення як зсередини, так і ззовні (від представника США, не менш — за іронією долі, опублікованого в потоці разом із Джеком Дорсі в порушення тієї самої політики) було розглянуто та чесно інтегровано.

«Це нова ситуація, коли факти залишаються неясними», — сказав колишній керівник відділу довіри та безпеки Йоель Рот. «Ми помиляємося, включивши попередження та запобігши розширенню цього вмісту».

Деякі ставлять під сумнів це рішення. Деякі ставлять під сумнів факти, як вони були представлені. Інші кажуть, що це не підтверджується їхнім прочитанням політики. Один каже, що їм потрібно дуже чітко визначити спеціальну основу та масштаби дій, оскільки вони, очевидно, розглядатимуться як партійні. Заступник головного юрисконсульта Джим Бейкер вимагає додаткової інформації, але каже, що потрібна обережність. Немає чіткого прецеденту; факти на даний момент відсутні або неперевірені; деякі матеріали є явно неконсенсусними зображеннями оголеного тіла.

«Я вважаю, що сам Twitter повинен обмежити те, що він рекомендує або розміщує в трендових новинах, і ваша політика щодо груп QAnon цілком хороша», — визнає представник Ро Кханна, водночас стверджуючи, що згадані дії є занадто далеко. «Це важкий баланс».

Ні громадськість, ні преса не були втягнуті в ці розмови, і правда полягає в тому, що нам так само цікаво, як і в темряві, як і нашим читачам. Було б некоректно називати опубліковані матеріали повним або навіть точним відображенням усього процесу (вони відверто, хоча й неефективно, підібрані та підібрані, щоб відповідати наративу), але навіть такими, як вони є, ми більш поінформовані, ніж були раніше .

Знаряддя торгівлі

Ще більш очевидним був наступний ланцюжок, який містив скріншоти фактичних інструментів модерації, які використовуються співробітниками Twitter. Незважаючи на те, що тема нещиро намагається прирівняти використання цих інструментів до тіньової заборони, на скріншотах не показано нечесної діяльності та й не потрібно, щоб бути цікавими.

Кредити зображення: Twitter

Навпаки, те, що показано, є переконливим саме тому, що воно таке прозаїчне, таке м’яко систематичне. Ось різноманітні методи, які всі компанії соціальних медіа неодноразово пояснювали та які вони використовують, але якщо раніше ми висловлювали це веселим дипломатичним нахилом PR, тепер це представлено без коментарів: «Чорний список тенденцій», «Високий профіль», «ДО НЕ ВЖИВАЙТЕ ДІЙ» та інше.

Водночас Йоель Рот пояснює, що дії та політика мають бути краще узгоджені, що потрібні додаткові дослідження, що планується вдосконалення:

Гіпотеза, яка лежить в основі більшої частини того, що ми реалізували, полягає в тому, що якщо вплив, наприклад, дезінформації безпосередньо завдає шкоди, ми повинні використовувати заходи, які зменшують вплив, і обмеження розповсюдження/вірусності вмісту є хорошим способом зробити це… ми потрібно буде зробити більш надійний аргумент, щоб включити це в наш репертуар виправлення політики — особливо для інших сфер політики.

Знову ж таки зміст суперечить контексту, у якому його представлено: це навряд чи обговорення таємної ліберальної кабали, яка накидається на своїх ідеологічних ворогів молотком заборони. Це інформаційна панель корпоративного рівня, яку ви можете побачити для відстеження потенційних клієнтів, логістики чи облікових записів, яку обговорюють і повторюють тверезо мислячі люди, які працюють із практичними обмеженнями та прагнуть задовольнити багатьох зацікавлених сторін.

Як і повинно бути: Twitter, як і інші соціальні медіа-платформи, роками працював над тим, щоб зробити процес модерації ефективним і достатньо систематичним, щоб функціонувати в масштабі. Не лише для того, щоб платформа не була переповнена ботами та спамом, але й для того, щоб відповідати правовим нормам, таким як розпорядження FTC та GDPR. (З яких «широкий, нефільтрований доступ», наданий стороннім особам до зображеного інструменту, цілком може являти собою порушення. Відповідні органи повідомили TechCrunch, що вони «взаємодіють» із Twitter у цьому питанні.)

Жменька працівників, які приймають свавільні рішення без обмежень чи контролю, не є способом ефективного модерування чи виконання таких вимог законодавства; ні (як відставка кількох у Раді довіри та безпеки Twitter сьогодні свідчить) автоматизація. Вам потрібна велика мережа людей, які співпрацюють і працюють відповідно до стандартизованої системи з чіткими межами та процедурами ескалації. І це, звичайно, те, що, здається, показано на скріншотах, опублікованих Маском.

Те, що не показано в документах, так це будь-яку систематичну упередженість, яку дублери Маска натякають, але не можуть довести. Але незалежно від того, вписується це в розповідь, яку вони хочуть, те, що публікується, цікавить усіх, хто вважає, що ці компанії повинні бути більш відкритими щодо своєї політики. Це виграш прозорості, навіть якщо непрозорий підхід Маска досягає цього більш-менш випадково.

Leave a Comment