Отже в цій публікації я хочу описати моє бачення того різкого збільшення банів в Facebook, з яким стикнулася українська аудиторій цієї соціальної мережі і яка стала причиною звернення 47 000 користувачів + Президент України до Марка Цукерберга..
Хто я?
Я в ІТ вже більше 20 років. На передостанньому місці роботи — TOA Technologies, зараз частина Oracle, я займався Root Cause Analysis відмов складних систем. Я також знаю що таке веб-сервіси та їх моніторинг.
Основний висновок мого аналізу — ФБ як комп’ютерна система зараз знаходиться під контролем автоматичної системи виставлення скарг на користувачів, розробленої та контрольованої в РФ, можливо її спецслужбами. Саме ця автоматична система дозволяє заблокувати будь якого користувача ФБ не залежно від його мови та змісту постів. Це є наслідком недосконалих правил модерації та відсутністю належного моніторингу змін в поведінці ФБ.
Чому я дійшов до цих висновків?
Для свого аналізу я використав насправді ідеї і факти які люди висловлювали в ході обговорення проблеми як у Facebook (включно зі спільнотами “ЗА СТВОРЕННЯ УКРАЇНСЬКОЇ АДМІНІСТРАЦІЇ ФБ” і “Facebook 2 Days Warning Boycott (18-19 May) / Попереджувальний 2-денний бойкот Фейсбуку (18-19 травня)“) так і в Google+, тому я не претендую на оригінальність. Мета цього документу показати мої аргументи в підтримку версії що бан шторм в ФБ був згенерований програмно і цілеспрямовано і насправді бани не залежать від контенту.
В цій гіпотезі є тільки одне базове припущення, для котрого я не маю прямих підтверджень фактами. Це припущення про те як відбувається автоматична модерація в ФБ. Як я розумію ФБ автоматично вважає контенттаким який не відповідає стандартам спільноти якщо кількість скарг на нього перевищує якийсь поріг. При цьому живий модератор може і не перевіряти контент перед блокуванням — він блокується автоматом і якщо модератор і подивиться то вже після блокування. При цьому причина бану не реєструється тому що автоматичний алгоритм не перевіряє контент я тільки кількість скарг на нього. Якщо банів багато то жива людина може і не встигати з верифікацією. От таке припущення.
Аналіз
Якщо мої припущення вірні то ось як виглядають події. Не складає ніякої проблеми написати програмку яка буде імітувати дії користувача ФБ, включно з відсиланням скарг. Все що треба це стандартна програма-скрипт, точнісінько така як використовується при автоматичному тестуванні того ж ФБ. Також потрібна програма-“керівний центр”, яка запускає цей скрипт з задачею генерувати скарги на якогось користувача і певна кількість аккаунтів ФБ. При чому ці аккаунти можуть бути як фейковими, так і реальними. Не бачу ніякої проблеми в тому щоби жива людина писала живі пости, а робот від її імені, зовсім з іншого пристрою, відсилав скарги на чергового укропа або російського опозиційного блогера.
Більш того, той факт, що в ФБ з’явилися пости “Ольгинского бота” з похвалою щодо банів українських користувачів Facebook (скріншоти ви можете подивитися тут. Дякуємо користувачу Google+ Авлерий Сазонов) добре пояснюється гіпотезою, яку висунув Gregory Kupershmidt. Програмні модулі які відсилають скарги можуть бути встановлені на пристроях користувачів і використовувати механізми аутентифікації Facebook (як наприклад ті самі ФБ-ігри). Це дозволяє обійти можливе блокування по кількості скарг с одного IP і просити користувача проходити блокування ботів (“Покажіть квіточку. Покажіть котика. Покажіть собачку.”). Якщо припустити що ці модулі встановлені добровільно бійцями антимайданної кіберармії то необхідність звітно-мотиваційного посту для цих бійців очевидна. Цей пост українська спільнота і піймала і я його називаю “похвальба Ольгинских ботов“.
Я так думаю що найбільшою проблемою було протестувати цей механізм не викликаючи підозри у Facebook. І чомусь мені виглядає що настійливе блокування “цицьок Покемонової” (серія блискавичних блокувань користувача Олена Покемонова за чорно-білі арт-фотографії у квітні) було як мінімум частиною цього тестування. Як тільки наші північні сусіди переконалися що
а) скарги працюють в автоматичному режимі і б) Facebook не помічає роботи генератора скарг вони почали масштабну атаку.
В моєму баченні атака виглядає так:
- Вибираємо жертву і пост або коментар. Контент не обов’язково повинен бути “некультурним” — все залежить від рівня нахабства атаки. Якщо організатор атаки вважає що ніхт перевіряти не буде то об’єктом атаки може бути хоч фраза “Вони зовсім пустилися берега” як в моєму випадку.
- Скрипт генерує потрібну кількість скарг від великої кількості користувачів. Зверніть увагу на те, що (на мою думку, я займався load tesеing) це не потребує багато комп’ютерних і мережевих ресурсів — виконання можна, і навіть треба трохи розтягнути в часі.
- ФБ автоматично блокує контент і виставляє бан використовуючи інкрементальну систему (кожен новий бан більший).
- Після виходу жертви з бану запускаємо все по новій але скаржимося на якийсь старий пост.
Результат — вічний бан. Затрат мізків і ресурсів — мінімум. При цьому ніякий контент не аналізується так як мета не забити контент, а ліквідувати користувача. Шанси того, що скарги верифікує жива людина падають з об’ємом згенерованих скарг.
На користь цієї версії говорять факти бану пости типу “Райдуга над містом, все буде Україна!”, швидкість повторного бану, а також “похвальба Ольгинских ботов“. Така система не потребує великих ресурсів і не експлуатує якихось технічних “дірок”. Дірка процедурна, а саме:
- автоматичний бан користувача, а не контенту (про це пише Носик, а він спеціаліст в керуванні соцмережами).
- інкрементальний бан дозволяє “нокаутувати” користувача назавжди.
Також я думаю в Facebook відсутній належний моніторинг (або його результати ігнорують, що в принципі одне і те саме) системи автоматичного бану і об’єму скарг. Якщо би він був то різка зміна в кількості скарг, географічний розподіл і концентрація на користувачах які не викликали ніяких проблем до цього, повинні були б насторожити когось в Facebook.
Що робити
Які висновки по захисту від цього бану? А ніяких. Ще раз — контент (мова, вирази, слова) не мають значення (забанили Сергія Пархоменка з його постом про MH17, а там все дуже культурно і російською). Також немає сенсу шукати кротів — знову ж таки все що треба для бану це знати ваше ім’я і будь який ваш пост або коментар.
Що з цим тоді можна зробити? Єдиний вихід на мою думку це якимось чином примусити Facebook проаналізувати статистику банів і скарг. Якщо ця версія правильна то різка зміна кількості і частоти буде дуже помітна на графіках. Якщо Facebook не влаштовує що хтось маніпулює іх соцмережею як сам собі хоче (а атакувати так насправді можуть будь кого) то Facebook мусить щось робити. Якщо ж їм по барабану то… Прийдеться ще на них тиснути включно з розповсюдженням думки що така технологія массованих бан-атака дозволяє знищити будь який аккаунт в Facebook по цілому світі.
Якось так… Ця публікація є предметом покращення і обговорення. Я з задоволенням прийму факти в підтвердження і розумні і реальні факти проти цієї версії. Також після стабілізації драфту я перекладу (або попрошу когось) її англійською.
#unBanUkraine
#MarkDoesNotCare
#NoOneIsSafeInFB
Сергій Факас
Оригінал статті тут ttp://sergiyfakas.blogspot.com/2015/05/blog-post.html
