Успіх російських хакерів показав, наскільки вразливі хмари

Хмари скрізь. Вони життєво важливі для обчислень. Їх невпинно штурмують.

Форин полісі

24 травня 2021 р.

Російська кібершпигунська операція «Спалах з-поза хмар», викрита наприкінці минулого року, позначилася більш як на сотні великих компаній і федеральних установ США. Серед них — Державна скарбниця, міністерства енергетики, юстиції та внутрішньої безпеки. Успіхом росіяни зобов’язані переважно вмінню скрадатися всередині організації завдяки ураженню засобів ідентифікації в хмарних і локальних мережах. Адже це дає доступ до хмарних облікових записів і дозволяє маніпулювати електронними листами й файлами.

Хакери, які, на думку урядовців США, служать Кремлю, націлювалися на широко вживану хмарну службу Майкрософт, що синхронізує облікові дані користувачів. Хакери викрадали сертифікати вбезпечення та створювали власні облікові дані. Ці останні дозволяли оминати засоби оборони, як-от, багатофакторну автентифікацію, й діставати доступ до облікових записів тисяч користувачів Office 365 у потерпілих компаніях і урядових установах.

Не вперше, й запевне, не востаннє кібератака спрямована на хмарні служби. Саме недоліки хмарного комплексу зіграли вирішальну роль в ураженні Кепітал ван 2019 р. Тоді вразливість хмарного комплексу Amazon Web Services, помножена на спроби Кепітал ван якось упоратися з заплутаним налаштуванням хмарної службі, призвела до витоку інформації десятків мільйонів клієнтів. Зокрема, були викрадені заявки на кредитні картки, номери в системі соціального страхування, банківські реквізити.

Напади  злочинців, хакерів і державних структур на хмарні служби стають чимдалі численніші — мірою того, як хмарні обчислення підкоряють світ і стають типовим варіантом в інформаційній техніці. Витік даних поганий сам по собі. Та набагато гірше порушення роботи хмарних комплексів: відмова навіть в одного провайдера може стати світовій економіці в мільярди доларів на добу.

Хмарні обчислення — серйозне джерело ризиків. І через те, що вони так швидко витісняють традиційні засоби ІТ, і через те, що звужують спектр можливих структур до пропозицій жменьки компаній. По-перше, хмара дедалі більше перетворюється на типовий варіант корпоративного обчислювального комплексу. А це означає, що саме в таких комплексах дедалі більше оброблятимуть життєво важливі дані, в тому числі, в національних розвідувальних та оборонних підрозділах. По-друге, хмарні обчислювальні служби, особливо ті, які надають чотири найбільші в світі провайдери — Амазон, Майкрософт, Алібаба й Ґуґл — зводять можливості вибору структур і засобів убезпечення до пропозиції нечисленних організацій. Тож будь-яке неналежне рішення чи невдалий компроміс в останніх невдовзі окошиться на сотнях мільйонів користувачів.

Хмари скрізь. Деякі хмарні компанії пропонують програмні засоби як службу, щоб потурати уподобанням абонентів Нетфлікс чи надавати майданчики для балачок у Слек. Інші надають інфраструктурні складники — корпоративні бази даних і місце для зберігання інформації. Найбільші хмарні компанії постачають і те, й друге.

Є кілька способів організації хмарних комплексів. Їхня спільна риса — певний баланс відповідальності за вбезпечення. Зарівно як і вирішальна роль провайдера в цьому питанні. Те, яким чином провайдер структурує на етапі проекту, будує й ставить до ладу хмарний комплекс, визначає рівень убезпечення користувача — проте сам користувач впливає на це вкрай мало. Тож коли сервери Ґуґл чи Амазон мають вразливості, ви про це, найімовірніше, не те що не вплинете, а навіть і не дізнаєтеся, але від наслідків постраждаєте.

Усе впирається в гроші. На перший погляд скидається на те, ніби конкуренція між хмарними компаніями спонукає вкладатися в убезпечення клієнтів. Проте реальне життя на ринку дуже далеке від цього ідеалу. Перш за все, вбезпечення для хмарних компаній маргінальне, адже через ушкодження даних збиткують не вони, а користувачі. Доки клієнти не тікають гуртом — а через порушення вбезпечення такого не відбувається — хмарні компанії воліють вкладати в убезпечення якнайменше. Та й акціонери, як свідчать дані, за це не карають: зниження ціни акцій по оприлюдненому ураженні незначне й короткочасне.

По-друге, якщо інформацію про вбезпечення в хмарі навіть публікують, про компромісні проектні розв’язки відповідних служб чи про те, які з них випливають ризики, переважно умовчують. Нехай навіть хмарні компанії зобов’язані публікувати докладну інформацію про структуру та експлуатацію засобів убезпечення, споживачі навряд чи втямлять, які загрози враховані в хмарних службах та як саме. А не тямлячи, важко оцінити загальний рівень убезпечення служби. Відповідно, споживачі й користувачі не в змозі відрізнити вбезпечену службу від невбезпеченої. Тому й не беруть цього до уваги, приймаючи рішення щодо купівлі та використання.

По-третє, кіберубезпечення — це складно, а коли йдеться про хмари, то ще складніше. Такому користувачеві, як компанія чи державна установа, важко розібратися в тонкощах взаємозв’язків у засобах убезпечення різноманітних хмарних і локальних комплексів і служб. Через це користувачі не спроможні належно оцінити, наскільки хмарні служби вбезпечені чи як вони взаємодіють з корпоративними мережами. Таке явище відоме в економіці як «гнилий ринок». У результаті рівень убезпечення в хмарних провайдерів може різнитися дуже істотно. Це показали Ден Ґір, керівник із інформаційного вбезпечення Ін-кью-тел, і Вейд Бейкер, професор Коледжу бізнесу Технічного університету Вірджінії, в дослідженні серйозних недоліків убезпечення десяти найбільших хмарних провайдерів. А споживачі про це ні сном, ні духом.

Ринкові механізми не спонукають хмарних провайдерів конкуруювати за те, щоб надавати клієнтам і користувачам найвищий рівень убезпечення за найменших витрат. Навпаки, хмарні компанії закладаються, що хакери їх не чіпатимуть, — а коли навіть і зачеплять, то, як підказує досвід, усе обійдеться. Певна річ, такий спосіб розумування й ухвалення рішень притаманний найвищому керівництву й не відображає самовідданості й технічної кваліфікації інженерів — розробників і фахівців із убезпечення. Ефект недостатніх вкладень згубний: ризик нагромаджується, причому здебільшого він прихований від користувачів. Через повсюдне впровадження хмарних обчислень цей ризик перекидається на корпоративні мережі, клієнтів, користувачів, далі розповзається Інтернетом.

І, врешті, сягає рівня національної безпеки. Політичні очільники могли б зробити внесок у розв’язання цієї задачі, якби задали чіткі цільові показники вбезпечення хмарних служб і вимагали гласності щодо рішень і компромісів у структурі вбезпечення. Адміністрації президента Байдена, зокрема, новопризначеному національному кібер-директорові Крису Інґлісу, належало б організувати міжвідомчу взаємодію з хмарними провайдерами, щоб розглянути їхні моделі загроз і оцінити архітектуру вбезпечення пропонованих засобів. Паралельно з роботою з поліпшення прозорості хмарних провайдерів і докладного аналізу їхніх досягнень у техніці вбезпечення, слід осучаснити регламенти кіберубезпечення з урахуванням специфіки хмарних комплексів.

Найкраще зосередити цю роботу у Федеральній програмі керування уповноваженням і нейтралізації ризиків (FedRAMP), бо саме вона є головною урядовою програмою оцінювання ризиків хмарних служб і уповноваження їхнього застосування в державних установах. У недавньому указі президента наведена низка заходів, які мають пришвидшити роботу в FedRAMP і зробити її маневренішою. Проте зазначимо, що програма й досі розглядає вбезпечення окремих хмарних служб замість глибшого аналізу варіантів архітектури й моделей загроз постачальників цих служб. Подальші рішення на рівні Конгресу мали б посилити й розширити указ, додавши нові зобов’язання постачальників в аспекті гласності структурних компромісів, моделей загроз і ризиків, що з них випливають. Це перетворило б FedRAMP на дієвіше знаряддя організаційного керування вбезпеченням на додачу до пришвидшення й підвищення ефективності.

Провайдери хмарних служб стали важливими об’єктами інфраструктури в масштабах країни. Після розквіту мейнфреймів, що тривав від 1960-х до початку 1980-х років, світ уперше бачить, щоб обчислювальні комплекси такого рівня складності були в такому масовому користуванні, але створювалися так нечисленними компаніями. Убезпечення цієї інфраструктури вимагає більшої прозорості й підзвітності суспільству — навіть якщо зважати лише на наслідки її відмови.

 

https://www.schneier.com/essays/archives/2021/05/russias-hacking-success-shows-how-vulnerable-the-cloud-is.html

 

Колись хакери були люди. Невдовзі ШІ хакне людство

ШІ виконує бажання, немов підступний джин, визискуючи, як ніколи досі, суспільну, політичну й економічну системи.

·        БРЮС ШНАЄР

·        Вайрд

·        19 квітня 2021 р.

Якщо вам ще не досить приводів тривожитися, уявіть світ, де штучні інтелекти обернулися на хакерів.

Хакерство існує споконвіку. Бо ми підходимо до розв’язування задач творчо. Визискуємо лазівки, махлюємо з системами й жадаємо ще більше впливу, влади, заможності. Досі хакерство залишалося прерогативою людей. Це ненадовго.

Як я зазначив у щойно оприлюдненому звіті, ШІ рано чи пізно відшукає вразливості в суспільних, економічних і політичних системах усілякого штибу й заходиться визискувати їх із небувалою швидкістю й розмаїттям і в немислимих масштабах. Коли ж ШІ хакне людство, то почне хакати інші ШІ. Тут уже збитки людству стануть просто втратами серед цивільних на війні.

Гаразд-гаразд, може, я трохи перебільшую; але ж здатна на це техніка — вже не предмет фантастики про далеке майбутнє. Я не кажу про «сингулярність ШI», де ШІ навчатиметься на досвіді зі швидкістю, недоступною для людського сприйняття. Не припускаю, що з’являться розумні андроїди. Не припускаю злих намірів. Хакерські хватки, про які йдеться, здебільшого не вимагають жодних проривних досліджень ШІ. Вони вже діють. От тільки що досконаліший ШІ, то менше ми спроможні це завважити.

ШІ розв’язують задачі не по-людськи. Бо помічають більше шляхів до розв’язку. Наприклад, такі складні, що нам не до снаги. Оце найперша пастка: так звана проблема витлумачуваності. Сучасні системи ШІ — по суті, чорні скриньки. З одного боку надходять дані, з другого виходять відповіді. Не завжди можливо втямити, як відреагував така система, навіть коли ти сам її й програмував.

У 2015 р. група дослідників згодувала системі ШІ «Deep Patient» історії хвороби десь 700 000 осіб, щоб перевірити, чи здатний він ставити діагнози. Виявилося, що так; щоправда «Deep Patient» не пояснював, на підставі чого поставив діагноз, — а дослідники так і не втямили, як він доходив висновків. Лікар управі нехтувати комп’ютером чи довіряти йому — але якщо довіряти, то сліпо.

Науковці працюють над ШІ, здатним тлумачити, що і як робить. Але поки що, схоже, функціональні можливості обернено пропорційні ступеню витлумачуваності. Тлумачення — щось на кшталт розумової стенографії; ними користуються люди, вони вигострені під людські способи приймання рішень. Примус ШІ до тлумачення своїх дій, імовірно, стане додатковим стриманням, що позначиться на якості його рішень. Наразі ШІ чимдалі важче зрозуміти й витлумачити.

Поза тим, ШІ може вдатися до так званого парадоксального пошуку, попросту, хакання заохочення. ШІ розв’язує задачі не так, як люди, тому регулярно наштовхується на розв’язки, що нізащо не спали б на думку нам, — і чимало таких розв’язків суперечать початковим намірам. Річ у тім, що ШІ не «мислить» у термінах наслідків, середовища, норм і цінностей, що їх ми, люди, поділяємо й маємо за очевидні. Парадоксальний пошук заохочення — це досягнення мети у спосіб, що його розробники ШІ не передбачали й не бажали.

Візьмімо імітатор футболу. ШІ вирахував, що як вибити м’яча в аут, воротар укидатиме його з-за бокової, а ворота будуть порожні. Інший приклад зі спорту: ШІ запропонував, що регбіст має бути такий великий на зріст, щоб, просто впавши, приземлити м’яч у заліковому полі. А ось із реального життя: робот-пилосос, замість учитися не наштовхуватися на предмети, їздить заднім ходом, бо позаду не має датчиків, що попереджали б про зіткнення. Якщо недоліки, внутрішні суперечності чи лазівки в правилах є, та якщо вони дозволяють знаходити розв’язок, що не порушує правила, майте певність: ШІ усе це знайде.

Власне, ми всі знаємо про це змалку. Згадайте історію царя Мідаса. Діоніс погодився виконати будь-яке його бажання. Той попрохав, щоб усе, до чого він доторкнеться, оберталося на золото. Й помер із голоду та в журбі, бо їжа, напої, ба навіть власна донька перетворилися на золото. Це питання неповної постановки завдання: Мідас запрограмував мету системи в хибний спосіб.

З арабських казок ми знаємо, що джини виконують бажання буквально — навіть коли це шкодить прохачу. Знати знаємо, та способу перехитрувати джина не вигадали й дотепер. Чого б ти не зажадав, він це дасть — але так, що ти пожалкуєш. Джин «хакне» твоє бажання. У людській мові й думці цілі й бажання завжди описані не до кінця. Ми ніколи не описуємо всі можливі варіанти, не додаємо всі застосовні обмовки, винятки й припущення. А мету завжди формулюємо не повністю.

Бо люди найчастіше розуміють середовище без прямого тлумачення, і діють здебільшого добросовісно. А ось вичерпно розтлумачити ШІ поставлену мету ми не здатні. ШІ ж не спроможні повністю осягнути середовище.

У 2015 р. корпорацію «Фольксваген» спіймали на ошуканстві з аналізом викидів. ШІ тут ні до чого. Звичайний комп’ютер запрограмували на обман люди, інженери. Але приклад показовий. Отже, бортовий комп’ютер запрограмували так, що коли він виявляв типові умови аналізу викидів, то перемикав двигун у інший режим. І це сходило з рук роками.

Якби я запропонував вам написати програму керування автомобільним двигуном у такий спосіб, щоб він мав найбільший ККД і при цьому успішно проходив аналіз викидів, ви б, може, й заклали в цю програму якийсь трюк, але чітко знали б, що він там є. Не те з ШІ. Він «мислить нестандартно», бо не зна, що то є стандарт. Йому невтямки, що варіант «Фольксвагена» шкодить людям, суперечить цілям аналізу викидів, урешті, порушує закон. Тож ШІ знайде цей варіант — коли, звісно, програмісти не зазначать прямо, що двигун має діяти однаково в русі й під час аналізу. Програмісти втішені, бухгалтери — в захваті. І жоден не розуміє, що робить ШІ — через проблему витлумачуваності. Певна річ, знаючи, що трапилося на «Фольксвагені», ми можемо прямо заборонити ШІ хакати систему отак. От тільки в джина-хакера завжди знайдеться щось новеньке.

Наскільки відповідає реальності, що ШІ здатен хакнути світ? Практична здійсненність будь-якого винаходу ШІ визначається специфікою модельованої ним системи. Щоб ШІ бодай розпочав оптимізувати задачу, не кажучи вже про те, щоб її хакнути несподіваним розв’язком, усі правила та параметри середовища мають бути формалізовані, причому так, щоб їх розумів комп’ютер. Мають бути поставлені цілі; в сфері ШІ вони звуться цільовими функціями. ШІ має бути обладнаний засобами зворотного зв’язку, щоб «розуміти», наскільки вдало працює, й удосконалюватися.

Подеколи це просто. Візьмімо шахи: правила, мета й зворотний зв’язок — виграв ти чи програв — описані абсолютно точно. Жодного середовища, що затуманювало б картину, немає. Через це більшість наявних прикладів парадоксального пошуку заохочення чи розуміння цілей стосуються імітованого середовища. Це штучні та обмежені задачі, всі правила в яких розтлумачені ШІ. Питома неоднозначність більшості інших систем — це і є в найближчій перспективі найкращий захист від хакерських хваток ШІ.

А ось там де системи добре описані й майже цілком цифрові, все набагато цікавіше. Поміркуймо про системи державного регулювання, як-от податковий кодекс, як про послідовність алгоритмів із входами й виходами. Чи про фінансові системи, біль-менш простежувані алгоритмічно.

І уявімо ШІ, в який завантажені всі закони й підзаконні акти світу, уся фінансова інформація та все інше, що ми маємо за потрібне, підвантажується в режимі реального часу, а задача йому поставлена «максимізувати зиск». Як на мене, незабаром щось таке з’явиться. Результатом будуть новітні хакерські штучки.

Поступ у галузі ШІ не сталий і часом суперечить здоровому розуму. Щось здавалося простим, а виявляється складним, а інше, що здавалося складним, раптом робиться зовсім просто. Як воно буде, ніхто не знає, доки не здійсниться чергова революція.

Коли ШІ стануть хакерами, все зміниться радикально. Адже ШІ не стримує та не обмежує те, що людей. Швидкість, обсяг і масштабність хакерства ШІ, його прискорення й потуга заскочать нас зненацька. Наприклад, текстові боти ШІ в соцмережах тиражуватимуться мільйонами. Без упину вони втручатимуться в обговорення яких завгодно питань, надсилатимуть мільярди повідомлень і заглушать будь-яку дискусію, що її ведуть в Інтернеті люди. Не за горами запеклі політичні дебати, в яких боти сперечатимуться з іншими ботами. Вони навіють нам, що мати за норму, яку думку мати стосовно того, яку думку мають інші.

А повсюдне поширення систем ШІ робить їхнє хакерство ще небезпечнішим. ШІ вже ухвалюють важливі рішення щодо нашого життя, рішень, які нещодавно були прерогативою людей: кого випускати достроково з ув’язнення, кому давати позику в банку, кого приймати у виш, кого наймати на роботу. Що більше здібностей матимуть ШІ, то більше рішень — чимдалі важливіших — суспільство перекладатиме на них. Тож і збитки від їхнього хакерства чимдалі зростатимуть.

Що, як згодувати ШІ весь податковий кодекс США? Або й податкові кодекси всього світу, якщо це робить транснаціональна корпорація? Чи він вирахує без підказки, що корпорацію вигідніше реєструвати в штаті Делавер, а судно — в Панамі? А скільки знайде лазівок, про які ми поки що не знаємо? Кількадесят? Кілька тисяч? Поняття не маємо.

Суспільні системи, вигострені проти хакерських прийомів, формувалися, коли хакери були люди. Вони розраховані на людські швидкість, обсяг і масштаби. Податкова інспекція не здатна впоратися з десятками, не кажучи вже про тисячі свіжо знайдених дірок у законодавстві. ШІ, що винайде непередбачені, але законні способи хакнути фінансову систему, вчинить розгром на біржі, перш ніж ми щось протиставимо.

Як зазначено в моєму звіті, з хакерських прийомів можуть скористатися не лише нападники для визиску, але й оборонці для виправлення та вбезпечення. У довгостроковій перспективі ШІ-хакери віддаватимуть перевагу обороні, бо наші програмні засоби, податкові кодекси, фінансові системи тощо можна позбавити вад, перш ніж упроваджувати. Певна річ, перехідний період буде небезпечний через хакнуті вади успадкованих систем. Тут наша відповідь — опірність.

Ми маємо будувати опірні керівні структури, що швидко й дієво реагують на хакерство. Не годиться, щоб унесення змін до податкового кодексу розтягалося на роки чи лазівка в законі ставала настільки широко вживана, щоб усувати її було не можна з політичних міркувань. Це найскладніша задача сучасної системи керування. Вона не надто відрізняється від задачі побудови керівних структур, спроможних діяти на рівні швидкості й складності, питомому для інформаційної доби.

Тема мого допису — взаємодія між людьми та обчислювальними системами й ризики, що їх неможливо уникнути, коли комп’ютери переймають на себе частину людських справ. Це задача вищого порядку, ніж хакерство ШІ. На цю ж тему пишуть фахівці з техніки й футурології. Неважко попустити віжки техніці, що провадить нас у майбутнє, та, мабуть, нам вийде на краще, як ми громадою вирішуватимемо, яку роль має відігравати техніка в цьому майбутньому.

І це конче треба робити зараз, поки ШІ не під’єдналися до Інтернету й не заходилися хакати світ.

Оригінал: https://www.schneier.com/essays/archives/2021/04/hackers-used-to-be-humans-soon-ais-will-hack-humanity.html

Нещадна безобрійність ковідного світу

Нік Кулдрі, Брюс Шнаєр

Сі-ен-ен

25 вересня 2020 р.

Пандемія тягнеться півроку, й кінця їй не видно. Тож багатьох із нас посіла бентега понад звиклі спозадавна знемогу й тривожність. Неназовне почуття вадить робити навіть милі, бо повсякчасні речі.

Й перебиває справи щодення не сум’яття пристосовування до сидіння під замком, не острах за себе й ближніх — попри всю їхню істотність. Не кривімо душею бодай собі: це навіть не відчуття, ніби мало не все роблене нами робиться задля власної забавки, аби тільки відволікти від того, що нас тримає в шаху планетарна пошесть.

Ні, це куди тяжче зносити і складніше втямити; це невизначеність: навіщо тягти з тим, що робили роками, ніби так і треба, ніби воно має якусь питому цінність.

Ми наразилися на те, про що чимало поглядів під різними кутами вже висловило красне письменство: неослабне змішання, вкорінене в тому, що ми не просто не знаємо, коли все це добіжить кінця; якби ж то так! — ми не маємо найменшого уявлення, який він буде, той кінець. Чи не найглибше осягнув це почуття Джонатан Зекер, історик-релігієзнавець: він сполучив його з забутим християнським терміном «акедія».

На акедію, схоже, страждали численні середньовічні ченці. Це стан, коли вже не турбує те, що турбувало, — не через те, що впав у байдужність, а через те, що турботливість геть ізруйнувалася.

Що ж означає цей різновид нудьги в наглій усесвітній веремії? На побіжний погляд, усіх нас понадміру тривожить загроза здоров’ю —  і знана, і поки що незвідана. Та крізь машкару тривоги прозирає звих, що спотворює наші поняття про те, як і про що турбуватися.

Щоб добути відповідь, звернімося до сміливого розумового експерименту зі смертю. 2013 р. філософ Самюель Шефлер сформулював засадниче припущення стосовно смерті. Ми всі певні, що нас переживе прийдешній світ, населений схожими на нас людьми; то більше, декого ми знаємо, а де з ким близькі. І хоч ми не завжди це усвідомлюємо, той гаданий майбутній світ — це обрій, з якім ми звіряємо все, що робимо нині.

А що, запитує Шефлер, як ми втратимо гіпотетичний майбутній світ, бо, скажімо, дізнаємося, що невдовзі по нашій смерті щезне й усе людство? Те, що ми цінуємо, почне знецінюватися. Наше розуміння того, чому зараз щось важить, ґрунтується на припущенні, що воно й далі буде важливе, хай навіть нас, хто його цінить, уже не буде.

У цьому глибинному смислі наші стосунки з людьми й речами спрямовані в далечінь. Симфонії пишуть, будинки мурують, дітей заводять нині, але завжди — з прицілом на майбуть. Що ж станеться з нашими моральними підвалинами, як буде неможливо хапатися за прийдешність?

Та саме це: як повернутися до признáк нинішньої пандемії, навіч побачиш, звідки бентега, що це за звих, який відчувають майже всі. Джерело сьогоднішньої акедії — не буквальний брак майбутнього; навіть ті, хто залякують нас ковідом найбільше, не заперечують, що рід людський його переживе. Цей звих штудерніший: викривлені геть усі тримальні конструкції майбуття, на які спиралося те, що робиться нині.

Ми створіння, що перебувають у русі, й для цього нам конче потрібні обрії. Ковід залишив нас без численних просторових і часових горизонтів, на які ми покладалися, навіть коли їх і не помічали. Нам невтямки, на що буде схожа економіка, як триватиме суспільне життя, яких перетворень зазнає наше побутове повсякдення, як буде організовано роботу, чи виживуть університети, мистецтво, місцева комерція.

Нас бентежить не острах змін як такий. Річ у тім, що ми не віримо більше в майбуть, і тому багато чого зробилося беглузде й безцільне — звісно, якщо дивитися на це з прийдешності, що її кшталт уже не бачиться нам виразно. Зневіра розбиває вщент нашу шкалу цінностей того, що ми робимо просто зараз. За таких обставин особливо гнітить потреба вмовляти себе, буцімто й досі важить те, що за своєю природою спрямоване в майбутнє, скажімо, освіта чи розбудова інституцій.

Отак багато хто з нас почувається. Отака вона, сьогочасна акедія.

Можливо, хтось скаже, ніби така постановка діагнозу не варта заходу; ні, навпаки. Либонь, найгірше, чим вирізнялася акедія середньовіччя, — те, що ченці змагалися з тогочасним звихом поодинці. Ми ж мусимо долати руйнацію відчуття прийдешності опліч. Бо ушкоджену турботливість, якою визначалося те, чому ми щось робимо й робитимемо сполом, ми спроможемося полагодити, лише як відновимо єдність.

Єдність ця має один, але необхідний засновок: ми маємо відкрито говорити про ту злощасну акедію й про те, як вона заважає поглянути в обличчя непевностям майбуття.  Лише так ми погодимося позбуватися цього ґанджу гуртом і самохітно, не оглядаючись на політичні й культурні кордони — родиною, громадою, народом, урешті, всім людством. Усвідомимо ж нашу спільну вразливість, замість переживати її окремішно, й нумо до роботи!

Оригінал англійською: https://www.schneier.com/essays/archives/2020/09/the-unrelenting-horizonlessness-of-the-covid-world.html

Біткоїн: найкраща риса, вона ж смертельно небезпечна вада

Криптовалюта залежить від незіпсутості блокового ланцюга. Та цензори з Китаю, ФБР чи потужні корпорації здатні розбити його на друзки й згладити зі світу.

Wired

9 березня 2021 р.

Дослідники вбезпечення нещодавно викрили бот-мережу з новітніми знаряддями оборони від винищення. Вважається, ніби компетентні органі можуть знешкодити бот-мережу, якщо захоплять її командно-керівний сервер. Адже якщо командам немає звідки надходити, то й від бот-мережі ніякого толку. Та з роками проектувальники бот-мереж таки винайшли способи ускладнити контратаки. Мережа Akamai, що публікує матеріали на подібні теми, повідомляє про нову методу: бот-мережа, що визискує книгу реєстрації блокового ланцюга («блокчейну») біткоїну. Оператори бот-мережі почуваються безпечно, бо цей ланцюг блоків, доступний з усіх усюд, навряд чи зважаться чіпати.

Найкраще не заглиблюватися в математичний апарат блокового ланцюга, а висвітити лише одну засадничу рису, щоб утямити, в яку рахубу це може вилитися. Блоковий ланцюг — такий собі «розподілена книга реєстрації»: вона містить записи про всі операції від самого початку. Щоб скористатися, треба мати доступ і посилатися на її примірник. А що, як хтось впише у блоковий ланцюг щось нелегальне? Або кожен має примірник блокового ланцюга, або його вбезпечення губиться.

Слід чесно зазначити, що далеко не кожен, хто користується блоковим ланцюгом, має примірник усієї книги реєстрації. Чимало людей купують криптовалюту на кшталт біткоїну чи етереуму й не завдають собі клопоту перевіряти купівлю. Ба навіть не тримають криптовалюту самі, натомість передовіряють біржі робити операції й тримати «коїни». Тим не менше, щоб система була вбезпечена, якісь люди мають стало перевіряти історію блокового ланцюга в книзі реєстрації. Бо як цього не робити, сфальшувати коїни буде завиграшки. Отак воно діє.

Кілька років тому почало впадати в око, що в блоковому ланцюгу біткоїна з’явилися сторонні фрагменти. Цифрові зображення, зокрема, портрет Нельсона Мандели. Логотип біткоїна, навіть стаття легендарного Сатосі Накамото, де він його вперше описав. Не бракує реклами, є й кілька молитов. Нарешті, незаконна порнографія та поцуплені кимось таємні документи. І все це туди запхали безіменні користувачі біткоїну. Утім, донедавна це все ніяк не загрожувало можновладцям і босам корпорацій. Щойно хтось внесе щось у книгу реєстрації блокового ланцюга, воно стає святе й недоторканне.  Коли щось вилучити, утворюється розгалуження, т.зв. «форк», блокового ланцюга, через це біткоїн дробиться на кілька криптовалют (і стільки ж блокових ланцюгів), що далі вже співіснують. Розгалуження траплялися — рідко в цілому й точно жодного разу через правовий примус. Ну, а численні розгалуження просто зведуть нанівець питому рису біткоїну — тривкість (гаразд, майже тривкість).

Проектувальники бот-мережі розвинули цю ідею, щоб створити засоби координації, які неможливо заблокувати. От тільки наслідки з цього набагато масштабніші. Уявіть, що хтось використовує цю ідею, щоб обминути державну цензуру. Здебільшого генерація криптовалют, т.зв. «майнінг», відбувається в Китаї. А що, як укинути до блокового ланцюга тексти забороненої китайською цензурою секти Фалунь-ґун?

Що, як вписати політичну промову з тих, які повсякдень глушить цензура в Сингапурі? Чи вкласти диснеївський мультфільм, захищений авторським правом?

У більшості загальнодоступних блокових ланцюгів, як у того ж біткоїна, немає централізованого довіреного керівництва. Будь-хто в світі може здійснювати операції й бути майнером. Геть усі рівні, аби була техніка й не забракло електрики на криптографічні розрахунки.

Ця загальнодоступність — водночас і вразливість, бо відчиняє двері асиметричним загрозам і плюгавим торбохватам. Будь-хто може вписати інформацію в єдиний і неділимий блоковий ланцюг біткоїну. Авжеж, отак воно діє.

За останні три десятиріччя світ оцінив потугу загальдоступних мереж: блокових ланцюгів, соціальних мереж, та й Інтернету як такого. Їх міць у тому, що цінність тут визначає не кількість користувачів, а кількість можливих зв’язків між користувачами. Закон Меткалфа твердить: цінність мережі пропорційна не кількості, а квадратові кількості користувачів. Поки що всі загальнодоступні мережі йому відповідали.

У міру розвитку біткоїна його ціна злетіла до небес, хоча й досі ніхто не знає точно, навіщо він потрібен. Простір блокових ланцюгів, де немає жодних передумов входу, обернувся на Дикий Захід новаторства — й беззаконня. Нині чимало визначних поплічників біткоїну переконують, що він має стати глобальною, всесвітньою валютою. Коли так, то асиметричні загрози на кшталт вкиду нелегальних даних, перетворюються на глобальну проблему.

Ідеологія біткоїну простежується до найперших днів загальнодоступного Інтернету. Як проголосив Джон Перрі Барлоу 1966 року в Делкларації незалежності кіберпростору, тут діє й діятиме етична засада інформаційно-технічних свіжаків: програмний код незрадливий, на відміну від інституцій. Інформація призначена бути вільною. Ніхто не має права — і мусить не мати й можливості — її обмежувати.

Але ж інформація десь та має зберігатися. Програмний код пишуть люди, зберігається він на комп’ютерах, розташованих у країнах і приналежних до іституцій і спільнот, створених нами. Довіряти інформації — значить довіряти її ланцюгові схоронності й суспільному середовищу, з якого вона походить. Ані програмний код, ані інформація не байдужі до цінностей, ба навіть не вільні від людських супутних чинників.

Нині від гасел Барлоу лишилася бліда тінь: доступ людей до інформації обмежують у кожному суспільстві. Подекуди через неприховану цензуру — так у Китаї обмежують інформацію про Тайвань, танки на майдані Тяньаньмень та утиск уйгурів. Подекуди через цивільне законодавство, впроваджене можновладцями задля власного зиску — так чинить Дисней, так улаштований закон про авторське право США і закон про відповідальність за наклеп у Великобританії.

Біткоїн і подібні до нього блокові ланцюги ставлять цьому чоло. Що ж станеться, як зиск сильних світу цього й прихильні до нього закони зійдеться сам-на-сам із загальнодоступним блоковим ланцюгом? Уявімо, як можуть розвиватися події.

Найперше, Китай. Щойно в блоковому ланцюзі з’явилися відозви Фалунь-ґун, керівництво КНР видає декрет про позбавлення доступу до Інтернету майнерів, які обробляють блоки з забороненим вмістом. Їхні ІР-адреси заносять до чорних списків. Це призводить до незворотного розгалуження (т.зв. «хард-форк») блокового ланцюга в точці перед зазначеним вмістом. У Китаї це супроводжується відозвами патріотичного вмісту, широкому загалові розтлумачують, що так підтримується фінансова незалежність від західних банків. Далі агенти впливу на громадську думку та модератори соціальних мереж за мзду від держави роздмухують ентузіазм навколо відгалуження китайського народного біткоїну — як через прихильні дописи, так і через операції. Виникають розгалуження на дві гілки — всередині Великого китайського брандмауера та поза ним. Інші держави з подібними системами врядування та ЗМІ — Росія, Сингапур, М’янма — залюбки вирішують піти в кільватері в китайських товаришів, і запроваджують власні розгалуження. Виникають численні національні біткоїни. Діють вони незалежно один від одного, але всі — від початку з примусовим цензуруванням неприйнятних операцій.

Дисней береться до справи дещо інакше. Компанія оголошує, що позиватиме до суду всіх власників ресурсів, де розташовані матеріали, на які вона володіє авторськими правами, найперше — мережі, де перебувають найбільші майнери (згадаймо, що компанія Дисней уже порушувала справу про захист інтелектуальної власності в Китаї). Юристи тиснуть на мережі, ті відрубують майнерів. Майнери переповзають у іншу мережу, Дисней не вгаває. І ось майнери, гнані все далі й далі від провідних мереж, змушені пускати трафік через служби знеособлення, як-от переглядач Tor. Швидкість у мережі біткоїн (і без того невелика через специфіку математичних операцій) падає. Дисней оформлє судові накази про блокування вихідних вузлів Tor, після чого швидкість стає черепашою. Це може тягтися довго, але без розгалуження. Як варіант, сповільнення може набриднути. Користувачі організують чергове розгалуження або перейдуть на іншу криптовалюту, де блоковий ланцюг не має вмісту під авторським правом.

Далі, незаконна порнографія й украдені таємні дані. Вони перебувають у блоковому ланцюгу біткоїна понад п’ять років, і ніхто нічого не робить. Як і в прикладі з бот-мережею, це не настільки турбує можновладців, щоб виписати ордер і закрити сервери. Та це може змінитися вмить, якщо біткоїн набуде популярності як середовище поширення дитячої порнографії. Для всіх причетних до біткоїна це мало б значні наслідки, бо якщо дитячу порнографію знайдуть у вас на диску, то притягнуть до відповідальності.

Отже, у будь-якому з описаних варіантів у біткоїна як світової валюти знаходиться ахілесова п’ята.

Якщо загальнодоступна мережа на кшталт блокового ланцюга підпадає під удар потужної організації — китайської цензури, диснеївських правників чи ФБР на ловах небезпечної бот-мережі — вона може розпастися на кілька мереж. І це вже не маленька прикрість, а смертельна загроза біткоїнові. 

Припустімо, що біткоїн розділився на десять менших блокових ланцюгів, наприклад, за територіями: один у Китаї, один у США і так далі. Усі користувачі на місці; за звичною логікою, начебто нічого не змінилося. От тільки закон Меткалфа твердить, що цінність фрагментів загалом у десять разів менша від початкового блокового ланцюга. Адже цінність загальнодоступної мережі визначається тим, із якою кількістю користувачів ви можете обмінюватися даними — а в разі блокового ланцюга, здійснювати операції. Убезпечення біткоїна як валюти досягається громіздкими розрахунками, відповідно, після фрагментації організованим зловмисникам буде простіше втрутитися в невеликі блокові ланцюги в класичний спосіб під назвою «атака 51 відсотка». Особливо якщо в менших блокових ланцюгах використовується та сама хеш-функція; а в цьому разі буде саме так.

Традиційні валюти переважно невразливі до асиметричних загроз подібного типу. Скажімо, організувати маломасштабну атаку на долар США чи іншу традиційну валюту не вдасться. Інститутції й переконання, завдяки яким гроші мають цінність, тримаються міцно, хоч гіперінфляція часом і трапляється.

Єдина знана форма атаки на фіатну валюту — підробка грошових знаків. Та навіть у давнину, коли фальшивих купюр не бракувало, такі атаки вдавалося придушити. Фальшивомонетникам потрібно спеціальне устатковання, їм загрожує викриття й арешт. До того ж, нині гроші, навіть фіатні, здебільшого не існують у паперовій формі.

Біткоїн приваблює тим, що він доступний для всіх і не підконтрольний державі. Його задача — творити світ, де замість моці культури міць криптографії, замість довіри людей перевірка в програмному коді. Але такого світу немає. І сьогодні ця властивість — то вразливість. Ми не знаємо, що трапиться, коли людська довірча система зітнеться з безвірним спробунком, питомою неповторною рисою валюти на блокових ланцюгах. Наприкінці лютого ми спостерігали достеменно таку атаку на менші блокові ланцюги — поки що не на біткоїн. Ми споглядаємо суспільно-технічний експеримент, що триває, й уже незабаром станемо свідками його успіху — або провалу.

Оригінал англійською:

https://www.schneier.com/essays/archives/2021/03/bitcoins-greatest-feature-is-also-its-existential-threat.html

Пагуба підохочування в добу інформаційно-технічних велетнів

Підохочування — посутній складник суспільства й народовладдя, та потрібні нові приписи, щоб корпорації ним не надуживали

·        Брюс Шнаєр, Алісія Вонлес

·        Форін полісі

·         

·        11 грудня 2020 р.

Підохочування було завжди, скільки людського роду. Це наріжний камінь і народовладдя, і ринкового господарювання. Політики підохочують громадян голосувати за себе або підпирати ті чи інші політичні позиції. Фірми підохочують споживачів купувати їхні товари чи послуги. Ми всі підохочуємо друзів погоджуватися з нашим вибором ресторану, кінотеатру тощо. Підохочування — суть суспільства; без нього у великій громади не знайти спільної мови. Та поступ техніки докорінно змінює природу підохочування, як і багато чого ще. Тож суспільство має або достосовувати приписи підохочування, або потерпати від наслідків.

Особливо нагальна потреба відверто поговорити про те, яку роль грає підохочування та як сильні світу цього вживають техніку, щоб кермувати громадами задля власного зиску, постає в демократичному суспільстві. Де панує громадська думка, там неминучий ризик, що її рекрутують до вадкої мети: хтось страхає спільноту, щоб розпалити ворожнечу до іншої, й на цій хвилі сідає в державне крісло, а хтось грає на питомих вадах людей, щоб пропхнути їм свій товар, нехай і шкідливий.

На нашу думку, Сполучені Штати вже розкололился на табори й ледь тримаються на останньому прузі.

Приписи щодо підохочування існують давно. Федеральна торговельна комісія США провела закон, де сказано: заяви щодо товарів «мають бути правдиві, не вводити в оману, та, якщо доцільно, ґрунтуватися на наукових доказах». Політична реклама на телебаченні має бути позначена як така. Якщо хтось зловживає владою, щоб змусити когось іншого укласти угоду, той може порушити справу про визнання її нікчемною через неприпустимий вплив. Та підохочування не зводиться до правдивості, гласності чи грубого тиску.

Воно ґрунтується на психології, що її куди важче відрегулювати. Психологічні прийоми підохочування — не новина. Едвард Берніс, засновник науки про вплив на громадську думку, небіж Зігмунда Фройда, зробив із поклику до «его» методу продажу. Це він вигадав прив’язати споживання до відчуття власного «я». А 1928 року вийшла друком книжка «Пропаганда», де Берніс пояснює, як підтасувати події, щоб на них відреагували в бажаний спосіб. Одне з його найвідоміших досягнень — найняті жінки з сигаретами на великодній ході 1929 року в Нью-Йорку: через це зчинилася буча, зате образ жінки, що палить, надовго зв’язався з емансипацією. Тютюнові корпорації просували свою продукцію, пов’язуючи її в рекламі зі стилем життя, аж до 1960-х років.

У політичних кампаніях так само віддавна б’ють на емоції. Ще в 1860 р. під час президентських перегонів політики й видавці газет Півдня страхали перемогою «чорного республіканця», малюючи жахіття, які принесе країні звільнення рабів. А перед виборами президента вже в 2020 р. новочасні республіканці лякали виходців з Куби соціалізмом в рекламі на іспаномовному радіо та дописах у соціальних мережах. Саме під впливом емоцій, збурених кампанією, і приймала рішення помітна частка виборців.

Завдяки Інтернету новітні прийоми підохочування сягнули небувалих висот. Охочі нагромаджують дані про об’єкти впливу й використовують їх до індивідуалізації дописів. Нині можна стежити за тим, які сайти хтось відвідує, що шукає в Інтернеті, на що як реагує в соціальних мережах. Власники відповідних знарядь ретельно вивчають об’єкти впливу, пристосовують до них свої повідомлення й розташовують їх там, де важко не помітити. Цю інформацію доповнюють відомостями про діяльність у реальному світі, наприклад, як об’єкт робить закупи, де буває, від чого страхуєтьсяй складають характеристику. На її основі формують впливові повідомлення так, щоб підбурити до певної реакції.

Тим часом відчуття власного «я» дедалі більше спотворюється через взаємодію з інформаційною технікою. Ми читаємо, шукаємо, спілкуємося з близькими в електронно-цифровому світі; рекламщики ж виловлюють там дані та обертають їх проти нас. Бернісам нової доби вже не доводиться винюхувати суспільні справи, що можуть вас надихнути чи звабити, бо ви самі виставили їх на всезагальний огляд у Мережі.

Певні рекламщики завважили, що жінки почуваються менш привабливими по понеділках, особливо зранку — і заходилися підсовувати їм рекламу косметики саме в цей час. Газета «Нью-Йорк таймс» провела дослід із передбачення настрою читачів залежно від змісту читаної статті, щоб точніше націлювати рекламні оголошення, цебто щоб рекламщики могли втрутитися саме тоді, коли читачеві сумно або лячно. На деяких платформах потокової музики пропонують розповідати, хто в якому гуморі зараз. Це теж допомагає рекламодавцям пристосовувати рекламу до емоційного стану слухача.

Телефони в нас у кишенях зраджують рекламщикам, де ми перебуваємо, щоб ті прив’язували рекламу до відповідного місця. Типовий приклад — пропаганда для учасників політичних мітингів. Через наше безупинне сполучення з електронно-цифровим світом рекламщики завжди знають, що ми робимо, де й коли — зарівно як і що відчуваємо в цю мить.

Ми не панікуємо. Не варто перебільшувати дієвості прийомів підохочування. Але не варто й забувати, що з плином часу вони вдосконалюються — хоча переважно й не виходять за межі окозамилювання. Сучасна інформаційна техніка вже дозволяє передбачати настрої й уточнювати місцезнаходження об’єктів, щоб надсилати їм влучні та вчасні повідомлення. Наскільки ще вона має вдосконалитися, щоб звести нанівець незалежність тих об’єктів і позбавити їх здатності до самостійних рішень?

Нині майже нема юридичних, ба навіть етичних обмежень на підохочування. Зарівно як і оцінок дієвості вживаних технічних засобів. Світові час замислитися, з чим можна миритися, а що перетинає межу, — поки не пізно.

Скажімо, давно відомо, що люди краще реагують на рекламу, де виступає хтось подібний до них самих за расою, нацією, віком, статтю.  Техніка дозволяє, маючи ваші світлини, обробити зображення якоїсь людини так, що вона матиме ваші демографічні ознаки. Можна піти навіть далі. А саме, штучно створити обличчя, схоже на вас, але вам не знайоме. Якщо це підохочуватиме ефективніше від грубого пристосування за демографією, ніхто не скаржитиметься?

Ще приклад. Замість бити на виявлену у вас вразливість, чом би не створити таку рекламу, що зманіпулює вашими почуттями? Косметична фірма спершу покаже вам сюжет, що опустить вашу самооцінку нижче плінтуса, а тоді вже прорекламує вироби. Власне, вставляти рекламу в контент, що провокує відомий наперед емоційний відгук, уже можна, й рекламщики охоче це роблять. Єдина відмінність — ЗМІ твердять, ніби не перекручують контент зумисне, щоб досягти такого ефекту. Та чи припустимо наструнчувати цільову групу, а як вона вже буде в потрібному гуморі, вкидати підохочувальне повідомлення?

На додачу, прийняття рішень на емоціях виключає раціональне неквапливе мислення, що мало б переважати, коли йдеться про справи суспільної ваги, як-от вибори. Емоційне мислення збурює підвалини легітимності системи, бо виборців, по суті, підбурюють до руху в керунку, заданому можновладцями й багатіями. Зважаючи на дієвість електронно-цифрової техніки як засобу підохочування та миттєвої відрухової реакції на її стимули, якою мірою емоції мають бути дозволені як складник прийомів підохочування? Де межа, що її не вільно перетинати?

Нарешті, більшість людей перебуває в сталому контакті з інформацією й інформаційною технікою. Середня доросла людина в США взаємодіє з засобами інформації 11 годин на добу. На цьому рівні генерується й нагромаджується величезний обсяг особистих даних — про ваші вподобання, інтереси, настрої. Що більше ті, хто розпоряджається технікою підохочування, знають про те, хто ми є, що робимо, коли як почуваємося, де перебуваємо, то краще налаштовують свої повідомлення так, щоб підбурити до дії. А безхитрісний простак залишається при піковому інтересі. Чи припустимо, щоб ті самі служби налаштовували нашу взаємодію з цифровим світом і розробляли вузькоспрямовану рекламу? Чи взагалі є межа вузькоспрямованості?

Розстановка сил у техніці підохочування змінюється. Доступ до знарядь і технічних засобів підохочування аж ніяк не рівний. Вони потребують великих обсягів особистих даних і обчислювальних потужностей, тож у наші дні підохочування обертається на перегони озброєнь, де дієвіше впливатимуть на маси ті, в кого більші ресурси.

А посполиті мають дуже приблизне поняття про хватки підохочування, тож навряд чи здадуть собі справу, що їхніми думками й переконаннями маніпулюють. На домір злого, майже ніякі приписи не обороняють від зловживання підохочуванням, ба більше, ніде не сказано, на якому щаблі маніпуляції стають такі потужні, що позбавляють жертв усілякої самостійності. Небезпечне для загалу коло позитивного зворотного зв’язку замикається.

У 1970-х роках поширився острах так званих «підпорогових сигналів». Ішлося про те, що в друкованій рекламі — скажімо, в клубах диму в рекламі тютюну, чи в кубиках льоду в рекламі спиртного — приховані зображення на теми сексу й смерті. То був майже суцільний обман, що не перешкодило Федеральній торговельній комісії та Федеральній комісії зв’язку оголосити подібні прийоми підохочування протизаконними. Бо люди обурилися, втямивши, що ними крутять без відома й згоди.

Наспів час поговорити всерйоз про обмеження прийомів підохочування. Для початку, чітко визначити, що дозволено, а що ні. Бо як ні, то потужні підохочувальники наберуть іще більшої потуги.

Оригінал англійською: https://www.schneier.com/essays/archives/2020/12/the-peril-of-persuasion-in-the-big-tech-age.html