Убийственные большие данные. Как математика превратилась в оружие массового поражения - стр. 36

В обеих индустриях реальный мир со всеми его проблемами воспринимается с большой дистанции. Работающие в них люди стремятся подменить людей наборами данных, превратить их в более эффективных покупателей, избирателей или работников, чтобы оптимизировать какую-нибудь цель. Это совсем легко сделать и оправдать, когда успех приходит в виде безличного результата и когда задействованные люди остаются такими же абстракциями, как цифры на экране.

Параллельно с работой в области обработки данных я уже вела свой блог – и все больше была вовлечена в движение «Захвати Уолл-стрит». Все больше и больше меня беспокоило отчуждение технических моделей от реальных людей – и моральные последствия этого отчуждения. На самом деле я видела появление того же механизма, который я наблюдала в мире финансов: ложное чувство безопасности, которое вело к распространению далеких от совершенства моделей, определения успеха, которые служили оправданиями самим себе, и растущие петли обратной связи. Людей, которые пытались противодействовать этим процессам, обзывали ностальгирующими луддитами.

Я гадала, какой аналог кредитного кризиса мог бы случиться в области Больших данных: пока что вместо бума я наблюдала эволюционирующую антиутопию со все увеличивающимся неравенством. Алгоритмы позаботятся о том, чтобы те, кого они объявили неудачниками, неудачниками и остались. Счастливое меньшинство станет еще больше контролировать экономику данных, купаясь в возмутительной роскоши и убеждая себя в том, что оно ее заслуживает.

Проработав два года в области Больших данных и многому научившись, я поняла, что мой путь к окончательной утрате иллюзий более или менее завершился: злоупотребление математикой приобретает все более впечатляющие масштабы. Несмотря на ежедневное ведение блога, я почти перестала успевать отслеживать все способы манипуляции, контроля и запугивания людей алгоритмами. Это началось с учителей, пострадавших от ярма модели подсчета качества их работы, но ими не закончилось. Чувствуя все растущую тревогу, я ушла с работы, чтобы сосредоточить все усилия на исследовании этой проблемы.

Если вы сядете поужинать с друзьями где-нибудь в Сан-Франциско или Портленде, то, скорее всего, обнаружите, что никто из вас не хочет попробовать то, что заказал другой. Никто не ест одно и то же, все придерживаются разных диет – от веганской до разных вариантов палеодиеты, причем свято их соблюдают как минимум месяц или два. А теперь представьте себе, если одна из таких диет – допустим, та же диета пещерного человека – стала национальным стандартом и 330 миллионов людей обязаны соблюдать ее требования.