«За нас решают алгоритмы». Кто и как управляет человеком в цифровом мире

Сев на вынужденную изоляцию, человечество тотально переместилось в интернет. Растёт спрос на онлайн-услуги, растёт интернет-трафик, растут объёмы данных, которые мы сами о себе предоставляем всевозможным сервисам и социальным сетям. О том, для чего выстроен дивный цифровой мир и как он искажает наше представление о реальности, "АиФ" беседует с деканом философского факультета МГУ им. Ломоносова, членом-корреспондентом РАН Владимиром Мироновым.

Как IBM Гитлеру помогла

— Владимир Васильевич, цифровые технологии делают нашу жизнь более комфортной, разве не так?

— Человек очень тяжело отказывается от комфорта, даже понимая, что он может сопровождаться негативными последствиями. С этого начинается наша зависимость от технологических средств, способствующих комфорту. Мы уже не можем ехать на машине без навигатора и чувствуем дискомфорт, забыв дома телефон. В США провели исследование: оказалось, что 46% респондентов не могут жить без гаджетов. Когда у людей отбирали смартфоны, они не могли выдержать больше 5 часов.

Цифровой мир основан на следовании алгоритму. Но он не способен предусмотреть всё. Уже были случаи, когда беспилотные автомобили сбивали людей. Потом выяснялось, что алгоритм не был настроен на распознавание человека, если что-то в нём отличалось от обычного образа, заложенного в программу. Банальный пример: я коротко подстриг бороду, и мой айфон меня не узнал — функция Face ID блокирует доступ. Он, конечно, потом настроился, и это не так страшно, но вот представьте, что вас не пустят в самолёт по той же причине.

Новая эра технологий. Заменит ли искусственный интеллект человеческий? Подробнее

Второй момент: алгоритмы построены на упрощении и унификации. Это понятно: чем более однородна система, тем проще её поместить в алгоритмические рамки. Но как быть, когда алгоритмы проникают в нашу культуру, язык, которые являются очень сложными и разнообразными системами? Алгоритм управления, например, обществом, несёт в себе опасность унификации, а значит, и деформации общества в тоталитарный тип.

Вспомним, как осуществлялся контроль в концлагерях нацистской Германии. Там тоже было сплошное упрощение: людям присваивали номера и разделяли их на группы, заставляя носить нашивки из треугольников разного цвета — винкели. Цыгане носили коричневый треугольник, политические заключённые — красный, уголовники — зелёный, евреи — жёлтый, да ещё звезду Давида. Так система стала более управляемой.

Вы знаете, что по иронии судьбы один из руководителей компании IBM, Томас Уотсон-младший, в 1937 году получил от Гитлера высочайшую награду — Орден Заслуг германского орла? Немецкий филиал его фирмы создал вычислительную машину, которая помогла вести учёт цыган и евреев с целью их дальнейшего уничтожения. Им присуждались номера, с которыми они потом отправлялись в концлагеря. Это ведь тоже была «форма цифровизации».

Имея номер, чип или браслет, человек приобретает много удобств, но одновременно становится подвластен Системе, им легче управлять. Хотя эту зависимость он может сразу и не осознавать.

Сверхчеловеки среди нас. Люди-киборги будут состоять из протезов и чипов? Подробнее

Для государства это очень удобно. И неудивительно, что впереди всех оказался Китай. Он внедрил у себя систему социального рейтинга наподобие той, что показана в фантастическом сериале «Чёрное зеркало». Помните, там у героини из-за неких совершённых ею действий понизился личный рейтинг, присваиваемый Системой, и начались проблемы? Так вот, это уже не фантастика, а реальность, иногда превосходящая предсказания.

Чем занять «лишних» людей?

— Контроль со стороны государства мы как-то не замечаем, а вот у бизнеса явно находимся под колпаком. Стоить набить что-то в поисковике, а иногда просто произнести — и вскоре сыпятся рекламные предложения на эту тему. При этом сама бизнес-элита всё чаще отказывается от гаджетов и цифровых услуг. Почему?

— Потому что они предназначены прежде всего для широких масс, грубо говоря — для бедных. Вся цифровая экономика на это ориентирована, поэтому бизнес и заинтересован, чтобы интернет стал доступен абсолютно всем. Отсюда эти проекты глобального интернета, который будет раздаваться со спутников Илона Маска или с дирижаблей Google по всему миру.

В то время как обычный человек будет покупать смартфон в кредит, заказывать товары в интернет-магазине и обучать ребёнка через онлайн-курсы, представитель элиты использует телефон по минимуму (для звонков и сообщений), одежду купит в бутике лично, чтобы можно было потрогать её руками, а детям наймёт живого учителя или отдаст их в частную школу, где всё построено на личном общении, а пользование гаджетами запрещено или ограничено. И, конечно, он пойдёт в ресторан, а не закажет доставку еды на дом.

Планшет вместо соски. Чем опасны гаджеты для малышей Подробнее

Состоятельные люди понимают, что живое общение ничто не заменит, поэтому они ценят его, но главное — могут себе это позволить. Я работаю в сфере образования и знаю, что есть спрос, например, на такую услугу, как частные лекции. Достаточно часто обеспеченная элита приглашает какого-нибудь известного профессора, который читает им лекцию в узком кругу за определённую плату. И все довольны.

— Есть прогноз, что к середине века появится «бесполезный класс» — лишние с точки зрения экономики люди, которые будут проводить время в виртуальных мирах и видеоиграх. Не получится ли, что общаться вживую будут избранные, а остальным предстоит сидеть в цифровых «коконах»?

— Такая опасность вполне реальна. Из-за роботизации и тотальной цифровизации всё больше людей будут терять работу. Допустим, базовым доходом их обеспечат. И не думаю, что это случайность: в последние годы целый ряд стран провели эксперименты по внедрению базовой выплаты всем гражданам, включая безработных — Германия, Финляндия, Швейцария, Канада... Правда, везде эксперимент провалился именно из-за того, что возникла проблема: чем заполнить «свободное» время людей?

Робот в хату? Почему технологии развиваются быстро, но не облегчают жизнь? Подробнее

Когда-то Карл Маркс говорил о свободном времени как о высшей ценности общества будущего, подразумевая, что в результате человек сможет заниматься прежде всего духовным самосовершенствованием. Но готово ли общество в его нынешнем виде предоставить условия для этого? Не проще ли будет погрузить население в некие отвлекающие от проблем развлечения, игры и т. д.?

Да и готов ли, наконец, сам человек к процессу самосовершенствования? Посмотрите, сегодня в интернете есть всё, в том числе прекрасные средневековые и античные библиотеки, читать которые можно всю жизнь. Но мы прекрасно понимаем, что количество их посещений мизерно, а основного потребителя интересуют совсем иные источники.

— Согласно статистике, это порносайты.

— В том числе и они, конечно. Но в более широком плане — источники прежде всего развлекательного типа. Это нам только кажется, что мы умнее тех людей, что жили до нас. Но как говаривал тот же Маркс, не смейтесь над прошлыми поколениями, ибо поколений, которые будут смеяться над вами, гораздо больше. Человек не слишком меняется в своей сущности.

«Инопланетяне среди нас». Какое на самом деле поколение Z? Подробнее

«Мы — периферийные устройства смартфонов»

— Вам не кажется, что это некий управляемый процесс, который кому-то нужен?

— Я не сторонник конспирологии. Не думаю, что кто-то направляет его. Скорее, это следствие развития технологий, которые стали пронизывать нашу жизнь. И мы не столько управляем, сколько погружаемся в этот технологический поток, не очень представляя, куда он нас вынесет. А это гораздо страшнее. Человек сам стремится к тому, чтобы заменить реальный мир виртуальным и стать полностью зависимым от политиков и корпораций. Ну а они лишь оседлали эту волну. На основе цифрового следа, который мы оставляем в Сети (запросы, лайки, геолокации), нам предлагают сформированную алгоритмами реальность, своеобразный «тоннель», внутри которого мы оказываемся. Система подсовывает нам то, чем мы интересуемся и в каком направлении должны действовать — как навигатор в машине, определяющий путь следования.

Мозг-конспиролог. Почему мы верим, что Билл Гейтс хочет всех чипировать? Подробнее

Поразительно, но это в каком-то смысле предсказал Платон в 360 г. до н. э. В своей знаменитой притче «Государство» он описывает ситуацию, когда люди с детства прикованы в пещере, не могут даже повернуть голову и лишь смотрят на тени на стене, которые отбрасывают находящиеся снаружи люди и предметы. «Такие узники целиком и полностью принимали бы за истину тени проносимых мимо предметов», — пишет Платон. Потом спрашивает: что будет, если мы освободим человека, снимем оковы и позволим ему смотреть не на тени в пещере, а на реальные предметы за её пределами? И отвечает, что «это крайне его затруднит, и он подумает, будто гораздо больше правды в том, что он видел раньше».

Интернет — это и есть виртуальная платоновская пещера. Попробуйте вырвать человека из неё — он тут же попросится обратно.

— Но раз процесс идёт сам собой, может, не стоит тревожиться? Значит, таков выбор человечества?

— Стоит, ведь деформируется личность. Когда для получения ответа на любой вопрос достаточно нажать на кнопку, некоторые функции памяти остаются невостребованными. Они могут быть в конце концов утрачены, как и очень важное наше качество — интуиция. 

У человека закрепляется игровое алгоритмическое мышление — он сначала делает, а потом думает. Как в компьютерной игре: надо быстро убить кого-то, а уже после над этим поразмыслить. Упрощённость действий деформирует характер принятия решений. И такая схема переносится в реальную жизнь — в случае принятия неверного решения не всегда удаётся просто перезагрузиться. Человек уже не чувствует себя ответственным за кого-то или что-то. Всё за него решают алгоритмы.

Путь к бессмертию? Что такое биохакинг и стоит ли ему следовать Подробнее

Поскольку в цифровом мире реальные события зачастую подменяет их имитация (сконструировать можно то, чего на самом деле и не было), человек уже с трудом различает, где правда, а где вымысел. И кто он сам в этом мире. А это уже серьёзная трансформация личности. Постепенно человек меняется местами с алгоритмами и искусственным интеллектом: не они ему подчиняются, а он им. Мы становимся периферийными устройствами своих смартфонов.

И это уже происходит. «Умные» часы говорят нам: «О, вы сегодня не прошли 8 тыс. шагов!» Пока это звучит безобидно, но, может, они скоро нас лёгким током будут бить, чтобы мы прошли эти несчастные 8 тыс. шагов? А потом, может быть, уже и не лёгким?..