IT и смотри. Почему мир очарован цифровизацией и не видит ее опасностей?

Мир словно бы очарован цифровизацией. Такое ощущение, что человечество стоит на пороге прекрасного будущего, которое сулит нам сплошное счастье и комфорт: сейчас можно в несколько кликов купить что угодно, связаться с человеком на другом конце Земли, арендовать машину, заработать денег. Но, как мы хорошо помним, бесплатный сыр бывает только в мышеловке. 

О том, куда приведёт нас цифровой мир, могут ли в России отключить интернет и стоит ли восторгаться Илоном Маском, «АиФ» поговорил с предпринимателем в сфере информационных технологий Натальей Касперской — президентом ГК InfoWatch, председателем правления АРПП «Отечественный софт». 

Любая система уязвима

Дмитрий Писаренко, «АиФ»: Наталья Ивановна, современную реальность всё чаще сравнивают с романом «1984» и другими антиутопиями. Мы действительно движемся к обществу тотального контроля?

Наталья Касперская: Конечно, некоторым чиновникам нравится, что цифровизация повышает возможности контроля и безопасность. Например, по данным МВД, внедрение видеокамер в Москве резко уменьшило число квартирных краж и угонов автомобилей. Однако в то же время галопирующая тотальная цифровизация несёт риски полного контроля над личностью, ещё в середине XX века частично описанные в знаменитых антиутопиях Оруэлла «1984» и Хаксли «О дивный новый мир». Авторы, правда, предполагали немного другие технологии по осуществлению массового контроля над населением, но современные средства гораздо изощрённее. Описанное в романе «1984», по сути, уже реализовано и по части всеобщей слежки, и по части промывания мозгов и переписывания истории. И мы уже движемся дальше.

Прилипшие к экранам. Нужно ли вытаскивать детей из соцсетей? Подробнее

— Какие риски и угрозы выделяете прежде всего?

— О плюсах цифровизации говорят много, а о рисках упоминать не принято. Они часто недооцениваются. 

Между тем, риски затрагивают государство, общество и самых обычных граждан. Цифровизация нарушает частное пространство, фактически до его полного исчезновения. Гражданин везде оказывается «под колпаком». На улице, в транспорте, в торговых центрах, офисах и кафе на нас смотрят тысячи камер, способных распознавать лица. Это значит, что маршрут любого человека можно проследить. Если сюда добавить сбор данных граждан со стороны частных цифровых платформ: Яндекс, Гугл, Мэйл.ру, Сбер, их счётчиков, карт, поисковиков, кошельков и т.п., — то слежка становится тотальной.

Кроме того, электронные системы государственных услуг также собирают о нас большой объём информации. Безопасность вовсе не требует слежки за каждым (например, для борьбы с преступностью в городе с помощью камер достаточно распознавать лица злодеев по списку или все лица в некоторой пространственно-временной окрестности происшествия). А у нас вводят именно тотальную слежку — за лицами, маршрутами, коммуникациями.

При этом помимо риска использования чувствительной информации владельцами системы, есть и риски утечки данных. Помните, полгода назад была утечка данных о ковидных больных? Обещали, что эти данные будут уничтожаться через пять недель после того, как люди выздоровели, но этого не было сделано. И в результате сведения о 300 тыс. пациентов оказались в продаже на хакерском форуме.

На этом фоне сейчас многие государственные органы планируют внедрять биометрию. Биометрическая информация о гражданах будет храниться в защищённых базах данных, что не гарантирует отсутствия утечек данных, как в примере выше. Но в отличие от обычных персональных данных, биометрическая информация более чувствительна — она привязана к человеку навсегда, является частью его личности. Например, можно сменить фамилию или номер телефона, если он скомпрометирован, но нельзя сменить отпечаток пальца или рисунок радужки. 

Надо понимать, что любая информационная система уязвима. Пока ещё не создано системы, которую нельзя было бы взломать. Различия хорошо и плохо защищённой системы только в количестве ресурсов, которые злоумышленнику необходимо потратить на взлом. А привлекательные системы, содержащие ценные данные, постоянно подвергаются атакам. Таким образом, кража биометрической информации позволит подменять личность наиболее полным образом.

Как максимально защитить свою карту от мошенников? Элементарные правила Подробнее

Сейчас на разных площадках обсуждается решение о признании оригиналом документа его электронной копии. Это обосновывается удобством и повышением контроля, но повышает риски компрометации данных и документов. Цифровые документы гораздо больше, чем бумажные, подвержены утечке, краже, искажению, компрометации — с цифровым же заметанием следов. Это делает целевой аудиторией мошенников не одну организацию или один подъезд, а сразу всю страну, и создаёт принципиально новые типы массового мошенничества наподобие фишинга в электронной почте или веерных звонков «от службы безопасности вашего банка».

Уже известны случаи массовых мошенничеств с недвижимостью путём подделки цифровых кадастров и реестров (с помощью коррумпированных IT-специалистов). Кража идентичности также стала не сложнее, а проще с повсеместным внедрением «цифры». В США был случай: у одной женщины украли её учётные данные, и мошенники от её лица совершали преступления. Обвинения потом предъявили ей, у женщины были гигантские проблемы. 

«Чёрная метка» от искусственного интеллекта

— Часто говорят, что законопослушным гражданам волноваться не о чем — бояться видеокамер и цифрового контроля должны правонарушители. 

— Это не вопрос самоуспокоения, а вопрос того, что человек не имеет возможности контролировать, кто и как будет использовать информацию о нём. И никак не может повлиять на это. Допустим, кто-то выяснил ваш повседневный маршрут — куда и на чём вы ездите, где едите, с кем встречаетесь. Тогда он сможет на вас влиять, используя эти знания, предлагая вам неотразимую рекламу, вымогая у вас деньги или шантажируя вас. 

Кроме того, информационные системы, которые могут сами принимать решение о человеке — это тоже риск. Одно дело, когда решение, поражающее вас в правах, принимает человек, который несёт ответственность за это решение. И совсем другое, когда это делает искусственный интеллект (ИИ), с которого нельзя спросить. Приведу несколько примеров. 

Автоматическая выдача кредитов. Моему знакомому при попытке получить кредит в Сбербанке система мгновенно отказала по непонятной причине. Его внесли в списки неблагонадёжных заёмщиков, этот факт попал в Бюро Кредитных Историй, и теперь у него наверняка будут проблемы в других банках. 

Социальные рейтинги, которые уже вводятся в Китае и могут ущемлять граждан в правах, загоняя их на социальное дно, без суда и следствия. И, как и в случае с кредитом, непонятно, какие этические правила действуют и кем они заложены, а также куда жаловаться на неверные решения. 

Автономные системы. Беспилотные автомобили и промышленные роботы уже убивают десятки людей в год. Сейчас только у компании Tesla подтверждено 4 смерти по вине их «автопилота». 

На мой взгляд, право решений по значимым для граждан вопросам — медицине, жизнеобеспечению, образованию, праву — нельзя передавать искусственному интеллекту.

— Что скажете о китайском опыте, где благодаря цифровым технологиям каждому человеку присваивают рейтинг благонадёжности?

— Сейчас всё чаще в наших СМИ стали говорить о системе социального рейтинга в хвалебных тонах: мол, как это здорово, можно будет наказывать плохих и вознаграждать хороших! Но, во-первых, составление «Цифрового профиля гражданина» и любых социальных рейтингов — грубое нарушение закона о персональных данных (он прямо запрещает создавать единые базы персональных данных для целей «вообще») и Конституции, которая запрещает любые виды неравенства граждан, кроме установленных законом или судом.

Во-вторых, проблемой социального рейтинга является непрозрачность алгоритмов и решений. Какое правило сработало, какой программист его вписал — неизвестно.

Ну, и наконец, цифровой профиль (будущий социальный рейтинг) — это инструмент принуждения в прекрасном новом мире Оруэлла и Хаксли, куда цифровизаторы рассчитывают затащить всех, сделав такой рейтинг условием получения благ.

— Как вообще человеку вести себя в интернете, насколько можно раскрывать информацию о себе? Например, многие приложения запрашивают наше согласие на обработку данных, доступ к камере и микрофону. 

— Современная модель монетизации приложений на смартфонах работает с помощью продажи данных пользователей — наших с вами данных. Этим приложениям как-то нужно зарабатывать деньги, и они зарабатывают их тем, что продают сведения о нас. Тут не надо строить иллюзий, поскольку даже если вы не дадите согласия на обработку данных, доступ к ним может быть получен без вашего ведома. 

Что касается поведения в интернете, то тут надо соблюдать осторожность и приличия, как в реальной жизни. Большинство пользователей социальных сетей ведут себя совершенно бездумно. В реальной жизни человеку не придёт в голову излагать свои взгляды, интересы, пристрастия и тайные мысли незнакомым людям на площади, демонстрировать им фото своих детей и уровень дохода. Но в сети он почему-то это делает, не задумываясь, а ведь при помощи этой информации его можно оклеветать, начать шантажировать, ограбить его квартиру, когда он в отъезде, и т.д. «Френды» в соцсетях — это не обязательно друзья. У некоторых людей по 200 или 500 «френдов», большинство которых им малознакомы и равнодушны, а часть — может испытывать к хозяину аккаунта злобу или зависть. Нужно взять за правило, что всё, что вы публикуете в сети, вы публикуете для всех и навсегда. 

Кроме того, многие не понимают, что смартфон не является их личным пространством. И если со смартфона послать подруге интимное видео, как сделал один известный футболист прошлой осенью, то нельзя заведомо знать, кто получит к нему доступ на той стороне — подружка, её брат, отец или злоумышленник-шантажист. 

Откуда мошенники узнают личные данные потенциальных жертв? Подробнее

Есть ещё один риск, который люди недооценивают. Сейчас многие работодатели, нанимая сотрудников, изучают их страницы и поведение в социальных сетях. Так же поступают банкиры при выдаче кредита или просто партнёры по переговорам. Это надо учитывать при публичных коммуникациях в соцсетях и блогах. 

Можно ли отключить в России интернет? 

— Сейчас любая технология может иметь удалённое управление. Ваши слова: «Если цифровизация будет строиться на основе чужих технологий, мы на блюдечке подарим свою страну врагам». Где у нас слабые места?

— Имеющий контроль над технологиями и интернетом может влиять на экономику, критическую инфраструктуру, настроения масс. Как вы знаете, в нашей стране принята программа импортозамещения, в том числе в области информационных технологий. 

Наше самое слабое место в том, что большинство критических систем (транспорт, энергетика, финансы, госуправление) у нас зависимы от иностранных технологий. При этом в России довольно неплохая ситуация с собственным программным обеспечением. Например, у нас есть несколько своих операционных систем, но в основном для узкого специального или военного применения. Есть собственные офисный пакет, мессенджер, бухгалтерия, система управления предприятиями, есть широкий набор средств информационной безопасности... Есть система электронных госуслуг и своя медийная структура — поисковики, карты, соцсети, порталы.

С оборудованием дело обстоит хуже. В России делают свои процессоры, но они пока гораздо меньше распространены, чем западные аналоги. Микросхемы мы делать умеем, но не в массовом масштабе. Смартфонов своих нет — были попытки, но неудачные. 

А вот с собственной интернет-инфраструктурой у нас плохо. Система доменных имён, сертификаты шифрования в большинстве наших платформ — иностранные.

— Что в России можно отключить «одним щелчком» из-за границы?

— Теоретически многие современные технологии и системы могут быть отключены производителями через встроенные возможности удалённого доступа. Но сценарий внешнего отключения интернета в России, думаю, возможен лишь в случае «горячей» войны. До этого он маловероятен, поскольку наши заокеанские «партнёры» предпочитают на нас влиять как раз с помощью интернета. Вспомните активное вовлечение детей и подростков в протесты 19-23 января этого года при помощи социальных сетей. В нашей группе компаний есть сервис по анализу соцсетей Рунета, который обнаружил, что в накрутке протестных настроений (особенно детей и подростков) целенаправленно участвовали платформы YouTube и TikTok. Оказалось, что за 3-4 дня при такой интенсивной атаке можно полностью захватить сознание 5-7-классников. 

«Ой, это не тебе». 7 неловких ситуаций при общении в мессенджерах Подробнее

Гораздо более реалистичный сценарий технологической катастрофы — не отключение нам интернета, а технологическое удушение. Сейчас в Конгрессе США рассматривают законопроект, в котором предлагается запретить поставки новых технологий в Россию. Это будет для нас довольно сильным ударом, поскольку, несмотря на импортозамещение, технологически мы всё ещё сильно зависим от Запада. 

— Говорят, когда Путин велел наладить импортозамещение в сфере высоких технологий, он столкнулся с противодействием и заверениями, что «в России ничего своего нет». А причина в том, что у многих высокопоставленных чиновников уже сложились тесные связи с западными IT-компаниями, поделившими здесь рынок. 

— По многим направлениям своего действительно не было. Это неудивительно: до 2014 года у нас не было системной поддержки IT-разработчиков. Вся отрасль развивалась стихийно и на собственные деньги. А это сложно. Например, компании-разработчику программного обеспечения крайне сложно получить кредит, поскольку у неё нет залоговых активов — есть только интеллектуальная собственность, которую банки в залог не берут. А венчурный рынок у нас развит гораздо слабее по сравнению с Западом.

При этом надо понимать, что ситуация в стране была ассиметричная — российские компании развивались на свои средства, а мощные транснациональные корпорации приходили сюда с гигантскими деньгами и просто заливали ими весь рынок. Конечно, они сумели организовать мощное лоббирование. Только когда приняли программу импортозамещения, ситуация стала меняться. 

Пиарщик, надувающий пузыри

— Запад воздействует на молодые умы не только с помощью соцсетей, он очаровывает их медийными персонами наподобие Илона Маска, у которого толпы почитателей по всему миру. Как вы к нему относитесь?

— Маск — гениальный пиарщик, который умеет создавать впечатление и вызывать восхищение миллионов зрителей. Но при этом ему почему-то нравится представлять себя как гениального изобретателя, которым он, конечно, не является. 

Напомню, Маск начинал с того, что участвовал в создании маленькой платёжной системы, которая была продана за акции компании PayPal. Там его назначили гендиректором, но довольно быстро сместили, переведя в пиарщики. Когда PayPal продали, он получил свою долю денег и начал инвестировать. Первой инвестицией стала Tesla. Он не был её основателем, компанию ещё в 2003 году создали два инженера, с которыми Маск потом умудрился публично разругаться. Ему не нравилось, что они называли его инвестором, в то время как он требовал, чтобы его называли изобретателем. 

Присвоение авторства — это вообще такая американская фишка. Вспомните Эдисона, который считается автором множества изобретений, но по некоторым он просто сумел зарегистрировать своё авторство раньше реальных изобретателей.

В принципе, для бизнеса это полезно, когда во главе его стоит такой «заводной» человек, особенно если все его считают гениальным изобретателем. Стив Джобс тоже был таким «заводным» и фотогеничным, хотя он, в отличие от Маска, сам придумывал свои продукты. Правда, делал это лишь в одной довольно узкой области бытовой электроники и потребительского дизайна. Маск же заявляет, что он создал то платёжную систему, то электромобиль, то космический корабль. Мне кажется, нельзя быть изобретателем в настолько разных областях.

— Но Леонардо да Винчи был... 

— Он жил несколько веков назад и был универсальным гением, да и то значительная часть его изобретений была лишь на бумаге, в схемах. С тех пор области человеческой деятельности значительно усложнились, разбились на очень узкие специализации. В наше время невозможно быть «гениальным изобретателем» и платёжной системы, и электромобиля, и космических аппаратов. 

— Так зачем Илону Маску помогают поддерживать такой образ? Кому это выгодно?

— Это типичная американская модель раздувания бизнес-пузырей. Она характерна исключительно для Америки, нигде в мире это больше не работает — ни в Европе, ни в Азии, ни в России. У США есть печатный станок, поэтому там такое возможно. Компанию «надувают», выводят на рынок и повышают её капитализацию разными способами, например, с помощью продвижения «гениального основателя». Я с такой технологией знакома, в своё время мы в течение многих лет так делали в «Лаборатории Касперского». 

Вообще личный бренд и раскрутка инновационности работают очень хорошо. Посмотрите, какая у Tesla капитализация. Она выше, чем у Ford, Honda, BMW, GM, Daimler, Volkswagen и Toyota, вместе взятых! При этом Tesla за прошлый год произвела 500 тыс. машин и имеет выручку в 35 млрд долларов, а эти компании произвели в 100 раз больше автомобилей и имеют суммарную выручку больше триллиона долларов. 

Очевидно, что капитализация Tesla строится на завышенных ожиданиях инвесторов, которые достигаются, в частности, за счет медийной раскрутки, рассказах об инновациях и личности самого Маска. Никакими экономическими соображениями разрыв в два порядка в капитализации объяснить невозможно.