Цифровизация. Между неземным раем и цифровой Фукусимой

ПЛАС: Цифровизация — главный тренд последних лет, который определяет вектор развития как небольших компаний, так и целых секторов экономики. О важности данных процессов для экономики и общества сегодня говорят очень много, в том числе с самых высоких трибун. Однако не выступит ли новая информационная среда изощренным инструментом воздействия на социум и манипуляции общественным мнением, отводящим на задний план любые вопросы этики и морали?

И. Ашманов: Нужно сразу сказать, что та цифровизация, которую нам подают в России под лозунгом «удобство», в рамках таких проектов, как «Цифровая экономика», — это гражданская цифровизация, а не военная.

Но если проанализировать, как развивается и продвигается искусственный интеллект за рубежом, мы увидим, что там речь идет в первую очередь о военных технологиях. Например, ИИ в США развивается не только в Google и Фейсбуке (которые тоже, по сути, стратегическое оружие США и подрядчики десятков военных контрактов Пентагона и разведки), но в первую очередь в военном институте развития DARPA, этой своего рода военной академии наук. Там финансируются сотни новейших стартапов по ИИ, во всех мыслимых направлениях (мы помним, что интернет, мобильная связь, система геопозиционирования GPS, система анонимного интернета TOR да и, судя по всему, биткоин были разработаны именно там).

При этом очевидно, что итогом быстрого одностороннего внедрения ИИ в военной промышленности наших оппонентов может стать возможность преодоления ими ядерного паритета для достижения мирового господства (даже если это в действительности будет не так, они могут в это поверить). Иными словами, гонка вооружений в области ИИ способна привести всех нас к третьей мировой вой не.

Но в целом использование искусственного интеллекта в военных разработках — это несомненное преимущество, пусть и связанное с появлением новых глобальных рисков. Здесь нам нельзя отставать ни в коем случае.

Однако широкое применение «гражданского» ИИ для госуправления, внутри общества без соответствующего законодательного регулирования (которое сейчас кардинально отстает) чревато полным уничтожением приватности, возникновением дискриминации по социальным признакам, новых особо опасных форматов криминала и коррупции.

Превращение индивидуальности человека в цифровой вектор может привести к тому, что человечество утратит все признаки «человечности», в том числе и пресловутые права человека на что-либо вообще. С вектором ведь можно делать что угодно, он как бы не человек и не вызывает угрызений совести.

Тем более что сегодня манипуляции общественным мнением, утечки персональных данных и иной критичной информации практически не наказуемы, по крайней мере у нас в России.

ПЛАС: Те или иные алгоритмы цифровизации сегодня применяются в самых разнообразных сферах, но так ли безопасны новые технологии? Не приведет ли их активное использование к созданию новых проблемных зон?

И. Ашманов: Для ответа на этот вопрос рассмотрим пример с повсеместным внедрением биометрии. Банки долго сопротивлялись, потому что понимали: массовая биометрия — активное поле для массовой же компрометации данных. Как вернуть и восстановить тот самый цифровой профиль клиента, сегодня не знает никто. Если утерянный и украденный паспорт можно заменить, заново обретя с новым документом все правовые возможности, то с украденными биометрическими данными так уже не получится.

К сожалению, сегодня мы живем в мире, где можно купить практически любую информацию о человеке. При желании можно, например, приобрести видеопуть конкретного человека за целый день, снятый с камер видеонаблюдения систем «Безопасный город» (такая уж это «безопасность»), и уж тем более — информацию о его ФИО, адресе, семье, банковских счетах, иных финансовых активах, кредитах, недвижимости, и многое другое.

В DarkNet — «темном интернете» сегодня можно купить практически всю перечисленную и многую другую информацию конкретного российского гражданина, и обойдется покупателю она менее чем в 10 тыс. рублей. За определенную плату можно воспользоваться функцией «невидимости» номера своего автомобиля, чтобы не приходили штрафы за нарушения ПДД, а при необходимости — сделать невидимкой для подъездных камер самого себя.

Вопреки расхожему мнению, цифровизация отнюдь не снижает количественные показатели и риски криминала, просто переводит их в другую, не менее опасную плоскость. И повышает удобство и массовость совершения правонарушений. Так, например, склонная к криминалу уличная «цыганка- гадалка» должна вас околпачить лично.

Однако преступнику, цифровому «разводиле» уже не нужен личный контакт один на один с вами. Он может веером рассылать свои фишинговые предложения десяткам тысяч людей и, используя социотехнику, отбирать наиболее внушаемых получателей, которые ему поверили. Таким образом, благодаря цифровизации его возможности не только не сокращаются, но и возрастают кратно. А вычислить его за многими слоями анонимайзеров становится гораздо труднее.

Сама коррупция, связанная с продажей персональных данных населения, становится еще более простой. Системный администратор, который занимается продажей мошенникам данных клиентов, например, в некоем банке, может, обладая достаточными правами доступа к журналам доступа к базе данных, просто затереть следы своего вмешательства, и никто ничего не докажет даже в случае возникновения обоснованных подозрений.

Что же касается ответственности за подобные деяния, то в настоящий момент, к сожалению, наблюдается полная их безнаказанность. В части привлечения к ответственности за утечку персональных данных царит настоящий правовой вакуум. Не случайно в СМИ практически не озвучиваются публичные процессы на данную тему — похоже, что их просто нет. В 2021 году было несколько уголовных дел против телефонных мошенников, но ничего не слышно про уголовные дела против их подельников- инсайдеров. К то-то же продал данные? Ведь подавляющее число утечек — это не взлом хакерами, а именно работа коррумпированных инсайдеров. В принципе, отвечать должны не только конкретные айтишники, укравшие и продавшие данные из базы, но и их начальство — хотя бы по статье «халатность». Но мы не слышим ни об уголовных делах против инсайдеров, ни об увольнениях и штрафах для их начальства. А данные продолжают продаваться.

Можно с уверенностью утверждать, что в ходе предыдущего «этапа цифровизации» так или иначе были скомпрометированы персональные данные фактически всех граждан России.

Ведь нам всем уже неоднократно звонили мошенники из «службы безопасности банка». Они знали не только ваш телефонный номер, но и как вас зовут, а порой и называли номер вашего кредитного договора. Откуда у них эти данные? Конечно же, украли или купили у недобросовестных сотрудников мобильных операторов или банков.

Согласно данным Банка России, количество «операций без согласия клиента» (смешной эвфемизм, да?) в 2021 году выросло на 38%, а их суммарный объем — на 52%, и это только за один год. Посудите сами — из карманов наших граждан было похищено 10 млрд рублей лишь за 2020 год (а МВД называет цифру 45 млрд), но мы по-прежнему не видим публичных процессов по наказанию виновных за эти вопиющие преступления. Больше всего расстраивает, что при этом страдает наиболее незащищенная категория граждан — пожилые люди и молодежь.

Самое активное направление мошеннической деятельности — это телефонное мошенничество. Только за минувшие годы были сделаны миллиарды таких звонков — настоящее цунами! При этом под видом заботы о повышении финансовой грамотности наблюдаются активные попытки государства и бизнеса переложить ответственность за потери от такого вида мошенничества на самих граждан, пропагандируя такое понятие, как «цифровая грамотность». Якобы граждане должны понимать риски и сами знать, что нельзя «вестись» на такие разводки. Но это все равно что советовать гражданам изучать приемы самбо и закупать «стволы» для защиты от разбоя, вместо того чтобы полиция навела порядок на улице.

Да, с этого фронта есть и позитивные сводки — с 1 декабря 2021 года телеком-операторов наконец-то в законодательном порядке обязали блокировать звонки с подменой номера, поступающие на телефоны россиян из-за рубежа. Странно, что такой закон не был принят раньше — до настоящего времени в результате телефонного мошенничество за рубеж ежегодно уходили десятки миллиардов руб лей.

Совсем недавно был выявлен новый вид мошенничества, жертвами которого стали по большей части пожилые люди, — рассылка писем по электронной почте с заявлением о необходимости скорейшего повторного прикрепления к поликлинике в условиях пандемии. В результате и персональные данные, и деньги доверчивых пенсионеров (да и просто наивных взрослых) попадают к злоумышленникам.

ПЛАС: Как цифровая трансформация отражается на той категории людей, которые имеют прямой доступ к персональным данным граждан?

И. Ашманов: По сути, в России на наших глазах зарождается новый общественный класс, формирующийся, перефразирую Маркса, по принципу отношения к цифровым средствам производства.

Это очень многочисленный класс, «пересекающий» все старые слои и страты общества: начиная с цифровых клерков, которые заняты в МФЦ или загсах и по долгу службы располагают доступом к базе персональных данных граждан, программистов, которые пишут базы данных, системных администраторов, которые эксплуатируют искусственный интеллект, ИТ-директоров и заканчивая чиновниками, которые всеми ими управляют и могут непосредственно влиять на принимаемые решения.

Этот класс получает новую, цифровую власть над обществом, которая делегируется ему не общепринятыми способами (выборы, назначения на должность, поручения и т. п.), а просто непосредственно, по факту доступа к данным и цифровым системам.

При этом у чиновников, которые как бы управляют ИТ-специалистами, зачастую банально не хватает квалификации, чтобы ими реально управлять, а зачастую они и сами неявно управляемы.

Повторюсь — эти люди чувствуют себя безнаказанными и совершенно свободными в распоряжении чужими данными, так как они, имея доступ к массовым персональным данным, погон не носят, никакой присяги не давали, а лишь, возможно, подписывали какие-то мало обязывающие корпоративные документы о неразглашении. В основном наказания следуют административные, да и они применяются крайне редко. Именно поэтому у представителей нового цифрового класса развилось чувство безнаказанности, дополненное понятным чувством превосходства. Ведь они получают эту власть над чужими судьбами и собственностью «по праву», как «самые умные». В результате мы наблюдаем сплошной административный восторг и полное отсутствие хоть какой-то этики поведения в цифровой среде. Стало как-то «все можно, ничто не стыдно».

ПЛАС: В свое время искусственный интеллект помог закончить Десятую симфонию Людвига ван Бетховена, взяв за основу несколько сохранившихся рукописных зарисовок и заметок. Может ли заменить искусственный интеллект творческое начало и создать новое великое произведение?

И. Ашманов: Люди, которые разбираются в музыке, понимают, что это имитация, причем довольно низкосортная. Но вполне может быть, что со временем уровень восприятия музыки населением упадет (да и сейчас, слыша рэп и шансон в такси, понимаешь, что он уже упал). И когда не останется тех, кто сможет отличить творение гения от сочинения компьютера, люди с удовольствием будут слушать некую примитивную синтезированную музыку, которую пишут «музыканты» без музыкального образования, просто нажатиями кнопок и сборкой из музыкального «Лего».

Но, может быть, тут все-таки есть некий встроенный барьер. Мы в свое время (еще в 1990-е) применяли для чтения новостей и словарей синтезатор речи и выявили настоящий феномен. Оказывается, мозг человека устроен так, что в какой-то момент он самостоятельно определяет, что беседует с машиной. Я с удивлением обнаружил, что зачастую слушаю русскую речь синтезатора, который читает новости, и не понимаю ни слова.

Мозг в какой-то момент решает: «Ага, это произносит не человек!» — и отказывается воспринимать. В итоге я слышу звуки русской речи, но не понимаю ее смысл.

Та же история с текстами, которые сейчас автоматически синтезируют по вводимой пользователем «затравке» разные так называемые бредогенераторы — сбербанковский, яндексовский и другие: там не удается погрузиться в смысл, глаз соскальзывает с текста через некоторое время — довольно короткое, уже после нескольких абзацев. То есть читать прямо не хочется.

Так что есть надежда — может быть, суррогаты все-таки не приживутся, в них совсем нет питательных веществ для ума.

ПЛАС: В конце октября 2021 года был подписан Кодекс этики искусственного интеллекта, разработанный с учетом требований Национальной стратегии развития искусственного интеллекта на период до 2030 года. Как вы оцениваете это событие?

И. Ашманов: Кодекс, безусловно, является своеобразной «дорожной картой» для компаний, которые работают с искусственным интеллектом. Он позволит более эффективно справляться с рисками в области информационной безопасности. Я участвовал в его редактировании, хорошо представляю, что удалось сделать, а что — нет.

В любом случае кодекс будет дорабатываться, технологии ИИ, реалии внедрения и использования ИИ в жизни быстро меняются и развиваются, нужно в каждый момент времени иметь продуманный и проработанный документ, который бы действительно являлся ориентиром и эталоном для ИТ-отрасли и эксплуатантов ИИ при разработке и использовании технологий искусственного интеллекта.

А для этого нужно проводить регулярное публичное обсуждение с привлечением широкого круга специалистов. Совсем недавно, 16 декабря 2021 года, Президентом РФ подписано поручение сделать такие обсуждения регулярными, цитирую:

«4. Правительству Российской Федерации совместно с Советом при Президенте Российской Федерации по развитию гражданского общества и правам человека организовать проведение регулярных общественных дискуссий и информирование общественности о преимуществах применения технологий искусственного интеллекта и рисках, связанных с их применением.

Доклад — до 1 февраля 2022 г., далее — ежегодно.

Ответственные: Мишустин М. В., Фадеев В. А.».

Только в таком формате может вырабатываться актуальный рабочий инструмент, позволяющий оперативно выявлять угрозы и находить пути их преодоления, иначе нас ждет цифровая Фукусима.