Игорь Ашманов о борьбе России за цифровой суверенитет и философе Александре Зиновьеве

 

«В правительстве и парламенте продолжается борьба по поводу контроля над западными платформами»

— Игорь Станиславович, последние пару лет даже на Западе соцсети и другие IT-компании подверглись серьезному давлению. Так, в 2019 году проигравшая президентские выборы в США Хиллари Клинтон заявила, что Марк Цукерберг должен «заплатить» за нанесенный удар по демократии. Параллельно с этим конгрессмен-демократ Александра Окасио-Кортес обвинила основателя «Фейсбука» в том, что он «принимает активные и агрессивные решения, которые ставят под угрозу выборы». И чем ближе дело шло к выборам-2020, тем количество таких заявлений росло. В итоге IT приняли самое деятельное и плохо скрываемое участие в игре на стороне демократов, и Байден победил, не без их активного участия. Здесь мы видим своеобразную цепочку воздействия американских политиков на транснациональные IT-корпорации, а тех — на общество, в данном случае на избирателей? И ни о какой декларируемой независимости этих IT-гигантов речи на самом деле нет?

— Небольшое отступление, для иллюстрации. В сентябре 2016 года мы проводили семинар для чиновников по всяким информационным технологиям, для выработки общего языка и системы понятий. Это было как раз перед выборами, на которых победил Трамп. На том семинаре присутствовал Андрей Безруков —  наш разведчик, который провел под прикрытием в качестве нелегала 24 года в разных странах, и около 20 лет в США. Как канадский бизнесмен он являлся специалистом по стратегическому консультированию, у него была своя консалтинговая фирма. На нашем семинаре он делал доклад про устройство американских аналитических центров (так называемых Think Tanks) — сколько их, на что влияют, как они строят свою работу. Мы его спросили: ну а Трамп-то победит или нет? Безруков сказал, что Трамп, скорее всего, не победит, потому что против него в США вообще все — медиа, финансисты, военные, элита.

Но в целом в политике США и во внутренней политике идут некие волны смены общественной повестки (довольно медленные, занимающие десятилетия) — от подъема жадности, жлобства, жажды наживы и успеха, когда все хотят обогащаться и забывают о справедливости (и растут расслоение и нищета), до, наоборот, взлета жажды справедливости, когда общество, уставшее от произвола богатого истеблишмента, вдруг начинает хотеть равенства и справедливости, и тогда появляется масса социальных программ, мелкий бизнес процветает, простым людям хорошо. Такая синусоида общественных ценностей. После Второй мировой войны в США, например, случился период запроса на справедливость, плюс эйфория победы и конца войны, поэтому Америка была другой: люди были сыты, счастливы, много работали и много зарабатывали, имелись перспективы, путь к успеху, американская мечта.

В последнее время, 20–30 лет, у них наблюдался серьезный провал в справедливости. Богатые очень сильно богатели, бедные нищали, росло расслоение, на этом фоне появился новый запрос на справедливость, который Трамп поймал и выразил. Его, конечно, поддерживают, но почти тайно, потому что весь истеблишмент страны, весь финансовый мир, армия, все СМИ, все интернет-СМИ и все интернет-гиганты против Трампа. Почему? Потому что их эта ситуация расслоения и обогащения элит полностью устраивает. Они называют себя либералами, но это не имеет большого значения — это просто плотно слежавшаяся элита, хозяева жизни, которые прогнули общество под себя и продолжают прогибать. Так что Трамп, сказал Безруков, скорее всего, проиграет, а выиграет уже в следующий раз.

«Трамп после своей неожиданной победы не сделал никаких выводов из этого. Видимо, он увидел, что выборы не подтасовывали, расслабился и начал вести «твиттерную» политику. А вот его оппоненты свои выводы сделали».

— Но Трамп выиграл.

— Но Трамп выиграл. Это был шок для либеральной Америки. Я разговаривал с людьми, которые работают там в университетах, и там был просто коллективный траур, потому что американские университеты ультралиберальные, и там продвигаются все эти ЛГБТ-маргиналы, Black Lives Matter и прочие экстремистские движения. Потом в университетской и центральной прессе в США можно было прочесть статьи о том, что в некоторых университетах после победы Трампа создавались специальные «плакательные комнаты» (cry-in rooms and sessions), куда предполагалось прийти и совместно переживать. Потому что большинство студентов, аспирантов и многие молодые преподаватели-миллениалы уже выросли в мире, где никогда такого не было, чтобы у них что-то не получалось и им кто-то в чем-то отказывал. Там в университетах вообще к настоящему времени создана идеология, что главное в университете вовсе не давать знания, а создать комфортную среду для обучающегося, так называемый safe space (безопасное пространство), где он не может услышать ничего неприятного для себя и получить психотравму.

Поэтому расстроенные, шокированные победой Трампа, непривычные к неудачам студенты и преподаватели приходили плакать в эти комнаты. Туда заносили печеньки и кофе, заводили пушистых собак, чтобы их гладить и успокаиваться, и все из-за победы Трампа. Я не шучу, это все реальность, можно почитать вот тут, например.

Надо понимать, что по предвыборным исследованиям за Трампа было порядка 25 из 500 наиболее популярных американских СМИ, то есть всего 5%. И все интернет-гиганты, конечно, «топили» за Клинтон. Они это делали и раньше, ранее они «топили» за Обаму. Они давно занимались политикой и смещением повестки в поисковых результатах, лентах соцсетей и тому подобным. Но в этот раз — в 2016 году — похоже, никто из элит еще не задумывался о том, как подтасовывать эти выборы, потому что все считали, что у Трампа нет шансов и подтасовывать ничего не надо, выборы будут чистой формальностью. Хотя у них старая, замшелая система выборов, люди голосуют часто простым карандашом, показывая какую-нибудь метрику о рождении без фото, мертвых голосует всегда очень много (известно, например, что в 1960 году за демократа Кеннеди против республиканца Никсона проголосовало довольно много мертвых «избирателей»).

Так что интернет-гиганты изначально были за Хиллари Клинтон, но Трамп после своей неожиданной победы не сделал никаких выводов из этого. Видимо, он увидел, что выборы не подтасовывали, расслабился и начал вести «твиттерную» политику. В его аккаунты набились 80 миллионов пользователей, и он решил, что жизнь удалась. Нет, конечно, он работал президентом: занимался экономикой, налогами, ездил по стране, даже бомбил Ближний Восток (без этого президенту США сейчас никак нельзя), но к следующим выборам, похоже, не готовился вообще. А вот его оппоненты свои выводы сделали. И выполнили свое домашнее задание. Они очень системные люди, которые свои деньги и власть получили не просто так. Они за четыре года правления Трампа создали систему подтасовки результатов выборов при помощи голосования по электронной почте, договорились со всеми верховными судами штатов, что те не примут иски по голосованию от Трампа, договорились со всеми организациями и институциями, которые должны были передавать власть, о том, что они не откажутся передать власть новому президенту Байдену после подтасовок. В итоге выборы оказались массово подтасованы, все, кто нужно, сразу признали их результаты, Байден фактически захватил власть переворотом.

Они, помимо всего этого, усилили управление интернет-гигантами. Они прислали практически в каждую из этих компаний непосредственного куратора. То есть вместо телефонного права начали управлять прямо на месте, в офисе. Можно поискать в новостях за эти четыре года — вы найдете регулярные сообщения о том, что в совет директоров или в управляющий менеджмент такой-то интернет-компании вошел бывший разведчик или представитель Пентагона. Таким образом, систему управления этими компаниями сделали практически автоматической.

Так что рассуждения, что руководство интернет-гигантов вызывали в конгресс, чтобы обвинить в том, что они плохо себя вели во время выборов, не совсем правда. На самом деле они и так изо всех сил «топили» за правильного кандидата, за Хиллари Клинтон, и речь там шла о другом. От них требовали поклясться, что на новых выборах осенью 2020 года они сделают все правильно, помогут Байдену. Их вызывали и поодиночке, и оптом, например, в августе вызвали в конгресс сразу четыре интернет-компании, где их в буквальном смысле поджаривали на сковородке в течение нескольких часов, заставляя дать обещание, что все будет хорошо и они помогут Байдену. Это все происходило публично, можно найти ролик и посмотреть. Потому все разговоры о том, что интернет-платформы сейчас настолько усилились, что они поднялись над миром и чуть ли не управляют им, что они стали выше государства, настал новый феодализм, — это все иллюзии. Все эти цифровые компании подчиняются исключительно правительству США, которое сейчас полностью совпадает с демократами, на которых они и раньше работали.

— Эти компании работают и в России, а из того, что вы сказали, получается, что де-факто это иностранные агенты влияния, проводящие определенную политическую линию, и ни о какой независимости и неангажированности речи там нет?

— Совершенно верно. Давайте посмотрим, а что у нас вообще в рунете есть? Западные цифровые платформы, такие как Google, «Фейсбук», «Твиттер», Youtube, «Инстаграм», TikTok и так далее, владеют контрольным пакетом рунета, потому что и пользовательских аккаунтов у них больше половины, и показов, и рекламы. Видеопоказов у западных игроков, наверное, вообще больше 90 процентов, это потому, что у нас, по сути, нет аналога Youtube. Еще в отношении видео сейчас добавился TikTok. Он пока еще не вполне американский, но точно не наш. Если вы помните, уже полгода в США идет драка за то, чтобы TikTok продал свою контрольную долю какой-нибудь американской компании. В конце прошлого года, когда еще Трамп был у власти, в качестве такого навязанного покупателя называли Oracle Corporation.

Таким образом, западные цифровые платформы у нас во многом доминируют. Да, у нас есть своя, самая популярная в рунете социальная сеть «ВКонтакте», но среди поисковиков, которые во многом формируют повестку для пользователей, потому что они ранжируют новости, сайты, понятия и так далее, как считают нужным по своим закрытым алгоритмам, тоже почти половину поисковых запросов исполняет американский Google. Может, чуть меньше, чем «Яндекс», но не намного. Видеохостинга, сравнимого с Youtube, повторю, у нас вообще нет. Аналога «Твиттеру» нет. То есть по факту они здесь оперируют довольно свободно и очень сильно влияют. Если добавить к этому, что они полностью подконтрольны своему правительству, работают исключительно в своей юрисдикции, по законам США — о чем они везде и всегда говорят, — то надо признать, что да, это очень влиятельные иностранные агенты в нашем медийном пространстве.

 

— И как понимание этого влияет на действия властей РФ, людей, которые принимают решения?

— Прежде всего нужно понимать, что Google, «Фейсук» и «Твиттер» не единственные иностранные агенты в нашей стране. У нас уже есть закон «Об иностранных агентах», причем он с юридических лиц уже распространен и на физические. Сейчас уже и физлицо, занимающееся здесь политикой и публичной деятельностью, можно признать иностранным агентом.

И это, в общем, правильно, потому что у нас таких политиков на иностранном содержании много. Несколько лет назад, например, был такой эпизод, когда какая-то наша спецслужба сняла на видео разговор в кафе известного «правозащитника» Льва Пономарева*, заслуженного деятеля этой правозащитной сферы, с японским дипломатом, где Пономарев* прямо говорил японцу, что вот, мол, «зря вы нам денег не даете, а то мы бы на вас поработали; вот нам дают бюджеты американцы и шведы, и мы для них работаем». «Для шведов, например, мы бузим в Карелии, — говорил Пономарев*, — и пытаемся уговорить карелов, что у них с русскими ничего общего нет, что они всегда от русских страдали, что они должны отделиться от России, и так далее. Вы нам дайте денег, и мы начнем работать по теме отделения Курил от России».

Это видео было выложено в сеть, но таким деятелям, как Пономарев*, плюй в глаза, все божья роса. Сейчас он наконец признан иностранным агентом. Что ему, кстати, ничем не грозит, кроме требования ставить такой маркер в статьях и публичных выступлениях.

Это я все к чему говорю? У нас довольно много людей, которые помогают западным платформам или противодействуют принятию законов, которые могли бы контролировать или ограничить политическую, пропагандистскую деятельность западных цифровых платформ. Да и просто заставить их убирать незаконный контент. Поэтому до определенного момента в обществе и государстве у нас с западными платформами шла такая довольно вялая борьба, хотя в целом нашим законодателям постепенно удавалось проводить законы о том, что должна быть ответственность за контент и эти платформы обязаны удалять то, что у нас считается незаконным.

У нас, к сожалению, и в Госдуме, и в Совете Федерации, да и в правительстве довольно много людей, которые являются совершенно искренними западниками. Они, живя здесь, зарабатывая здесь деньги и управляя вверенными организациями, душой находятся на Западе. Есть стандартное представление о том, что у них там деньги, счета, активы, недвижимость и дети там учатся, вот они продвигают здесь западную повестку. Но дело даже не в этом, а в том, что им просто там нравится. Они душой повернуты к западной цивилизации, они хотят быть европейцами; у них отношение к России такое, что эту, как пел Высоцкий, вязнущую в рыжей грязи, «сонную державу, что раскисла, опухла от сна», нужно обязательно вздернуть, растрясти, построить в общем ряду с западными государствами. Естественно, на подчиненном положении, ну а как еще? Там же Цивилизация, а у нас тут колхоз. Надо взять методички Всемирного банка, еще какие-то из ЕС, сейчас полно таких по цифровизации, например, по «устойчивому развитию» — и вперед.

Сейчас у нас в правительстве и парламенте продолжается борьба по поводу контроля над западными платформами. Выше я сказал, что это было трудно до определенного момента, а именно до начала этого года. Потому что совершенно шоковая атака в Youtube и TikTok 21–23 января, когда данные цифровые платформы начали затаскивать всех на митинг, похоже, кое-что изменила в головах. Те, кто и так занимался введением законов о контенте, о том, что должны быть представительства этих компаний здесь, и так далее, поняли, что время уходит и надо двигаться энергичнее. А у тех, кто им противостоял, сейчас просто закончились аргументы, возможно, временно.

Надо еще напомнить, что большинство западных интернет-компаний, хотя они здесь зарабатывают деньги, показывают и продают рекламу, а также очень энергично оперируют в политическом поле, не имеют здесь официальных представительств. Скажем, у Google есть офис, но он занимается исключительно вопросами продажи рекламы. TikTok имеет здесь, условно говоря, одного юриста. Прочие западные платформы типа «Фейсбука», «Твиттера» и других, в принципе, имеют здесь каких-то людей, которые могут прийти куда-то, поговорить, посидеть в президиуме, но по сути ничего не решают. Они даже постепенно начинают платить какие-то налоги в нашей стране (не полностью), но официального юридического лица здесь, как правило, не имеют.

Есть теория, что если заставить иностранных интернет-игроков создать тут официальные представительства, то, возможно, станет проще указывать им на нехороший, не законный в России контент и требовать его удаления. Обычно ссылаются на опыт Турции, которая в июле 2020 года приняла закон о регулировании соцсетей, который, в частности, обязывает иностранные социальные сети открыть свои представительства в стране (это касается популярных соцсетей, у которых ежедневная аудитория превышает миллион человек). За нарушение сначала возьмут штраф, а потом могут ограничить посещаемость и запретить размещать рекламу. Соцсети также будут обязаны удалять оскорбительные сообщения в досудебном порядке, а в случае отказа им грозит штраф. Кроме того, законопроект обязывает компании хранить персональные данные турецких граждан на территории страны.

Казалось бы, вот — решение найдено, нужно копировать. Но, во-первых, Турция на той стороне, она член НАТО, не является идеологическим противником Запада. Во-вторых, пока ничего, кроме принятия самого закона, у турок толком не получилось. Представительства до сих пор не созданы. Сейчас там выписывают штрафы «Твиттеру» и прочим, а кроме того, запрещают местным рекламодателям размещать рекламу в иностранных соцсетях, пока те не исполнят закон. В общем, нужно еще посмотреть, что получится у турок.

Ну и в-третьих, все равно непонятно, каким образом наличие коммерческого представительства поможет прекратить попытки оказать политическое влияние. Надо понимать, что в США маски уже сброшены, цифровые платформы начали участвовать в политической борьбе совершенно открыто. У себя-то в стране они забанили законно избранного президента, не моргнув глазом, в нарушение любой демократической этики.

«Принятие законов с целью повлиять на западные интернет-платформы у нас будет усиливаться и ускоряться»

— Да, была информация о том, что жесткий удар нанесен по любимой соцсети сторонников Трампа Parler, которая утверждала, что никогда не опустится до цензуры. В итоге Amazon, на серверах которого размещался сервис, попросту разорвал договор после беспорядков в Капитолии, обвинив Parler в том, что соцсеть плодит теории заговора. Приложение Parler удалили со своих платформ Apple и Google, а не имевший запасных вариантов сервис стал недоступен пользователям. Это тенденция — запугивание интернет-компаний и платформ с тем, чтобы они следовали определенным политическим установкам?

— Да, альтернативный «Твиттер» — Parler — уничтожили в нарушение всех договоров, снесли с серверов Amazon в нарушение договора о хостинге. Этим они прямо заявили, что занимаются политикой. Они забанили собственного президента без суда и следствия. А уж нас-то чего жалеть?

Похоже, что принятие законов с целью повлиять на западные интернет-платформы у нас будет усиливаться и ускоряться. Понятно, что западные цифровые гиганты станут сопротивляться, поскольку работают в своей американской юрисдикции, и понятия о прекрасном у них другие. Например, у них почти повсеместно легализованы некоторые наркотические вещества, потому они считают, что могут об этом и ролики показывать, и тексты публиковать, да и вообще наркотики для них не являются такой остро осознаваемой проблемой, как для нас.

Влиять на них можно юридически и экономически, но пока они практически не платят штрафы, которые на них по закону накладывает регулятор Роскомнадзор за публикацию незаконного контента. Даже если и платят (иногда) — штрафы эти маленькие. Я слышал аргументы наших законодателей, что система штрафов должна быть сбалансированной: мол, не может быть, что с одних экономических субъектов мы берем за первые нарушения сотни тысяч или миллионы рублей, а с цифровых игроков — сразу миллиарды, мол, так нельзя. Но в Европе с них берут миллиарды. Причем в евро. Российские же штрафы, максимум несколько миллионов рублей, западные цифровые гиганты с оборотами в десятки миллиардов долларов, могут платить, например, раз в минуту.

В 2021 году в наших законах наконец появилась похожая на европейские норма о том, что при повторных нарушениях для соцсетей может быть уже оборотный штраф, то есть в виде доли до 20 процентов от всего годового оборота этой компании. Причем в законе прямо не сказано, от какого оборота — мирового или только на нашей территории, что, вообще говоря, дает Роскомнадзору и другим регуляторам довольно широкие возможности. Проблема в том, что надежных механизмов взимания этого штрафа пока не существует.

То есть можно предъявлять требование о штрафе, требовать, но гоняться за ними по миру и доказывать в западных судах свою правоту, скорее всего, бесперспективно. Это практически негде делать, нет таких международных юрисдикций, а если бы и было где, мы такие суды в условиях нарастающей политической и информационной атаки на Россию практически гарантированно будем проигрывать. А здесь у западных платформ представительств нет.

При этом штрафы надо брать, конечно, в долларах, а не в рублях, потому что, когда западные компании в своем офисе в Ирландии или США получают требование уплатить штраф в рублях, они, я подозреваю, его просто в корзину выбрасывают, и все. В общем, нужно штрафы увеличивать многократно и брать их в долларах.

Например, механизм экономического принуждения к исполнению российских законов мог бы быть таким, что все, кто хочет работать в нашей стране, продавая рекламу, должны для сбора денег за эту рекламу иметь счет в аккредитованном банке. Тем отечественным рекламодателям, кто хочет платить за рекламу в Google, в «Фейсбуке» и «Твиттере», разрешается это делать, только платя в определенный банк. В таком случае, если платформа хулиганит и не исполняет требований регулятора, то можно перехватить транзакции и просто списать данный штраф с рекламных денег.

Но в любом случае коммерческий контроль, скорее всего, не повлияет на политическую пропаганду. Надо понимать, что законы, исполняемые регулятором Роскомнадзором, — это про нехороший контент: про наркотики, детское порно, экстремизм, терроризм и так далее. К фейкам, накруткам, пропаганде и политической рекламе это все не относится.

Например, совершенно дикая принудительная раскрутка платформой YouTube ролика про «дворец» 19–23 января этого года и призывов идти на митинг не относится к запрещенному контенту. А ведь к такой раскрутке сама платформа YouTube очень сильно приложила руку. Подобной услуги по рекомендации смотреть этот ролик из каждого места, из каждого списка, окошка, из каждого утюга (у них это называется «фичеринг») нельзя купить у Youtube, ее нет в прайс-листе. И накрутить извне такой «фичеринг» тоже нельзя. То есть это YouTube сделал сам.

Такая же история с видеосервисом TikTok, который 19–22 января раскручивал популярными тэгами призывы к малолеткам идти на митинги. Это сама платформа делала, а не «независимые авторы» видеороликов.

— Как пишет западная пресса, последние 5 лет в работе интернет-гигантов все заметнее становятся манипуляции. В первую очередь они коснулись алгоритмов, которые автоматически решают, какой контент следует показывать пользователю в зависимости от его предпочтений, что является для него важным и необходимым и так далее. Алгоритмы регулярно обновляют для «улучшения пользовательского опыта». Например, Google каждый год вносит порядка 3,6 тысячи изменений в поисковик. «Фейсбук», в свою очередь, ежегодно проводит несколько больших модификаций. Формально это чисто технические и технологические обновления, но они же кардинальным образом влияют и воздействуют как на единичного пользователя, так и на аудиторию в целом и манипулируют ей. Как юридически связать эти две темы — технологии и манипуляции мировоззрением? Нас ведь это тоже касается или нет? 

— Это стандартная «отмазка» поисковиков и социальных сетей: «у нас работают роботы, все решают алгоритмы», «мы ничего не подкручиваем руками», потому какие претензии? В данной связи выскажу два очевидных соображения.

Во-первых, все алгоритмы, конечно, пишут люди, программисты, и довольно много правил, как поступать в том или ином случае, туда вносится непосредственно, вручную. Никакого автоматического формирования основных правил не бывает, какой бы самообучающейся система ни была.

Естественно, у всех цифровых платформ есть рубрикатор контента для автоматического распознавания рубрики каждого сообщения, ролика, фото и тому подобного. Дальше, после распознавания, в дело вступают так называемые «политики» платформы, в которых заложены решения по каждой рубрике: что допустимо, а что — нет. Скажем, детское порно практически везде и на всех платформах запрещено политикой и в большинстве случаев блокируется автоматически. И эти решения вписывают в политику платформы специально уполномоченные люди, вручную — так как политика никогда не формируется автоматически.

Во-вторых, менеджмент и сотрудники всех платформ, конечно, вмешиваются в работу алгоритмов, когда это нужно политически или экономически.

Вы же не думаете, что аккаунт Трампа в «Твиттере» в январе 2021 года внезапно самостоятельно и автоматически заблокировал какой-то алгоритм? Ну, конечно, нет. Трампа и всех его самых популярных сторонников (а это как минимум сотни пользователей) заблокировали, разумеется, вручную, прямо по списку. Когда нужно, политическое руководство компании или куратор, присланный из политического руководства США, решают, кого заблокировать.

Нет, на платформе, конечно, есть основной бизнес-процесс, когда алгоритмы автоматически блокируют что-то, что в США является нехорошим. Алгоритмы эти часто работают так себе, потому что поток контента гигантский, а распознавание «нехорошего» нередко делается просто по ключевым словам.

Вы можете даже в русскоязычном пространстве соцсетей увидеть такую работу автоматических алгоритмов. Скажем, вы написали в посте слово «хохлы», вас тут же забанили в «Фейсбуке». Дальше, если вы напишете жалобу, вас спустя какое-то время, может быть, разбанят. Но, скорее всего, вас просто заблокируют на несколько дней или на месяц. Такие автоматические решения могут приниматься при анализе изображений и видео — по ключевым образцам. Вы помните наверняка, как в прошлом году «Фейсбук» заблокировал прямо перед 9 Мая знаменитую фотографию с нашими солдатами, устанавливающими Красное знамя над Рейхстагом. После многочисленных жалоб «Фейсбук» ее разблокировал, сославшись на ошибку алгоритма. Очевидно, данное правило (если это все-таки было правило) оказалось очень простым, например общий запрет советской символики и красных знамен.

Есть в социальных сетях и более сложные ИИ-алгоритмы для создания рекомендаций контента, которые формируют вам персональную ленту, но всякий раз, когда возникает серьезный политический или идеологический вопрос, решения, конечно, принимаются людьми.

Но для публики пиарщики цифровых платформ рассказывают истории о том, что все решает беспристрастный ИИ. Конечно, несколько сотен наших прогосударственных каналов, которые в 2021 году забанили в YouTube, заблокировал не нейтральный алгоритм ИИ. Там многие каналы были вообще просто новостными, без каких-либо признаков государственности или нарушений политики YouTube. Там вполне конкретные люди, я думаю, со званиями, с погонами сидят и смотрят, какие каналы наиболее неприятны и вредоносны для их идеологической системы. И заставляют цифровые платформы их блокировать.

Как с этим бороться юридически или экономически? Высказываются предложения: а давайте мы заставим эти цифровые платформы публиковать свои алгоритмы, чтобы можно было в открытом виде их посмотреть, удостовериться, что в них нет этой зловредной, перекошенной политики.

На самом деле это не имеет смысла, потому что данные алгоритмы очень обширны, в них миллионы строк кода, которые непонятно, как прочитать и проверить за разумное время и деньги. Но проблема даже не в недоступности или трудоемкости проверки «оригинального» алгоритма, а в том, что он каждый день разный. Алгоритмы ранжирования, рекомендаций, оценки контента обновляются каждый день, а скорее ежечасно. Например, в поисковиках (Google, «Яндекс», Mail.ru) все время идет машинное обучение алгоритма ранжирования результатов поиска, на пользовательских сессиях — на том, по каким результатам щелкают пользователи. Так что условная «формула релевантности» там каждый час разная.

В общем, короче говоря, задача с открытием алгоритмов плохо решаемая, но самое главное, что ее решение ничего не даст. Скорее, нужно, чтобы эти цифровые платформы на уровне своих политик приняли и исполняли единый кодекс поведения в нашей стране. Ну, например, чтобы у всех было единое пользовательское соглашение, где они прямо заявляют, что исполняют законы Российской Федерации, где подробно перечисляется, чего нельзя делать, и чтобы они реально работали по такому пользовательскому соглашению. Это все равно не даст никакого эффекта по отношению к пропаганде, манипуляции, подсовыванию вам в ленту того, что они считают нужным, раскрутке пропагандистских роликов. Но, по крайней мере, с плохим контентом это как-то позволит бороться.

В общем, я лично здесь технического решения не вижу. Кроме тех мер, которые применяет Роскомнадзор, замедляя «Твиттер», угрожая и так далее. Это техническое решение, но оно не на уровне отдельных аккаунтов и отдельных страниц, а просто такая дубинка, которая учит уму-разуму.

 

«Мы сейчас видим в социальных сетях огромное количество замкнутых групп, я их называю «семантические капсулы»

— Еще вопрос о сортируемом контенте. Глобальные платформы все активнее предлагают так называемый прогрессистский контент, например фильмы про хороших черных и плохих белых, про добрых трансгендеров и злых священников, про хороших и правильных американцев и плохих русских и так далее. Но отслеженным сетью консерваторам этого стараются не показывать, ограждая их от таких произведений, угадывая то, что им по вкусу. Как итог, в обществе стремительно растет раскол, формируются, по сути, две его совершенно разные части, которые живут в параллельных инфомирах. А потом эти части общества, которые зомбируются на взаимоисключающих друг друга инфопродуктах, стравливают между собой, и вот вам гражданская война. Не надо никакой агрессии, граждане сами разрушат власть в своей стране и саму страну, поубивают друг друга и зачистят территорию для внешнего управления. У нас эта линия глобальными интернет-компаниями тоже проводится?

— Ну начнем с того, что люди сами по себе склонны сбиваться в стаи, секты, тусовки и прочие замкнутые психологические группы. То, что мы сейчас видим в социальных сетях, — это огромное количество таких замкнутых групп, я их называю «семантические капсулы» (другие исследователи называют их «эхокамеры», «социальные гетто» и тому подобное), которые сами по себе зацепились за какую-то тему, развили на ней так называемую этическую истерику и варятся в собственном соку, стараясь втянуть и приобщить как можно больше новых адептов.

В соцсетях, например, очень активны группы экстремистских экологов, которые считают, что природа главнее всех, оголтелых зоозащитников, которые полагают, что собаки лучше людей, а люди — сволочи, которых не жалко. Радикальных феминисток, которые думают, что у нас в стране женщины подавлены, у них меньше прав, им меньше платят, угнетают и подавляют «культурой изнасилования». Какие-нибудь child-free (что в переводе означает «свободный от детей»), уговаривают себя, что им не нужны дети, что дети отвратительны, что эти маленькие личинки безумно раздражают, что надо жить для себя. И прочие подобные образования. Люди в эти семантические капсулы приходят часто сами, по доброй воле, «посмотреть», «пообщаться». Но там действует «принцип огурца», который гласит: каким бы вы ни были свежим и крепким огурцом, если вас засунут в банку с солеными огурцами, вы рано или поздно все равно просолитесь и станете таким же соленым, как все в этой банке. Если в эту семантическую капсулу с экстремистами и маргиналами попадает новый читатель, подписчик, участник и быстро в ужасе не сбегает, а начинает впитывать маргинальный контент, то через некоторое время, конечно, он «просаливается» и становится таким же маргиналом.

А в этих капсулах концентрация их идеологии, разумеется, поддерживается очень большая. Всех, кто пытается сомневаться и говорить что-то против, блокируют. В таких капсулах господствуют самые радикальные члены тусовки, концентрация бреда постоянно повышается. И вот таких бредовых семантических капсул у нас десятки тысяч. Если уж ты туда попал и задержался, то они и тебя «просолят» своей этой идеологией.

Тут есть два обстоятельства, о которых стоит сказать отдельно. Первое — это то, что американцы, создатели и фактические владельцы интернета, считают нас своим противником номер один. Это написано во всех их стратегиях безопасности, в том числе и в национальной киберстратегии, подписанной Трампом в октябре 2018-го, где прямо сказано, что США устанавливают правила в мировом цифровом пространстве, а тех, кто их нарушает, они будут наказывать всеми способами, в том числе и «кинетическими методами» (ну то есть ракетами). В этой стратегии кибербезопасности есть две финальные совершенно замечательные фразы, которые буквально звучат так:

— свободный открытый интернет — это средство продвижения по планете американских ценностей, а также средство продвижения интересов американских корпораций;

— США никому не позволят закрывать или ограничивать интернет, «руководствуясь ложными понятиями информационной безопасности и суверенитета» (это не шутка, а точная цитата).

То есть информационная безопасность и суверенитет — это ложные понятия, которые используют правительства всяких папуасских стран, чтобы не пускать правильный, «лучезарный» американский интернет и американские корпорации.

Это все написано прямо, открытым текстом, в официальных документах правительства США, лежит в сети на сайте правительства США, можно взять почитать. Конечно, там тексты на английском, но есть и перевод на сайте www.d-russia.ru и мой разбор киберстратегии США на сайте РИА «Новости».

В этом смысле для американцев задача-максимум была бы выполнена, если бы они смогли перепрошить мозг и сознание всему нашему населению, а не каким-то отдельным группкам. Конечно, они бы очень хотели, чтобы они просто сказали нам: «Свергните свое правительство», — и наши люди пошли бы и свергли. Пока это не совсем получается, поэтому приходится создавать разобщение и раскол в обществе на какие-то отдельные группировки, которые поддаются манипуляции и пропаганде. Вот для этого и служат эти «семантические капсулы», в которых пропаганда маргинальных идей, как правило, платформа для последующей политизации.

Во-вторых, все эти радикальные тусовки, которые я перечислил и которые основываются на своей уникальной этической истерике, они практически все — интеллектуальная франшиза, получившая всю интеллектуальную собственность от американцев. Радикальный феминизм, экологизм, веганство, child-free, прочее — целиком, параллельным переносом, со всеми понятиями и социальной структурой — перенесены к нам с Запада. Как и совсем черные вещи, такие как суицидные группы или «скулшутеры» — школьные расстрельщики (от английского school shooting). Если разбирать лексику и понятия, которые используются что у радикальных феминисток, что у «скулшутеров», — это все так называемые рабские кальки с американского. У этих подражательных радикалов обычно ума не хватает даже на то, чтобы подобрать хорошие русские аналоги, чтобы растолковать заимствованные с Запада понятия. Они их просто транслитерируют. Например, они используют термин «бодишейминг» (от английского body — «тело», to shame — «стыдить») — это когда вам не нравятся толстые женщины. Слатшейминг (slut в переводе с английского означает «шлюха», shame — «пристыжать») — это когда вам не нравятся промискуитетные женщины, женщины с пониженной социальной ответственностью. Но если дословно с английского это будет звучать «стыдить шлюху», то в русском тексте слово «слатшейминг» звучит красиво, даже слегка научно и трактуется в том ключе, что мужчины ни в коем случае не должны делать слатшейминг, потому что это репрессирование женщин. И вот таких рабских калек с американского там каждое второе слово. Они даже не утруждают себе достойным переводом всего этого на литературный русский язык. Они заимствуют этот культурный субпродукт целиком, вставляют его, назначают себя старшими по дистрибуции и начинают собирать сторонников. Это примерно как по всему миру покупают франшизу у «Макдоналдс» — покупаете целиком всю интеллектуальную собственность: оборудование, решетки, сковородки, концентраты Coca-Cola, инструкции, как готовить, как организовать продажи, как оформить зал, дизайнерские материалы, исполняете инструкции — и все, у вас есть свой «Макдоналдс». Только платите процент за использование франшизы. И здесь та же самая история.

— Но не все же американские «франшизы» приживаются в России? Все-таки менталитет народов различается.

— У нас плохо приживаются, например, модные в США антирасистские движения, потому что мы не участвовали в новом европейско-американском рабовладении XV–XIX веков, у нас нет системного расизма, а в остальном заимствование из США маргинальных агрессивных идеологий работает и у нас. Те же феминистки продолжают у нас пухнуть, и сейчас они уже представляют достаточную угрозу для сознания и языка.

Надо сказать, что наши исследования в компании «Крибрум» социальных сетей в отношении нескольких атак на сознание массового населения за прошедший 2020 год (это атаки фейков и страшилок на волне коронавируса, провоцирование вирусной паники, атаки на поправки к Конституции, информационная атака на празднование 75-летия Победы с фальсификацией истории и дегероизацией наших героев) показывают, что все эти тематические тусовки моментально и одновременно политизируются и активизируются в медийном пространстве, как только им дают команду.

То есть они вроде бы борются, скажем, за свою узкую тему, за права ЛГБТ, и вроде бы совершенно самостоятельно, по зову души или тела; а тут вдруг начинают яростно бороться с поправками к Конституции или «победобесием». Таким образом, все эти группировки в определенный момент мобилизуются для выполнения определенных политических задач и действуют абсолютно синхронно. Какая бы конкретная форсируемая этическая истерика ни была характерна для их повседневного существования, в случае поворота в определенную сторону основного оппозиционного потока они все, как косяк рыб, синхронно обрушиваются на Победу, на поправки, на коронавирусные меры.

А вот что с этим делать — это совершенно особый вопрос. У меня, например, рецепта нет, потому что очевидно: запретов недостаточно — да для них и недостаточно юридических оснований. Там есть очень большой серый слой пропаганды, которая производится в этих замкнутых сообществах. Ее нельзя просто взять и запретить, поскольку пропаганда у нас не запрещена. «Арестантское уголовное единство» (АУЕ, экстремистская организация, запрещенная в России, — прим. ред.) у нас прошлым летом признали экстремистской организацией и запретили, а, скажем, child-free — нет. Хотя это абсолютно токсичное движение, очень вредное, подлое. Вот что с ним делать? Принять специальный закон и запретить? Но они же все куда-то перебегут, займутся тем же или чем-то близким, продолжат сами просаливаться и перепрошивать мозги подросткам и молодым людям.

Наряду с зачисткой и обеззараживанием нужно засевать социальное пространство полезной «флорой», необходим замещающий контент. Но у нас министерство культуры если не полностью захвачено противником, то как минимум очень сильно от него зависимо, потому что мы же видим, что огромное количество государственных денег и усилий почему-то тратится на фильмы, спектакли и прочие культурные продукты, прямо враждебные России и общественным ценностям.

Кто будет производить этот позитивный контент? Государство регулярно заявляет очередную программу по стимуляции производства позитива, создает соответствующие проекты, структуры и движения, выделяет гранты, но пока плотность такого контента низкая, негатива гораздо больше. У нас между тем довольно много сетевой партизанщины, самодеятельности; люди понимают, что мы в оккупированном информационном пространстве и ведут кустарным способом свою личную борьбу с этим. Но им никто от государства, как я уже не раз говорил, не скидывает с самолета «тушенку, патроны и радиостанции», потому что они почему-то неинтересны нашей власти.

«Идеологическая машина Запада была на порядки мощнее советской, и она, конечно, превосходит китайскую»

— Традиционные СМИ пытаются соблюдать какие-то приличия в плане независимости мнения и подачи материалов. Но они стремительно теряют власть над аудиторией не только в США, но и по всему миру. А интернет-платформы, которые данную аудиторию у традиционных СМИ забирают, формально не являются средствами массовой информации, и на них не распространяются ни юридические, ни этические нормы. Как эта проблема решается в Соединенных Штатах, Европе, других странах?

— Если брать США, Европу, Китай и Россию, то везде ситуация совершенно разная. В Китае контент контролируют систематически, но довольно механически. Там, условно говоря, есть список нехороших слов, которые ты как СМИ не имеешь права использовать на своем сайте. Список лет пять назад содержал примерно 300 слов, сейчас это несколько тысяч. Любой новостной сайт должен быть зарегистрирован, он имеет право публиковать только новости из официальных источников, а если на нем найдут слова типа «Фалунгунь», или «Тибет», или еще какие-то из списка, то сайт закроют, владельцев оштрафуют, а может, и посадят. Там все абсолютно прагматично, технологично, можно скачать данный список с государственного сайта или программу, которая проверяет наличие запрещенных слов, и, если ты все это сделал, к тебе претензий нет.

В Европе совершенно другая ситуация. В отличие от Китая, где в цифровом пространстве имеется практически все свое, так что ему эти гуглы и твиттеры в принципе не очень нужны (да и давно уже заблокированы), в Европе почти ничего своего нет. Там есть какое-то небольшое количество собственных сервисов, но в целом у них нет ни популярной социальной сети, кроме «Фейсбука», ни поисковика, кроме Google. Они несколько раз пытались создать свой поисковик, но не вышло.

С одной стороны, европейцы не чужды американцам идеологически. У них с американцами общие ценности, они как бы все вместе «за демократию». С другой стороны, Европа находится, по сути, в кильватере США, и Америка доминирует в ее медийном пространстве, хотя это, конечно, не всем европейцам нравится. Поэтому все, что они могут делать, если их что-то не устраивает в деятельности американских поисковиков, видеохостингов и соцсетей — это пытаться юридически ограничить использование персональных данных и публикацию контента. Они накладывают огромные оборотные штрафы на американские цифровые платформы, и те платят, потому что у них там везде есть представительства, официальный бизнес и прочее. То есть у них абсолютно свои, „внутрисемейные“, взаимоотношения. В итоге у ЕС за последние 3–4 года приняты довольно хорошие, последовательные законы в отношении персональных данных и ответственности социальных сетей за контент, так что мы кое-что могли бы из этого взять себе на вооружение.

В США, напротив, неявная, не артикулированная юридически, но при этом абсолютная идеологическая цензура. Там, например, вообще нельзя сказать публично или в частной беседе слово «ниггер», ни в каком контексте, ни в шутку, ни даже в том смысле, что это плохое слово. Выгонят отовсюду и уничтожат карьеру, просто за то, что журналист или политический деятель данное слово произнесет. Примеры такого уничтожения за буквально одно слово уже есть. Там сажают за твиты, все жестко, цифровой тоталитаризм в чистом виде. Действует так называемая cancel culture («культура отмены», или «канселинг»), культура «обнуления»: если человек сказал что-то неправильное, то на него немедленно наводят мощную медийно-политическую пушку и просто стирают с лица земли. Он теряет карьеру, работу, друзей, привычный образ жизни. При этом делается все, чтобы человек никогда не смог подняться, что, собственно, сейчас пытаются сделать с Трампом. Поэтому на них смотреть как на пример для подражания бессмысленно и опасно. Можно что-то заимствовать у европейцев, и мы это делаем, но в целом нам придется разбираться самим, потому что, во-первых, у нас есть альтернатива для западных цифровых платформ и технологий и надежда на импортозамещение, а во-вторых, у нас идеология коренным образом отличается от европейской и американской.

И, вообще, надо понимать, что в данном цифровом мире мы идем в разные стороны. Нет такого, что кого-то догоняем, потому что мы все расходимся, и это происходит в связи с тем, что мы не страны, а цивилизации, каждая со своей системой ценностей и мировосприятием: западный мир, руководимый американцами, китайцы и мы. Поэтому нам придется приводить все эти иностранные платформы, работающие у нас, к покорности, а также для большинства из них запускать отечественные аналоги. Но подобное все непросто, не быстро и очень дорого.

— Кстати, Трамп некоторое время назад грозился в ответ на блокировку во всех сетях создать свою собственную сеть, куда перебегут все его сторонники, обрушив, таким образом, крупнейших игроков рынка. Это вообще реально?

— Возможно ли, имея деньги, сторонников, программистов, технологии, разработать аналог «Твиттера»? Конечно. Более того, альтернативная «Твиттеру» сеть Parler была сделана в США еще несколько лет назад. Но есть еще один человеческий фактор — это сам Трамп. Я что-то сомневаюсь, что он может подобное осуществить, даже обладая всеми этими четырьмя ресурсами. Почему? А что Трамп делал четыре года у власти? Он что, в 2019–2020 годах не видел, что происходит, когда стали его твиты маркировать как фейки, потом их удалять, а затем вообще начали банить его сторонников? Трамп же богатый человек, бизнесмен, профессиональный организатор. Он мог еще тогда тому же Parler дать денег, создать свой собственный дата-центр, купить серверов. Надо было потратить на это миллиард долларов или два и создать себе платформу, с которой никто не сгонит.

Почему Трамп подобного не сделал, а сейчас после драки кулаками машет? Конечно, он может что-то предпринять, но я в этом сильно сомневаюсь вот еще почему. Мне кажется, Трамп вообще не очень разбирается в данных вещах. Он, похоже, реально считал, что его твиттерная политика работает, что его сетевая жизнь уже удалась с его 80 миллионами подписчиков в «Твиттере», и именно поэтому не создавал альтернативных платформ. Мы же помним, что он много раз обещал наказать цифровых гигантов за то, что они выступали против него и занимались неприкрытой политической деятельностью, и привести их к покорности. В итоге он почему-то ничего этого не сделал за четыре года, обладая высшей властью в стране.

Поэтому создать альтернативу технически было бы можно, имей Трамп команду, понимание и решимость, а потом-то что? Тем более что его противники сейчас при власти, могут просто данную альтернативу заблокировать на территории США, как они уже снесли Parler с хостинга, и все.

— А где бы он мог разместить свою платформу, чтобы быть неуязвимым?

— Много где в мире есть дата-центры. Можно хостить свою сеть в Сингапуре, Малайзии, Гонконге, России. Или распределить систему по миру, сделать ее принципиально распределенной в десятках стран. Вопрос, насколько сильно его станут гонять. Если, например, Трамп сделает хостинг своей сети в Германии, насколько быстро его заблокируют по звонку из Вашингтона? Я не знаю. Amazon в США заблокировал Parler по звонку за два дня, например.

Не очень ясно, насколько яростно с Трампом будут воевать, — они же сейчас вообще его посадить хотят. Пытаются сфабриковать уголовное дело, чтобы его и несколько сотен его сторонников посадить в тюрьму.

— В прошлом году Джек Голдсмит, один из самых известных гарвардских преподавателей права, выпустил в The Atlantic статью о том, что в споре насчет свободы или контроля в интернете Китай прав, а США неправы. Он также добавил, что «существенный надзор и контроль над риторикой представляют собой неизбежные составляющие зрелого и процветающего интернета». Вы согласны с такой точкой зрения?

— Я подозреваю, что мы неправильно понимаем содержание сообщения и что этот гарвардский профессор просто яростный антитрампист, который перед выборами имел в виду, что надо давить и блокировать таких, как Трамп. И все, кто его читал, его коллеги, друзья, понимали это совершенно однозначно. Надо блокировать Трампа, писали многие, и его в итоге заблокировали. В данном смысле Голдсмит ничего нового не сказал. Американцы вдруг обнаружили, что медийное пространство сильно влияет, несколько вышло из-под контроля, и его надо брать под контроль. Поэтому в этой и других подобных публикациях ничего удивительного нет.

Более того, контроль в США уже создан. Вы же не видели, чтобы в Китае блокировали генерального секретаря ЦК партии. А в Америке блокируют президента. Поэтому в каком-то смысле цензура в Штатах гораздо сильнее, чем в Китае.

— Вот я об этом и говорю, куда же больше ужесточать ее американцам?

— Там есть особенность, ее стоит озвучить. Еще в начале 2000-х годов наш великий, и уже, к сожалению, покойный философ Александр Зиновьев в одной из своих книг писал, что нам казалось, что в СССР была построена совершенно чудовищная, огромная, могучая идеологическая система. На самом деле нужно понимать, что идеологическая машина Запада была на порядки мощнее советской, и она, конечно, превосходит китайскую. Просто, как пишет Зиновьев, она устроена по-другому — не как иерархическая система, а как рынок идеологических услуг. То есть на рынке возникают запросы, что нужно исполнить в идеологическом пространстве, а всякие идеологические деятели, креаторы, творцы фильмов, статей, карикатур, науки, книг, песен и так далее просто участвуют в данных неявных тендерах, предлагают свои продукты, подхватывают и разгоняют волну.

Это все, конечно, делается не по прямой команде сверху, но каждый участник рынка идеологических услуг понимает, что на рынке окупается, а что — нет. И в указанном смысле система подавления инакомыслия, которая сейчас там есть, тоже устроена в форме рынка услуг. Все понимают, какие проявления нужно душить, и все синхронно поворачиваются в нужную сторону, например, бить трампистов. Потому что там будут и деньги, и власть, и все, что хочешь. Поэтому там накал ненависти и цензуры выше не только, чем у нас (в РФ просто по сравнению со всем этим рай свободы), но и чем в КНР. Китай сейчас более свободная страна, чем США, с моей точки зрения.

«Во всех технологиях, которые к нам внедряются с Запада, всегда есть какая-то червоточина, «Уловка-22»

 — Еще вопрос о цензуре. Скажем Google, Amazon, «Фэйсбук» и «Твиттер» разработали и приняли пользовательское соглашение, которое предусматривает наказание за распространение ненависти. Но у нас в буквальном смысле весь интернет, все соцсети кипят ненавистью. В частности, украинские боты залазят на все подряд российские сайты и льют потоки грязи и оскорблений в адрес всего — и Дня Победы, и солдат Великой Отечественной, и российского спорта, и вообще всего, что связано с РФ и русскими, и этому никто не препятствует. С другой стороны, если мы показываем какой-то фильм о зверствах бандеровцев, его под любыми благовидными предлогами блокируют и затрудняют к нему доступ. То есть получается, одних ненавидеть и распространять ненависть можно, а других нельзя. Кто и как должен будет определять, что правильно, а что — нет?

— Данные платформы вводят свои правила и придумывают для них маскирующие названия, эвфемизмы. Поскольку они пытаются вводить весь мир в заблуждение, и своих граждан в том числе, то всегда используют хорошие слова, говорят, что они против фейков, языка ненависти и прочее. Это, конечно, просто заменяющие слова для называния, для того, что они считают недопустимым. Фейком они обозначают просто не нужные им новости и смыслы, которые не укладываются в их картину мира, транслируемую ими везде и всюду. В частности, фейками назывались высказывания Трампа, потом к указанной категории относились любые высказывания граждан США о том, что результаты выборов подтасованы и что их нужно перепроверить. И, конечно, фейками по умолчанию заранее являются все новости от российских СМИ.

Американцы, англичане, европейцы не могут официально произнести слово «цензура», это слово является абсолютным табу в их культуре «свободы слова», а цензурировать-то нужно. Поэтому то, что они хотят зацензурировать, называется разными условными именами: «языком ненависти», «фейками» — и блокируется. При этом и «фейки», и «язык ненависти» могут вовсе не иметь подобного содержания — просто это то, что не нравится идеологической машине Запада.

Естественно, сами по себе маргинальные сообщества либералов, антирасистов, феминисток, радикальных экологов, будучи официально одобряемы, полны именно ненависти. Посмотрите на перекошенное злобой лицо Греты Тунберг на трибуне, на лица движения BLM — там абсолютная, чистая ненависть и злоба. Но их же никто не заблокирует. У них ненависть правильная — и она ненавистью не признается.

В данной ситуации есть два способа с подобным работать с нашей стороны. Ловить их на слове и говорить: «Ну вот же у вас фейки и ненависть, уберите». Загонять их в тот юридический и моральный коридор, в котором они себя сами заявили. Это тяжелая работа, но если ты ее делаешь аккуратно и предъявляешь настоящие фейки и ненависть, то, возможно, в каком-то смысле их удастся вести по такому формальному коридору. Но это очень сложно для Роскомнадзора, наших парламентариев, различных регуляторов — постоянно тыкать западному менеджменту цифровых платформ в нос их собственные публичные обязательства и доказывать, что они их не исполняют.

Второе — это просто замедлять, блокировать их интернет-сервисы и заставлять убирать то, что не устраивает нас. У себя в стране они действуют ровно таким же образом — они удаляют то, что им не нужно. В общем, это должен быть комплексный подход к решению проблемы, когда мы указываем на формальные нарушения и требуем их устранить, а из-за спины показываем дубинку и иногда данную дубинку применяем.

— Не так давно на встрече с участниками общероссийской акции взаимопомощи «Мы вместе» Путин сказал, что интернет способен разрушить общество изнутри, если не будет подчинен моральным законам. У меня в связи с этим два вопроса. Первый — в чем его разрушительная сила для российского общества? И второй: вот президент говорит о том, что интернет должен руководствоваться какими-то моральными законами, чтобы не быть опасным для нашего общества, но не раскрывает, что это за законы. Я вижу по реакции в социальных сетях, что из сказанного никто ничего не понял. Какие именно моральные законы Путин имел в виду, как их ввести в интернет и как они способны ограничить силу его воздействия и удержать общество от распада?

— Во-первых, высказывание верное, но пока не сказано, как это сделать, оно просто остается общим в плане того, что мы в принципе за все хорошее. Всегда нужна процедура исполнения.

Во-вторых, «моральные законы» растолковывать особо не надо, они все написаны в 10 заповедях и Нагорной проповеди. Они известны последние 2 тысячи лет, и там нечего обсуждать. Моральные законы, как и юридические, принятые обществом, должны равно действовать во всех областях, в том числе и в интернете. Я думаю, что Путин с этим согласился бы.

Почему интернет может разрушить общество? Последние несколько десятков лет в мире имеется ядерный паритет, не дающий развязать глобальную мировую войну, а также захватить нашу территорию (и территории нескольких других стран) обычными военными способами. Для того чтобы захватывать и разрушать государства, лишать их суверенитета, последние 30–40 лет используются иные методы. Если у слабого третьеразрядного государства нет хорошо развитой ПВО (но есть нефть или что-то еще интересное), американцы по-прежнему просто его бомбят, называя это «гуманитарными бомбардировками». Там, где это по каким-то причинам невозможно или неудобно, используется уже обкатанный метод цветных революций.

Тем, кто любит отвергать очевидное под предлогом конспирологии, напомню, что в новейшей истории мы уже наблюдали как минимум три заговора с целью достижения мирового господства, которые никто даже не пытался скрывать. Это мировой коммунистический интернационал, потом Гитлер, собиравшийся захватить весь мир и почти преуспевший в подобном, ну и, наконец, проект «Новый мировой порядок» от США.

Штаты сейчас прямо говорят во всех своих официальных стратегиях и других документах, что они — главная страна планеты и должны управлять миром, и упорно идут к мировому господству. Мы им по многим причинам в этом сильно мешаем. Я обычно привожу такую метафору. США на своем расфуфыренном мощном Hummer уверенно едут по прекрасному гладкому шоссе к мировому господству, а там посередине шоссе стоит бетонный столб под названием „Россия“. Причем этот столб такой неказистый, он ничего не делает, стоит, внутри себя думает о борьбе с ржавчиной, о проблемах прочности железобетона и так далее. Никому не мешает, кроме американцев, не дает им проехать. Надо сказать, что там дальше стоит еще такой резной, деревянный столб с головой дракона — это китайцы, и тоже воткнутый посередине шоссе. Он тоже мешает. И, пока США нас не свалят, к мировому господству приблизиться не смогут. А свалить силой не дает ядерный паритет.

Хотя в своей военной доктрине американцы уже разрешили себе первый ядерный удар, что, опять же, публичный факт, который есть в интернете, о подобном можно почитать на государственных сайтах США. Они разрешили себе и тактическую ядерную войну, и первый массовый ядерный удар. Но это все еще достаточно опасно, и они понимают, что ядерный паритет обойти или нейтрализовать без потерь для себя пока невозможно, поэтому нужно использовать более сложные социальные методы: сделать население неудобных стран врагами своего собственного государства. Что и есть суть всех цветных революций.

Как устроена любая такая революция? Очень просто. На улицу выводится масса самых разных маргиналов, которые демонстрируют свою агрессивную протестность и грозят захватом правительственным зданиям и учреждениям, и под шумовой завесой этого действа, угрозами, подкупом и шантажом элит, находящихся у власти, требуют передать власть представителям радикально прозападной части элиты. То есть майданы обычно служат внешней упаковкой договорных переворотов внутри элиты.

Но тем не менее те, кто беснуется на улицах и жжет покрышки, штурмует госучреждения — это враги своего собственного государства, которых последние 30 лет «перепрошивают» именно с помощью интернет-технологий. Поэтому интернет служит заменой ядерному оружию для разрушения стран. Последнее время таких стран с разрушенным суверенитетом мы с вами видели десятки, начиная с Югославии и кончая Украиной. И везде в том или ином виде использовался интернет. В частности, вся «арабская весна» — это политическое применение для пропаганды и организации беспорядков «Твиттера» и Google, менеджмент которых потом этого даже не скрывал. В данном смысле интернет достаточно опасен, поскольку позволяет зайти в государство и манипулировать политической ситуацией, если у вас есть деньги, сторонники на местах, нужное количество троллей и ботов на зарплате. Все это позволяет активно работать в стране и превращать ее население во врагов собственного государства. Сейчас подобное активно проводится в отношении России. Начиная от маргинальных «тематических» группировок и кончая движением в поддержку Навального — это все оно.

А вот каким образом сделать интернет моральным? У меня, честно говоря, здесь есть определенные сомнения. Во всех технологиях, которые к нам внедряются с Запада, всегда есть какая-то червоточина, «Уловка-22». Например, вы пользуетесь электронной почтой, это удобно — но там же 95 процентов спама (вы его почти не видите из-за фильтров, но часть пролезает). Практически в любой цифровой среде обязательно будет какая-то скрытая гадость. И с соцсетями та же история. Каким-то образом надо кардинально менять то, как работают социальные сети. Например, создать аккредитованное социальное агентство, которое будет их анализировать и осуществлять какой-то независимый аудит. Надо строить механизм общественного или государственного контроля, который позволит очень быстро контент заменять или удалять. И массово производить еще позитивный замещающий контент. Но это серьезная государственная задача, которая требует создания каких-то цензурных комитетов прямо по образу и подобию французского аудиовизуального комитета, британского комитета по контролю за вещанием, либо Главлита периода СССР, которые могли бы своей властью говорить: а вот подобное плохо для страны, уберите со своей платформы; такого нельзя писать в СМИ; закройте, пожалуйста, это ваше пошлое ток-шоу; извините, но ваш фильм, снятый за госденьги, не годится. С полномочиями не дать денег, отозвать лицензию на вещание.

Но у нас тогда тут же поднимется жуткий крик, что это наступление на свободу слова, на творцов, что у нас цензура запрещена Конституцией. Но у нас много чего запрещено Основным Законом, а тем не менее происходят массовые нарушения конституционных прав граждан, в том числе в социальных сетях. Нам нужно каким-то алхимическим путем преобразовать все соцсети и интернет во что-то другое, потому что в том виде, в котором нам все это заносят с Запада, переделать в хорошее их не удастся.

«Американцы в настоящее время пытаются поднять даркнет на уровень обычного интернета»

— В западной прессе видел много злорадства по поводу того, что 10 марта Роскомнадзор в качестве наказания за неудаление детской порнографии, материалов с пропагандой суицида и прочих замедлил доступ к «Твиттеру». Это действие возымело побочный эффект: сайты сразу нескольких крупных российских компаний, Кремля и обеих палат парламента РФ оказались недоступны. Данный эпизод, как утверждают западные СМИ, выявил слабые места технической интернет-цензуры России? Указанные заявления соответствуют действительности?

— Думаю, что нет, но давайте рассмотрим разные возможности. Во-первых, за неделю или две до этого американский президент Байден публично обещал совершить мощную кибератаку на РФ, такую, что государственные органы и спецслужбы ее заметят. Можно было бы предположить, что это она и была. Я в подобное не верю, но тем не менее как вариант атаку можно рассматривать.

Вторая версия. Предположим, что падение на полдня государственных сайтов действительно явилось результатом включения системы фильтрации. Но что мы видим? Замедление «Твиттера» продолжается и по сей день, уже больше месяца, а падение госсайтов длилось всего полдня. Ну да, при первом включении таких систем могут быть какие-то неожиданные эффекты. Вы включаете свет в комнате, где долго этого не делали, а у вас — бах! — лампочка лопнула, потому что произошел бросок напряжения. Даже если здесь и случился сбой, то он длился несколько часов, а потом все заработало и про это все забыли.

Но я и в подобное не верю, потом, что сетевой сегмент правительственных сайтов совершенно иной, обслуживается другими маршрутизаторами и сетями, там ничего не фильтровали. Я спрашивал специалистов по сетевому трафику, они говорят, что да, упал некий маршрутизатор, возможно, на нем не были закрыты все порты по безалаберности или халатности. Вместе с тем в этот момент была атака на маршрутизаторы «Ростелекома» — обычная автоматическая атака извне, перебор портов, которых в день идут тысячи.

Кроме того, ведь ровно в тот же день с утра сгорел крупный дата-центр в Германии. Это, скорее всего, дало перенаправление довольно большого потока трафика в нашу сторону, потому что маршрутизация в интернете очень к такому чувствительна.

В общем, разные могут быть объяснения, включая атаку американцев, но, с моей точки зрения, даже если подобное оказалось нашей технической слабостью, то ее уже проехали. «Твиттер» замедляется, а госсайты работают. А западники пусть пишут. Если они таким образом себя убеждают в том, что мы слабые, то это большая глупость, и для них в первую очередь, потому что потом придется о глупых словах сожалеть — как о словах о небоеспособной ржавой и слабой русской армии после присоединения Крыма и победы в Сирии.

— И немного о другом. Что делать с теневой стороной интернета? Что вообще собой представляет даркнет, кто там обитает и кто его финансирует?

— Структура интернета отражает устройство общества его создателей. Модель западного общества такова, что в ней всегда должны быть плохие районы. Плохой район, куда боится заходить полиция, где среди бела дня можно слышать очереди из автоматов, где прямо на входе валяются шприцы и тому подобное. Такие районы есть практически в любой западной стране и в некоторых странах Юго-Восточной Азии и Латинской Америки, которые переняли данную модель. Почему подобное обязательная часть? Потому что западное общество вообще очень иерархично и там обязательно должна быть нищета.

Это не бедность. Бедность — экономическое понятие, а нищета — духовное и идеологическое. У нас и сейчас довольно много бедных, и в СССР далеко не все жили припеваючи, но бедность являлась не постыдной и не была духовным явлением. Явлением, когда тебя все презирают и у тебя нет надежды. А нищета — это когда ты пария, когда навсегда попал на социальное дно и вырваться не можешь.

Зачем нужны такие плохие районы? Во-первых, для воспитания сервильности, послушности, — чтобы все представители благополучных классов видели, что если не будут выполнять определенных правил, то быстро скатятся в число жителей подобного района. Голливуд, который базирует свои фильмы на архетипах, снимает много картин о том, что есть не только эскалатор успеха вверх, но и эскалатор на дно, который быстро свезет вниз неудачника. Это очень хорошо воспитывает сервильность.

Во-вторых, данные районы полезны людям из хороших, потому что в них дешевые наркотики, проститутки, рабочие руки. То есть плохой район играет свою роль, выполняет определенную функциональную задачу в западном обществе. Справедливости ради надо сказать, что некоторые страны Европы подобную модель не переняли, потому что это англосаксонская модель. Впрочем, сейчас, после принудительного вливания в ЕС миллионов ближневосточных эмигрантов, они начинают на своем опыте испытывать указанную модель.

Интернет был построен по этой же модели. В нем всегда были плохие районы. Надо понимать, что самые большие деньги в интернете с самого начала крутились в порнографии, спаме, разводках и мошенничестве. В определенный момент американцы начали институционализировать этот плохой интернет, сделав систему TOR (сервис для анонимного доступа в интернет и, как следствие, обхода блокировок), систему шифрования, которая позволяла анонимно ходить по интернету любому пользователю, полностью скрывая себя и свои действия. О том, кто создавал данную систему, подробно написано в Википедии. Государство США давало на это деньги, TOR изначально разрабатывался для разведки, чтобы американские разведчики за рубежом могли безопасно пересылать информацию или создавать какие-то сайты для управления своими скрытыми группами. Но довольно быстро они поняли, что трафик будет виден, и решили его «зашумить», для чего приватизировать систему, выпустить «на рынок». Это их обычный метод. Интернет, кстати говоря, возник таким же образом. Он делался для военных, а потом его открыли для обычных пользователей.

Сначала в данный «темный интернет» пустили китайских диссидентов, боровшихся за освобождение Тибета, а потом туда начали набиваться и все остальные. В конце концов массово набился криминал. Вообще TOR — довольно простая вещь, вы можете скачать TOR-браузер или Onion-браузер и сходить туда (хотя я бы не советовал). Если вы туда заглянете, то просто волосы зашевелятся: там и наемные убийства, и наркотики, и оружие, и детское порно. Подобная система существует, потому что есть черный мир, дно общества, а кроме того, это, видимо, удобно его создателям — американцам. Наивно думать, что создав такую систему, они не имеют тайных ходов туда и не видят, что там происходит.

Это не модно признавать, но по подобной же схеме создан биткоин. Он, конечно, был придуман никаким не криптояпонцем, которого никто не видел и о котором уже не вспоминают. Профессионалы криптографии и платежных систем, хорошо разбирающиеся в устройстве блокчейна и криптовалют на его основе, говорят, что в основе технологии — несколько лет работы небольшого научного института по криптографии. Там есть все признаки того, что это делал не условный японец в одиночку, а группа американских профессиональных криптографов.

Ну а где работают криптографы в наше время? В разведке. Я считаю, что биткоин, как и TOR, был сделан для того, чтобы помочь разведке США и их союзников из системы «Пять глаз» (разведывательный альянс, в который входят Австралия, Канада, Новая Зеландия, Великобритания и США — прим. ред.) быстро перебрасывать большие суммы «черных» денег через границы. То ест, чтобы сделать трансграничную и закрытую банковскую систему для себя.

Но потом его опубликовали по тем же самым соображениям — что выгодно систему «зашумить», пустить туда массы лохов, скрытно оперировать там как хозяева, смотреть, кто кому еще какие деньги переводит. Дальше мир криптовалют бурно развился, как мы знаем, возник пузырь, набился криминал, криптомошенники и так далее. Я считаю, что это была технологией разведки, и вот данные две «придонные» структуры — даркнет и анонимные деньги нашли друг друга, и сейчас за все нехорошее платят биткоинами.

В общем, даркнет — это весьма существенная платформа, на которой стоит наш обычный интернет. Более того, американцы в настоящее время пытаются поднять даркнет на уровень интернета, довольно быстро и энергично внедряя шифрование обычных сайтов. Последние несколько лет идет очень быстрый процесс все более сильного шифрования соединений между пользователем и сайтами — так, чтобы нельзя было определить, куда ходит пользователь, что он смотрит. Вот поэтому нельзя заблокировать конкретную запись в «Твиттере», или в Википедии, или конкретный результат поиска в Google — потому что адрес страницы зашифрован, на магистралях сейчас перехватить его и расшифровать нельзя. Поэтому, когда страновой регулятор типа Роскомнадзора говорит, что «Твиттер» не удаляет какой-то незаконный контент, это значит, что регулятор может блокировать нехороший контент только целиком вместе со всей платформой, потому что индивидуальных страниц провайдерам не видно. А скоро не будет видно и адресов сайтов.

И я думаю, что в будущем вся эта муть со дна поднимется на наш общий уровень. В определенный момент здесь окажется столько мошенников и негодяев, которых будет очень сложно вычислить. Обычный интернет станет замутненным, еще более грязным, чем сейчас. Это делается сознательно, и не только потому, что англосаксы любят плохие районы, но чтобы при анонимизации доступа и контента (с помощью шифрования соединений, спутникового интернета и т. п.) напрямую получать доступ к мозгам населения суверенных стран, минуя национальные власти, и влиять на внутреннюю политику.

То есть шифрование и «Интернет с неба» — это в первую очередь борьба с фильтрацией контента национальными властями. Вот Роскомнадзор сейчас замедляет «Твиттер», а американское IT-сообщество, включая наиболее лучших криптографов в самых закрытых частях разведсообщества США, пытается создать технологическую ситуацию на планете, в которой будет непонятно, где этот «Твиттер» и кого замедлять. Чтобы можно было напрямую работать с мозгами населения той территории, где ты хочешь оказывать влияние.

Так что этот даркнет не просто есть, он не только большой, а на самом деле растет, пытаясь захватить обычный интернет. В данной ситуации нам бы, конечно, не помешало перевести наш внутренний интернет на свои криптографические средства, на собственное шифрование. В мире есть всего две серьезные криптографические школы — это советская (сейчас русская) и американская. И у нас все необходимое шифрование есть, просто у нас в стране оно почти не применяется. И, более того, если у нас принуждать к его применению, свои сертификаты шифрования всем ставить, поднимется дикий крик: «Это же ФСБ хочет о нас все знать, хочет слушать, что мы говорим, да я лучше американское поставлю». И подобное будут говорить не только обычные граждане, но и чиновники, потому что они тоже не хотят, чтобы их читало собственное начальство.

Для того чтобы такое положение изменить, нужна государственная воля. Все необходимые технологии шифрования у нас есть. Но западное шифрование сейчас используется у нас практически везде, где есть логин и пароль, во всех банковских приложениях, при доступе на сайты и так далее. Это, конечно недопустимо, и с подобным надо разбираться.

 

«В ЛЮБОМ СМАРТФОНЕ ДЕСЯТКИ ПРОГРАММ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА»

— Игорь Станиславович, хочется начать нашу беседу с цитаты руководителя лаборатории машинного обучения «Яндекса» Александра Крайнова: «Про искусственный интеллект говорят и пишут очень много. Заголовки почти всегда стараются сделать максимально эффектными, что, увы, приводит к неправильному пониманию того, что такое искусственный интеллект. Для многих ИИ — это пока что-то вроде чуда, с ним связаны различные заблуждения, страхи, надежды и фантазии. Так что же такое искусственный интеллект?

— Если брать техническое определение, а не голливудские выдумки, то ИИ — это такой набор алгоритмов, программных правил, методов оптимизации, машинного обучения и так далее, который позволяет машине имитировать некоторые когнитивные (то есть умственные) функции человека. Именно имитировать.

При этом есть такая специфическая романтика ИИ, которую привносят разнообразные книги про ИИ, фильмы про человекоподобных роботов и так далее, которая обычно касается нерешенных задач искусственного интеллекта.

Как только задача имитации какой-то конкретной когнитивной функции решена, романтический флер с нее сдувается, ей тут же начинают пользоваться в быту, и большим художникам это становится уже не интересно, нет драмы. Вот робот, который совсем-совсем как человек…

Вообще, программой искусственного интеллекта можно назвать любую компьютерную программу, которая автоматически анализирует какие-то данные и принимает решения. Например, если у вас жилой дом или офисное здание имеют много этажей и несколько лифтов, то ими, конечно, управляет программа искусственного интеллекта. Ей надо понять, где какие лифты, где уже люди едут, какой вам лифт прислать, если вы нажали кнопку вызова, или какой и где остановить, чтобы оптимизировать время подачи и доставки. Вокруг нас уже есть своеобразное облако бытового искусственного интеллекта.

— Уже есть?

— Да, конечно, причем десятки лет, поскольку заниматься этим люди стали уже довольно давно. Лично я пришел после вуза в отдел искусственного интеллекта вычислительного центра Академии наук в 1983 году. Вычислительный центр АН СССР — это был такой большой академический институт на 500 с чем-то сотрудников. Он и сейчас существует в Москве, находится по адресу: улица Вавилова, 40. Там был отдел искусственного интеллекта, которым руководил Гермоген Сергеевич Поспелов — академик, глава совета по искусственному интеллекту при Академии наук. То есть к 1983 году ИИ уже разрабатывали много лет, и уже было довольно много сделано.

Движуха в нашем ВЦ шла вовсю: в соседней с нами комнате делали распознавание речи, в другой — диалоговый процессор, в третьей — развивали антивирус Dr. Web, в четвертой Пажитнов делал игру «Тетрис», в пятой Веселов писал редактор «Лексикон» и так далее. В нашем отделе занимались, в частности, анализом речи, текстов и чертежей. Уже тогда в ВЦ АН была работающая система, которая находила размерные линии, считывала размер, отделяла друг от друга разные детали и так далее. В это же время по всей стране делали системы управления, автоматической посадки и тому подобное.

То есть этим всем в нашей стране занимаются уже довольно давно. Вот Гермоген Сергеевич Поспелов, академик, боевой генерал, который участвовал в Великой Отечественной войне, ныне уже покойный, занимался ИИ еще в годы ВОВ, а именно автоматической посадкой самолетов на аэродром. Если вы помните, наш космический челнок «Буран» в ноябре 1988 года летел и садился в полностью автоматическом режиме, с точностью до 1 секунды и 1,5 метра полосы, им управлял искусственный интеллект. В любой крылатой ракете с момента их появления есть искусственный интеллект. Другое дело, что в некоторых случаях (например, в системе С-300) этот ИИ мог быть в некоторых подсистемах не цифровой, а аналоговый. То есть, условно говоря, там вместо модных сейчас нейронных сетей, машинного обучения или каких-то цифровых алгоритмов, написанных на языке программирования, использовалось что-то другое — аналоговым способом решались дифференциальные уравнения. Но не это важно, а то, что крылатая ракета вот уже 50 лет как распознает по фотографиям местность и летит на небольшой высоте туда, куда ей задано, а С-300 автоматически наводится на многие цели сразу.

— То есть не «пройдет время — и технологии искусственного интеллекта станут такой же привычной частью жизни, как лампочка и розетка», а они уже ими стали, просто мы об этом не задумываемся и воспринимаем как должное?

— Да. «Бытового» искусственного интеллекта уже очень много вокруг нас. Скажем, в любом смартфоне десятки программ искусственного интеллекта. Там есть распознавание пальца, лиц по фотографии, сейчас в последней модели смартфонов от Huawei или Samsung вы наводите камеру, а она вам пишет: «Люди, зелень, снег, вода, зима, осень», — и так далее. То есть там стоит «распознавалка» объектов, пейзажей, сезонов и тому подобное. Есть «болталка»: «Алиса», «Окей, Google» или какая-то другая. И так далее. В каждом таком смартфоне или компьютере есть, к примеру, программа проверки правописания. Я занимался этим довольно много. Как раз в вычислительном центре АН СССР мы сделали эту программу, которая сейчас работает в каждом русскоязычном Microsoft Office. Мы впервые ее выпустили в 1988 году.

Это иллюстрация того, что, когда нечто уже сделано, оно не вызывает никакого восхищения, трепета или ужаса, его просто перестают замечать. Работает, мы все пользуемся — ну понятно, что тут такого.

Алгоритм Т9, который есть у всех на смартфонах, сокращает время набора и мучает внезапными дурацкими подстановками слов — тоже довольно сложный искусственный интеллект. Поисковик «Яндекса» — мощнейший искусственный интеллект, гигантский, в который ежемесячно вкладывается труд 500–600 человек.

Антивирус Касперского — тоже искусственный интеллект, потому что вообще любая программа распознавания — это искусственный интеллект, а антивирусная программа должна распознавать разнообразнейшие вирусы и трояны, которых в год пишется несколько миллионов. Это очень сложный искусственный интеллект.

У каждого есть в смартфоне «Яндекс.Карты» и «Яндекс.Навигатор» — это сложные программы искусственного интеллекта, которые за человека выбирает маршрут. Тут так же, как с проверкой правописания, — 50 лет назад это могли делать только очень образованные люди, а сейчас такое под силу любому устройству. То же самое с прокладкой маршрута. Это довольно сложная задача даже для опытного водителя, знающего город, где какие пробки, возможные объезды, развороты и ремонты, а сейчас за секунду-две ИИ всё идентифицирует, и к этому все привыкли.

— Это уже решенные задачи ИИ, которые стали частью нашей жизни. Но есть же еще масса нерешенных.

— Да, на другой стороне, где еще сохраняются эта романтика и страх перед машиной, есть нерешенные задачи искусственного интеллекта, которые сейчас пытаются решить. Это происходит всю историю ИИ — переползание задачи с одной стороны на другую, в категорию решенных.

Скажем, распознавание лиц было такой совершенно непонятной и нерешаемой задачей 10 лет назад. Какие-то программы распознавания лиц делались, но они работали плохо, с большим количеством ложных тревог. В 1990 и 2000 годах были попытки поставить камеры и распознавание лиц в аэропортах и по городу (в Лондоне, Атланте и так далее), их через несколько месяцев везде в ужасе отключили — было столько ложных обнаружений «преступников», что отделы полиции захлебнулись. А сейчас, спустя 15–20 лет, после появления новой техники (графических карт) и глубоких нейронных сетей это делают повсеместно, все работает.

Распознавание тематики текста 20 лет назад было серьезной задачей. Распознавание объектов на фотографии — сейчас практически все интернет-сервисы и гигантское количество интернет-программ распознают живые и неживые объекты. Узнают кошку, собаку, человека и так далее, и это уже кажется тривиальным. 10 лет назад, когда я пытался нанять лучших в России специалистов по распознаванию образов, они не решались такое сделать. Брались распознавать лица, потому что известно, что такое лицо, а любую кошку автоматически назвать на фотографии кошкой они не брались. Потом, где-то 8 лет назад, произошел прорыв в нейронных сетях и объекты на фотографиях и видео стали распознавать. Это в некотором смысле уже ширпотреб сейчас.

Сейчас не решена пока задача нормального диалога на естественном языке с машиной. Машина не может поддерживать связного диалога, держать фокус, понимать необычные вопросы. Хотя тема чат-ботов модная, чат-ботов предлагают много, которые как бы говорят (в том числе голосом — задача синтеза и анализа речи в целом решена), но обменяйтесь с ботом хотя бы несколькими связанными репликами — и вы поймете, насколько он все еще тупой.

Не решена задача хорошего, настоящего перевода, машинного перевода с языка на язык, хотя сейчас за счет тех же нейронных сетей машинные переводы стали довольно гладкими. Они стали намного лучше, чем 25 лет назад, когда я этим занимался.

— Лично столкнулся с машинной расшифровкой диктофонной записи текста — это же просто ужас. Проще все это сделать вручную, чем потом исправлять ошибки за машиной.

— Это отдельная интересная история про порог использования системы ИИ. Когда мы делали проверку правописания, мы понимали, что у нее есть порог использования, потому что реальных ошибок на странице всего несколько — от 2–3 до 4–6. Если у системы будет больше неизвестных слов, то есть ложных срабатываний, лишних «подсветок», чем реальных опечаток на странице, никто не будет использовать. Нужно было преодолеть этот порог, добиться такой полноты словаря, чтобы у системы оказывалось не более 1–2 неизвестных ей слов на странице. С машинным переводом такая же история. До какого-то момента переводить текст, например, с английского на русский было выгоднее просто с нуля, потому что переводчику нужно было нажать меньше клавиш при переводе с нуля, чем при исправлении корявого результата машинного перевода.

Но сейчас этот порог преодолен, и тут же произошла другая ужасная вещь — сейчас стало невозможно заказать чисто человеческий литературный перевод. Качество перевода резко упало. Сейчас все, даже самые дорогие переводческие конторы, которые называют себя суперспециалистами, вначале дают текст перевести машине, а потом человек дорабатывает то, что получилось. По сути, ты платишь только за качество «выглаживания» машинного перевода. Фрилансер подсунет вам сырой результат, прямо со всеми глупостями МП, переводчик из бюро все-таки как-то подчистит косяки МП.  Все используют Google или «Яндекс», в результате в тексте всегда видны артефакты — следы машинного перевода. И эти «косяки» плохого машинного перевода вылезают даже после перевода тех, кто утверждает, что от начала до конца текст переводил человек. МП все равно делает ляпы, заговаривается, подставляет не те значения, а те, кто выглаживает текст после МП, уже даже не заморачиваются полезть в словарь и проверить странное место. Машинный текст перевода стал настолько относительно хорош (оставшись плохим), что его выгоднее «докрутить», чем делать перевод человеком от начала и до конца. В итоге этому искушению не может противостоять ни одно даже самое крутое переводческое бюро, даже самое пафосное. Так экономика вместе с ИИ сожрала или «перепрошила» человеческих переводчиков.

Так вот, у упомянутых вами программ, которые транскрибируют свободную звуковую речь, пока этот порог, похоже, не преодолен. Примерно каждое третье-четвертое слово не соответствует тому, что было действительно сказано (это легко видеть в автоматических титрах на YouTube), и править в итоге такой текст сегодня более трудозатратно и долго, чем обработать его вручную, без использования машины.

Такой порог использования в ИИ есть везде. В очень многих программах, которые как бы демонстрируют отличную работу, на самом деле этот порог не преодолен. В диалоговых ботах он также не преодолен, как мне кажется, в дистанционном образовании то же самое. Он по многим параметрам не преодолен в беспилотниках. БЛА пока на улицы не выпускают.

«ПРОИЗОЙДЕТ ДАЛЬНЕЙШАЯ МОНОПОЛИЗАЦИЯ, СВОЕГО РОДА «ЯНДЕКС.ВСЁ» ИЛИ «СБЕР.ВСЁ»

— Я уже упоминал надежды и фантазии, связанные с искусственным интеллектом. Что в них имеет под собой реальную основу, а что нереализуемо в обозримой перспективе или в принципе?

— Про всех людей вообще, которые что-то думают и фантазируют себе по поводу искусственного интеллекта, я сказать не могу. Есть, так скажем, категории людей, которые с искусственным интеллектом так или иначе соприкасаются, не считая массового пользователя. Это разработчики ИИ, которые смотрят на него очень практически, скучно, прагматично, они делают системы искусственного интеллекта, понимают, что у данного продукта есть определенный уровень качества, условно говоря, полнота и точность того, что он делает, порог использования.

Почти все элементы ИИ — это системы распознавания, у них основные критерии качества — полнота и точность (то есть степень распознавания всех нужных явлений и уровень ложных срабатываний). У этих людей нет особых романтических иллюзий по поводу того, что они делают, как в известном стихотворении Анны Ахматовой: «Когда б вы знали, из какого сора растут стихи, не ведая стыда», — потому что они знают, что там «под капотом». Часто, если заглянуть внутрь работающей системы, которую прямо вот используют массово, там будет ужас-ужас-ужас. Огромное количество дыр, «заплат», «костылей», временных решений, тем не менее ИИ работает, результат какой-то дает и в целом выполняет свою задачу.

Есть так называемые «евангелисты» искусственного интеллекта (хотя это неудачное название, эти инфоцыгане с настоящими евангелистами не имеют ничего общего, но оно прижилось на Западе), которые рассказывают, как от ИИ все скоро заколосится, зацветет, как все будет идеально, как ИИ станет делать буквально все, вот тогда-то заживем и тому подобное. Как правило, в этом амплуа выступают не технари, а журналисты, банкиры, маркетологи, всякие гуманитарии, которые некритично пересказывают басни своих технических подчиненных.

Есть еще более адекватные гуманитарии, которые пытаются все это осмыслить. Они пишут книги-утопии или антиутопии, снимают фильмы про ИИ, в первую очередь в Голливуде. Но почти во всем, что они делают, конечно, огромный разрыв с реальностью. Там, к большому сожалению, еще есть разрыв вот в чем: очень умные люди, писатели-фантасты высокого класса, в 50–60-е годы все эти проблемы, связанные с искусственным интеллектом, уже разобрали. Шекли, Брэдбери, Саймак, Азимов и другие всё возможное будущее систем ИИ уже принципиально разобрали и очень наглядно описали. К сожалению, современные «евангелисты», похоже, ничего этого в детстве и юности не читали и фантазируют с нуля, а ноль у них расположен довольно низко.

Скажем, есть типовые басни «ИИ-евангелистов» о том, как будет развиваться интернет и искусственный интеллект, которым уже, наверное, лет 30. Это уже просто маркер такого безграмотного «евангелиста», таких маркеров много. Например: «Ура, холодильник скоро будет умным — его соединят с интернетом, он будет смотреть, когда у вас заканчиваются продукты, сам станет их через интернет заказывать, и вам их будут доставлять. Таким образом, холодильник у вас будет всегда полон, потому что он будет умным и проследит за вашим питанием за вас». Эту дурацкую выдумку рассказывают уже лет 30. Таких холодильников по-прежнему нет (точнее, такие стартапы даже запускали, ничего не вышло), и я думаю, что их не будет. Просто потому, что они никому не нужны. Большинство людей не захотят есть то, что им назаказывает искусственный интеллект.

Другая ИИ-басня — о том, как ваш персональный ИИ-агент сам подберет вам страну и отель для отдыха. Но большинство людей хотят сами все это подбирать и не хотят ехать куда-то по чужому, даже самому умному выбору.

Не взлетела виртуальная реальность, несмотря на крайнюю зрелищность и активность втюхивания. Очки с VR начиная с 90-х на рынок заходили трижды. Все три раза эти заходы провалились. Подташнивает, неудобно, оббиваешь коленки о мебель, портится зрение и так далее. Похоже, это просто не очень нужно.

То же самое с дополненной реальностью. Вы надеваете очки, и вам там сбоку, по краю поля зрения, что-то пишут или показывают что-то, круто же! Прямо как у Терминатора в кино, вы имеете дополнительную информацию обо всем. Умные очки Google Glass с такими функциями продвигали с большой помпой, если помните, но закрыли через несколько лет. Во-первых, похоже, такое вообще не нужно. Во-вторых, портится зрение, на обычные очки не наденешь, а в-третьих, окружающим людям не нравится, когда на них смотрят через компьютерные очки и что-то там про них себе смекают.

Когда IT-хипстеры стали покупать Google Glass и с гордостью носить везде, в целом ряде заведений, ресторанах, кафе в Калифорнии на входе стали писать: «Сюда с Google Glass нельзя». Потому что клиентов пугает, когда их кто-то снимает встроенной в очки камерой, распознает по лицу или делает что-то еще.

В общем, у «ИИ-евангелистов» очень много фантазий о том, что людям на самом деле оказывается не нужным: даже если технологии в рекламе и фильмах выглядят впечатляюще, вызывают ощущение «ух, круто!», они потом оказываются никому не нужными. Например, 3D-телевидение (да и 3D-кино) практически умерло. Телевизоры с 3D сняты с производства всеми основными производителями, остались только немногие топовые модели с 4К. А ведь как это круто, казалось бы. Может быть, оживет на новом витке технологии, когда не будут нужны очки.

Вот еще пример: во всех фантастических фильмах есть видеофон. Большие экраны по всем комнатам, рубкам кораблей, в офисах и т. п. Ну вот, технологии доросли, передача видео есть, скорости есть: казалось бы, и что, у нас такой видеофон есть? Как бы есть, но на самом деле нет. У нас есть видеосвязь, которая используется достаточно узко — для удаленной работы, для видеоконференций в офисе, чтобы поговорить с далекими родственниками. Никто не ставит себе в спальню и на кухню огромный экран и камеру, чтобы было видно, в каких трусах вы сегодня сидите.

— Сейчас, кстати, «удаленка» в связи с карантином активно заставляет людей всем этим пользоваться.

— Да, и она уже вызывает все большее раздражение. Всем этот эффект присутствия 24×7 начальника и коллег у себя в доме надоел, никто этого не хочет. Общие отзывы таковы, что в удаленном режиме качество работы падает. Многие люди не в состоянии наладить нормальную продуктивную коммуникацию исключительно по компьютерной сети.

В образовании, мне кажется, «удаленка» показала крайнюю неэффективность. И это будет катастрофа, если продолжать в том же духе. Отличники останутся отличниками, хотя и получат значительно меньше знаний, а отстающие вообще перестанут учиться в принципе. По-моему, всем стало ясно, что учиться на «удаленке» нельзя. Это профанация. Многие работники образования говорят, что такие проблемы даже во благо — произошла своеобразная вакцинация от удаленного образования.

— Сегодня тестируются самые разные беспилотные автомобили, самолеты, надводные и подводные суда. Как скоро это все массово войдет в нашу жизнь и мы станем ездить на работу, летать и плавать в отпуск и деловые поездки на транспорте без управления человеком?

— Уже сейчас довольно много летает этих беспилотников. Они пока что в основном управляемые, но есть и автоматические, которым вы можете задать маршрут и они будут летать и снимать посевы, или полетят вдоль трубы «Газпрома» в тайге, чтобы найти утечки газа. Будут беспилотные автомобили на улицах. Беспилотные поезда уже есть, лично на них уже много раз ездил. В Нью-Йорке, Мюнхене и в Шанхае между терминалами аэропорта ездят поезда без машиниста. Там небольшое расстояние, все понятно, нужно только не придавить дверью какого-нибудь пассажира, что достигается датчиками, и всё.

Про авиацию уже сейчас говорят, что 90–95 процентов всех посадок Airbus и Boeing на полосу осуществляется автопилотами, а не людьми.

— Если весь транспорт станет беспилотным, то куда девать людей, которые сейчас им управляет и обслуживает? Их ведь многие миллионы, а с учетом семей — десятки миллионов.

— Про искусственный интеллект постоянно говорят, что он может лишить работы миллионы людей, что создаст социальные проблемы. Это не так, это «замыливание» реальной социальной и общественной проблемы. Ведь искусственный интеллект сам никого не увольняет, не крадет рабочие места. Социальные проблемы не создаются техническими устройствами. Они порождаются теми кадровиками и управленцами, которые увольняют людей ради дешевой экономики по приказу акционеров. Если в какой-то стране считается приемлемым (с точки зрения закона и общественной морали) увольнять десятки миллионов людей ради грошовой экономии, то это вопрос к социальному строю и к обществу, а вовсе не к ИИ.

Да, наверное, искусственный интеллект может сделать какие-то процессы более эффективными, но когда, взяв это за основу, говорят: «Давайте тогда всех работников уволим», — то вот здесь начинается проверка этого социального строя. Он вообще чем занимается, он только на оптимизацию и эффективность извлечения прибыли настроен? Вообще говоря, государственный и социальный строй не должен быть настроенным на бизнес-эффективность (притом не для всех, а для собственников предприятий), он должен быть настроен на то, чтобы составляющим его людям жилось лучше, а не хуже. И в этом смысле, даже если бы у нас было идеальное государство и была бы возможность всех уволить и всех заменить роботами, государством и обществом было бы принято решение этого не делать.

Возьмем конкретную проблему массового беспилотного транспорта. Сейчас только у «Яндекс.Такси» (только что они его зачем-то переименовали в нелепый лексический гибрид «Яндекс Go») по стране ездят 500 тысяч водителей. У него этих «как бы работников» больше, чем у «Газпрома». Почему «как бы»? Потому что «Яндекс», по сути, являясь их работодателем, всячески от своей роли открещивается, заявляя, что его функция состоит в исключительно информационном посредничестве. Почему? Если ты являешься работодателем, то несешь социальную ответственность, а «Яндекс» не хочет ее на себя брать. И он не единственный в своем роде. Все это разделение на гигантских инфопосредников и «независимых» исполнителей называется «уберизацией» экономики и социальных процессов, потому что первым это делать стал мировой сервис такси Uber.

Что это значит? Подобные Uber компании перевели массы людей в положение как бы индивидуальных предпринимателей, которые социально не защищены. Они работают, по сути, за такую же зарплату, как если бы они были просто наемными водителями, но отпусков, бюллетеней, социального пакета, защиты от несправедливых увольнений и штрафов работодателя у них нет. Устал, заболел, семейные неприятности — твои проблемы, деньги перестают поступать в ту же минуту, пожалуйте на улицу или биржу труда. А сами эти гигантские информационные посредники, зарабатывающие огромные деньги, за социальное положение и права работников не отвечают. На мой взгляд, это просто такой бизнес-трюк, который должен быть запрещен.

Сейчас эти информационные посредники говорят: «А теперь мы научим машину саму ездить, причем обучим ее на примерах (дата-сетах) работы этих самых рабов навигатора». А потом эти миллион водителей станут ненужными. Компании втянули миллионы людей в этот бизнес, а потом, когда выгонят на улицы беспилотники и уволят этих бедолаг через 4–6 лет, те уже ничего другого уметь не будут. Они будут только уметь водить машину, а этот навык станет никому не нужным. Они и сейчас довольно сильно социально подавлены. Ими управляет искусственный интеллект, который рассчитывает их доход, накладывает все больше ограничений, считает социальный рейтинг водителя (что само по себе нехорошо). Положение работников не улучшается. В России уже есть несколько общественных движений и организаций, которые борются с «Яндекс.Такси» и другими аналогами. Там, на самом деле, очень серьезная эксплуатация с искусственным интеллектом в качестве надсмотрщика. Не очень хорошая история.

Это первые предвестники грядущего так называемого суперкапитализма, перед которым текущий капитализм покажется нам детским садом.

— Получается, искусственный интеллект помогает одним людям более эффективно эксплуатировать других?

— Да. Как ни странно, он не освобождает труд, а закрепощает еще сильнее. Есть много примеров этому. Взять хотя бы историю с американской компанией Amazon, которая частично перевела свои склады на автоматическое обслуживание. Там ездят такие большие быстрые плоские таблетки типа роботов-пылесосов и перевозят товар. Все равно кто-то должен товары на эти таблетки грузить, а этих и так уже социально достаточно ущемленных и подавленных людей, в основном мексиканцев, поставили под контроль ИИ. Там установили камеры, которые научили распознавать перекуры, перерывы в работе, хождение, не связанное с выполнением прямых служебных обязанностей, и так далее. Сейчас людей непрерывно гоняют электронным хлыстом, штрафуют, наказывают, увольняют за мельчайшие нарушения, делают из них роботов, короче говоря. Про это было уже достаточно много публикаций. Более того, кто-то даже уже в суд подавал.

В такой конфигурации ИИ не облегчает труд людей, а становится электронным надсмотрщиком, который не знает жалости, не ведает усталости, не отворачивается, с которым нельзя договориться, упросить или разжалобить. Начинается какая-то чудовищная антиутопия в реальности. При этом никакого собственного интеллекта в искусственном интеллекте нет. Просто одни люди используют электронный хлыст, чтобы хлестать других людей с целью выжать больше денег. У них нет другой цели.

При этом есть еще такое соображение: позволить себе создать собственный беспилотник смогут не все службы такси. В нашей стране, скорее всего, — только одна. Не все электронные магазины смогут поставить себе роботизированный склад, это очень дорого, таких будут единицы, вроде Amazon. Это значит, что произойдет дальнейшая монополизация, своего рода «Яндекс.Всё» или «Сбер.Всё»: собственно, Греф только что нам это пообещал, как обычно, с энтузиазмом IT-евангелиста, как будто мы должны этому радоваться вместе с ним.

Во всех сферах всё будет во власти несколько частных, огромных, безжалостных «платформ» или, как они сами любят говорить «экосистем», которые будут иметь одну задекларированную цель — прибыль.

Эта монополизация, естественно, также будет происходить со все возрастающей степенью эксплуатации и ущемления прав людей. Как бы не пришлось государству эти разные экосистемы, в конце концов, национализировать, чтобы эти социальные проблемы, монополизацию и ужесточение ИИ прекратить.

Вот когда «Яндекс» всех этих людей, «которых он приручил», через 5–7 лет выгонит на улицу, потому что выкатит на улицы свои беспилотные такси, что мы будем делать? Непонятно. Я не знаю, думает ли наше государство на эту тему вообще. Полагаю, в Европе или США из государственных людей на эту тему никто особенно-то не думает и не тревожится в принципе, поскольку в неолиберальной экономике и социальном устройстве это же естественный процесс: ты не вписался в рынок — ну извини, каждый сам за себя. Может, дадим тебе безусловный базовый доход (очень модная на Западе тема), чтобы на жилье, еду и пиво как-то тебе хватало. И не бухти, не высовывайся.

Хотя нам в 1991 году тоже объявили, что теперь каждый сам за себя, но мы исторически, ментально все-таки несколько другие: у нас Цивилизация «Мы», по Александру Зиновьеву. Ответственность друг за друга, за свой ближний круги и за общество в целом у нас пока еще развита больше, чем в Цивилизации «Я» на Западе. Мы должны предвидеть и «стерилизовать» надвигающиеся социальные проблемы, связанные с цифровизацией всего. Но вот как это делать в новых условиях, я пока не очень понимаю.

Вообще на это все должна быть направлена напряженная деятельность государства и законов, потому что остается мало времени, все слишком быстро развивается, но пока непонятно, кто бы мог и был бы должен этим заниматься.

Мы недавно разговаривали в совете по правам человека при президенте России о том, что нам нужен некий цифровой кодекс, который защищает человека, попавшего в эту цифровую круговерть. Нужно защитить цифровую идентичность, приватную жизнь и так далее, в частности, необходимо закрепить на законодательном уровне, что нельзя использовать цифровые технологии для ухудшения жизни граждан. Не должны системы искусственного интеллекта, работающие в автоматическом режиме, принимать жизненно важные решения относительно людей. Я надеюсь, что этот цифровой кодекс когда-нибудь появится. Рассчитывать на «саморегулирование бизнеса» нам не стоит. У владельцев новых технологий возникает очень много соблазнов использовать искусственный интеллект там, где он будет дискриминировать человека. Например, ИИ банка проанализирует все данные о вас (купленные у разных платформ), и банк откажет вам в кредите, а поскольку это «черный ящик», он даже не объяснит вам (да и своему владельцу), почему не дал кредит. Та же история может быть с приемом в ВУЗ и так далее.

Если мы всё про вас знаем, то цена для вас на товары и услуги может быть другой. Уже сейчас, когда вы летите в самолете, сидящий рядом с вами человек мог заплатить за такое же место в три раза больше или меньше, чем вы, потому, что цена билетов все время меняется. Сейчас она нестабильна в связи с заполненностью рейса, еще чего-то, но обязательно будет меняться исходя также из того, какой толщины у вас кошелек. Та же история с медициной — с тех, у кого острые заболевания, можно брать больше денег, они все равно в отчаянии.

Еще один очень важный аспект — это ошибки искусственного интеллекта, за которые никто пока не несет ответственности, потому что ответственность «размазана» по разработчику системы, производителю, владельцу и оператору.

Упомянутые «ИИ-евангелисты» в своем вдохновенном камлании выкрикивают, что если искусственный интеллект хорошо работает, то он функционирует лучше, чем человек на этом месте. Он лучше ставит диагноз и делает операции лучше, чем врач, он может судить лучше, чем судья, он неподкупный, у него нет пристрастий и так далее. Но с судьи или врача можно хотя бы спросить за неудачное решение, ведь они отвечают репутацией, карьерой, даже свободой. А что вы спросите с ИИ? Вам в ответ скажут: «Да, это была недоработанная версия, мы уже поставили новую, не переживайте, в следующий раз будет все нормально», — но для кого-то следующего раза уже не будет! В данный момент цена ошибки искусственного интеллекта почти никем из тех, кто отвечает за развитие нашего общества и государства, не осмысливается, из-за огромного хайпа вокруг «ништяков», которые обещает ИИ.

Сейчас есть попытки некоторых разработчиков ИИ развить что-то вроде теории игр для ИИ, называемой лукавой «этикой ИИ», но это довольно нелепые и гуманитарно слабые попытки ставить и решать задачки типа «кого давить беспилотнику — двух бабушек-пенсионерок или красивую юную блондинку». Естественно, все в итоге сведется к деньгам — кто и кому будет платить за пострадавших бабушек, — потому что другого критерия на Западе нет, да и в ИИ нет другой ответственности, ведь там нет внутри человека.

Этого не должно быть. Надо как-то защищаться от наступления эпохи тотального (тоталитарного) искусственного интеллекта.

«БОЛЬШИНСТВО АЛГОРИТМОВ ИИ ПРЕДСТАВЛЯЮТ СОБОЙ «ЧЕРНЫЙ ЯЩИК»

— Отдельная тема — заблуждения и страхи. В советские времена ходила такая полубайка о том, как Брежневу показали танк с элементами искусственного интеллекта, который на полигоне отлично воевал: прятался в складках местности, выявлял угрозы, наносил удары, не давал себя уничтожить. Брежнев спросил, где экипаж. Ему ответили, что экипажа нет, это умная машина, она сама все видит, обдумывает и воюет. Брежнев подумал и сказал: «Нет, такой танк нам не нужен». Ученые удивились, почему, ведь ни у кого в мире ничего подобного нет! А он ответил: «Ни вы, ни я, вообще никто не знает, как мыслит эта машина и куда заведут ее мозг эти размышления. Сейчас она воюет за нас, а потом в ходе боя возьмет и передумает, повернется и начнет воевать против нас». И проект свернули. Не берусь оценивать, правда это или нет, но, взяв этот пример за отправную точку, расскажите о заблуждениях и страхах связанных с ИИ.

— На мой взгляд, это лишний страх, который из голливудчины всякой идет, потому, что разработчики искусственного интеллекта, конечно, понимают, что находится там, в условной голове. На самом же деле там нет никакой «головы» у машины, но есть довольно детерминированные алгоритмы — единственно, что с триумфальным шествием нейронных сетей, сейчас и разработчики не очень могут понять, как именно внутри нейронной сети в реальной ситуации происходит выбор того или иного варианта, потому что нейронная сеть является «черным ящиком». Большинство алгоритмов ИИ представляют собой «чёрный ящик» по очень простой причине — там производится миллиарды операций, а проследить их логику пошагово разработчику попросту невозможно за разумное время. Существуют, конечно, какие-то методы для того, чтобы попытаться понять, как развивалось рассуждение нейронной сети, сделать ящик хоть немного серым, хоть чуть-чуть прозрачным, но в целом с этими алгоритмами сейчас обращаются действительно как с «черным ящиком». Подают задачу на вход, смотрят, что получилось на выходе, и подстраивают входные вводные либо сам алгоритм, подкручивают в нем ручки до тех пор, пока не получат нужного результата на выходе.

Никакого мышления там внутри, конечно, нет. Это просто некие сложные алгоритмы, у которых непредсказуемый результат может получаться просто в силу их высокой сложности. Но вы, когда в свою машину садитесь, порой тоже не знаете, почему она не заводится, просто потому, что сейчас техника — это в принципе очень сложная штука. Вообще, есть тенденция усложнения любого вида человеческой деятельности, эта сложность возрастает максимально в любой сфере.

Точно так же, например, разработчики поисковика «Яндекс» подчас не знают, почему он выдал именно такой результат поиска, а не какой-то другой. Происходит это потому, что при ранжировании результатов учитываются многие сотни первичных факторов и миллионы вторичных. Разработчики современного поисковика могут предполагать, каким будет результат, могут на это влиять, но объяснить, почему именно по вашему запросу выдались именно эти 10 верхних результатов поиска, или предсказать, что будет выдано, они, конечно, не могут. Это вполне нормальное явление для искусственного интеллекта. Никакого сознания там не зарождается, а уж тем более воли. Там могут быть непонятные эффекты и сбои, как и с любыми сложными техническими устройствами.

Ну и перехват управления беспилотным танком или истребителем боевыми хакерами со стороны противника тоже возможен. Это гораздо большая опасность, чем бунт машины.

— Вызывает вопросы и человекоподобная интеллектуальная  робототехника. Китайцы утверждают, что в ближайшие годы появятся технологии, позволяющие сделать на заказ робота — это будет полный аналог человека, в том числе с элементами ИИ, который станет идеальной женой, мужем, ребенком, домашним питомцем — собакой, кошкой — и так далее. Это действительно так?

— Я, честно говоря,  вообще не знаю выдающихся достижений китайцев в области искусственного интеллекта. Может, я отстал от жизни Поднебесной. Знаю, что китайцы вкладывают огромные деньги в ИИ, раз в 100–200 больше, чем у нас, и раза в 1,5 больше, чем США. Пишут много статей, подают огромное количество патентов. Рыскают по России, скупают коллективы разработчиков ИИ. Но вы слышали о каких-то китайских прорывах в ИИ? Я — нет. Может быть, эта их деятельность даст результаты, посмотрим. Ну да, камера телефона Huawei распознает лица, закат и траву. Но это, судя по всему, работают нейронные библиотеки Google, которые поисковая система выложила в open source.

Я знаю наши официальные структуры, которые в рамках технического сотрудничества поставляют российские космические технологии в Китай, сотрудники их говорят, что 80–90 процентов китайских достижений в освоении космоса — это просто адаптированные и развитые космические технологии СССР и России. Поэтому, я думаю, эти залихватские утверждения пока ни на чем не основаны. Просто обычное китайское стремление все изукрасить, сделать золотым и блестящим. Там же есть свои «ИИ-евангелисты», им ведь надо выбивать государственное финансирование ИИ, госпрограммы, гранты.

Человекоподобные роботы — пока маркетинговая лажа, потому что, как я уже сказал, даже просто поддержание текстового разговора с чат-ботом или виртуальным собеседником — еще не вполне решенная задача. Вы видите «говорящие колонки» — «Алису» или «Марусю» от Mail.ru — они работают в «железе», но, если вы с ними поговорите, вы увидите, что разговор поддерживать они не умеют. Команды наподобие обращения к поисковику или открытия карты они выполнить могут, голос распознается, но обработать смысл — конечно, нет.

Какая там еще человекоподобная робот-жена, что вы…

— Но известный американский фильм «Искусственный разум» 2001 года, вы, наверное, видели: невозможно распознать, кто перед тобой — человек или умная человекообразная машина. С тех пор на эту тему снято много фильмов, она волнует людей. Так что, возможно такое?

— Это обычная голливудская киношная ерунда. Я не думаю, что это вообще когда-нибудь будет сделано. Много серьезных кибернетиков, психологов и философов задумывались над тем, что такое разум и можно ли его воспроизвести внутри машины.

На самом деле мы даже не знаем определения и критериев наличия разума внутри человека. У нас вообще-то нет никаких средств, определить, обладает ли тот или иной человек разумом или нет. Мы это только предполагаем по сходству с нами, по поведению, по каким-то иным признакам, типа «сам я мыслю — значит, и другие мыслят». Никаких способов это проверить нет. Общепринятого, разумного, консистентного определения разума и интеллекта тоже не существует, хотя про это написаны многочисленные книги и статьи.

Причины вполне понятны: очень сложно исследовать инструмент при помощи этого же самого инструмента. Возникает такая дурная рекурсия, которая создает зашумление, напускает туман, поэтому очень сложно исследовать разум при помощи того же разума. Что такое разум, до сих пор неизвестно. Великий математик Тьюринг неспроста в свое время ввел свой критерий (или тест Тьюринга), который говорит, когда нужно признать, что создан сильный искусственный интеллект. А именно: если, общаясь по сети с ИИ-персонажем, определенное количество экспертов не могут достоверно установить, человек это или робот, ИИ признается сильным. То есть, если есть хорошая, идеальная имитация, будем считать, что там внутри есть интеллект, как бы это ни было сделано. Ведь определить, есть ли там внутри сознание «на самом деле» невозможно, нет определения. Нет критериев осознавания себя каким-то устройством.

Есть много работ, в частности Пенроуза, о том, что возникновение «настоящего» сознания в машине невозможно. Пенроуз пишет, что сознание человека, возможно, имеет квантовую природу и поэтому алгоритмические методы не могут к нему даже приблизиться.

Если смотреть с метафизической точки зрения, то возникновение где-то сознания не может быть случайностью или автоматическим процессом. Есть, конечно, среди разработчиков ИИ всякие мракобесные теории о том, что мы сейчас изучим с помощью МРТ и электродов, как работает человеческий мозг, повторим это на машинном уровне — и в машине возникнет сознание. Как-то само собой в машине возникнут чувства, разум, воля и душа… Но мы-то знаем обратные примеры: когда количество чувств и ума внутри человека уменьшается, освободившееся место занимают чуждые ментальные существа.

Поэтому скорее можно предположить, что если кто-то создаст хорошо приспособленную для существования в ней разума машину, очень похожую на мозг человека, годную для управления, то туда немедленно заселятся демоны, которые только этого и ждут. Да и с чего бы вдруг Бог сочтет себя обязанным зажечь в этой машине «искру Божью», вселить в нее разум и волю или, проще говоря, душу? Что, у этих атеистов, которые делают искусственный интеллект, с Ним есть такая договоренность? Думаю, что нет.

 — На днях британская газета The Telegraph опубликовала статью под названием «Зачем Илон Маск хочет вставить вам в мозг микрочип», в которой прошлась по пресловутой чипизации и превращению в будущем людей в киборгов. Маск 28 августа представил прототип своего интерфейса «мозг – компьютер», который однажды можно будет внедрить в голову, сделав из людей киборгов, пишет автор статьи. То есть эти технологии уже реальность?

— Ну в реальности Маск демонстрировал дрель, которая просверлила череп свиньи. И всё. Это же Маск.

А вообще, людей, которые бы хотели, чтобы их кто-то извне контролировал, чтобы им что-нибудь вживили, или тех, кто просто злоупотребляющих психоактивными веществами, много. Есть люди, которые идут в секты, в политические движения, потому что хотят внешнего управления. Их тоже много и будет еще больше, если им будут обещать какие-то сверхспособности или еще что-то. Есть просто сумасшедшие или те, кому хочется своих 15 минут славы, и за это они готовы вживить себе все что угодно.

Чипирование людей для внешнего управления — конечно, мракобесие, это должно быть запрещено. Басни, которые Маск рассказывает, разумеется, абсолютно человеконенавистнические и бредовые, даже если у него ничего не получится. Например, о том, чтобы вставить больному чип, чтобы с его помощью лечить депрессию. Это значит, что, вместо того, чтобы давать человеку «Прозак», на котором пол-Америки сидит, просто подкрутить ручечку потенциометра до тех пор, пока уголки губ у пациента не поднимутся кверху? Удобно же? И дешевле!

Этого ничего на самом деле нет, потому что, как управлять человеком даже через электроды, подведенные напрямую к мозгу, никто не знает. Человек — очень сложное и до конца не изученное существо. Например, бывают случаи, когда человеку на войне снесло полчерепа вместе с большей частью мозга, и в этом случае оставшаяся часть мозга берет на себя практически все функции утраченной части и вполне успешно функционирует, хотя по теории разделения функций по зонам мозга этого быть не должно. Мозг человека устроен очень странно и сложно, он тесно связан с телом, и всех этих тонкостей мы не знаем.

А про конкретную басню про чипизацию стоило бы спросить авторов теорий заговора — зачем она нужна? Начнем с того, что чипизация сопряжена с техническими трудностями, а именно: как питать этот чип внутри организма — непонятно, как избежать перегрева (фактически сваривания) тканей организма из-за его мощных сигналов — непонятно. При этом что он сможет делать, чтобы не убить своего носителя? Скорее всего, простейшую идентификацию на расстоянии нескольких метров — примерно в рамках возможностей товарных радиометок RFID.

У каждого, кто боится этой фантастической чипизации, уже сейчас есть смартфон. Он работает на расстоянии нескольких километров, человек сам его питает электричеством и деньгами, очень нервничает, если смартфон разрядился, боится его где-то забыть. Этот смартфон знает про нас все, уже сейчас он нас подчиняет, следит за нами, жрет наше время, заставляет заниматься ерундой, зомбирует и управляет. Какие чипы еще нужны? Чего бояться, когда вы сами и уже сейчас носите в своем кармане средство управления вами? Все уже сделано.

«ЕСЛИ ЧЕРЕЗ 10–15 ЛЕТ У НАС НЕ БУДЕТ СУПЕРОРУЖИЯ — АВТОНОМНОГО, СВЕРХБЫСТРОГО, — ТО ОТ НАС НИЧЕГО НЕ ОСТАНЕТСЯ»

— Много говорится о двух путях поиска бессмертия. Один из них — это заморозка тела в криокамерах до лучших времен, пока изобретут способ это тело оживить, а второй — это уход личностной сущности в виртуальную реальность, как было показано в культовом фильме начала 90-х «Газонокосильщик». Такой уход возможен в принципе?

— Для начала давайте зададимся вопросом: а что, человеку правда нужно бессмертие? С моей точки зрения, все люди живут какое-то время, а потом попадают на Суд. Бессмертие — это попытка застрять здесь, не попасть на Суд, чтобы с тебя не спросили. Попытка уйти от суда. Застрять во времени. Это не очень хорошая идея. Это значит, что сознательно или бессознательно такой индивидуум, желающий себе бессмертия, хочет бесконечно долго хулиганить и гадить. Для чего еще нужно бессмертие? Для чего еще нужна бесконечная жизнь? Совершенно непонятно. Для бесконечного потребления? Если это бессмертие еще и доступно не всем, то это адский расизм и тоталитаризм, разделение людей на бессмертных и быдло, которое должно обеспечивать счастливую вечную жизнь первых и вымирать, которое не жалко.

Еще один интересный момент, связанный с уходом личности в виртуальную реальность. Великие фантасты 1950–1970-х когда-то уже описали телепортацию, то есть моментальные перемещения человека во времени и пространстве. Здесь зашел в портальчик, а на другой планете вышел из такого же портальчика. Понятно, что его не физически туда перенесли, а пересобрали на месте из новых атомов. По сути, получится, что этот зашедший здесь умер, а там родился другой. Куда делся умерший? Из чего следует, что если он сложен из тех же самых атомов, то это тот же самый человек? По сути, не из чего. А как установить, что это тот же самый человек? Что у него воспоминания те же самые? Но, наверное, тогда эта машина могла бы сделать, воспроизвести пять таких людей на разных планетах. Они что, все одинаковые будут? А где тогда он сам? Тут возникают такие логические дыры, что это, скорее всего, невозможно. Или это разрешение убивать людей, а потом «оживлять» мертвых. То есть фактическое производство зомби, неотличимых от людей.

С переносом человека в компьютер такая же история. Что значит, «он будет там жить»? Кто «он»? С чего взяли, что личность туда будет перенесена, даже если «набор битов» как бы совпадает? Это бредовая идея, и берется она из нелепого допущения о том, что мозг — это тоже компьютер. А это глупость такая же, как представление XVIII–XIX веков, что мозг — это гидравлическая машина с краниками и трубочками, перекачивающими черную и желтую желчь, флегму и тому подобное.

Мозг — это не компьютер. Там ничего общего с компьютером нет. Нет постоянной и оперативной памяти, нет процессора, мозг не «обрабатывает информацию». Компьютер не похож на мозг, и наоборот — как нет ничего общего у автомобиля с лошадью. Мы не знаем, что такое человеческая личность и где она сидит. Физически ее нет, когда препарируют трупы, но она в людях есть. Она что, исчезает, как свет в холодильнике, если дверь закрыть? А потому что, собственно, «переносить»?

На мой взгляд, это все фантазии, басни для людей, которые об этом глубоко не задумываются. Ну и, естественно, исключительно для атеистов.

— Очень много пишут о том, что умные гаджеты повсеместно и круглые сутки шпионят за гражданами, а IT-компании, собирающие и имеющие в своем распоряжении массу всевозможной информации о людях, становятся все более влиятельными, что в будущем может быть опасно и для госструктур, и для всех нас. Это так?

— Это не пустые страхи, а наша сегодняшняя реальность. Соответствующие данные уже собираются, причем с опережением законодательства. Законодательство еще не успело охватить и описать эти проблемы, а данные уже собираются. Есть уже гигантский рынок этих данных. Они воруются и перепродаются через пятые руки. В основном они используются для втюхивания, чтобы создать максимально неотразимую рекламу, чтобы вы обязательно купили, при этом даже сами не поняли почему.

Данные собирают все, кто может до них дотянуться. Любое приложение на смартфоне имеет доступ к огромному массиву данных. К примеру, любое приложение на вашем смартфоне имеет доступ к вашему bluetooth-окружению. Таким образом, можно узнать, какой у вас автомобиль, другие устройства. Все смартфоны знают, где вы находитесь, даже если вы отключили GPS или ГЛОНАСС. Почему? Потому что им видно ваше Wi-Fi-окружение, какие вокруг вас Wi-Fi-сети. Дело в том, что таких названий домашних сетей, которые напридумывали ваши соседи по дому, больше нигде нет. Это уникальный отпечаток вашего окружения.

Таких способов собирать эти сигнатуры и отпечатки очень много. Поэтому крупнейшие компании, которые этим занимаются во всем мире, — это «Фейсбук» и Google, у нас еще «ВКонтакте», «Яндекс» и Mail.ru, мобильные операторы, Сбербанк. Они знают о нас очень много. Почему? Потому что у них есть очень широкая линейка сервисов, и в каждом сервисе собираются свои данные, которые потом объединяются. Поисковик знает, чем вы интересуетесь, навигатор — где вы ездите, банковское приложение — что вы покупаете, и так далее. Все это позволяет делать так называемый кросс-канальный анализ. Компании точно знают, что вот это ваш смартфон, а это ваш ноутбук и они связаны. Более того, знают, какой смартфон у вашей жены, потому что он находится рядом с вами по ночам, и так далее. Ваша жена что-то поискала, а рекламу покажут вам, чтобы убедить еще и вас, что вам нужен этот унитаз, посудомойка, или еще что-то.

То есть эта слежка уже сейчас тотальная. Не вся она коммерческая. Большинство этих компаний-гигантов, которые это всё собирают, американские. Они работают в американской юрисдикции, там есть так называемый «Акт о свободе», который требует, чтобы все эти данные предоставлялись государству, они их ему и сдают. Поэтому у американской разведки и контрразведки все есть. Как они все данные используют — это другой вопрос. Не торгуют, но делают нечто другое (у нас этих данных нет, нам «Фейсбук» и Google эти данные не отдают).

То есть это будущее уже наступило, оно уже здесь, и пока нет никаких законов, которые бы защищали нашу цифровую идентичность, нашу цифровую приватность, кроме слабого и почти не применяемого закона о персональных данных (номер 152-ФЗ).

— Между тем в России все чаще появляются сообщения об утечке в свободный доступ (или чьем-то «сливе») персональных данных клиентов самых разных организаций и граждан, а также росте киберпреступности и усложнении мошеннических схем в цифровом пространстве. Как защититься от мошенников, похищающих через цифровые устройства и технологии все — от личных данных граждан до денег?

— С моей точки зрения, вся эта слежка, о которой мы говорили выше, гораздо более опасна в государственных руках и в руках крупных компаний-платформ, нежели в руках криминала. Криминал, конечно, тоже старается всем этим воспользоваться, но гораздо опаснее те, кто эти данные получает либо по долгу службы, либо потому, что мы сами эти данные на этих платформах оставляем и не глядя ставим галочку при регистрации, позволяя делать с собой все что угодно.

Конечно, происходят утечки данных. Они всегда будут. Утечки станут нарастать, потому что увеличивается объем собираемых и хранимых данных, а компетенции защитников данных растут медленнее. Криминал, безусловно, будет всем этим пользоваться и уже пользуется. Например, многие из частых звонков от имени банков делают заключенные прямо из колоний. Об этих вещах надо знать всем, нужна некая базовая цифровая гигиена. Гражданам нужно все это доводить и объяснять, что не следует отвечать на незнакомые номера, не щелкать на ссылки в СМС, пришедших с незнакомых номеров, и так далее.

Я сейчас дописываю книгу под названием «Цифровая гигиена», где мы с коллективом авторов пытаемся научить родителей и воспитателей базовым принципам цифровой гигиены — с тем, чтобы они передавали рекомендации детям и подросткам. В новый курс по ОБЖ для средних школ также вставлен кусок про цифровую гигиену, который писали наши специалисты. Но, к сожалению, среди наших граждан, которых втягивает в цифровое «торнадо», большинство тех, кто к личной борьбе с криминалом не готовы и никогда не будут готовы, несмотря на весь цифровой ликбез. В частности, по очень простой причине — средний человек склонен доверять людям, а мошенник этим всегда пользуется. Поэтому считать, что спасение утопающих — дело рук самих утопающих, мол, учитесь, сами за собой следите и так далее, неправильно. Среда должна быть базово не токсичной, как водопровод в квартире. Людей должно защитить государство. Вылавливать этих всех мошенников, создавать защищенные коммуникации и прочее должно государство. Это изначально неравная борьба, поэтому сверху должен прийти регулятор, который защитит граждан. И в части ограничения слежки со стороны платформ — тоже.

Мы не можем остановить развитие и совершенствование искусственного интеллекта, потому что ИИ — это в первую очередь война, боевые технологии, хотя об этом мало говорят публично. Если через 10–15 лет у нас не будет супероружия — автономного, сверхбыстрого, — то от нас ничего не останется. Американцы и иже с ними нанесут первый удар. Это самое хищное государство на планете. Они разрешили себе первый ядерный удар в военной доктрине, у них нет никаких препятствий для нападения на другие страны — они уже напали примерно на 100 стран после 1945 года. В отличие от нас, у них военная стратегия не оборонная, а всегда нападающая.

И мы являемся главной мишенью, а потом уже Китай. Мы в их военной стратегии и в киберстратегии названы противником номер один, мы им очень сильно мешаем на планете. Но до сих пор их от прямого нападения на Россию удерживало исключительно наше ядерное оружие, а с развитием ИИ место ядерных сил постепенно займет сверхточное сверхбыстрое автономное ИИ-оружие. По крайней мере, на него сейчас делается основная ставка в военной сфере.

А с ИИ ситуация такая, что если ты все время не разрабатываешь эти технологии, то отстанешь. Мы сейчас во многих военных областях впереди (РЭБ, гиперзвук), и американцы очень нервничают по этому поводу. Но в искусственном интеллекте нам тоже нужно не опоздать. Сейчас американцы и китайцы борются между собой, думая, что кто-то из них будет лидером. Они вкладывают гигантские деньги, в сто раз большие, чем у нас. Нам вкладываться тоже все равно придется. Нам нужно дать асимметричный ответ все равно, с этим ничего не сделаешь, потому что, как только они поймут, что уже могут нас уничтожить и им за это ничего не будет, они кнопку нажмут. У них вообще никаких барьеров нет, они постоянно поступают так с другими, более слабыми странами.

Поэтому нам надо выпускать больше инженеров и математиков, больше вкладывать денег в ИИ, создавать технологические площадки, такие как Иннополис, «Сколково», «Эра» и им подобные, остановить утечку мозгов, дать разработчикам ИИ большие проекты и большие перспективы.

— Кстати, с учетом повсеместной цифровизации и внедрения ИИ какие профессии будут наиболее востребованы в ближайшей и среднесрочной перспективе? Нужно ли учить программированию, бизнесу?

— Математики, программисты, инженеры по данным, специалисты по цифровым технологиям, прикладные лингвисты — на мой взгляд, это очень перспективные профессии. Что касается остальных, за всех, конечно, говорить не могу, но, мне кажется, юристы, экономисты и маркетинговые специалисты будут менее востребованными по сравнению с теми ожиданиями, которые у них были 15–20 лет назад, когда все бросились в юристы и экономисты. Тут уже есть перепроизводство.

На мой взгляд, такая модная «профессия», как бизнесмен (которой берутся учить многие), тоже не будет востребована, потому что бизнесменом может быть один из многих десятков людей, а остальным это на самом деле не нужно, тяжело, нервно, не под силу. Даже если они этого хотят, если у них есть запал и кураж, они могут быть к этому не способны. Это такая довольно неприятная работа с повышенным риском и ранней сединой, язвой желудка и так далее.

Из 10 новых предприятий в первые 3–5 лет 7–8 банкротятся и закрываются, а основатели идут обратно в наемники. То есть тут нужно иметь склонность, а «учить бизнесу» — дело довольно бессмысленное. Сначала надо отобрать пригодных, а потом уже учить во взрослом возрасте, с опытом предпринимательства.

Сейчас набирает обороты новое движение — дескать, давайте детей учить бизнесу прямо со школы, мы будем делать с ними проекты и стартапы! Это чушь, конечно. Из 100 человек в этой школе бизнесом реально 1–2, максимум 5 человек. Все не могут заниматься бизнесом ни по способностям, ни по ситуации в экономике. Если все будут бизнесменами, кто тогда будет учить, лечить, строить, развивать науку и искусство? Спрашивается, зачем «учить бизнесу» остальные 98 процентов? Чтобы потом они эффективно и удобно для налоговой изображали из себя индивидуального предпринимателя, работающего за харчи на огромного инфопосредника типа Uber или «Яндекса»? Ага.

Вот математике надо учить, финансовой грамотности, цифровой гигиене. Искусствам и спорту.

Конечно, не у всех есть способности и желание быть инженерами или программистами. Что делать человеку, например, с талантом к рисованию? Ну может учиться в цифровом формате — аватаров делать, персонажей для игр, дома проектировать, вселенные какие-то рисовать, в общем, идти в ногу со временем. Советы тут давать трудно — это ведь касается судеб, которые каждый выбирает по себе и своим талантам.