Эксперт по искусственному интеллекту из Сбера: «Я не считаю, что существуют «лишние» люди»

Андрей Незнамов: «Если меня спросят, что такое ИИ в транспорте, я дам одно определение. Если спросите, что такое сверхразум или терминатор, предложу другое» Фото: © Нина Зотина, РИА «Новости»

«СОЗДАНИЕ ARTIFICIAL GENERAL INTELLIGENCE — ЭТО ВПОЛНЕ РЕАЛЬНЫЙ КОНЦЕПТ»

— Наш разговор я хочу начать вот с чего. Как-то на форуме в Давосе Герман Греф задал участникам вопрос: что такое ИИ? Вы бы на него как сейчас ответили?

— С 2017 года я на такой вопрос отвечаю одним простым тезисом. ИИ — это чемодан. Основоположник теории ИИ в США Марвин Минский предложил данную аллегорию. Он говорил, что есть слова-чемоданы. У каждого человека имеется свой чемодан. Когда он куда-то летит, то набивает его очень индивидуальными вещами. Так вот Минский говорил, что существуют слова-чемоданы, то есть когда под таким словом каждый понимает что-то свое. Мне кажется, что с 1960-х годов по отношению к ИИ ничего не изменилось: он продолжает оставаться словом-чемоданом, куда каждый вкладывает что-то свое.

Поскольку я занимаюсь как научной, так и практической деятельностью в сфере ИИ, то могу сказать убедительно, что 20–30 определений — далеко не предел. Даже ученые-технари не могут договориться о том, что такое ИИ. Если говорить юридически, с позиции России, то у нас есть нацстратегия развития ИИ, где прописано определение ИИ. Международная организация по стандартизации сейчас создает стандарт, термины и определения. Там ИИ определяется сразу в трех различных контекстах. Но мне кажется, что самое разумное — это принять отсутствие единого термина и в зависимости от контекста давать свое определение. Если меня спросят, что такое ИИ в транспорте, я дам одно определение. Если спросите, что такое сверхразум или терминатор, предложу другое.

— Все-таки можно ли создать разумный ИИ? Сможет ли ИИ не только понимать, но и самостоятельно рассуждать?

— 99 процентов респондентов на этот вопрос, наверное, спросили бы у вас: а что такое «рассуждать»? Я скажу проще. Если мы говорим о сверхразуме, или artificial general intelligence, то он не создан. Я не знаю, случится ли такое, потому что все лучшие ученые мира в данной сфере сейчас ломают над этим голову.

Если посмотреть со стороны, лично мне кажется, что artificial general intelligence — реальная вещь. Будет ли он для нас опасным или дружественным — это открытый вопрос. Ник Бостром написал целую книгу о том, что ИИ станет опасен. Под влиянием его идей Илон Маск говорит о том, что летит на Марс, чтобы спасти человечество от ИИ. Но какой окажется реальность, мы пока не знаем.

У юристов применительно к artificial general intelligence есть огромный вызов — понять, как контролировать эти разработки, если сверхразум все-таки будет создан.

— Илон Маск недавно говорил, что ИИ рано или поздно объявит нам войну.

— Я как раз и сказал, что он находится под влиянием идей Ника Бострома, который убежден, что практически нет сценариев, в которых ИИ станет нам дружественным.

— Но сами как вы все-таки предполагаете, каков окажется сценарий?

— Я верю в лучшее. Человечество умеет уничтожать себя 1 001 способом. Я по профессии юрист, 15 лет провел в судах, я из семьи, которая полностью отдала свою жизнь юриспруденции. Поэтому с детства смотрю на то, что люди способны делать по отношению друг к другу. К сожалению, вариантов, где люди друг друга уничтожают, очень много — только дай инструмент в руки, как говорится. Но мы же понимаем, что любой инструмент можно использовать во благо, а можно во вред. Например, атомную энергию возможно использовать для уничтожения, а можно для получения электричества. Но я все-таки оптимист и верю, что artificial general intelligence — это скорее для получения электричества.

— Но вы все-таки допускаете, что можно создать такой ИИ, который будет самостоятельно мыслить?

— Я думаю, что создание artificial general intelligence — это вполне реальный концепт.

— В какой перспективе?

— В далекой. Если вы посмотрите литературу начала 2000-х, то даже те, кто допускал возможность создания artificial general intelligence, ставил горизонт — 100 лет. С развитием технологий резко стало изменяться прогнозирование. Уже в 2010-х, когда ИИ снова вышел на мировую арену, публикации сдвигают рамку все ближе к настоящему. Рэймонд Курцвейл еще в 2009-м в книге Transcend и в 2005-м в книге «Сингулярность» обозначил 2040–2050 год. Но у меня нет такого уровня прогнозирования, как у Курцвейла, потому скажу лишь, что создание artificial general intelligence в XXI веке кажется вполне реальным.

— На самом деле это не столь далекая перспектива.

— Течение времени так убыстрилось, что я не рискну оперировать словами «далекий» или «близкий». Хочу привести сравнение. Посмотрите на свой смартфон и представьте себе, что еще 12 лет назад их не существовало.

— Я прекрасно помню эти времена.

— Можно ли представить жизнь современного человека без смартфона? Конечно нет. Вот и подумайте, 100 лет — это много или мало в современном обществе? Наверное, тут у каждого своя линейка.

«Возвращаемся к смартфону: он напичкан ИИ. Камера, поисковик, почта, система подсказывания музыки — это все прикладное использование ИИ» Фото: «БИЗНЕС Online»

«КОГДА ТЕХНОЛОГИЯ СТАНОВИТСЯ НАДЕЖНОЙ, ВСЕМ ОКАЗЫВАЕТСЯ ВСЕ РАВНО, ЭТО ИИ ИЛИ НЕТ»

— Есть скептики, которые считают, что об успехах ИИ фантазируют в основном менеджеры и гуманитарии, а не те, кто непосредственно работает над созданием ИИ, пишет софт. Как вы считаете?

— Отчасти с этим можно согласиться. ИИ сейчас везде используется — к месту и нет. Наверное, с точки зрения «попсовости» вопроса так и есть. Другое дело, вправе ли мы говорить, что успехи ИИ — это некое фантазерство? Мне кажется, нет. Даже самая популярная тема не проживет на одних СМИ. Никто бы не стал говорить больше 10 лет об ИИ, если бы он не показывал определенные успехи. А он это делает.

— Где, на ваш взгляд, ИИ сейчас наиболее успешен, какие задачи решает на отлично, а где нужно еще поработать?

— Дело в том, что там, где ИИ повсеместно применяется и стал привычным, вы перестали обращать на него внимание. Это очень распространенная комичная ситуация, которую описывали некоторые зарубежные авторы в своих книгах: как только ИИ становится для вас привычным, вы сразу говорите, что это не ИИ, а просто программка. Возвращаемся к смартфону: он напичкан ИИ. Камера, поисковик, почта, система подсказывания музыки — это все прикладное использование ИИ. Вы можете подобное не называть так, а говорить, что это просто компьютерная программа. Как я и утверждал, смотря что вы подразумеваете под ИИ.

Менеджеры фантазируют про сверхразум, не буду спорить. Но если они заявляют о некой автоматизации, алгоритмизации процессов, это привычно.

— Но где ИИ пока еще «коряво» работает?

— Мы только в начале пути. С этой точки зрения он пока везде коряво работает, исходя из тех возможностей, которые может нам теоретически дать. Возьмите любого чат-бота, голосового помощника — они далеки от совершенства. Но такая же история почти везде. ИИ имеет колоссальный потенциал в медицине, но он там не раскрыт. С одной стороны, по регуляторным причинам, а с другой — технологиям еще объективно нужно развиваться, прежде чем доверить им хоть крупицу здоровья человека. Просто данный процесс идет незаметно. А когда подобные технологии станут доступны, вы просто перестанете их замечать.

Транспортная тема примерно такая же. 90 процентов времени самолет летит на автопилоте. Вы знали об этом?

— Конечно, он и садится на автопилоте.

— Не всегда, но вы видите логику. Когда технология становится надежной, всем оказывается все равно, это ИИ или нет. А когда она недостаточно надежна, ее называют ИИ, пытаются контролировать и регулировать. Я вижу в этом проблему, что наши ожидания иногда немного преувеличены.

— Мы с вами вспомнили про голосовых помощников, согласились, что они далеки от совершенства. Но вы можете себе представить, что когда-то мы сможем вести полноценный разговор с голосовым помощником, как герой Хоакина Феникса в фильме «Она»?

— Когда начинал заниматься данной темой, изучил всю литературу и фильмы. Честно сказать, я не большой поклонник фантастики, почти не смотрю кино, но все, что связано с ИИ и роботами, в какой-то степени заставил себя прочитать и посмотреть.

Дело в том, что у нас для права это уникальнейший феномен: общественные отношения возникли из научпопа. Слово «робот» пришло из работ Карела Чапека. Представления людей об ИИ формируют «Черное зеркало», «Мир дикого Запада», «Она», «Космическая одиссея 2000» и так далее. Некая вещь появилась сначала на страницах художественной литературы, а потом пришла в жизнь.

Что касается голосовых помощников, я, наверное, скажу, что они далеки от идеала, но развиваются. Посмотрите на линейку помощников, которых представил Сбер. Мне кажется, это новый уровень общения.

— Лучше, чем «Алиса»?

— Не хотел бы комментировать. Но про разработки, которые делаем мы, скажу, что, конечно, еще есть куда расти. Но вы просто протестируйте и увидите, что с каждым разом они все лучше. Я думаю, что когда-нибудь они смогут поддерживать полноценный разговор.

«Мне кажется, что история о наличии у роботов каких-либо прав будет оставаться в фильмах, книгах, журналах и теоретических диспутах» Фото: «БИЗНЕС Online»

«НИКАКИХ ПРАВ РОБОТОВ НЕ СУЩЕСТВУЕТ»

— Вы говорите только о плюсах ИИ. Но у людей объективно есть и страхи перед ним. Например, как мы уже с вами отмечали, есть теории, что рано или поздно ИИ нас захватит. На ваш взгляд, что все-таки перевесит чашу весов? Какие могут быть минусы?

— Их достаточно много, они все понятны. У ИИ есть ряд имманентных особенностей, в некоторой степени непрозрачности, неконтролируемости, склонности к мультиплицированию ошибок тех данных, которые в ИИ заложены.

Это обычно называют предвзятостью и дискриминируемостью. Я, как правило, использую другой термин. Не совсем точно говорить о предвзятости ИИ. Это предвзятость данных, которые в него были заложены.

Сюда же можно отнести проблему недоверия общества. Она есть, это совершенно нормально. Так и должно быть. С данной точки зрения, все страхи, которые возникают у общества, — это одновременно и плюс, и минус технологий ИИ. Наша задача — страхи устранить, убедить, что технологии безопасны, а также решить те проблемы, которые я обозначил.

— Вы сказали про неконтролируемость. Неужели нельзя с самого начала человеку, который создает ИИ, держать его под контролем?

— Можно, конечно. Но тут возникает целый ряд аспектов. Первый — как контролировать artificial general intelligence, пока никто не знает, потому что он не разрабатывается централизованно, это не большой адронный коллайдер, не ядерный проект.

Второй — не всегда можно однозначно предсказать результат работы системы. Она обучается, поэтому выступает своеобразным черным ящиком. На мой взгляд, такая ситуация происходит не только применительно к ИИ. Те, кто работает в IT-бизнесе, знают, что есть поговорка: «Если программа работает, не трогай ее». В этом плане с ИИ такая же история, как с компьютерной программой. Но если мы хотим, чтобы ИИ выполнял серьезные важные задачи, то должны определить условия, как будем его контролировать.

— А как это можно сделать?

— Подобный вопрос связан с конкретным контекстом. Большая ошибка — говорить, что нужен общий принцип, одинаковый для всех сфер. Есть концепция красной кнопки. Это не в смысле ядерного чемоданчика, а в том, что, нажимая на красную кнопку, ты отключаешь данную систему. Мне кажется такой концепт универсальным, но применительно к каждой сфере будет иметь свое приложение.

Что такое красная кнопка в поисковике? Вы всегда можете его отключить, закрыв браузер. А в беспилотных машинах красная кнопка — это в прямом смысле красная кнопка. Когда ты на нее нажимаешь, машина останавливается. Если говорить о голосовых помощниках, это возможность их выключить из сети, как в случае со смартфоном.

Потому есть концепт регулирования, но он в каждом случае должен получать прикладное применение. Иначе он либо не будет работать, либо, наоборот, запретит приложение системы ИИ, и это тоже плохо. Такого надо избежать.

— Вы по образованию юрист. Ответьте, как решить дилемму, кто прав: ИИ, то есть робот, или человек?

— Мне кажется, никаких прав роботов не существует. В 2016–2017 году поднималась волна интереса к данной теме. Это здорово, но, конечно, в реальности никаких прав электронной личности сейчас даже обсуждать не нужно.

Вообще, несколько стран на полном серьезе подхватили в 2017 году эту историю. Например, Эстония анонсировала, что будет первой, кто наделит роботов и ИИ правами электронной личности. Они создали специальную комиссию, которая изучала такую проблему. Через полгода они сделали вывод, что пока нет целесообразности в наделении ИИ какими-либо элементами правосубъектности в связи с тем, что технологии пока не развились настолько хорошо.

Потому мне кажется, что история о наличии у роботов каких-либо прав останется в фильмах, книгах, журналах и теоретических диспутах. По моему личному мнению, когда мы дорастем до той ситуации, что робот или ИИ реально станет претендовать на получение каких-либо прав, это окажется не главной проблемой.

«Члены общества видят роботов в фильмах и книгах, где они как люди, а иногда даже лучше. Поэтому индустрия в ответ делает антропоморфных роботов» Фото: «БИЗНЕС Online»

«ИИ БУДЕТ ДЕЛАТЬ ТОТ ВЫБОР, КОТОРЫЙ В НЕГО ЗАЛОЖИТ ЧЕЛОВЕК»

— Но может ли ИИ делать моральный выбор? Избитый пример про то, кого задавить беспилотнику: бабушку или молодую девушку?

— ИИ будет делать тот выбор, который в него заложит человек.

— То есть ответственность должен нести создатель ИИ?

— А вот это не совсем корректный тезис. Как юрист скажу, что ответственность в каждом конкретном случае нужно определять индивидуально. Например, беспилотная машина едет и давит человека. «Кто виноват?» — классический вопрос.

А я вам скажу, что тут может быть до десятка виноватых. В одном случае человек просто выпрыгнул под колеса машины, а еще и в неположенном месте. Кто виноват? Этот человек. Он чуть ли не самоубийство совершил. В российском праве есть концепция, которая освобождает от ответственности владельца объекта повышенной опасности, если потерпевший умышленно причинил себе вред.

Вторая история: человек переходил дорогу в положенном месте, но у беспилотника тормоза не сработали, так как механик выпустил машину на линию и не проверил их. Кто виноват?

Третий вариант: машина исправна, но по условиям за рулем должен был сидеть человек, который обязан предотвращать аварии. Кто виноват? К слову, этот кейс не теоретический. Когда в 2018 году беспилотник Uber сбил человека, за рулем по условиям тестирования сидел инженер-испытатель, в момент столкновения он смотрел в телевизор. Существует вариант, что все прочие условия нормальны, но произошел сбой в программе. Вот теперь мы добрались до разработчика. Как видите, вариантов много.

— Значит, нет универсального ответа. А цифровой кодекс писать уже стоит?

— Я не думаю, что есть необходимость этого конкретно в контексте ИИ. Если мы говорим про ИИ, то он не требует пока кодификации.

Но если рассматриваем какие-то другие цифровые технологии, то, наверное, можно о чем-то порассуждать. Такая идея поднималась уже в рамках программы цифровой экономики, но не была поддержана бизнес-сообществом. Может, сейчас снова начнет обсуждаться, но не думаю, что по отношению к ИИ. Как для набора всех цифровых технологий, наверное, можно рассмотреть.

— Зачем сейчас создают человекоподобных роботов? Это всего лишь игрушка для выставок или когда-то появится какая-то реальная польза от подобных разработок?

— Антропоморфные роботы естественны, так как индустрия отвечает на общественный запрос. Члены общества видят роботов в фильмах и книгах, где они как люди, а иногда даже лучше. Поэтому индустрия в ответ делает антропоморфных роботов.

— Любопытно, почему вообще такая идея возникла. Получается, человек уподобил себя богу, который создал человека по образу и подобию божию.

— Наверное. Мы все делаем по образу и подобию своему. Я не хочу вдаваться в философские обсуждения, но вы вспомните, что пантеоны древних богов были сплошь по образу и подобию людей со всеми их страстями и грехами.

«Ситуация с регулированием беспилотников у нас сейчас предельно простая — плохая» Фото: «БИЗНЕС Online»

«ДАЖЕ УЧЕНЫЕ-ТЕХНАРИ НЕ МОГУТ ДОГОВОРИТЬСЯ О ТОМ, ЧТО ТАКОЕ ИИ»

— Андрей, вы возглавляете рабочую группу по искусственному интеллекту в Совете Европы. Расскажите об этой структуре и ее задачах.

— В 2019 году Совет Европы создал специальный комитет для регулирования искусственного интеллекта (ИИ). Его задача состояла в том, чтобы к 2021-му для комитета министров Совета Европы обозначить подходы к регулированию ИИ и предложить элементы будущего юридического документа.

Говоря простым языком, Совет Европы хочет сделать первую в мире конвенцию по ИИ. В этом спецкомитете присутствуют представители всех стран Совета Европы, их почти 50, и еще пять десятков наблюдателей от разных стран мира. Создано несколько рабочих групп. Одна из них занимается выработкой содержания, а другая станет проводить глобальные консультации с европейским сообществом, то есть с наукой, бизнесом, образовательными учреждениями, населением, государствами о том, каким должно быть регулирование ИИ. На территории 25 стран Европы даже пройдут специальные раунды консультаций, в том числе в России.

Данную рабочую группу, которая таким процессом руководит, я и возглавил, меня поддержали страны-участницы. Наверное, это связано с тем, что раньше я уже в Совете Европы выступал независимым экспертом по Восточной Европе, потом вошел в российскую делегацию. То есть вопросами ИИ в Совете Европы я занимаюсь практически с основания комитета.

— Все-таки считается, что если в Европе куда-то движутся в направлении регулирования ИИ, то у нас это делают очень медленно. Насколько знаю, с законодательством у нас дела тоже идут не очень. Взять те же беспилотники, которым вроде разрешили ездить по дорогам общего пользования, но я за это время их ни разу не видела. У нас же есть явное отставание от Европы даже в плане законодательства. Разве нет?

— Беспилотники — пожалуй, моя любимая тема, я уже несколько лет плотно занимаюсь анализом происходящего, а в прошлом году в Думу даже вносился подготовленный при моем участии законопроект.

В этом году был создан неофициальный консорциум российских производителей беспилотников как раз для развития регулирования. В него вошли «Яндекс», КАМАЗ, «Газпромнефть», Сбер, а также небольшие производители. Мы разработали план развития данной индустрии на ближайшие несколько лет, сейчас он находится в правительстве. Мы также предложили кабмину, как расширить условия эксперимента с беспилотниками.

Ситуация с регулированием беспилотников у нас сейчас предельно простая — плохая. Наше регулирование находится на уровне стран-пионеров Европы и Азии, но по состоянию на 5–6 лет назад. Это немного, но с новыми технологиями выходит колоссальный разрыв.

Международная аудиторская компания даже составляет специальный рейтинг готовности стран к внедрению ИИ, так Россия там на последних местах. С точки зрения уровня технологий это несправедливо (так уж странны расчеты рейтинга). Но с позиции регулирования все так и есть.

У нас разрешено ограниченное тестирование в нескольких субъектах, причем самых простых видов беспилотников — машин, когда за рулем сидит человек. Грубо говоря, такое регулирование в Нидерландах было в 2015 году, а с 2016-го они разрешили развернутое тестирование. В некоторых штатах США уже разрешена полноценная эксплуатация беспилотников. Это наша с вами боль, которую надо решать в ближайшие месяцы.

— А как дела в целом с законодательством, связанным с регулированием ИИ?

— Это может удивить вас, но, если смотреть в среднем, у нас все хорошо. Все страны столкнулись с одной и той же проблемой: появился ИИ, и что с ним делать? Он не вписан в правовые системы, в каждой стране у каждой индустрии есть свои сложности. ИИ — это не какой-то супермозг или суперразум, а сейчас лишь технология, которая работает в каждой индустрии экономики, везде имея свое преломление. В каждой индустрии у нас свое регулирование, потому приходится настраивать отраслевую рамку в каждом отдельном случае.

Попытки неких обобщений предпринимаются. Сейчас в мире существует только три страны, где есть развернутое понимание, как нужно трансформировать правовую систему. Это США (они опубликовали принципы регулирования ИИ), Евросоюз (Еврокомиссия разработала специальный документ «Белая книга: руководство по регулированию ИИ») и Россия. Россия первой в мире утвердила свою концепцию регулирования ИИ. Премьер-министр Михаил Мишустин подписал ее в августе. Этот документ больше первого и второго, он более детальный. В нем несколько частей, есть общая, где описаны концептуальные проблемы и как надо подходить к регулированию. Есть часть, посвященная всем правовым проблемам (ответственность, принадлежность авторских прав на созданные объекты, вопросы страхования и экспорта). Есть отраслевая часть. С этой точки зрения, я бы сказал, что Россия по регулированию находится не среди отстающих, а в лидерах. Но у нас, к сожалению, провисают отдельные отрасли. Самое главное отставание — регулирование автономных машин, высокоавтоматизированных транспортных средств. Если бы такой проблемы не было, я бы сказал, что в России все неплохо.

«Китай убежден, что технологии способны мультиплицировать производительную силу, придать новый импульс экономике, обществу и даже изменить правовую систему» Фото: «БИЗНЕС Online»

«ЛИДИРУЮТ США И КИТАЙ С БОЛЬШИМ ОТРЫВОМ»

— Вы говорили, что в России дела с ИИ не так уж плохи с точки зрения законодательства. А по технологиям и «железу» есть проблемы?

— Вы правы, с «железом» у нас есть трудности. Создание микропроцессоров — это сложно, и Россия из подобной гонки, как и многие другие страны, не то что выбыла, я даже не уверен, что она в ней активно участвовала.

— Почему, на ваш взгляд, надо стремиться быть в лидерах в гонке создания ИИ?

— Китай в 2017 году об этом прямо написал в своем плане развития технологий ИИ нового поколения. В данном документе четко обозначено, что они хотят стать лидерами к 2030 году. Китай убежден, что технологии способны мультиплицировать производительную силу, придать новый импульс экономике, обществу и даже изменить правовую систему. Они последовательно это делают. Соглашаться с подобным или нет — личное дело каждой страны и человека. Кто-то может не верить в силу технологий. Судя по тому, что уже 30–40 стран написали свои стратегии развития ИИ, то большинство мирового сообщества все-таки склоняется к тому, что ИИ важен и нужен. Но у каждого будет свой ответ почему.

— Вам не кажется, что рано или поздно нормальный ИИ начнет превосходить по опасности и важности ядерное оружие?

— Возможно. Илон Маск, который является одним из спонсоров Future of life institute, видимо, так считает, потому что этот институт посвящен проблеме развития тех технологий, которые опасны для человечества. Как раз там ИИ стоит в одном ряду с биотехнологиями и ядерным оружием.

— Кто сейчас, на ваш взгляд, лидирует в гонке?

— Лидируют США и Китай с большим отрывом. Гонка двух сверхдержав в сфере ИИ уже подробно описана в самых разных работах, рейтингах. Всем очевидно, что есть две доминирующие страны — США и Китай — с разными моделями регулирования, развития технологий ИИ. Я могу порекомендовать книгу Ли Кай-Фу «Сверхдержавы искусственного интеллекта», где он подробно описывает причины, почему, на его взгляд, лидируют США и Китай, и высказывает предположение, кто все-таки победит.

— А вы на кого ставите?

— Я хочу поставить на Россию.

— Но у нас, судя по всему, кроме того, что написали очередную бумажку, пока ничего нет.

— Это не отменяет того, что мы можем стремиться победить в данной гонке. Я понимаю, что Россия находится далеко, но подобное не значит, что надо сидеть сложа руки и ничего не делать.

— Какие компании, структуры в России, на ваш взгляд, дальше всех продвинулись в создании ИИ?

— Я обращу ваше внимание на деятельность альянса в сфере ИИ, который объединяет крупнейших разработчиков: «Яндекс», Mail.Ru Group, Сбер, РФПИ, «Газпромнефть», МТС. Но в России много и других разработчиков, которые имеют мировой уровень.

«ИИ не должен восприниматься как альтернатива человечеству — такая история к нам опять же пришла из фильмов и книг. ИИ — это еще один полезный инструмент на службе человечеству» Фото: «БИЗНЕС Online»

«ЧЕЛОВЕК ВСЕГДА БУДЕТ ОСТАВАТЬСЯ В ЦЕНТРЕ, А ИИ СТАНЕТ СВОЕОБРАЗНЫМ ПОМОЩНИКОМ»

— Не могу не спросить про этический вопрос. Что делать с теми людьми, кого в конечном итоге заменит ИИ? А где он, может, никогда не сумеет заменить человека?

— В данном случае я сторонник прогресса, но одновременно считаю, что ИИ всегда будет опорой для человека, а не его заменой. ИИ не должен восприниматься как альтернатива человечеству — такая история к нам опять же пришла из фильмов и книг. ИИ — это еще один полезный инструмент на службе человечеству.

В данном смысле я убежден, что человек всегда будет оставаться в центре, а ИИ станет своеобразным помощником. Чем в большем количестве сфер он начнет помогать, тем лучше, потому что он снимает с нас рутинные заботы. Если вы с этим не согласны, то уберите из дома посудомойку, стиральную машину, микроволновую печь, смартфон и те средства, которые вам дали новые технологии, чтобы сделать вашу жизнь легче. Я убежден, что ИИ должен быть таким: это технология, которая делает жизнь человека легче и проще, снимая с него автоматические обязанности.

Конечно, есть большой пласт проблем, связанный с тем, что человек вытесняется из определенных сфер деятельности, так как робот или ИИ делает такую работу лучше. Обычно об этом говорят, поднимая тему безработицы. Я считаю, что проблема есть, но то, как мы ее будем решать, обсуждают сейчас все страны . Сейчас самое время, чтобы конкретные люди сами взяли свою жизнь и судьбу в руки. Пока, судя по тому, что я вижу, никто не придумал ничего лучше, чем объяснять людям, что они должны обучаться, развиваться, понимать, что им теперь всегда придется осваивать новые профессии. Дело тут не в ИИ, а в целом в прогрессе, информационном обществе. ИИ — это небольшая составляющая локомотива прогресса.

— Почему вы не говорите, что государства тоже как-то должны в этом участвовать? Что делать тысячам водителей, которых когда-то заменят беспилотники? Считается, что ИИ повышает производительность труда. Но ведь что-то надо делать с этими «лишними» людьми.

— Я не считаю, что существуют «лишние» люди. Вы правы, государству надо будет активно вмешиваться, никто не спорит. Однако люди должны понимать, что пределы вмешательства государства ограничены. В разных странах обсуждают базовый доход — выплата определенной суммы, чтобы гарантировать минимальный уровень жизни.

— Это явно не вариант для России, мне кажется.

— Решения пока не нашли.  Я много выступаю, каждой аудитории задаю вопрос: знаете ли вы кого-то, кого коснулась проблема роботизации, кто лишился работы? Традиционно не более 5 процентов аудитории поднимает руки. Большинство уверены, что для них всегда найдется рабочее место, что их лично и их семьи данная проблема не коснется.

— Значит, они не задумываются над этим. Давно уже составляют список профессий, которых скоро не будет. К слову, юристы и журналисты в него тоже входят.

— Приведу пример. У вас есть знакомые фонарщики?

— Я понимаю, о чем вы. Часто приводят в пример водителей, которые в свое время заменили кучеров.

— В развитии человечества было огромное количество этапов, когда определенные слои населения оказывались без работы. Данная проблема для нас не нова. Когда человечество всю жизнь передвигалось на лошадях, а тут появились машины и поезда, то люди тоже скептически относились к подобным технологиям и боялись за свои рабочие места. Сегодня мы все передвигаемся на машинах, а лошади — это исключительно хобби. Соответственно, вместо коневодства у нас появились автобизнес и автопроизводители, которые дали невероятное количество рабочих мест по всему миру.

С данной точки зрения, история вроде бы нам показывает, что бояться нечего. Как юрист я говорю, что риски все же есть, потому что раньше изменения происходили структурно долго, а сейчас по щелчку — в течение 10–15 лет меняются технологии, структура производства. Это все убыстряется.

Но что с подобным делать? Это вызов не только государству. Да, государства обязаны помогать таким людям, искать пути решения проблемы. Но не надо делать вид, что такое касается только государства. В современном информационном обществе данная проблема одинакова важна и для конкретного человека.

Невозможно закрыть один завод и по щелчку открыть другой, чтобы туда перевести людей. Информационное общество приводит к тому, что, пока ты переводишь один завод на другой, тот тоже устаревает. Потому людям (хотят они этого или нет) тоже придется учиться.

«ЕСЛИ ТЕХНОЛОГИЯ НЕ МОЖЕТ БЫТЬ БЕЗОПАСНОЙ, ЕЕ НЕЛЬЗЯ ПРИМЕНЯТЬ»

— С развитием технологий хакеры тоже становятся все более умными и продвинутыми. Но нельзя исключать, что эти хакеры станут террористами, а терроризм у нас сейчас угроза номер один в мире. Как тогда решать данную проблему? Ведь хакер может не только деньги с банковской карточки снять, но и перехватить управление над подключенной к сети техникой, в том числе военной. Где гарантия, что террористы этого не совершат?

— Гарантии нет. Что с этим делать? Если технология не может быть безопасной, ее нельзя применять. Каким бы сторонником прогресса и любителем технологий я ни являлся, проблема терроризма и вообще обеспечения безопасности существует, и ее нельзя игнорировать.

Обеспечение информационной безопасности — это обязанность разработчиков. Если ее не получается обеспечить, это приведет к ужасающим последствиям. Что самое ценное в автомобилях Tesla, чьи патенты выложены в открытый доступ? Система защиты от вмешательства извне. Илон Маск чуть ли не конкурс объявил на то, кто вскроет Tesla.

— А что у нас с безопасностью персональных, в том числе биометрических, данных, которые сейчас собирают и банки? Они достаточно защищены?

—  Весь мир сотрясают истории о периодически происходящих утечках. Это неизбежно. Если вы возьмете бочку и будете ее наполнять водой, то рано или поздно из нее потекут струйки.

Сегодня информационное общество — бочка, набитая персональными данными. Причем делает это не государство и не бизнес, как многие думают, такую бочку набивают информацией сами люди. Я считаю, что отчасти дело в смартфонах — это универсальная вещь, чтобы вы через нее своими персональными данными делились с неограниченным количеством людей. Обычно говорят только про один аспект, что смартфоны используются государством для слежки за людьми. В реальности в смартфоне сейчас вся жизнь человека, которую он сам же и публикует.

Мне кажется, что напичканность современного общества персональными данными — это гигантская проблема. Как обеспечить, чтобы они никуда не утекали? Какой комфортный регуляторный режим для них сделать? Как защищать права граждан? Как обеспечивать конфиденциальность? И тут я тоже могу сказать, что это не может быть проблемой какого-то одного субъекта, например бизнеса. Это не может быть проблемой только государства или гражданина. Это общая проблема. А часто, когда вопрос обсуждается, все ищут волшебную таблетку, которая решит вопрос. А ее нет.

Мы полностью запрещаем утечки персональных данных, но они все равно происходят. Любой субъект персональных данных обладает огромным количеством информации. Мы сами создаем big data, и операторы, которые эти данные обрабатывают, везде вокруг нас. С такой точки зрения, те утечки, которые происходят, — небольшая капля в море той информации, которая есть. Мне кажется, что сейчас операторы, государства пока еще держатся, обеспечивают всеми способами, чтобы скандалов было мало. Если посмотрите на причины утечки персональных данных в разных странах, то увидите, что почти всегда стоит человеческий фактор.

— У вас есть совет, как каждому защитить свои персональные данные?

— Очень просто. Вам надо осознать, где, когда и как вы оперируете своими персональными данными, и принять решение, хотите ли вы, чтобы они потенциально были доступны какому-то круг лиц или нет. Это называется цифровым этикетом. У нас он напрочь отсутствует.

— То есть это снова вопрос самообразования?

— Мне часто говорят: почему вы все сводите к тому, что люди должны учиться? Потому что везде, за любым процессом стоит человек. Понятно, что есть природные катаклизмы, но в целом человек встал во главе всего. Это не ИИ и не несчастные роботы, а люди. Они сами все еще определяют течение жизни. Потому нужно начинать с человека — это единственный разумный ответ.