Цифровая дискриминация и конкуренция с роботами: в Казани решали, как втиснуть IT в рамки закона

Айрат Хайруллин: «Мы видим, как стремительно, за 5–10 лет, технологии ворвались в нашу жизнь и сколько неотвеченных вопросов требует правового регулирования»

«Цифровое право — пласт непаханого поля»

«Возможности для цифрового контроля у работодателей становятся всеобъемлющими. Работник будет трудиться, находясь под стеклянным колпаком. Каждый шаг, каждое движение, состояние здоровья в данный момент, все, вплоть до эмоций и мыслей, становится более доступным для анализа системами искусственного интеллекта», — предупреждали в минувшую пятницу эксперты на Kazan Digital Week. Завершающий день международного форума прошел под знаменем первой масштабной конференции «Цифровые технологии и право». Пять базовых и 7 специальных секций, только объединенная программа которых занимает 252 страницы (!), собрали 2 тыс. человек из 30 стран мира. А пленарное заседание прошло на самой большой татарстанской площадке — в концертном зале им. Шакирова. Студентов КИУ им. Тимирясова, которые начали подтягиваться раньше всех (еще бы, вуз — один из организаторов конференции), декорации особенно впечатлили: наиболее смелые даже поднимались на трибуну и фотографировались в роли докладчиков. 

«Цифровое право — пласт непаханого поля, — обозначил масштаб работ глава минцифры РТ Айрат Хайруллин. — Мы видим, как стремительно, за 5–10 лет, технологии ворвались в нашу жизнь и сколько неотвеченных вопросов требует правового регулирования». Примеров масса: от Иннополиса, где установили экспериментальный правовой режим для беспилотных авто, до криптовалют, которые одни предлагают запретить, а другие — легализовать. «Конечно, правда где-то посередине и требует регуляции», — заключил Хайруллин, передавая микрофон собравшимся экспертам. 

Доклады спикеров порой напоминали конспирологические теории в духе чипизации населения Биллом Гейтсом и сюжеты фантастических сериалов вроде «Черного зеркала». Но ученые степени тех, кто выходил на трибуну, внушали доверие, а сама атмосфера Kazan Digital Week, где за стенкой бегали робособаки, роботы-андроиды в человеческом обличии предлагали сфотографироваться, а молодежь развлекалась в гейм-зоне с очками виртуальной реальности, убеждала, что все это вполне реальное ближайшее будущее. 

Атмосфера Kazan Digital Week, где за стенкой бегали робособаки, роботы-андроиды в человеческом обличии предлагали сфотографироваться, а молодежь развлекалась в гейм-зоне с очками виртуальной реальности, убеждала, что все это вполне реальное ближайшее будущее

За нами следят, нами управляют и нас заменят роботы 

И один из главных рисков такого будущего — нарушения прав человека и вторжение в частную жизнь. «В эпоху, когда информацией о вас владеют масса субъектов, вы не всегда знаете, какие субъекты и что о вас знают, но решения о вас могут приниматься в так называемой нормативной тишине», — заметила главный научный сотрудник Института государства и права РАН, ведущий научный сотрудник центра технологий государственного управления РАНХиГС Эльвира Талапина.  

Кроме того, существует опасность социальной фрагментации общества, считает ученый. «У человека появилась возможность избрать себе такой уютный, комфортный виртуальный мир, где есть только те люди, с которыми они общается, которые ему приятны, лишь те новости, что он хочет слышать, освещение событий в том ключе, в каком ему нравится. Получаются некие виртуальные социальные группы, которые, выйдя из этой социальной реальности, сталкиваются с совершенно другой жизнью», — отметила она. Также, по словам спикера, есть риск, что алгоритмы могут стандартизировать поведение людей, делая общество более предсказуемым и, соответственно, абсолютно управляемым. 

Глава минцифры поинтересовался, появится ли у человека когда-нибудь право на данные, т. е. возможность отказывать цифровым платформам в сборе информации о себе. Талапина парировала, что схожий с большими корпорациями подход сбора данных она замечала и у чиновников — в части оказания госуслуг. «Говорили, что, если им граждане не хотят предоставлять свои данные, пусть они эти услуги и не получают. Еще опаснее, когда государственные органы встают на эту позицию», — отметила она.

Еще одна тенденция — автоматизация труда и ее закономерное следствие — сокращение значительного количества рабочих мест и изменение условий труда на оставшихся местах. «Если раньше рядом с вами трудился коллега, теперь эту функцию коллеги выполняет робот, то ваши условия труда меняются, хотя вы остались на своем рабочем месте. Вам необходимо взаимодействовать с системой искусственного интеллекта», — подметила доцент кафедры трудового и экологического права Национального исследовательского нижегородского государственного университета им. Лобачевского Ирина Филипова.

Нащупать правовые рамки функционирования новых цифровых реалий должны помочь экспериментальные правовые режимы (ЭПР) или регулятивные песочницы. Но и с ними есть проблемы. Так, доцент кафедры предпринимательского, конкурентного и экологического права Южно-Уральского государственного университета Елизавета Громова рассказала о дискуссиях в Москве, где пилотируются системы распознавания лиц на основе искусственного интеллекта. «Под угрозу попало право человека на защиту персональных данных! Был ряд возражений, и вообще рассматривался вопрос о том, чтобы наложить на этот эксперимент мораторий», — отметила она. А ЭПР по тестированию беспилотных летательных аппаратов и автомобилей, который, в частности, действует и в Иннополисе, по ее словам, допускает до 13 отступлений от законодательства в сфере безопасности дорожного движения. «А под угрозой жизнь, здоровье и имущество!» — возмущалась Громова. 

От Татарстана же выступил уполномоченный по технологиям искусственного интеллекта Булат Замалиев. Он рассказал, что в республике были разработаны принципы реализации проектов в сфере технологий искусственного интеллекта

Цифровая дискриминация татар и присоединение к кодексу этики ИИ

На конференции выступили и представители из других стран — Беларуси и Казахстана, которые рассказывали, как у них устроено электронное правительство, здравоохранение, образование и умные города. Например, Казахстан по итогам 2020 года оказался на 29-м месте в мире по индексу развития электронного правительства, опередив Россию (36-е место). Профессор Международной школы экономики КАЗГЮУ Бауржан Рахметов рассказал, что в стране госуслуги можно получить и через телеграм-бот, и даже по СМС. Пилотируется два проекта с использованием искусственного интеллекта в сфере здравоохранения: робот-ассистент в хирургии и система, основанная на данных научной литературы и врачебной практики, которая предлагает врачам-онкологам методы лечения. Но не обходится и без проблем.

«При проведении цифровизации существует риск утечки персональных данных. И, к сожалению, в Казахстане это неоднократно случалось. Одна из крупных утечек в стране произошла в 2019 году, когда из базы Центрального избирательного комитета утекли данные 11 миллионов казахстанцев, то есть практически всего совершеннолетнего населения Казахстана», — признался Рахметов. 

От Татарстана же выступил уполномоченный по технологиям искусственного интеллекта Булат Замалиев. Он рассказал, что в республике были разработаны принципы реализации проектов в сфере технологий искусственного интеллекта. Одним из главных пунктов этого документа стало обезличивание данных. «Это может быть и обезличивание лиц. Технологии по распознаванию данных имеют достаточно высокий уровень готовности, и проводить эту процедуру не составляет никакого труда. То же самое относится не только к лицам, но и к силуэтам людей и номерам государственных знаков автомобилей», — разобрал он действие порядка на примере системы камер уличного наблюдения «Безопасный город».

Еще один принцип — доступность и непредвзятость. «Отсутствие сервисов распознавания синтеза татарской речи ведет к тому, что множество сервисов уже сегодня недоступно для татароговорящей аудитории. И это не что иное, как дискриминация, на наш взгляд, — заявил Замалиев. — Дальше ситуация будет только усугубляться. Технологии развиваются в геометрической прогрессии, вычислительные мощности улучшаются, и возможности голосовых роботов станут только расти. И, когда мы говорим, что у нас отсутствует базовая технология для реализации сервисов распознавания синтеза речи, это значит, что данные технологии не будут доступны для татароязычной аудитории». Чтобы не допустить подобного, в Татарстане центр цифровой трансформации уже разрабатывает проект синтеза и распознавания татарской речи «Татар Спич».

Компании РТ могут присоединиться к российскому «Кодексу этики в сфере ИИ», предложил управляющий директор центра регулирования искусственного интеллекта Сбербанка Андрей Незнамов. Он рассказал, что сейчас кодекс подписали уже больше 120 игроков, причем последнее крупное присоединение было на Восточном экономическом форуме. «Сегодня мы в кулуарах обсуждали. Я надеюсь, обязательно сделаем самый массовый раунд присоединения Республики Татарстан», — анонсировал он. 

Заместитель управляющего директора компании Оzon Алексей Минаев выступил за включение РТ в другой эксперимент — по продаже рецептурных лекарственных препаратов через интернет. Такое предложение он озвучил с подачи депутата Госдумы от Татарстана Артема Прокофьева, который напомнил, что соответствующий законопроект был принят в первом чтении в ГД, но пока распространяется только на Москву, Московскую и Белгородскую области. «Надеемся, что этот проект будет поддержан. Кстати, мне кажется, было бы правильно и Республику Татарстан включить в периметр эксперимента. Полагаю, это напрашивающееся решение, учитывая уровень цифровизации», — отреагировал Минаев.