Саморегулирование искусственного интеллекта – фантастика или перспективное направление для грамотных специалистов?

Так уж повелось в России, что не успеет появиться какое-то направление деятельности, как для его «поддержки» тут же создаются различные рос-гос-надзоры или начинают обдумывать, как бы ввести в этой сфере саморегулирование. Не стала исключением даже такая экзотичная и не слишком пока распространённая технология, как искусственный интеллект. Подробности читайте в материале нашего добровольного эксперта из Уренгоя.

***

Искусственный интеллект (ИИ) – это не какая-то фантастика из далёкого будущего, а вполне активно развивающаяся технология, в которую практически все развитые государства вкладывают колоссальные ресурс. Вспомним, в частности, слова Владимира Путина, который, выступая на экономическом форуме в сентябре 2017 года, сказал, что «искусственный интеллект – это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы».
А Владимир Владимирович, как известно, слов на ветер не бросает. Неслучайно одним из приоритетов развития страны в соответствии с его майскими указами, разработанными уже в этом году, стала «дигитализация», она же – цифровая экономика. Уже утверждён и бюджет на пресловутую «цифру» – он составит 2,16 триллиона рублей на пять лет. Большие деньги, которые нуждаются в освоении и контроле! И в саморегулировании?

Чтобы ответить на этот вопрос, стоит взглянуть на то, что же подразумевается под «искусственным интеллектом» в реальности. Это достаточно широкий спектр технологий, в который входит анализ больших данных, машинное обучение, глубокое обучение, компьютерное зрение, нейросети. Опускаясь ещё на уровень ниже, к прикладному применению, можно выделить следующие активно развивающиеся направления:

• распознавание лиц, автомобильных номеров и ситуаций;
• автономные беспилотные транспортные средства;
• банковский скоринг;
• биржевое прогнозирование;
• военная робототехника.

Практически все они способны коренным образом поменять техническую инфраструктуру, создают ситуации, которые не регулируются действующим законодательством. Например, широко внедряемые в системы безопасности программные комплексы по распознаванию лиц явно нужно как-то регулировать с требованиями по защите персональных данных. Беспилотные автомобили, которые активно тестирует в пассажирском сегменте Яндекс, а в грузовом – КамАЗ, никак не учтены в правилах дорожного движения. И это только самый поверхностный слой проблем. А в банковской сфере программы скоринга, где принимают решение о выдаче кредитов, могут работать по сформированным внутри системы и совершенно непрозрачным правилам, которые будут оказывать влияние на деятельность предприятий и целых секторов экономики.

Кроме того, стремительный прогресс в области ИИ вызывает серьёзную этическую озабоченность. В том числе угрозу для рабочих мест, причём, заговорили о таких чисто человеческих профессиях, как бухгалтер, юрист, оператор колл-центра, водитель, кладовщик. Вдумчивые наблюдатели беспокоятся о его способности усилить концентрацию государственной и частной власти, увеличить информационную асимметрию и уменьшить прозрачность – всё это за счёт граждан.

Что говорит мировая практика? Разработчики искусственного интеллекта в частном секторе знают об этих проблемах, и они приступили к разработке кодексов, регулирующих их собственную деятельность. Например, Корпорация Майкрософт изложила шесть принципов создания систем ИИ:

1. справедливость;
2. безопасность;
3. надёжность;
4. конфиденциальность;
5. прозрачность;
6. подотчётность.

Каждый из этих принципов, в свою очередь, необходимо будет уточнить и применить к ряду случаев.
Компания Google сделала то же самое через своих разработчиков искусственного интеллекта.

Многие другие компании рассматривают и разрабатывают этические кодексы, чтобы применять их в корпоративных решениях.
В автомобилестроении предлагается три принципа, на которых может быть построено регулирование применения систем ИИ.

Во-первых, поскольку взаимодействие между транспортными средствами имеет значение, либо Правительство, либо промышленный консорциум должны разработать протокол между моделями и производителями, который будет регулировать взаимодействие в максимально широком диапазоне случаев. Одной из возможностей является система датчиков и передатчиков в каждом транспортном средстве, которая мгновенно передаёт сигналы при проблемных ситуациях и позволяет координировать движение в режиме реального времени между транспортными средствами.

Во-вторых, программные решения должны соответствовать этическим соображениям. Эти ответы должны быть явными и чётко определёнными. И сами автопроизводители не имеют права принимать эти решения, которые должны отражать публичные обсуждения и дебаты.

В-третьих, поскольку особые обстоятельства имеют значение, автономные транспортные средства должны иметь возможность получать и развёртывать соответствующую информацию в максимально возможной степени. Система управления транспортного средства должна считывать эмоциональное и другие состояния пользователя. Для этого может потребоваться установка датчиков и даже устройств распознавания лиц в качестве элементов автономного водительского пакета.

Несомненно, что столкнётся с этим кустом проблем и наша страна. Очевидно, что с учётом российской специфики, именно государство станет основным заказчиком и основным регулятором разработок в сфере искусственного интеллекта. Однако, специфика отрасли как нельзя более располагает к созданию саморегулируемых организаций. В своё время лотерейный билет вытащили те участники бизнес-сообщества, кто поняли, что такое строительные СРО и сделали на них ставку. Сегодня таким же счастливым шансом может стать создание СРО для сферы искусственного интеллекта. Технологии готовы, дело за организаторами и грамотными юристами!

ОТ РЕДАКЦИИ. Вот такие визионерские мысли высказал наш внештатный автор. И мы можем только их поддержать – ведь если будет принято решение о введении саморегулирования для искусственного интеллекта, то разработчики уж точно не создадут никакой Скайнет, способный поработить землю. Не до того будет. Всё время уйдёт на поиск специалистов с десятилетним стажем работы, оформление и согласование внутренних документов и сбор средств на компенсационные фонды…

Ваш ЗаНоСтрой.РФ