При написании статьи ни один юрист не пострадал...
Одним из самых запоминающихся участников относительно недавнего Петербуржского международного экономического форума стала компания «Мегафон», явившая миру чудо современной инженерной мысли – электронного юриста. Только лишь окончательно улеглись страсти после заявлений главы Сбербанка о том, что им удалось заменить компьютерной программой аж 450 юристов, как другая компьютерная программа бросила вызов одному из ведущих юристов России. Поединок закончился убедительной победой «белкового» юриста, однако Роман Бевзенко, отстаивавший честь человечества в этом поединке, в своем блоге высказал мнение, что такое соотношение сил продлится недолго. Мы не можем согласиться со столь оптимистичным высказываением.
Для того чтобы провести полноценную диванную экспертизу этого вопроса, нам понадобятся некоторые знания из теории искусственного интеллекта. Дело в том, есть два совершенно разных, в чем-то даже противоречащих друг другу,подхода к построению ИИ: статистический подход и логический подход.
Статистический подход (или, как сейчас можно говорить, машинное обучение) – это по сути своей обучение на примерах. То есть машине «показывают» огромную базу данных различных примеров, про которые заранее известно, какие из них правильные, а какие – нет. Машина определённым хитрым образом запоминает эту базу данных, после чего для любого нового примера она может пытаться «угадывать», правильный он или нет. Это всё. То есть качество ответов зависит от качества исходной базы данных, которая должна быть грамотно и аккуратно структурирована, и по возможности не содержать ошибок. У нас, в юридической сфере, есть такие базы данных?
Более того, даже самая лучшая нейронная сеть (самый популярный пример статистического подхода), обученная по самой лучшей базе данных, обладает рядом ограничений. Во-первых, она может «угадать» ответ только в рамках того, чему её научили. Например, если её обучили, что «а!» - это междометие, «ааа!» и «аааааааааа!» - это тоже междометия, то она может ответить, что «ааааа!» - междометие, но о том, что «угу!» - это междометие, догадаться в принципе не может. Во-вторых, она вообще даёт ответ только приблизительный, с какой-то вероятностью. Например, она скажет, что «ааааа!» - междометие с вероятностью 99%, «ага!» - с вероятностью 42%, а «угу!» - с вероятностью 0,03%. И наконец, нейронная сеть (равно как и любой другой алгоритм, основанный на статистике) в принципе не способна объяснить, почему она выбрала тот или иной ответ. Это сродни интуиции – чувствую, что правильно, но объяснить не могу. А интуиция, как мы знаем, имеет свойство подводить в самый неподходящий момент.
Другой подход к построению ИИ – логический. В этом случае мы учим машину не «угадывать ответ», а именно «решать задачу». То есть для этого надо формально (в понятном для компьютера виде) представить начальные данные и тот конечный результат, который мы хотим получить. А также описать правила, по которым мы можем двигаться из начального состояния в конечное. Потом машина просто перебирает все возможные варианты и определяет, можно ли попасть из начального состояния попасть в конечное, и если можно, то как. Именно, на этом принципе построены, например, шахматные программы или программы доказывающие математические теоремы. Понятно, что в случае юридической машины начальным состоянием будет описание ситуации плюс вся нормативно-правовая база, описывающая эту ситуацию, а «правилами движения» будут обычные правила логического вывода в стиле «если…, то…». Такой искусственный интеллект будет лишен всех тех недостатков статистических алгоритмов, о которых мы упоминали. Ему не нужна заранее разработанная и проанализированная база, он одинаково хорошо сможет решать как известные задачи, так и те, которые впервые видит. И самое главное – он сможет показать свой ход решения, логику своих рассуждений.
Ведь чего действительно не хватило роботу от «Мегафона», так это самостоятельных логических рассуждений. Он продемонстрировал умение слушать и понимать человеческую речь, подбирать цитаты и сыпать ими по поводу и без… Много продемонстрировал такого, что ещё лет 20 назад произвело бы фурор среди непосвященной публики. Но он при этом не продемонстрировал самого главного умения, которого мы ждем от юриста: умения строить логические выводы. И как мы теперь понимаем, в принципе не мог продемонстрировать в виду того метода, которым он пользовался.
Другой важный аспект, на который нам хотелось бы обратить всеобщее внимание, - это использование натурального языка общения. Дело в том, что задача общения компьютера с человеком на натуральном языке сама по себе чрезвычайно сложная и никем так до сих не решенная. Если совместить её с другой нерешенной задачей человечества (машинное понимание права), то, как вы думаете, каковы будут шансы на успех? Более того, естественный язык – далеко не лучшее средство в юридической коммуникации. Недаром же юристы всю историю своего существования старались уйти от естественного языка со всеми его неоднозначностями, двойными толкованиями и т. д. Может быть естественный язык вообще не самый лучший метод не только рассуждать о законах, но и писать законы? Сейчас настоящая мода на чат-боты: их пытаются использовать везде, совершенно не задумываясь, что иногда гораздо большего можно достичь, двигаясь в обратную сторону – от естественного языка к формальному. Двигаясь в этом направлении, человечество изобрело логику, математику… и в общем-то современный юридический язык, хотя он ещё и не до конца формальный.
Каким мы вообще хотим видеть юридическое сообщество и место юриста (не важно: живого или электронного) в нем? Как успешного «балабола», ловко жонглирующего словами, цитатами законов и постановлений ВС? Или как лоцмана, уверенной рукой прокладывающего единственно верный маршрут среди изломанных берегов нормативно-правовых актов? Если первое, то конечно же надо сосредоточиться на совершенствовании нейронных сетей: их уже научили рисовать, писать музыку – значит и «чесать языком» рано или поздно научат. Если же второе – надо обратить взор в сторону логических алгоритмов и их адаптации для юридических задач. Причем обратить взор должны сами юристы, потому что никто, кроме них, такую работу выполнить не способен.
P.S. Если же кто-то всерьёз опасается, что успех в этой области как-то угрожает профессии юриста, напомним, что изобретение калькулятора и компьютера не привело к повсеместному исчезновению математиков и инженеров, а всего лишь избавило их от тяжелой монотонной работы.
P.P.S. Кстати, искусственный интеллект, основанный на логическом подходе, в юридической сфере уже давно применяется – это так называемые экспертные системы. У них есть свои недостатки и ограничения, но в то же время они лишены недостатков нейронных сетей.
Похожие материалы
-
Вадим Мраморнов10.04.202454
-
Айдар Султановруководитель представительства в Республике Татарстан02.04.202431
-
Лолита Файзуллина26.03.20242
-
Иван Самарин22.03.20241
-
Валентин Куклин14.03.20245
-
Юлия Найден14.02.20242
Комментарии(34)
Где, на какой конференции Мегафон планирует выступить с докладом о своем "уникальном решении"?
Может здесь?
http://neuroinfo.ru/index.php/ru/
Или может здесь?
https://www.osp.ru/iz/ai2018/#topics
Или может еще где-нибудь?
Фокус почтенной публике показали, а дальше что?
Если презентуешь нейросеть, то подготовь слайды с топологией, распиши слои и синапсы. Сделай хоть что-нибудь, чтобы это походило на научно-практический доклад, а не на дешевое шоу.
И слить в экстазе экспертную систему и нейронную сеть, настроив каким-то образом выбор решения в результате разрешения конфликта между их взаимодействием (возможно третьей системой), как разрешаются конфликты между правым и левым полушарием головного мозга))
Кстати, если интересно, схожие мысли высказывает один американский специалист по юридическим экспертным системам. И у него даже есть некоторые наработки в этой области.
https://github.com/mpoulshock/HammurabiProject/wiki/Project-rationale
Вот его презентация.
https://vimeo.com/64340133
Если честно, то походит на "вы находитесь здесь", приправленную странной логикой - сначала размышления на тему что бот впринципе не способен, а потом уже внезапно способен, но при другом подходе. Или, например, если ИИ научат мыслить "в рамках общей логики", можно будет и без участия юристов "никто, кроме них, такую работу выполнить не способен".
А про знание предмета - ну вот в "логических" шахматных программах нейронные сети используются и ничего ;) https://ru.wikipedia.org/wiki/AlphaZero#AlphaZero_%D0%BF%D1%80%D0%BE%D1%82%D0%B8%D0%B2_Stockfish_%D0%B8_Elmo
Но все это - математические задачи. Для гуманитраной сферы требуется образное мышление, возможность моделирования которого в настоящее время научно не подтверждена.
Другое дело, что кроме распознавания образов нужно ещё много чего, на что нейронная сеть неспособна. Например, логически мыслить.
Про AlphaZero мы знаем, конечно. Но всерьёз говорить о ней можно будет только тогда, когда она примет участие хоть в каком-нибудь турнире среди шахматных программ и подтвердит своё превосходство. А пока что это всё напоминает байки деревенских мужиков в стиле "ехал в поезде с Ботвинником и вничью сыграл!"
Существующие компьютерные мощности позволяют решить любую шахматную задачу методом перебора. Поэтому научно-практического смысла в шахматныъх программах нет. Это просто любовь к искуству.
Ну, это конечно же неправда. :)
Если интересна эта тема и есть начальные навыки программирования, очень рекомендую эту книгу.
http://whychess.ru/560rpogrammirovanie-shahmat-i-logicheskih_igr.html
Уточним: "перебор" и "полный перебор" - это разные понятия.
А если интересует теория, то начинать надо не с этой книжки, а с алгебры, теории графов и дискретной оптимизации.
> иначе бы мы уже знали об этом.
Ошибочная логика. Кроме того, есть мнение что 95% юристов не могут приблизится к мышлению нормального юриста, если вы понимаете, о чем я.
> Но всерьёз говорить о ней можно будет только тогда
Всерьез о ней уже говорят. Но в отношении мнения, как я уже писал, это типичное "вы находитесь здесь" ;)
Нейронные сети сейчас на пике моды. Каждый их чих пытаются пиарить. А уж о реальных достижениях не узнать невозможно.
Многие хирурги тоже не могут приблизиться умению нормального хирурга. Но это не значит, что для них сойдут и кривые скальпели.
Видимо, у нас сильно разные представления о серьезности. :)
По поводу "знания предмета" - а где было сказано, что если А не основывается на использовании Б, то оно исключает Б? Это логика, 2 курс ;) НС ,безусловно, могут и должны использоваться, но не в основе, а например в системе ввода экспертной системы, которая, как поисковая строка в крупных поисковиках, будет подсказывать пользователю, что ввести в запросе при обращении к системе.
Мог бы съязвить, что мозг это тоже НС, но не буду. Еще раз обращу внимание - наиболее продвинутые экземпляры систем построены сейчас на нейросетях.
https://nplus1.ru/news/2017/05/26/ai-book
> отвечающим целям такого социального явления, как право, будет не гадание на кофейной гуще
Как вы относитесь к балансу вероятностей в доказывании в процессе? :)
Вы обратили внимание на создание кулинарной книги. Кулинария - это, по-вашему, близко к шахматам? или же к праву? Да и по поводу первой ссылки: вы раздел "Критика" в присланной статье сами читали? Соперник был связан по рукам и ногам,а вы ставите эту победу во главу угла. Это всё равно что заставить лучшего футболиста мира прыгать на одной ноге: я его конечно же обведу, но это не значит, что мой принцип подготовки (то есть её полное отсутствие) можно брать на вооружение и говорить как о передовом. НС в тех условиях сыграл как человек, повторяя, вероятно, и его ошибки. Абсолютно то же будет и в праве, если принятие решений возьмут на себя НС-роботы. Но зачем ему повторять наши же ошибки, если мы хотим, чтобы робот их не совершал?!
По поводу баланса вероятностей и всего субъективно-оценочного, если совсем коротко: отношусь умеренно негативно, как к необходимому на настоящий момент скорее злу, чем добру, это всё в идеале должно быть заменено на более четкие нормы. Но Вы затронули чересчур многогранную тему, я к ней надеюсь вернуться впоследствии, когда дойдём до этого этапа, а именно - как от этого можно максимально уйти с помощью машинизации.
1) Мозг - это совсем не та нейросеть, с которыми работают программисты. Разница примерно такая же, как между озерной (со всеми насекомыми и рыбами) водой и дистиллированной.
2) Вы сильно переоцениваете значение нейронных сетей из-за шумихи в СМИ. Задача по анализу кулинарной книги в том виде, в котором она представлена в упомянутой вами статье, не настолько сложна. Её вполне можно давать студентам в качестве задания по программированию. И они её смогут решить хоть с помощью нейронных сетей, хоть с помощью баз данных, хоть с помощью любых других методов. Только об не напишут в СМИ.
Так только потому, что поединок был на форуме, а не в наших судах :D
В наших судах пока безраздельно правит АИС "Левая пятка", а мотивировку пишет ГАС "Атыподирасшифруйка"...