читать блог
Этот текст написан по мотивам выступления на студенческой научно-практической конференции "Дни Науки факультета права НИУ ВШЭ 2017" 28 февраля 2017 г.
Машинизация права или юридизация машин
В последние годы мне часто приходится слушать и читать громкие заявления о машинизации права. "Умные контракты", криповалюты, технологии "блокчейн", бизнес-агрегаторы, мол де, с неизбежностью приведут к тому, что право отомрет, а юристы больше не будут нужны. Это напоминает 20-ые годы прошлого века, когда коммунистические юристы выступили с лозунгом отмирания права как буржуазного пережитка. При коммунизме, по их мнению, не будет права, товарно-денежные отношения, его порождающие, отомрут, а их место займут отношения организационно-технические. Тем не менее, технические отношения, по мнению марксистов, будут складываться между людьми, а не машинами, как предполагают сейчас некоторые. Но и сейчас, и тогда адепты новых тенденций были склонны преувеличивать влияние технических отношений на право и общество. Природа человека быстро измениться не может.
Те юристы, которые пришли в юриспруденцию из техники (в 90-е годы прошлого века их переучилось немало), вообще склонны механизировать право, считать, что его можно разложить на составляющие, измерить их, улучшить, а затем все собрать обратно. Но новые детали обычно вместе не складываются: начинает чего-то не хватать либо одна из деталей оказывается лишней. Припоминаю одну экзотическую работу, автор которой пытался раскрыть право собственности при помощи математических формул. Ничего, кроме улыбки, эта попытка не вызвала. Те, кто начинал как юрист или хотя бы как гуманитарий, меня поймут: они воспринимают право не как инертный механизм, но как субъективное явление, если не сказать больше, одушевлённое существо. Праву присуща воля, которая стремится достичь свободно избранной цели, не считаясь с правилами формальной логики.
Периодическое отступление норм права от законов формальной логики - одна из лежащих на поверхности причин, которые препятствуют машинизации права. Начнём с терминов, которыми пользуется право. Задумайтесь, например, что наш ГК понимает под объектом права собственности - вещь или имущество? И легкого ответа на этот вопрос не будет. Его могут дать лишь приверженцы жёсткого доктринального подхода, согласно которому объектом права собственности является телесная вещь, имеющая пространственные границы. Но ГК периодически объявляет объектом права собственности имущество, к которому ст. 128 относит также имущественные права. Их нужно специально исключать из числа объектов права собственности? Видимо, да, иначе исчезает различие между вещными и обязательственными правами. Допустим это, но общее имущество многоквартирного дома - тоже объект права собственности..., хотя вещью не является. И таких примеров множество. Многозначность терминологии - свойство права, отражение противоречивой жизни.
Чтобы перевести на компьютерный язык нормы, содержащие многозначные термины, придётся делать слишком много оговорок и исключений, что осложнит машинизацию права. Поэтому сначала придётся изменить право таким образом, чтобы его термины имели одинаковое содержание, причём во всех законах. Титаническая задача! Особенно с учётом постоянного изменения законодательства! Впрочем, приведённый мной пример представляет собой очевидный случай нарушения законов логики. Многие логические противоречия скрыты гораздо глубже и выявляются лишь в процессе многократного применения конкретной нормы, когда она "просвечивается" в разных бытовых ситуациях. Например, крайне трудно, если вообще возможно, "машинизировать" норму о злоупотреблении правом, которая носит "резервный" характер, избирательно дискриминируя определённые виды поведения, которые выявляются периодически. А "внутреннее убеждение судьи"? Разве его можно компьютеризировать?
Нелогичность права - это такое его свойство, которое лежит на поверхности. Гораздо более важной, внутренней причиной, которая препятствует машинизации права, является, как ни странно, свободная воля человека. Жизнь многогранна и постоянно "взламывает" стабильные нормы, которые перестают соответствовать потребностям людей. А люди, в свою очередь, начинают их обходить, искать новые пути удовлетворения своих интересов. Жесткое принуждение следовать таким нормам начинает раздражать людей. Что произошло бы с российской экономикой, если бы все предприятия заплатили налоги, установленные в начале 90-х годов. Ответ простой: экономика бы прекратила существовать. Именно поэтому "полицейское государство", заставляющее соблюдать любые правила, даже самые глупые, воспринимается негативно. Оно не нравится никому. Конечно, адепты строгой (хотел сказать, социалистической!) законности меня осудят, но порой девиантное (отклоняющееся) поведение полезно обществу и соответствует природе человека. А такое поведение принципиально машинизировать нельзя.
Неслучайно многие фантасты наделяют машины человеческими свойствами, в частности, способностью нарушать установленные правила. В этом они видят подтверждение того, что машина стала человеком. Образно эта идея нашла воплощение в довольно старом, но культовом фильме "Бегущий по лезвию бритвы" по роману Филиппа Дика. Вспомним также недавний фильм "Восхождение Юпитер", в котором андроид-юрист даёт взятку такому же андроиду-юристу для решения проблемы, возникшей у его клиентки, имеющей определённое право, но из-за бюрократических преград лишенной возможности его реализовать. Помощь человеку оказалась для андроида важнее соблюдения законов. Идея этого сюжета проста: пока машины и люди сосуществуют, они должны следовать общим правилам, и эти правила - человеческие!
Таким образом, полная машинизация права невозможна до тех пор, пока сохраняется человеческое общество, в котором люди наделены свободой воли и могут действовать нелогично или против правил. Призывать к машинизации права - значит требовать уничтожения этого общества и перехода к цивилизации машин… Но это не означает, что нужно отказаться от использования машинных технологий в юриспруденции при условии, что именно она продолжает занимать центральное место, играть ведущую роль. Машинизация - это вспомогательный приём, который позволяет праву достигать своих целей, а не господствующий принцип, при помощи которого мы должны перестроить право. В этом смысле точнее говорить не о машинизации права, а о юридизации машин! Машины должны быть построены таким образом, чтобы решать задачи, стоящие перед правом. Принципы права, включая идею свободы, должны стать для машин обязательными!
В юриспруденции немало сфер, в которых свободное творчество играет лишь подчиненную роль, а в основном действуют стереотипные правила поведения: регистрация большинства юридических лиц и прав на недвижимость, наложение штрафов и арестов, получение разного рода выписок, сдача налоговых деклараций и отчетов, заключение простых договоров. В этих сферах, прежде всего, и будет происходить машинизация. Но и сейчас там довольно часто обходятся без юристов, так что к "массовой безработице" это вряд ли приведёт. И главное, любая машинизация правовых отношений должна включать "ручной режим", когда в регулирование придётся вмешиваться человеческому интеллекту. Иначе "машинизированное" право ничем не будет отличаться от права тоталитарного общества. Требование о применении права "в ручном режиме" должно быть императивным, обязывающим любую юридическую машину отключаться по желанию клиента, который хочет работать с "живым" юристом. Можно и нужно разработать систему правовых средств юридизации машин!
Я желаю всем участниками студенческой научно-практической конференции "Дни Науки факультета права НИУ ВШЭ 2017" стать такими квалифицированными юристами, чтобы любая, даже самая высокая, волна машинизации их не затронула, а они могли бы продолжать заниматься тем делом, которое они выбрали!
Похожие материалы
-
Владислава Милославская19.04.20240
-
Валентин ЖуковРуководитель проектов GR10.06.20201
-
Галина ДобряковаГенеральный директор18.04.20201
-
Иван КрыловЮрист08.04.20202
-
Вячеслав Гимади13.02.201830
-
Илья АсосковРуководитель группы интеллектуальной собственности16.06.201425
Комментарии(35)
Нельзя!!!;~)
Но не потому, что это не возможно, а в связи с тем, что судьи этого не могут допустить, поскольку не желают добровольно ограничивать свободу усмотрения, а по существу - свою власть.
Казалось бы постой вопрос - автоматизировать процесс определения срока наказания в виде лишения свободы, оставив окончательное слово за судьёй: https://zakon.ru/discussi...udoproizvodstva
Ан нет, зачем судье обобщённый опыт сообщества, когда у него есть "внутреннее убеждение"....
Именно! Если бы жизнь была простой, могло бы быть простым и право. Но это не так, к счастью или сожалению. Ещё Фуллер в "Морали права" рассказывал на примере беседы с министром социалистической Польши о провале попыток упрощениях законов и изложения их языком, доступным пролетарию (а в современных реалиях - машине). Когда мы пытаемся примитивизировать и алгоритмизировать право, сделать из законов инструкции, право неизбежно вырождается и теряет свою внутреннюю мораль.
Законы (1) с неизбежностью должны излагаться языком на более высоком уровне абстракции, нежели инструкция-алгоритм для конкретного случая и (2) чаще всего текст закона не совпадает с нормой права, которая выводится толкованием с учётом правил толкования и контекста конкретной ситуации. При этом ключевое значение имеют оценочные категории, такие как добросовестность и разумность, способствующие исключению толкования и применения закона, которое в конкретной ситуации может привести к несправедливости.
Кроме того, даже в той мере, в которой правовые нормы могут быть представлены в машиноисполнимом виде, всегда должно оставаться место здравомысленному человеческому усмотрению правоприменителя. И злоупотребления при правоприменении не могут отменить общего принципа. С правом как с демократией - она может и несовершенна, но чего-то получше пока не придумали.
На примере со штрафом за превышение скорости: не секрет, что по данным видеокамер его технически способна выписывать от имени государственного органа и компьютерная программа без участия человека. Однако даже если в целях эффективности мы на этом этапе заменяем человека машиной, человек всегда должен быть вправе обжаловать такое решение по процедуре, предусматривающей принятие решения правоприменителем-человеком.
В Западной Европе во многом уже пришли к мысли о том, что юристы и иные специалисты-гуманитарии должны привлекаться в проектные команды с начальной стадии реализации любого технического проекта, с тем, чтобы избежать частного и общественного финансирования разработки таких технических решений, применение которых приведёт к нарушению норм права или несовместимо с социальными нормами.
Принцип проектирования технических решений с учётом обеспечения охраны частной жизни ("privacy by design"), например, прямо прописан в GDPR. Также во многом популяризуется более общий принцип соответствия проектных решений правовым нормам ("legal compliance by design"). Поскольку инвестиции в технические решения, не соответствующие правовым и социальным нормам, являются пустой тратой денег (в результате провала соответствующих продуктов на рынке и/или жёстких штрафных санкций со стороны регуляторов, включая оборотные штрафы), роль квалифицированных юристов только возрастает - как в частном, так и в публичном секторах.
А этого не произойдёт никогда!
Человек, по своей природе, существо субъективное, к тому же наделённое не только добродетелями, но и пороками, поэтому право используется им в первую очередь в личных интересах.
Будь это не так - человек тоже превратился бы в бездушную машину.
Я неоднократно замечал, что многие "гуманитарные" юристы относятся к Праву как некой ауре, бестелесной светящейся сущности, окружающей субъект права, которая может силой воли этого субъекта изменяться и переноситься на другой субъект как волшебная мана.
Нелогичность, это не суть Права, а его проблема. Нет ничего сакрального в противоречивых, порой безграмотных и часто содержащих элементарные логические и грамматические ошибки нормах права. Если ГК содержит противоречивые нормы о праве собственности, то это не проявление духа Права, а банальное распиз... во :( его составителей.
Дурная практика - искать сокровенный смысл и рассуждать о духе Права с отсылками к римскому праву и всему мировому правотворчеству, обсуждая очередную глупейшую (в лучшем случае логическую) ошибку, давно существующую (и уже сакрализированную) или вновь введенную. Глупость следует прямо называть глупостью, а не неотъемлемой сущностью Права.
Ну и не следует забывать о том, что принятие многих норм Права является компромиссом множества сторон, лоббирующих принятие закона в своем интересе, а вовсе не воплощением в материальной форме духа Права. И вывернутая наизнанку норма - это только результат компромисса.
Если Право не может логично урегулировать отношения на определенном уровне детализации, то решение достаточно очевидно - надо урегулировать отношения на том уровне обобщения, на котором возможно урегулировать отношения со 100% логичностью и непротиворечивостью. Это не такое уж сложное логическое правило.
А вот конкретное практическое применение такого общего правила и есть задача юристов (и судей в частности). И эта задача вполне алгоритмизируется, если проблема укладывается в тот уровень обобщения, который описан конкретной нормой.
Но задача не под силу алгоритмам, если для её решения необходимо понимание и ощущение справедливости, а для судей, кроме того, еще необходима и репутация, являющаяся залогом того, что решение принято исходя только из логики правоприменения (насколько это возможно) и безукоризненного чувства справедливости.
Соизмеряя с наследием римского права, видимо следует признать, что современные юристы не в состоянии выработать логичные, непротиворечивые нормы права даже в отношении многих базовых понятий содержащихся, например, в ГК, смирившись с этим и найдя утешение в метафизических рассуждениях.
Не получилось тогда, значит, не получится и сейчас? Объективно предпосылки-то разные.
Почему тогда математика - царица наук, а не право ;) Ну или не вижу примеров чтобы право серьезно двигало технический, экономический или социальный прогресс. Скорее оно часто его тормозит.
То, что законодательство часто нарушается, говорит о его несовершенстве, а не о совершенстве как системы, которую нельзя формализовать.
Антон Александрович, наличие бардака как причина невозможности навести порядок. Математика, например, уже давно оперирует нечеткими и вероятными понятиями – см. теорию вероятности и нечеткую логику.
Знаете, еще недавно конструкторы вопрошали «как можно компьютеризировать». А сейчас они машины виртуально разбивают, экономя сотни тысяч часов и средств, и выявляя такие противоречения, которые на практики могли бы всплыть не сразу – и все это еще до начала применения.
В программировании есть много вещей, о которых правоведам остается только мечтать – системы контроля версий, системы тестирования (в том числе fuzzing) и непрерывной интеграции, концепции функционального программирования (вроде purity).
Девиантное поведение в том виде, в котором вы его приводите – всего лишь способ нарушения одних правил при их противоречии другим, разновидность коллизионной привязки. Решается очень просто, обычно выставлением приоритетов.
Хотя, конечно, здесь есть другой, принципиальный вопрос о возможности создания сильного ИИ.
Идея этого сюжета в сатирическом высмеивании бюрократии, т.е. несовершенстве человеческих правил.
Машины лучше нас играют в шахматы. Нужно ли им вмешательство человека? Или же оно приведет к поражению одной из сторон?
Необходимость вмешательства человека – лишь последствие страха перед ошибками проектирования этих самых машин, которые, в свою очередь, зачастую возникают как раз из-за мнения, что «они должны следовать общим правилам, и эти правила - человеческие», и последствия страха разрешения многих морально-этических противоречий (например, когда в том же «Я-робот» машина принимает решение спасти человека, у которого объективно намного более высокие шансы на выживание, а не более социально-одобряемое спасение ребенка).
Алексей, несколько вопросов:
1. На ваш взгляд - написание кода без каких-либо ошибок - реальная задача? Если да, почему она до сих пор не выполнена, и у программистов считается за норму иметь х ошибок на каждые у строк кода?
2. Если машина в результате ошибки в коде примет решение, оцениваемое как несправедливое с позиций человеческой морали, в отношении того или иного человека, следует пренебречь такой ошибкой как неизбежным злом во имя того, что, предположим, 99% решений будут справедливыми, или должен быть механизм восстановления справедливости для конкретного лица до начала реализации такого решения? Может ли такой механизм быть реализован без человека в цепи принятия решения?
3. Существует ли способ в машиноисполнимой форме создать эквиваленты таких общеправовых норм-ограничителей, как "разумность" ("поведение разумного лица" и т.п.), "добросовестность", "злоупотребление правом"?
4. Вы говорите о людском страхе разрешения этических противоречий. Предлагаете ли вы эти противоречия бесстрашно разрешить на будущее, представив в машиноисполняемой форме алгоритм действия по какой-то одной заранее выбранной разработчиком этической модели? Какой должна, на ваш взгляд, быть такая этическая модель - консеквенциалистской, деонтологической или аретической? Должна она быть одной для всех областей применения машины? Может ли машина общего назначения однозначно оценить, в какой области она применяется в каждый конкретный момент?
1. Если не вдаваться в то, что считать ошибкой, то можно посмотреть на разделение на pure и side-effects код в функциональном программировании и доказательное программирование.
Но давайте рассмотрим Ваш вариант – фатальные ошибки в коде будут.
1. Все ли ошибки в коде приводят к ошибкам в работе программы?
2. Каково, на ваш взгляд, соотношение процента ошибок, совершаемых роботом, к проценту ошибок, совершаемых человеком? Может ли даже на текущем уровне развития человек самостоятельно производить всю работу, которую делают машины (пусть не в таких объемах, но в таком же качестве)?
3. Для размышления еще один вопрос – в правовой теории такая задача безошибочности хотя бы поставлена? Каковы успехи?
2. Нужно ли сохранить возможность проверки решения машины? Да.
Нужно ли проверять решение машины человеком? После определенного уровня – нет.
Каспаров в 1996 году выиграл у Deep Blue. Заметим, что это не отменяет того факта, что уже на тот момент Deep Blue играл лучше чем 99,99% человеческой популяции. Через ~1,5 года Каспаров проиграл Deep Blue. Как вам скорость прогресса?
С тех пор шахматные движки соревнуются между собой, игра с людьми им не интересна. Кто-то из них проигрывает, что означает, что движок-оппонент где-то совершает ошибки. Но это совершенно не отменяет двух фактов: уровень качества игры машины несоизмеримо выше человеческого, а допуск человека к корректировке ходов машины фактически ведет к проигрышу последней. Можете перенести ситуацию на право.
Тут есть еще один забавный момент. Допустим, машина X выбирает решение А, Y% людей – решение В, Z% людей – решение C. Почему решение B более справедливое? На каком основании можно сказать, что следствия из решения А1 лучше В1? Только потому что Y > Z и миллионы мух не могут ошибаться?
3. Поскольку есть формальные модели эмоций, то задача выполнима. Вопрос – нужны ли будут впринципе эти «затычки» в правовой системе.
4. У вас рекурсия – страх перед людскими ошибками вы обосновываете страхом перед людскими ошибками («одной заранее выбранной разработчиком этической модели»). Может ли машина адаптивно (при)менять модели? Конечно. Может ли она вывести новую моральную модель? Вероятнее всего да, но здесь мы опять же утыкаемся в вопрос возможности создания сильного ИИ. Но, опять же, если сильный ИИ невозможен, работу по специальности сохранят всего-лишь десятки юристов. И то, это будут уже далеко не юристы ;)
5. Почему-то автор считает, что для перевода в машинопонимаемую форму право придется упростить. На чем основаны такие выводы? :)
Как шахматист уточню. Машины лучше считают конкретные варианты, но хуже серьезных игроков понимают стратегию. Поэтому в ходе подготовки к соревнованиям гроссы просто формализуют перед компьютерами задачу по проверке конкретных своих идей в счетном плане. Поэтому нередко за доской многие компьютерные планы опровергаются, когда сопернику удается найти в позиции нестандартные моменты, которые компьютер попросту не смог оценить. Именно курьезность некоторых компьютерных оценок до сих пор смешит шахматных комментаторов.
Но все это было давно и уже неактуально: Каспаров и Deep Blue безнадежно устарели, появились новые игроки и новые компы.
Если вспомнить то первую игру Каспаров проиграл, но выиграл следующую и последнюю, т.е., КМК, гроссмейстер интуитивно нашел во второй и последующих играх просчеты в алгоритмах ЭВМ.
Во-втором же матче Каспаров проиграл, и проиграл именно в результате более совершенных алгоритмов, к созданию которых скорее всего сам приложил усилия. И возможно, что разработчики заложили в программу алгоритм случайного хода, что так раздражало Каспарова. ЭВМ просчитала поведение гроссмейстера?
1) Если рассматривать право как одно из порождений Логоса в библейском смысле, то оно - тончайшая знаково-смысловая система, производная от сложного взаимодействия многих знаковых систем (языка, логики, религиозно-этического компонента...), прошедшая при этом длинный исторический путь бок о бок с мультикультурным человечеством со всеми вытекающими отсюда последствиями.
Чтобы решить вопрос о возможности формализации такой системы, нужно озадачиться формализацией всех породивших право систем, определить их соотношение в этом процессе, характер и степень влияние на право в процентах. Решение этой задачи будет равносильно адекватному внедрению дифференциального и интегрального исчисления в юриспруденцию.
Пока такая революция в юридической науке не будет совершена, мечтать об адекватной машинизации права немыслимо, т.к. это все равно что описывать квантовый мир законами классической механики. Поэтому и смешна упомянутая Вами попытка современного исследователя математизировать отношения собственности.
2) Коллеги здесь уже упомянули о языках высокого и низкого уровня. Решение поставленной задачи в частности невозможно без машинизации человеческих языков как промежуточных систем-выразителей права.
За последние полвека достижения математической и компьтерной лингвистики в этом направлении впечатляют! Национальные корпусы языков, компьютерные переводчики, роботы-собеседники, успешное применение сложного математического аппарата в языкознании... Эти достижения, конечно, вселяют оптимизм в вопрос о возможности машинизации права.
3) Примером того, как важна формализация языка для формализации права, служит связь "латынь - римское право - цивилистика". Без начатков первого не понять второго, а без второго - третье. Соответственно, если мы хотим научить компьютер духу гражданского права, чтобы он мог адекватно оперировать даже его оценочными категориями, явив нам ars boni et aequi, мы должны сперва обучить его латыни и влить в него все дигесты.
4) Не обойтись еще и без формализации религиозно-этического компонента, чтобы не оказаться в рабстве машин или тоталитарном технократическом государстве.
На мой взгляд - довольно слабая статья, спекулирующая на банальностях и излишних упрощениях. Одно повторение маркетинговой небылицы про увольнение Сбербанком 3000 юристов чего стоит. Складывается ощущение, что автор верно видит некоторые общие направления, но не понимает глубоко той темы, о которой пытается рассуждать.