Чтобы совершить покупку, вам надо авторизоваться или зарегистрироваться .
 
 
 
закрыть
Информация
Чтобы оставить комментарий на www.zakon.ru, необходимо зарегистрироватся.
закрыть
Information
Please note that this is beta English version. Some pages may not be translated. If you experience difficulties, please contact our administrator: moderator@igzakon.ru . We will be happy to assist.
Антон Иванов Александрович юрист
 
Антон Иванов Москва Председатель упраздненного Высшего Арбитражного суда в отставке
10 лет на Закон.ру
Антон Иванов
читать блог

Машинизация права или юридизация машин

03.03.2017 — 12:27

Этот текст написан по мотивам выступления на студенческой научно-практической конференции "Дни Науки факультета права НИУ ВШЭ 2017" 28 февраля 2017 г.

Машинизация права или юридизация машин

В последние годы мне часто приходится слушать и читать громкие заявления о машинизации права. "Умные контракты", криповалюты, технологии "блокчейн", бизнес-агрегаторы, мол де, с неизбежностью приведут к тому, что право отомрет, а юристы больше не будут нужны. Это напоминает 20-ые годы прошлого века, когда коммунистические юристы выступили с лозунгом отмирания права как буржуазного пережитка. При коммунизме, по их мнению, не будет права, товарно-денежные отношения, его порождающие, отомрут, а их место займут отношения организационно-технические. Тем не менее, технические отношения, по мнению марксистов, будут складываться между людьми, а не машинами, как предполагают сейчас некоторые. Но и сейчас, и тогда адепты новых тенденций были склонны преувеличивать влияние технических отношений на право и общество. Природа человека быстро измениться не может.

Те юристы, которые пришли в юриспруденцию из техники (в 90-е годы прошлого века их переучилось немало), вообще склонны механизировать право, считать, что его можно разложить на составляющие, измерить их, улучшить, а затем все собрать обратно. Но новые детали обычно вместе не складываются: начинает чего-то не хватать либо одна из деталей оказывается лишней. Припоминаю одну экзотическую работу, автор которой пытался раскрыть право собственности при помощи математических формул. Ничего, кроме улыбки, эта попытка не вызвала. Те, кто начинал как юрист или хотя бы как гуманитарий, меня поймут: они воспринимают право не как инертный механизм, но как субъективное явление, если не сказать больше, одушевлённое существо. Праву присуща воля, которая стремится достичь свободно избранной цели, не считаясь с правилами формальной логики.

Периодическое отступление норм права от законов формальной логики - одна из лежащих на поверхности причин, которые препятствуют машинизации права. Начнём с терминов, которыми пользуется право. Задумайтесь, например, что наш ГК понимает под объектом права собственности - вещь или имущество? И легкого ответа на этот вопрос не будет. Его могут дать лишь приверженцы жёсткого доктринального подхода, согласно которому объектом права собственности является телесная вещь, имеющая пространственные границы. Но ГК периодически объявляет объектом права собственности имущество, к которому ст. 128 относит также имущественные права. Их нужно специально исключать из числа объектов права собственности? Видимо, да, иначе исчезает различие между вещными и обязательственными правами. Допустим это, но общее имущество многоквартирного дома - тоже объект права собственности..., хотя вещью не является. И таких примеров множество. Многозначность терминологии - свойство права, отражение противоречивой жизни.

Чтобы перевести на компьютерный язык нормы, содержащие многозначные термины, придётся делать слишком много оговорок и исключений, что осложнит машинизацию права. Поэтому сначала придётся изменить право таким образом, чтобы его термины имели одинаковое содержание, причём во всех законах. Титаническая задача! Особенно с учётом постоянного изменения законодательства! Впрочем, приведённый мной пример представляет собой очевидный случай нарушения законов логики. Многие логические противоречия скрыты гораздо глубже и выявляются лишь в процессе многократного применения конкретной нормы, когда она "просвечивается" в разных бытовых ситуациях. Например, крайне трудно, если вообще возможно, "машинизировать" норму о злоупотреблении правом, которая носит "резервный" характер, избирательно дискриминируя определённые виды поведения, которые выявляются периодически. А "внутреннее убеждение судьи"? Разве его можно компьютеризировать?

Нелогичность права - это такое его свойство, которое лежит на поверхности. Гораздо более важной, внутренней причиной, которая препятствует машинизации права, является, как ни странно, свободная воля человека. Жизнь многогранна и постоянно "взламывает" стабильные нормы, которые перестают соответствовать потребностям людей. А люди, в свою очередь, начинают их обходить, искать новые пути удовлетворения своих интересов. Жесткое принуждение следовать таким нормам начинает раздражать людей. Что произошло бы с российской экономикой, если бы все предприятия заплатили налоги, установленные в начале 90-х годов. Ответ простой: экономика бы прекратила существовать. Именно поэтому "полицейское государство", заставляющее соблюдать любые правила, даже самые глупые, воспринимается негативно. Оно не нравится никому. Конечно, адепты строгой (хотел сказать, социалистической!) законности меня осудят, но порой девиантное (отклоняющееся) поведение полезно обществу и соответствует природе человека. А такое поведение принципиально машинизировать нельзя.

Неслучайно многие фантасты наделяют машины человеческими свойствами, в частности, способностью нарушать установленные правила. В этом они видят подтверждение того, что машина стала человеком. Образно эта идея нашла воплощение в довольно старом, но культовом фильме "Бегущий по лезвию бритвы" по роману Филиппа Дика. Вспомним также недавний фильм "Восхождение Юпитер", в котором андроид-юрист даёт взятку такому же андроиду-юристу для решения проблемы, возникшей у его клиентки, имеющей определённое право, но из-за бюрократических преград лишенной возможности его реализовать. Помощь человеку оказалась для андроида важнее соблюдения законов. Идея этого сюжета проста: пока машины и люди сосуществуют, они должны следовать общим правилам, и эти правила - человеческие!

Таким образом, полная машинизация права невозможна до тех пор, пока сохраняется человеческое общество, в котором люди наделены свободой воли и могут действовать нелогично или против правил. Призывать к машинизации права - значит требовать уничтожения этого общества и перехода к цивилизации машин… Но это не означает, что нужно отказаться от использования машинных технологий в юриспруденции при условии, что именно она продолжает занимать центральное место, играть ведущую роль. Машинизация - это вспомогательный приём, который позволяет праву достигать своих целей, а не господствующий принцип, при помощи которого мы должны перестроить право. В этом смысле точнее говорить не о машинизации права, а о юридизации машин! Машины должны быть построены таким образом, чтобы решать задачи, стоящие перед правом. Принципы права, включая идею свободы, должны стать для машин обязательными!

В юриспруденции немало сфер, в которых свободное творчество играет лишь подчиненную роль, а в основном действуют стереотипные правила поведения: регистрация большинства юридических лиц и прав на недвижимость, наложение штрафов и арестов, получение разного рода выписок, сдача налоговых деклараций и отчетов, заключение простых договоров. В этих сферах, прежде всего, и будет происходить машинизация. Но и сейчас там довольно часто обходятся без юристов, так что к "массовой безработице" это вряд ли приведёт. И главное, любая машинизация правовых отношений должна включать "ручной режим", когда в регулирование придётся вмешиваться человеческому интеллекту. Иначе "машинизированное" право ничем не будет отличаться от права тоталитарного общества. Требование о применении права "в ручном режиме" должно быть императивным, обязывающим любую юридическую машину отключаться по желанию клиента, который хочет работать с "живым" юристом. Можно и нужно разработать систему правовых средств юридизации машин! 

Я желаю всем участниками студенческой научно-практической конференции "Дни Науки факультета права НИУ ВШЭ 2017" стать такими квалифицированными юристами, чтобы любая, даже самая высокая, волна машинизации их не затронула, а они могли бы продолжать заниматься тем делом, которое они выбрали!

  • 549
  • рейтинг 14

Комментарии(35)

Написать комментарий
  • Владимир Александрович Горбачев участник
     
    10 лет на Закон.ру
    03.03.2017 - 14:35 Владимир Горбачев

    «А "внутреннее убеждение судьи"? Разве его можно компьютеризировать?»
    Нельзя!!!;~)
    Но не потому, что это не возможно, а в связи с тем, что судьи этого не могут допустить, поскольку не желают добровольно ограничивать свободу усмотрения, а по существу - свою власть.
    Казалось бы постой вопрос - автоматизировать процесс определения срока наказания в виде лишения свободы, оставив окончательное слово за судьёй: https://zakon.ru/discussi...udoproizvodstva
    Ан нет, зачем судье обобщённый опыт сообщества, когда у него есть "внутреннее убеждение"....
    0
  • Дмитрий  Устинин участник
    03.03.2017 - 15:10 Дмитрий Устинин
    Комментарий скрыт автором или модератором.
    0
    свернуть комментарии (1)
    • Александр Леонидович Тюльканов юрист
       
      Александр Тюльканов Страсбург Ассоциированный исследователь CEIPI, Страсбургский ун-т; LL.M. (Эдинбургский ун-т)
      10 лет на Закон.ру
      03.03.2017 - 15:47 Александр Тюльканов   »   Дмитрий Устинин
      Дмитрий, никаких юристов Сбербанк роботами не заменяет. Любые задачи по составлению по понятному алгоритму однотипных документов, таких как иски о взыскании долга по кредиту, давно в эффективных организациях выполняются через конструкторы документов, а не ручным трудом. Это не юриспруденция. Юриспруденция - это творческая работа, в том числе составить или доработать шаблон, алгоритм. Но не следовать алгоритму и не заполнять шаблон.
      2
  • Александр Леонидович Тюльканов юрист
     
    Александр Тюльканов Страсбург Ассоциированный исследователь CEIPI, Страсбургский ун-т; LL.M. (Эдинбургский ун-т)
    10 лет на Закон.ру
    03.03.2017 - 15:43 Александр Тюльканов
    Прекрасный текст, во многом совпадающий с моими собственными представлениями.

    «Многозначность терминологии - свойство права, отражение противоречивой жизни.
    ...
    Крайне трудно, если вообще возможно, "машинизировать" норму о злоупотреблении правом, которая носит "резервный" характер, избирательно дискриминируя определённые виды поведения, которые выявляются периодически. А "внутреннее убеждение судьи"? Разве его можно компьютеризировать?»


    Именно! Если бы жизнь была простой, могло бы быть простым и право. Но это не так, к счастью или сожалению. Ещё Фуллер в "Морали права" рассказывал на примере беседы с министром социалистической Польши о провале попыток упрощениях законов и изложения их языком, доступным пролетарию (а в современных реалиях - машине). Когда мы пытаемся примитивизировать и алгоритмизировать право, сделать из законов инструкции, право неизбежно вырождается и теряет свою внутреннюю мораль.

    Законы (1) с неизбежностью должны излагаться языком на более высоком уровне абстракции, нежели инструкция-алгоритм для конкретного случая и (2) чаще всего текст закона не совпадает с нормой права, которая выводится толкованием с учётом правил толкования и контекста конкретной ситуации. При этом ключевое значение имеют оценочные категории, такие как добросовестность и разумность, способствующие исключению толкования и применения закона, которое в конкретной ситуации может привести к несправедливости.

    Кроме того, даже в той мере, в которой правовые нормы могут быть представлены в машиноисполнимом виде, всегда должно оставаться место здравомысленному человеческому усмотрению правоприменителя. И злоупотребления при правоприменении не могут отменить общего принципа. С правом как с демократией - она может и несовершенна, но чего-то получше пока не придумали.

    На примере со штрафом за превышение скорости: не секрет, что по данным видеокамер его технически способна выписывать от имени государственного органа и компьютерная программа без участия человека. Однако даже если в целях эффективности мы на этом этапе заменяем человека машиной, человек всегда должен быть вправе обжаловать такое решение по процедуре, предусматривающей принятие решения правоприменителем-человеком.

    «Машины должны быть построены таким образом, чтобы решать задачи, стоящие перед правом. Принципы права, включая идею свободы, должны стать для машин обязательными!»


    В Западной Европе во многом уже пришли к мысли о том, что юристы и иные специалисты-гуманитарии должны привлекаться в проектные команды с начальной стадии реализации любого технического проекта, с тем, чтобы избежать частного и общественного финансирования разработки таких технических решений, применение которых приведёт к нарушению норм права или несовместимо с социальными нормами.

    Принцип проектирования технических решений с учётом обеспечения охраны частной жизни ("privacy by design"), например, прямо прописан в GDPR. Также во многом популяризуется более общий принцип соответствия проектных решений правовым нормам ("legal compliance by design"). Поскольку инвестиции в технические решения, не соответствующие правовым и социальным нормам, являются пустой тратой денег (в результате провала соответствующих продуктов на рынке и/или жёстких штрафных санкций со стороны регуляторов, включая оборотные штрафы), роль квалифицированных юристов только возрастает - как в частном, так и в публичном секторах.
    2
  • Владимир Николаевич Бояркин юрист
     
    Владимир Бояркин Саранск Президент, МРОО "ТРИУМФ ПРАВА"
     
    03.03.2017 - 22:34 Владимир Бояркин
    Мне кажется, этот вопрос можно рассмотреть и с другой стороны. Право - продукт человека, его мышления. Человеческое мышление осуществляется на языке высокого уровня через знаки различных семиотических систем. Юридический язык - продукт мышления, созданный с особенной функциональной целью, так как он ограничен в выборе средств языкового выражения задачами сферы функционирования. Юридическая норма в целом представляет собой алгоритм должного поведения - диспозиция при определённой гипотезе, а при ее нарушении исполняется алгоритм санкции. Однако же сам алгоритм составляется на этом юридическом языке для того, чтобы алгоритм был понятным и исполняемым теми для кого он составлен - людьми. Юридический язык является частью высокоуровневого человеческого языка. Поэтому спор о праве - это спор о смыслах. Язык программирования - язык низкого уровня, исключающий всякую двусмысленность и, соответственно, спор о праве, но в силу своей бедности, неспособный описать необходимую диспозицию и включить в это описание все заложенные смыслы. Поэтому, только там, где это уместно и эффективно создание таких алгоритмов и их описание машинными языками должно быть основано на юридически определённых нормах, опять же подразумевающих их различное понимание. Юристы не исчезнут до исчезновения споров о праве или до тех, пока составленные на низкоуровневых языках алгоритмы не станут пониматься и приниматься всеми участниками правоотношений для непосредственного исполнения.
    3
    свернуть комментарии (6)
    • Владимир Александрович Горбачев участник
       
      10 лет на Закон.ру
      04.03.2017 - 8:12 Владимир Горбачев   »   Владимир Бояркин

      «Юристы не исчезнут до исчезновения споров о праве или до тех, пока составленные на низкоуровневых языках алгоритмы не станут пониматься и приниматься всеми участниками правоотношений для непосредственного исполнения.»
      А этого не произойдёт никогда!
      Человек, по своей природе, существо субъективное, к тому же наделённое не только добродетелями, но и пороками, поэтому право используется им в первую очередь в личных интересах.
      Будь это не так - человек тоже превратился бы в бездушную машину.

      0
      • Андрей  Сафонов юрист
         
        Андрей Сафонов Санкт-Петербург
         
        04.03.2017 - 13:50 Андрей Сафонов   »   Владимир Горбачев
        Еще неизвестно где бы было больше справедливости и что лучше, субъективный, часто глупый или некомпетентный человек или объективная бесстрастная, но бездушная машина. Если кого то пугает бездушность машин то меня больше пугает человеческая тупость, алчность, злость и т.п. Любопытно было проэксперементировать, в каком случае и у кого статистика по правосудным решениям была бы лучше :)
        0
        • Владимир Александрович Горбачев участник
           
          10 лет на Закон.ру
          04.03.2017 - 14:42 Владимир Горбачев   »   Андрей Сафонов
          «Любопытно было проэксперементировать, в каком случае и у кого статистика по правосудным решениям была бы лучше :)»
          И без эксперимента ясно (ибо компьютер взяток не берёт))
          0
    • Алексей Андреевич Шнайдер юрист
       
      Алексей Шнайдер Южно-Сахалинск
      10 лет на Закон.ру
      07.03.2017 - 6:11 Алексей Шнайдер   »   Владимир Бояркин
      Нет необходимости понимать низкоуровневый алгоритм в случае, если к нему можно в любой момент обратиться ;)
      0
  • Ярослав Юрьевич Зубарев юрист
     
    Ярослав Зубарев Москва Налоговое право
    10 лет на Закон.ру
    05.03.2017 - 1:07 Ярослав Зубарев
    Большая часть проблем, существующих в праве, происходит от отношения к Праву не как к прагматичному набору правил, а как к "одушевленному существу".

    Я неоднократно замечал, что многие "гуманитарные" юристы относятся к Праву как некой ауре, бестелесной светящейся сущности, окружающей субъект права, которая может силой воли этого субъекта изменяться и переноситься на другой субъект как волшебная мана.

    Нелогичность, это не суть Права, а его проблема. Нет ничего сакрального в противоречивых, порой безграмотных и часто содержащих элементарные логические и грамматические ошибки нормах права. Если ГК содержит противоречивые нормы о праве собственности, то это не проявление духа Права, а банальное распиз... во :( его составителей.

    Дурная практика - искать сокровенный смысл и рассуждать о духе Права с отсылками к римскому праву и всему мировому правотворчеству, обсуждая очередную глупейшую (в лучшем случае логическую) ошибку, давно существующую (и уже сакрализированную) или вновь введенную. Глупость следует прямо называть глупостью, а не неотъемлемой сущностью Права.

    Ну и не следует забывать о том, что принятие многих норм Права является компромиссом множества сторон, лоббирующих принятие закона в своем интересе, а вовсе не воплощением в материальной форме духа Права. И вывернутая наизнанку норма - это только результат компромисса.

    Если Право не может логично урегулировать отношения на определенном уровне детализации, то решение достаточно очевидно - надо урегулировать отношения на том уровне обобщения, на котором возможно урегулировать отношения со 100% логичностью и непротиворечивостью. Это не такое уж сложное логическое правило.

    А вот конкретное практическое применение такого общего правила и есть задача юристов (и судей в частности). И эта задача вполне алгоритмизируется, если проблема укладывается в тот уровень обобщения, который описан конкретной нормой.

    Но задача не под силу алгоритмам, если для её решения необходимо понимание и ощущение справедливости, а для судей, кроме того, еще необходима и репутация, являющаяся залогом того, что решение принято исходя только из логики правоприменения (насколько это возможно) и безукоризненного чувства справедливости.

    Соизмеряя с наследием римского права, видимо следует признать, что современные юристы не в состоянии выработать логичные, непротиворечивые нормы права даже в отношении многих базовых понятий содержащихся, например, в ГК, смирившись с этим и найдя утешение в метафизических рассуждениях.
    1
  • Алексей Андреевич Шнайдер юрист
     
    Алексей Шнайдер Южно-Сахалинск
    10 лет на Закон.ру
    05.03.2017 - 4:01 Алексей Шнайдер
    «Это напоминает 20-ые годы прошлого века»

    Не получилось тогда, значит, не получится и сейчас? Объективно предпосылки-то разные.

    «ни воспринимают право не как инертный механизм, но как субъективное явление, если не сказать больше, одушевлённое существо. »

    Почему тогда математика - царица наук, а не право ;) Ну или не вижу примеров чтобы право серьезно двигало технический, экономический или социальный прогресс. Скорее оно часто его тормозит.
    То, что законодательство часто нарушается, говорит о его несовершенстве, а не о совершенстве как системы, которую нельзя формализовать.

    « Многозначность терминологии - свойство права, отражение противоречивой жизни. »

    Антон Александрович, наличие бардака как причина невозможности навести порядок. Математика, например, уже давно оперирует нечеткими и вероятными понятиями – см. теорию вероятности и нечеткую логику.
    « Многие логические противоречия скрыты гораздо глубже и выявляются лишь в процессе многократного применения конкретной нормы, когда она "просвечивается" в разных бытовых ситуациях »

    Знаете, еще недавно конструкторы вопрошали «как можно компьютеризировать». А сейчас они машины виртуально разбивают, экономя сотни тысяч часов и средств, и выявляя такие противоречения, которые на практики могли бы всплыть не сразу – и все это еще до начала применения.
    В программировании есть много вещей, о которых правоведам остается только мечтать – системы контроля версий, системы тестирования (в том числе fuzzing) и непрерывной интеграции, концепции функционального программирования (вроде purity).

    « А такое поведение принципиально машинизировать нельзя. »

    Девиантное поведение в том виде, в котором вы его приводите – всего лишь способ нарушения одних правил при их противоречии другим, разновидность коллизионной привязки. Решается очень просто, обычно выставлением приоритетов.
    Хотя, конечно, здесь есть другой, принципиальный вопрос о возможности создания сильного ИИ.

    « Идея этого сюжета проста»

    Идея этого сюжета в сатирическом высмеивании бюрократии, т.е. несовершенстве человеческих правил.

    « И главное, любая машинизация правовых отношений должна включать "ручной режим", когда в регулирование придётся вмешиваться человеческому интеллекту. »

    Машины лучше нас играют в шахматы. Нужно ли им вмешательство человека? Или же оно приведет к поражению одной из сторон?
    Необходимость вмешательства человека – лишь последствие страха перед ошибками проектирования этих самых машин, которые, в свою очередь, зачастую возникают как раз из-за мнения, что «они должны следовать общим правилам, и эти правила - человеческие», и последствия страха разрешения многих морально-этических противоречий (например, когда в том же «Я-робот» машина принимает решение спасти человека, у которого объективно намного более высокие шансы на выживание, а не более социально-одобряемое спасение ребенка).
    0
    свернуть комментарии (11)
    • Александр Леонидович Тюльканов юрист
       
      Александр Тюльканов Страсбург Ассоциированный исследователь CEIPI, Страсбургский ун-т; LL.M. (Эдинбургский ун-т)
      10 лет на Закон.ру
      05.03.2017 - 7:31 Александр Тюльканов   »   Алексей Шнайдер
      «Необходимость вмешательства человека – лишь последствие страха перед ошибками проектирования этих самых машин, которые, в свою очередь, зачастую возникают как раз из-за мнения, что «они должны следовать общим правилам, и эти правила - человеческие», и последствия страха разрешения многих морально-этических противоречий (например, когда в том же «Я-робот» машина принимает решение спасти человека, у которого объективно намного более высокие шансы на выживание, а не более социально-одобряемое спасение ребенка).»

      Алексей, несколько вопросов:

      1. На ваш взгляд - написание кода без каких-либо ошибок - реальная задача? Если да, почему она до сих пор не выполнена, и у программистов считается за норму иметь х ошибок на каждые у строк кода?

      2. Если машина в результате ошибки в коде примет решение, оцениваемое как несправедливое с позиций человеческой морали, в отношении того или иного человека, следует пренебречь такой ошибкой как неизбежным злом во имя того, что, предположим, 99% решений будут справедливыми, или должен быть механизм восстановления справедливости для конкретного лица до начала реализации такого решения? Может ли такой механизм быть реализован без человека в цепи принятия решения?

      3. Существует ли способ в машиноисполнимой форме создать эквиваленты таких общеправовых норм-ограничителей, как "разумность" ("поведение разумного лица" и т.п.), "добросовестность", "злоупотребление правом"?

      4. Вы говорите о людском страхе разрешения этических противоречий. Предлагаете ли вы эти противоречия бесстрашно разрешить на будущее, представив в машиноисполняемой форме алгоритм действия по какой-то одной заранее выбранной разработчиком этической модели? Какой должна, на ваш взгляд, быть такая этическая модель - консеквенциалистской, деонтологической или аретической? Должна она быть одной для всех областей применения машины? Может ли машина общего назначения однозначно оценить, в какой области она применяется в каждый конкретный момент?
      2
      • Алексей Андреевич Шнайдер юрист
         
        Алексей Шнайдер Южно-Сахалинск
        10 лет на Закон.ру
        06.03.2017 - 3:39 Алексей Шнайдер   »   Александр Тюльканов
        Александр,
        1. Если не вдаваться в то, что считать ошибкой, то можно посмотреть на разделение на pure и side-effects код в функциональном программировании и доказательное программирование.
        Но давайте рассмотрим Ваш вариант – фатальные ошибки в коде будут.
        1. Все ли ошибки в коде приводят к ошибкам в работе программы?
        2. Каково, на ваш взгляд, соотношение процента ошибок, совершаемых роботом, к проценту ошибок, совершаемых человеком? Может ли даже на текущем уровне развития человек самостоятельно производить всю работу, которую делают машины (пусть не в таких объемах, но в таком же качестве)?
        3. Для размышления еще один вопрос – в правовой теории такая задача безошибочности хотя бы поставлена? Каковы успехи?
        2. Нужно ли сохранить возможность проверки решения машины? Да.
        Нужно ли проверять решение машины человеком? После определенного уровня – нет.
        Каспаров в 1996 году выиграл у Deep Blue. Заметим, что это не отменяет того факта, что уже на тот момент Deep Blue играл лучше чем 99,99% человеческой популяции. Через ~1,5 года Каспаров проиграл Deep Blue. Как вам скорость прогресса?
        С тех пор шахматные движки соревнуются между собой, игра с людьми им не интересна. Кто-то из них проигрывает, что означает, что движок-оппонент где-то совершает ошибки. Но это совершенно не отменяет двух фактов: уровень качества игры машины несоизмеримо выше человеческого, а допуск человека к корректировке ходов машины фактически ведет к проигрышу последней. Можете перенести ситуацию на право.
        Тут есть еще один забавный момент. Допустим, машина X выбирает решение А, Y% людей – решение В, Z% людей – решение C. Почему решение B более справедливое?  На каком основании можно сказать, что следствия из решения А1 лучше В1? Только потому что Y > Z и миллионы мух не могут ошибаться?
        3. Поскольку есть формальные модели эмоций, то задача выполнима. Вопрос – нужны ли будут впринципе эти «затычки» в правовой системе.
        4. У вас рекурсия – страх перед людскими ошибками вы обосновываете страхом перед людскими ошибками («одной заранее выбранной разработчиком этической модели»). Может ли машина адаптивно (при)менять модели? Конечно. Может ли она вывести новую моральную модель? Вероятнее всего да, но здесь мы опять же утыкаемся в вопрос возможности создания сильного ИИ. Но, опять же, если сильный ИИ невозможен, работу по специальности сохранят всего-лишь десятки юристов. И то, это будут уже далеко не юристы ;)
        5. Почему-то автор считает, что для перевода в машинопонимаемую форму право придется упростить. На чем основаны такие выводы? :)
        2
        • Руслан Талгатович Хафизов юрист
          06.03.2017 - 8:56 Руслан Хафизов   »   Алексей Шнайдер
          Человек - сам по себе машина. Для этого понимания необходимо вспомнить (или изучить) хотя бы школьный курс биологии и анатомии. Да здравствует скайнет!
          0
    • Спартак Олегович Ефремов юрист
       
      Спартак Ефремов Смоленск Частная практика
       
      06.03.2017 - 21:51 Спартак Ефремов   »   Алексей Шнайдер
      «Машины лучше нас играют в шахматы. Нужно ли им вмешательство человека?»

      Как шахматист уточню. Машины лучше считают конкретные варианты, но хуже серьезных игроков понимают стратегию. Поэтому в ходе подготовки к соревнованиям гроссы просто формализуют перед компьютерами задачу по проверке конкретных своих идей в счетном плане. Поэтому нередко за доской многие компьютерные планы опровергаются, когда сопернику удается найти в позиции нестандартные моменты, которые компьютер попросту не смог оценить. Именно курьезность некоторых компьютерных оценок до сих пор смешит шахматных комментаторов.
      0
      • Алексей Андреевич Шнайдер юрист
         
        Алексей Шнайдер Южно-Сахалинск
        10 лет на Закон.ру
        07.03.2017 - 5:59 Алексей Шнайдер   »   Спартак Ефремов
        Гарри Керимович, какая приятная встреча :)
        1
        • Руслан Талгатович Хафизов юрист
          07.03.2017 - 7:36 Руслан Хафизов   »   Алексей Шнайдер
          Справедливости ради стоит отметить, все-таки матчи Каспарова с Deep Blue окончились дружеской ничьей. Но с перевесом в сторону машины. :)
          0
          • Спартак Олегович Ефремов юрист
             
            Спартак Ефремов Смоленск Частная практика
             
            07.03.2017 - 10:02 Спартак Ефремов   »   Руслан Хафизов
            Игра при этом проходила в неравных условиях: чемпион никуда не подсматривал, а у компа встроена база с партиями.
            Но все это было давно и уже неактуально: Каспаров и Deep Blue безнадежно устарели, появились новые игроки и новые компы.
            0
            • Руслан Талгатович Хафизов юрист
              07.03.2017 - 10:56 Руслан Хафизов   »   Спартак Ефремов
              Согласен, игра проходила в неравных условиях, машина ведь не обладает интуитивным мышлением.
              Если вспомнить то первую игру Каспаров проиграл, но выиграл следующую и последнюю, т.е., КМК, гроссмейстер интуитивно нашел во второй и последующих играх просчеты в алгоритмах ЭВМ.
              Во-втором же матче Каспаров проиграл, и проиграл именно в результате более совершенных алгоритмов, к созданию которых скорее всего сам приложил усилия. И возможно, что разработчики заложили в программу алгоритм случайного хода, что так раздражало Каспарова. ЭВМ просчитала поведение гроссмейстера?
              0
              • Спартак Олегович Ефремов юрист
                 
                Спартак Ефремов Смоленск Частная практика
                 
                07.03.2017 - 15:57 Спартак Ефремов   »   Руслан Хафизов
                Просчитала в том смысле, что в нее встроено самообучение (Гарри Кимович, сыграв с ней матч, дал ей пищу для размышления, помог исправить некоторые ошибки, что во многом нивелировало его сильные места во 2 матче). А любому сформировавшемуся шахматисту очень сложно взять и перекроить свой стиль игры, радикально поменять свое видение шахмат, подсознательную тягу к разыгрыванию определенных типов позиций и полюбить ненавидимые структуры. К тому же машина не устает, не отвлекается на житейские проблемы, не зависит от сна, питания, физических кондиций. А интуитивное мышление шахматиста - очень капризная вещь: под влиянием внешних и внутренних факторов может попросту отключиться или давать сбои.
                0
        • Спартак Олегович Ефремов юрист
           
          Спартак Ефремов Смоленск Частная практика
           
          07.03.2017 - 10:05 Спартак Ефремов   »   Алексей Шнайдер
          Отчество у Каспарова - Кимович.
          1
  • Спартак Олегович Ефремов юрист
     
    Спартак Ефремов Смоленск Частная практика
     
    07.03.2017 - 1:24 Спартак Ефремов
    Антон Александрович! Не все так однозначно: многое нужно утончить и уточнить!
    1) Если рассматривать право как одно из порождений Логоса в библейском смысле, то оно - тончайшая знаково-смысловая система, производная от сложного взаимодействия многих знаковых систем (языка, логики, религиозно-этического компонента...), прошедшая при этом длинный исторический путь бок о бок с мультикультурным человечеством со всеми вытекающими отсюда последствиями.
    Чтобы решить вопрос о возможности формализации такой системы, нужно озадачиться формализацией всех породивших право систем, определить их соотношение в этом процессе, характер и степень влияние на право в процентах. Решение этой задачи будет равносильно адекватному внедрению дифференциального и интегрального исчисления в юриспруденцию.
    Пока такая революция в юридической науке не будет совершена, мечтать об адекватной машинизации права немыслимо, т.к. это все равно что описывать квантовый мир законами классической механики. Поэтому и смешна упомянутая Вами попытка современного исследователя математизировать отношения собственности.
    2) Коллеги здесь уже упомянули о языках высокого и низкого уровня. Решение поставленной задачи в частности невозможно без машинизации человеческих языков как промежуточных систем-выразителей права.
    За последние полвека достижения математической и компьтерной лингвистики в этом направлении впечатляют! Национальные корпусы языков, компьютерные переводчики, роботы-собеседники, успешное применение сложного математического аппарата в языкознании... Эти достижения, конечно, вселяют оптимизм в вопрос о возможности машинизации права.
    3) Примером того, как важна формализация языка для формализации права, служит связь "латынь - римское право - цивилистика". Без начатков первого не понять второго, а без второго - третье. Соответственно, если мы хотим научить компьютер духу гражданского права, чтобы он мог адекватно оперировать даже его оценочными категориями, явив нам ars boni et aequi, мы должны сперва обучить его латыни и влить в него все дигесты.
    4) Не обойтись еще и без формализации религиозно-этического компонента, чтобы не оказаться в рабстве машин или тоталитарном технократическом государстве.
    0
  • Василий Владимирович Шарапов юрист
     
    Василий Шарапов Москва Юрист АО "Сити-XXI век"
    10 лет на Закон.ру
    07.03.2017 - 12:16 Василий Шарапов
    лет через двести ожидаю полную и окончательную роботизацию судопроизводства
    0
    свернуть комментарии (2)
  • Сергей  Трофимов юрист
     
    Сергей Трофимов Москва юрист, Консалтинговая компания
     
    23.03.2017 - 22:49 Сергей Трофимов
    Уважаемые коллеги подняли очень важный и актуальный вопрос - компьютеризация судопроизводства. Можно сказать больше - компьютеризация всей области юридического знания. За последние, приблизительно, шесть десятилетий мы стали свидетелями "технического чуда", явленного к началу XXI века во всем своем многообразии. Уровень развития IT-индустрии сейчас настолько высок, что многие пользователи едва ли способны ответить на вопрос: как работает их гаджет? С учетом существенного прорыва в области нанотехнологий, мы можем с уверенностью сказать, что в обозримом будущем человечество ждет колоссальный прорыв в технике и технологиях. Компьютеризация проникает во все сферы человеческой жизни и деятельности - от авто- и авиастроения до лекарственных препаратов и выращивания человеческих клеток в искусственных условиях. Очевидно, что уровень развития будет неуклонно расти, переходя из количественного показателя в качественное. Не обойдет стороной этот процесс и юриспруденцию. Процесс правотворчества и правоприменения, скорее всего, тоже не избежит такой участи. Если принять во внимание тот факт, что разные правовые системы все более сближаются, а международное право интегрируется в национальное, то можно предположить, что через некоторое время этот процесс приведет к созданию определенных, признанных мировым сообществом собраний нормативных правовых актов, некоторым отдаленным аналогом Свода Законов Российской империи. В процессе глобализации, очевидно, некоторые нормы права, может быть, даже большая их часть будут настолько идентичны, а уровень судопроизводства настолько единообразным, что встанет вопрос об оптимизации судопроизводственного процесса. Подобная перспектива может быть продиктована как возможностью удешевить судопроизводство, так и сделать его более доступным для всех граждан и иных субъектов правоотношений. С другой стороны, уровень развития техники настолько стремителен, что уже в самой ближайшей перспективе можно говорить о компьютерной обработке как нормативного материала, так и судебных дел. С третьей стороны, образ жизни людей, несмотря на кажущееся разнообразие, достаточно односторонен, односложен, можно сказать, что это "типовое" проживание жизни, "серые будни", которые мало чем отличаются у большинства людей. А именно жизнь общества определяет его сознание. Какова жизнь общества, такова и логика его мышления, его мировоззрение, характер поведения и т.д. Чем более единообразна жизнь, тем проще её ввести в определенные рамки, дать определенные установки, "заурегулировать" те или иные общественные отношения. Весь этот массив информации в такое случае достаточно просто ввести в базу данных машин, готовых появиться в мире в самом ближайшем будущем. И в этом случае т.н. искусственный интеллект вполне способен просчитать все комбинации применения той или иной нормы права и соотнести все это с судебной практикой. И это вопрос не отдаленных веками эпох, но может быть вполне реализован в той или иной степени при жизни начинающих юристов.
    0
  • Сергей  Трофимов юрист
     
    Сергей Трофимов Москва юрист, Консалтинговая компания
     
    01.04.2017 - 20:47 Сергей Трофимов
    Рекомендую ознакомиться со статьей Владислава Добровольского "Как думает кибер-юрист" в журнале Юрист компании от 15 марта 2017 года! очень сильно!
    0
    свернуть комментарии (3)
    • Александр Леонидович Тюльканов юрист
       
      Александр Тюльканов Страсбург Ассоциированный исследователь CEIPI, Страсбургский ун-т; LL.M. (Эдинбургский ун-т)
      10 лет на Закон.ру
      02.04.2017 - 14:28 Александр Тюльканов   »   Сергей Трофимов
      «Рекомендую ознакомиться со статьей Владислава Добровольского "Как думает кибер-юрист" в журнале Юрист компании от 15 марта 2017 года! очень сильно!»

      На мой взгляд - довольно слабая статья, спекулирующая на банальностях и излишних упрощениях. Одно повторение маркетинговой небылицы про увольнение Сбербанком 3000 юристов чего стоит. Складывается ощущение, что автор верно видит некоторые общие направления, но не понимает глубоко той темы, о которой пытается рассуждать.
      0
      • Сергей  Трофимов юрист
         
        Сергей Трофимов Москва юрист, Консалтинговая компания
         
        03.04.2017 - 6:36 Сергей Трофимов   »   Александр Тюльканов
        С технической точки зрения, я вполне согласен с Вами, что человек, судя по всему, не вполне подкован. Однако уровень развития компьютерной техники и перспективы её развития таковы, что роботизация многих областей интеллектуальной деятельности не является выдумкой, или как сейчас модно говорить, фейком. Безусловно, право - это довольно сложный "организм", чтобы его вот так запросто можно было бы освоить машине. Но принимая во внимание то, что усилия ряда компаний направлены на создание фактически искусственного интеллекта способного к самостоятельному обучению, мне отнюдь не представляются подобные мысли чем то банальным или измышленным. Естественно, для реализации подобных проектов необходимо не только слово ученых, но и воля государства. А вот захочет ли оно подобных нововведений? Вопрос риторический.
        0
        • Александр Леонидович Тюльканов юрист
           
          Александр Тюльканов Страсбург Ассоциированный исследователь CEIPI, Страсбургский ун-т; LL.M. (Эдинбургский ун-т)
          10 лет на Закон.ру
          03.04.2017 - 10:25 Александр Тюльканов   »   Сергей Трофимов
          Сергей, дело даже не столько в технической неподкованности, сколько в упрощённом - и, на мой взгляд, неверном - понимании сути права. Я свои мысли по этому поводу изложил здесь: https://zakon.ru/blog/2017/3/24/yuridicheskie_vojny_kiberpozitivisty_nanosyat_otvetnyj_udar
          0
  • Дмитрий  Устинин участник
    12.05.2017 - 9:55 Дмитрий Устинин
    Скоро большую часть работы юриста смогут делать программы. Право - это алгоритм. И даже самый сложный алгоритм можно воспроизвести на ЭВМ. Вот вполне адекватный пример: riskover.ru
    0

 
Чтобы оставить комментарий, вам надо авторизоваться. Текст комментария будет сохранен.

Если вы еще не зарегистрированы на Закон.ру, то сохраните текст комментария и зарегистрируйтесь.