А судьи что? Искусственный интеллект служит Фемиде

Технологии искусственного интеллекта (ИИ) все чаще применяются в промышленности, на транспорте, в медицине, коммуникационной среде. Не остается на обочине прогресса и юриспруденция.
В США ежегодно разбирается колоссальное количество дел о лишении родительских прав. Если учесть, что в стране существует прецедентное право, то есть возможность скопировать решение из другого дела, подходящего по параметрам, идея использования ИИ не такая уж и странная. Достаточно найти в базе похожее дело и посмотреть, какое по нему было принято решение. А уж если набрано большое количество данных, то задача и вовсе сводится к анализу статистики и действиям по шаблону.
Но статистика — штука коварная. В книге Елены Лариной и Владимира Овчинского «Искусственный интеллект. Судебная система. Этика и право», главы из которой опубликованы на портале Центра междисциплинарных исследований им С.П.Курдюмова «Сретенский клуб», прямо говорится, что принимать решения в каждом конкретном случае на основании статистических данных недопустимо, поскольку статистика — «инструментарий для выявления тенденций массовых явлений».
А поскольку подавляющее большинство методов ИИ (если не все) базируется на статистике, делают вывод авторы, «необходимо четко и однозначно сказать обществу: что судья-ИИ невозможен».
Не стоит упускать из виду и то, что алгоритмы пишутся людьми, а значит, так или иначе отражают картину мира своих создателей. Нейронные сети, использующиеся в технологиях искусственного интеллекта, базируются на решениях, принятых людьми. По мере накопления данных возможно выявление закономерностей, которые не имеют никакого отношения к принятию решения. Но нейронная сеть так устроена, что непременно примет выявленную закономерность за необходимый паттерн. Например, если по какому-то виду уголовных дел осуждали чаще мужчин, чем женщин, то для искусственного интеллекта пол подсудимого со временем может превратиться в значимый фактор и будет влиять на принятие решения.
В декабре 2018 года Европейская комиссия по эффективности правосудия Совета Европы одобрила Европейскую этическую хартию, содержащую принципы использования искусственного интеллекта в судебной и правоохранительной системах. Это первый международный акт, регламентирующий столь чувствительную и неизведанную сферу. В хартии говорится о необходимости пользовательского контроля: судья вправе не согласиться с решением, предложенным ИИ, а любой участник спора имеет право оспорить такое решение и потребовать суда без применения искусственного интеллекта.
Еще один аспект, который нельзя не учитывать. Продвинутыми технологиями пользуются не только юристы, но и представители криминальных структур, организованной преступности и т. д. Если их действиям не будут противостоять столь же современные технологии, преступники окажутся в заведомо выигрышном положении.
Однако от веяний времени никуда не деться — цифровые инструменты проникают в сферу правосудия. Сложно отказаться от технологий, сокращающих издержки и делающих работу в разы удобнее.
В США так называемые роботы-адвокаты, на основе лучших практик помогающие клиентам с подготовкой исков для передачи в госорганы, ежегодно оказывают услуги на миллиарды долларов. В Нидерландах, Германии, Франции, Австрии, Польше технологии ИИ применяются в системе электронного документооборота в правоохранительных органах и судах. В Великобритании их используют для поиска информации в юридических архивах и хранилищах. В Эстонии в 2019 году была принята государственная программа, предусматривающая применение ИИ для синхронного перевода во время заседаний, а также введение «электронных судей» для вынесения судебных приговоров по несложным делам. В Китае суды применяют технологии ИИ для электронной подачи заявлений. Кроме того, в КНР активно разрабатываются технологии по проверке личности, использованию в разных инстанциях информации о гражданстве, а также точному исполнению судебных решений. А мелкие стандартные ситуации в стране с 2019 года решаются через мобильные микросуды.
На основе больших данных вполне логично было бы создавать технологии, рассчитанные на предупреждение преступлений. Собственно, во многих странах так и происходит. Например, в Великобритании полицейские активно пользуются платформой Connect, анализирующей банковские транзакции. На основе этих данных можно заметить следы не только свершившегося, но и готовящегося преступления. Подобные системы, разумеется, используются и спецслужбами. Однако с правоохранительной системой все устроено сложнее, да и толерантность западного общества нередко заводит в тупик. Например, в США с трудом удалось погасить скандал вокруг алгоритма, в который была заложена большая вероятность рецидива преступлений для афроамериканцев, чем для белых граждан страны. И хотя «дискриминация» опиралась в данном случае исключительно на факты, правосудию пришлось идти на поводу у общественного мнения. В Европе правозащитники тоже не дремлют: протесты против использования подобных предиктивных моделей в судебной аналитике и расследованиях периодически вспыхивают в Германии, Франции, Бельгии, Швеции, Дании и других странах.
В нашем государстве тоже постепенно накапливаются большие данные. В банке автоматизированной системы ГАС «Правосудие» на сегодня более 80 миллионов дел. Суды общей юрисдикции, как и арбитражные, ежегодно принимают сотни тысяч заявлений в электронном виде. Их решения размещаются в Интернете. Только в базе данных Верховного суда РФ накопились более 600 тысяч дел. Было бы странно, если бы не появлялись проекты по цифровизации судебной системы.
Один из таких проектов зарегистрирован на крауд-платформе форума Агентства стратегических инициатив (АСИ) «Сильные идеи для нового времени». Его авторы уверены, что нейросеть вполне в состоянии рассматривать административные дела, анализировать все обстоятельства, давать им правовую оценку и выдавать итоговое решение. Таким образом разработчики намерены исключить коррупционную составляющую и достичь при вынесении решений объективности и непредвзятости. Тема, безусловно, перспективная, но о воплощении этой идеи в ближайшем будущем все же говорить сложно.
Для начала было бы неплохо оцифровать процессы подготовки судебных решений или хотя бы полностью перевести в электронный вид документооборот, чтобы исключить потерю документов. Можно использовать алгоритмы для поиска ошибок и нестыковок в судебных материалах, перевода текстов или составления типовых исковых обращений.
Важно помнить, что любой алгоритм — это всего лишь модель, а любая модель несовершенна и описывает реальную картину лишь частично. Разумеется, люди тоже несовершенны. По всей видимости, с обнаружением фактов компьютер справится намного лучше человека. Но дать этим фактам оценку, а тем более понять, сфабрикованы они или нет, он не может. И вряд ли сможет в обозримом будущем. Именно поэтому идеальный судья, принимая решение, всегда руководствуется не только холодным разумом, но и сердцем.
Полная версия статьи опубликована на сайте Центра экономического развития и сертификации Института экономических стратегий РАН  https://profiok.com/.
Елизавета Макарова, Марина Прокопюк 

Нет комментариев