ru
Назад к списку

Правосудие будут отправлять роботы


Всеволод Гнетий

В глобальной системе отправления правосудия назревают кардинальные изменения: идет разработка алгоритмов для ускорения судебных процессов и предвидения (с целью заблаговременного предотвращения) преступлений и преступных умыслов.

В случае успеха эксперимента в сфере искусственного интеллекта можно предположить, что в обозримом будущем место традиционного судьи займут роботы, а потенциальный преступник будет схвачен за руку еще до момента совершения преступления и осужден судьей-роботом всего лишь за преступный умысел. Подобная перспектива поднимет ряд важных проблем морально-этического характера: возможное ограничение (или урезание) основных прав и свобод человека и гражданина и справедливость судебного разбирательства, процесса и приговора.

То, что еще вчера казалось недосягаемой виртуальной сферой, уже сегодня становится реальностью. В частности, в Эстонии, занимающей передовые позиции в сфере электронного правительства и электронной резиденции, в судебной практике уже применяется алгоритм в административных исках с возмещением ущерба на сумму в пределах 7 тысяч евро.

Система называется «автоматическое вынесение решений» (automated decisions system), она в состоянии изучить документацию, поданную сторонами — участницами судебного разбирательства в электронном формате, сравнить ее с действующими нормативными правовыми актами и вынести решение по делу. В случае опротестования решения, вынесенного системой, построенной на алгоритме, опротестовавшая сторона может прибегнуть к апелляции, решение по которой уже будет выносить судья во плоти и крови. Целью подобного подхода является ускорение процесса вынесения судебных решений и снижение нагрузки на канцелярский персонал судебных органов и представителей органов судейского сообщества.

Положительным аспектом судейства роботов и алгоритмов является сравнительная правоприменительная практика: ни один судья-гуманоид не в состоянии провести сравнительный анализ всех прецедентов в судебной практике по аналогичному иску. Для тех, кто предпочитает холодное, взвешенное вынесение судебных решений, без эмоций, без гнева и пристрастия, подобного рода процесс и приговор являются идеальными. Противники же считают, что в случае сбоя алгоритма роботизированное судебное решение может привести к непоправимым последствиям и что роботу всегда должен ассистировать живой человек-судья. У данного вопроса имеется еще один моральный аспект: применимо ли к судье-роботу библейское изречение «не судите, да не судимы будете»? Действительно, в то время как проштрафившиеся судьи подсудны, будет ли подсуден провинившийся судья-робот?

В США вот уже в течение нескольких лет суды используют алгоритмы, разработанные частной компанией Compas, для определения размера суммы залога и, что еще более неоднозначно с точки зрения восприятия общественным мнением, для определения степени риска рецидива (повторного совершения противоправного деяния) подсудимым и срока тюремного заключения. Независимые исследования, проведенные на примере вынесенных приговоров, установили дискриминационный расовый подход алгоритмов при вынесении приговоров: более строгое наказание для чернокожих и более мягкое — для белых. Все системы алгоритмов, применяемые в судебной практике в США, запатентованы и охраняются законом о промышленных моделях и торговых знаках. Поэтому члены судейского сообщества не имеют доступа к заложенным в алгоритм программам.

Совет Европы в 2018 году принял Европейскую этическую хартию об использовании 

искусственного интеллекта в судебных системах и окружающих их реалиях, в которой делается акцент на опасность дискриминации в судебном процессе и при вынесении решений, поскольку алгоритм особо выделяет конкретные факторы общественной угрозы и опасности в привязке к этническим, религиозным и социально-экономическим факторам. Таким образом, налицо реальная опасность неоправданного ужесточения наказания роботом-судьей.

На так ли уж жестоки и кровожадны роботы-судьи с заложенными в них алгоритмами?

В 2006 году китайская пресса сообщила о правоприменительной практике в одном из захолустных городишек, в котором компьютер высокой сложности вынес полторы тысячи приговоров по уголовным делам.

Наблюдателей поразила не только высокая производительность машины, но и ее гуманность: половина рассмотренных в судебном порядке дел предусматривала высшую меру наказания, то есть расстрел.

Однако алгоритм не вынес ни одного смертного приговора!

01-05-2019 11:36:37  |   Технологии
На ум приходит название книги Фридриха Ницше «Человеческое, слишком человеческое», которое применительно к китайскому судье-роботу можно интерпретировать как «гуманный, слишком гуманный»...


Назад к списку