Александр Болдырев

помощник президента Адвокатской палаты Новосибирской области, Адвокат, управляющий партнёр адвокатского бюро «Болдырев, Топорков и Партнёры»

Учился на юриста, а станешь программистом!?

«Я знаю, что ничего не знаю»
Сократ

В СМИ всё чаще можно встретить материалы о внедрении искусственного интеллекта в сферу юриспруденции. Это вполне объяснимо всевозрастающей цифровизацией различных областей общественной жизни. На мой взгляд, ещё рано говорить об искусственном интеллекте, как о состоявшемся факте. Мы пока наблюдаем и используем результаты совершенствования алгоритмов, программ и средств обработки большого массива данных, в том числе с очеловеченной имитацией результатов этой обработки (различные чат-боты, виртуальные голосовые помощники и прочее). Например, AI-ассистент, встроенный в браузер, может по вашему запросу не просто найти нужную информацию, но и на основе нескольких источников дать краткий ответ, или включить музыку, запустить программу, поговорить с вами. В США уже даже готовят актрису Тиллу Норвуд на главные роли в фильмах, сериалах и рекламных роликах, при этом Тилли не существует, это плод новых технологий. Серьёзно задумался и Уолл-стрит. Торговая система на базе ИИ за пять месяцев показала доходность в 560%. Но всё же это ещё не интеллект. Хотя, возможно, доживём и до того дня, когда искусственный интеллект будет реально создан. Однако раз уже сейчас данный термин широко применим, то я тоже буду его использовать.

Читая восторженные статьи от разработчиков или людей, уже активно использующих искусственный интеллект, начинаешь задумываться, может, пока не поздно, стоит освоить специальность программиста? Зачем вообще нужны юристы, если AI-ассистенты сами обработают судебную практику и сделают выводы о перспективе дела или составят нужный документ, достаточно лишь загрузить данные. Для этого нужен не юрист, а оператор. Да и инициировать обращение в любой госорган или суд тоже поможет ИИ. Ходить никуда не надо, всё будет подано в электронном виде. При этом всё больше коллег (да и я тоже) пользуются, в той или иной мере, такими удобными средствами цифровизации… Но, в очередной раз столкнувшись с конкретным делом, эти мысли быстро отбрасываешь и понимаешь, что в программисты переквалифицироваться ещё рано.

Безусловно, отдельную работу можно, а где-то нужно автоматизировать и, насколько это возможно, исключить из неё человека. Например, если организация занимается взысканием задолженности через приказное судопроизводство, то проще написать программу, которая по шаблону будет создавать типовые документы, чем содержать штат юристов. Но всё же текущие возможности ИИ могут лишь ускорить коммуникацию между различными субъектами и автоматизировать типичное, а человек и его проблемы к этому типичному очевидно не сводятся.

Приведу простой пример. На консультации доверитель, который был накануне избит, волнительно интересовался, а не приведёт ли его обращение в травмпункт к увольнению с работы. Выяснив все детали произошедшего, я такую угрозу не смог обнаружить. Всё произошло поздним вечером, в нерабочее время, да и с работой инцидент никак не связан. Объяснив это и понимая, что мои доводы не очень успокаивают человека, я поинтересовался, а откуда он вообще взял, что его могут уволить. Оказалось, это ему подсказал ИИ.

Каждый практикующий адвокат, наверное, сталкивался с такой категорией людей, которые, придя к специалисту, уже всё «знают». Обычно источником их осведомлённости является условный сосед по гаражу, с которым что-то подобное уже случалось. Адвокату не так сложно спорить с этим «соседом», так как у каждого случая есть свои нюансы, а сосед в принципе не обладает должной компетенцией, чтобы давать правовые советы. Сейчас всё сложнее, приходится спорить со всезнающим искусственным интеллектом, легенды о силе знания которого уже проникли и укоренились в общественном сознании.

С доверителем мы подробно разобрали ситуацию, даже не опорочив «чести» ИИ. Мне удалось подобрать те теоретические условия, при которых могло быть и увольнение с работы, но эти условия вообще никак не относятся к конкретному случаю.

Конечно, можно в оправдание ИИ сказать, что человек сам виноват, так как не ввёл всю нужную информацию для анализа. Но ведь это Сократ постиг, что ничего не знает (прошу прощения у философов за такое упрощение глубокой мысли), а многие наши граждане, к сожалению, уверены, что знают если не всё, то достаточно много. Да и чего-то не зная, сложно найти путь к этому знанию, так как ты даже не понимаешь, а что нужно искать и какой запрос забить в поисковик… Так и этот гражданин. Откуда он мог знать, что одни обстоятельства его происшествия важны для дела, а другие нет, и что ИИ будет выдавать все возможные варианты, хоть как-то связанные с запросом. Квалифицированный юрист, расширяя область своего знания, постоянно сталкивается с новым «незнанием» в профессиональной сфере и постигает его. Обычный человек этим точно не занят.

Есть ещё и субъективные факторы, связанные с личностью человека. Адвокаты часто бывают очевидцами ситуаций, когда люди в судебных процессах очень подробно рассказывают про то, что не имеет практически никакого значения для дела. Хотя для данного человека только в этом и есть какой-то смысл. Поэтому он это запомнил и хочет всем поведать. А вот то, что действительно стоило бы ему рассказать, он даже не берёт во внимание, пока его не направит в нужное русло судья или адвокат.

Безусловно, алгоритмы программ будут улучшены, а для сложных вопросов сделают нужную анкету, где человеку обозначат, что важно для ответа на его запрос, а что нет и так далее. Всё же человек гораздо сложнее любых анкет. У каждого человека свой «мир в голове». Он складывается из множества факторов, порой почти неуловимых и незаметных никому (даже ему самому). При сложных проблемах доверитель не просто описывает ситуацию, он впускает вас в свой мир. Иногда данный мир может не совпадать с реальностью, и наша задача указать на это. Тут анкетами не обойтись, нужно доверие между собеседниками и желание открыться другому человеку. Ведь хорош же будет тот адвокат, который ограничится лишь поддержкой веры человека в придуманную им сказку. Подобный способ коммуникации с доверителем, конечно, менее психологически затратен, но реальность всё равно разобьёт все иллюзии (что можно частично нивелировать созданием новых «сказок», типа фраз «всё куплено», прикрывающих непрофессионализм, но это путь в тупик).

О проблемах человеческого мышления, которое сложно свести к «математическим выкладкам», уже много написано научных трудов, но в качестве яркой зарисовки я обращусь не к ним, а к нашему классику. Фёдор Михайлович Достоевский в уста антигероя повести «Записки из подполья» вложил слова именно об этом. Данный однозначно неприятный персонаж повести, рассуждая о том, что человека нельзя превратить в «фортепьянную клавишу», делает выводы, что гражданин готов даже отказаться от материальных благ, применив для этого «свой пагубный фантастический элемент». И это нужно, по мнению автора, чтобы убедится, что он человек. Апологетам же цифровизации можно привести другой отрывок из данного монолога антигероя: «Если вы скажете, что и это все можно рассчитать по табличке, и хаос, и мрак, и проклятие, так уж одна возможность предварительного расчёта все остановит и рассудок возьмёт своё, — так человек нарочно сумасшедшим на этот случай сделается, чтоб не иметь рассудка и настоять на своём! Я верю в это, я отвечаю за это, потому что ведь всё дело-то человеческое, кажется, и действительно в том только и состоит, чтоб человек поминутно доказывал себе, что он человек, а не штифтик! хоть своими боками, да доказывал; хоть троглодитством, да доказывал».

При этом внедрение ИИ в юриспруденцию не сводится только к проблемам с доверителями. Есть ещё и другие угрозы, которые я обозначу кратко.

Одна из основных угроз — это невольная профессиональная деградация юриста. Я ещё застал те времена, когда на заседания по сложным делам приходилось с собой брать несколько кодексов (обычно с вклеенными в них правками отдельных статей, т.к. уже тогда машина законотворчества работала без устали, корректируя своё же творчество). С кодексами нужно уметь работать и в подходящий момент быстро найти необходимый раздел и статью. Сейчас мы освобождены от этого умения, так как есть цифровые носители, а значит, нам и не нужно держать в памяти, где какие положения закона находятся. Наш мозг очень ленив, а вернее, экономичен в расходовании энергии, поэтому то, что можно заменить, он заменит и упростит. Это как водитель, который едет по маршруту, проложенному навигатором, он не особо запоминает путь.

Человек перестаёт развиваться и учиться тому, что за него сделают цифровые помощники. Если увлечься анализом судебной практики, которые выдаёт ИИ, то незаметно для себя ты сам разучишься читать длинные тексты и делать выводы. При этом в самих выводах искусственного интеллекта могут быть не только невинные ошибки, мы же понимаем, что у таких систем есть свой хозяин. СМИ уже поднимали тему, как один вроде бы отечественный AI-ассистент не смог подобрать картинку по запросу «победа СССР над фашистской Германией», но легко выдал ответ на тот же вопрос, но с победителем США. Разве нельзя сделать так, чтобы AI-ассистент находил лишь судебную практику, которая подтверждает определённый вектор толкования закона? Или ещё как-то манипулировать данными?

В 2025 году исследователи NewsGuard проверили 10 самых популярных ИИ чат-ботов на количество выдаваемых ложных ответов. Они установили, что процент ложных результатов за год увеличился в два раза. Когда люди спрашивали чат-боты о противоречивых новостях, ложных ответов оказывалось 35%. В прошлом году процент ложных сообщений составлял 18%. Ошибки эксперты объяснили тем, что большие языковые модели не ссылаются на отсутствие данных и не уходят от ответа на чувствительные темы, они ищут ответ в режиме реального времени в сети. В поисковые запросы могут встраиваться вредоносные акторы, с намеренным наполнением сети ложным контентом. Но это полбеды. Были выявлены факты, что ИИ просто «сочинял» там, где должен был опираться на проверенные данные, хотя эти данные ему были доступны.

Однако поверим в честность и беспристрастность разработчиков и самого ИИ. Но сразу встаёт вопрос безопасности самих систем. Мы видим определённые проблемы в данной области, когда их уже нельзя скрыть, например, обрушение ГАС «Правосудие» в 2024 году из-за хакерской атаки или взлом систем «Аэрофлота» в этом году. Но что делать с неявными багами или намеренными внедрениями, которые ещё не распознаны? Кроме этого не факт, что вы всегда сможете воспользоваться своими устройствами или подключиться к Интернету и т.п.

Тема безопасности связана и с возможностями страны в области разработки ИИ. В России же ситуация с профессионалами по части искусственного интеллекта аналогична с положением в производстве «железа», то есть мы имеет отставание от Китая и США в 20 – 30 раз! Какая уж тут безопасность. Тут можно лишь вспомнить пословицу: «На искусственный интеллект Бога надейся, а сам не плошай».

В этом контексте, как никогда, становятся актуальными правила для всех адвокатов о необходимости постоянного совершенствования своих знаний и повышения профессионального уровня. Хорошо, когда «Двое из ларца» будут за тебя делать всю работу, но нужно понимать - блага этой работы не факт, что достанутся тебе.