Новый вызов праву, криминологии и свободе творчества

В истории права редко происходят изменения, затрагивающие саму основу отношения государства и общества к человеку. Один из таких принципов — презумпция невиновности: человек считается невиновным, пока его вина не будет доказана в установленном законом порядке, а обязанность доказывания лежит на обвиняющей стороне.

Проблема распределения этой обязанности уже возникала в других областях. При оценке цифровых доказательств суду не раз приходилось решать, кто обязан подтверждать подлинность файла или переписки — сторона, предъявляющая улику, или тот, кому она адресована. Теперь тот же вопрос встаёт в области авторства текста.

С развитием генеративного искусственного интеллекта возникает ситуация, которая на первый взгляд относится только к литературе и издательскому делу, но на деле имеет гораздо более широкий смысл. Всё чаще писатель, журналист, исследователь или преподаватель сталкивается с одним и тем же требованием.

Докажите, что этот текст написали именно вы, а не искусственный интеллект.

Тем самым в обиход входит практика, которую условно можно назвать презумпцией машинного авторства: человек рассматривается как потенциальный нарушитель уже потому, что его текст показался алгоритму похожим на машинный. Речь пока не о закреплённой правовой презумпции, а о складывающейся практике — но она достаточно устойчива, чтобы требовать отдельного научного анализа.

Дальше в тексте встречаются три близких понятия, и их стоит сразу развести:

  • Презумпция машинного авторства — сама проблема: смещение бремени доказывания с обвиняющей стороны на автора.
  • Презумпция машинного подозрения — механизм её возникновения: статистический вывод детектора, который начинает восприниматься как основание для сомнения.
  • Алгоритмическое обвинение — последствие: момент, когда подозрение используется как основание для решения — отказа в публикации, лишения премии, расторжения контракта.

От презумпции человеческого авторства к презумпции машинного подозрения

На протяжении столетий авторство исходило из простой предпосылки: если существует текст, значит, его написал человек. Споры возникали вокруг плагиата, соавторства, подделок, анонимности или авторских прав, но сама человеческая природа текста под сомнение не ставилась.

Появление генеративных моделей изменило эту логику. Некоторые издатели, образовательные учреждения, организаторы конкурсов и редакции начали использовать автоматические системы определения машинного текста — и вместе с ними в оборот вошла обратная презумпция. Во всё большем числе таких практик — издательских, образовательных, конкурсных — не человек считается автором текста, пока не доказано обратное: человеку предлагается подтвердить своё авторство самому. Обязанность доказывания постепенно переносится с обвиняющей стороны на автора. Именно здесь и возникает принципиальная правовая проблема.

Почему алгоритм не может быть судьёй

Алгоритм способен выявлять статистические закономерности: сравнивать последовательности слов, распределение вероятностей, синтаксические конструкции, повторяемость выражений, особенности пунктуации и десятки других признаков. Но он не наблюдал процесс творчества. Он не знает, писал ли человек текст самостоятельно, пользовался ли словарём, редактором, архивом, прежними публикациями, помощником или программой проверки грамматики, сколько времени ушло на работу. Он анализирует только результат — а значит, способен построить гипотезу, но не предъявить доказательство.

Это особенно важно, потому что современные системы определения машинного текста ошибаются, причём не случайным образом. Ещё в 2023 году исследование Liang et al. показало, что детекторы на основе GPT систематически завышают долю «машинного» текста у авторов, для которых английский не родной. Та же проблема воспроизводится у тех, кто работает в академическом стиле, и у тех, кто сознательно придерживается необычной литературной манеры.

Если такой алгоритм становится основанием для отказа в публикации, лишения премии, расторжения контракта или публичного обвинения, возникает новая форма цифровой несправедливости.

Презумпция машинного авторства как новая форма презумпции виновности

Юридическая логика строится вокруг распределения обязанности доказывания. Если человека обвиняют в преступлении, именно обвинение обязано представить доказательства — обвиняемый не должен доказывать собственную невиновность. Точно так же должно работать и право интеллектуального авторства: если издатель, конкурсная комиссия, университет или иная организация утверждают, что текст создан искусственным интеллектом, доказывать это должны они, а не автор.

Иначе возникает скрытая презумпция виновности, при которой автор обязан доказывать собственную человеческую природу. Это противоречит фундаментальным принципам права.

Криминологическое значение проблемы

На первый взгляд этот вопрос относится исключительно к литературе. На самом деле он имеет прямое отношение к криминологии. В предыдущих исследованиях мы уже приходили к одному и тому же принципу: нельзя объявлять фирму преступной до установления правового факта, нельзя считать переписку доказательством преступления, нельзя превращать цифровой след в автоматическое доказательство вины. Теперь перед нами ещё один случай той же природы: нельзя объявлять текст машинным только потому, что статистическая модель оценила такую вероятность.

Алгоритм становится новым источником подозрения, но подозрение — ещё не доказательство.

Отсюда — новый объект исследования: криминология алгоритмического обвинения. Она изучает случаи, когда математическая модель начинает выполнять функцию обвинителя без достаточной научной и правовой проверки. От цифровой криминологии, изучающей происхождение и достоверность самих цифровых следов, это направление отличается предметом: не след, а решение, которое алгоритм выносит по этому следу. Её объект — момент, когда статистическая оценка начинает восприниматься как основание для правовых или репутационных последствий.

Проблема непрозрачности

Особую опасность представляет непрозрачность алгоритмов. Автор получает вывод: «высока вероятность использования искусственного интеллекта» — и на этом всё. Ответов на самые существенные вопросы он не получает:

  • какие признаки анализировались;
  • какова вероятность ошибки;
  • какие тексты использовались для обучения;
  • какие группы авторов чаще получают ложные результаты;
  • как алгоритм работает с разными языками;
  • можно ли независимо проверить его вывод.

Если ответов нет, алгоритм превращается в своеобразный «чёрный ящик». Такой вывод нельзя считать достаточным основанием для ограничения прав человека.

Новая дискриминация

Использование непрозрачных детекторов способно создавать систематическую дискриминацию. Под подозрение чаще попадают:

  • авторы, пишущие не на родном языке;
  • исследователи с академическим стилем;
  • люди, использующие короткие и логичные предложения;
  • авторы научных текстов;
  • те, кто применяет вспомогательные технологии письма;
  • писатели с необычной индивидуальной манерой.

Получается парадокс: чем более структурирован текст, тем выше риск ошибочного обвинения. Качество письма неожиданно превращается в фактор риска.

Что должно стать новым правовым принципом

Отсюда — необходимость сформулировать принцип презумпции человеческого авторства. Его содержание можно выразить одной формулой:

Любой текст считается созданным человеком, пока использование генеративной системы не доказано научно обоснованными, проверяемыми и воспроизводимыми методами.

Статистическая вероятность не заменяет доказательства. Автоматический вывод не заменяет экспертизы. Алгоритм не заменяет судебную процедуру. Обязанность доказывания принадлежит стороне, выдвигающей обвинение — именно такой подход соответствует общей логике современного права.

Методологические требования

Минимальный стандарт допустимости подобных систем должен включать следующие требования.

  1. Открытость. методика должна быть открыта для независимой научной проверки.
  2. Известная погрешность. должна быть известна и опубликована вероятность ошибки.
  3. Воспроизводимость. должны существовать независимые способы воспроизвести результат.
  4. Не единственное основание. алгоритм не должен быть единственным основанием решения.
  5. Право на оспаривание. автор должен иметь возможность оспорить вывод.

До выполнения этих условий любые автоматические оценки следует рассматривать только как ориентир для дополнительной проверки, а не как доказательство.

От литературы к гражданским свободам

Самая серьёзная опасность здесь — не в судьбе отдельных писателей. Если общество привыкнет к мысли, что алгоритм вправе определять происхождение текста, подобная логика потенциально может распространиться и на другие формы цифровой идентификации: достоверность фотографии, подлинность голоса, авторство идеи, происхождение научной гипотезы.

Вопрос литературного авторства в этом смысле — лишь частный, но показательный случай куда более общей проблемы: кто определяет истину — человек или алгоритм?

Заключение

Развитие искусственного интеллекта требует новых правовых принципов, и один из них — презумпция человеческого авторства. Человек не обязан доказывать, что он человек. Автор не обязан доказывать, что писал самостоятельно, только потому, что алгоритм увидел статистическое сходство с машинным текстом. Так же как презумпция невиновности защищает человека от необоснованного уголовного обвинения, презумпция человеческого авторства должна защищать его от необоснованного алгоритмического обвинения.

Если сегодня писатель обязан доказывать, что он человек, то завтра любой гражданин может оказаться обязанным доказывать, что его мысли, тексты, изображения и решения принадлежат ему самому, а не машине.

Развитие искусственного интеллекта требует не отказа от фундаментальных принципов права, а их более последовательного применения в цифровой среде. Именно поэтому обязанность доказывания должна по-прежнему лежать на стороне, выдвигающей утверждение о машинном происхождении текста.

Источники и материалы

Официальный e-mail профессора Олега Мальцева: Phd@oleg-maltsev.com