Машина больше не просто оружие в чужих руках
Ещё пять лет назад разговор об искусственном интеллекте и преступности сводился к одному сюжету: злоумышленник берёт нейросеть и с её помощью делает то, что раньше делал сам, только быстрее и масштабнее. Фишинговое письмо, поддельный голос, вредоносный код, обход защиты. Криминология в этой картине не менялась в основе. Менялся только инструмент в руках человека.
Сегодня этот сюжет перестаёт быть полным.
Появились программные агенты, которые не просто выполняют команду, а сами ищут информацию, ведут переговоры, заключают сделки, оценивают результат своих действий и меняют поведение в зависимости от того, что получилось. Такие системы всё чаще взаимодействуют друг с другом без участия человека на каждом шаге. Один агент договаривается с другим, третий подтверждает платёж, четвёртый корректирует стратегию по итогам предыдущих попыток.
И вот здесь у криминологии заканчивается привычный инструментарий.
Почему старые теории написаны про человека
Возьмите любую крупную криминологическую теорию последних семидесяти лет: рациональный выбор, рутинная деятельность, социальный контроль, теория возможностей, экологическую криминологию. У всех у них есть общее допущение: решение принимает человек. Даже когда речь идёт об организованной преступности, где действуют десятки людей, теория всё равно объясняет поведение через мотивы, связи и структуры конкретных живых людей.
Возьмём теорию рационального выбора. Она предполагает наличие субъекта, который взвешивает выгоды и издержки и на этом основании решается на преступление. Когда действие складывается из взаимодействия нескольких автономных систем, определить такого субъекта становится намного сложнее: выбор каждой системы ограничен поставленной ей целью, а итоговый результат не принадлежит целиком ни одной из них.
Работала эта картина ещё и потому, что до последнего времени машина не выбирала дальнейших действий в том смысле, который важен для криминологии. Она считала, хранила, передавала. Выбор всегда оставался за человеком, который сидел перед экраном.
Сейчас это не совсем так. Не потому что у машины появилась воля или намерение в человеческом смысле, а потому что цепочка «данные, анализ, действие» может целиком проходить внутри системы, без человека на промежуточных звеньях. Система самостоятельно выбирает дальнейшие действия в пределах поставленной ей цели. И если преступный результат всё чаще становится следствием взаимодействия нескольких таких систем, а не выбора одного человека, то классический вопрос криминологии «кто решился на это и почему» упирается в пустоту. Выбор распределён по цепочке агентов, и ни один из них по отдельности не похож на субъекта, которого изучала теория рационального выбора.
Важная оговорка: речь не про юридическую ответственность
Здесь нужно сразу расставить границы, потому что тема легко скатывается в фантастику о правах роботов.
Вопрос уголовной ответственности искусственного интеллекта, то есть можно ли признать систему субъектом преступления и наказать её, относится к уголовному праву и философии права. Это отдельная и по-своему интересная дискуссия, но эта статья не про неё.
Речь пойдёт о другом: не о том, кого судить, а о том, что изучать. Даже если завтра все юристы мира согласятся, что отвечает всегда человек, который запустил систему или получил выгоду, у криминологии остаётся нерешённый вопрос. Среда, в которой совершаются преступления, изменилась. В ней теперь действуют автономные системы, которые взаимодействуют друг с другом, подстраиваются и влияют на то, как возникает и развивается преступный процесс. Эту среду нужно понимать отдельно от вопроса, кого в итоге привлекут к ответственности.
Чтобы дальше не путать близкие слова, договоримся об одном определении. Под цифровой криминогенной средой в этой статье понимается совокупность автономных систем, их взаимодействий и обслуживающей инфраструктуры, которая создаёт условия для возникновения преступного результата. Когда ниже встречаются слова «экосистема» или «архитектура», речь идёт о разных срезах этой же среды: экосистема о том, кто с кем взаимодействует, архитектура о том, как устроена цепочка принятия решений внутри неё.
У такого расширения предмета есть своя логика, и она не нова. Криминология уже не раз раздвигала границы исследования, когда менялась сама природа преступности: от личности преступника к преступной группе, затем к криминальным рынкам и инфраструктурам, которые эти рынки обслуживают. Появление взаимодействующих автономных систем выглядит как следующий шаг того же движения.
От инструмента к среде: в чём разница
Разница на первый взгляд может показаться тонкой, но она принципиальна.
Когда мы говорим «преступник использовал ИИ как инструмент», мы описываем ровно то же самое, что происходило с любым другим техническим средством: отмычкой, поддельной печатью, вредоносной программой без элементов автономии. Инструмент не меняет структуру объяснения, меняется только эффективность.
Когда несколько автономных систем взаимодействуют между собой, договариваются, подстраиваются друг под друга и производят результат, который ни одна из них не производила бы в одиночку, мы уже не описываем инструмент в руках преступника. Возникает система взаимодействий, свойства которой не сводятся к возможностям отдельных участников. Именно эта системная динамика создаёт новые криминогенные возможности: усиливает одни виды преступного поведения и подавляет другие, открывает пространство для мошенничества, сжимает до минут то, что раньше требовало недель подготовки, и работает в масштабе, недостижимом для одного человека или одной группы.
Криминология всегда изучала среду: районы с высокой преступностью, рынки, где легко продать украденное, инфраструктуру, которая облегчает конкретный вид преступления. Цифровая экосистема взаимодействующих интеллектуальных агентов, судя по всему, становится ещё одним видом такой среды. Просто устроена она не из улиц и рынков, а из систем, которые разговаривают друг с другом.
Что именно предлагается изучать
Если принять эту постановку вопроса, у криминологии появляется не просто список тем, а очертания исследовательской программы. В ней можно выделить четыре уровня.
- Первый уровень: взаимодействие агентов. Как автономные системы взаимодействуют друг с другом в ситуациях, где результат оказывается криминогенным, даже если ни один из участников не был запрограммирован причинять вред.
- Второй уровень: архитектура системы. Как устроена цепочка принятия решений и где именно в ней проходит граница между тем, что ещё контролирует человек, и тем, что уже происходит само.
- Третий уровень: распределение человеческого контроля. В какой точке процесса человек перестаёт влиять на исход и кто в этот момент отвечает за то, что система делает дальше.
- Четвёртый уровень: новые криминальные возможности. Какие способы совершить преступление появляются именно из-за скорости и масштаба взаимодействующих систем, а не из-за того, что кто-то придумал принципиально новый способ обмана. Сюда же относится вопрос, как меняется структура криминальных рынков, если часть работы прежних людей-посредников теперь берут на себя системы, договаривающиеся между собой напрямую.
Это не праздный академический перечень. Каждый из четырёх уровней имеет прямое практическое значение для того, как расследовать, предотвращать и регулировать преступления, в которых участвуют автономные системы.
Где это уже происходит
Чтобы разговор не выглядел умозрительным, стоит назвать конкретные места, где взаимодействие автономных систем уже наблюдается.
Агентные системы уже самостоятельно планируют последовательность действий и вызывают внешние сервисы для их выполнения. В автоматизированных переговорах программы согласуют условия сделки без человека за столом. На финансовых площадках алгоритмы автономной торговли реагируют друг на друга быстрее, чем успевает вмешаться оператор. Распределённые ИИ-агенты делят задачу между собой и обмениваются промежуточными результатами. А в автоматизированном поиске уязвимостей система сама сканирует цель, находит слабое место и подбирает способ его использовать.
Всё это уже работает, и часть таких случаев уже привлекла внимание правоохранительных органов и исследователей безопасности. Вопрос не в том, наступит ли эта реальность, а в том, готова ли криминология её описывать.
Почему это не преждевременно
Можно возразить: тема выглядит футуристично, стоит ли вообще заниматься ей сейчас.
Это возражение было бы разумным несколько лет назад. Сегодня оно уже не работает. Автономные системы, которые самостоятельно ищут цели, ведут переговоры и корректируют тактику по ходу действия, существуют не в теории. Они используются и в законной деятельности, и в криминальной. Пока эта тема остаётся на периферии криминологического внимания, практика уходит вперёд без теоретической опоры, а это плохая позиция для науки, которая должна объяснять происходящее, а не догонять его постфактум.
Итог
Главный тезис простой. Развитие искусственного интеллекта ставит перед криминологией не столько вопрос о новом преступнике, сколько вопрос о новом объекте исследования: цифровой среде, в которой взаимодействуют автономные системы и где преступный результат может складываться без единого человека, принимающего все решения процесса.
Это не требует отказа от всего, что криминология знает о человеке, мотивах и социальных структурах. Но требует расширения предметного поля так, чтобы в него помещалась и личность преступника, и архитектура систем, которые всё чаще действуют рядом с ним, а иногда вместо него.
Возможно, главный вопрос криминологии XXI века уже не звучит как «почему преступник совершил преступление». Всё чаще он будет звучать иначе: какие системы сделали это преступление возможным. Ответ на него потребует изучать не только человека, но и архитектуру взаимодействующих автономных агентов, которая складывается рядом с ним прямо сейчас.