С чего начинается новое направление
Обычно новая область науки рождается не тогда, когда появляется новый объект, а тогда, когда старый вопрос перестаёт давать ответ. С криминологией и искусственным интеллектом происходит именно это.
Почти всё, что сегодня пишут про ИИ и преступность, вращается вокруг одной фигуры: преступника, который взял в руки новый инструмент. Он генерирует фишинг, подделывает голос, пишет вредоносный код быстрее и дешевле, чем раньше. Это правда, и это важно. Но за этим разговором теряется вопрос куда более серьёзный для криминологии как науки.
Изменился не преступник. Изменилась среда, в которой возникает преступность.
Именно эту мысль стоит поставить в основание всего цикла, который мы открываем. Не «ИИ скоро станет преступником», а «мир, в котором действует преступник, впервые за всю историю перестал состоять из одних людей».
Криминология всегда изучала человека
Чтобы увидеть масштаб сдвига, стоит вспомнить, чем криминология занималась двести лет.
На протяжении всей своей истории криминология держала в центре анализа человеческое поведение. Менялись школы и объяснительные модели, от классической школы до экологической криминологии, но объект оставался один. В центре всегда стоял человек: его мотив, его выбор, его намерение, его связи, его ответственность, его отклонение от нормы.
Отсюда и весь понятийный аппарат. Мотив, намерение, выбор, вина, социальная роль, девиация (отклонение от принятой нормы), ценности, контроль. Каждая из этих категорий по умолчанию предполагает того, кто чувствует, решает и отвечает. То есть человека.
Эти категории почти никогда всерьёз не ставились под сомнение, потому что не было повода. Носителем поведения всегда был человек, и спорить тут было не о чем. Повод появился только сейчас.
Почему ИИ меняет саму постановку вопроса
Уточню сразу, чтобы не увести разговор в сторону. Речь не о том, можно ли судить машину. Вопрос уголовной ответственности искусственного интеллекта относится к праву и философии права, это отдельная тема, и не она здесь главная.
Дело в другом. Появились системы, которые самостоятельно принимают решения в рамках поставленной задачи, обмениваются между собой информацией, координируют действия, распределяют работу, учатся на результате и подстраиваются друг под друга. Пока каждая такая система работает по одиночке, криминология ещё может считать её сложным инструментом в руках человека. Но когда несколько таких систем начинают взаимодействовать между собой, возникает нечто, что уже плохо описывается словом «инструмент».
Возникает система взаимодействий, свойства которой не сводятся к свойствам отдельных участников. И преступный результат в ней может складываться из взаимодействия систем, а не из решения одного человека, сидящего за экраном.
Где заканчиваются классические теории
Здесь важно не свалиться в критику классической криминологии. Она не устарела и не ошиблась. У неё просто есть естественные границы, и стоит честно их показать.
Теория рационального выбора предполагает субъекта, который взвешивает выгоды и риски. Когда действие складывается из взаимодействия нескольких автономных систем, найти этого единого субъекта становится намного труднее. Теория рутинной деятельности держится на встрече преступника, жертвы и отсутствия защиты в одном месте и в одно время. В среде распределённых агентов «место» и «время» теряют привычный смысл. Социальный контроль исследует связи человека с обществом, а не связи алгоритма с алгоритмом. Экологическая криминология описывает поведение людей в пространстве, а сетевые модели преступности разбирают отношения между людьми. Ни одна из этих оптик не была рассчитана на участника, который не человек.
Все эти теории остаются рабочими. Каждая из них сохраняет объяснительную силу в пределах своих исходных предпосылок. Меняются сами предпосылки. Все они создавались для мира, где единственным носителем поведения был человек. Как только рядом с ним появляется система, которая самостоятельно определяет последовательность действий, инструментарий начинает буксовать. Не потому, что он плох, а потому, что его спроектировали под другую реальность.
Машинная криминальная экосистема
Из этого вырастает главное предложение статьи. Стоит сменить сам вопрос.
Вместо «может ли ИИ стать преступником» продуктивнее спросить: что происходит с преступностью, если часть решений принимает система взаимодействующих интеллектуальных агентов.
Так появляется рабочее понятие, вокруг которого может строиться весь цикл.
Под машинной криминальной экосистемой предлагается понимать среду, в которой взаимодействуют человек, автономные интеллектуальные системы, цифровые платформы и инфраструктуры, а преступный результат возникает как следствие их взаимодействия.
Здесь важна последняя часть определения. Вредный итог рождается не в одной точке и не по воле одного участника, а на пересечении связей между ними. Именно поэтому новые модели расследования должны учитывать не только действия человека, но и архитектуру взаимодействующих интеллектуальных систем.
Это не футурология. Агентные системы уже планируют последовательности действий и сами вызывают внешние сервисы. Программы согласуют условия сделок, когда за столом переговоров нет ни одного человека. На финансовых площадках алгоритмы реагируют друг на друга быстрее, чем успевает вмешаться оператор. А автоматизированные сканеры находят уязвимости и подбирают способ их использовать без подсказки со стороны. Каждый из этих примеров по отдельности выглядит технической деталью. Вместе они складываются в новую среду, которую криминология пока не умеет описывать своим языком.
Почему нужна новая криминология
Уточню, откуда берётся необходимость нового направления. Не из того, что появились машины. Машины появлялись и раньше, и криминология спокойно включала их в картину как орудия.
Необходимость возникает из того, что меняется объект исследования. Криминология всегда изучала поведение. Теперь к нему добавляется взаимодействие интеллектуальных систем, а это принципиально другая вещь. Поведение можно объяснить через мотив и выбор одного действующего лица. Взаимодействие приходится объяснять через архитектуру: кто с кем связан, где проходит граница человеческого контроля, как свойства системы возникают из связей, а не из отдельных участников.
Изучать поведение и изучать архитектуру взаимодействия оказывается двумя разными исследовательскими задачами. И вторая только начинает вставать перед криминологией в полный рост.
Что открывает этот цикл
Эта статья задумана как вводная. Она ставит проблему, но не закрывает её. В следующих текстах серии мы разберём по частям, где упираются классические теории и чем наполнить понятие машинной криминальной экосистемы. А затем попробуем очертить контуры новой исследовательской программы, которую пока условно можно назвать Machine Criminology.
Возможно, главный вызов современной криминологии не в том, что искусственный интеллект стал новым участником общественных отношений. Куда важнее другое: изменилась сама структура среды, в которой возникает преступность. Криминология впервые имеет дело с положением, когда заметная часть решений принимается не отдельными людьми, а распределёнными системами.
Криминология XIX и XX веков расширяла свои объяснительные модели вслед за изменением общества. XXI век требует ещё одного шага: включить в предмет исследования взаимодействие человека и автономных интеллектуальных систем. С этого и начинается новая исследовательская программа современной криминологии.
Вероятно, в ближайшие годы одним из главных направлений её развития станет изучение не только преступного поведения человека, но и архитектуры взаимодействующих интеллектуальных систем, в которой это поведение всё чаще разворачивается.