ИИ-агент: между вещью и лицом - Александр Савельев

Инструментальная и представительская модели правового опосредования действий ИИ-агента: сравнительный анализ и обоснование гибридной конструкции.

Савельев Александр Иванович, к.ю.н., доцент НИУ ВШЭ, академический руководитель магистерской программы «Цифровое право» НИУ ВШЭ

Transcript

1. ИИ-агент: между вещью и лицом. Инструментальная и представительская модели правового опосредования действий ИИ-агента: сравнительный анализ и обоснование гибридной конструкции Савельев Александр Иванович, к.ю.н., доцент НИУ ВШЭ, академический руководитель магистерской программы «Цифровое право» НИУ ВШЭ
2. Что такое ИИ-агент? Это программная или программно-аппаратная система на основе технологий ИИ, которая обладает следующими признаками: Автономность: Работает без прямого вмешательства человека. Активность: Целенаправленно влияет на среду, а не просто анализирует её. Адаптивность: Может учиться на вновь поступающих данных и улучшать свою стратегию.
3. Инструментальная модель • ИИ-агент рассматривается как функциональное продолжение воли пользователя, выраженной заранее при настройке системы (абз. 2 ст. 309 ГК РФ об автоматизированном исполнении обязательства) • Правовые последствия действий ИИ-агента возникают непосредственно у оператора/пользователя
4. Преимущества инструментальной модели • Предсказуемость (права, обязанности и ответственность всегда «стягиваются» к оператору) • прямое возложение рисков на того, кто извлекает выгоду (римский принцип cuius commodum, eius periculum) • отсутствие необходимости в новых правосубъектных категориях, сохранение бинарности «субъект-объект»
5. Недостатки инструментальной модели • Модель адекватна только для детерминированных систем. • Не учитывает специфику систем, основанных на машинном обучении: непредсказуемости решений (проблема «чёрного ящика»); способности агента формировать условия сделки, которые оператор не предвидел и не мог предвидеть; отсутствия конкретной воли в момент заключения сделки при наличии лишь общего делегирования. • При высокой автономии фикция «инструмента» превращается в юридическую презумпцию воли, которой фактически не было, что подрывает основы теории сделки (соответствие воли и волеизъявления).
6. Представительская модель • ИИ-агент мыслится по аналогии с представителем (гл. 10 ГК РФ): он формирует и выражает волеизъявление в интересах принципала • конструкция полномочия, его пределов и превышения используется для распределения последствий.
7. Преимущества представительской модели • Эта модель концептуально учитывает автономию ИИ-агента • Модель заимствует аппарат представительства и полномочий: пределы полномочий, выход за их границы, последующее одобрение сделки, добросовестность контрагента, видимость полномочий. • Появляется юридический аппарат для ситуаций выхода ИИагентом за пределы задания (аналог превышения полномочий), последующего одобрения, добросовестности контрагента.
8. Недостатки представительской модели • Предполагает правосубъектность представителя – ИИ-агента • Без правосубъектности получается «представительство без представителя», то есть модель превращается в объяснительную метафору, но не как готовый правовой механизм. • Последствия совершения сделки неуполномоченным лицом (возложение ее последствий на такое лицо) не применимы
9. Общие выводы • Инструментальная модель «ломается» на автономии ИИ-агента • Представительская модель ломается на правосубъектности. • Проблемы лежат в разных плоскостях: у инструментальной модели проблема на уровне атрибуции, у представительской модели - на уровне статуса. А что если их попробовать совместить?
10. Гибридная модель • низкая автономия ИИ-агента (детерминированное исполнение) → инструментальная модель; • высокая автономия (самостоятельный выбор контрагента, условий сделки, подходов к исполнению сделки) → применение по аналогии закона элементов представительской конструкции (норм о представительстве) при сохранении объектного статуса агента. ИИ-агент остаётся объектом права (инструментом) в части статуса, но его действия атрибутируются по логике представительства — с использованием механизмов пределов полномочий, добросовестности контрагента и критериев предвидимости поведения ИИ-агента со стороны оператора.
11. Кто отвечает за самодеятельность ИИ-агента? Ответ римского права • Пекулий (peculium) исторически решал ровно ту задачу, которая стоит перед регулированием автономного ИИ-агента: обеспечить хозяйственное участие в обороте субъекта, лишённого правосубъектности (раб = вещь), при ограничении ответственности господина обособленной массой имущества. • В рамках сделок, совершенных рабом в пределах своей автономии, третьи лица получали actio de peculio — иск, ограниченный размером пекулия; • по сделке, совершенной рабом по прямому указанию принципала — полный иск (quod iussu).
12. Цифровой пекулий – носитель имущественной обособленности • оператор (dominus) → собственник ИИ-агента и приписанного ему фонда; • ИИ-агент (servus) → объект гражданских прав; • цифровой пекулий (peculium) → обособленный имущественный комплекс/счёт, «прикреплённый» к ИИ-агенту
13. Градация ответственности оператора Гибридная модель воспроизводит многие подходы к ответственности по пекулию: • предвидимое поведение ИИ-агента (напр., в соответствии с промптом и установленными лимитами) появление юридическиобязывающего договора с полной ответственностью; • Непредвидимое поведение ИИ-агента, при добросовестном контрагенте появление юридически-обязывающего договора с ограниченной ответственностью • непредвиденное поведение ИИ-агента, при недобросовестном контрагенте нет договора
14. Критерий предвидимости Предвидимость оператором последствий работы ИИ-агента потенциально может зависеть от: • заданных оператором параметров(соответствие промпту, установление лимитов); • функционирования агента в пределах ожидаемого/документированного функционирования системы, подтверждаемого оценками, тестами, логами; отклонение не является аномалией, которую оператор не мог выявить разумными мерами.  Логи приобретают ключевое значение для практической реализации данного критерия. Непрозрачность функционирования ИИ-агента -> презумция предвидимости его нежелательного поведения оператором
15. Критерии добросовестности контрагента. «Представительство в силу обстановки»? 1. Идентифицируемость принципала и принадлежности ему агента (KYA) 2. Обстановка – результат поведения принципала (настройка и введение в эксплуатацию ИИ-агента, а не взлом или prompt injection извне) 3. Соответствие сделки обстановке (Агент-консьерж по бронированию отелей и билетов не должен заключать инвестиционные сделки) 4. Разумность поведения контрагента (учет контекста и установленных ограничений полномочий ИИ-агента, явных или машиночитаемых, аналогия ст. 174 ГК РФ)