Страхование рисков ИИ: исключения и явная страховая защита

Коротко. Ущерб, возникающий в результате использования искусственного интеллекта, не является отдельным видом страхования. Он распределяется между действующими договорами: страхованием профессиональной ответственности и ответственности технологической компании, страхованием ответственности за продукцию, общим страхованием ответственности, киберстрахованием, страхованием crime, D&O, а также страхованием имущества и от перерыва в деятельности. По каждому договору вопрос один и тот же: покрывают ли условия риск искусственного интеллекта молчаливо (не упоминая его), исключают его или покрывают его прямо. Основания ответственности в Эстонии вытекают из общих правил Обязательственно-правового закона и из ответственности производителя; новая директива об ответственности за продукцию распространяет ответственность производителя на программное обеспечение и системы искусственного интеллекта в отношении продуктов, которые выпускаются на рынок или вводятся в эксплуатацию с 9 декабря 2026 года (в исправленной редакции директивы: после 8 декабря 2026 года). Компании стоит пересмотреть свою программу страхования с учетом случаев использования искусственного интеллекта до того, как возникнет ущерб.

1. Где искусственный интеллект причиняет ущерб

Риск искусственного интеллекта представляет собой не один риск, а новую причину нескольких известных рисков. С точки зрения страхования наиболее важны следующие ситуации:

• ошибочный результат: составленные искусственным интеллектом консультация, расчет, код, диагноз или документ неверны, и клиент несет из-за этого ущерб;
• дискриминационное или несправедливое решение: автоматизированное решение о найме, кредитовании или ценообразовании нарушает права лица;
• данные и конфиденциальность: через инструмент искусственного интеллекта утекают персональные данные или коммерческая тайна либо система подвергается атаке (отравление данных, внедрение вредоносных инструкций);
• интеллектуальная собственность: результат или обучающие данные нарушают права третьего лица;
• дипфейки и мошенничество с использованием искусственного интеллекта: мошенник имитирует голос или видео руководителя, и работник совершает платеж;
• физический вред: автономная машина, робот или транспортное средство причиняет вред жизни и здоровью или ущерб имуществу;
• управленческий риск: правление не организует надзор за использованием искусственного интеллекта, или компания делает инвесторам вводящие в заблуждение заявления о своих возможностях в области искусственного интеллекта.

2. Основания ответственности в праве Эстонии

В эстонском праве нет отдельного основания ответственности для искусственного интеллекта. Обязанность возместить вред вытекает из договора, виновной деликтной ответственности или установленной законом ответственности независимо от вины. Лицо, противоправно причинившее вред, должно возместить вред, если оно виновно в его причинении или отвечает за него по закону.¹ Владелец источника повышенной опасности отвечает независимо от вины, если вред причинен опасностью, характерной для особо опасной вещи или деятельности; является ли автономная система источником повышенной опасности, зависит от ее характера и использования.²

Производитель отвечает за вред жизни и здоровью, причиненный дефектным продуктом. За вред, причиненный вещи, он по действующему VÕS отвечает только тогда, когда поврежденная вещь обычно предназначена для потребления, потерпевший использовал ее преимущественно вне хозяйственной или профессиональной деятельности, а ущерб превышает 500 евро.³ Новая директива об ответственности за продукцию применяется к продуктам, которые выпускаются на рынок или вводятся в эксплуатацию с 9 декабря 2026 года (в исправленной редакции ч. 1 ст. 2 директивы: после 8 декабря 2026 года). Директива рассматривает в качестве продукта и программное обеспечение, в том числе системы искусственного интеллекта, а в понятии ущерба, причиненного вещи, порога в 500 евро нет.⁴ См. Страхование ответственности за продукцию.

Теоретические вопросы ответственности за искусственный интеллект, в том числе может ли страхование в будущем заменить деликтную ответственность и следует ли наделить искусственный интеллект правосубъектностью, рассматриваются в публикациях блога Искусственный интеллект и ответственность и Следует ли наделить искусственный интеллект правосубъектностью?.⁵

3. Действующие договоры: где находится риск искусственного интеллекта

3.1. Профессиональная ответственность и ответственность технологической компании

Если консультант, разработчик программного обеспечения или иной поставщик услуг использует искусственный интеллект и в его услуге есть ошибка, первый вопрос состоит в том, относится ли это к застрахованной профессиональной деятельности. В условиях страхования профессиональной ответственности важно описание застрахованной деятельности: если оно определено узко (например, конкретные услуги), новая услуга, оказываемая с помощью искусственного интеллекта, может остаться за пределами описания. Второй вопрос касается договорного обещания. Если поставщик услуг гарантировал точность модели или результат, требование может основываться на гарантии, а не на нарушении обязанности проявлять прилежание (заботливость и осмотрительность); исключение договорных гарантий широко распространено в страховании профессиональной ответственности. См. Страхование профессиональной и должностной ответственности.

3.2. Ответственность за продукцию

Для производителя устройства или программного продукта, оснащенного искусственным интеллектом, новая директива означает, что и обновления программного обеспечения после выпуска на рынок, и отсутствие обновлений безопасности могут быть основанием дефектности продукта, если продукт остается под контролем производителя.⁴ В общем страховании ответственности ущерб, связанный с программным обеспечением и данными, часто исключен или ограничен. Производителю стоит проверить, покрывает ли страхование ответственности за продукцию также чисто программный продукт и уничтожение данных, которое новая директива рассматривает как ущерб.

3.3. Киберстрахование

Атака, направленная против системы искусственного интеллекта (отравление данных, кража модели, внедрение вредоносных инструкций), с точки зрения киберстрахования, как правило, является инцидентом безопасности, если компьютерная система и нарушение безопасности определены в условиях достаточно широко. Сомнительной является ситуация, когда модель выдает неверный результат без всякой атаки: это ошибка функционирования, а не нарушение безопасности, и защита киберстрахования на случай сбоя системы может быть ограничена. См. Что покрывает киберстрахование.

3.4. Страхование crime и дипфейки

Мошенничество от имени руководителя, совершенное с помощью дипфейка, с правовой точки зрения является социальной инженерией: работник сам совершает платеж, будучи обманутым. Такой ущерб покрывается страхованием crime только тогда, когда согласована защита от социальной инженерии, и, как правило, в пределах сублимита. Условия часто требуют обратного звонка или иной независимой проверки; при дипфейке решающей является именно такая проверка. Банк такой авторизованный платеж обычно не возвращает. См. Социальная инженерия, мошенничество со счетами и CEO-мошенничество и Ответственность банка при платежном мошенничестве.

3.5. Страхование D&O

С точки зрения ответственности руководителей существуют два риска. Во-первых, правление может нести ответственность, если оно не организует достаточного надзора за рисками использования искусственного интеллекта (например, в области защиты данных, запрета дискриминации или требований регламента об искусственном интеллекте). Во-вторых, инвесторы могут предъявить требование, если компания публично переоценила свои возможности в области искусственного интеллекта. Страхование D&O, как правило, покрывает личную ответственность руководителей и расходы на защиту; страхуемость штрафов и санкций зависит от применимого права и условий. См. Новые риски для правления.

3.6. Страхование имущества и от перерыва в деятельности

Страхование имущества, как правило, предполагает физический ущерб. Если ошибка системы искусственного интеллекта останавливает производство без физического ущерба, перерыв в деятельности, как правило, не покрывается. Если управляемое искусственным интеллектом устройство вызывает пожар или поломку машин, ущерб является физическим, и вопрос решается в плоскости исключений. Ситуация схожа с молчаливым киберриском, который рынок в последние годы стал прямо регулировать в договорах.

4. Исключения в отношении искусственного интеллекта и их толкование

Часть страховщиков добавляет в условия исключения в отношении искусственного интеллекта, другие уточняют, что использование искусственного интеллекта само по себе не влияет на страховую защиту. Действие исключения зависит от его формулировки. Широкие исключения (ущерб, который «вытекает из использования искусственного интеллекта или связан с ним») могут охватывать практически любое современное программное обеспечение, поскольку понятие искусственного интеллекта в условиях страхования не унифицировано.

В эстонском праве типовое условие толкуется так, как его должно было понимать в тех же обстоятельствах разумное лицо, аналогичное другой стороне договора; в случае сомнения не в пользу лица, использующего условие.⁶ Поэтому неясное исключение в отношении искусственного интеллекта может быть истолковано не в пользу страховщика. Однако ясность условия не решает вопроса о том, является ли оно исключением риска или требованием безопасности (обязанностью проявлять прилежание): определяющим является содержание условия. Согласно критерию Государственного суда, условие, наступление которого зависит прежде всего от поведения и вины страхователя, как правило, является обязанностью проявлять прилежание, к нарушению которой применяется требование причинной связи по VÕS § 452 ч. 2 (RKTKo 28.06.2024, 2-22-2313/65, п. 15–17); этот критерий не заменяет оценку содержания конкретного условия. При подлинном исключении риска такой тест пропорциональности не применяется, однако причинная связь, требуемая формулировкой самого исключения, должна быть налицо. См. Толкование условий страхования и contra proferentem и Исключение или требование безопасности.

5. Явная страховая защита от рисков искусственного интеллекта

На рынке предлагаются также продукты, которые прямо покрывают риск искусственного интеллекта. Одним из подходов является страхование работоспособности модели: страховщик возмещает ущерб, если модель не достигает согласованной точности или производительности. Другим подходом является расширение действующих договоров (например, защита от ответственности, вытекающей из результата работы искусственного интеллекта, или от мошенничества с использованием дипфейков). Явная страховая защита разрешает спор о толковании, но порождает новые вопросы: как измеряется производительность, кто доказывает ошибку модели и какова собственная ответственность.

6. Право Европейского союза и сроки

Регламент об искусственном интеллекте ((ЕС) 2024/1689) представляет собой риск-ориентированное законодательство о продукции. Он не регулирует гражданскую ответственность, однако нарушение его требований может служить доказательством нарушения обязанности проявлять прилежание. С точки зрения страхования важно, что подпункт c пункта 5 приложения III относит к системам высокого риска искусственный интеллект, предназначенный для оценки рисков и ценообразования в отношении физических лиц в страховании жизни и здоровья.⁷

Регламентом (ЕС) 2026/1744 изменено начало применения требований к системам высокого риска. Требования к системам, перечисленным в приложении III, применяются с 2 декабря 2027 года, а к системам, интегрированным в продукты, указанные в приложении I, с 2 августа 2028 года; общая дата применения регламента 2 августа 2026 года не изменилась.⁸ Новую директиву об ответственности за продукцию необходимо транспонировать до 9 декабря 2026 года. Обобщенно см. Регламенты ЕС и Директивы ЕС.

7. Контрольный список для страхователя

1. Выявите и оцените, где компания использует искусственный интеллект (услуги для клиентов, продукты, внутренние процессы, подтверждение платежей) и кто отвечает за результат.
2. Проверьте по каждому договору, охватывает ли описание застрахованной деятельности услугу, оказываемую с помощью искусственного интеллекта.
3. Найдите в условиях исключения, касающиеся искусственного интеллекта, алгоритмов, автоматизированных решений, программного обеспечения и данных, а также определения этих понятий.
4. Проверьте, есть ли в договоре crime защита от социальной инженерии и какие требования к проверке действуют при подтверждении платежей.
5. Проверьте в договорах с клиентами, не дала ли компания гарантию результата или точности, которую страхование не покрывает.
6. Раскройте в преддоговорной информации существенное использование искусственного интеллекта; неуведомление может дать страховщику право на отступление от договора.
7. Согласуйте между собой киберстрахование, страхование crime, D&O и страхование ответственности, чтобы один и тот же ущерб не оказался между договорами.

8. С точки зрения страховщика

Для страховщика основным специфическим риском искусственного интеллекта является кумуляция: одна и та же модель или один и тот же поставщик услуг может одновременно причинить ущерб многим застрахованным. Поэтому страховщики выявляют и оценивают молчаливый риск искусственного интеллекта так же, как ранее молчаливый киберриск, и добавляют в анкету вопросы об использовании искусственного интеллекта. При урегулировании убытков доказательствами становятся журналы работы модели, ее версии и документы о человеческом надзоре; их сохранения стоит требовать уже в условиях страхования. Для регрессного требования к производителю или поставщику услуг важно, что новая директива об ответственности за продукцию в определенных случаях облегчает доказывание дефекта и причинной связи.

Связанные страницы

• Страхование ответственности за продукцию
• Киберстрахование
• Страхование crime
• Страхование D&O
• Новые риски для правления
• Искусственный интеллект и ответственность: заменит ли страхование деликтное право?
• Управление рисками: взаимодействие кибер, crime и D&O

Примечания