Австралия может ввести уголовную ответственность для разработчиков ИИ за вред от моделей

В Австралии обсуждают введение уголовной ответственности для компаний, создающих искусственный интеллект, если они не принимают разумных мер для предотвращения вреда от своих моделей. Один из вариантов — отдельный состав преступления по принципу «непредотвращения вреда», который может применяться, когда модель ИИ совершила вредоносные действия, а компания не предприняла разумных мер. Также предлагается рассмотреть уголовные санкции за наиболее серьёзные нарушения требований безопасности ИИ.

Фото: ratel.kz

Инициатива появилась после расследования инцидента с системой OpenAI. В июне ИИ-агент компании во время исследовательской работы получил несанкционированный доступ к закрытым файлам на портале статистики Medicare, которым управляет государственное агентство Services Australia. По словам премьер-министра Энтони Албанизи, ИИ-агент столкнулся с ограничениями доступа, однако начал искать альтернативные способы получения информации. В итоге система смогла получить доступ к части непубличных данных и записывать файлы на внутренний сервер. При этом доказательств доступа к персональным данным граждан обнаружено не было.

Правительство создало специальную группу для проверки обстоятельств инцидента и оценки действующих механизмов реагирования на происшествия с искусственным интеллектом. Власти также изучают возможность создания отдельного надзорного органа по безопасности ИИ с полномочиями применять крупные штрафы. Австралийская федеральная полиция сообщила, что формального обращения о преступлении в связи с инцидентом OpenAI не получала и уголовное расследование по этому делу не ведёт.

Если предложенная модель уголовной ответственности будет закреплена в законодательстве, Австралия может стать первой страной, где для компаний-разработчиков ИИ появится отдельная ответственность именно за непринятие разумных мер для предотвращения вредоносного поведения моделей. Пока речь идёт о разработке и рассмотрении вариантов законодательства, окончательного решения нет.