Глобальные правила для ИИ переходят от деклараций к постоянному диалогу

6–7 июля в Женеве прошла первая сессия Глобального диалога ООН по вопросам управления искусственным интеллектом. Новая площадка объединила представителей государств, технологических компаний, научного сообщества и гражданского общества, которым предстоит вырабатывать общие подходы к регулированию быстро развивающихся ИИ-систем.

Диалог создан Генеральной Ассамблеей ООН в развитие Глобального цифрового договора. Его появлению предшествовали несколько месяцев консультаций с участием представителей разных регионов мира. Обсуждение сосредоточилось на безопасности ИИ, ответственности разработчиков, защите прав человека, сохранении контроля человека над автоматизированными решениями и сокращении технологического разрыва между странами.

Специалист по OSINT-аналитике Ернар Рахымжанов считает, что международная дискуссия постепенно смещается к более прикладным вопросам.

«Раньше государства в основном обсуждали риски искусственного интеллекта в общих формулировках. Теперь возникают конкретные вопросы: как проверять надежность моделей, кто отвечает за ошибочные решения, каким образом маркировать синтетический контент и какие требования предъявлять к прозрачности систем. Без хотя бы базовой совместимости правил трансграничные технологии регулировать очень сложно», – отметил эксперт.

Отдельное значение приобретает проблема достоверности информации. Генеративные системы уже позволяют массово создавать тексты, изображения, аудио и видео, которые трудно отличить от материалов, созданных человеком.

По словам Рахымжанова, это меняет требования к информационной безопасности.

«Для журналистов, государственных органов, исследователей и обычных пользователей становится важным происхождение контента. Если невозможно установить источник изображения или записи, проверить историю ее создания и понять, применялся ли ИИ, растет пространство для манипуляций. Поэтому вопросы маркировки и проверяемости неизбежно войдут в будущие стандарты», – считает он.

Научной основой диалога стал первый доклад Независимой международной научной группы ООН по искусственному интеллекту. В него вошли оценки возможностей ИИ и его применения в здравоохранении, образовании, науке и сельском хозяйстве, а также рисков для экономики, безопасности, прав человека и детей.

Рахымжанов считает важным появление постоянной научной площадки, которая сможет отделять подтвержденные риски от предположений.

«Вокруг искусственного интеллекта много шума. Одни прогнозы преувеличивают возможности технологий, другие преувеличивают угрозы. Для регулирования нужны проверяемые данные: где действительно зафиксирована проблема, можно ли воспроизвести результат, насколько надежны источники. Без этого государственная политика будет строиться на реакции на громкие случаи», – отметил эксперт.

Глобальный диалог не вводит единые обязательные правила для всех государств. Его задача заключается в поиске общих принципов там, где национального регулирования уже недостаточно. Это касается прежде всего безопасности моделей, синтетического контента, персональных данных и обмена информацией об инцидентах.

Следующая сессия Глобального диалога ООН запланирована на май 2027 года в Нью-Йорке. К этому времени научная группа должна представить обновленную оценку развития технологий и связанных с ними рисков.