Депутат предложил ввести систему проверки подлинности цифрового контента

Депутат Мажилиса, член фракции партии Amanat Сергей Пономарёв призвал правительство принять комплексные меры для защиты граждан от злоупотреблений технологиями искусственного интеллекта и распространения дипфейков.

Свое обращение он адресовал заместителю Премьер-Министра – министру искусственного интеллекта и цифрового развития Жанату Мадиеву и министру внутренних дел Ерлану Саденову.

По словам депутата, цифровизация стала одной из ключевых идей современного Казахстана, однако стремительное развитие технологий несёт и новые угрозы. Одной из них является использование искусственного интеллекта для создания поддельных изображений, видео и аудиозаписей с участием реальных людей.

«Я лично стал жертвой такой технологии — моё изображение и голос были полностью подделаны и использованы в ролике, где от моего имени просили деньги. Даже близкие не сразу поняли, что это подделка», — сообщил Пономарёв, подчеркнув, что подобные случаи становятся всё более распространёнными и уже представляют угрозу национальной безопасности.

Он напомнил, что по данным Всемирного экономического форума, дезинформация и распространение ложных сведений второй год подряд входят в число главных глобальных рисков. Депутат отметил, что появление дипфейков с участием государственных деятелей или Президента может привести к масштабным последствиям, включая манипуляции общественным мнением и дестабилизацию ситуации в стране.

Пономарёв привёл примеры международной практики: в США ещё в 2020 году положения о дипфейках включили в Закон об оборонном бюджете, а в Южной Корее перед парламентскими выборами 2024 года был введён запрет на использование дипфейков в агитации. Ряд стран внедряет системы цифровой маркировки оригинальных материалов и автоматического выявления подделок.

«Дипфейки всё чаще используются в финансовом мошенничестве. Когда человек слышит голос близкого с просьбой о помощи, на это попадаются даже образованные люди. По данным отчёта Feedzai, более половины случаев онлайн-мошенничества совершается с использованием искусственного интеллекта», — отметил депутат.

В связи с этим Пономарёв предложил три ключевых шага:
— возложить на Центр мониторинга и экспертизы цифрового контента обязанность по оперативному выявлению и блокировке дипфейков;
— разработать систему подтверждения подлинности цифровых изображений и видеоматериалов, особенно в государственных системах и СМИ;
— провести широкую информационную кампанию по обучению граждан распознаванию поддельных материалов и защите от цифрового мошенничества.

Депутат также сообщил, что фракция Amanat уже готовит законодательные поправки, направленные на ужесточение ответственности за неправомерное использование дипфейков и ограничение сфер применения синтетических продуктов искусственного интеллекта.

«Качество подделок растёт, и с ним растут риски. Государство должно действовать на опережение. Борьба с дипфейками — это не только вопрос репутации, но и вопрос национальной безопасности», — подчеркнул Пономарёв.