В ЕС начали маркировать ИИ-контент: кого затронули новые правила прозрачности из закона об искусственном интеллекте

С 2 августа в Евросоюзе начали применяться требования прозрачности из закона об искусственном интеллекте. Пользователей должны предупреждать о взаимодействии с ИИ, а дипфейки и некоторые созданные алгоритмами материалы — снабжать заметными и машиночитаемыми метками.

Новые правила распространяются на поставщиков и компании, использующие системы искусственного интеллекта. Их цель — помочь людям отличать настоящий контент от синтетического и снизить риски обмана, мошенничества и дезинформации.

Пользователя необходимо прямо проинформировать, если вместо человека с ним взаимодействует чат-бот, виртуальный помощник, ИИ-агент или цифровой аватар.

Поставщики генеративных систем обязаны обеспечить возможность автоматического распознавания созданных или измененных с помощью ИИ изображений, видео, аудио и текста. Для этого в материалы должны встраиваться машиночитаемые метки.

Какой контент нужно обозначать

Заметная маркировка требуется для дипфейков — сгенерированных или измененных изображений, аудио и видео, которые правдоподобно изображают реальных людей, объекты, места или события.

Обозначать также необходимо созданные ИИ тексты по вопросам общественного интереса, если они публикуются без проверки человеком или редакционного контроля. Поэтому правила не означают обязательной маркировки каждого текста, при подготовке которого использовался искусственный интеллект.

Отдельно людей должны предупреждать об использовании систем распознавания эмоций и биометрической классификации. Исключения предусмотрены, в частности, для стандартного редактирования, если ИИ существенно не меняет исходный материал или его смысл.

Какие штрафы предусмотрены

Контролировать соблюдение требований будут национальные органы рыночного надзора, Европейский офис по искусственному интеллекту и Европейский инспектор по защите данных — в случаях, когда систему используют учреждения ЕС.

Для компаний штраф может достигать 15 млн евро или 3% совокупного мирового годового оборота. Для учреждений, органов и агентств Евросоюза максимальная санкция составляет 750 тыс. евро. При определении штрафов для малого и среднего бизнеса должен учитываться принцип соразмерности.

Фактически новые нормы затрагивают разработчиков ИИ, интернет-платформы, медиа, рекламные агентства, государственные учреждения и другие организации, публикующие синтетический контент или использующие автоматизированные системы для общения с людьми.

По материалам: Европейская комиссия, рекомендации Еврокомиссии по статье 50, Закон ЕС об искусственном интеллекте