Искусственный интеллект уже стал привычным инструментом для многих польских компаний. Его используют для подготовки текстов, обработки документов, общения с клиентами, анализа данных, подбора персонала и автоматизации повседневных процессов. В то же время многие предприниматели убеждены, что требования AI Act касаются только крупных международных компаний, которые создают собственные системы искусственного интеллекта.
На самом деле это не так. Закон распространяется не только на разработчиков, но и на тех, кто использует отдельные ИИ-решения в своей деятельности. Поэтому новые правила могут касаться как крупной корпорации, так и небольшого интернет-магазина, бухгалтерского бюро, кадрового агентства или семейного предприятия.
Для малого и среднего бизнеса предусмотрены определенные упрощения, однако они не освобождают от соблюдения требований законодательства. Именно поэтому предпринимателям стоит уже сегодня оценить, какие инструменты искусственного интеллекта используются в компании и соответствует ли их применение европейским правилам.
Ловушка №1. «Теневой ИИ» в компании
Одна из самых распространенных проблем возникает тогда, когда сотрудники начинают самостоятельно использовать бесплатные сервисы с искусственным интеллектом для выполнения повседневных задач. Это может быть создание писем, перевод документов, анализ договоров, подготовка презентаций или работа с электронными таблицами.
Часто руководитель даже не подозревает, что сотрудники работают с такими сервисами. К тому же функции искусственного интеллекта всё чаще автоматически интегрируются в офисные программы, CRM-системы, бухгалтерское программное обеспечение или сервисы по подбору персонала.
В результате корпоративные документы, персональные данные клиентов или внутренняя информация могут оказаться во внешних сервисах без надлежащего контроля.
Чтобы избежать таких ситуаций, стоит провести внутренний аудит. Целесообразно составить перечень всех инструментов с функциями искусственного интеллекта, которые используются в компании, определить их назначение, ответственных сотрудников, а также выяснить, какие именно данные передаются в эти сервисы.
Ловушка № 2. Чат-бот без уведомления пользователя
AI Act предусматривает требования к прозрачности использования искусственного интеллекта. Если человек общается с чат-ботом или голосовым помощником, он должен знать, что взаимодействует не с оператором, а с автоматизированной системой.
Это правило касается чат-ботов на сайтах интернет-магазинов, электронных консультантов, голосовых помощников в медицинских центрах, салонах красоты, автосервисах и других компаниях, которые автоматизируют обслуживание клиентов.
Недостаточно просто упомянуть об этом в правилах пользования сайтом. Информация должна быть понятной и доступной уже в начале общения.
Если в ходе такого взаимодействия собираются персональные данные, компания должна также соблюдать требования RODO (GDPR) относительно информирования пользователей о целях обработки данных, сроках их хранения и правах физического лица.
Ловушка № 3. Контент, созданный с помощью ИИ
Все больше компаний используют генеративный искусственный интеллект для написания статей, создания рекламных материалов, графики или видео. Однако отдельные виды такого контента подпадают под требования AI Act в отношении прозрачности.
Особое внимание закон уделяет дипфейкам (deepfakes) и материалам, созданным или существенно измененным с помощью искусственного интеллекта, если они касаются вопросов общественного интереса.
Для маркетинговых агентств, редакций, блогеров и компаний, которые регулярно публикуют информационный контент, это означает необходимость контролировать процесс создания материалов. Важно понимать, когда использовался искусственный интеллект, а также не удалять технические пометки или метаданные, если их наличие предусмотрено законодательством или самим сервисом.
Ловушка №4. Использование ИИ при рекрутинге
Системы, которые автоматически анализируют резюме, оценивают кандидатов или помогают принимать кадровые решения, относятся к наиболее чувствительным направлениям применения искусственного интеллекта.
Даже если программное обеспечение значительно упрощает работу HR-отдела, окончательное решение по кандидату должно принимать человек.
Особое внимание следует уделить сервисам, которые обещают определять эмоциональное состояние, уровень уверенности или личностные характеристики кандидата по мимике, голосу или поведению во время собеседования. Использование таких технологий в странах Европейского Союза существенно ограничено, поэтому перед их внедрением необходимо проверить соответствие действующему законодательству.
Ловушка № 5. Утечка конфиденциальной информации
Сотрудники нередко копируют в публичные сервисы искусственного интеллекта договоры, финансовые документы, коммерческие предложения, программный код или персональные данные клиентов. При этом далеко не все задумываются о том, что такая информация может выйти за пределы внутренней ИТ-инфраструктуры компании.
Подобные действия могут создавать риски для защиты персональных данных, коммерческой тайны и выполнения договорных обязательств в отношении конфиденциальности.
Именно поэтому предприятиям следует определить внутренние правила использования сервисов искусственного интеллекта. Сотрудники должны четко знать, какие документы разрешено загружать в такие системы, а какие должны оставаться исключительно во внутренней среде компании.
Какие возможности AI Act предусматривает для малого бизнеса?
Европейское законодательство учитывает, что малые и средние предприятия не располагают такими ресурсами, как крупные международные компании. Именно поэтому для МСП предусмотрен ряд механизмов поддержки.
В частности, страны ЕС должны создавать так называемые тестовые площадки (regulatory sandboxes), где компании смогут тестировать собственные решения с применением искусственного интеллекта и получать консультационную поддержку.
Кроме того, для малого бизнеса предусмотрен более мягкий подход к определению максимальных размеров отдельных штрафов по сравнению с крупными корпорациями.
С чего стоит начать предпринимателю?
Если компания использует лишь несколько инструментов искусственного интеллекта, создавать сложную систему внутреннего контроля не обязательно. Гораздо важнее упорядочить основные процессы.
Прежде всего стоит определить, какие ИИ-сервисы используются в работе, кто отвечает за их применение и какие данные в них передаются. Не менее важно провести краткий инструктаж для сотрудников по безопасной работе с такими инструментами и периодически пересматривать внутренние правила.
Практика показывает, что для большинства небольших предприятий достаточно иметь понятную внутреннюю политику использования искусственного интеллекта, которую реально применяют в повседневной работе. Именно это, по мнению редакции Moja Polska, значительно эффективнее, чем объемные формальные документы, которые после утверждения никто не открывает.
