Как новое законодательство об ИИ изменит IT-рынок Казахстана
Forbes Kazakhstan проанализировал, какие возможности для общества и бизнеса несет новая сфера, с какими рисками предстоит столкнуться и почему грамотное регулирование — необходимое условие системного и долгосрочного развития ИИ в стране
Первый в мире закон об искусственном интеллекте, Artificial Intelligence Act, вступил в силу в ЕС в августе 2024 года. Подписав Закон РК «Об искусственном интеллекте» и объявив в своем новогоднем обращении 2026-й Годом развития цифровизации и искусственного интеллекта, президент Касым-Жомарт Токаев дал четкий сигнал: в Казахстане не рассматривают ИИ как короткий тренд, понимают, что технология пришла надолго, и видят в ней ресурс для экономического рывка.
Рынок не ждет
Сопредседатель комитета по информационной безопасности «Альянса Qaztech» Евгений Питолин считает, что сравнивать новый закон РК с законодательством ЕС трудно хотя бы потому, что в Европе бизнес имел достаточно долгий период возможностей бурного роста без регулирования и сейчас пожинает плоды повсеместных ИИ-запретов.
Новый закон завершает период правовой неопределенности и задает базовые, пока еще рамочные, правила игры, переводя хаотичное внедрение технологий в плоскость управляемого развития, но оставляя бизнесу пространство для маневра. «Для Казахстана это шанс создать свою конкурентную среду — «цифровой ИИ-полигон», где относительно гибкое регулирование, доступ к данным и сильные кадры становятся магнитом для инвесторов и стартапов. Закон создал фундамент — теперь дело за способностью строителей рынка возвести здание своего конкурентного преимущества», — считает Евгений Питолин.
«В пользу закона, принятого в РК, стоит отметить, что в основном регулирование достигается все же не запретами, а управлением: классификацией сценариев применения по уровню риска; внедрением внутренних политик использования ИИ; ограничением передачи чувствительных данных во внешние модели; обязательным человеческим контролем и аудитом решений ИИ. Законодатели начали с рамочного документа, предоставив время на адаптацию. Но рынок ждать не будет, и идеальных норм, которые стимулируют рост, может и не быть. Поэтому визионеры делают все сами, следуя текущему пониманию будущих правил игры», — говорит эксперт.
Со стороны, считает Питолин, может показаться, что термин «искусственный интеллект» присутствует в основном в лексиконе стартаперов либо в нарративе государства, поэтому многим ИИ до сих пор представляется модной и дорогой игрушкой. «Но бизнес уже активно использует эти технологии, при этом выигрывают не те, кто внедрил их быстрее конкурентов, а те, кто сумел встроить их в правовое поле, систему управления рисками и организационную культуру», — считает Питолин. По его словам, многие предприниматели, уже работающие с ИИ-инструментами, отмечают, что закон предоставляет правовую определенность, задает общие принципы становления сектора на цивилизованные рельсы; прописанные в законе меры легитимизировали их действия, а не вошли в противоречие с ними.
В продуктах компании BTS Digital, занимающейся разработкой цифровых платформ, например, ИИ-ассистенты запустили еще до принятия закона, но ряд принципов, реализованных на практике, юридически закреплен только сейчас, отмечает руководитель компании Нуртай Абилгалиев. ИИ-ассистенты функционируют как вспомогательный инструмент, не принимают самостоятельных решений, влияющих на права, безопасность или юридический статус пользователя. Пользователь информирован о том, что взаимодействует с ИИ, и понимает границы его применения. «Развитие ИИ в продуктах компании осуществляется в логике последовательной адаптации к новой нормативной базе РК: часть требований закона уже соблюдена, а оставшиеся внедряются по мере их практического применения. Продукты и сервисы с ИИ будут дополнительно маркироваться в соответствии с требованиями закона», — говорит он.
«Если оценивать влияние закона на экономику, то это один из ключевых инструментов в рамках поручения главы государства по развитию ИИ в РК. Цифровые сервисы с ИИ — априори продукт с высокой добавленной стоимостью, что обеспечивает экономический скачок и бизнеса, использующего технологию для себя и продающего ее на рынок. Немаловажный вопрос на грани экономики и этики, требо-вавший долгое время однозначности и регулирования, — контур авторских прав при работе с ИИ. На другой чаше весов находится социальный и человеческий фактор в контексте ИИ, например обязанность предупреждать пользователя, что коммуникация осуществляется с ИИ-системой, а не с человеком. Определены границы риска при работе с ИИ, вводится дифференцированный подход — системы с низким и средним риском развиваются вместе с рынком, а вот системы максимального риска и высокой автономности (к при-меру, беспилотный транспорт) подвергаются серьезным ограничениям».
Благодаря новому закону, отмечает директор по информационной безопасности Банка ЦентрКредит Дмитрий Шапошников, в РК формируется правовое регулирование ИИ, основанное на принципах законности, прозрачности, безопасности и распределения ответственности.
«ИИ-системы при таком раскладе автоматически становятся объектами комплаенса. Возникает необходимость понимать, какие данные используются для обучения моделей, не нарушается ли режим обработки персональных данных, возможны ли дискриминационные эффекты или неконтролируемое принятие решений, а также — кто несет ответственность за результаты, — все эти моменты нельзя будет не учитывать», — считает специалист.
О том, что понятные правовые рамки снижают ощущение неопределенности для инвесторов и ИИ-стартапов, говорят игроки венчурного рынка — CEO венчурной компании Axiom Capital Болат Башеев и его коллега из Most Ventures Алим Хамитов. По их словам, регулирование в сфере искусственного интеллекта пока не выглядит избыточным по сравнению с ЕС, а значит, у стартапов есть возможность быстрее получить доступы к реальным данным, чтобы отработать на их основе практические кейсы, протестировать гипотезы и довести ИИ-продукты до рынка или в случае необходимости пересмотреть их. В плюс Казахстану Башеев относит и такие преимущества, как более низкие расходы на запуск и масштабирование — в 2–3 раза ниже, чем в США, — и наличие у стартаперов прокачанных навыков в математике и прикладной информатике при поддержке богатого кадрами сообщества ML/AI-инженеров.
Слепые зоны
Закон готовился долго, в его обсуждении участвовало множество заинтересованных экспертов из разных отраслей, и понятно, что не все однозначно позитивно оценили итоговый результат, говорит Евгений Питолин. Независимый эксперт в сфере цифрового права Елена Бычкова, например, указала, что в закон не были включены некоторые предложения участников рынка, касающиеся терминологии, — из пожелания по определению разработчиков ИИ, операторов и специалистов по внедрению в законе указан только Оператор национальной платформы ИИ. «Хотелось бы расширить перечень субъектов на разных этапах жизненного цикла ИИ-систем, как это сейчас происходит в договорах на услуги, связанные с разработкой и внедрением ИИ», — отмечает она.
Председатель наблюдательного совета Ассоциации комплаенс и деловой этики Даурен Акшалов указывает на отсутствие в принятом законе отдельного термина «генеративный ИИ», который, например, есть в документах, регулирующих использование ИИ в некоторых американских штатах. Зато есть термин про «синтетические результаты деятельности» (дипфейки, сгенерированный контент). Налицо отличие в подходах — в США видим регулирование по бизнес-процессу технологии, в РК — по результату технологии, отмечает он.
Жаркие дискуссии в связи с принятием Закона об ИИ у представителей цифровой отрасли вызвал вопрос авторских прав. Охранное свидетельство на объект, сгенерированный ИИ, впервые было выдано в октябре 2023 года, второй раз — в конце декабря прошлого года. «В «Казпатенте» долгое время отклоняли заявки, ссылаясь на Закон об авторском праве, апеллировали к тому, что физическое лицо не может быть признано автором произведений, созданных генеративным ИИ. Казахстанские авторы обходили легитимность вопроса стороной», — комментирует Евгений Питолин.
Известный казахстанский иллюстратор Мурат Дильманов говорит, что пока его работы не использовали с помощью ИИ для коммерческих целей, но сам он постоянно видит в Сети чужие работы, переделанные на базе ИИ, — и очень, по его мнению, плохого качества. «Вызывает огорчение, что до принятия закона длительное время вопросы использования чужих объектов авторского права для обучения ИИ-моделей никак не были урегулированы», — говорит художник.
Немало вопросов и опасений, особенно со стороны правозащитников, в связи с принятием закона вызывает тема приватности. Директор ОФ «Правовой медиа-центр» Диана Окремова считает, что закон больше ориентирован на защиту интересов государства и бизнеса, нежели на защиту прав человека. Хотя в нем и перечислены базовые механизмы, связанные с правами человека, — рискориентированная классификация, запрет на манипулятивные и дискриминационные действия, обязанность информировать человека, — но вопрос в том, как это будет применяться на практике.
«Согласно закону, ИИ не является субъектом права, соответственно, не несет никакой ответственности. Вызывает вопросы и требование маркировать контент, созданный ИИ, в массмедиа, где журналисты и блогеры часто используют продукт ИИ лишь частично. Это практически невыполнимое требование может использоваться как инструмент политического давления и блокировки», — высказывает опасения Окремова.
ИИ против ИИ
Эксперты цифровой отрасли всерьез обеспокоены тем, что развитие технологий опережает готовность общества профессионально пользоваться ими. Сегодня, подчеркивает Евгений Питолин, ИИ используется практически во всех областях — часто хаотично и без четкого понимания последствий. При этом пользователей целенаправленно не обучали работе с такими технологиями, а количество по-настоящему компетентных экспертов по ИИ остается крайне ограниченным. В результате централизация таких массивов информации создает уникальную цель для кибератак.
Но сам же ИИ «стоит на страже» информационной безопасности. Так, разработчики программного обеспечения и игроки финсектора используют ИИ для реагирования на инциденты, поиска уязвимостей, анализа фишинговых атак и даже проведения тестов на проникновение внутрь инфраструктуры. Основная ценность ИИ для этой сферы, указывает Питолин, — скорость и масштаб, возможность собрать большой объем информации из разных источников, обработать ее, проанализировать свежие отчеты о произошедших атаках, актуальных угрозах и уязвимостях, и все это — за минуты. Без ИИ на сбор, анализ и обработку данных у сотрудников ушел бы не один день.
Руководитель Security Operations Center (SOC) PS Cloud Services Александр Косенков отмечает, что в его компании одно из направлений использования ИИ связано с киберразведкой. Большие возможности он видит в автоматизации процессов, вплоть до создания полностью автономного продукта, реализующего ключевые сервисы SOC. Директор по информационной безопасности Банка ЦентрКредит Дмитрий Шапошников отмечает, что в финансовом институте стремятся использовать ИИ не как «универсальный мозг», а как встроенный инструмент для конкретных процессов — допустим, автоматизированной классификации запросов, поступающих в ИБ-подразделение.
Президент Центра анализа и расследования кибератак TSARKA Олжас Сатиев прогнозирует, что в ситуации массового использования ИИ многократно возрастают риски: от распространения фейков и манипуляций до новых форм мошенничества и ошибок, за которые никто не готов нести ответственность. Задача бизнеса в тандеме с государством — дать системные меры, показать не только законодательными, но и просветительскими инструментами, что речь идет не о запретах, а о том, чтобы подготовить людей, помочь им научиться отличать правду от фейков, распознавать мошеннические схемы на базе ИИ, понимать, где его возможности заканчиваются.
Доверие к способности системы обеспечить неприкосновенность данных, прозрачность проверок маркировки ИИ-контента — в этом видят эксперты зону роста для Оператора платформы ИИ и государства в целом.
Национальная платформа ИИ, отмечает Евгений Питолин, задумана как инфраструктурный проект, призванный стать локомотивом для отрасли: она должна предоставить разработчикам вычислительные мощности, упрощенный доступ к данным, а также стать точкой концентрации мер господдержки, от финансирования до образовательных программ.
Новый закон завершает период правовой неопределенности и задает базовые, пока еще рамочные, правила игры, переводя хаотичное внедрение технологий в плоскость управляемого развития, но оставляя бизнесу пространство для маневра. «Для Казахстана это шанс создать свою конкурентную среду — «цифровой ИИ-полигон», где относительно гибкое регулирование, доступ к данным и сильные кадры становятся магнитом для инвесторов и стартапов. Закон создал фундамент — теперь дело за способностью строителей рынка возвести здание своего конкурентного преимущества», — считает Евгений Питолин.