Коварный ChatGPT: как научить людей снова включать мозг
Беда пришла откуда не ждали. Пока я пишу эти строки, казахстанские маркетологи активно обсуждают вопрос: «Не заменит ли меня ИИ?»
В Apple Store более десятка дорогостоящих приложений по удобному управлению ChatGPT активно продвигают себя под слоганом «Уволь своего маркетолога» или «Прокачай своих продавцов». Два ведущих телеканала записали со мной интервью на тему карьерных ИИ-переживаний менеджеров среднего звена.
Лично я понимаю, что до передачи трудовой книжки и пароля от офисной кофеварки будущим мистеру и миссис Скайнет остается еще много лет, но давайте поговорим о проблеме, которая существует уже сейчас. Именно в эти минуты ваши сотрудники передают огромные массивы конфиденциальных данных в ChatGPT. На следующем этапе ChatGPT включит эти данные в свои модели, и вуаля – вот я уже вижу конкурента, просящего ИИ составить аналитический отчет на базе имеющихся технических знаний о рынке, отрасли и секретных технических и финансовых данных вашей компании.
С начала года ИБ-служба одного из американских сервис-провайдеров безопасности обнаружила и заблокировала запросы на ввод данных в ChatGPT от 4% из 1,6 млн сотрудников своих клиентов из-за риска утечки конфиденциальной информации, исходного кода или иной интеллектуальной собственности. Какие кейсы были зафиксированы:
- руководитель вырезал и вставил документ о еще неопубликованной стратегии публичной компании на 2023 год в ChatGPT и попросил его создать презентацию;
- врач ввел имя своего пациента и его анамнез и попросил ChatGPT отправить письмо в страховую компанию;
- юрист добавил стратегию защиты в уголовном иске подсудимого в ChatGPT и попросил его отработать диалог с представителями обвиняемой стороны.
Да что уж там, премьер-министр одного из сопредельных государств недавно хвастался, что написал свою речь для саммита в ChatGPT.
Мы знаем, что уже сейчас злоумышленник может заставить ИИ вспомнить определенную часть информации, а не генерировать синтетические данные. В Казахстане я лично знаю десятка три сотрудников компаний разного уровня, от МСБ до корпораций, которые использовали в феврале-марте ChatGPT в качестве инструмента повышения своей производительности, скармливая ему массивы документов, а иногда и подменяя результаты своей работы плодом ИИ.
Еще не успели мы привыкнуть к масштабной миграции данных в облака, еще не перестали краснеть щеки от выворачивания своего исподнего в ОЦИБы руками своих же ИБ-директоров, и вот уже, как на исповеди, мы отдаем свои кровинушки данных искусственному интеллекту.
Да, есть первопроходцы – среди которых, например, JPMorgan, ограничивший использование ChatGPT на рабочих местах. Amazon, Microsoft и WalMart выпустили предупреждения сотрудникам об осторожности и мерах ответственности при использовании сервисов с генеративным ИИ. Но таких примеров единицы.
Что можно сделать на данном этапе?
- собрать звонок, попросить ИБ-директора подготовить справку и кейсы, рассказать о рисках для компании;
- оперативно внести изменения в NDA и политики конфиденциальности, положения о коммерческой тайне, а если их нет – создать;
- закрыть доступ ко всем известным интерфейсам и приложениям ИИ на рабочих местах, где обрабатываются конфиденциальные данные, ПДн, коммерческая тайна;
- взять за руку вашего поставщика DLP-систем и попросить его настроить систему с учетом данного риска.
Хорошей новостью является то, что повышение киберграмотности может оказать большое влияние на то, произойдет ли утечка данных из компании. Научите людей снова включать мозг, и вам воздастся.
Подписывайтесь на нашу страницу в Facebook
