Пару минут — и новый паспорт: ChatGPT обманул проверку личности
NewsMakerИИ ставит новый вызов для финтеха.
Пользователь LinkedIn продемонстрировал, как фальшивый паспорт, созданный с помощью ChatGPT-4o, успешно прошёл цифровую проверку личности. Эксперимент вызвал волну обсуждений среди ИБ-специалистов и поставил под сомнение актуальность традиционных процедур верификации KYC (Know Your Customer).
Технологический предприниматель и венчурный инвестор Борис Муселяк сгенерировал поддельный паспорт всего за несколько минут и выложил результат в своём профиле на LinkedIn. Созданный документ оказался настолько правдоподобным, что вызвал бурную дискуссию о том, насколько современные системы проверки личности готовы к атакам с использованием генеративного ИИ.
Поддельный паспорт, сгенерированный ChatGPT (Borys Musielak)
Обычно нейросетевые подделки документов легко выявить из-за ошибок в формате, слабой типографике или нарушениях структуры машинно-считываемой зоны. Однако в случае Муселяка подделка выглядела практически идентично настоящему паспорту. Пользователи отметили, что теперь фальсификация документов стала значительно проще и быстрее, чем через традиционные инструменты вроде Adobe Photoshop.
Хотя созданный паспорт, вероятно, не пройдёт проверку из-за отсутствия встроенного чипа, его оказалось достаточно, чтобы обойти простейшие процедуры KYC, применяемые некоторыми финтех-компаниями. Например, сервисы вроде Revolut или Binance ограничиваются запросом фотографии паспорта и селфи пользователя. В таких условиях использование дипфейков может превратиться в эффективный инструмент мошенников.
Муселяк подчеркнул, что риски массового хищения персональных данных с целью получения кредитов или регистрации фальшивых аккаунтов заметно увеличились. Применение генеративного ИИ позволяет мошенникам масштабировать свои атаки, получая доступ к банковским, криптовалютным и другим финансовым системам.
В ответ на проблему, эксперты предлагают активнее внедрять методы проверки, основанные на технологии NFC, а также электронных удостоверениях личности (eID). Подобные способы предполагают верификацию данных на аппаратном уровне, что делает их менее уязвимыми для генеративных атак.
Интересно, что спустя 16 часов после публикации Муселяка попытка повторить эксперимент уже оказалась неудачной. ChatGPT отказался генерировать поддельный паспорт, сославшись на правила безопасности и запрет на создание фальшивых документов.
Ситуация свидетельствует о том, что меры реагирования на потенциальные злоупотребления генеративным ИИ внедряются, пусть и с задержкой. Тем не менее, эпизод с фейковым паспортом ещё раз продемонстрировал, насколько быстро технологии могут стать угрозой, если не сопровождать их строгими механизмами контроля.
Пользователь LinkedIn продемонстрировал, как фальшивый паспорт, созданный с помощью ChatGPT-4o, успешно прошёл цифровую проверку личности. Эксперимент вызвал волну обсуждений среди ИБ-специалистов и поставил под сомнение актуальность традиционных процедур верификации KYC (Know Your Customer).
Технологический предприниматель и венчурный инвестор Борис Муселяк сгенерировал поддельный паспорт всего за несколько минут и выложил результат в своём профиле на LinkedIn. Созданный документ оказался настолько правдоподобным, что вызвал бурную дискуссию о том, насколько современные системы проверки личности готовы к атакам с использованием генеративного ИИ.
Поддельный паспорт, сгенерированный ChatGPT (Borys Musielak)
Обычно нейросетевые подделки документов легко выявить из-за ошибок в формате, слабой типографике или нарушениях структуры машинно-считываемой зоны. Однако в случае Муселяка подделка выглядела практически идентично настоящему паспорту. Пользователи отметили, что теперь фальсификация документов стала значительно проще и быстрее, чем через традиционные инструменты вроде Adobe Photoshop.
Хотя созданный паспорт, вероятно, не пройдёт проверку из-за отсутствия встроенного чипа, его оказалось достаточно, чтобы обойти простейшие процедуры KYC, применяемые некоторыми финтех-компаниями. Например, сервисы вроде Revolut или Binance ограничиваются запросом фотографии паспорта и селфи пользователя. В таких условиях использование дипфейков может превратиться в эффективный инструмент мошенников.
Муселяк подчеркнул, что риски массового хищения персональных данных с целью получения кредитов или регистрации фальшивых аккаунтов заметно увеличились. Применение генеративного ИИ позволяет мошенникам масштабировать свои атаки, получая доступ к банковским, криптовалютным и другим финансовым системам.
В ответ на проблему, эксперты предлагают активнее внедрять методы проверки, основанные на технологии NFC, а также электронных удостоверениях личности (eID). Подобные способы предполагают верификацию данных на аппаратном уровне, что делает их менее уязвимыми для генеративных атак.
Интересно, что спустя 16 часов после публикации Муселяка попытка повторить эксперимент уже оказалась неудачной. ChatGPT отказался генерировать поддельный паспорт, сославшись на правила безопасности и запрет на создание фальшивых документов.
Ситуация свидетельствует о том, что меры реагирования на потенциальные злоупотребления генеративным ИИ внедряются, пусть и с задержкой. Тем не менее, эпизод с фейковым паспортом ещё раз продемонстрировал, насколько быстро технологии могут стать угрозой, если не сопровождать их строгими механизмами контроля.