Эксперты по кибербезопасности Check Point Research выяснили, что хакеры применяют ChatGPT для написания вредоносного кода и фишинговых электронных писем. При этом часть из них практически не имеют опыта в программировании.
![](https://an-cyber.ru/wp-content/uploads/2023/01/f5f5c1ecbccef6b98bee805ca2ec48ac.jpg)
Исследователи приводят в качестве примера скрипт на Python, который при некоторой доработке можно превратить в программу-вымогатель.
В другом случае скрипт на Python производит поиск файлов заданного типа, например, PDF, на локальной машине, а затем сжимает файлы и отправляет их на сервер потенциального злоумышленника.
![](https://an-cyber.ru/wp-content/uploads/2023/01/86834ae8949a02ea33264c81af556543.jpg)
Второй фрагмент кода, написанный на Java, тайно загрузил клиент SSH и telnet PuTTY и запустил его с помощью Powershell.
![](https://an-cyber.ru/wp-content/uploads/2023/01/befe6d449e22dc2159a08130e1caca28.jpg)
Код Python сочетал в себе различные криптографические функции, в том числе подпись кода, шифрование и дешифрование. Одна часть скрипта сгенерировала ключ, используя криптографию на эллиптических кривых и кривую ed25519 для подписи файлов. Другая часть использовала запрограммированный пароль для шифрования системных файлов с помощью алгоритмов Blowfish и Twofish. Третья задействовала ключи RSA и цифровые подписи, подписывание сообщений и хеш-функцию blake2 для сравнения различных файлов.
Эксперты попытались самостоятельно использовать ChatGPT для написания вредоносного кода, и нейросеть справилась с этой задачей. Чат-бот составил фишинговое письмо и написал вредоносный VBA-макрос. Затем исследователи использовали инструмент Codex для разработки других типов вредоносных программ, включая обратную оболочку и скрипты для сканирования портов, обнаружения песочниц и компиляции их кода Python в исполняемый файл Windows.
![](https://an-cyber.ru/wp-content/uploads/2023/01/1eff9818c47d7fc4bf287c71fbd580b9.jpg)
![](https://an-cyber.ru/wp-content/uploads/2023/01/14bc2b348122822b48b50cb8366b478f.jpg)
![](https://an-cyber.ru/wp-content/uploads/2023/01/c09f1931bafdb2b3e656d32f8207af82.jpg)
Хотя условия ChatGPT запрещают подобное использование, исследователи без труда настроили запросы так, чтобы обойти эти ограничения.
ChatGPT разработала и в ноябре 2022 года выпустила компания OpenAI. Почти сразу после запуска администрация форума Stack Overflow временно запретила постить ответы, сгенерированные ChatGPT. Причина в том, что бот часто выдавал ответы, похожие на правильные, но вводящие в заблуждение.
В январе департамент образования Нью-Йорка запретил школьникам и учителям доступ к чат-боту ChatGPT в сетях и на устройствах государственных школ города.
Источник: https://habr.com/ru/news/t/709464/