please wait, site is loading

Info Web Hub

Искусственный интеллект для мошенников.

Пользователи подпольных форумов начинают делиться вредоносным ПО, созданным при помощи популярного чат-бота ChatGPT компании OpenAI, а мошенники на сайтах знакомств планируют создавать с помощью этого инструмента ботов, выдающих себя за настоящих девушек. Эксперты предсказывают ещё большее вредоносное использование ChatGPT

Об этом сообщает ВЧК-ОГПУ


Исследователи в области кибербезопасности предупреждают, что интернет-мошенники начали использовать ChatGPT, чат-бот на базе ИИ компании OpenAI, для быстрого создания инструментов взлома. Один из экспертов, отслеживающих подпольные форумы, также сообщил Forbes USA, что мошенники тестируют способность ChatGPT создавать других чат-ботов, предназначенных для того, чтобы выдавать себя за девушек и заманивать в ловушку жертв.


Многие первые пользователи ChatGPT забили тревогу по поводу того, что приложение, которое стало популярным всего через несколько дней после запуска в декабре, может создавать программы-вымогатели или вредоносные программы, способные шпионить за тем, какие клавиши нажимает пользователь.


Согласно отчету израильской компании Check Point, занимающейся вопросами безопасности, подпольные криминальные форумы стали набирать популярность. В одном из сообщений на форуме хакер, ранее делившийся вредоносным ПО для Android, продемонстрировал код, написанный ChatGPT, который похищал интересующие его файлы, сжимал их и отправлял по сети. Они продемонстрировали ещё один инструмент, который устанавливал на компьютер бэкдор («тайный вход» — дефект алгоритма для удалённого доступа) и мог загружать на зараженный ПК дополнительные вредоносные программы.


На том же форуме другой пользователь поделился кодом Python, который может шифровать файлы, заявив, что приложение OpenAI помогло ему его создать. Он утверждал, что это был первый скрипт, который он когда-либо разрабатывал. Как отметила компания Check Point в своём отчете, такой код может быть использован в безобидных целях, но он также может быть «легко модифицирован для полного шифрования чьего-либо устройства без какого-либо взаимодействия с пользователем», подобно тому, как работают программы-вымогатели. Как отметили в Check Point, тот же пользователь форума ранее продавал доступ к взломанным серверам компании и украденным данным.


Ещё один из пользователей также рассказал о злоупотреблении ChatGPT, когда с его помощью были созданы функции торговой площадки даркнета — сродни интернет-магазинам по продаже наркотиков, таким как Silk Road или Alphabay. В качестве примера пользователь показал, как с помощью чат-бота можно быстро создать приложение, отслеживающее цены на криптовалюту для теоретической платежной системы.


Алекс Холден, основатель компании Hold Security, занимающейся киберразведкой, сказал, что видел, как мошенники на сайтах знакомств тоже начинают использовать ChatGPT, пытаясь создать «настоящих людей». «Они планируют создать чат-ботов, которые будут выдавать себя за девушек, чтобы продвинуться дальше в переписках со своими жертвами, — сказал он. — Они пытаются автоматизировать пустую болтовню».


На момент публикации OpenAI не ответила на просьбу о комментарии.


Хотя инструменты, созданные ChatGPT, выглядели довольно простыми, Check Point считает, что это лишь вопрос времени, пока более изощренные хакеры не найдут способ использовать ИИ в своих интересах. Рик Фергюсон, вице-президент по безопасности и анализу угроз американской компании Forescout, сказал, что пока не похоже, чтобы ChatGPT был способен создавать что-то настолько сложное, как «штаммы» вирусов-вымогателей, которые были замечены в серьёзных хакерских инцидентах в последние годы. Примером может служить программа-вымогатель Conti, печально известная своим использованием при взломе национальной системы здравоохранения Ирландии. Однако инструмент OpenAI позволит новичкам снизить барьер входа на этот нелегальный рынок, создавая более простые, но столь же эффективные вредоносные программы, добавил Фергюсон.


Он также выразил опасение, что, вместо того чтобы создавать код, крадущий данные жертв, ChatGPT может быть использован для создания веб-сайтов и ботов, которые обманом заставляют пользователей делиться своей информацией. «Это может индустриализировать создание и персонализацию вредоносных веб-страниц, высоконаправленных фишинговых кампаний и афер, основанных на социальной инженерии», — добавил Фергюсон.


Сергей Шикевич, исследователь группы Check Point по анализу угроз, сказал Forbes USA, что ChatGPT станет «отличным инструментом» для российских хакеров, которые не владеют английским языком, чтобы создавать правдоподобные фишинговые письма.


Что касается защиты от преступного использования ChatGPT, Шикевич сказал, что в конечном счёте и, «к сожалению», это должно быть обеспечено регулированием. OpenAI внедрила некоторые средства контроля, предотвращая очевидные запросы на ChatGPT для создания шпионских программ с помощью предупреждений о нарушении политики, однако хакеры и журналисты нашли способы обойти эти средства защиты. Шикевич сказал, что компании, подобные OpenAI, возможно, придётся юридически заставить обучать свой ИИ выявлять такие злоупотребления.


3dnews.ru, 10.01.2023, "App Store и Play Маркет наводнили сомнительные приложения, притворяющиеся ChatGPT — официального не существует": Основанный на передовых алгоритмах искусственного интеллекта бот ChatGPT сегодня является одной из наиболее горячих тем в технологической индустрии, и некоторые не всегда порядочные разработчики решили воспользоваться тенденцией, разместив сомнительные приложения в App Store и Play Маркет, которые мимикрируют под популярный бот. За дополнительную плату приложения предлагают пользователям «расширенные возможности» и дополнительные запросы к чат-боту. Важно помнить, что доступ к ChatGPT бесплатен, а разработавшая бот компания OpenAI официальных приложений не выпускала. В чарты по ряду стран попало, например, приложение под названием «ChatGPT Chat GPT AI With GPT-3» — оно устанавливается бесплатно, но предлагает подписку по цене $7,99 в неделю или $49,99 в месяц за неограниченное число запросов к боту. В реальности же, отмечают авторы обзоров приложения, подписка не даёт никаких преимуществ. У того же разработчика уже было похожее приложение с более чем 100 тыс. загрузок, но сейчас оно удалено.

Смысл всей этой сомнительной деятельности в том, чтобы выпустить практически любое приложение, в названии которого упоминается «ChatGPT», чтобы оно как можно выше поднялось в результатах поиска — некоторые даже выпускают несколько приложений в надежде, что хотя бы одно из них наберёт достаточно высокое число скачиваний. Аналогичным образом ранее App Store и Play Store наводняли подделки некогда популярных Wordle и Flappy Bird. И пока неясно, собираются ли Apple и Google что-то делать с наплывом сомнительных приложений, паразитирующих на популярности ChatGPT. — Врезка К.ру



Перевод Ксении Лычагиной





Источник: “http://www.compromat.ru/page_44041.htm”

Источник: Роспресс