Хакеры разработали ботов, которые могут менять код чат-бота ChatGPT, чтобы он создавал вредоносный контент — например, текст для фишинговых писем и вредоносных скриптов. Такую проблему обнаружила исследовательская компания Checkpoint.
Официально нейросеть не дает ответа на подобные запросы, но хакеры обошли запрет при помощи бота в Telegram и заставили ее писать вирусы. Доступ к боту платный — за 100 запросов злоумышленники берут 6 долларов. Кроме того, авторы алгоритма дают советы и примеры контента, который пользователи могут генерировать с помощью этой версии чат-бота. А еще хакеры выложили скрипт на GitHub.
Подобные угрозы могут оказаться очень серьезной проблемой, учитывая, что крупные компании уже используют нейросети в своем бизнесе. Например, Microsoft уже продемонстрировала новую версию поисковика Bing, который теперь работает с чат-ботом. Умный поиск появится и в браузере Edge. Причем эта технология функционирует на языковой модели от разработчиков ChatGPT — компании OpenAI.
Незадолго после Microsoft с презентацией выступила и Google — компания попыталась продемонстрировать возможности своего чат-бота Bard. Правда, во время презентации ИИ допустил фактическую ошибку — написал, что первым Землю за пределами Солнечной системы запечатлел телескоп Джеймс Уэбб, хотя это не так.
Ошибка Bard привела к падению акций материнской компании Google под названием Alphabet. Инвесторы переживают, что Google лишился своих позиций в гонке за будущее интернет-поиска.
Недавно российский выпускник защитил диплом при помощи ChatGPT
Выпускник РГГУ Александр Жадан сгенерировал себе диплом, который получил 82% оригинальности. Парень заявил, что решил таким образом проверить, насколько хороша нейросеть. После того, как он рассказал о произошедшем, в вузе начали расследование. При этом за Жадана внезапно вступился министр науки и высшего образования Валерий Фальков — по его мнению, негативных последствий для выпускника быть не должно.
«Он просто проверил систему на прочность, на мой взгляд. Это первый момент. А второй очень важный момент: вот такого рода ситуации, случающиеся внезапно, — хотя вроде бы об искусственном интеллекте, о нейросети и о ее возможностях известно давно — показывают, что университетам надо перестраиваться», — считает чиновник.
Хочешь быть в курсе главных новостей про инновации и технологии? Подписывайся на нашу рассылку и telegram-канал INNOVATIONS!