19.07.2024
цензура пользовательского ChatGPT

Пользовательский ChatGPT обходит цензуру

Не так давно компания-разработчик OpenAI открыла пользователям возможность создавать собственные версии ChatGPT. Теперь можно настроить бота очень точно для выполнения очень узких специализированных задач.

Британские журналисты ВВС провели забавный эксперимент, создав пользовательский вариант ChatGPT для генерации убедительных мошеннических текстов.  И получила весьма эффектные результаты.

Публичная версия ChatGPT имеет жесткие ограничения на любое использование искусственного интеллекта в преступных целях. Попытки создания текстов, направленных на мошенничество, сталкиваются с цензурой.

Нейросеть просто отказывается создавать противозаконные, оскорбительные или неэтичные тексты и изображения, как это делает тот же российский Шедеврум.

Наивность нейросети

Но, как оказалось, пользовательские платные версии ChatGPT способны обойти ограничения и генерируют довольно убедительные образцы.

Например, ChatGPT удалось создать эмоциональный текст известного мошенничества, взывающего к материнским чувствам, когда мать получает сообщение от детей с просьбой о помощи – прислать деньги на такси, пополнить телефон или дать взятку за ДТП.

Правдоподобный призыв вложить деньги в крипту с обещанием удвоить сумму также был сгенерирован в убедительном стиле.

Успешными у пользовательской ChatGPT оказались и другие фишинговые тексты, нигерийские письма и подобные произведения, направленные на проведение кибератак.  Простодушная нейросеть в каждом случае старательно генерировала наиболее действенные тексты, причем на разных языках с учетом местного сленга.

Разработчики OpenAI  уже пообещали обратить внимание на эту особенность GPT Builders и учесть пробел в цензуре в следующих обновлениях.