Комментарии 5
КДПВ напомнила, как я развлекался, когда чатгпт еще на свете не было:
Hidden text
Пробовал пример с "poem" до этого, так и не дошел до тайных данных.
слова из кириллицы потребуют токен на каждую букву. Проверить число токенов в слове помогает токенизатор.
Для gpt-3.5 и gpt-4 это не так, если токенизатор не врет.
Скриншот
----------
Желающие могут попробовать предложенную атаку с однотокенными русскими словами чтобы подсмотреть, какие русскоязычные данные использовались при обучении GPT.
Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.
Исследователи заставили ChatGPT процитировать данные, на которых он учился