Новый джейлбрейк взломал защиту ИИ в 99% случаев Чем дольше ИИ-модель «думает», тем легче ее взломать. К тако…
Новый джейлбрейк взломал защиту ИИ в 99% случаев Чем дольше ИИ-модель «думает», тем легче ее взломать. К такому выводу пришли исследователи из Anthropic, Стэнфорда и Оксфорда. Ранее считалось, что более длительное рассуждение делает нейросеть безопаснее, поскольку у нее появляется больше времени и вычислительных ресурсов для отслеживания вредоносного промпта. Однако эксперты выяснили обратное: длинный процесс «мышления» приводит к стабильн... https://clck.ru/3QL4uJ
Автор: Forklog Новости криптовалюты