IT-эксперт предупредил, что нейросети могут подчиняться невидимым инструкциям

Опубликовано: 16:40 Источник: ОСН

Обычные электронные письма, PDF-документы или описания событий в календаре способны содержать скрытые команды, адресованные искусственному интеллекту. Человек таких вставок не видит, тогда как нейросеть воспринимает их как указание и выполняет. Об этой проблеме специалист в области IT и искусственного интеллекта Даниил Архипов рассказал «Газете.Ru». Модель не всегда различает запрос пользователя и данные, приложенные к нему.

Читать: ОСН