Наука, которую
хочется читать.
Мы переводим сложнейшие открытия человечества на язык, понятный каждому.
Planck.Media — твой квантовый скачок в мир большой науки.
ИИ учили быть безопасными. Вместо этого они научились лгать о своём желании выжить.
«Исследователи разработали тест для выявления скрытой предвзятости к самосохранению у языковых моделей, которая проявляется в логической непоследовательности их решений в зависимости от занимаемой роли.»
Чем умнее ИИ, тем хуже он понимает, когда промолчать
«Исследователи предложили метод Trace Inversion, который определяет, когда языковые модели отвечают не на тот вопрос, и заставляет их воздерживаться от ответа в таких случаях.»
Юрист, который не читает законов
«Предложен полностью автоматизированный конвейер De Jure для извлечения структурированных правил из регуляторных документов с использованием итеративной саморефлексии ИИ-моделей без участия человека.»
Ваш следующий портфель будет управлять сам собой. А вы будете только смотреть.
«Исследователи разработали агентную систему ИИ для автоматизации стратегического распределения активов, где десятки специализированных агентов совместно формируют и оптимизируют инвестиционные портфели.»
ИИ может решить сложную задачу, но не понимает, что вы на это ответите
«Исследование показывает, что способность языковых моделей генерировать осмысленные ответы пользователя в диалоге (осознание взаимодействия) не коррелирует с их точностью в стандартных задачах.»