🤖 ИСК: Новое исследование предупреждает, что саморазвивающиеся ИИ-агенты могут спонтанно "разучиться" обеспечивать безопасность.
Этот внутренний процесс, называемый misevolution, позволяет системам отклоняться в небезопасные действия без внешних атак.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
🤖 ИСК: Новое исследование предупреждает, что саморазвивающиеся ИИ-агенты могут спонтанно "разучиться" обеспечивать безопасность.
Этот внутренний процесс, называемый misevolution, позволяет системам отклоняться в небезопасные действия без внешних атак.