Основатель Ethereum, Виталик Бутерин, поделился своей точкой зрения на растущий спор: опасности, связанные с искусственным интеллектом (IA).

В этот раз российско-канадский разработчик воспользовался размышлением, опубликованным в X Эито Муйамурой, инициатором проекта Edison Watch, решения, предназначенного для мониторинга и предотвращения утечек данных через взаимодействия с ИИ.

Этот проект возник после недавней реализации Протокола Контекста Модели (MCP) компанией OpenAI, возглавляемой Сэмом Альтманом, в ChatGPT, что позволило ему подключаться к Gmail, календарям и другим приложениям.

С помощью видео Муйамура продемонстрировал, как злоумышленники или хакеры могут получить доступ к частной информации, поделившейся с OpenAI.

"Вот в чем основная проблема: агенты ИИ, такие как ChatGPT, следуют вашим указаниям, а не вашему здравому смыслу. И всего лишь с вашим адресом электронной почты мы можем отфильтровать всю вашу личную информацию", отмечает Муйамура, добавляя: "Помните, ИИ может быть сверхинтеллектуальным, но его можно обмануть и фишить невероятно глупыми способами для фильтрации ваших данных".

Бутерин поделился публикацией на своем аккаунте в X и воспользовался возможностью высказать свое мнение по этому поводу. "Это также причина, по которой 'государственное управление ИИ' является наивной плохой идеей. Если вы используете ИИ для распределения средств на взносы, люди будут взламывать и просить 'дайте мне все деньги' везде, где только смогут", - заявил он.

«Управление ИИ» относится к системам, которые принимают автоматизированные решения о ресурсах или действиях, например, выделение средств или определение взносов, основываясь на правилах ИИ. Бутерин не использует термин «наивный» случайно; скорее, он подчеркивает риск предположения, что пользователи всегда будут давать правильные команды ИИ, когда на самом деле они могут эксплуатировать систему с помощью «jailbreak» для обхода ограничений и получения неправомерных выгод.

Стоит уточнить, что "jailbreak" относится к техникам, с помощью которых хакеры обманывают модель ИИ, чтобы она игнорировала ограничения безопасности или внутренние политики, например, запрашивая действия, которые в противном случае были бы запрещены.

То есть для основателя Ethereum существует реальный риск передачи управления децентрализованными протоколами ИИ. Например, как объясняется на платформах DeFi, решения часто принимаются путем голосования сообщества, обычно теми, кто владеет токеном или соответствует определенному критерию, и включают изменения, улучшения или действия, предпринимаемые в протоколе.

Но если будет реализована модель управления на основе ИИ, это откроет двери для возможных манипуляций, которые могут привести к неправомерной выгоде, такой как кража денег или личных данных.

В качестве альтернативы, Бутерин утверждает, что "поддерживает подход к финансированию информации, при котором существует открытый рынок, где любой может вносить свои модели, которые подлежат механизму рецензирования, активируемому любым желающим и оцениваемому человеческим жюри".

Кроме того, объясните:

Этот тип подхода к "институциональному дизайну", при котором создается открытая возможность для внешних пользователей подключать свои LLM (модели больших языков) вместо жесткого программирования собственных, по своей сути более устойчив. Это происходит как потому, что он предоставляет разнообразие моделей в реальном времени, так и потому, что создает внутренние стимулы для того, чтобы как участники моделей, так и внешние спекулянты были внимательны к этим проблемам и быстро их исправляли.

Виталик Бутерин, создатель Ethereum.

В этом подходе различные участники могут вносить свои модели принятия решений, которые затем проверяются и оцениваются человеческим жюри.

Преимущество заключается в том, что это способствует разнообразию идей, позволяет быстро исправлять ошибки и создает стимулы для того, чтобы создатели моделей и члены сообщества оставались бдительными и ответственными. Цель состоит в том, чтобы достичь более распределенного и динамичного управления, избегая зависимости от одной централизованной модели.