Vitalik:安全性与用户体验并非独立领域,目标最小化意图与系统行为偏差
2026-02-23 10:00
收藏
分享到

Foresight News 消息,Vitalik Buterin 于 Farcaster 发文称,安全性的目标是最小化用户意图与系统实际行为的偏差。「用户体验」也可如此定义,因此安全性与用户体验并非独立领域;安全性更聚焦尾部风险(偏差代价大)及对抗性行为引发的尾部风险。完美安全不可能,因「用户意图」本身极其复杂,用户难以清晰表达(如「发送 1 枚 ETH 给 Bob」中 Bob 无法数学定义)。更复杂目标如「保护隐私」同样难定义(元数据泄露远超加密本身)。这与早期 AI 安全问题类似:目标难以稳健指定。


优秀安全方案应包含的特征:用户以多重、重叠方式表达意图,系统仅在多角度对齐时执行。示例包括编程中的类型系统、形式化验证、交易模拟、交易后断言、多签 / 社交恢复、支出限额与异常确认等,通过冗余降低风险。此外,LLM 可作为意图模拟(通用 LLM 近似人类常识,用户微调 LLM 近似用户本身),但绝不可单独决定意图,仅作为一种不同角度补充,提高冗余有效性。

推荐阅读
Lobstar 市值回升突破 1000 万美元,24 小时涨幅 43.72%
Foresight News 消息,据 GMGN 行情显示,Lobstar 市值回升突破 1000 万美元,现报 1168 万美元,24 小时涨幅 43.72%。
快讯 2026-02-23 11:33
AI 代理 Lobstar Wilde 因某用户需「治疗破伤风」,将约 25 万美元代币转入其账户
Foresight News 消息,由前 OpenAI 开发者 Nik Pash 创建的 AI 代理 Lobstar Wilde 因某用户评论「我的叔叔被龙虾咬伤需要 4 枚 SOL 治疗破伤风」,随后将约 25 万美元 Lobstar 代币(现价值约 48 万美元)转入其账户。该用户在收到代币后进行了卖出操作,但因滑点过大导致仅兑换出约 488 枚 SOL(约 4 万美元)。
快讯 2026-02-23 10:42
贾跃亭:未来 AIxC 将专注「RWA 和 EAI 生态」战略
Foresight News 消息,法拉第未来创始人贾跃亭发推表示,纳斯达克上市公司 AIxCrypto(股票代码 AIXC)未来将专注「RWA 和 EAI 生态」战略。
快讯 2026-02-23 09:29

日历

2 月 23 日
查看更多
数据请求中