峰会回顾丨圆桌讨论：数据隐私，AI 技术对区块链安全领域的新挑战
2024-10-30 17:02
10 月 17 日，由万向区块链实验室主办的第十届区块链全球峰会圆满结束。本次峰会以“‘技’往开来”为主题，共吸引了数百名参会嘉宾，多位来自全球的重磅意见领袖，周边各类行业活动达到数十场。会上，Foresight News 副主编周舟作为圆桌主持人，与 CertiK 首席安全官李康、BlockSec CEO 兼联合创始人周亚金、慢雾合伙人兼 CPO 钟启富等嘉宾聚焦 Web3 数据安全进行了深入探讨。下文整理自现场速记，有部分不影响原意的删减。
周舟（主持人）：欢迎大家莅临这场圆桌讨论，本次圆桌聚焦热点话题——AI 发展对区块链安全的挑战。我是 Foresight News 的周舟，非常荣幸能与各位相聚在此。李康：大家好，我是李康，来自 CertiK，担任 CSO 一职。非常感谢万向区块链的邀请，每次能在这里与各位同行重聚，我都深感荣幸。周亚金：我是周亚金，BlockSec 的创始人，同时也是浙江大学的一名教授。BlockSec 专注于 Web3 安全全链路服务，很高兴有机会在这里与大家分享和交流关于 Web3 安全的话题。钟启富：大家好，我是启富，慢雾的合伙人兼产品负责人。慢雾自 2018 年成立以来，一直致力于区块链安全领域的研究。接下来，我将与大家分享我对安全领域及未来趋势的看法。每年，区块链领域都会涌现出许多新的安全问题。我想请问三位嘉宾，在过去的一年里，你们遇到了哪些新的挑战？李康：我不知道亚金和启富是否也有类似的感受。我从事安全工作已久，确实看到了很多新项目和新挑战，但总感觉这些问题似乎都是老调重弹。现在，我们看到了很多 AI 与 Web3 结合的项目，甚至还有很多 DePIN 的项目，物理世界的安全问题也日益凸显。然而，当我们回过头来看，安全的本质似乎还是那些在传统安全领域就已经遇到过的问题，比如对设备本身、系统本身安全的重视程度。最近，我也看到了很多安全事件，虽然有很多新项目涌现，但我们遇到的问题主要还是安全意识不足、私钥管理不善以及整个系统设计中的安全漏洞。当然，我也很期待听听亚金和启富看到的新问题。周亚金：我认为 Web3 安全领域近年来出现了一些新的趋势。Web3 安全是一个相对宽泛的概念，我们首先要明确其中的参与方。从我们的角度来看，重要的参与方包括用户、协议、开发者、中心化机构和交易所。从协议层面来看，新的安全问题和趋势是什么？我们认为，在部署之前进行安全性评估已经成为共识，大家都知道在代码上线之前需要经过机构的安全审查。但是，在代码上线之后，如何持续观测与我交互的交易方是谁，他们是否存在安全隐患，以及这些交易对我的生态和经济系统有何影响？这个问题在协议安全领域并没有得到足够的重视，也就是我们所说的“Pronounce security”。因为整个协议的生命周期不仅仅包括开发阶段，上线之后的运营也同样重要。我们看到很多被攻击的协议都或多或少经过了安全审查，但为什么还会出问题？如何做好“Pronounce security”是我们看到的新趋势。从 C 端用户的角度来看，社工和钓鱼一直是个大问题，但与 Web3 结合后出现了新的变化。比如钓鱼手段，利用用户经常从 Etherscan 和浏览器里拷贝地址的习惯，设计出针对 Web3 用户的钓鱼攻击。这是一种新的攻击方式，通过社工手段造成了巨大的损失。在 C 端领域，会出现一些与 Web3 用户特定行为习惯相关的安全事件，这个解决方案必须从 Web3 用户行为本身的角度出发。至于机构和私钥管理，虽然这些都是老生常谈的话题，但问题是，尽管我们谈论了这么多私钥安全的问题，大家还是会感到困惑。比如，项目方采用多签就认为私钥安全了，采用冷钱包就安全了，采用 MPC 就安全了。然而，事实并非如此。安全需要综合考虑整体的管理流程和行为规范。随着安全领域的不断发展，我们进入了深水区，不能仅仅从字面上或表面上看待安全问题。我们需要更进一步，制定更多的规划和标准，提供最佳的安全实践给社区里的各方参与者。钟启富：前面两位嘉宾已经讲得很完善了。从问题出发，站在安全公司的角度，我们一直在行业里做研究，见证了行业的起起伏伏。在过去的一年里，我们发现区块链行业中的新项目层出不穷，比如 Layer 1、Layer 2 以及各种新的公链项目不断涌现。这些项目使用的技术与以往的项目有所不同。作为安全公司，我们在拓展自己业务、储备技术的过程中，发现当我们想要进入不同的公链生态时，会遇到更多的新挑战。比如现在主流的智能合约语言有 Solidity、MOVE、Rust 等，还包括虚拟机等组件。但是，很多新的项目可能提供虚拟机，也可能不提供，它们自己的链技术开发栈与已有的项目又有所不同。因此，站在内部安全团队的角度，我们必须投入更多的时间和精力去研究这些新项目。此外，随着 AI 技术的发展，我们也在这方面有很多应用。针对不同新出现的项目，如果我们想要进入其生态、做其安全、挖掘其漏洞，我们也会利用 AI 技术。整体来看，这个行业不断发展，新项目越来越多，使用的技术也越来越多样化。对于生态用户和开发者来说，他们需要不断学习新的技术和知识。比如现在比较火的 Ton 生态，如果你要进入 Ton 的生态，开发中心化或去中心化的项目，你需要学习其智能合约语言，并花费较高的成本找安全公司或漏洞悬赏平台来确保项目没有漏洞。从我们的角度来看，这一年的变化就是新的热点带来了新的技术栈，对用户、开发者和做企业服务的公司都带来了不少挑战。李康：说到新的风险，我认为有一个相对新颖且仍在持续发展的风险。随着 AI 技术的兴起，很多 MEV、Trading board 等领域开始应用 AI 技术。我们观察到的一个新风险是，有些跑路的项目专门针对 AI 机器人。过去，跑路项目要炒热周期通常都比较长，至少以天为单位。但现在，我们看到有些欺诈项目在上线几分钟内就结束了，刚上线就跑了。它们的目标是什么？显然是割机器人的韭菜，因为人类投资者通常不会这么快就买入。随着 AI 自动化的普及，对抗手段也会相应提升。如果你的 AI 不够聪明，你可能会被割韭菜。这是过去相对少见的情况，但现在我们突然发现有很多专门针对机器人的欺诈项目出现。周舟（主持人）：感谢三位嘉宾的精彩分享。刚才三位嘉宾提到了机器人、Crypto 生态、DePIN 以及 Ton 生态等话题，这些新兴的生态都会产生新的安全问题。周博士也提到了用户习惯的变化会带来新的安全问题，李教授也提到了机器人安全问题。接下来，第二个问题是关于 AI 对黑客群体的影响。黑客群体通常非常紧跟时事，他们会利用 AI 技术的发展来创造出新的黑色手段。请问三位嘉宾，你们是否观察到最近随着 AI 技术的发展出现了哪些新的安全问题？之前的安全系统是否仍然有效？钟启富：从我们实际应用的角度来看，很多时候大家对智能合约和公链漏洞的研究并不容易还原其攻击点。但从趋势上来说，对于已知漏洞的研究，如果我们把 AI 的力量用起来，确实可以更好地发现常见的安全漏洞，比如权限检查缺失、重入漏洞等问题。然而，如果想用 AI 去发现新的、尚未被发现的漏洞，这在当前行业中还是比较困难的。结合 AI 技术来提升我们内部安全审计的流程和效率方面来看，AI 似乎并不能做出太多创新性的贡献来帮助我们发现未知的漏洞。但如果你是做项目的开发者，你可以利用 AI 大模型平台来处理已知的漏洞样本。现在 Github 上有很多关于如何修复智能合约及其他语言漏洞的示例，你可以训练自己的 AI 工具来节省审计费用和安全预算。这是我们的实践经验。周亚金：从我们的角度来看，AI 给安全带来的挑战在于它降低了坏人作恶的门槛和难度。特别是在 Web3 领域面向 C 端安全时，比如想要制作一个钓鱼网页或模仿某个项目方进行钓鱼攻击，现在利用大语言模型可以很容易地生成高质量的钓鱼网站或合约。原来可能需要一定的技术技巧才能实施攻击，但在 AI 技术的加持下，攻击的成本和技术门槛都大大降低了。这导致了很多安全事件的发生，对做防御和安全工作的厂商来说是一个巨大的挑战。如何检测新的钓鱼手段和网页成为了一个难题。另外，在 Web3 的社工方面，AI 也起到了很大的作用。比如 AI 换脸技术使得社工可以伪装成想要应聘你公司的人。在过去面试时通常希望对方开摄像头进行互动以验证其真实性。但在 AI 技术的加持下，你很难判断对面坐着的人是否真实存在。包括你问的技术问题可能都是由 AI 的指令在与你进行交互。这给安全工作带来了很大的挑战。目前关于如何有效防御这些攻击的技术手段还是未知的，需要整个社区共同努力来寻找有效的防御方法。李康：AI 给安全带来的挑战是显而易见的，但同时我们也在利用 AI 来提升安全水平。挑战方面已经有很多案例可以佐证了，不仅限于 Web3 和 Crypto 领域。比如之前香港有金融机构的员工参加了一个电话视频会议后被骗转账了巨额资金，而对方实际上是使用了由 AI 驱动的 deep faked 视频进行诈骗。这是对整个社会的挑战而不仅仅是 Web3 的挑战。关于钓鱼攻击者能力的提升我也有所察觉。我相信 BlockSec 和慢雾也观察到了类似的情况。最近大额钓鱼事件明显增多了。过去钓鱼攻击通常是针对大量受害者进行小额诈骗，但现在我们看到的钓鱼攻击更像是定向钓鱼，针对特定目标进行深入研究并定制攻击邮件。AI 在这方面显然起到了很大的作用。虽然我没有确凿的证据表明最近的几起事件一定使用了大模型或特定技术来实施攻击，但很明显这种趋势正在发展，攻击者的手段在不断提升，很可能也是 AI 技术的体现。周舟（主持人）：刚刚三位嘉宾分享了一些非常真实的案例，包括换脸技术，还有机器人事件。尽管我们没有直接证据显示 AI 技术会导致安全事故增多，但我们确实有所感知，甚至已经出现了这样的实例。AI 在为我们带来巨大的技术生产力的同时，也带来了诸多安全挑战。我想请问三位嘉宾，关于 AI 技术的发展如何助力审计，并增强智能合约的安全性？又如何帮助我们更好地加强 Crypto 的安全呢？李康：在 CertiK，我们利用 AI 来提升效能，效果非常显著。因为我们的团队遍布全球，我们希望报告在一致性和语言上达到统一。最初，大家可能期望 AI 能捕捉到更多的新 Bug，但实际上，AI 带来的最大改进是提高了报告撰写的效率，而且使报告更易读。第二点是对漏洞的总结。我们现在逐渐使用 ROM 来帮助我们发现漏洞，或者进行漏洞总结，这使得审计人员的效率自然提升。对我个人而言，在看代码、分析新系统时，AI 的使用让我的速度比我过去查阅手册、学习的速度要快很多。从审计的流程、工作各方面来看，都实现了效率提升，这反过来又让我们为客户提供的服务在速度和准确度上都有所提升。主持人刚才的问题更多是关于 Web3 智能合约的审计，但我认为 AI 带来的优势不仅限于智能合约的审计。有时，我们评估一个项目会非常关注其安全风险，智能合约只是其中的一部分。就像刚才周亚金提到的，你的系统上线后，配置是否存在问题，哪些人可以访问，这些都是需要考虑的。我们现在也在用 AI 来评估代码之外的其他安全风险，比如 Discord、Twitter 账号的活跃度，以及最近是否有安全事件发生。我们会对项目的多个维度进行评估，这部分工作大多是利用已有的 AI 方法来提升效率。周亚金：我非常赞同李老师关于 AI 在审计业务中能大幅提升效率的观点，特别是在 AI 擅长的一些领域，如抛出审计报告，以及帮助我们简单理解智能合约的语义方面，AI 确实能提高效率。我经常被问到，AI 出现后，安全审计行业的整体模式是否会发生变化，审计是否可以实现自动化？这是每个人的梦想，大家都希望审计能成为一个更具规模的业务，从商业角度来看更有意义。但从我们的角度来看，希望越大失望可能也越大。我们需要对新技术的能力边界有清晰的认识。具体来说，AI 在审计中的应用目前还面临一些较大的挑战。因为智能合约审计很多时候涉及的是商业逻辑，比如金融产品的协议，本身需要考量的逻辑就很复杂。大语言模型是否具备推理能力，现在还众说纷纭。即使模型具备推理能力，如何将其用好，让它能推理出整体协议本身的商业逻辑，这也是一个开放的问题。我们一直关注 AI 和智能合约审计的前沿研究，从目前最新的学术界研究成果来看，AI 在智能合约审计中更多的是辅助生成一些规范或环境相关的东西，大部分工作还是需要人工来完成。另外一个挑战是样本问题。我们平时用的大语言模型训练的样本主要是从网上爬取的自然语言网页，缺乏专家或特定领域的数据。而目前这类数据又非常稀少，无法训练出一个特别强大的模型。一个是推理能力的问题，一个是数据的问题。在可预见的未来，将 AI 用于自动化审计可能还有很长的路要走。但 AI 可以提高审计过程中的辅助性工作的效率，这是非常好的。钟启富：前面李博士和周教授都讲得很完善。从实际应用的角度来看，还有一个场景是我们自己团队会有新人加入。AI 的使用场景除了刚才两位嘉宾提到的提升内部效率和确保交付报告的标准化、可读性外，我们还在审计过程中使用了 AI 来确保团队内部能力的对称性。我们不仅把自己的报告拿给大模型 AI 分析，还会把行业里公开的国内外的其他安全公司、白帽黑客的报告都抓取下来，进行标准化、规范化处理。同时，我们也会把内部训练的东西拿给 AI，让 AI 模型输出类似测试题的内容，确保内部人员都能对已知的常见漏洞、新的项目有深入的了解。即使我们没有审计过某些项目，但其他同行有审计过新的 DeFi 协议，并公开了报告，我们就可以利用 AI 小助手的能力，出题考自己的人，从而提升整个团队在安全经验和能力上达到一致的标准。现在大家在做安全工作时还存在钓鱼行为，我们不断打击非法资金洗钱、洗币的活动。当有客户找我们帮忙追踪资金、冻结资金时，这些模型也能更好地在链上数据钱包地址特征处理上识别未知的平台。这些平台可能不是主流的平台，可能是印度或其他地区的某个新起的平台，但链上交易的模式和已知的交易与其他交易所的钱包特征是类似的。这样，我们可以把很多新的区块数据、非法资金转移过程中出现的地址都输入给 AI，让它帮助识别出可能是某一个中心化服务或某一个智能合约的平台。这在安全服务的过程中、行业发展的过程中，都能利用 AI 能力提高效率，带来好的帮助。周舟（主持人）：感谢三位嘉宾。刚才三位嘉宾分享了很多内容。李教授提到了他们面对 AI 对安全问题时的应用和实例，周博士提到 AI 也是有能力边界的，目前还没有发现它能完全用 AI 来弥补漏洞，还是需要很多人工和智力去完善。刚才启富总也提到，通过 AI 可以更好地把标准化的安全问题复制到全行业中。在 Web3 的各个细分赛道，AI 已经产生了各种赋能，这是非常明显的。那么，AI 和区块链的融合会诞生哪些新的商业模式和商业形态呢？钟启富：从大的角度来说，AI 未来肯定能让有能力的个人提升自己的能力。现在经常有用户咨询我们项目是不是诈骗，项目能不能买、能不能充值。我觉得后面这些问题都可以考虑自己去构建，或者自己去把 AI 的能力结合起来。因为里面有很多常见的风险，像“貔貅”这样的 Token，不管是在 Solana 还是 BSC 还是其他链上，如果你看到它的 K 线一直往上涨，你就该怀疑了。当你怀疑的时候，说明你的安全意识就比较好了。但当你想进一步确认的话，可能会找安全专家。但我觉得，未来如果有能力的话，可以尝试构建一个安全助手，让它来帮你分析。这里面也有可能出现新的应用场景，比如有没有创业项目能够帮用户构建这样的安全助手，带动整个行业，给更多用户提供一个安全顾问的角色，可能是免费或者成本很低的方式，让安全事件更少，让大家的投资收益更好。周亚金：可以从两个角度来想这个问题。第一个角度，AI 能为区块链做什么？第二个角度，区块链能为 AI 做什么？从第一个角度来看，很快就会发生的是，AI 能改变 Web3 的很多交互习惯和用户可用性方面。Web3 的很多应用经常被人诟病太难用了，需要很多专家知识和先验知识才能用好。AI 语言模型的出现改变了很多交互方式，会让原来需要靠技术语言交互的东西变成用自然语言进行交互。这是 AI 可以帮助 Web3 的地方。反过来说，区块链能帮 AI 做什么呢？其实里面有很多结合的场景。举两个例子：一是在区块链里，我们可以通过共享的方式来解决训练 AI 所需要的数据问题。现在很多时候，我们提供的数据是没有办法获得自身价值的。那么，怎么能通过区块链结合的方式，让 AI feed 数据的价值得到体现呢？很多初创公司在做 AI 模型研发时，拿不到很多钱，这是非常有挑战的事情。但实际上，这些资源、基础设施是分布在很多不同的个体手中的。能不能通过一种价值实现的方式，将这些资源更好地释放出来，潜力释放出来，使用到整体的 AI 场中，这也是区块链对 AI 赋能的一块。李康：刚才两位已经做了不少关于 AI 和 Web3 结合的前瞻性探讨。已经有 Web3 项目在尝试通过 Web3 Token 的方式，将各种分布式 AI 算力集中在一起，供大家使用或租用。我们可以称它为 DePIN，也可以简单地称之为 AI，因为确实涉及到了基础设施。区块链本身的特性与 AI 就比较契合。它能帮助你记录数据、模型的生成过程、使用情况等。未来这块领域的发展一定会很自然。刚才前面两位讲的某些部分已经在发生，尤其是 AI 基础设施和 DePIN 的结合，会比较自然地往前发展。我们最近也关注了一些 AI、DePIN 公司，发现其安全问题非常严重，迫切需要解决。周舟（主持人）：感谢三位嘉宾的精彩分享。我能感觉到三位嘉宾还意犹未尽，关于 AI 和 Web3 还有很多问题需要我们去讨论、去解决。在刚才的聊天中，我们也能看到 AI 给 Web3 带来了很多作用，包括好的一方面，比如提高了效率；也有不太好的一方面，比如降低了安全的门槛，使其更加普及。刚才嘉宾们也提到了，除了 AI 给 Web3 带来了一些作用外，Web3 也正在努力地给 AI 带来一些作用，这也是我们特别值得期待的。再次感谢三位嘉宾的精彩分享，也感谢各位观众的聆听。谢谢大家！峰会回顾丨圆桌讨论：分布式能源，Web3 赋能能源产业转型
峰会回顾丨 TradeGo 于瀛蛟：GIFTS- 全球贸易的 Web3 形态
峰会回顾丨圆币科技刘宇：利用合规稳定币构建新一代全球支付网络
【免责声明】市场有风险，投资需谨慎。本文不构成投资建议，用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。
