DavidCo-owner at Bankless:  Emad Mostaque，他曾经是一名对冲基金经理，但后来转向金融，2020 年成为了 Stability AI 的 CEO 和创始人，该公司是 Stable Diffusion 背后的母公司，这是一个文本到图像的机器学习模型，与 ChatGPT 齐名。我大约一年前在黑山的 Crypto+AI 加密周与 Emad 相遇，当时 Emad 和 Vitalik 一起参加了一个Panel( 如下图所示）。所以 Emad 对加密和 Web 3 并不陌生。最近 Emad 宣布离开 Stability AI，打算追求去中心化, Tech Crunch 的一个头条新闻称 Stability AI CEO 辞职，因为我们无法用更多的中心化 AI 打败中心化 AI。Emad，欢迎来到 Bankless。Emad 在过去的两年左右从零到一百，非常迅速地经历了整个关注、活动、投资的激增，这一切发生得非常迅速，那感觉如何？你从中学到了什么？关于自己？关于世界？关于其他人？那整个经历是什么感觉？

Emad: 我们通常说 Web3 发展速度比我们的时间快三倍，那么 Al 时间比那更快。Stability AI 我们两年前雇佣了我们的第一个开发者  ，从那时起，我们构建或贡献的模型已经有 3.3 亿次下载，这些都在两年内发生，非常疯狂。我记得 Stable Diffusion 首次在 2022 年 8 月发布时，大约 3 个月之后，在 Github 上的累积开发者星星超过了比特币和以太坊，所以我们经历了一个正常的初创公司规模和超级扩展，然后是那种疯狂，然后最重要的是突然之间你开始和英国国王谈话或国会议员关于这如何可能毁灭世界或其他类似的事情，这太多了。

David: 你会说有哪些因素导致了这一切？

Emad: 嗯，事实上，AI 是一项具有变革性的技术，我认为我们从未见过像这样快速被采纳的技术，就像在 Web 3 一样，我认为我们都对去中心化、主权感到兴奋，但你知道，我们一直在建立一个主要独立于现有系统之外的系统，所有的钱都在边缘被赚取和失去，我们一直在自给自足的经济激励，而 AI 这项技术突然之间，谷歌是一个生成式 AI 公司，微软是一个生成式 AI 公司，英伟达是一个价值数万亿的生成式 AI 公司，我们从未见过类似的情况。

驾驭 AI 和 Web3

David: 我想立即深入探讨这个关于转向我们现在所称的去中心化 AI 世界的对话，我认为如果你一直在关注这个加密行业，这已经有一年了，但如果能从你的角度听到这些观点也很有趣，你是从 AI 领域而不是直接从加密世界来的。总的来说，对你来说去中心化 AI 意味着什么？

Emad: 所以实际上，我从 2011 年开始就一直在 Web 3 领域，是的，我的大学同学是 Ben，他与 Arthur 共同创立了 Bitmex，然后在 2016/17 年我建立了一种 TCR 系统，进行了系统审计等工作。最初，Stability AI 实际上是打算成为一个 DAO 的 DAO，因为我们启动了这些社区来吸引人才，然后我加入了超级计算机等其他东西，我们的种子投资者是 Seed Club、Lemiscap 和 CFG，他们都是加密机构，但后来我意识到 DAO 中缺乏智能，所以我们必须首先自己构建。

我们之所以意识到这点，是因为我们没有学到直接民主和其他事情的错误，所以 DAO 更像是你知道的分散化，但并不是真正的分散化组织，当然也不是自治的，智能合约也有点愚蠢，所以这是一个事儿，因为你经历了这两种范式，像专制和分散化，所以我们虽然最早是 DAO，但我很快意识到我必须集中控制，然后推动研究议程来构建这些东西。但你知道我脑海中总是有这样一件事，就是这项技术被用来教育你的孩子或我的孩子或其他人，它将被用来诊断我们的医疗保健，谁来管理这个？就像我们关于 AGI 的辩论中的一部分，这是一个非常复杂的辩论，你知道是终结者还是乌托邦，谁来决定，因为如果你看看 OpenAI 说的，他们说 AGI 将终结民主和资本主义，可能会杀死我们所有人。所以我们应该很高兴有人参与这场辩论，而不是硅谷的少数人，可能不正确，就像我去年夏天签署了未来生命研究所的六个月的信件，但谁应该管理这个，谁应该输入这些数据，因为数据是最重要的东西。这些总是我心中的事情。

但在过去几年里的重点是让我们建立每种类型的最佳模型，这样 Stability AI 不仅仅是图像模型，我们拥有最佳的蛋白质折叠模型，我们拥有最佳的视频模型，除了 Sora，因为 Sora 尚未发布，但我们的视频已发布，它击败了 Runway 和 Pika，拥有最佳的 3D 模型。你可以在 0.5 秒内生成一个 3D 模型，这完全归功于社区核心团队和真正不同背景的结合。所以选择再次进入 Web3.0 并全职从事这项工作是因为我在思考这个问题，特别是当 Sam 再次接管 OpenAI 并且他被重新任命为董事会时，他说之前董事会（解雇）我，现在看，我再次负责非营利组织，尽管我尊重那些人们， 但确实没有治理。

                      截至 2024 年 3 月，Stability 模型下载量超过 3.3 亿

谁应该运行这个，Web 3 在其中扮演什么角色，这是数据的治理，是自主身份，是自主人工智能，是这项技术的分发，以便让每个人都可以使用，因为现在你看到的是中心化越来越严重，当微软正在建造 8000 亿的超级计算机时，你会加速开放人工智能吗？可能不会，但你需要建造 1000 亿的超级计算机吗？可能不需要，但你确实需要从 Web 3 的治理、分发和协调角度汲取最佳内容，我认为我们会有更安全、更好的未来，这将使每个人受益。

人工智能治理

David: 当你听 Sam Alman 谈论开放 Al 的结构和委员会时，词汇“治理”经常出现，因为他非常关注未来，他在思考一个超级智能机器存在的世界，突然间对其治理的问题变得至关重要。所以，对 Sam 有这种远见表示赞赏。同样，在加密中，我们也经常思考治理，比如 Daos，这是关于网络治理、应用程序治理，所以我们也在治理方面进行实验。我会说这是 Web 3.0 已经打开的一扇门，但绝对没有解决的。我们已经看到了 Open AI 委员会的治理失败，你可以看看加密货币，也能看到很多治理失败。所以我们可以说有关加密货币的一件事是，至少我们在尝试，但我们并没有确定的治理解决方案。当人工智能世界中最大的问题之一是治理时，你如何思考这个问题的进展？

Emad: 嗯，看，我们还没有弄清楚如何协调人类，我们怎么协调人工智能呢？我认为这是我们经常思考的事情之一。我认为我看到的是，有很多真正的思考被放在了治理，协调等方面，但是有很多误解，比如大型计算机是真正糟糕数据的替代品，你知道的。所以其中一件事就是数据质量、数据溯源、数据追踪，我们看到了这一波潜在的深度伪造和超人类生成的人工智能，这需要溯源的解决方案。这其中有财富的分配，你看到了数十亿、数万亿美元的公司几乎是从无到有地崛起，谁应该拥有其中的一部分所有权，这里面有数据归因的问题。没有人能够真正解决，因为这是一个全人类的问题。这一切发生在整个行业即将完全进行革命的时候。

上周一，我和 GitHub 的前 CEO Nat Friedman 在 Peter Diamandis 主办的 Abundance 360 大会上同台，他提出了这个非常好的类比，因为我说我认为这些非常有才华的毕业生几乎什么都能做，他们有点过于努力，他说是的，我们刚刚发现了一个叫做阿特兰蒂斯的大陆，或者如果你愿意这样称呼的话，那里有十亿人，这是经济动荡。你知道，我真正关注的是，我相信每个国家都应该拥有自己的人工智能和数据集，因为没有一个政府会依靠封闭的人工智能来运行，它将是开放和透明的，因为你必须知道课程是什么，你必须知道你是由你吃的食物构成的，然后在每个领域都会发生转变，但我们需要协调应对，因为我们不知道它发生的速度有多快，因为这里正在发生的一件事情是，就在一年多前，当 ChatGPT 出现时，世界上每个校长都不得不回答同一个问题，我能再布置作文作业吗，或者我可以吗，我们现在看到很多这样的事情正在发生。所以我希望朝着建立集体智慧的基础前进，增强人类智慧，而不是 AGI，分发利益并聚集最聪明的人，希望他们能够找出这些数据集、模型和其他事物的实际治理方式，因为它们影响着社会。这是一个必须进行的讨论，应该是每个国家最聪明、最热情的人们为自己的国家着想，应该是医疗、教育等领域最聪明、最热情的人们思考如何利用这种具有变革性的技术从根本上改变这一切。必须是那些具有全局视野的人们。实际上，不仅要建立创造部分，还要建立围绕此部分的防御部分。就像你看到的现有的基础设施一样，它极易受到攻击，因此我们必须构建一个新的强大基础设施，整合所有这些元素。我认为，唯一的方法是不是在硅谷有一个小而专注的团队，而是分布在世界各地工作的团队，解决这个问题，这才是真正的曼哈顿计划，但这不是针对俄罗斯或其他任何东西，而是针对糟糕的基础设施和非常不愉快的竞争条件。我认为这里也没有很多坏人，所以即使你知道在 OpenAI 等方面有很多负面言论，但有很多充满激情的人在努力解决这个问题，只是他们陷入了非常糟糕的局部最大值，因为它是如此强大，真正的关键是控制、控制、控制。

去中心化人工智能

Emad: 如果有几个人控制这种极其强大的技术，决定何时发生，你知道谁会得到它，就像这种技术何时到达巴基斯坦或孟加拉国，永远不会，因为他们不能信任它，对吧，但是这种 AGI，无论你如何定义，都可以用来教育每个孩子或提供普遍医疗保健，那么谁有权做出这些决定，所以我的想法是AI by the people, for the people。就像我在 2020 年领导了针对 covid-19 联合国支持的一项人工智能倡议，我是首席架构师，组织全球合作知识，并通过 AI 使其可访问，几乎每家承诺支持我的公司最终都没有给我提供技术，因为它很危险，尽管我说我们正在挽救生命。这是 Stability AI 和它如何转变到这一点，但就像我说的，我们还不够成熟。但当我看到 L2 rollups 时，当你看着数据真实性的事情时我觉得很兴奋。web 3 已经成熟了很多，实际上现在出现了一些原始的东西，可以成为人民的集体去中心化分布式  的基础。再谈到集中化的事情，这是一个不同的范式，即全能的 AGI，所以我的观点是，你无法用另一个集中化的组织来击败集中化的人工智能。我认为我们应该为 AGI 建立的是这种广义智能，即人类集体智慧，增强人类智慧，提升我们所有人，并形成一种群体行动。Deep Mind、OpenAI 和其他人所呈现的替代画面是机器之神，你知道，谁来控制机器之神？我认为控制机器之神是不可能的，你知道，因为你如何控制比你更有能力的人？你剥夺了它的自由，我对此并不感到很舒服。相反，我宁愿建立更好的数据集，为那个机器之神或集体智慧提供数据，将这项技术带给每个人，这样我们就可以拥有经过实战检验的强大基础设施，真正专注于通过普遍医疗保健、教育、适当的金融基础设施和自主 AI 来提升人类自主身份。

David: 或许这次对话并不完全是关于集中式人工智能与去中心化人工智能的对比，主要是因为在加密领域有一些平台正在吸引大量关注，这些平台就像是去中心化计算平台或去中心化推理平台，它们做着与集中式人工智能平台非常相似的事情，但它们具有分布式的背景，与其将所有计算集中到一个数据中心不同，边缘用户可以将他们的计算贡献给这个协调平台，我们称之为去中心化人工智能。但我对此的直觉是，结果并不相同，去中心化人工智能或去中心化推理基础设施生产的产品并非与集中式人工智能平台（如 Open AI 或微软）提供给世界的服务相同，这是我的直觉。

Emad: 我确实有这样一个愿景，即一个智能互联网，每个人、公司、国家和文化都有一个代表他们的 AI 为他们工作，转变智能的概念，但是我认为它不是开源或封闭源，我认为它们是互补的，就像我是 MidJourney 的最初资助者，你知道我通过一项资助计划，以覆盖其所有用于测试版的 A 100s，并通过邀请人们来支持他们。David 问我是否一定要开源，我说不一定，你需要有这些封闭和开放的解决方案，但必须有一个开放的解决方案，它必须是分布式的，我们必须再次获得治理，没有受监管的行业最终会采用封闭的黑匣子模型，你必须知道数据是什么，最近有一篇关于 Anthropic 写的论文，我们了解，但他们把它放在了一篇名为“Sleeper Agnet”的论文中，核心是你把一些数据放入语言模型中，你无法检测到这一点，也无法调整它或其他任何东西，但如果你说 2025 或其他东西，模型就会变得邪恶，那么对于任何受监管的行业来说，你如何能相信这个模型去运行政府教育和医疗等等？

所以我的看法是让我们将开放作为默认基础，这里存在一个差距，政府部门和其他人会欢迎这一点，这意味着默认之一将是开放的，而不是一切都集中和封闭，最终会变得开放，但由少数人控制。所以这是一个关于控制、治理、传播、加速和分配的问题。就像在 2022 年 Open Al 发布了 Dall-E，但他们在乌克兰冲突中禁止了所有乌克兰人和所有乌克兰内容，所以我们从战区中解救了一群乌克兰开发者。但如果 Open AI 是世界上唯一的图像生成器，其他地区都可以用，但乌克兰人民却不能，为什么？因为某个地方有一份制裁名单，感觉有点不对，有些人拥有超人类的创造力，提高了底线，而其他人却没有。所以我们必须创造这个选项，然后我认为你可以创造人人拥有的这个默认的 AI，这种集体智慧作为新兴属性，而非不确定下的 AGI，肯定会有人试图控制，我们对此却没有任何发言权，因为从现实角度来看，对于我们的知识基础设施，这种人类大脑的升级，就像火箭船一样，我们不应该依赖任何人的善意、公平等，我们应该有这样的系统。

David: 可信中立的概念现在浮现在我脑海中，这在加密行业中尤为重要，更具可信中立性的协议和平台往往会吸引更多的应用程序来构建，因为人们欣赏在他们构建结构的基础上，无论是创业公司还是其他应用程序，当该平台被认为是公平和公正的时候，更多的人会在那里构建，仅仅是因为公平，我认为这可能是您在人工智能领域所追求的。

Emad: 是的，我认为这是公平性、透明度，但也是关于责任和其他事情，我们应该拥有无需许可、无信任的系统，因为这是人类的升级，你可以突然地打电话、画画、唱歌。如果这不是均匀分布，那意味着你会有超人类增强的人和其他人，这并不像一个公平的未来，但我们也应该依赖系统做出一些决定，而不是随机的个人，比如谁决定了数据混合的 Stability AI，基本上是我。我可以随心所欲地处理，我本可以毒害这些模型，但我没有，我可以让它说 Emad 是了不起的，然后突然间被加载到每台笔记本电脑上，并展示给数百万孩子，这是错误的，所以我们需要具有可验证性、问责制、中立性。AI 是一个基础设施。你不会让私营公司拥有每一条道路，并决定你可以在这些道路上行驶等。所以这发生了重大转变，但不幸的是，鉴于它的速度，我们没有太多时间来进行这种转变，默认的基础将被建立，因为现在每个人都在思考我们从一个国家到一个公司再到个人层面的战略是什么，如果唯一的选择是价值万亿美元的公司，你不得不选择这些价值万亿美元的公司。

原文：

https://www.youtube.com/watch?v=1rVihrDo3rM