加密VC Canonical创始人:AI Agent会创造一个反乌托邦的未来吗?
时间:2024-07-01 来源:区块链网络 作者:区块律动BlockBeat
译者注:在本期《链抽象》播客中,NAER 生态系统的联合创始人 Altan 和 NAER 基金会的内容负责人 Jared 与早期基金 Canonical 创始人 Anand Iyer 进行了一番深度对话。Canonical 投资了 Gensyn、Ritual、Sahara、Nuffle Labs、Tensorplex Labs 等知名加密 AI 项目。此外,Anand 拥有数一数二的 X/twitter Handle:https://x.com/ai。 Anand 指出,未来 AI Agent 将在协助人类完成各种任务中扮演关键角色,而区块链则为这些 Agent 提供了一个安全可信的运行环境。在 AI 飞速发展的时代,用户对个人数据的所有权和隐私保护至关重要。作为投资者,他更看重那些具有差异化和防御能力的项目,并鼓励创业者要有长远视野,推动技术和应用的创新。 链抽象在加密 AI 中的应用场景 Jared:首先请简要介绍一下你的背景。 Anand:我拥有普渡大学的计算机工程学位,曾在微软这样的科技巨头工作。我从很小的时候就开始编程,用的是一种叫做 BASIC 的编程语言。那时我才八岁,已经是 80 年代的事。我花了很多时间开发微软的平台,2001 年大学毕业后搬到了硅谷,见证了 90 年代和 2000 年代硅谷的发展和成长。 之后,我萌生了创业的想法。前十年,我在大公司工作,接下来的十年,我是一名创业公司创始人和 CEO。长话短说,我是在 2012 年偶然间接触到一群比特币矿工。正是通过他们,我进入了比特币和加密货币的世界。那时的加密社区还处于萌芽阶段,像是一个由技术爱好者组成的小团体,我觉得这里的氛围很适合我。我的公司经历了起起落落,最终成功被收购。现在我决定全职投入到加密货币领域,管理着一只名为 Canonical 的早期基金,专注于投资优秀的初创公司和创始人。最近,我特别关注人工智能和加密货币的交集。 Altan:你对加密货币和人工智能的交集非常感兴趣,能否谈谈链抽象在这一领域的重要性? Anand:我喜欢用类比来思考问题。一个不变的学习心得就是——历史不会重复,但会押韵。链抽象这个话题最近讨论很多,我认为这是必要的。如果看看区块链的发展历程,就会明白为什么链抽象在今天如此重要。 对我来说,过去互联网最大的突破是 Kubernetes 之类的东西。它作为一个抽象层,帮助在不同云平台之间部署、管理和扩展应用程序。这和现在的情况有点类似。开发者和用户需要链抽象,因为他们可能想利用某条链上的特性,而在另一个链上使用账户。这样一来,抽象就变得至关重要。我认为在 AI 方面可能有几个不同的切入点:一个是开发者的角度,另一个是用户的角度。 对于开发者来说,就是开发者是否需要学习特定链的编程范式,比如 WASM 和 Rust 等。链抽象能在这方面起到什么作用?或者说,是否可以使用 LLM 驱动的工具更高效地部署智能合约?这是一种思考方式。另一种则是用户交互,这也可以延伸到 Agent 的交互。我认为用户采用区块链的速度在大幅提升。虽然我们都知道有一定程度的机器人和农场操作,但我认为我们应该顺势而为,而不是抗拒这种机器人化。因为这是区块链所提供的固有特性,是 Agent 平台发挥作用的地方。它们需要代表用户进行交互,最终也会为了自己利用不同链所提供的功能。因此,我认为链抽象变得更加重要。 我们正在从互操作性过渡到链抽象,以便用户、开发者、用户和 Agent 都能轻松、简洁地利用各种链的功能。总的来说,我认为有两个思考方向。首先,用户是谁?是 Agent 吗?是需要使用这些平台的 AI 机器人吗?其次,我们如何使这些工具更加易用和可定制?这是另一个值得挖掘的需求。 AI Agent 与区块链的融合 Jared:我注意到你也把 AI Agent 视为用户,这非常有趣。区块链是一个很好的真相来源证明,这种不可变的记录与 AI 的无限创造力是否需要协同工作,以某种方式相互制约? Anand:可以说是,也可以说不是。「制约」这个词在区块链的理念中有很强的含义。我认为需要设定一些防御和操作模式,这很有意义。但同时,这取决于我们的定义。我们需要能够审计和验证这些 Agent 的构建和运作方式,这可能是最重要的。今天,我们对闭源系统及其运作方式知之甚少。因此,我们应该以更加开放、透明、可验证、可审核的方式运作,这是建立任何事物的基础。其次是防御,这些 Agent 需要在什么参数下运作?这在某种程度上就是「制约」。我认为我们不应该束缚它的创新部分,而是应该控制可操作性和可审计性部分。我认为这两者肯定是齐头并进的。 Jared:我觉得未来会是我和我的 AI Agent 团队一起工作,它们将比我自己更了解我。每天早上我都会和 AI 交流,帮助我组织一天的工作,这种情况只会越来越普遍。所以一个问题是,拥有用户所有的 AI 是否比公司所有的 AI 更重要,就像 NEAR 正在做的那样。你对这个领域有什么看法吗?我觉得这些 AI 会非常了解我,我希望它们是用户所有的,而不是其他形式。 Anand:从某种程度上来说,这是不可避免的。现在我们已经开始意识到 AI 的潜力,过去很长一段时间内我们只是理论化地讨论。就像尼尔·斯蒂芬森的《钻石时代》,书中的角色从小与 AI 一起长大。这将变得很自然,也是我们希望的状态。我们希望 Agent 能够帮助我们完成各种任务,比如昨晚有人在 Telegram 上给我发消息,我想知道该如何正确回复。机器的设计就是为了增强人类行为,但我们也需要考虑交给它们多少责任,让它们真正为我们工作。这些都是需要考虑的问题。用户所有的 AI 是事物发展的必然方向,因为你希望对这些东西如何运作有掌控权。数字孪生的概念今天越来越流行,为了实现这一点,它们需要了解你,并且需要以隐私为中心的方式运行。所有这些听起来都和我们在区块链世界中宣扬了十多年的东西完全一致,我觉得这两种技术正处于碰撞的轨道上。 Altan:假设在一个所有事情都由 Agent 完成的世界里,它们有自己的自主权进行操作。如果 Agent 正在执行某项任务,那么安全性从何而来?如何将这种链下操作的安全性转化为链上证明?对于 Agent 来说,是通过加密经济价值驱动安全性,还是通过零知识证明的方式用密码学来实现? Anand:在这种情况下,用例决定了流程图的样子。现实是,许多情况下 Agent 可以使用加密经济学自主运行,因为这更自然,也更本地化。任何时候需要使用链下或外部环境来操作链上事务时,只会增加复杂性。我们在使用预言机、证明者和链下计算方面做得越来越好,但这些还是增加了额外的复杂性。所以,我认为加密经济学更适合开始,但也可能有一些用例必须考虑链下流程。 我们有用户和 Agent、用户辅助的 Agent 及其操作模式,这些都需要被编码和验证,这就是区块链的用武之地。然后它们需要进行交易,如何相互交易?人类有银行账户一样,但这些 Agent 不知道银行是什么。对它们来说,钱包和加密货币将是第一选择。某些情况下,Agent 需要在信息不足的情况下运行,因此需要依靠人类补充缺失的信息。这就是链下计算变得真正重要的地方。我记得在 2023 年 9 月我们主办的一个会外活动上,有人非常简洁地表达了这样一个观点:在可预见的未来,我们将为 AI 工作。我记得他预测这种情况会在今年发生,虽然不确定能否实现,但已经开始发生了。Agent 会发布悬赏任务,让人类为其获取信息,并为此支付报酬。这将是一个非常有趣的未来图景。 这种感觉很科幻,有些地方甚至有点反乌托邦,但技术的进步速度前所未见。我不想显得自己像个老古董,但我必须说,我在 1999 年学习了一门叫 LISP 的编程语言,它被称为「AI 课程」。当时我们觉得机器人即将接管世界,我们将生活在一个飞行汽车遍布的未来世界。互联网刚刚兴起,我们认为事情会很快发展到那一步。然而,我们发现 AI 的发展和进步是缺失的。在 Transformer 模型出现之前和之后是两个截然不同的时代,数据的匮乏限制了模型的充分训练。 我之所以提到这些,是因为这些思考虽然一直感觉像科幻小说一样遥远,但现在它比以往任何时候都更接近现实。我们正在讨论的事情可能很快就会成真。作为一个纯粹的技术爱好者,我觉得这很激动人心,尽管可能显得有点天真。我觉得我们会变得超级高效,并专注于我们真正关心的事情,因为其他一切都将由这些智能的用户所有的模型和 Agent 完成。 AI Agent 面临的数据隐私挑战 Altan:另一个问题是,我们有很多中心化的公司。数据收集和处理主要由 Scale 完成,模型训练则由 OpenAI、Google 等主导,GPU 几乎完全由 Nvidia 一家垄断。面对如此巨大的资本和权力,我们如何取胜?如何去中心化? Anand:过去几十年的互联网生活给了我们很多启示。以 Google 为例,它是获取互联网信息的基石,但它的商业模型很有趣。尽管你在上面搜索,它会将你重定向到包含该信息的内容页面。但我们现在看到的智能水平正试图让你无需离开当前体验就能访问这些信息,比如 ChatGPT。上周几位记者开始讨论 Perplexity,因为它在实时总结新闻文章,并对文章的内容进行改写。这不仅仅是回溯信息或类似维基百科,而是真正的实时信息。Perplexity 或 Twitter(现称为 X) 的 Grok 都可以基于现有的数据模式给你实时的信息。 权力正在向中心化实体聚集。一方面,我们正走向一个缺乏透明度的中心化世界;另一方面,人们对这些中心化服务的隐私程度产生质疑。有人在 Reddit 上发帖称,他将 Nest Cam 接入公寓,收集视频片段交给 GPT-4 处理,GPT-4 可以实时告诉他钥匙等物品的位置。我觉得很酷,但也有点疯狂。使用中心化服务器处理家中的情况,这意味着你离数据泄露只有一步之遥。我们听说过很多起数据泄露事件,比如最近的 DocuSign 泄露事件。有些公司唯一的职责就是保护用户信息不被泄露,一旦发生泄露,后果不堪设想。想象一下,黑客入侵家庭内的视频摄像头,然后将数据传输到中心化服务上,默认情况下隐私保护是关闭的。你可能在不知情的情况下同意提供信息来优化这些模型。这些都是现存的问题,因此我们需要从中心化服务转向用户所有或协作管理这些模型和操作的方式。 你们希望 20、30 年后的世界是什么样子?Jared 说得很好,有一群 Agent 在为我工作,为我处理一堆事情。你希望这些 Agent 中有多少由一个试图将你的数据货币化的大型中心化实体来控制,而不是你自己拥有对它的所有权和控制权,同时又能实现所有的技术进步?这就是问题的核心,归根结底是所有权、数据隐私和自主权。 Altan: 数据隐私并非新生事物。2017 年 Google 尝试了联邦学习,声称不会提取用户数据,只是在用户设备上训练数据并将其发回中央服务器,这样他们就看不到用户数据了。但问题是,我的祖母或母亲并不关心这些。所以我在想,我们会不会出现分化?一些人漠不关心,而像我们这样精通科技的人,比如在加密领域工作的人,会非常关注。这是否就是未来的样子? Anand:普通用户的确不关心这些,100% 同意。即使是我们身边的人,甚至是科技圈内的人,今天也有很多人对此不够关注。但我们正经历一场技术革命和文艺复兴,作为开发者,我们有责任思考这些问题。因为我们在这里引领潮流。是要信任这些中心化实体,让他们垄断我们的数据,为他们自己的利益和用途服务,还是要在最终拥有某种所有权?一个更有前瞻性的例子是数据 DAO,这是一个越来越流行的概念。比如有家公司叫 Vana,他们就在考虑数据 DAO 的应用。 你提到的这种联邦学习,如果我能对此有一定的掌控感,我会觉得更安心。Union Square Ventures 的 Fred Wilson 大约在一年半前谈到过这些原语,比如钱包,可以用来签署交易或代表我执行某些操作。如果我们能利用这个类似的模式来处理我的数据,会怎样呢?这将开启某个过程,比如数据归属、数据贡献、数据加密或去除任何个人身份信息(PII)后用于训练。这些都是我们只需从第一性原理出发来进行的操作。 众所周知,OpenAI 并不真正开放,我认为其他模型如 Llama 也是同样的问题。问题在于,虽然这些模型公开了部分权重,但数据来源是什么?这些数据是如何训练的?贡献数据的人是否得到了补偿?他们是否自愿参与?目前的情况如何?我们应该为使用一个具有透明性和用户自主权的系统感到自豪。但这并不始于用户,因为用户通常不关心这些问题,而且我认为在可预见的未来他们也不会关心。尽管如此,我认为当今的一代可能比老一辈人更关心这些问题。我女儿和现在的年轻一代更关心气候等问题,因为这些问题影响着他们和他们的未来。因此,我认为当前的一代会关心这些问题,上一代可能不会。但让我们以这些原则为基础,建立一个更美好的未来。 Jared:隐私数据可能不会是吸引人们参与的关键,但你提到的价值是关键。区块链真正擅长的是创造价值或使价值显现,以一种中心化无法做到的方式捕捉价值。过去我们一直在 Web 2.0 的互联网环境中,像 Myspace 这样的平台通过耕作人们的数据获利,这就是我们都接受的商业模式。但现在,我们正经历一场革命和文艺复兴,正如你所说,我们可以让用户对自己的数据和行为有更多选择权。他们可以决定是否分享数据、参与 AI 训练,并从贡献中获得实际回报。区块链的低成本和高效率价值转移机制,为实现这一愿景提供了基础。 Anand:是的,我们都这样做了,并且习以为常,现在比以往任何时候都更加意识到这一点。我现在不使用 GPT 模型(这只是我个人的选择,请酌情参考),所有的推理都是在本地机器上完成的。我有一台 M2 芯片的 Mac,可以处理一些复杂的推理任务。 也许这有点偏执,但我的导师在 2000 年代告诉我,作为开发者,你需要保持一种健康的偏执。所以我总是带着这种心态工作。我希望看到更多的人拥有自主权,能够更多地自己操作这些数据。有一家叫 EXO 的公司,他们就是一个很好的例子。他们实现了在边缘设备上进行推理,或者让用户更好地管理和操作自己的数据。当然,我们也听说了,Apple 喜欢把一切都打上 Apple 的标签,所以他们现在称之为「Apple Intelligence」。很多事情会在边缘设备上完成,如果设备不能处理,才会使用 ChatGPT 或其他模型。用户数据离被分享给中心化服务,只有一步之遥。 我认为现有的中心化和去中心化模式都会共存,它们不是替代关系。这就像开源与闭源的争论,这是一个老套的例子,可以说像安卓对 iOS 一样。我们需要这些比较,以满足由于智能化而产生的各种需求。 加密 AI 的投资价值与未来展望 Altan:有很多人进入加密 AI 领域只是因为 AI 的炒作,他们只是想从中提取价值。作为投资者,你怎么看待这一点?从短期和长期来看,加密 AI 有什么价值? Anand:在加密领域的简短历史中,很少出现「赢家通吃」的情况。我们有很多优秀的 L1 网络,很多优秀的 L2 网络,还有很多正在涌现的 L3 网络。在区块链和加密技术领域,使用代币激励机制以差异化方式解决同一问题的情况并不罕见。这一思路起源于对计算资源,尤其是裸机计算资源访问的需求。以 Akash 为例,他们比大多数项目起步更早,是最可靠的裸机计算资源访问系统之一。这些计算资源可用于模型训练、推理等用途。 但随着发展,人们开始向技术栈向上迁移,转向更多以软件为中心的模式,例如以 API 为中心的方式。这有点类似于 Heroku 和 AWS 的区别:Heroku 更侧重于简化部署和快速上线,而 AWS 提供更底层的服务。人们渴望能够快速部署应用并立即投入使用,因此我们必须沿着这一方向不断演进。当前,我们看到许多唾手可得的目标正在被逐一达成,其中最突出的就是计算资源的获取。让我们迅速完成这一目标,在这个过程中可能会有一些赢家出现。市场结构不会是「短粗」的,而是会有「头部」和非常长的「尾巴」,即少数几个大赢家和大量的小玩家共存。 我对差异化和防御能力非常感兴趣。这是当今最重要的事情。我也要强调一点,如果你在 AI 领域花费了比加密领域更多的时间,并找到了高度防御性和差异化的应用,将其引入加密生态系统,或者利用加密经济学或加密原语来构建去中心化的 AI,这都非常有价值。因此,我认为这里并没有具体的短期或长期的行动呼吁。 对我来说,最重要的是人才,将那些背景靠谱的人引入这个领域。我们喜欢与那些聪明且有见解的人合作,构建一些非常难做到的东西,这样才能打造出差异化的产品并进入市场。 Jared:在你的行业日常工作中,有哪个领域是你认为应该受到更多关注,但你觉得很多人没有注意到的?可以是 AI 或加密货币领域。 Anand:对我来说是数据。数据在某些方面就像石油一样,是大规模系统运转的必需品,但我们往往视它为理所当然。这将持续成为问题,现有的中心化系统今天已经拥有了大型模型。如果我要赶上他们的水平会很难,因为他们有 30 年的数据积累,有成熟的系统可以从互联网上搜刮数据并训练模型。所以数据是我经常思考的问题。它有几个分支,包括用户贡献的数据和数据的来源。例如,Jared 的数据意味着什么?我们可以从用户和开发者两个角度来看待这个问题。 从开发者的视角,我举一个可能不太恰当的例子:假设我用一个训练好的模型进行推理,我希望模型能告诉我哪些不同的数据源为这次推理作出了贡献。这就像在调试模式下运行,我想弄清楚推理的依据是什么,模型为什么给我这样的答案。因为模型给出的不仅仅是一个网站链接,而是经过智能处理后的结果。我不理解这些智能信息的具体来源,因为要实现这一点,底层需要进行大量复杂的工作。但我认为,搞清楚这个问题对于理解模型的决策过程和提高其可解释性而言,是非常重要的一步。 能源问题则是现在和未来都需要关注的另一个方面。在扎克伯格接受 Dwarkesh 采访时,一个被反复提及的话题就是能源需求,以及我们如何想当然地对待能源消耗。中心化服务正在肆无忌惮地消耗能源,用数十亿瓦特的电力来训练模型,所有这些 GPU 都在全速运转。而那仅仅是训练阶段,后面还有推理。我不确定这个问题与区块链基础设施在哪个点上能产生联系,但我觉得这是开始解决这个问题的起点。我抛出这个问题,让别人来接住或逃避。 最后的忠告 Altan:如果有人在听这个播客,他们应该从中学到什么? Anand:我想说两点。第一,要为未来而建设。要有足够长的时间视野,因为我认为未来几年事物会发生很大变化。最聪明、最优秀的创始人会把自己放到未来,思考在短期内世界会需要什么。时间框架可能是六个月,也可能是两年。因为那些生活在未来的人对要构建什么以及如何实现有着非凡的见解。 第二点,我认为马克·安德森更简洁地表达了这个观点:最好的创始人往往能将他们的感知变为现实,你的工作就是努力说服别人。比如,我看到一个需要去中心化社交网络的世界,类似于 Farcast 之于 Twitter 的关系。在过去几年里,Dan 一直坚定不移地推动这一点。我认为像这样的具有远见的创始人能洞察未来,将他们的感知转化为现实,并向他人传播这种理念。如果你是这样的人,我很期待与你交流,了解你的想法,并为你能够领先一步,创建未来而喝彩。 原文链接 |