FX168财经网_全球视野外汇黄金加密货币NFT资讯网

。 ChatGPT 是被动的：用户说 X，ChatGPT 回应 Y。风险存在但有限。很快就会有主动系统 - 一个助手会替你回复电子邮件，代表你采取行动等。这样风险会更高。 - Percy Liang (@percyliang) 2023 年 2 月 27 日新模态。现在有大型开源视觉语言模型，如 OpenFlamingo，在商业方面，GPT-4 和 Flamingo 都接受了视觉和文本数据的训练。研究人员还在试验更多奇异的模态对，例如蛋白质和语言（Guo 等人，2023 年）。我们应该期望大型预训练模型的模式会继续扩展，原因有二。首先，在经济上，将语言与不太熟悉的模态（如蛋白质）配对有它的用处，这样用户就可以从解释并有效地进行编辑中受益。预测会用蛋白质、生物医学数据、CAD 模型以及与主要经济部门相关的任何其他模态进行多模态训练。其次，我们将开始用完语言数据，因此模型开发人员得搜索新类型的数据，从而可以继续受益于规模。除了传统的文本和视频之外，现有数据源当中天文数据（很快将达到每天艾字节得规模）和基因组数据（大约 0.1 艾字节/天）是规模最大之一。这些以及其他得海量数据源可能会被用于训练 GPT 2030。使用外来模态意味着 GPT 2030 可能会具备非直觉的能力。它可能比我们更了解恒星和基因，即尽管它现在处理基本的物理任务都比较困难。这可能会带来惊喜，比方说设计出新的蛋白质，这是我们基于 GPT 2030 那种“一般”智能水平预料不到的。在思考 GPT 2030 的影响时，重要的是要思考由于这些奇异的数据源而可能形成的超人能力。执行器。模型也开始使用物理的执行器：ChatGPT 已经用于机器人控制，OpenAI 正在投资一家人形机器人公司。不过，在物理域收集数据要比在数字域收集数据昂贵得多，而且人类在进化上也更适应物理域（因此机器学习模型与我们竞争的门槛更高）。因此，与数字工具相比，我预计人工智能掌握物理执行器的速度会更慢，而且我不确定我们是否该在 2030 年之前做到这一点。量化而言，我认为在 2030 年实现自主组装一辆按比例复制的法拉利的概率是 40%。 6. GPT-2030 的影响接下来我们将分析像 GPT 2030 这样的系统对社会意味着什么。具备 GPT 2030 特征的系统至少会显著加速某些领域的研究，同时被滥用的规模也大得很。我会从分析 GPT 2030 的一些一般优势和局限性开始，然后用来作为分析加速和滥用的视角。优势。GPT 2030 代表的是一支庞大、适应性强、高产出的劳动力队伍。回忆一下吧，多个 GPT 2030 副本并行工作，按照 5 倍于人类的运行速度，可以完成 180 万年的工作。这意味着我们可以（受到并行性的限制）模拟 180 万个代理，每个代理在 2.4 个月内即可完成一年的工作。如上所述，对于 FLOP （浮点运算），我们可以开出 5 倍的费用，从而换取额外 25 倍的加速（这将达到人类速度的 125 倍），因此我们还可以模拟出 14000 个代理，这些代理每个都能在 3 天内完成一年的工作。限制。利用这种数字劳动力存在三个障碍：技能情况、实验成本以及自主性。首先，GPT 2030 将拥有与人类不同的技能组合，导致它在某些任务上表现更差（但在其他任务上表现更好）。其次，模拟人工仍然需要与物理世界对接，以便收集数据，这个本身需要时间和计算成本。最后，在自主性方面，如今的模型在被“卡住”之前只能通过思维链生成几千个 token，进入到没法生成高质量输出的状态。在将复杂任务委托给模型之前，我们需要显著提高其可靠性。我预计可靠性会提高，但并非没有限制：我（非常粗略）的猜测是 GPT 2030 可以稳定运行数天（与人类等效的时间），然后就得重新设置或交给外部反馈控制。如果模型以 5 倍的速度运行的话，这意味着它们每隔几个小时就需要人工监督的介入。因此，GPT 2030 影响最大的任务应该具备以下特性：利用了 GPT 2030 相对于人类具备优势的技能。只需要外部经验数据（收集应该很轻松快速，与昂贵的物理实验相反）的任务。可以先验分解为可靠执行的子任务，或者具有清晰且可自动化的反馈指标来帮助引导模型的任务。加速。有项任务这三条标准都很容易满足，那就是数学研究。首先，GPT 2030 可能具备超人的数学能力（第 1 节）。这第二条和第三条，数学可以纯粹通过思考和写作来完成，而且什么时候定理得到证明我们是知道。此外，全球的数学家总共也没多少（比方说美国就只有 3000 人左右），因此 GPT 2030 也许每隔几天模拟一次产出就能超过所有数学家的年产。机器学习研究的一些重要部分也符合上述标准。GPT 2030 在编程方面能力超人，其中包括实施和运行实验。鉴于 GPT-4 擅长以通俗易懂的方式解释复杂的主题（并且市场对此也有很大需求），我猜它也能很好地呈现和解释实验结果。因此，届时机器学习研究可能会简化成构思出好的实验来运行，并与高质量（但可能不可靠）的结果报告进行交互。因此，到 2030 年时，研究生拥有的资源堪比今天带领几名优秀学生的教授手上的资源。部分社会科学也可以得到显著加速。很多论文大部分的工作是对具备科学有趣性的数据源进行追查、分类和标记，并从中析取出重要模式。这满足了第 3 条要求，因为分类和标记可以分解为简单的子任务，并且也满足第 2 条要求，只要数据在互联网上能找到，或者可以通过在线调查收集到即可。滥用。加速只是一方面，另一方面也会存在严重的滥用风险。最直接的案例是表现出网络攻击性的黑客能力。检查特定目标是否存在特定类型的漏洞可能会得到可靠执行，并且很容易就能检查漏洞利用是否成功（前提是能够与代码交互），因此第 3 条要求是都可以满足的。在第 2 条要求上，GPT 2030 需要与目标系统交互去了解漏洞利用是否有效，这会带来一些成本，但不足以构成重大瓶颈。此外，该模型可以在本地设计好，以开源代码作为训练数据源，去测试漏洞利用，因此它可以提前练好黑客攻击技能，然后再与外部系统进行交互。也就是说，GPT 2030 可以针对大量并行目标快速执行复杂的网络攻击。滥用的第二个来源是操纵。如果 GPT 2030 同时与数百万用户进行交互的话，那么它在一个小时内获得的人机交互体验比人一生（100 万小时 = 114 年）获得的交互体验都要多。如果它利用这些交互来学习如何操纵，那么它就可以获得远超人类的操纵技能——打个比方，骗子擅长欺骗受害者，因为他们之前已经在数百人身上练习过，而 GPT 2030 可以将这项技能提高几个数量级。因此，它可能非常擅长在一对一对话中操纵用户，或者擅长撰写新闻文章来影响公众舆论。因此，总而言之，GPT 2030 可以将几乎所有的数学研究以及其他研究领域的重要组成部分自动化，并且可能成为网络攻击和说服/操纵等滥用行为的强大载体。其大部分影响将受到“监督瓶颈”的限制，因此如果人工智能可以长时间自主运行的话，那么它的影响可能会更大。来源：金色财经

24小时热点