FX168财经网_全球视野外汇黄金加密货币NFT资讯网

巨头AI混战背后 “卖水的”赚麻了

在做的很多事情都建立于超级AI计算机和大型语言模型之上，这是AI领域的一道分水岭。“黄仁勋GTC大会上这样说道。而他也将2023这个时间节点传神地形容为”iphone时刻。“ 这段时间以来，对于ChatGPT、AIGC的讨论已经不少。技术、需求、产业链的前置条件逐渐成长到了临界点，于是这个早就存在的事物被推入更广泛的视野中。不管是比尔盖茨的”ChatGPT出现的意义，不亚于互联网和个人电脑的诞生“，还是马斯克”我们离强大到危险的人工智能不远了“的论调，显然都将其放在了一个极高的位置。就在21号，比尔盖茨又对ChatGPT及其相关技术发表了看法，他在博客文章《人工智能时代已经开启》中表示，自1980年首次看到图形用户界面（graphical user interface）以来，OpenAI的GPT人工智能模型是他所见过的最具革命性的技术进步。 ”我知道我刚刚看到了自图形用户界面以来最重要的技术进步，“盖茨表示，”人工智能的发展与微处理器、个人电脑、互联网和移动电话的诞生同样重要。它将改变人们工作、学习、旅行、获得医疗保健以及沟通交流的方式。整个行业都将围绕它重新定义，企业也将通过如何使用GPT来进行划分。“ 并且技术迭代得越来越快，这也加速了各方的紧迫感，就拿GPT—4说，OpenAI曾经表示过，他们于2022年8月完成了模型训练，此后一直在进行迭代优化。仅仅六个月后，GPT-4横空出世，各项能力就均有了大幅提升。在安全性上，相较于GPT-3.5，GPT-4不合规内容的响应请求降低了82%，响应准确度提高了40%；事实性上，GPT-4的得分高出了40%。不过，对于中国会不会再出一个打造ChatGPT的组织OpenAI，李彦宏在对 36氪的回应中表示，基本不会了。他说，OpenAI诞生是因为美国大厂都不看好这个方向，但现在中国的大厂都看好AI大模型，都在做这个方向。创业公司重新做一个ChatGPT其实没有多大意义，基于大语言模型开发应用机会很大，没有必要再重新发明一遍轮子。李彦宏认为，大模型时代，最大的创业机会在应用。移动互联网时代，操作系统其实没几个，最成功的是微信、抖音、淘宝这些应用。未来十年，可能诞生价值十倍于这些应用的机会。目前 ChatGPT 已经在内容创作、办公辅助、游戏产品等多种场景中得到应用，未来还将赋能智能驾驶、人形机器人等领域，在To B 和 To C端都前景广阔。据Gartner 预计，到 2025 年 AIGC 将占据所有生成数据的 10%。据 Frost & Sullivan 和头豹研究院测算，2021 年中国对话式 AI 市场规模为 82.7 亿元，到 2026 年有望增长至 265.8 亿元，CAGR 达 26.3%。任正非也曾公开表示，要多关注应用，表示”模型的应用有时比模型本身还有前途。“ 来源：金色财经

金色财经2023-03-30

连Meta都在搞AI 谁还记得元宇宙？

专注于构建生成式AI，并在2月宣布推出大型语言模型LLaMA。媒体分析指出，因为元宇宙所需要的昂贵硬件及不稳定的技术，叠加经济状况的逐步恶化，让投资者不再寄希望于Meta能够依靠元宇宙带来稳定收入。过去一年，Meta遭遇了股价和业绩的剧烈波动，其市值自高位跌去6成，蒸发了约8000亿美元。因为超预期的支出计划，扎克伯格被众多投资人“谴责”。很快，Meta裁员13%的计划公布，扎克伯格公开道歉，承诺会减少开支，并称在元宇宙投资上会更理性。在上个月的财报后电话会议上，扎克伯格称他并没有放弃元宇宙，元宇宙是继AI之后的长期关注点： “推动我们发展的两大技术浪潮是今天的人工智能，从长远来看，是元宇宙。” 在电话会议上，“人工智能”被提到了28次，“Metaverse”这个词仅被提及7次。与Meta相似，已经收缩或正在收缩元宇宙业务的科技公司，都将“降本增效”作为理由。今年1月，微软缩减旗下的元宇宙业务，2017年收购的跨平台的3D在线社交空间—— AtlspaceVR首当其冲成为了 “弃子”之一，于3月10日关闭。在本轮微软的裁员潮中，多条元宇宙业务线被砍。除了AltspaceVR，微软旗下全息图像捕捉工作室Mixed Reality Capture Studio也遭遇裁员，用于 VR 和 AR 开源接口的混合现实工具包（MRTK）背后的团队被裁撤。除此之外，MR混合现实头显HoloLens的团队也受到了裁员影响。世界首富、微软创始人比尔·盖茨近期公开表示：ChatGPT出现的意义，不亚于互联网和个人电脑的诞生，人工智能具有革命性，是一项重大技术。Web3没那么重要，元宇宙不具有革命性。然而，就在两年前，比尔·盖茨曾预测：元宇宙将极大地改变未来人们的工作，远程办公会把更多人拉进元宇宙。 ChatGPT是下一个元宇宙吗？华尔街见闻此前分析指出，ChatGPT为代表的AI的爆火与元宇宙和NFT的本质不同在于：对许多人来说，元宇宙仍然是一个模糊的概念，但AI的底层技术技已在各个行业被运用了二十年，正在经历技术迭代和加速发展阶段，从软件工程到财务等众多领域。因此，尽管此次AI爆火仍然存在泡沫，但不可否认的是其并不会像元宇宙和NFT那样存在“炒概念”之嫌。华泰电子团队分析指出，是否拥有大模型将成为科技巨头/科技平台企业的重要分水岭，未来科技巨头之间将展开大模型军备竞赛，科技公司远期投资价值或将被重新定义。这与两年前投资者们谈及元宇宙时情形相似，即：乐观派的声量超过了保守派和悲观派。因此，ChatGPT会否步元宇宙后尘，答案只能等时间揭晓。不过，可以确定的是，技术、应用从成熟到诞生，再到大规模普及，都必须“静”下心来。来源：金色财经

金色财经2023-03-30

为什么人工智能需要暂停？

问题的关注。　　生成式人工智能指的是大型语言模型（llm）根据人类请求创建原创内容的能力。现在，人工智能生成的内容包括图像、艺术作品、视频、散文、诗歌、计算机软件、音乐和科学文章。在过去，生成式内容令人印象深刻，但没有人会把它误认为是人类的创造。这一切在过去的12个月里都改变了。人工智能系统突然能够创造出可以轻易欺骗我们的人工制品，让我们相信它们要么是真实的人类创造，要么是真实的视频或在现实世界中捕捉到的照片。这些能力目前正在大规模部署，并给社会带来了许多重大风险。　　最明显的风险是就业市场。由于LLM系统创造的产品令人印象深刻，专业人士现在将其称为“人类竞争情报”，可以取代原本创造内容的工作人员。这种发展影响了广泛的职业，从艺术家和作家到计算机程序员和金融分析师。事实上，Open AI、OpenResearch和宾夕法尼亚大学的一项新研究通过比较GPT-4能力和工作要求，探索了人工智能对美国劳动力市场的影响。该研究的作者估计，20％的美国劳动力至少有50％的任务将受到GPT-4的影响，高收入的工作将面临更大的影响。　　迫在眉睫的对就业的影响令人担忧，但这不是我签署暂停信的原因。我对劳动力的担忧是，人工智能生成的内容看起来和感觉起来都是真实的，而且经常给人权威的印象，但它很容易出现事实错误。没有准确的标准或管理机构来帮助确保这些将成为劳动力的主要组成部分的系统不会将错误从细微的错误传播到疯狂的捏造。我们需要时间来落实保护措施，并加强监管机构，以确保保护措施得到落实。　　下一个最明显的风险是，不良行为者可能会故意创建带有事实错误的内容，作为战略影响力活动的一部分，传播错误信息、虚假信息和彻头彻尾的谎言。这种风险并不新鲜，但生成式人工智能所实现的规模却是新的。看起来很权威但完全是捏造的内容充斥着这个世界，这是非常容易的。这种风险也延伸到了深度造假上，在深度造假中，公众人物可以在看起来逼真的视频中做任何事或说任何话。随着人工智能技术越来越熟练，公众将无法区分真假。我们需要水印系统和其他技术来区分人工智能生成的内容和真实内容。我们需要时间来建立和使用这些保护措施。　　对话式人工智能系统带来了一系列独特的风险。这种形式的生成式人工智能可以通过文本聊天和语音聊天与用户进行实时对话。这些系统最近已经发展到人工智能可以与人类进行连贯的对话，并随着时间的推移跟踪对话流程和上下文。这些技术是我最担心的，因为它们引入了一种监管机构没有准备好的全新影响力运动形式——对话影响力。　　每个销售人员都知道，说服别人买东西或相信东西的最好方法是与他们交谈，这样你就可以阐述你的观点，观察他们的反应，然后调整你的策略来解决他们的阻力或担忧。随着GPT-4的发布，现在很明显，人工智能系统将能够让用户参与真实的实时对话，作为一种有针对性的影响形式。我担心的是，第三方使用api或插件将促销目标传递到看似自然的对话中，毫无疑虑的用户将被操纵购买他们不想要的产品，注册他们不需要的服务，或者相信不真实的信息。　　我称之为“人工智能操纵问题”。在很长一段时间里，这只是一个理论上的风险，但现在的技术可以部署个性化的对话影响力活动，根据用户的价值观、兴趣和背景来定位用户，以推动销售、宣传或误导信息。事实上，我担心人工智能驱动的对话影响力将成为人类有史以来最强大的有针对性的说服形式。我们需要时间来落实保护措施。就我个人而言，我认为这些保护措施可能需要制定法规，禁止或严格限制使用人工智能介导的对话影响力。　　所以是的，我在信上签了名。毕竟，我很清楚，由人工智能系统引起的新的快速发展的风险发展得太快，以至于人工智能社区，从研究人员和行业专业人士到监管机构和政策制定者，都无法进行调整。　　这封信会起作用吗？我不清楚该行业是否会同意暂停六个月，但这封信已经引起了人们对这个问题的关注。就我个人而言，我认为我们需要尽可能多地敲响警钟，以唤醒监管机构、政策制定者和行业领导者。他们需要采取行动。在其他时候，更细微的警告就足够了，但这项技术进入市场的速度比我经历过的任何事情都要快。这就是为什么我们需要暂停一下，迎头赶上。我们需要时间。

金融界2023-03-30

AI恐摧毁人类文明？马斯克、苹果联合创始人等科技大佬呼吁暂停“危险竞赛”

国初创公司OpenAI开发的最新版本的大型语言模型软件。#ChatGPT火爆全网# “当代人工智能系统现在在一般任务上变得与人类竞争，我们必须问自己:我们应该让机器用宣传和谎言淹没我们的信息渠道吗?”信上写道。 “我们应该用自动化取代所有的工作，包括那些令人满意的工作吗?我们是否应该发展非人类思维，让它们最终在数量上、智力上超过我们、被淘汰并取代我们?我们是否应该冒着失去对我们文明控制的风险?” 信中还说，“这样的决定不能委托给未经选举产生的科技领袖。” 生命未来研究所是一家总部位于马萨诸塞州剑桥市的非营利组织，致力于人工智能的负责任和道德发展。它的创始人包括麻省理工学院的宇宙学家泰格马克(Max Tegmark)和Skype的联合创始人塔林(Jaan Tallinn)。该组织此前已经让马斯克和谷歌旗下的人工智能实验室DeepMind等人承诺永远不会开发致命的自主武器系统。该研究所表示，它呼吁所有人工智能实验室“立即暂停至少6个月对比GPT-4更强大的人工智能系统的训练。” 本月早些时候发布的GPT-4被认为比其前身GPT-3先进得多。 “如果这样的暂停不能迅速实施，政府应该介入并实施暂停，”它补充道。热门人工智能聊天机器人ChatGPT能够对用户提示做出类似人类的回应，这让研究人员感到震惊。到今年1月，ChatGPT推出仅两个月就拥有1亿月活跃用户，成为历史上增长最快的应用程序。这项技术接受了来自互联网的大量数据的训练，并被用于创作从莎士比亚(William Shakespeare)风格的诗歌到起草法庭案件的法律意见等各种事情。但人工智能伦理学家也对该技术可能被滥用表示担忧，比如抄袭和错误信息。在生命未来研究所的信中，技术领袖和学者表示，具有人类竞争智能的人工智能系统“对社会和人类构成了深刻的风险”。他们说:“人工智能的研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、强大、一致、值得信赖和忠诚上。” 据报道，由微软支持的OpenAI获得了这家位于华盛顿雷德蒙德的科技巨头100亿美元的投资。微软还将该公司的GPT自然语言处理技术集成到必应(Bing)搜索引擎中，使其更具会话性。谷歌随后宣布了自己的对抗性会话人工智能产品，名为谷歌Bard。马斯克此前曾表示，他认为人工智能是人类文明面临的“最大风险”之一。 2015年，他与萨姆·奥特曼(Sam Altman)等人共同创立了OpenAI，不过他于2018年离开了OpenAI的董事会，不再持有该公司的股份。他最近多次批评该组织，说他认为该组织偏离了其最初的目的。随着人工智能技术的快速发展，监管机构也在竞相掌握人工智能工具。周三，英国政府发布了人工智能白皮书，要求不同的监管机构根据现有法律对各自领域的人工智能工具的使用进行监督。

市场焦点2023-03-30

【美股盘中】三大股指齐头并进美光科技财报提振半导体板块科技股强势回弹

告诉投资者：“最近人工智能领域的发展为大型语言模型（LLMs）（例如ChatGPT）的转型能力提供了令人兴奋的前景，这些模型需要大量的内存和存储空间来运行。我们只处于这些人工智能技术的广泛部署的非常早期阶段，商业用例的潜在指数级增长才刚刚开始。” 与此同时，Lululemon的股价周三上升了13%，此前公布的业绩超出预期，第四季度收入增长30%，可比店面销售额增长27%。在经济数据方面，全美房地产经纪人协会的待完成房屋销售数据显示，2月份合同房屋连续第三个月上升。区域性银行普遍上升，SPDR S&P区域性银行ETF(KRE)涨幅超过1%。花旗集团和高盛等大型银行也走高。基准10年期国债收益率跌至3.5%，短期2年期国债收益率回落至4.05%。这些下跌发生在两端的收益率都上升的第二天，给之前更广泛的股市带来压力。主要股指周二下跌，因为一些投资者担心利率上升可能使经济陷入衰退，尽管华尔街试图度过本月的区域银行业危机。周三原油价格波动较大，早盘交易价格在74美元上方易手后接近73美元。比特币(BTC)也明显走高，上升超过5%至28,000美元上方。今年到目前为止，比特币已经上升了70%以上。

阿泰尔2023-03-30

年薪33.5万美元的“提示工程师”随ChatGPT风潮在求才市场炙手可热

s Inc．等公司已经创建了十多种称为大型语言模型（LLM）的人工智能语言系统。该技术已从实验迅速转向实际运用，例如微软公司将ChatGPT整合到其Bing搜索引擎和 GitHub软件开发工具中。　　随着这项技术的普及，许多公司发现他们需要有人来为他们的结果增加严谨性。　　Accenture旗下Mudano的提示工程师Albert Phelps说，提示工程师经常拥有历史、哲学或英语语言的背景，因为这是文字游戏。这些人试图将某物的本质或意义提炼成有限的单词。

金融界2023-03-30

JZL Capital数字周报第12期 03/27/2023存量资金博弈,市场震荡

克利和麦吉尔等。他们在AI领域拥有7项大型语言模型与图学习算法的专利和论文。此外，加拿大工程院院士、Tinder前首席科学家Steve Liu是创始团队的成员，并担任首席科学家 rct AI 成立于 2018 年的 rct AI，它是一家主要为游戏行业提供 AI 技术解决方案的服务商，其核心技术混沌球（Chaos Box）是⼀个基于深度强化学习的 AI 叙事引擎，可以帮助游戏制作方大规模地生成具有不同行为模式和台词对话的智能 NPC，智能生物体以及智能环境，目前服务了阅龙智娱、悠米娱乐等 20 多家游戏工作室。基于 AI 技术，rct AI 海外业务尝试布局了 Web3 游戏相关的生态圈项目: Mirror World: 是由互操作性 SDK 层驱动的游戏矩阵，旨在帮助 Web2 开发者低代码的完成 Web3游戏开发。Mirror World 游戏矩阵是由多款资产互通加密游戏组成的虚拟游乐场，将同时让所有用户获得多种休闲游戏体验和加密现实收益；Mirror World 移动端 SDK 是一套跨平台工具，旨在帮助开发者更有效、更容易、更经济地整合区块链技术。22年 3 月融了 400 万美金，目前大概有三四十个人的团队在运营。 Delysium:3A级链游，它强调多元化和 3A开放世界 MMORPG体验，包括战斗、探索、建造、培养、社交和人工智能驱动的 MetaBeing 游戏，推动链游行业进入下一个阶段。这个项目也在 22年3 月份融了 400 万美金，目前团队超过 150人。 Delysium 中采用了一套新的发行模式。在这个游戏中，游戏分为 **experience layer（体验层）、data layer（数据层）和 Incentive layer（激励层）**三个层面。experience layer 是这个游戏本身的内容，用户在 experience layer 产生数据，输送到 data layer，最后再到 incentive layer。在这个模式下，experience layer 和 incentive layer 是分开的。游戏中的组织可以自行吸引用户进入游戏，并根据自己本地化的特点设置不同的激励策略，以及不同的代币系统。平台在得到用户产生的数据后会将数据返还给组织，由组织根据自己的激励规则进行代币分配。这是一个不断自我革新的游戏系统。 AIGC相关亮点：通过简单设计并调整不同的参数，rct AI的混沌球（Chaos Box）算法可以在游戏中大规模地轻松生成具有智能意识的虚拟角色。他们的行为和对话不会重复，皆为动态生成。在游戏场景中，部署具有不同性格的智能 NPC，通过对话、行为等动态交互，增加玩家的游戏时长，同时提供新的变现途径。具体包括性格化NPC、对抗式 AI、互动式AI、大规模智能 NPC 部署、智能留存及智能运营策略等。目前，rct AI已凭借核心技术Chaos Box帮助了10余家企业，完成包括对战游戏、虚拟人铸造等多种类型的项目，与世界范围内 20+ 游戏厂商建立了深入合作，触达超过 2 亿用户。关于我们 JZL Capital 是一家注册于海外，专注区块链生态研究与投资的专业机构。创始人从业经验丰富，曾经担任过多家海外上市公司 CEO 和执行董事，并主导参与过 eToro 的全球投资。团队成员分别来自芝加哥大学、哥伦比亚大学、华盛顿大学、卡耐基梅隆大学、伊利诺伊大学香槟分校和南洋理工大学等顶尖院校，并曾服务于摩根士丹利、巴克莱银行、安永、毕马威、海航集团、美国银行等国际知名企业。【免责声明】市场有风险，投资需谨慎。本文不构成投资建议，用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。来源：金色财经

金色财经2023-03-29

最容易受ChatGPT影响的职业

GPT对于职业的影响程度，该技术由称为大型语言模型的软件提供支持，可以分析和生成文本。他们分析了 GPT（生成式预训练变压器）和包含它们的软件可以将完成任务所需的时间减少至少 50%。研究发现，最先进的 GPT 在翻译、分类、创意写作和生成计算机代码等任务中表现出色。他们发现，大多数工作都将在某种程度上受到GPT的影响，生成式人工智能可以帮助80%的工人完成职业中的至少一项工作任务。他们发现，与信息处理有关的职位，例如公共关系专员、法庭记录员和区块链工程师等，受到的影响最大。而受该技术影响最小的工作包括快餐厨师、摩托车维修工和石油和天然气工人。为了得出结论，研究人员使用了政府的职业及其相关活动和任务数据库，并对人和人工智能对活动和任务进行了曝光水平的评估。加州大学圣巴巴拉分校的助理教授马特·比恩 (Matt Beane) 表示，研究人员没有预测哪些工作将会消失，也没有预测哪些人会因此失去工作。他说：“研究技术对于职业的影响无法预测劳动力市场会发生什么变化以及变化的速度。因为，人类会拒绝损害他们利益的变化”。因此，实施新技术的过程通常充满谈判、抵制、恐惧和希望。助理教授Beane说，“新技术的出现所带来的真正的挑战在于公司、学校和政策制定者如何帮助人们适应。例如，培训工人有效地与技术协作，重新设计工作以提高许多职位的自主性、工资和职业前景等。” 虽然许多雇主担心该技术的安全性和准确性，但是仍然有许多个人用户已经开始使用生成式人工智能来更快地工作。来自弗吉尼亚州里士满市的32岁的广播工程师迈克尔·夸什（Michael Quash）表示，当他使用ChatGPT来完成单调的任务或解决复杂的编码问题时，他发现工作效率变高了。他说：“ChatGPT可以成为一种效率的倍增器。” 他的雇主Audacy Inc.表示，正在让员工试用该工具。Audacy的首席技术官Sarah Foss说“与许多媒体公司一样，我们相信 ChatGPT 对某些流程具有价值。” 最近的其他研究还发现，生成式人工智能可以节省大量时间并产生比人类更好的结果。在麻省理工学院的一项实验中，研究人员对受过大学教育的专业人士进行了研究，将444名付费撰稿人、营销人员、顾问、人力资源专业人员和其他工作人员分为两组。两组人都被要求完成简短的书面任务，而其中一组可以使用ChatGPT来完成。那些有权访问 ChatGPT 的人完成任务的速度比无法使用ChatGPT的人提高了 10 分钟。根据这项于 3 月发布且尚未经过同行评审的研究，评估这些作业质量的外部读者表示，得到AI协助的工作者比另一组做得更好。微软公司研究人员上周发表的另一篇论文对OpenAI工具的最新版本GPT-4进行了分析，发现它在数学、编程、医学、法律和心理学等领域解决“新颖和困难的任务”的水平与人类相当。技术面试平台 CoderPad 的首席执行官阿曼达·理查德森（Amanda Richardson）表示，她已经使用 ChatGPT 编写幻灯片，用于她关于技术领域的演讲。这个工具可以创建基本的大纲，然后她可以根据需要查找具体细节，以制作更具说服力的演示文稿。 CoderPad的客户是想要招聘人才的企业。他们要求求职者使用CoderPad展示他们的技术能力。Richardson建议客户将ChatGPT明确地纳入面试流程中：让求职者使用ChatGPT来解决问题，然后让他们批判ChatGPT的答案。这份代码是否存在任何安全漏洞？是否可扩展？有什么好的或者坏的地方？Richardson说：“使用这种办法面试有利于提高开发效率。” 来源：金色财经

金色财经2023-03-29

OpenAI进军人形机器人领域 ChatGPT为人形机器人注入“灵魂”

AI公司开发的一个GPT-3.5架构的大型语言模型，通过强化学习训练人工智能聊天机器人程序，能够广泛应用于业界和客户服务，基于Transformer架构的强大算力的语言模型，具有深度学习特质，葆有出色的语言理解和文本对话生成能力，ChatGPT的语言理解和生成水平的便捷性或带来人形机器人下一拐点。　　浙商证券表示，人形机器人有望推动产业链内公司快速成长，未来特斯拉机器人进一步降本国产零部件有望持续受益，重点推荐：1）双环传动：国内齿轮龙头，特斯拉国产电动车齿轮独家供应商，有望在RV领域进一步与特斯拉开展合作；2）绿的谐波：谐波减速器国产化突破者，盈利能力行业领先；3）埃斯顿：国产机器人龙头，高端传动系统自主可控；关注汇川技术、禾川科技、鸣志电器、江苏雷利、中大力德、汉宇集团、拓普集团、三花智控。

金融界2023-03-28

OpenAI官方解读ChatGPT插件：语言模型的“眼睛和耳朵”

带来重大的新风险。插件提供了解决与大型语言模型相关的各种挑战的潜力，包括“幻觉”，跟上最近的事件，以及访问（经许可的）专有信息源。通过集成对外部数据的显式访问——例如在线最新信息、基于代码的计算或自定义插件检索信息——语言模型可以通过基于证据的参考来加强它们的响应。这些参考资料不仅增强了模型的实用性，还使用户能够评估模型输出的可信度并仔细检查其准确性，从而有可能减轻与我们最近的 GPT-4 系统卡片中讨论的过度依赖相关的风险。最后，插件的价值可能远远超出通过帮助用户处理各种新用例（从浏览产品目录到预订航班或订购食物）的现有限制。与此同时，插件可能会采取有害或无意的行动，增加不法分子欺诈、误导或虐待他人的能力，从而增加安全挑战。通过增加可能的应用范围，插件可能会增加因模型在新领域中采取的错误或错误协调操作而产生负面后果的风险。从第一天起，这些因素就指导了我们插件平台的开发，我们实施了多项保障措施。从第一天起，这些因素就指导了我们插件平台的开发，我们实施了多项保障措施。我们已经在内部和与外部合作者进行了红队演练，揭示了许多可能的相关场景。例如，我们的红队发现了插件的方法——如果在没有安全措施的情况下发布——执行复杂的提示注入、发送欺诈和垃圾邮件、绕过安全限制或滥用发送到插件的信息。我们正在使用这些发现来通知安全设计缓解措施，这些缓解措施限制了有风险的插件行为，并提高了它们作为用户体验的一部分运行的方式和时间的透明度。我们还使用这些发现来告知我们逐步部署对插件的访问的决定。如果你是一名研究人员，有兴趣研究该领域的安全风险或缓解措施，我们鼓励你使用我们的研究人员访问计划。我们还邀请开发人员和研究人员提交与插件相关的安全和功能评估，作为我们最近开源的Evals 框架的一部分。插件可能会产生广泛的社会影响。例如，我们最近发布了一份工作论文，其中发现能够使用工具的语言模型可能比没有工具的语言模型产生更大的经济影响，更普遍地说，根据其他研究人员的发现，我们预计当前的人工智能技术浪潮将对工作转变、替代和创造的速度有很大影响。我们渴望与外部研究人员和我们的客户合作研究这些影响。浏览Alpha 一个知道何时以及如何浏览互联网的实验模型受过去工作（我们自己的WebGPT，以及GopherCite，BlenderBot2，LaMDA2和其他）的启发，允许语言模型从互联网上读取信息严格扩展了他们可以讨论的内容量，超越了训练语料库的新鲜信息。这是向 ChatGPT 用户开放浏览体验的一个例子，以前会让模型礼貌地指出它的训练数据没有包含足够的信息来让它回答。在这个示例中，ChatGPT 检索有关最新奥斯卡颁奖典礼的最新信息，然后执行现在熟悉的 ChatGPT 操作，这是浏览可以成为一种附加体验的一种方式。 ChatGPT浏览插件演示除了为最终用户提供明显的实用性之外，我们认为使语言和聊天模型能够进行彻底和可解释的研究具有可扩展对齐的令人兴奋的前景。浏览最新信息安全考虑我们已经创建了一个网络浏览插件，它可以让语言模型访问网络浏览器，其设计将安全性和作为网络良好公民的操作放在首位。该插件的基于文本的 Web 浏览器仅限于发出 GET 请求，这减少（但不会消除）某些类别的安全风险。这将浏览插件的范围限定为可用于检索信息，但不包括“事务性”操作，例如表单提交，这些操作具有更大的安全性和安全性问题。浏览插件使用bing搜索 API 从 Web 检索内容。因此，我们继承了 Microsoft 在 (1) 信息来源可靠性和真实性以及 (2) 防止检索有问题内容的“安全模式”方面的大量工作。该插件在一个独立的服务中运行，因此 ChatGPT 的浏览活动与我们基础设施的其余部分是分开的。为了尊重内容创作者并遵守网络规范，我们的浏览器插件的用户代理令牌是ChatGPT-User，并配置为尊重网站的 robots.txt 文件。这可能偶尔会导致“点击失败”消息，这表明该插件正在遵守网站的指示以避免对其进行抓取。此用户代理将仅用于代表 ChatGPT 用户采取直接操作，而不用于以任何自动方式抓取网络。我们还发布了IP 出口范围。此外，已实施限速措施以避免向网站发送过多流量。点击失败您可以使用 robots.txt 文件阻止 ChatGPT 抓取你的网站，当发生这种情况时，ChatGPT 将显示此错误消息。我们的浏览插件显示访问过的网站，并在 ChatGPT 的回复中引用其来源。这种增加的透明度层有助于用户验证模型响应的准确性，并回馈内容创建者。我们赞赏这是一种与网络交互的新方法，并欢迎就其他方法将流量拉回来源并增加生态系统的整体健康状况提供反馈。代码解释器一个可以使用 Python 处理上传和下载的实验性 ChatGPT 模型我们为我们的模型提供了一个在沙盒、防火墙执行环境中工作的 Python 解释器，以及一些临时磁盘空间。由我们的解释器插件运行的代码在一个持久会话中进行评估，该会话在聊天对话期间一直有效（具有上限超时），后续调用可以相互构建。我们支持将文件上传到当前对话工作区并下载您的工作结果。执行逻辑计算的代码解释器插件我们希望我们的模型能够使用它们的编程技能为我们计算机的最基本功能提供更自然的接口。接触到以指尖的速度工作的非常热心的初级程序员可以使全新的工作流程变得轻松高效，并向新的受众开放编程的好处。从我们最初的用户研究中，我们确定了使用代码解释器特别有用的用例：解决定量和定性的数学问题进行数据分析和可视化在格式之间转换文件我们邀请用户尝试代码解释器集成并发现其他有用的任务。 ChatGPT解释器插件演示安全考虑将我们的模型连接到编程语言解释器的主要考虑因素是对执行进行适当的沙盒处理，以便 AI 生成的代码不会在现实世界中产生意外的副作用。我们在安全环境中执行代码，并使用严格的网络控制来防止外部互联网访问执行代码。此外，我们对每个会话都设置了资源限制。禁用互联网访问限制了我们代码沙箱的功能，但我们相信这是正确的初始权衡。第三方插件被设计为将我们的模型连接到外部世界的安全第一方法。检索开源检索插件使 ChatGPT 能够访问个人或组织信息源（经许可的）。它允许用户通过提问或用自然语言表达需求，从他们的数据源中获取最相关的文档片段，例如文件、笔记、电子邮件或公共文档。作为一个开源和自托管的解决方案，开发人员可以部署他们自己的插件版本并在 ChatGPT 上注册。该插件利用OpenAI 嵌入并允许开发人员选择矢量数据库（Milvus、Pinecone、Qdrant、Redis、Weaviate或Zilliz）来索引和搜索文档。信息源可以使用 webhooks 与数据库同步。首先，访问检索插件存储库。 ChatGPT检索插件演示安全考虑检索插件允许 ChatGPT 搜索内容矢量数据库，并将最佳结果添加到 ChatGPT 会话中。这意味着它没有任何外部影响，主要风险是数据授权和隐私。开发人员应该只将他们有权使用的内容添加到他们的检索插件中，并且可以在用户的 ChatGPT 会话中共享。第三方插件一个知道何时以及如何使用插件的实验模型 ChatGPT中的第三方插件第三方插件由清单文件描述，其中包括插件功能的机器可读描述以及如何调用它们，以及面向用户的文档。示例：用于管理todo事项的插件的清单文件创建插件的步骤是：使用您希望语言模型调用的端点构建 API（这可以是新的 API、现有的 API 或围绕专门为 LLM 设计的现有 API 的包装器）。创建一个记录您的 API 的 OpenAPI 规范，以及一个链接到 OpenAPI 规范并包含一些特定于插件的元数据的清单文件。在chat.openai.com上开始对话时，用户可以选择他们想要启用的第三方插件。有关已启用插件的文档作为对话上下文的一部分显示给语言模型，使模型能够根据需要调用适当的插件 API 来实现用户意图。目前，插件是为调用后端 API 而设计的，但我们正在探索也可以调用客户端 API 的插件。 ChatGPT第三方插件演示 ChatGPT 插件开发者体验未来我们正在努力开发插件并将它们带给更广泛的受众。我们有很多东西要学，在大家的帮助下，我们希望构建一些既有用又安全的东西。文章来源：https://openai.com/blog/chatgpt-plugins 来源：金色财经

金色财经2023-03-24

24小时热点