FX168财经网_全球视野外汇黄金加密货币NFT资讯网

OpenAI正在杀死创业公司？

无法想到，在这一轮AIGC浪潮中，一些AI公司还没来得及颠覆行业，自己却快被颠覆了。 7月12日，美国AIGC独角兽Jasper联合创始人Dave Rogenmoser在职场社交网站LinkedIn发布公告，“鉴于行业的巨大变化，为了集中精力并调整资源，团队将开启裁员”。Jasper的产品主管Jeremy Crane也在本月初离职，任职不到一年。这家成立于2021年的独角兽在去年10月刚刚完成价值1.25亿美元的融资，是AIGC领域成长最快的公司之一。同样传出裁员消息的还有无代码AI营销平台Mutiny，曾获得红杉资本、老虎全球基金的投资。前员工在LinkedIn发帖称，Mutiny上月底裁员约30%。 AIGC的人才争夺战仿佛还在昨日。这两家获得巨头青睐，发展势头正盛的公司为何在此时裁员？答案与ChatGPT有关。2022年11月30日，OpenAI发布ChatGPT，在推出仅两个月后，其月活用户就已经突破1亿人，给这些在大语言模型（LLM）基础上开发应用的初创公司带来了沉重一击。金沙江创业投资基金主管合伙人朱啸虎就曾表示，“ChatGPT太强大了，对创业公司很不友好”。从历史的脉络来看，在技术发生重大变革的时期，初创公司往往是机会的掌握者。在当下的生成式AI浪潮中，相较于需要大量投入的大模型，创业者在应用层有更多的创业机会。但是当大模型公司开始推出自己的应用，应用层的初创公司该怎么应对与前者的关系，又该如何构建属于自己的护城河？近期著名创业孵化器Y Combinator在一场讨论中，直接提出了灵魂拷问：“OpenAI会杀死所有创业公司吗（Will OpenAI Kill All Startups）？” 这个问题的答案不仅决定了中小创业公司的命运，也关乎着更大的、也更重要的AI生态系统的构建。 1.AI开放海洋中的“鲸与䲟鱼” ChatGPT之前，Jasper无疑是AIGC领域最受瞩目的明星独角兽。 2020年，OpenAI发布GPT-3——ChatGPT底层大模型的上一个版本，在人工智能领域引起了不小的震动。Jasper创始人Dave Rogenmoser敏锐地察觉到了GPT-3所蕴藏的商机，凭借着上一次创业项目的投资人Y Combinator的关系，Jasper在2020年12月就获得了GPT-3访问权限。 GPT-3早期具有学习成本高、调用不便等问题，不能同用户直接对话。Jasper在GPT-3的基础上进行高精度的前端提示和交互界面设计，再利用团队营销经验对模型精调。Jasper提供AI生成文本功能，并为营销人员提供定制化模板，自动生成博客文章、新闻稿件、广告文案等文本内容，在媒体工作者、营销人员中大受欢迎。 2021年Jasper一经推出便迅速获得成功。同年10月，Jasper就获得了8500万美元的A轮融资。2022年Jasper年营收预计达到6000万美元，成立仅18个月后就达到了15亿美元的估值。 “他们得到了一个巨大的机会。”Coatue资本的联合创始人兼高级董事总经理Thomas Laffont说，“Jasper 处于领先地位，产品与市场明显契合。他们还敲定了一批拥有各种专业知识的优秀投资者。” 然而，ChatGPT的横空出世，改变了这一切。 GPT-3是Jasper的业务支柱。在GPT开发早期，Jasper和OpenAI是良好的合作伙伴，一方给技术，一方给反馈，双方各取所需。但核心技术在对方手中，Jasper终究是基于GPT的二次开发。对于没有自研大模型的Jasper来说，不管取得的成绩多么辉煌，这场交易注定是危险的。 “当Altman已经成为AI开放海洋中的鲸时，Rogenmoser更像是一条䲟鱼（remora），这是一种附着在鲸类动物身上并以残骸为食的鳍状鱼。OpenAI需要像Jasper这样的合作伙伴来支付账单，但对后者的需要程度，远不如Jasper对OpenAI的依赖。”The Information作者Arielle Pardes评价道。 ChatGPT的推出就将这种风险展露无遗。经过两年的迭代和RLHF技术支持，ChatGPT不仅能够听懂用户指令，而且可以利用自然语言与用户直接对话。简单来说，大语言模型和用户之间不再需要“中间商”促成交易了。同时，ChatGPT的免费发布也让Jasper面临更大的窘境。尽管Sam Altman已经强调“不会试图与我们的合作伙伴竞争” ，但当用户可以免费获得ChatGPT 时，谁会为Jasper每月支付49美元？受到ChatGPT冲击的不止是Jasper一家公司，所有做文本相关产品的公司，都会面临类似的风险。比如，Grammarly是一家估值超百亿美元的AI写作助手公司。ChatGPT发布之后不久，很多用户就意识到，ChatGPT强大的文本生成功能，或将覆盖Grammarly引以为傲的核心竞争力——优秀的拼写、语法审校能力。再加上悬殊的价格差距，Grammarly不再是一个高性价比的选择。 “这么多年我一直用Grammarly帮我修改英文，但ChatGPT实在是太厉害了，比Grammarly实在好太多了。ChatGPT知道我在讲什么，但是Grammarly并不知道。”一位留学生这样说。 OctoML公司首席执行官Luis Ceze也表示“如果像Grammarly这样的公司不尽快找到自己独特的竞争模式，那么他们很快就会被其他整合了LLM的文本界面所取代”。为了应对生成式AI的冲击，今年4月Grammarly也推出大语言模型工具GrammarlyGO，已经开放了快速生成文稿、修改文本长度、回复邮件等功能。 Grammarly首席执行官Rahul Roy-Chowdhury也表示“Grammarly正在超越修改和更正文本的传统业务，转向撰写内容”。 2.“套壳产品”失去市场很难有明确的数据说明，现在究竟有多少基于GPT系列或其他大模型开发的产品。和Jasper一样，这些产品背后的一些初创公司也岌岌可危。其中大多数直接调用大模型的公司往往没有过于复杂的商业逻辑——用户输入信息，调用微调后的大模型进行处理，向用户输出信息，很快就完成了一个闭环。印证到Jesper上便是，用户输入需求，接着处理出一篇文章完成输出。大模型公司在进行模型迭代或推出类似产品时，很有可能轻易地覆盖甚至超越了这些产品的功能和价值。因为，在本质上它们只是大模型的“套壳产品”。硅谷知名风投机构A16Z描绘了目前生成式AI技术栈的图景，相较于自身拥有模型的应用，没有模型的应用需要紧紧依靠大模型公司的支撑。“Jasper们”和OpenAI的竞争，本质上是应用层与模型层的竞争。出门问问创始人李志飞曾在朋友圈表示，“ChatGPT的发布把很多浅层用户从Jasper那里吸走了”。生成式AI技术栈（图片来源：A16Z）在发展初期，依靠大模型供应商是应用层公司起步甚至发展业务的好办法。但在初具规模之后，如何处理模型与应用之间的关系，成为了生成式AI应用公司不得不面临的重大问题。一种看法是，模型即服务（Model as a Service），这足以让一个小型的开发团队快速迭代，并随着技术的进步及时更换模型供应商。Jasper确实也这么做了，除了OpenAI的模型之外，Jasper在其产品中还纳入了其他开源模型，例如GPT-J、GPT-NeoX、T5和BLOOM。另一种看法是，对专有的产品数据进行重新训练，自研大模型。李志飞也提到，“面对专业用户，Jasper原本存在一种可能的路径，那就是自建大模型、开发出独特的满足专业用户的产品feature，从而留住专业用户”。但同时他也认为，这并不是一条乐观的道路。自研大模型对团队的资金和人才有更高的要求，初创公司很难具备科技巨头的财力、物力、人力。况且，在美国以OpenAI为代表的几家头部大模型公司已经逐渐占据主导地位，部分开源大模型也基本完成了生态建设。这也是为什么，做AIGC应用领域的创业公司这么多，大模型却还是巨头们的游戏。越来越多的开发者正在提出同一个担忧，如果继续使用OpenAI的API进行应用层开发，OpenAI最终是不是可能会发布和他们竞争的产品？除了聊天机器人ChatGPT，OpenAI还曾发布过三款产品，文字生成图像工具DALL-E、自然语言转代码系统Codex、自动语音识别系统Whisper： 2021年1月，DALL·E发布，可以从自然语言的文本描述中生成图像。一年后，有更高性能的二代DALL·E 2亮相，目前已面向所有人开放。 Codex是AI代码补全工具Github Copilot的技术支撑，可以实现将简单的英语指令转化为十几种流行的编码语言，于2021年8月通过OpenAI的API发布。 Whisper是一种自动语音识别系统，可以实现99种语言的识别和转录。OpenAI在2022年9月开源了Whisper，并在2023年3月与ChatGPT API一起发布了Whisper的API版本。不过，现在可以确定的是，OpenAI已经暂停了推出更多产品的步伐。在今年5月，OpenAI联合创始人兼CEO Sam Altman在Humanloop CEO组织的闭门讨论中表示，OpenAI不会在ChatGPT之外发布更多的产品。 Sam Altman表示，历史上伟大的平台公司都有一个杀手级应用。ChatGPT的愿景是成为一个超级智能的工作助手，而许多其他GPT的用例OpenAI将不会触及。在Y Combinator组织的名为“OpenAI将杀死所有创业公司？”的讨论中，Y Combinator董事总经理Michael Seibel认为，“OpenAI和Anthropic等公司实际上是在努力构建AGI，他们不是在努力构建AI驱动的CRM（客户关系管理系统）或更好的搜索之类的东西”。 OpenAI和人工智能对初创公司的影响有待观察，但历史表明，每一次技术产生重大变革的时期，技术革新通常会给初创企业带来更大的机会，而不是压制。浏览器时代，网景的发布阻止不了之后微软IE、Google的发展；移动互联网时代，iPhone的诞生揭开了Meta、Uber等一众移动应用厂商崛起的序幕。目前来看，ChatGPT所冲击的只是基于GPT二次开发的“套壳产品”，OpenAI带来的AI技术变革，将催生出新的令人惊叹的初创公司。 3.AI应用路在何方？据不完全统计，ChatGPT爆火后的七个月内，全球大模型数量已多达数百个，仅中国就至少有80个。今天，基础大模型已经初步形成互联网大厂、AI科技公司、明星初创公司、学界科研机构等多方势力“百模大战”的格局。大量的资金、人才、技术涌入了基础大模型，而对于应用层的讨论声音要小很多。大模型是基础设施，需要通过应用才能和用户产生关系。这是一个更大的生态。百度创始人、董事长兼首席执行官李彦宏认为生成式AI将催生新产品、新业态，会有很多创业和投资，大模型时代最大的机会在于应用层。他曾表示，“在应用层，将会出现全新的、十倍于现在微信和抖音的创业机遇”。 AI应用层的变革主要分为两类，一种是常见的基于大模型做既有产品的升级，代表公司为微软、Salesforce、阿里巴巴等科技巨头，以及大量的中小软件公司。微软已经将OpenAI的大模型能力，引入其全系产品中，包括New Bing搜索引擎、Microsoft 365 Copilot、Windows Copilot，国内阿里巴巴旗下的钉钉，也基于旗下通义千问模型进行了改造。传统SaaS公司正在快速接入AI。在细分行业领域，AI产品多应用在销售、咨询、管理等产业场景中，帮助企业打造竞争壁垒。以全球排名第一的CRM厂商Salesforce为例，Salesforce坚持AI+数据+CRM战略，在2023年推出两个AI产品EinsteinGPT、SlackGPT。另外一种，则是基于AI大模型的原生应用，但目前尚未爆发。以最近爆火的Agent为例，Agent作为人与LLM的中介，可能会挑战原有平台的分发机制，用户不再依赖平台使用软件，而是直接与Agent互动获取服务，过去SaaS也可能会变成AaaS（Agent as a Service）。新的产品逻辑将进一步降低用户使用技术的门槛，并渗透到新的使用场景。无论是既有的互联网产品还是正在成长的AI原生应用，在大模型时代都有可能经历新一轮洗牌。金山办公技术总监熊龙飞告诉「甲子光年」：“关键在于，要构建自己的技术壁垒。” 过去的积累与面向未来的投入都很重要。比如，金山办公除了大模型的功能模块之外，还积累了35年的文档处理底层技术，以及从2017年开始投入研发的AI能力。此外，为了结合大模型，金山办公还特地开发了向量化系统、提示词管理器、各类AI能力和大模型的外挂系统等基础技术。应用层公司的核心壁垒不仅仅在于模型能力，产品设计、数据管理、服务网络等方面同样重要。以Grammarly为例，有用户告诉「甲子光年」，“Grammarly主要应用场景有键盘输入法、浏览器插件和各个终端应用。ChatGPT在论文写作或者满分作文上兴许能用到，但日常沟通还是Grammarly更方便” 。随着模型能力的发展，算力价值在应用层可能被抹平，数据才是长期的壁垒所在。真格基金管理合伙人戴雨森在之前的一次演讲中表示，“当数据的质量和数量增加时，模型的性能和效果会提升，同时也会增加用户壁垒”。以微信为例，最早期的微信其实没有壁垒，后来通过与众多用户之间的特有关系形成了网络效应，从而产生壁垒。在大模型可以覆盖的通用场景之外，创业者在垂直领域积累深厚独特的行业数据，或者做冷门领域的先行者，或许更有可能获得成功。新一轮的AI浪潮无异于大浪淘沙，只有拥有核心本领才能立于不败之地。来源：金色财经

金色财经2023-07-22

什么信号？拜登宣布提拔CIA局长进入内阁称赞其在中美关系以及俄乌战争中的作用

兴技术方面的工作，几小时前，人工智能(AI)公司宣布了提高其平台安全性的新承诺。伯恩斯在担任中央情报局局长期间还发挥了外交作用，在战争持续期间多次前往基辅会见乌克兰领导人。在入侵俄罗斯之前，曾在小布什政府期间担任美国驻俄罗斯大使的伯恩斯前往莫斯科警告军事行动的后果。伯恩斯并不是第一位被任命为内阁成员的中央情报局局长。前总统特朗普在执政期间也提拔了蓬佩奥和哈斯佩尔。负责监督国家间谍机构的国家情报总监海恩斯(Avril Haines)目前是内阁成员。海恩斯在一份声明中说:“伯恩斯局长一生致力于公共服务，他罕见的专业知识、经验、才能和智慧的结合，正是总统最需要的高级顾问。”

忆芳2023-07-22

AI人工智能ETF(512930)震荡回调，盘中溢价频现

商业化价值空间，用户的大规模付费将利好AI公司成本端的变现，进一步加快相关产品的投入和研发，利好整条产业链。风险提示：界面有连云呈现的所有信息仅作为参考，不构成投资建议，一切投资操作信息不能作为投资依据。投资有风险，入市需谨慎!

有连云2023-07-20

ChatGPT后下一个AI爆款应用是什么？硅谷All In“自动AI智能体”

们对AI代理比对聊天机器人更感兴趣。 AI公司MultiOn正在对其开发的一款AI代理应用进行Beta测试，开发员DivGarg表示：现在很大程度上，我们希望它成为你的私人AI朋友。他补充道：它可能会进化成（钢铁侠里Tony Stark的AI助手）贾维斯，我们希望它能够连接到你的许多服务。如果你想做某事，你就可以与你AI助手交谈，它就能帮你做。大语言模型，带飞AI代理三月份，OpenAI发布了大语言模型GPT-4，进一步推动了AI代理领域的竞赛。短短几周时间，自动AI智能体就如雨后春笋一般冒出来。最典型的例子是Baby AGI和Auto-GPT，这两个智能体可以根据预设的目标和结果来确定任务的优先级和执行情况。 Auto-GPT从GPT-4获得输出，通过一个即兴的外部存储器将其反馈给自己，进一步迭代一个任务，还可以纠正错误或提出改进建议。 Baby AGI的运作方式类似Auto-GPT，但任务喜好导向有所不同。专注于AI代理的风投公司CRV的投资者Vivian Cheng表示，GPT-4提升了驾驭不可预测的现实世界所需的战略性和适应性思维。 OpenAI竞争对手、为智能体创建人工智能的General Intelligence首席执行官Kanjun Qiu等五位AI代理开发员表示，他们预计第一批能够可靠地执行多步骤任务并具有一定自主权的系统将在一年内上市，重点关注编码和营销任务等细分领域。 “蠢得像石头一样” 目前AI代理仍处于初级阶段，需要人类“保姆式”的指导和监督，否则会出现纰漏。 ChatGPT竞争对手Perplexity AI的首席执行官Aravind Srinivas表示：“出错的方式有很多。”因此，他倾向于选择提供由人类监督的代理产品。你必须像对待婴儿一样对待人工智能，并像妈妈一样不断监督它。 “真正的挑战是构建具有强大推理能力的系统，”Qiu说。微软首席执行官Satya Nadella认为，基础模型技术是自家微软小娜、亚马逊Alexa、苹果Siri和谷歌助手等数字助理的一次飞跃，在他看来，这些数字助理都没有达到最初的预期。 “它们都蠢得像石头一样。无论是微软小娜、Alexa、谷歌助手还是Siri，所有这些都不行，”Nadella二月份告诉英国《金融时报》。亚马逊发言人表示，Alexa已经使用了先进的AI技术，并补充说，团队正在开发新模型，使该助手更加强大和有用。谷歌声称，它也在不断改进其助手，其Duplex技术可以打电话给餐厅预订餐桌，并核实营业时间。人工智能专家Edward Grefenstette上个月也加入了谷歌研究小组DeepMind，开发能够适应开放环境的通用代理。尽管目前还不够完美，AI代理的潜力可能是惊人的，OpenAI率先注意到。近日，OpenA联合创始人Andrej Karpathy在一场开发者线下活动中表示，如果一篇论文提出了某种不同的模型训练方法，OpenAI会嗤之以鼻，但当新的AI代理论文出来的时候，他们会认真兴奋的讨论。 Karpathy当时激动地表示：AI智能体，代表了AI的一种未来！来源：金色财经

金色财经2023-07-19

软通动力与百度达成战略签约共筑大模型产业化落地

进步的重要推动力。"百度作为全球领先的AI公司，在人工智能领域拥有众多的技术突破和创新能力；软通动力作为国内企业数字化转型的实践者，持续关注先进技术和工具使用对业务的提升，赋能客户数字化变革。此次战略合作，是基于双方各自优势的强强联合，更是推动国内AI技术产业化落地的全新开端。" 　　百度集团执行副总裁、百度智能云事业群总裁沈抖　　沈抖表示，大模型本身要想产生价值，一定要跟行业和应用结合起来，这个过程就需要与软通动力这样在行业中深耕多年，对业务有深刻理解的合作伙伴共同努力。大模型能力的持续迭代，需要深厚的数据、算法、算力等技术积累。在国内，百度会义不容辞地扛起这杆大旗，持续坚定投入，研发大模型技术。百度将提供最好的大模型底座，支持软通动力打磨不同行业的大模型应用，不断开展技术创新、模式创新和应用创新，一起探索如何更好地服务客户。　　签约现场，双方还通过参观、座谈等形式加深了彼此了解，并对大模型深入产业、落地产业发展达成了高度共识。当前，百度文心大模型已经拥有较大的产业应用规模，作为百度"文心一言"、"文心千帆"的首批生态伙伴，软通动力在贴合客户需求，将大模型应用于业务中已积累相关经验和数据，解决了特定应用场景落地的诸多棘手问题。其中，双方在人员招聘、智能创作、企业法务、金融保险等领域的大模型应用测试中，取得了显著成效，同时，也为软件服务企业利用大模型技术提升客户服务水平、构建新的核心竞争力树立了典型标杆。　　未来，软通动力与百度将怀着共同愿景携手共进，做好大模型的产业化应用，更好地服务产业数字化发展。基于文心千帆大模型平台，双方将共同探索大模型在企业通用服务、研发等业务场景的产品融合与解决方案落地。同时，双方还将充分发挥文心千帆大模型平台与软通天璇2.0 MaaS平台的互补优势，推动资源与能力整合，共同构建面向工业、能源、制造、金融等多行业、多领域的智能应用，赋能千行百业智能化升级。来源：金色财经

金色财经2023-07-19

软通动力与百度达成战略签约，共筑大模型产业化落地

进步的重要推动力。"百度作为全球领先的AI公司，在人工智能领域拥有众多的技术突破和创新能力；软通动力作为国内企业数字化转型的实践者，持续关注先进技术和工具使用对业务的提升，赋能客户数字化变革。此次战略合作，是基于双方各自优势的强强联合，更是推动国内AI技术产业化落地的全新开端。" 沈抖表示，大模型本身要想产生价值，一定要跟行业和应用结合起来，这个过程就需要与软通动力这样在行业中深耕多年，对业务有深刻理解的合作伙伴共同努力。大模型能力的持续迭代，需要深厚的数据、算法、算力等技术积累。在国内，百度会义不容辞地扛起这杆大旗，持续坚定投入，研发大模型技术。百度将提供最好的大模型底座，支持软通动力打磨不同行业的大模型应用，不断开展技术创新、模式创新和应用创新，一起探索如何更好地服务客户。签约现场，双方还通过参观、座谈等形式加深了彼此了解，并对大模型深入产业、落地产业发展达成了高度共识。当前，百度文心大模型已经拥有较大的产业应用规模，作为百度"文心一言"、"文心千帆"的首批生态伙伴，软通动力在贴合客户需求，将大模型应用于业务中已积累相关经验和数据，解决了特定应用场景落地的诸多棘手问题。其中，双方在人员招聘、智能创作、企业法务、金融保险等领域的大模型应用测试中，取得了显著成效，同时，也为软件服务企业利用大模型技术提升客户服务水平、构建新的核心竞争力树立了典型标杆。未来，软通动力与百度将怀着共同愿景携手共进，做好大模型的产业化应用，更好地服务产业数字化发展。基于文心千帆大模型平台，双方将共同探索大模型在企业通用服务、研发等业务场景的产品融合与解决方案落地。同时，双方还将充分发挥文心千帆大模型平台与软通天璇 2.0 MaaS平台的互补优势，推动资源与能力整合，共同构建面向工业、能源、制造、金融等多行业、多领域的智能应用，赋能千行百业智能化升级。

美通社2023-07-19

比尔盖茨最新博文：AI的风险确实存在但是可控

熟虑的对话的能力。此外，对企业来说，AI公司要具有负责任的态度，工作开展要保证安全性，包括保护人们隐私等等。以下为全文内容，翻译来自GPT-4，经36氪编辑整理：人工智能带来的风险似乎压倒一切。那些失去工作被智能机器取代的人该怎么办？AI会影响选举结果吗？如果未来的AI决定不再需要人类，想要摆脱我们，该怎么办？这些都是合理的问题，我们需要认真对待它们所引发的担忧。但我们有充分的理由相信我们能够应对这些问题：这并不是第一次在重大创新中，引入了必须加以控制的新威胁，我们以前也曾遇到过。无论是汽车的问世，还是个人电脑和互联网的兴起，人们都曾历经过其他变革时刻，尽管经历了许多动荡，但最终都得到了更好的发展。第一辆汽车上路后不久，就发生了第一起车祸。但我们并没有禁止汽车，而是采用了限速、安全标准、驾照要求、酒驾法以及其他道路规则。我们现在正处于另一场深刻变革的初期阶段，即AI时代，这与限速和安全带之前的不确定时代相类似。人工智能的变化如此之快，以至于我们还不清楚下一步会发生什么。我们正面临着由当前技术运作方式、人们将其用于恶意意图的方式以及人工智能如何改变我们作为社会成员和个体所引发的重大问题。在这样的时刻，感到不安是很自然的。但历史表明，解决新技术带来的挑战是可能的。我曾经写过人工智能将如何彻底改变我们的生活，它将帮助解决健康、教育、气候变化等方面过去似乎难以解决的问题。盖茨基金正在把这个问题作为优先事项，我们的首席执行官马克-苏兹曼（Mark Suzman）最近分享了他对AI在减少不平等中的角色的思考。我将在未来更多地讨论人工智能的好处，但在这篇文章中，我想谈谈我听到和读到的最常见的担忧，其中许多我也有同感，并解释一下我是如何看待这些担忧的。从迄今为止关于人工智能风险的所有文章中，有一件事情很明确，那就是没有人拥有所有的答案。另一点对我来说很明确的是，人工智能的未来并不像某些人想象的那样严峻，也不像其他人想象的那样美好。风险是真实存在的，但我乐观地认为这些风险是可以控制的。当我逐一讨论每个问题时，我将回到几个主题：人工智能引发的许多问题都有历史先例。例如，它将对教育产生巨大影响，但几十年前的便携式计算器，以及最近的允许电脑进入课堂也是如此，我们可以借鉴过去的成功经验。人工智能带来的许多问题也可以在人工智能的帮助下得到解决。我们需要调整旧法并颁布新法——就像现有的反欺诈法律必须适应网络世界一样。在这篇文章中，我将重点关注已经存在或即将存在的风险。我并不打算讨论当我们开发出一种能够学习任何学科或任务的人工智能时会发生什么。相反，我今天讨论的是专门构建的AI。无论我们是在十年内还是一个世纪内达到这一点，社会都将需要面对一些深刻的问题。如果一个超级AI确立了自己的目标怎么办？如果它们与人类的目标相冲突怎么办？我们是否应该制造超级AI？但是，在考虑这些长期风险时，不应忽视眼前的风险。我现在来谈谈这些短期的风险。 AI生成的伪造内容和错误信息可能会破坏选举和民主利用技术传播谎言和不实信息并不是什么新鲜事。几个世纪以来，人们一直通过书籍和传单来传播谎言。随着文字处理机、激光打印机、电子邮件和社交网络的出现，这种做法变得更加容易。人工智能将这个假文本的问题扩大化，使几乎任何人都可以制作伪造的音频和视频，这就是所谓的深度伪造。如果你收到一个看起来像你孩子的声音信息说“我被绑架了，请在接下来的10分钟内向这个银行账户汇款1000美元，并且不要报警”，那么它将产生远超过同样内容的电子邮件的恐怖情绪影响。在更大的范围内，人工智能生成的深度伪造可能会被用来试图影响选举结果。当然，不需要复杂的技术就可以对选举的合法赢家产生怀疑，但人工智能将使这一过程变得更加容易。目前，已经出现了一些虚假视频，这些视频中包含了众所周知的政治家被编造的片段。想象一下，在一次重要选举的早晨，一段显示某位候选人抢劫银行的视频在网上疯传。即使这是假的，但新闻机构和竞选团队花了几个小时才证明这一点。有多少人会看到这段视频并在最后一刻改变投票？这可能会改变比赛的结果，尤其是在选情胶着的情况下。最近，Open AI联合创始人Sam Altman在美国参议院委员会作证时，来自两党的参议员都对人工智能对选举和民主的影响有所关注。我希望这个话题能继续引起每个人的关注。我们确实还没有解决假信息和深度伪造的问题。但有两点让我保持谨慎乐观。一是人们有能力学会不轻信一切。多年来，电子邮件用户常常上当受骗，因为有人冒充尼日利亚王子，承诺只要分享信用卡号码就能获得巨额回报。但最终，大多数人学会了对这些邮件进行二次审查。随着诈骗手段越来越高明，许多目标也变得越来越狡猾，我们需要为深度伪造建立同样的防范意识。另一件让我充满希望的事情是，AI不仅可以创建深度伪造，还可以帮助识别它们。例如，英特尔开发了一种深度伪造检测器，而政府机构DARPA正在研究如何识别视频或音频是否被篡改。这将是一个循环过程：有人找到了检测造假的方法，有人想出了对付它的办法，有人开发出了反制措施，如此循环往复。这不会是一个完美的成功，但我们也不会束手无策。人工智能使得人类和政府发动攻击变得更加容易如今，当黑客们想找到软件中的漏洞时，他们会通过暴力编写代码，对潜在的弱点进行攻击，直到发现漏洞为止。这需要走很多弯路，因此需要时间和耐心。想要打击黑客的安全专家也必须做同样的事情。你在手机或笔记本电脑上安装的每一个软件补丁，都代表着善意或恶意的人花费了许多时间的搜寻。人工智能模型将通过帮助黑客编写更有效的代码来加速这一进程。他们还将能够利用个人的公共信息，如工作的地方和他们的朋友是谁，来开发出比我们现在看到的更先进的网络钓鱼攻击。好消息是，人工智能既可用于恶意目的，也可以用于良好的目的。政府和私营部门的安全团队需要拥有最新的工具，以便在犯罪分子利用安全漏洞之前发现并修复它们。我希望软件安全行业能够扩大他们在这方面已经开展的工作，这应该是他们最关心的问题。这也是为什么我们不应该像某些人建议的那样，试图暂时阻止人们施行人工智能的新发展。网络犯罪分子不会停止制造新工具，想要利用人工智能设计核武器和生物恐怖袭击的人也不会停止，阻止他们也需要以同样的速度继续进行。在全球层面也存在相关风险：AI军备竞赛可用于设计和发动针对其他国家的网络攻击。每个国家的政府都希望拥有最强大的技术，以阻止对手的攻击。这种“不让任何人抢先”的动机可能会引发一场制造日益危险的网络武器的竞赛。这样一来，每个人的处境都会变得更糟。这是一个可怕的想法，但我们有史为鉴。尽管世界核武器防扩散机制存在缺陷，但它阻止了我们这一代人在成长过程中非常害怕的全面核战争的发生。各国政府应考虑建立一个类似于国际原子能机构的全球人工智能机构。人工智能将夺走人们的工作未来几年，人工智能对工作的主要影响将是帮助人们更高效地完成工作。无论是在工厂工作，还是在办公室处理销售电话和应付账款，都将如此。最终，AI在表达思想方面的技能将足够好，以至于它能够为你写邮件并管理你的收件箱。你将能够用简单的英语或任何其他语言编写一份请求，并生成一份内容丰富的工作报告。正如我在正如我在2月份的文章中所说，生产力的提高对社会有益。这使得人们有更多的时间去做其他事情，无论是在工作中还是在家中。而且，对助人为乐者的需求永远不会消失，例如教书育人、照顾病人和赡养老人。但是，在我们向人工智能驱动的工作场所过渡的过程中，一些工人确实需要支持和再培训。这是政府和企业的职责所在，他们需要很好地管理它，这样工人们才不会被抛弃，避免像美国制造业工作岗位减少时发生的那种对人们生活的干扰。此外，请记住，这并不是新技术第一次导致劳动力市场发生重大变化。我认为人工智能的影响不会像工业革命那样巨大，但肯定会像个人电脑的问世那样巨大。文字处理应用软件并没有消除办公室工作，但却永远地改变了办公室工作。雇主和员工必须适应，他们也确实做到了。人工智能带来的转变将是一个崎岖的过渡，但我们完全有理由相信，我们能够减少对人们生活和生计的干扰。人工智能继承了我们的偏见并胡编乱造幻觉，这是指人工智能自信地作出一些根本不真实的声明，且通常发生的原因是机器不理解你的请求的背景。如果你让一个人工智能写一个关于去月球度假的短篇故事，它可能会给你一个非常富有想象力的答案。但是如果你让它帮你规划一次前往坦桑尼亚的旅行，它可能会试图把你送到一个不存在的酒店。人工智能的另一个风险是，它反映出甚至加剧了人们对某些性别身份、种族、民族等的现有偏见。要明白为什么产生这样的幻觉和偏见，了解当前最常见的AI模型如何运作是非常重要的。它们本质上是非常复杂的代码版本，可以让您的电子邮件应用程序预测您要输入的下一个单词：在某些情况下，几乎是网上所有可用的文本，它们扫描海量文本，然后进行分析，找出人类语言中的模式。当你向人工智能提出一个问题时，它会查看您使用的单词，然后搜索经常与这些单词相关联的文本。如果您写下“列出煎饼的配料”，它可能会注意到“面粉、糖、盐、发酵粉、牛奶和鸡蛋”这些词经常与该短语一起出现。然后，根据它所知道的这些单词通常出现的顺序，它会生成一个答案（这种方式工作的AI模型使用的是所谓的转换器，GPT-4就是这样一个模型）。这个过程解释了为什么人工智能可能会产生幻觉或出现偏差，它对你提出的问题或告诉它的事情没有任何上下文理解。如果你告诉它打错了，它可能会说“对不起，我打错了”。但这只是幻觉，它并没有打错任何东西，它之所以这么说，是因为它已经扫描了足够多的文本，知道“对不起，我打错了”是人们在被纠正后经常写的一种句子。同样，AI模型也会继承它们所训练的文本中固有的偏见。如果一个人读了很多关于医生的文章，而文章中大多提到男性医生，那么它的答案就会假定大多数医生都是男性。尽管一些研究人员认为幻觉是一个固有的问题，但我并不同意。我乐观地认为，随着时间的推移，我们可以教会AI模型区分事实和虚构。例如，Open AI在这方面做了很有前途的工作。包括阿兰·图灵研究所和国家标准与技术研究所在内的其他组织正在解决偏见问题。一种方法是在AI中加入人类价值观和更高层次的推理。这类似于有自我意识的人类的工作方式：也许你认为大多数医生都是男性，但你对这一假设有足够的意识，知道你必须有意识地与之斗争。人工智能也可以以类似的方式运行，尤其是如果模型是由来自不同背景的人设计的。最后，每个使用人工智能的人都需要意识到偏见问题，并成为一个知情的用户。你要求人工智能起草的论文可能会充满偏见，就如同充满了事实错误一样。你需要检查你的AI的偏见，以及你自己的偏见。学生不会学习写作，因为AI会替他们完成写作许多教师担心AI会破坏他们与学生的工作。在一个只要能上网，任何人都能用人工智能写出可圈可点的论文初稿的时代，有什么能阻止学生将其作为自己的作品上交呢？已经有一些AI工具在学习判断一篇文章是由人类还是电脑写的，所以教师们可以知道他们的学生是否在做自己的作业。但是有些教师并没有试图阻止他们的学生在写作中使用AI，他们实际上是在鼓励它。今年1月，一位名叫切丽·希尔兹（Cherie Shields）的资深英语教师在《教育周刊》（Education Week）上发表了一篇文章。的文章上发表了一篇文章，介绍了她如何在课堂上使用Chat GPT。Chat GPT帮助她的学生从开始写一篇作文到攥写大纲，甚至给他们的作业提供反馈。她写道：“教师必须接受人工智能技术，将其作为学生可以使用的另一种工具。就像我们曾经教学生如何进行正确的谷歌搜索一样，教师应该围绕Chat GPT机器人如何协助论文写作设计清晰的课程，承认人工智能的存在并帮助学生使用它可以彻底改变我们的教学方式。”并非每位教师都有时间学习和使用新工具，但像Cherie Shields这样的教育工作者提出了一个很好的论点，即那些有时间的教师将受益匪浅。这让我想起了上世纪七八十年代电子计算器普及的时代。一些数学教师担心学生会停止学习基本算术，但另一些教师则接受了这项新技术，并将重点放在算术背后的思维能力上。人工智能还可以帮助写作和批判性思维。特别是在早期，当幻觉和偏见仍然是一个问题时，教育工作者可以让人工智能生成文章，然后与学生一起检查事实。教育非营利组织如可汗学院和OER项目等为教师和学生提供免费的在线工具，这些工具非常重视对论断的检验，没有什么技能比知道如何辨别真假更重要了。我们确实需要确保教育软件有助于缩小成绩差距，而不是使其变得更糟。如今的软件主要面向那些已经有学习动力的学生。它可以为你制定学习计划，为你提供好的资源，并测试你的知识。但是，它还不知道如何吸引你去学习你还不感兴趣的科目。这是开发人员需要解决的一个问题，以便让所有类型的学生都能从人工智能中受益。接下来要做什么？我相信，我们有更多的理由乐观地认为，我们可以在管理人工智能风险的同时最大限度地发挥其效益，但我们需要快速行动。各国政府需要积累人工智能方面的专业知识，以便制定应对这一新技术的法律法规。他们需要应对错误信息和深度伪造、安全威胁、就业市场的变化以及对教育的影响。仅举一例：法律需要明确哪些用途的深度伪造是合法的，以及应该如何标注深度伪造，以便每个人都能明白他们看到或听到的东西是假的。政治领导人需要具备与选民进行知情的、深思熟虑的对话的能力。他们还需要决定在这些问题上与其他国家合作的程度，而不是单打独斗。在私营部门，AI公司需要在安全和负责任的前提下进行他们的工作。这包括保护人们的隐私，确保他们的人工智能模型反映人类的基本价值观，最大限度地减少偏见，让尽可能多的人受益，并防止技术被犯罪分子或恐怖分子利用。许多经济领域的公司都需要帮助其员工过渡到以AI为中心的工作场所，这样就不会有人掉队。而且，客户应始终知道他们是在与人工智能还是人类互动。最后，我鼓励大家尽可能关注人工智能的发展。这是我们有生之年将看到的最具变革性的创新，健康的公共辩论将取决于每个人对这项技术本身、优点和风险的了解。人工智能将带来巨大的利益，而相信我们能够控制风险的最好理由就是我们曾经能够做到了。来源：金色财经

金色财经2023-07-16

美股收盘：纳指涨220点携手标普创一年多新高中概股普涨简普科技涨超20%

的信息请求文件最近被发给这家微软支持的AI公司。周四在国会出席作证的FTC主席Lina Khan曾对AI表示担忧，称执法者“需要尽早警惕”AI等变革性工具。

金融界2023-07-14

美国联邦贸易委员会据悉就消费者保护问题对OpenAI展开调查

的信息请求文件最近被发给这家微软支持的AI公司。周四在国会出席作证的FTC主席Lina Khan曾对AI表示担忧，称执法者“需要尽早警惕”AI等变革性工具。

金融界2023-07-14

猎聘AIGC就业趋势大数据：平均年薪超40万，人才需求是三年前同期的5.6倍，35岁不再是招聘红线？

其中，计算机硬件公司鸿合科技位居第一；AI公司商汤科技、聆心智能及AI机构粤港澳大湾区数字经济研究院（福田）位居第三、第七、第十；互联网公司昆仑万维位居第四。制造业公司三一集团位居第九。由此可见，求职者投递AIGC职位的人数集中于互联网和人工智能类公司。在AIGC强大的技术威力面前，不少职场人对如何保住“饭碗”而深深担忧。李志飞指出，AIGC最容易替代的职业有两类，一类是在电脑上即可完成工作闭环，并且工作内容存在大量重复环节的职业，如基础美工/设计；另一类是易于标准化的职业，如采用固定话术的客服、营销文案等。而最不易被取代的是那些需要面对面互动和依靠身体技能的职业，如泥水匠、电工、机械师等手艺人，以及美发师、厨师、医生和护士等服务人员。李志飞建议职场人应有意识地培养AIGC难以取代的技能，比如创新思维、解决复杂问题的能力以及人际交往等技巧。莫瑜认为内容从业者大可不必对AIGC谈虎色变，因为高品质、深度而专业的内容始终是稀缺品。在他看来，容易基于数据优化的工作（如初级翻译）的可替代性较高，而需要与人有强情感交流、精细化工作、强创意类和复杂决策类工作（如心理医生、CEO）的可替代性则较低。 AIGC在淘汰一批旧的职业的同时，也必然带来新的机遇。猎聘高级职场顾问建议职场人不必如临大敌，而是以开放的心态积极拥抱AIGC，利用AIGC加强自己的职业长项，拓展自身能力的宽度，提升个人工作效率和质量；保持终身学习的心态应对外界变化，让自己在任何时代都具有更高的价值和竞争力。

金融界2023-07-11

24小时热点