全球数字财富领导者
财富汇
|
美股投研
|
客户端
|
旧版
|
北美站
|
FX168 全球视野 中文财经
首页
资讯
速递
行情
日历
数据
社区
视频
直播
点评旗舰店
商品
SFFE2030
外汇开户
登录 / 注册
搜 索
综合
行情
速递
日历
话题
168人气号
文章
大动作!美团创始人王兴参与王慧文“光年之外”A轮,并出任董事,要打造中国版本ChatGPT?
go
lg
...
金融界3月8日消息 在
OpenAI
旗下产品ChatGPT掀起人工智能技术高潮之后,国内各大互联网大佬也蠢蠢欲动。 3月8日下午,美团创始人王兴发布朋友圈透露,个人将参与王慧文创业公司“光年之外”的A轮投资,并出任董事。王兴在朋友圈中表示,“AI大模型让我既兴奋于即将创造出来的巨大生产力,又忧虑它未来对整个世界的冲击。老王和我在创业路上同行近二十年,既然他决心拥抱这次大浪潮,那我必须支持。” 王慧文要打造中国版
OpenAI
王兴与王慧文从清华的上下铺同学,到携手创办校内网及美团,从同窗到创业,一直是科技互联网圈的一段佳话。2020年,王慧文宣布从美团退休时,王兴曾在公开信中表示,“老王和我是有共同志趣的同学和室友,是携手创业的搭档和并肩战斗的战友,更是可以思想碰撞、灵魂对话的一生挚友”。 2月13日,王慧文在社交平台“即刻”发布“英雄榜”,称要打造中国的
OpenAI
(ChatGPT主体公司),同时为自己的新事业招募人才。英雄榜中,他透露目前招聘研发人才,要求有三点:业界公认的顶级研发人才、狂热相信AI改变世界、坚定确保AI造福人类。 王慧文今年2月宣布成立北京光年之外科技有限公司,自己出资5000万美元,公司的估值为2亿美元,他个人不占股份,资金占股25%,将用其他75%的股份来邀请顶级研发人才。他同时透露,公司的下一轮融资已有顶级VC认购2.3亿美金。据36氪报道,王慧文口中的顶级VC,至少包括源码资本、真格基金等。 2月14日,他又发布了《AI英雄榜·续》,其中写到了对光年之外另外75%的股份规划: 如果公司上市时,这些股份仍未发完,剩余的部分不会留给任何人,而是成立一支非盈利性基金,专门投资那些发展路径不清晰,实现希望很渺茫,商业价值不明确,但是一旦突破就能改变世界的科技探索。 投资界和券商分析师口水战 美团原二号人物王慧文的带资入局,“肉身不占股”的举动,引发投资界和券商分析师口水战。 2月14日,海通证券分析师郑宏达在朋友圈转发了王慧文的“英雄榜”,并配文写到:“这不是扯淡么,5000万美元够干什么的?大模型训练一次就花500万美元,训练10次?互联网的人啥都不懂,就只会营销,一点都不踏实。” 随后,某资本合伙人却又忍不住加入“论战”,一边指责郑宏达“diss一位成就万亿公司的企业家,谁给你的勇气?”,一边建议对方应该专注本职业务,“多做一点研究、为买方提供优质的服务不好吗?”最后,还对郑宏达下达“战帖”,称要用50万美金赌王慧文创业能不能成功。 争论根源在于ChatGPT有着较高的入场门槛 这一争论发生的根源在于,无论是ChatGPT还是其他的Chat bot,都有着较高的入场门槛,主要体现在技术和资金两方面。 中信建投证券在一份研报中指出,Transformer在网络结构上的进化带来了参数量和模型层数的提高,引起了生成式AI技术能力的质变;同时并行化优势允许其在更大的数据集上进行训练,这也促成了GPT等预训练模型的发展。 在那之后,AI开始从大量训练模型向训练大模型转变,以期让AI模型具有泛化能力,让AI真正走向通用且实用。 但是在训练大模型的过程中,背后所需要的算力、云计算、数据等等,都有着极高的资金门槛。
OpenAI
在一份提交给美国国税局的文件中指出,还在2017年时,它花在云计算上的钱都有790万美元。此外,其创始人布罗克曼等人测算,训练大模型消耗的计算量,每3、4个月会翻一倍。据多位业内人士估算,
OpenAI
训练GPT-3一年,仅算力成本就有2000万美元。
lg
...
金融界
2023-03-08
ChatGPT商业许可在路上! Citadel亿万富翁创始人Ken Griffin迈出第一步
go
lg
...
Ken Griffin表示,他们正在和
OpenAI
就使用ChatGPT的企业范围许可进行谈判。 Citadel亿万富翁创始人Ken Griffin周二在接受采访时表示:“这一技术分支对我们的业务产生了真正的影响,从帮助我们的开发人员编写更好的代码到在不同语言之间翻译软件,再到分析我们在日常业务过程中分析的各种类型的信息,应有尽有。” ChatGPT自去年11月推出以来已成为一种全球现象,几乎可以为任何类型的问题提供详细的答案。Ken Griffin的对冲基金和电子做市商长期以来一直处于自动化和其他技术进步的前沿。 现年54岁的Ken Griffin谈到ChatGPT时表示:“这是互联网历史上增长最快的消费者应用程序,我真的很高兴看到这将如何改变世界。” 根据彭博亿万富翁指数,Ken Griffin的净资产超过360亿美元,他于1990年创立了对冲基金 Citadel。后来他成立了Citadel证券,为资产管理公司、银行、经纪商、对冲基金、政府机构和公共养老金计划提供服务。 Ken Griffin表示,关于ChatGPT将如何用于这两项业务的问题仍然存在。 “这将需要人们今天完成的大量工作,并以一种截然不同的、高度自动化的、高效的方式来完成。” Ken Griffin的两家公司去年都取得了巨大收益,当时Citadel证券的收入达到创纪录的75亿美元,并提升了其作为美国最大交易单位之一的地位。由于在股票和商品等领域的强劲表现,独立运营的旗舰对冲基金上涨了38%。 据知情人士透露,华尔街的公司已经对ChatGPT进行了打压。包括美国银行、摩根大通、花旗集团、德意志银行、高盛集团和富国银行都对ChatGPT和
OpenAI
是实施了限制,美国银行告诉员工,禁止将ChatGPT和
OpenAI
用于商业用途。 ChatGPT可能会创建股票投资组合,或加速分析师演示文稿的制作。目前已有类似的围绕这个概念创造的交易所交易基金。 #ChatGPT火爆全网#
lg
...
一禾
2023-03-08
华尔街日报:谷歌工程师两年前就研究出ChatGPT类似产品,因高管反对发布而辞职
go
lg
...
PT是由埃隆·马斯克联合创立的一家名为
OpenAI
的初创公司开发的,成立已有7年,利用了谷歌早期的人工智能技术。 在ChatGPT首次亮相几个月后,谷歌正在采取措施,准备公开发布自己的聊天机器人,该机器人部分基于De Freitas和Shazeer参与开发的技术。这款名为Bard的聊天机器人利用网络上的信息,以对话的形式回答问题。谷歌在2月6日表示,他们正在对Bard进行内部和外部测试,目的是在未来几周内广泛发布。谷歌还表示,正考虑在部分搜索结果中采用类似技术。 去年谷歌公开解雇了一名声称其人工智能已经实现感知能力的员工,高管们担心,公开展示人工智能产品可能会给谷歌的声誉和搜索广告业务带来风险。去年谷歌母公司Alphabet Inc.近2830亿美元的收入中,大部分来自搜索广告业务。 “谷歌正努力在承担多大风险与保持世界思想领导力之间找到平衡,”谷歌前产品经理Gaurav Nemade说,他在公司的聊天机器人项目工作到2020年。 谷歌的一位发言人表示,De Freitas和Shazeer的工作在当时很有趣,但研究原型和人们日常安全使用的可靠产品之间还有很大的差距。在发布人工智能技术方面,谷歌必须比小型初创公司更深思熟虑。 上个月给谷歌员工的一封电子邮件中,谷歌和Alphabet的首席执行官Sundar Pichai表示,公司一些最成功的产品并不是第一个推向市场的,而是随着时间的推移赢得了用户的信任。“这将是一段漫长的旅程,对整个领域的每个人来说都是如此。我们现在能做的最重要的事情就是专注于开发一款伟大的产品,并负责任地进行开发。” 谷歌在聊天机器人方面的努力可以追溯到2013年,当时谷歌的联合创始人Larry Page聘请了计算机科学家Ray Kurzweil,Kurzweil帮助普及了机器有一天会超越人类智能的想法,这个概念被称为“技术奇点”。Kurzweil后来说,他开始研究多个聊天机器人,其中一个名叫Danielle,是根据他当时正在写的一部小说改编的。 谷歌还收购了英国人工智能公司DeepMind,这家公司也有类似的任务,即创造人工通用智能,或可以反映人类思维能力的软件。 与此同时,学者和技术专家越来越多地对人工智能表示担忧,并向谷歌等公司施压,要求它们承诺不追求这项技术的某些用途。 在一定程度上为了应对谷歌在人工智能领域日益上升的地位,包括马斯克在内的一群科技企业家和投资者于2015年成立了
OpenAI
。
OpenAI
最初是一个非营利组织,希望确保人工智能不会成为企业利益的牺牲品,而是被用于造福人类。 谷歌最终在2018年承诺不将其人工智能技术用于军事武器,此前谷歌在美国国防部一份名为Project Maven的合同中所做的工作遭到了员工的强烈反对,该合同涉及使用人工智能自动识别和跟踪潜在的无人机目标,随后谷歌放弃了项目。 大约在那时,在谷歌的YouTube视频平台工作的巴西出生的工程师De Freitas开始了一个人工智能的副项目。De Freitas的同事Shazeer在今年1月上传至YouTube的一段采访视频中说,他还是个孩子的时候,就梦想在能够产生令人信服对话的计算机系统上工作。在谷歌,De Freitas着手打造一个聊天机器人,它可以比以往任何尝试都更接近地模仿人类对话。 多年来,这个最初名为Meena的项目一直处于保密状态,De Freitas和谷歌的其他研究人员一直在对它的反应进行微调。在微软内部,一些员工担心此类程序的风险,此前微软在2016年被迫停止公开发布一款名为Tay的聊天机器人,原因是用户刺激它做出了有问题的回应。 谷歌Meena背后的团队也想发布他们的工具,即使只是以
OpenAI
所做的有限形式。谷歌前产品经理Nemade说,谷歌的领导层拒绝了这一提议,理由是这款聊天机器人不符合公司关于安全和公平的人工智能原则。 谷歌的一位发言人表示,这款聊天机器人经过了多次审查,多年来由于各种原因被禁止更广泛地发布。谷歌团队继续研究聊天机器人。Shazeer是人工智能研究部门谷歌Brain的长期软件工程师,他加入了这个项目,他们将其重新命名为LaMDA,即对话应用语言模型。他们给它注入了更多的数据和计算能力。Shazeer帮助开发了变形金刚,这是一种广受欢迎的新型人工智能模型,它可以更容易地构建功能日益强大的程序,比如ChatGPT背后的程序。 但他们的工作背后的技术很快就引起了公众的争议。谷歌的著名人工智能伦理研究员Timnit Gebru在2020年底表示,她因为拒绝撤回一篇关于LaMDA等项目固有风险的研究论文,然后在给同事的电子邮件中抱怨它而被解雇。谷歌说她没有被解雇,并声称她的研究不够严谨。 谷歌的两位副总裁当时在一篇博客文章中说:“在开发LaMDA这样的技术时,我们的最高优先级是努力确保我们将这种风险降至最低。” 谷歌后来考虑在2022年5月的旗舰会议上发布LaMDA版本,去年被该公司解雇的工程师Blake Lemoine说,他发表了与聊天机器人的对话,并声称它有感知能力。他的结论开始在公司内部引发争议后,谷歌决定不公布这些数据。谷歌认为他的担忧缺乏依据,公开披露违反了雇佣和数据安全政策。 据知情人士透露,早在2020年,De Freitas和Shazeer就曾想方设法将LaMDA集成到谷歌Assistant中,后者是该公司四年前在其Pixel智能手机和家庭扬声器系统上推出的一款软件应用程序。每月有超过5亿人使用谷歌助手来完成基本任务,如查看天气和安排约会。负责监督Assistant的团队开始使用LaMDA回答用户问题进行实验。不过,谷歌的高管们没有公开演示这款聊天机器人。 知情人士说,谷歌不愿向公众发布LaMDA,让De Freitas和Shazeer很沮丧,他们离开了公司,开始创建一家使用类似技术的初创公司。 Pichai亲自出面干预,要求两人留下来继续开发LaMDA,但没有承诺向公众发布这款聊天机器人。De Freitas和Shazeer于2021年底离开谷歌,并于当年11月成立了他们的新创业公司Character Technologies Inc.。去年发布的Character软件允许用户创建聊天机器人并与之互动,这些机器人可以扮演苏格拉底等知名人物或心理学家等普通类型的人物。 谷歌在今年2月宣布了Bard,当时微软正在举办一场活动,介绍必应整合了
OpenAI
技术。两天后,在巴黎的一场活动上,谷歌让媒体和更广泛的公众看到了Bard,以及一个使用类似LaMDA的人工智能技术对搜索查询生成文本响应的搜索工具。 #ChatGPT火爆全网#
lg
...
Sue
2023-03-08
Stability AI联合创始人Cyrus Hodes宣布发起AIGC Chain 并于本月开启测试节点
go
lg
...
2月,由科技界大佬马斯克和奥特曼发起的
OpenAI
发布了最新的AI对话语言模型 ChatGPT,并开放了免费试用,更是将行业热度进一步迅速推高。开放试用后,大量用户开始了与 ChatGPT 的互动。从闲聊、回答日常问题,到生成诗歌、小说、视频脚本,以及AI自动编程等几乎各个领域,ChatGPT 都展示了其令人惊叹的能力。在数千亿级的参数变量以及计算能力和全新算法的支持下,AI完成了量变到质变的又一次飞跃,进一步模糊了人工智能和人类智能之间的界限。据瑞银集团数据,在推出2个月内,ChatGPT的月活用户已经突破1亿(截至2023年1月底),是史上用户增速最快的消费级应用。参照移动应用分析机构Sensor Tower的数据,TikTok突破1亿用户花了9个月,而Instagram花了2年。 随着ChatGPT的爆火,AIGC赛道彻底被引燃,网络上各式各样的AI创作应用也崭露头角,其中既有科技巨头谷歌、Meta、微软等,也不乏AIGC的新晋独角兽Stability Ai、Jasper等,AIGC相关企业持续获得的高额融资。投资机构已经全面瞄准AIGC这下一个万亿美元级别的蓝海赛道。已经获得十多亿美元融资的
OpenAI
据悉正在进行新一轮融资,微软目前正与
OpenAI
协商100亿美元的注资事宜。AIGC另一新秀,创始于英国伦敦和美国硅谷的人工智能解决方案提供商Stability AI也在2022年中完成种子轮融资1.01亿美元,估值达到10亿美元。 近日,AI领域顶级大佬、Stability AI联合创始人Cyrus Hodes更是宣布发起首条AIGC细分领域公链AIGC Chain,引发了圈内不小的轰动。据悉,AIGC Chain是第一个基于AI内容共同训练和生成的公链,任何人都可以用它来训练自己的小AIGC模型,并且实现了分布式大模型训练,意在构建全球最大的人工智能共同训练公链系统。 在各路资本和科技界大佬大举投资布局AIGC赛道之际,行业大佬Cyrus Hodes选择加入Web3机构AIGC Chain引发了人们的高度关注。其实除了Cyrus Hodes,今年以来已经有多位来自AI和Web3领域资深大咖宣布加入AIGC Chain。作为AIGC领域第一条公链,AIGC Chain确实有着坚实的技术基础。AIGC Chain基础大模型代码源自一家洛杉矶的科技公司Oben。该公司成立于2014年,由一群研究人员和创业者在洛杉矶创立。该公司的使命是以安全和负责任的方式推进和促进人工智能的发展,重点是实现人类的积极结果。Oben在机器学习、变声和自然语言处理方面进行研究和开发。制作了许多人工智能产品和服务,例如自拍照生成3D人脸、AIGC大模型。使用这些工具,用户可以用3D数智身份创造视觉内容,帮助用户最有效地实现他们的想法。Adam是Oben的联合创始人,此前曾是Lightspeed Venture Partners的投资合伙人。Adam和他在加州大学伯克利分校和清华大学的同学共同创立了Baihe.com,这是中国最大的互联网约会网站之一。Adam获得了加州大学戴维斯分校的交通博士学位和加州大学伯克利分校的金融工程硕士学位。而AIGC Chain区块链技术基础代码贡献者则是BitKeep的创始人Patrick,BitKeep是一款易于使用的加密钱包,在全球超过600万用户使用。Patrick带领团队从零开始建立BitKeep。退出BitKeep后,Patrick和他的团队向多个著名的Web3项目提供了区块链技术,包括BNB链上领先的MetaFi平台Babyswap。Patrick和他的团队在加密钱包、智能合约和多链开发方面拥有丰富的经验。在人工智能和Web3融合方面,Cyrus起到了领导性的作用。除去Stability AI联合创始人身份,Cyrus是OECD人工智能计算和气候专家小组的成员,全球人工智能合作伙伴关系(GPAI)的专家,是气候行动人工智能和农业人工智能委员会的一部分。他是IEEE的“积极地球2030”合作——可持续性公共资源的联席主席。Cyrus是阿联酋总理办公室人工智能部长的首席顾问。他拥有哈佛大学的公共管理硕士学位,巴黎二大学工业动力学硕士学位和巴黎科学院文学学士学位。 从定位上来看,AIGC Chain基于一个简单的使命而成立:让全球各地的人们(无论种族、性别、教育水平、国籍、地点、文化和宗教信仰)都能公平地访问和简易地参与到AIGC生态系统。AIGC Chain是一个可分布式、模块化的AIGC模型基础设施,任何人都可以用它来训练自己的小AIGC模型,并按照自己的意愿将它们添加到AIGC Chain基础设施中。AIGC Chain是一个公共、去中心化的第二层解决方案。它是用Go语言构建的,最初与以太坊和iPollo合作。还有额外的计划将其扩展到其他网络,如BSC、Cosmos和像PAI这类的分布式算力网络。其目标是创建一个开放的、分布式AI网络,并支持存储公链,如Filecoin。AIGC Chain由AIGC生态系统集体训练和维护。AIGC Chain将支持一个P2P的市场,允许用户向AIGC社区销售分布式GPU服务、数据存储或者其他运营AI所需要的资源,无需中央平台或中介。这意味着参与者可以使用自己的web3身份,如区块链钱包地址或去中心化身份,访问市场,并向AIGC生态系统提供各种服务。市场允许参与者从各种卖家处访问和购买各种人工智能相关服务和资源,如分布式 GPU 服务、数据存储和数据标注。这有助于提高人工智能的公平性、效率和性能,并支持 AIGC 生态系统的发展。 目前AIGC赛道存在着不少有待解决和优化的问题,比方说不公平 、AI的艺术风格不一致性、贫困、信息熵高、信息无序等问题,而AIGC Chain将有望通过web3的方式来解决和优化这些问题。 就不公平问题而言,人工智能生成的内容通过提供用户和组织新的技能和见解来解决问题,帮助他们取得成功。目前新冠疫情已经造成了巨大的经济破坏,使数百万人陷入贫困。少数族裔、边缘化和被忽视群体缺乏融入AI生态系统的条件,将进一步加剧贫富差距。使用AI生成模型和点对点市场可以帮助提升边缘化群体的独特文化、故事和技能,这些对整个人类都是有价值的。分散式AIGC基础设施将通过允许更大的参与来提高边缘化群体的参与度,从而减少疫情的负面影响,缓解贫富差距。 AIGC使用的扩散模型天生会生成随机和多样的结果。扩散模型使用随机过程,这意味着它依赖随机性和概率来生成输出,即使使用相同的提示输入,模型的输出也可能因一次运行到下一次而有所不同。此外,扩散模型可能在多样和多变的数据集上进行训练。这进一步导致了生成图像的随机性和不一致性。然而,在实际应用中,如内容生产中,通常需要一致性。AIGC Chain的技术贡献者开发了一种精确控制方法,协调视觉生成技术,解决了扩散生成图像的不一致问题。 就信息无序而言,热力学第二定律指明宇宙的熵总是增加。所以如果要减缓宇宙热死亡的进程,就需要负熵。在物理学中,负熵是指系统比平衡状态更有序,而不是更无序。在经济系统里,这是说信息要有序,而不是无序,有序才能让经济和社会的发展更可持续。Web2平台用免费来换取用户的广告时间,广告对用户的信息获取来说往往是无效的,增加了熵,对整体的经济系统是熵增的。而Web3的去中心化的架构可以让用户自己决定希望获取什么样的广告,信息的熵比Web2的信息熵低,让整体经济系统更有序,更加可持续。区块链技术通过提供安全、透明、防篡改的信息存储和传输方式,提高了网络上信息的可靠性和信任度,从而减少熵。NFT 通过区块链网络验证,为艺术品的所有权提供了安全的认证方式,通过创建明确的所有权记录减少熵。 总的来说,与中心化服务平台相比,AIGC Chain的分布式 AIGC 服务平台有潜力为用户提供更多的公平性、灵活性、创新性和更多的选择。 在生态层面,AIGC Chain主网全面支持图灵完备的智能合约。智能合约(Smart Contracts)是内存块链中制定合约所使用的特殊协议,这是一种自动执行的合约,将双方的协议条款写入代码中,一旦启动就会自动运行,不需要任何人为的干预,自主控制其计算所涉及的资源,比如有权限调配合约双方的资金和财产。通过分布式的节点来自动运行,而不用透过中心化的单个服务器。智能合约为构建在 AIGC 网络上的 DApps 开辟了一套全新的用户体验和新的归因模型。例如,利用 AIGC 网络上的智能合约可以实现完全数字化的物品所有权、创新的支付消费模型、透明的版税分配、无需信任的众筹机制等等。这提供了额外的社会和经济交互层,补充了视频和数据传输的核心功能,并显着提高了平台用户的参与度和保留率。 在EVM兼容方面,AIGC 虚拟机与以太坊虚拟机兼容。因此,移植现有的基于以太坊的合约很简单,成千上万的智能合约开发人员可以轻松地在 AIGC 上进行构建。AIGC 的 Ethereum RPC 适配器提供了对以太坊 RPC API 的支持,类似于 Binance Smart Chain 和 Polygon。Ethereum RPC 适配器软件将 AIGC RPC 端点转换为 Ethereum RPC API。有了它,AIGC 现在支持整个 Ethereum DApp 开发堆栈,包括 Metamask、Hardhat、Remix、Ethers.js、Web3.js 和 Truffle Suite。移植到 AIGC 的以太坊 DApp 可以使用相同的 API 调用与 AIGC 区块链交互。这意味着以太坊 DApps 几乎可以无缝部署和迁移到 AIGC Chain。这大大降低了开发者利用已有基础设施在AIGC CHAIN部署并基于AIGC CHAIN进行原生开发的难度。据AIGC Chain官方推特,AIGC Chain或将于2023年3月21日开启测试节点申请,申请者可通过训练AI模型获取丰厚奖励并折射至主网。AIGC Chain测试网将分为多个阶段进行,主网上线时间预计为2023年Q3~Q4。 来源:金色财经
lg
...
金色财经
2023-03-07
ChatGPT 等 LLM 使用强化学习而非监督学习进行微调的 5 个原因
go
lg
...
一些值得注意的经济和社会转型做出贡献。
OpenAI
开发的 ChatGPT 是一个自然语言处理模型,允许用户生成有意义的文本。不仅如此,它还可以回答问题,总结长段落,编写代码和电子邮件等。其他语言模型,如 Pathways 语言模型(PaLM)、Chinchilla 等,在模仿人类方面也有很好的表现。 大型语言模型使用强化学习(reinforcement learning,RL)来进行微调。强化学习是一种基于奖励系统的反馈驱动的机器学习方法。代理(agent)通过完成某些任务并观察这些行动的结果来学习在一个环境中的表现。代理在很好地完成一个任务后会得到积极的反馈,而完成地不好则会有相应的惩罚。像 ChatGPT 这样的 LLM 表现出的卓越性能都要归功于强化学习。 ChatGPT 使用来自人类反馈的强化学习(RLHF),通过最小化偏差对模型进行微调。但为什么不是监督学习(Supervised learning,SL)呢?一个基本的强化学习范式由用于训练模型的标签组成。但是为什么这些标签不能直接用于监督学习方法呢?人工智能和机器学习研究员 Sebastian Raschka 在他的推特上分享了一些原因,即为什么强化学习被用于微调而不是监督学习。 不使用监督学习的第一个原因是,它只预测等级,不会产生连贯的反应;该模型只是学习给与训练集相似的反应打上高分,即使它们是不连贯的。另一方面,RLHF 则被训练来估计产生反应的质量,而不仅仅是排名分数。 Sebastian Raschka 分享了使用监督学习将任务重新表述为一个受限的优化问题的想法。损失函数结合了输出文本损失和奖励分数项。这将使生成的响应和排名的质量更高。但这种方法只有在目标正确产生问题-答案对时才能成功。但是累积奖励对于实现用户和 ChatGPT 之间的连贯对话也是必要的,而监督学习无法提供这种奖励。 不选择 SL 的第三个原因是,它使用交叉熵来优化标记级的损失。虽然在文本段落的标记水平上,改变反应中的个别单词可能对整体损失只有很小的影响,但如果一个单词被否定,产生连贯性对话的复杂任务可能会完全改变上下文。因此,仅仅依靠 SL 是不够的,RLHF 对于考虑整个对话的背景和连贯性是必要的。 监督学习可以用来训练一个模型,但根据经验发现 RLHF 往往表现得更好。2022 年的一篇论文《从人类反馈中学习总结》显示,RLHF 比 SL 表现得更好。原因是 RLHF 考虑了连贯性对话的累积奖励,而 SL 由于其文本段落级的损失函数而未能很好做到这一点。 像 InstructGPT 和 ChatGPT 这样的 LLMs 同时使用监督学习和强化学习。这两者的结合对于实现最佳性能至关重要。在这些模型中,首先使用 SL 对模型进行微调,然后使用 RL 进一步更新。SL 阶段允许模型学习任务的基本结构和内容,而 RLHF 阶段则完善模型的反应以提高准确性。 来源:金色财经
lg
...
金色财经
2023-03-07
All in AIGC 的扎克伯格 坐不住的 Meta
go
lg
...
3B和65B,并且官方还声称效果要优于
OpenAI
的GPT系列,甚至13B的LLaMA在单个GPU上就能运行。它的主要运行原理和以往的大语言模型大同小异,都是将一系列单词作为输入,并预测下一个单词以逐渐递归生成文本。至于为何要发布不同规格的大模型,Meta对此的解释是“近来的研究表明,对于给定的计算预算,最佳性能不是由最大的模型实现的,而是由基于更多数据训练的更小的模型实现的。”换言之较小的模型规模加上比较大的数据集,获得的性能可能会比更大规模模型的要好很多。一方面,小规模模型需要的计算能力和资源相对来说都会节约很多,另一方面,它还能基于更多数据集训练更多模型,更容易针对特定的潜在产品或用户用例进行重复训练和微调。 至于实际效果,小扎更是放出豪言,这是AI大语言模型里的新SOTA模型,在生成文本、模拟对话、总结书面材料以及推演数学定理或预测蛋白质结构等五花八门的事情,它都能干。相较于有1750亿参数的GPT-3,最多拥有650亿参数LLaMA在大多数基准上的确都要优于GPT-3。 后发先至,后来居上? 有一说一,不要说相比其他科技巨头,就是比2021“元宇宙元年”时自己的表现,Meta这波入局怎么看都是落后了一步。早在现代企业诞生的几百几千年前,古人的围棋和象棋理论中就有“宁输一子,不失一先”的说法。几十年前,思科公司的约翰·钱伯斯又提出了著名的“快鱼理论”:当今市场不再是大鱼吃小鱼,而是快鱼吃慢鱼。 2021年当元宇宙概念首次提出后,Facebook很快就改名Meta,既是表明自己的雄心壮志,也是为了吸引更多的粉丝。然而作为旁观者的我们都看得一清二楚。Meta在这一年多里,除了烧钱就是裁员,以及自家冷冷清清,凄凄惨惨的Horizon Worlds。去年11月Meta裁员1.1万人,两周前又裁掉数千人,可是小扎嘴里的“2023将是效率年”却不知道还需要多少牺牲品。去年底时有人说小扎的行为彰显了“其作为犹太人,骨子里的冷血无情,刻薄寡恩终究是本性难移的”。对小扎的人品如何在此不做评价,但一些Meta员工的自述可以让我们管中窥豹,可见一斑:“十年大干快上,换来今天的一地鸡毛。” 也有人说小扎的行为不过是业内现状的缩影,反映了业内普遍存在的焦虑情绪,毕竟元宇宙到现在还基本上是八字没一撇,连好点的XR硬件厂商都屈指可数。相比之下还是AIGC更务实点,更何况ChatGPT最近的表现也是有目共睹。和机器人对话可比玩VR游戏简单多了,也更有意思,至少就目前来看,引人入胜的VR游戏还是太少,质量更是鱼龙混杂,良莠不齐。 不论是否承认,元宇宙作为宏大叙事毋庸置疑,但目前更多的还停留在理论阶段,实际应用少得可怜。与此相反的,ChatGPT立足AIGC与聊天机器人的结合部,一出手就是杀手锏,也多亏了
OpenAI
在一个领域内深耕八年才有今日的惊艳亮相。而八年前的Meta又在做什么呢?虽然“大干快上”让它也在短短数年内获得了引人注目的成就,但正如老话说的,站在风口上猪都能飞起来,风口之后呢? 另外关于聊天机器人还要多说几句,虽然Siri,ChatGPT等都堪称是现象级产品,但这个概念其实早已有之。1966年,德裔美籍的电脑科学家约瑟夫·维森鲍姆在深入研究图灵测试后,亲自动手开发了一款程序ELIZA,模拟心理医生的对话访谈,之前在展望Web3未来时曾提到过它。碍于当时电脑的普及程度极为有限,ELIZA仅在学术圈内掀起了一点波澜。直到1994年“聊天机器人”的概念才被确立,并逐渐发展成今日规模的庞大产业。 来源:金色财经
lg
...
金色财经
2023-03-07
太极股份跌超3%,人工智能ETF(159819)盘中飘绿
go
lg
...
4)上涨1.57%。 消息面上,日前,
OpenAI
官方宣布开放ChatGPT和Whisper模型API,开发人员可以通过API将ChatGPT和Whisper模型集成到自己的应用程序和服务中。目前已经有多家应用侧厂商与
OpenAI
开展合作,如Snapchat、Quizlet、Instacart、Shop、Speak等。 国信证券分析认为,人工智能技术作为驱动数据经济的技术底层,有望迎来新的发展机遇。数据、算力与算法是人工智能时代的三大基石,三者相互促进带动AI+应用快速落地。当前处在以ChatGPT为主线的新一轮人工智能创新周期,ChatGPT为人工智能产业注入新活力,此次ChatGPT开放API接口,有望带动“ChatGPT+应用”全面爆发期,建议重点关注人工智能领域中“ChatGPT+应用”相关赛道。 (来源:界面AI) 声明:本条内容由界面AI生成并授权使用,内容仅供参考,不构成投资建议。AI技术战略支持为有连云。
lg
...
有连云
2023-03-07
如何使用AI制作NFT?(详细教程)
go
lg
...
T注册官网,https://chat.
openai
.com/auth/login 3.点击Sign up开启注册流程。需要输入自己的邮箱地址。 4.然后会提示有一封验证邮件发送到此邮箱。 5,打开自己的注册邮箱,点击 Verify email address,会弹出下图, 输入自己的姓名后,点击 Continue。 6.验证手机号,因为大陆的手机号不能注册,必须通过接码平台(SMS-Activate)获取验证码来完成此步。接码平台代收验证码如下图所示。 7.输入接码平台收到的验证码,chatGPT注册完成。 8. 到对话框输入你不懂的问题,比如,如何制作一个NFT,他就会现实一个答案; 那么如何使用AI工具创作内容呢?我们以Disco Diffusion举例,进行AI绘画? 开始前的准备工作:谷歌账号, Chrome浏览器。 第一步,谷歌搜索Disco Diffusion 1.选择最新版本Disco Diffusion v5.4[Now with Warp],点击进入 2.进入主页面,【1.Set Up】第一项“点击”运行,如图所示: 3.出现警告提示,继续点击【仍然运行】 4.点击【确定】 5.当出现T4的时候,就设置好了。否则,重新操作,直到T4出现 第二步,找到【3.Settings】 如下图所示,“batch_name”就是AI绘图储存的文件夹名字,为了后期区分和查找方便,你可以设置一个名字,比如“20220711” “width_height_for_512×512_models”指的是图片“宽高”尺寸,可以根据自己所需图片的大小进行设置,这里需要注意的是,图片宽高必须是64的倍数。 第三步,下拉,进入Prompta 如下图标注所示,我们开头说的Disco Diffusion可以把文字转化成图像,这里的“文字”指的就是放在这里的文字。 这里需要注意两点: 1.编辑好的文字,放到【“ ”】内,否则AI识别不了 2.这个文字一定要是英文,不懂英文也不要紧,借助翻译工具翻译一下就行了,我就是这么操作的 3.文字格式“描述画作类别+内容+风格”,越具体画的越精准,刚进入的时候,系统会给一个事例,可以按照那个格式来写 当然,你随便写一个,比如“山,水,日出,+莫奈风格(中国风)”也行 第四步,进入Diffuse! 在这里需设置一项,就是“n_batches”,如下图所示,指绘图张数。 注意:绘图量越大时间越长! 当然,可以一次性让AI多画几张,然后选出相对好看的一张,为了节省时间,我最多让它画两张。(这里选的是绘制1张) 第五步,开始创作 全部设置好之后,点击【代码执行程序】—选择—【全部运行】,剩下就是等待(第一次操作,时间会有点长) 绘图演示 下面,我们随便举个例子,看看AI到底能画出来什么?这句话参考了《平凡的世界》开篇,图片风格是张大千的风格。通过谷歌翻译,复制粘贴到“第三步”。如下图所示 我们第一次点击【代码执行程序】——【全部运行】的时候,系统会提示链接Google云盘,点解链接即可。 继续,链接谷歌账号 点击允许…… 稍等一会,可以看到绘图过程,如下图所示 如何找到保存的绘画作品? 1.点击左边的“文件夹”图标,如下图所示(我们刚刚命名的文件夹) 2.点击图片后右击选择【下载】,图片就可以保存了。 下图,就是AI根据刚才的指令画出的张大千风格的作品 内容生成后就可以上传CreateSea 进行推广宣传了。 可创CreateSeea对NFT作品进行技术支持: 可创团队有鲜明的组织与分工,有专业的技术,运营,设计人员,让每个创作这都享受到最全的平台支持。 l 宣发方面:每月都会有NFT深度文章,投送至不同地区的门户网站比如(Tumblr,Blogger,Youtube,Reddit,Quora,Medium等国际平台)。 l 运营方面:针对多地区多语种用户分别打造社媒平台,建立社媒矩阵:与多地区多语种KOL建立联系,合作打call视频,提升品牌影响力;力求将效果辐射至多地区多语种,及时收集用户反馈,分析用户心理,帮助项目进一步发展; l 内容方面,从项目背景、核心技术、市场情况、核心产品、用户反馈、发展规划、KOL等; l 活动策划方面,以引流和用户裂变为目标,支持市场业务部门进一步推广转化、增强粘性; 可创CreateSea秉持“传播创作价值,积极拥抱Web3的理念“,基于FISCO BCOS区块链和数字作品技术,为艺术家带来了原创、优质、个性化的数字作品平台,提供了Web3.0时代创作的呈现渠道,可创希望和每个一个共享元宇宙,Web3,智能AI的盛宴。 编辑:Sara 来源:金色财经
lg
...
金色财经
2023-03-07
Notion AI 又一款强大的内容生成工具?
go
lg
...
Notion AI 实际上就是基于
OpenAI
的 GPT-3 开发的,也就是说,Notion AI 跟 ChatGPT 本就是同宗同源。 Notion AI 关于特斯拉投资者日的回答信息只停留在了 2021 年 两者不同之处在于,ChatGPT 是专门为会话任务设计的。在开发时接受了更广泛的语言模式和风格培训,因此更擅长生成类似人类对话响应,适用于聊天机器人、对话式 AI 等任务。而 GPT-3 是一个更通用的模型,共使用了 1750 亿个参数训练而成,功能也更强大,可用于翻译、文本生成等更广泛的语言相关任务。 但如果用 AI 能力来判断的话,ChatGPT 实际上 GPT-3 的升级版本。ChatGPT 是在 GPT-3.5 基础上来开发的,使用了更完整的人类强化反馈学习进行训练。因此,当你用同一个问题去问 ChatGPT 和 Notion AI 时,你也会发现 ChatGPT 的回答明显更加「类人」,逻辑也更加缜密,而 Notion AI 更偏向于信息的整理呈现。 ChatGPT 的回答 Notion AI 的回答 硅星人认为,之所以现在很多用户觉得 Notion AI 比 ChatGPT 更强大,其实并不是 NotionAI 显现出了多么厉害的人工智能能力,而是因为相比于目前 ChatGPT 带有测试性的原型功能呈现,Notion AI 已经可以算是一个非常完整的、以用户为导向的产品。 借助 AI 功能,Notion 在原有的文档和知识管理的基础上进行了有效延伸,通过将丰富的内容模版叠加了智能性,进而大大提升了用户对内容的创作和管理效率,在使用的过程中让人感到印象深刻。 要说 Notion AI 比 ChatGPT 更厉害,硅星人认为目前并不能下这个结论。但由于 Notion 比大部分人更早地洞察到了 AI 的潜力,因此在 AI 功能的拓展和产品应用方面,Notion AI 目前已走在了市场的前列。 可以预见的是,在生产力工具领域,人工智能的风接下来一定会越刮越猛,而 Notion AI 不会缺席。 来源:金色财经
lg
...
金色财经
2023-03-07
竞争加速!微软宣布将ChatGPT技术加入Power应用开发平台,大型科技公司迎来人工智能战
go
lg
...
在美国使用。上个月,软件巨头微软已经将
OpenAI
的ChatGPT添加到了必应搜索和Edge浏览器中。 当时微软CEO萨蒂亚·纳德拉表示:“搜索领域迎来了新的时代。”微软表示,通过与研发ChatGPT的
OpenAI
公司合作,必应搜索引擎会构建于一个新的大型语言模型上,比ChatGPT更强大。更新后的必应在传统搜索结果的右侧提供了一个带有注释的AI答案框。用户还可点击新出现的“聊天”标签,用一个类似于ChatGPT的聊天界面取代网页。 微软在发布会上作了相应演示,例如生成定制的餐饮计划和推荐的旅游行程。
OpenAI
首席执行官萨姆·阿尔特曼表示,必应的模型借鉴了
OpenAI
的ChatGPT和GPT-3.5的关键经验,从而创造出一些“更快、更有能力”的东西。
lg
...
迪星妮
2023-03-07
上一页
1
•••
602
603
604
605
606
•••
649
下一页
24小时热点
中美突发重磅!美国财长:习近平已向特朗普发出会晤邀请 后者尚未接受
lg
...
【直击亚市】特朗普再批鲍威尔!9月降息50基点,全球市场沸腾了
lg
...
中美重要表态!中美贸易协议涵盖中国在美投资?美财长贝森特这样回应
lg
...
特朗普想降息50个基点,全球市场大反攻!美元难逃跌势,盯紧普特峰会
lg
...
中加贸易冲突升级!中国宣布对加拿大这一重要商品征收75.8%关税
lg
...
最新话题
更多
#Web3项目情报站#
lg
...
6讨论
#SFFE2030--FX168“可持续发展金融企业”评选#
lg
...
36讨论
#链上风云#
lg
...
111讨论
#VIP会员尊享#
lg
...
1989讨论
#CES 2025国际消费电子展#
lg
...
21讨论