FX168财经网_全球视野外汇黄金加密货币NFT资讯网

AI 减速Web3 加速舆论话语与政治

金色财经2023-11-22

大模型套壳：无奈还是创新？

国内某大厂，称其大模型是套壳Meta的LLaMA，即著名的羊驼。概括一下就是说：你要改名就改吧，但别玩掩耳盗铃的花样，免得其他小公司做一堆多余的适配工作…… 这条朋友圈很快就引起一众吃瓜群众的好奇，可谓是一石激起千层浪。业内外纷纷猜测，虽然没有指名道姓的说破，但贾扬清说的“某大厂”其实就是前不久刚发布了Yi-34B大模型的零一万物。没错，就是“AI教父”李开复的新作。作为李开复AI团队的第一个大模型，Yi-34B得名于340亿的参数量，也是基于GPT的架构，且在Hugging Face和C-Eval的两个开源大模型排行榜上都取得了第一的好成绩。然而就在发布后不久，Hugging Face社区就给零一万物留言了，要求其修改大模型张量。理由也很简单：除了两个重命名的张量外，Yi完全使用了Llama的架构。消息一出就引起不少人的驻足围观，嘲讽零一万物的，支持李开复的都大有人在，当然更多的还是在吃瓜。不过综合这几天的消息来看，外界争论的焦点主要有二：1.为什么现在还有套壳的？2.为什么是李开复？一、关于套壳国产大模型套壳是个被吐槽已久的现象，真可说是“冰冻三尺，非一日之寒”。比零一万物更早的，今年五月亮相的科大讯飞“星火1.0”，在发布会现场被人问到“你是谁发明的”时，得到的回答“我是OpenAI发明的”，迅速引起轩然大波，对科大讯飞的口诛笔伐也随之而来。但很快科大讯飞就表态，星火之所以这么说是因为他们和OpenAI用的训练数据集大同小异。而根据机器学习与AI科学中的经典理论“垃圾进，垃圾出”，即输出数据的质量与输入数据的质量是成正相关的。如果用错误的、无意义的数据训练大模型，大模型自然也一定会输出错误、无意义的结果。经过半年多的发展，星火现在已经进化到了3.0版本，虽然还是免不了这样那样的非议，但就实际表现来看，它不像是套壳的产品。前面说过零一万物公司的做法似乎介于“套壳”和“借鉴”之间，但国产大模型套壳也不是最近一两天才有的。三月百度的文心一言首秀后，与之配套的文生图也同样引起广泛质疑，认为其实质上是把汉语机翻成英语，再将单词输入至Stable Diffusion生成了图像。最明显的莫过于“车水马龙”，被机翻成了“car、water、horse、dragon”四个词，之后再以此为提示词生成了如下所示的怪异图片。尽管百度表示，文心一言完全是百度自研的大模型，文心一言的文生图能力来自文心跨模态大模型ERNIE-ViLG，但外界对此的质疑始终没有打消，直到半年多后的今天依然如故。最明显的一点，车水马龙的本意是“车如流水，马如游龙”，即使要翻译为英语也绝非将四个字一一对照的翻译为car、water、horse、dragon。如果不是套壳，它为什么要符合英语而不按照中文的意思来呢？当前各家企业基本都有算力、人才和资金方面的缺口，导致一些只想挣快钱的团队也想走捷径。另一个原因同样不能忽视，就是当前大模型创业的时间窗口已经非常紧张了。毕竟有目共睹的，大模型这把火已经烧了近一年，该入局的玩家早已入局，整个行业的格局已经基本形成。九月时的格局，现在应该更多事实上，在贾扬清发朋友圈后不久零一万物就做出了回应，他们承认Yi-34B的结构设计的确是基于GPT的成熟结构，借鉴了LLaMA的公开成果，但是这是为了与行业主流保持一致，更有利于适配和迭代。不过外界似乎对此并不买账，因为这种解释涉及一些很重要也很基本的问题：到底该怎样明确地界定“套壳”和“借鉴”？在开源产品的基础上进行修改、调整，究竟算不算一种“套壳”行为？从技术层面上来说，判断一个项目是“借鉴”还是“套壳”，关键在于评估所做的改进或优化是否具有实质性和原创性。在借鉴的过程中，开发者会在原有大模型的基础上做出显著的增值，例如引入新的数据处理技术、优化算法性能，或者开发基于某个行业或应用的特定功能。同时在借鉴时，开发者通常都会明确指出他们的改动是基于哪款开源大模型，并说明他们所做的改进和创新，这种做法也符合开源社区的原则和精神。相对地，如果改动仅限于浅显的表层，没有提供任何新的技术见解或实质性的性能改进，那就可以被视为套壳。这么看来，这次零一万物的Yi-34B究竟是借鉴还是套壳？从目前已有的信息来看，零一万物公司的做法似乎介于“套壳”和“借鉴”之间。他们确实在一定程度上依赖了LLaMA的架构，但也在数据处理、训练方法等方面进行了自己的工作和创新。例如使用了自建的数据管线，从3PB原始数据中精选到3T token的高质量数据，以及在在网络宽度和深度上测试了不同的方法。但同时，这些改进不那么容易通过大模型的架构或代码直观的发现，通常都在大模型的内部，而不是直接体现在大模型的基础架构上。这么看下来，将零一万物的做法完全归类为“套壳”可能有失公允。但如果就此视为完全独立地“借鉴”同样不妥，原因在于其架构与LLaMA架构的确有很高的相似性。当一个新款大模型在核心架构上，与现有的开源大模型高度相似甚至一致时，即使在其他方面有所创新和改进，也很难被完全视为独立的“借鉴”。二、为什么要套壳大厂的地位难以撼动，国外同行又不断推陈出新，留给国内大模型初创企业的时间日益紧张。在市场上同类竞品越来越多的情况下，客户何必偏偏苦守一个研发缓慢，前景又不甚明朗的大模型呢？市场对于快速解决方案的需求迫在眉睫。客户的需求不能等，要的是现在就能用的解决方案，而不是几年后的尽善尽美。迫于如此压力，有点团队选择使用开源大模型作为基础，对其进行部分的改进和定制以适应市场的需求。毕竟即使人财物全部齐备，创新和自研的过程也是漫长且充满不确定性的，“科研的道路上充满了沮丧”是不争的客观事实。同时因为AI领域正在快速发展和变化，市场和技术的不确定性意味着巨大的研发风险。在三月GPT-4上线后，很多对手都以此为目标，然而殊不知对手可不会原地不动的等着被超越。国内第一个亮相的文心一言，以自己的实际表现说明了何为“刚上台就过时”。在技术飞速发展的时代背景下，许多团队可能比三月的百度更惨，自研的产品甚至连过时的机会都没有。九月底OpenAI推出了DALL·E 3，紧接着就是GPT-4V和语音交互功能，在多模态层面迈出了一大步。而本月初开发者大会的一系列“王炸”更新，相信很多人至今记忆犹新，OpenAI轻描淡写的GPTs,直接扼杀了想在“局部领域”突围的国产大模型。尽管OpenAI看似强大到无所不能，好在还是有对手的。对于初创企业来说，在保持技术创新的同时，也要考虑到商业化的可行性和市场的接受度。而有着成熟框架且得到市场广泛认可的开源大模型，无疑成了一种可靠的，可以马上投入使用的方案。并且成熟的开源框架通常有一个庞大的社区支持，这意味着团队在遇到问题时可以获得更多的帮助。同时社区中的其他开发者可能已经解决了一些常见问题，团队可以直接借鉴这些解决方案，避免重复劳动。这么看下来，零一万物的作为似乎又情有可原。就在贾扬清发朋友圈的同时，网上对零一万物的非议也随之出现，其中不乏尖酸的讽刺，比较有代表性的如“国内要发展高新科技其实很简单，只要美国别封锁就可以了”，以及“套壳羊驼是看得起Meta，OpenAI算老几，我们都不拿正眼看的。”在此既不想黑零一万物也不想洗白，只想说明一下，在当前套壳的国产大模型企业中，也不排除的确有一些有长期技术路线的企业。不过众所周知的，用爱发电是不可能长久的。来源：金色财经

金色财经2023-11-17

先进封装概念大涨华海诚科20CM涨停

，已适配并可承载 SAMCV 大模型、Llama2 等百亿级大模型运算，可广泛应用于 AIoT 边缘视频、移动机器人等场景。

金融界2023-11-17

灰度报告：本轮行情的刺激因素——业内竞争与传统金融进场

去中心化借贷平台之一。来源：DeFi Llama。加密货币的估值现在折扣了更乐观的前景，这意味着如果传入的消息变得不那么有利，那么失望的风险就会更大。幸运的是，最新数据继续向积极方向发展。例如，10月份消费者价格通胀低于预期，我们预计这将提高美联储完成紧缩政策的可能性（报告发布后债券收益率大幅下降）。我们认为，美联储加息对加密货币估值造成了压力，结束这一过程可能有助于支持市场复苏。我们相信，如果实际利率达到顶峰，并且我们继续看到美国市场现货 ETF 批准取得进展，加密货币估值可能会继续复苏。图表 4：较低的实际利率应支持加密货币复苏来源：Bloomberg。实际利率为 2 年 TIP 收益率。数据截至 2023 年 11 月 14 日。来源：金色财经

金色财经2023-11-16

云天励飞发布14nm Chiplet大模型推理AI芯片

卡，已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算，可广泛应用于AIoT边缘视频、移动机器人等场景。

金融界2023-11-15

两连板美格智能(002881)，涨幅偏离值累计达20%而异动上榜

组上，成功运行了一系列大语言模型，包括LLaMA-2、通义千问Qwen、百川大模型、RedPajama、ChatGLM2、Vicuna。本条资讯来源界面有连云，内容与数据仅供参考，不构成投资建议。AI技术战略提供为有连云。

有连云2023-11-15

人工智能ETF(159819)：AI PC、手机、人形机器人重磅来袭，人工智能不断加速突破

布骁龙8 Gen3，其可支持Meta Llama 2大模型上训练的聊天机器人。此外，近期小米新机14系列也点燃了市场热情，新机搭载了前面提到的骁龙8 Gen 3芯片，据小米官方消息，小米14系列开售仅5分钟，销量就超过了上一代首销总量的6倍，创下小米手机新的销售纪录。AI在手机端的落地有望加速释放市场空间。综合来看，人工智能的影响逐步扩大，在多个领域的应用正加速落地，商业化前景可期。从股价走势看，目前AI板块处于相对低位，布局具备一定性价比。人工智能ETF（代码：159819，联接基金A/C：012733/012734）紧密跟踪中证人工智能主题指数。本条资讯来源界面有连云，内容与数据仅供参考，不构成投资建议。AI技术战略提供为有连云。

有连云2023-11-10

中国一家“独角兽”正在崛起！阿里巴巴融资、拜登禁令前“储芯” 广招在美中国公民入队

Platforms Inc.备受推崇的Llama 2。Hugging Face为各个类别中表现最好的法学硕士运行排行榜，该公司在周末发布了评估结果，将中国模式列为预训练基础法学硕士的第一名。 “Llama 2一直是黄金标准，也是对开源社区的巨大贡献，”61岁的Lee受访时说道。“我们希望不仅为中国，而且为全球市场提供更好的选择。” 值得关注的是，在刚刚过去的周末里，亿万富翁马斯克(Elon Musk)推出了一款名为Grok的AI聊天机器人。在中国，百度(Baidu)展示了其Ernie LLM版本，据称该版本与ChatGPT母公司OpenAI的技术相当。阿里巴巴已经投资至少3个AI领域企业，其中包括01.AI。报道提到，中美AI公司基本上不会相互竞争，因为美国的技术在中国无法获得。尽管如此，中美之间日益紧张的地缘局势使AI的发展变得更加复杂。拜登政府2022年禁止向中国客户出售英伟达公司最先进的AI芯片，理由是担心该技术可用于训练军事应用的AI模型，从而导致国家安全。就在10月，美国进一步收紧了这些限制，禁止英伟达销售其专为中国设计的稍微不太先进的芯片。 Lee将这样的情况描述为“令人遗憾”，但表示01.AI储备了可预见未来所需的芯片。这家初创公司今年早些时候开始积聚半导体，甚至从Sinovation Ventures借钱进行采购。他强调：“我们觉得必须这样做。” 如今，01.AI已经在规划其业务战略，超越刚刚推出的开源模式。该初创公司将与客户合作开发针对特定行业或竞争情况量身定制的专有替代方案。例如，Yi-34B因训练中使用的340亿个参数而得名，但这家初创公司已经在研究超过1000亿个参数的模型。 “我们的专有模型将以GPT-4为基准，”Lee说，他指的是OpenAI模型。他说，提供英文和中文系统将成为银行、保险公司和贸易公司等跨国公司的优势，01.AI计划未来添加更多语言。 Lee表示，他的风投公司有限合伙人向他提出一些关于如何平衡首席执行官双重角色的问题。他指出，如果他每周花40个小时在Sinovation Ventures，那么每周还有128个小时。“我还有86个小时在01.AI上工作，同时也不能忽视我的创新工场职责，”他说，并暗示他可能每天分配6个小时来睡觉和生活中的其他事情。

圈内人2023-11-06

恒生科技30ETF上涨2.08%，恒生科技指数强势走高

Meta、OpenAI陆续发布多模态版Llama2（AnyMAL）、GPT-4V，进一步推动AI在多模态领域持续进步和应用持续落地。国内应用虽然相比海外虽然存在一定代际差距，但随着大模型备案落地、应用持续升级迭代以及海外映射，国内应用有望随产业趋势发展，具备相对长期成长空间。本条资讯来源界面有连云，内容与数据仅供参考，不构成投资建议。AI技术战略提供为有连云。

有连云2023-11-02

拜登政府发布新的AI行政命令称确保AI将为美国人服务

penAI的GPT，Meta的开源模型Llama 2等大模型开发者必须分享安全测试结果。而且，美国政府还计划要求各机构解决失业问题，并就 AI 对劳动力市场的影响编写一份报告。白宫希望鼓励更多工人在 AI 生态系统中工作，提供研究资源、关键信息和技术援助。目前，美国政府已公布《AI 权利法案蓝图》、《NIST AI 风险管理框架》、《国家 AI 研发战略规划》、《国家 AI 研究资源路线图》等 AI 相关法律规定。另外，拜登政府早前还与Meta、谷歌、OpenAI、英伟达和Adobe等多家 AI 公司之间达成一系列监管协议。另外，白宫称，在美国推进这一形成命令的同时，过去的几个月中，美国已广泛地就 AI 治理框架与其他国家地区进行磋商，涉及的国家和地区20余个：包括澳大利亚、巴西、加拿大、智利、欧盟、法国、德国、印度、以色列、意大利、日本、肯尼亚、墨西哥、荷兰、新西兰、尼日利亚、菲律宾、新加坡、韩国、阿联酋和英国。白宫强调，拜登最新发布的 AI 行政命令，是美国在安全、可靠和可信赖 AI 方面向前迈出的重要一步。下一步，美国政府需要将采取更多行动，并继续与国会合作寻求两党立法，帮助美国在负责任的科技创新方面发挥引领作用。来源：金色财经

金色财经2023-11-01

24小时热点