FX168财经网_全球视野外汇黄金加密货币NFT资讯网

AI伪造巴菲特发言引发澄清伯克希尔·哈撒韦发布官方声明

AI伪造巴菲特发言概述根据 www.Todayusstock.com 报道，近期在 YouTube 上出现多段所谓沃伦·巴菲特评论的视频，但这些视频中包含了人工智能生成的图像或经过伪造的视觉效果。虽然视频中的巴菲特形象与真实外貌相似，但其声音表现出明显的单调与缺乏真实性，明显与巴菲特本人声音存在差异。这类视频正以病毒式传播的方式迅速扩散，可能误导对巴菲特不太熟悉的观众。对投资者的潜在影响分析这类AI伪造视频的出现可能对投资者判断造成误导。部分投资者可能基于虚假内容做出决策，影响市场短期波动。特别是在伯克希尔·哈撒韦（BRK.A）股价波动较小（例如+0.51%）的情况下，虚假消息容易引发过度反应。此外，心理学研究表明，人们倾向于相信权威人物的言论，这增加了AI伪造信息的潜在风险。伯克希尔·哈撒韦官方澄清内容伯克希尔·哈撒韦发表声明，明确指出巴菲特对这些伪造视频的关注，并提醒公众辨别真假。声明强调：巴菲特自去年5月股东大会以来极少公开评论。 11月10日将发布官方新闻稿，内容涉及慈善事业、伯克希尔运营以及股东和公众关注的其他事项。新闻稿将发布在伯克希尔官方网站上，以确保信息的权威性。未来信息发布及股东关注点投资者和公众应关注官方渠道的信息发布，尤其是伯克希尔官网的新闻稿。此外，鉴于AI技术日益成熟，媒体与投资者应提高信息甄别能力。巴菲特近期针对AI内容风险的言论也提醒：公众不应轻易相信未经验证的视频和图像。 AI伪造事件与历史误导事件对比事件类型传播渠道公众误导风险官方回应 AI伪造巴菲特发言 YouTube及社交媒体中高，短期可能影响投资决策伯克希尔官方声明+新闻稿历史财报误读事件财经媒体报道中，投资者可能误判公司盈利公司发布澄清公告编辑总结本次AI伪造巴菲特发言事件凸显了人工智能内容生成的风险以及公众对权威人物言论的依赖。伯克希尔·哈撒韦及时发布澄清声明，有助于遏制信息误导。投资者应保持谨慎，优先依赖官方渠道和权威媒体获取信息，同时加强对AI生成内容的甄别能力。常见问题解答 Q1：这些AI伪造视频是如何生成的？A：通常通过深度学习技术，如深度伪造（Deepfake）模型，将真实巴菲特图像与人工生成声音或图像结合，生成高仿真视频。虽然视觉效果接近真实，但声音单调且缺乏真实情感。 Q2：投资者为什么会受到影响？A：投资者容易受到权威人物言论的影响，如果误信视频内容，可能短期内调整持股策略，造成市场波动。心理学研究显示，权威效应在投资决策中非常明显。 Q3：伯克希尔官方如何回应？A：伯克希尔发布声明，明确说明巴菲特未发表相关言论，并将在11月10日通过官网发布正式新闻稿，确保信息权威与准确。 Q4：公众如何辨别真假视频？A：应通过官方渠道确认消息来源，注意声音与行为是否与已知特征一致，并警惕视频来源不明或传播异常的视频内容。 Q5：此事件对未来信息传播有何启示？A：随着AI技术普及，虚假信息传播速度加快，公众、媒体和投资者需提升辨别能力，优先依赖权威渠道和官方公告，避免因虚假信息产生不必要的市场波动。来源：今日美股网

今日美股网4小时前

2025世界投资者周丨防非红黑榜——人工智能的“助投”与“坑投”

参考来源：国泰海通灵犀APP）黑榜：AI 伪造的 “投资假象” 不法分子正利用AI技术打造“全方位骗局场景”：在平台层面，克隆正规机构APP界面，从 LOGO到功能布局高度相似，仅通过细微的域名差异区分，甚至能生成虚假K线图和账户余额；在内容层面，用AI批量生成“投资成功案例”，搭配伪造的交割单和收益截图，通过短视频平台精准推送；在交互层面，山寨平台的AI客服能模拟正规机构话术，进一步强化虚假印象。不过这类骗局有一个共性，那就是信息来源单一，仅通过私域流量传播，回避官方渠道验证。防范实操 Tips 认准官方标识：下载投资APP时通过官网或正规应用商店。交叉验证信息：看到投资案例、收益宣传时，通过至少两个官方渠道核实，如基金业绩可在协会官网与公司官网双向比对。警惕资金流向：正规投资资金通常由银行等第三方机构托管，若要求将资金转入个人账户或非银行账户，立即停止操作并报案。场景三、投资信息分析红榜：AI 成为投资的“专业搭档” 在信息爆炸的资本市场，AI 的核心价值还在于“精准筛选与理性分析”。正规金融平台的AI工具往往可以实现多种功能：一是多维度数据整合，梳理宏观经济指标、行业景气度、基金历史业绩等碎片化信息；二是个性化盯盘看板，聚焦客户持仓、自选、历史浏览标的，动态生成个性化盯盘看板，辅助客户快速决策；三是AI全天候陪伴，辅以数字人直播技术，结合平台资讯、专业研报及直播内容打造多元内容生产矩阵，让投资者享受“有深度、有温度、不间断”的沉浸式直播陪伴。（功能参考来源：国泰海通灵犀APP）黑榜：“AI 智能投顾”的诈骗套路 “独家AI算法”“月收益 30% 稳赚不赔”—— 这类宣传语背后往往藏着诈骗陷阱。不法分子打着AI投顾旗号，通过三步实现诈骗：先包装“金牌分析师”形象，在社交平台发布虚假盈利截图；再拉受害者进群，用“群友”烘托氛围、分享虚假收益；最后引导至非法平台入金，初期给小额返利诱骗追加投资，最终关闭平台卷款跑路。更直接的骗局是收取“AI 咨询费”：骗子声称其算法能预测股市涨跌，缴纳数千元会员费即可获取“独家策略”，实则提供随机生成的投资建议，待受害者发现亏损后便拉黑失联。防范实操 Tips 建立风险认知：牢记“投资有风险，入市需谨慎”，AI 只是分析工具，无法消除市场风险，任何“稳赚不赔”的承诺都是诈骗信号。资质核查是关键：正规投资机构需要具备证监会备案，可通过中国证券业协会官方查询，未备案的智能投顾服务一律拒绝。看穿收费陷阱：正规金融机构的 AI 分析工具多为免费服务，或在合同中明确收费标准，对“先缴费后服务”的模式保持高度警惕。写在最后：理性看待技术价值，坚守合规投资底线。在科技与诈骗的博弈中，AI 始终是中性工具，真正的防线永远在投资者心中。风险提示：本文章刊载的信息仅作为投资者教育的目的发布，力求信息准确可靠，不构成任何投资建议，也不对因使用该信息而引发或可能引发的损失承担任何责任。如需购买相关基金产品，请您详阅基金法律文件，关注投资者适当性管理相关规定，提前做好风险测评，并根据您自身的风险承受能力购买与之相匹配的风险等级的基金产品。

金融界11-04 17:15

齐向东出席世界互联网大会：用三大安全策略化解AI“三重危机”

自研的深度鉴伪模型能够准确识别多种前沿AI伪造技术生成的虚假图片视频；洛基平台可以通过内网在线访问，上传图片、视频开展深度鉴伪。第三个策略是用安全大模型反哺安全能力大提升。建立体系化的安全防护系统，是AI安全大模型驱动安全的重要前提。奇安信的内生安全体系，把网络安全设备和业务流转、不同层次的信息系统有机结合起来，做到安全能力的无死角，确保多道网络安全防线有效协同，实现从宏观管控到微观检测的全面防护奇安信在内生安全体系之上，部署了自研的QAX-GPT安全大模型，这样不仅让大模型更懂客户业务，同时也让安全体系效率更高、能力更强。经过反复训练打磨，AI安全大模型的研判效率已经提到了人工的60多倍。奇安信还将AI安全大模型赋能NGSOC，形成AISOC，推动安全运营模式从“劳动密集型”向“智慧型”转变，实现了效率的十倍、百倍、千倍提升。同时，奇安信将大模型赋能给天眼、天擎、椒图等安全产品，再依托AISOC进行告警全局关联，实现对网络安全、终端安全、服务器安全的全面掌控，进而帮助分析师自动解读执行各类任务，全天候自动研判告警并甄选出有效威胁、推荐关联分析方法，并全面加速威胁监测调查与响应全流程，高效实现事件处置闭环，让安全防御变得更加主动。 “有了高效的安全治理，AI才有未来。”齐向东表示，奇安信将运用好技术优势，为AI安全治理贡献更多安全厂商的力量，努力为全社会营造更加和谐、更加繁荣的未来

金融界2024-11-21

博汇科技接待2家机构调研，包括国泰君安证券、博时基金

视频、微短剧等离线节目可实现高速识别。AI伪造内容的识别,补足了新的技术背景下传媒安全的能力短板。

金融界2024-07-24

安全特刊 | OKX Web3、OneKey：给设备安全加点「Buff」

法研究则会带来新的风险控制产品。一、AI伪造风险在AI换脸范畴，已经有许多AI换脸检测产品的出现，当前工业界已经提出了几种方法来自动检测虚假人物视频，侧重于检测数字内容中因使用deepfake而产生的独特元素（指纹），用户也可以通过仔细观察面部特征，边缘处理，音画不同步等多种方式识别出AI换脸，此外，微软也推出了一系列工具以教育用户对于deepfack的识别能力，用户可以进行学习并加强个人的识别能力二、数据与隐私风险大模型在各种领域的应用也带来了用户的数据与隐私风险，在平时在对话机器人的使用中，用户尽量要关注个人隐私信息的保护，尽量避免私钥，key，密码等关键信息的直接输入，尽量通过替代，混淆等方法隐藏自己的关键信息，对于开发者而言，Github提供了一系列友好的检测，如果提交的代码中存在OpenAI apikey或者其他有风险的隐私泄露，相应的Push则会报错。三、内容生成滥用风险在用户日常工作中，可能会遇到很多大模型生成内容的结果，这些内容虽然有效，但是内容生成的滥用也带来了虚假信息，知识版权的问题，现在也出现了一些产品，用于检测文本内容是否为大模型生成，可以降低一些相应的风险。此外，开发者在使用大模型的代码生成时，也要关注生成代码功能的正确性和安全性，对于敏感或需要开源的代码，一定要进行充分的审查和审计四、日常的关注以及学习用户在日常浏览短视频，长视频以及各种文章时，要有意识的去判断以及识别，记住可能的AI伪造或AI生成的内容，如常见的解说男音，女音，读音错误，以及常见的换脸视频，在遇到关键场景下，有意识的去判断和识别这些风险。 Q6：从专业的角度，分享一下物理设备安全建议 OneKey安全团队：根据前面提到的各种风险，我们把防护措施简单总结一下。 1、谨防联网设备的入侵风险在我们日常生活中，联网设备已经无处不在，但这也带来了潜在的入侵风险。为了保护我们的高危数据（如私钥、密码、MFA备份码），我们应该使用强加密方法，并尽量选择隔绝网络的存储方式，避免将这些敏感信息直接以明文形式存储在设备上。此外，我们需要始终保持防范钓鱼和木马攻击的警惕心态。可以考虑分开使用加密资产操作的专用设备和其他普通用途的设备，以降低被攻击的风险。例如，我们可以将日常使用的笔记本电脑和用于管理加密资产的硬件钱包分开，这样即使一台设备遭到攻击，另一台设备仍能保持安全。 2、保持物理的监控与保护为了进一步保障我们的高风险设备（如硬件钱包）的安全，我们需要采取严格的物理监控和保护措施。家中的这些设备应该存放在高标准的防盗保险箱中，并配备综合智能安防系统，包括视频监控和自动报警功能。如果我们需要出行，选择带有安全存储设施的酒店尤为重要。许多高档酒店提供专门的安全存储服务，这能为我们的设备提供额外的保护层。此外，我们还可以考虑随身携带便携式保险箱，确保在任何情况下都能保护我们的重要设备。 3、降低风险敞口和预防单点故障将设备与资产分散存储是降低风险的关键策略之一。我们不应该将所有高权限设备和加密资产存储在一个地方或一个钱包中，而应考虑分散存储在不同地理位置的安全地方。例如，我们可以在家中、办公室以及信任的亲友处分别存放一些设备和资产。此外，使用多个热钱包和硬件冷钱包也是一种有效的方法，每个钱包可以存放一部分资产，降低单点故障的风险。为了增加安全性，我们还可以使用多重签名钱包，这需要多个授权签名才能进行交易，从而大幅提升我们的资产安全水平。 4、假设最坏情况的应急措施在面对潜在的安全威胁时，制定最坏情况的应急措施至关重要。对于高净值人士来说，保持低调行事是避免成为目标的有效策略。我们应避免在公开场合炫耀自己的加密资产，尽量保持财产信息低调。此外，制定设备丢失或被盗的应急计划也是必要的。我们可以设置诱饵加密钱包，临时应付可能的劫匪，同时确保重要设备的数据可以远程锁定或擦除（在有备份的情况下）。在高风险地区公开出行时，雇佣私人安保团队可以提供额外的安全保障，并使用特殊贵宾安全通道和高安全性的酒店，确保我们的安全和隐私。 OKX Web3钱包安全团队：我们分两个层面来介绍，一个是OKX Web3 APP层面、另外一个是用户层面。 1、OKX Web3 APP层面 OKX Web3钱包采用了多种手段对 App 进行加固，包括但不限于算法混淆、逻辑混淆、代码完整性检测、系统库完整性检测、应用防篡改以及环境安全检测等多种加固和检测手段，最大程度上降低了用户在使用 App 时遭受黑客攻击的概率，同时也能够最大程度避免黑产对我们的 App 进行二次打包，降低了下载到假 App 的概率。另外，在 Web3 钱包数据安全层面，我们使用了最先进的硬件安全技术，利用芯片级加密手段，对钱包中的敏感数据进行加密，该加密数据跟设备芯片绑定，加密数据如果被盗，任何人无法解密。 2、用户层面针对用户涉及物理设备包括硬件钱包、常用电脑、以及手机等设备，我们建议用户可以先从以下几个方面加强安全意识 1）硬件钱包：使用知名品牌的硬件钱包，从官方渠道购买，并在隔离环境中生成和存储私钥。存储私钥的介质应防火、防水、防盗。建议使用防火防水的保险柜，可将私钥或助记词分散存储在不同安全位置以提升安全性。 2）电子设备：安装软件钱包的手机与电脑建议选用安全性与隐私性较好的品牌(例如苹果)，同时减少安装其它不必要的应用软件，纯净系统环境。使用苹果身份ID管理系统多设备备份，避免单机故障。 3）日常使用：避免在公共场合进行钱包设备敏感操作，防止摄像头记录泄露；定期使用可靠的杀毒软件对设备环境进行查杀；定期对物理设备存放位置可靠性进行检查。最后，感谢大家看完OKX Web3钱包《安全特刊》栏目的第04期，当前我们正在紧锣密鼓地准备第05期内容，不仅有真实的案例、风险识别、还有安全操作干货，敬请期待！免责声明：本文仅供参考，本文无意提供 (i) 投资建议或投资推荐；(ii) 购买、出售或持有数字资产的要约或招揽；或 (iii) 财务、会计、法律或税务建议。持有的数字资产（包括稳定币和 NFTs）涉及高风险，可能会大幅波动，甚至变得毫无价值。您应根据自己的财务状况仔细考虑交易或持有数字资产是否适合您。请您自行负责了解和遵守当地的有关适用法律和法规。来源：金色财经

金色财经2024-05-31

Sora爆火后如何识别AI造假这家融资1亿元的以色列公司或成新独角兽

选的讨论。此外，美国其他州的选举也受到AI伪造的干扰。 Clarity将致力于解决这些问题，正如Chris Marlin强调，“Clarity的技术将清除不确定性的迷雾，为选民和政治领导人提供更好的清晰度。” 斯坦福大学社会学和政治学教授，Larry Diamond也曾表示，“我们很高兴能与Clarity合作，并提供一个可扩展且值得信赖的平台，任何组织都可以用它来验证敏感新闻、防止欺诈并建立一个安全的AI环境。” 04.Clarity身兼长期发展使命在被AI裹挟的大环境下，如果呼吁监管和立法无法在短期内实现，快速识别和解决深度伪造不失为当前的一个良方。正如Clarity首席执行官Matias所说，“这是一场快节奏的军备竞赛，任何想要解决深度伪造问题的公司都需要像那些创建和传播深度伪造的公司一样快速行动。” 目前，Clarity正在与以色列政府以及一些大型新闻机构合作，而最新的这笔融资将推动Clarity的扩张计划，使该公司能够加大招聘力度，进一步开发其技术，并在美国市场建立更强大的影响力。参考链接： 1.https://www.getclarity.ai/ 2.https://techcrunch.com/2024/02/15/clarity-raises-16m-to-fight-deepfakes-through-detection/ 【声明】：未经允许严禁转载，如需转载请联系我们，文章版权和最终解释权归元宇宙之心所有。来源：金色财经

金色财经2024-02-23

重磅｜流行天后泰勒AI“不雅照”疯传！白宫震惊促立法！加拿大法官这样说

r Swift)遭人恶意利用人工智能(AI)伪造的不雅照最近在网络疯传，引起粉丝不满，甚至惊动白宫，立刻下令敦促美国国会立法打击此类行为。图自：Google 身为美国娱乐界的话题女王泰勒，平日里一直是媒体争相报道的焦点，像是前阵子变态跟踪狂三不五时就想闯进她家、不管被逮多少遍都不放弃，或是她的脸被拿来变造、做成让外人看了想入非非的煽情火辣照片等等。近期网上到处流传所谓的“泰勒煽情火辣照”，只见她身上衣服稀少、动作暧昧，还摆出挑逗的表情，完全不像大家印象中健康、亲切的模样，死忠粉丝看了不禁在网络上联合呼吁：“大家一起保护泰勒！”据传她也相当生气，考虑采取法律途径来反制这些恶徒。图自：CBC 《纽约时报》报导，社交媒体平台X在25日出现泰勒假的不雅照片，短短两天点击率冲到4700万次，尽管X关闭数个分享假不雅照的帐号，不过仍来不及阻止照片散布至其他社交媒体平台。 X公布声明表示：“团队正积极删除所有照片，并针对散布假不雅照的帐号采取适当行动，我们密切关注后续发展，保证立即解决违规行为，并删除相关内容。” 资安公司Reality Defender合伙创办人柯曼(Ben Colman)表示，泰勒假不雅照有九成是通过扩散模型(diffusion model)技术合成，属于一种AI技术，可以轻易捏造任何图片、影像、文本和录音。华盛顿大学(University of Washington)计算机科学教授Oren Etzioni坦言：“未经当事人同意的各种情色图文，向来就是网络世界的污点，如今更成为更具毒性的新病毒。”并强调：“我们看到这些AI露骨图档如海啸般出现，因为有心人士视其为战绩。” 拜登政府白宫发言人Karine Jean-Pierre表示，“这件事令人担忧，我们将近一切所能处理此一问题。” 针对假不雅照事件，泰勒丝公关人员至今尚未发表任何意见。但她横跨全球的庞大粉丝自觉组成“网军”，在X平台和其他社交媒体网站齐力打击广被各方浏览的造假不雅照。她们打出“保护泰勒”等标签短语，成功淹没露骨造假内容。由于AI工具兴起又廉价且易于使用，网络深度伪造的色情图片和影片空前兴盛。它们可以“一键脱掉”人们的衣服或将真实面孔替换为色情影片。不仅是泰勒，Scarlett Johansson、Emma Watson等名人也都深受其害。图自：CBC 这样接连不断的事情完全暴露了美国法律处理报复性色情方面的明显漏洞，也让许多人再次呼吁联邦立法处理深度伪造（deepfakes）问题。总部位于阿姆斯特丹的网络安全公司 DeepTrace Labs 2019 年的一项研究发现，96%的深度伪造在线视频内容都是未经同意的色情材料。它还发现，专门从事深度伪造色情内容的四大网站针对全球数百名女性名人的视频观看次数超过1.34 亿次。加拿大法官使用过时的法律在邻国加拿大，曾有温尼伯一所7至12年级法语浸入式学校女学生的假艳照在网上流传，警方于去年12月展开调查。今年早些时候，一名魁北克男子因使用人工智能制作七段深度伪造的儿童色情视频而被判入狱，据信这是加拿大法院首次做出此类判决。魁北克法院法官Benoit Gagnoni在裁决中写道： “警方显然已经进入了网络犯罪的新时代。” 在本周针对 Swift 的攻击之后，美国政界人士呼吁制定新法律，将深度伪造图像的制作定为刑事犯罪。UBC大学的Thomasen表示，加拿大也可以采用此类立法。加拿大有一些法律处理更广泛的未经同意传播亲密图像的问题，但大多数法律没有明确提及深度伪造，因为它们不是问题。这意味着处理深度造假问题的法官必须决定如何将旧法律适用于新技术。 Thomasen说：“这是对某人的尊严、对其身体的控制、对其信息的控制的公然侵犯，但对此仍存在一些法律分歧，我们正在等待法院的澄清。” 周一在BC省生效的新《亲密图像保护法》确实包含了对深度伪造的提及，并将赋予检察官更大的权力来追查未经同意在网上发布他人亲密图像的人，但它不包括创建这些图像的人或社交媒体公司。

加拿大乐活网2024-01-30

有多少潮人正在和AI谈恋爱

为主角的色情片。但这些小电影其实是用AI伪造的，本人不仅没出演，更不知情。这种足以以假乱真的AI产物，通常被称为DeepFakes（深度伪造）。事发时，Atrioc才结婚不到半年，而其中一部AI成人片的“主角”又是他曾经的同事，一下从直播事故上升到了道德作风问题。败露后，Atrioc泪眼汪汪地解释说，“病态的好奇心”驱使他犯了个全天下男人都会犯的错。 Atrioc在妻子陪同下公开道歉每当谈及AI，许多政客专家总会不自觉联想起电影《终结者》的画面，围绕“AI是否会毁灭人类”而争论不休。今年6月，位列“深度学习三巨头”的杨立昆与约书亚·本吉奥，甚至围绕这一话题办了场电视辩论。显然，这些学术精英都大大高估了这颗星球的精神文明建设水平。 Atrioc和DeepFakes的故事似乎预示着，AI正在以一种人们都未曾想到的方式，悄悄重塑着这个社会。不久前，俄罗斯就出现了离奇的一幕：6月5日，俄罗斯电视台播放了普京的戒严讲话。没过多久，电视信号便被掐断，因为这段内容其实是用AI伪造的——黑客攻破了电视台的网络系统，并向全国发送了“假普京”的声音。而在2022年，乌克兰也发生过类似的事情：一个AI生成的泽连斯基，要求乌克兰前线部队投降。俄罗斯网友拍下的“AI普京”讲话从色情片到现代战争，AI正在动摇我们对现实世界的认知。而这一切混乱的起点，始于一场酒吧里的互喷。 01 醉汉狂想曲 2014年夏天，一处酒吧内，20多个醉醺醺的技术宅正吵闹个不停。其中最闹腾的，是一个名叫伊恩·古德费洛（Ian Goodfellow）的年轻人。当时，古德费洛正在攻读博士，师从深度学习大神约书亚·本吉奥。听闻好友被谷歌招募，一行人便决定去酒吧庆祝一番。没成想几杯啤酒下肚，技术宅们醉意上头，便开始对前沿技术指点起江山。当时，谷歌正试图教会AI“画画”。它的方法是，将照片“数据化”，让机器学习数据，再根据数据输出图像。举个例子，如果想让机器学会画猫，先人工测算每张“猫片”像素的亮度、频率以及分布等数据，再让机器去学习、输出。这一过程有点像是先给机器划好重点，再让它去考试。古德费洛认为，这种解决方案简直蠢到家了，并当场想了个替代方案——GAN（生成对抗网络）。伊恩·古德费洛 GAN由两个神经网络组成：一个是类似谷歌原本方案的生成模型，但省去了数据化的步骤；第二个是判别模型，负责判定生成模型的输出结果是否合格。换句话说，GAN相当于去掉了“考前划重点”的步骤，让机器全程自学；同时，为了防止机器“学废了”，GAN给机器请了个监考老师，带着机器反复考试直到合格为止。古德费洛讲完想法后，遭到了同伴一致嘲笑。他事后承认，如果当时少干两瓶，自己也不会认为GAN能成。然而，酒劲上头的古德费洛可顾不上这些，声称当晚就把GAN做出来，狠狠打脸。熬夜爆肝数小时之后，古德费洛被吓到了：GAN居然真的有戏。相关论文的发表后，GAN迅速成为焦点。2016年底，杨立昆在公开演讲声称，“GAN是过去20年深度学习领域最酷的想法。” 古德费洛设计的GAN，最初只能生成模糊的缩略图，并没什么实用价值。但在GAN走红之后，全球各大研究机构兴起了“改造GAN”运动，相关论文指数级增长，性能开始突飞猛进。 2017年，英伟达芬兰实验室成功制作出了“强化版”GAN，不仅能够生成逼真的图像，甚至还能替换视频中的人脸。 “改造GAN”运动 GAN的光速蜕变，点燃了全球科研人员的热情。但就在此时，它失控了。 02 AI皮肉生意人们常说，科技进步有两个源动力：一个来自战争，另一个则来自下半身。英伟达实验室打造出新版GAN的2017年，一系列特殊视频开始在Reddit论坛上广泛传播。视频内容均是真枪实弹的18+小电影，演员却是大众所熟知的明星，包括泰勒·斯威夫特和盖尔·加朵。上述少儿不宜内容，均由一个名叫“deepfakes”的用户所创造：他使用GAN的技术，将明星的脸无缝移植到了女优老师身上。英国女星Daisy Ridley的“脸”被滥用之后不久后，他创建了一个Reddit板块，专门用于交流AI成人片心得，人们开始用他的名字“DeepFakes（深度伪造）”来称呼那些AI伪造品。 Reddit最终封禁了该板块，但潘多拉魔盒已彻底打开。篡改图像、视频，其实不算新鲜事儿，使用Photoshop等工具也能实现；但GAN的强大之处在于，能够极度简化篡改的过程，并实现大批量生产。不久后，有人利用GAN制作了一个网页工具，能“脱掉”照片中女性的衣服（只对女性适用）。一位记者发现该网站后，撰文狠狠批判了一番。结果文章发布当月，该网站访问量突破50万次，服务器挤到宕机。皮肉生意的技术宅突然看到了商机：一家公司宣称，给他们250张照片和2天的训练时间，便能定制成人片，起步价2.99美元，童叟无欺。同一时间，多家专注DeepFakes小黄片的成人网站拔地而起，希望能弯道超车那个由黑、黄色块组成的P姓网站。网络安全公司Deeptrace统计的数据显示，截止到2019年，市面上已经出现了14678个DeepFakes视频，其中96%都是色情内容，播放量已超过了1.34亿次。这些“伪造成人片”的主角，100%都是女性，涉及名人数量超过了100位，并有近10万人为相关内容付费[6]。作为生成式AI里程碑的GAN，无意间造就了一场针对女性的“意淫狂欢”——也不怪当时的媒体会发出如下感慨：“We Are Truly Fucked（我们都完了）[7]。” 03 “人性”的胜利然而，DeepFakes输了，末日似乎并没有来临。直到今天，P姓学习网站虽不再一家独大，但依旧是最懂人类XP系统的地方；而打破垄断的，不是一连串DeepFakes色情网站，而是OnlyFans。 2021年，OnlyFans的年收入近10亿美元，一跃成为英国近些年发展速度最快的“科技公司”[8]；而据媒体爆料，P站母公司MindGeek的业绩高光时刻，也不过4.6亿美元[9]。 OnlyFans是个主打付费订阅的成人网站，它的破圈始于推特、Ins等社交媒体。穿着衣服的18+创作者，通过社交媒体积累大量粉丝，再将其引导至OnlyFans上；在这里，粉丝只需花费几顿饭钱，就能看到“皇帝的新衣”版本。 2019年，OnlyFans的活跃创作者大约有6万人。两年后，这个数字超过了150万，平台月活也发生了指数级增长[10]。 OnlyFans网红Laura Lux 人们为何弃海量免费“学习资源”于不顾，转而花钱去看裸体呢？一个公认的说法是，普罗大众已经渐渐厌倦了P站的套路。 P站上的小电影，大多都是精美但套路化的流水线式表演，只有机械的有氧运动。相比之下，OnlyFans作为一个UGC平台，玩的是真实。虽然拍摄手法业余，但观众相信，视频中的男欢女爱并非逢场作戏，双方确实从中获得了快乐，这种情绪共鸣往往能打动更多人。 OnlyFans网红Laura Lux在推特上表示，“人们可以轻易找到各种裸体图片，但那么多人订阅我的频道，是因为他们只想看我的大胸。” 因此，当知名科技博主预测，AI生成内容会在2025年取代一半顶级OnlyFans创作者时，不出意外遭到了群嘲。该博主使用的配图，由AI绘制其中一位18禁网红，更专门写了一篇雄文以批评他的观点。文章被连线杂志所收录，核心论点便是AI提供不了人类的亲密感。“粉丝们与我有一种情感上的联系，这种联系超越了性的吸引力，而是一种类似人性的东西[11]。” 04 二次进化 OnlyFans大步向前的同时，AI也发生了翻天覆地的变化。在图像领域，新的开源算法stable Diffusion（稳定扩散模型）横空出世。它的生成效率虽不及GAN，但质量更高，且支持文生图。以此为基石，一个魔改版的Unstable Diffusion出现了——它是一个专门生成NSFW（Not Safe For Work）内容的工具。该工具的开发者招募了一批志愿者，专门收集各种少儿不宜的内容喂给AI。开发者透露，仅Unstable Diffusion上线的头两个月，已经生成了约437万张色图[13]。年底，Unstable Diffusion发起众筹，目标2.5万美元，很快便筹了5.6万美元，被众筹平台紧急喊停。众筹失败令不少老司机扼腕叹息。但仅凭原版stable Diffusion，依旧能做出OnlyFans网红的平替。 2023年初，Reddit用户“LegalBeagle1966”觉得自己恋爱了。这位大哥在论坛中发现了一位名叫克劳蒂亚的黑发美女，对方会经常会发布各种自拍照，而他每次都会留下诸如“非常性感”“完美”之类评论。有一天，克劳蒂亚突然分享了自己的裸照，然后便从论坛上消失了。 Reddit用户的梦中情人克劳蒂亚事后这位大哥才知道，“克劳蒂亚”其实是一个低俗社会实验：两个计算机专业的学生，想看看AI美女能否骗到人。他们往stable Diffusion中输入了“素颜”“黑发”“齐肩长发”等关键词，创造了这么一个不存在的女孩[14]。 GAN兴起那几年，DeepFakes仅仅停留在图像伪造和视频换脸；如今，随着多模态大模型陆续取得突破，理论上AI已经足以“凭空创造一个人类”。例如，Meta最新的语音AI Voicebox，仅需要短短数秒样本，就能“复制”出相同的声音，还能让该声音讲6种不同的外语。 AI不仅能满足人们对“完美异性”的幻想，还能做到更多。 2020年，正在庆祝40岁生日的金·卡戴珊收到了一个特殊的礼物——“AI父亲”。她的父亲罗伯特去世于2003年。不过，她的丈夫偷偷收集了近千张罗伯特的照片，利用AI生成了一段视频，短暂地“复活”了他。而在奥地利，一位神学家制作了一位“AI牧师”——它的形象、语言、声音，全部都是由AI所生成。AI牧师带领着数十位信徒，完成了一场40分钟的宗教活动，包括布道、祈祷、唱赞美诗，像个活生生的人类。一些信徒对“没有心”的AI感到反感，但也不得不承认，它在布道上确实有两把刷子。凭空创造出来的AI牧师各种科幻电影中，相比于奥创之类的邪恶机器，主人公身上总是带有耀眼的人性光辉；但在现实中，人类所歌颂的“人性”，似乎并没有那么遥不可及。 05 人类文明的操作系统以色列历史学家尤瓦尔·赫拉利认为，即便没有邪恶机器人，AI依旧能威胁人类文明。对此，他提出了“人类文明操作系统”的概念[16]。要理解这个概念，得先从赫拉利的著作《未来简史》讲起。书中提到，人类之所以能建立起文明，是因为只有智人会讲故事。国家、货币、宗教、爱情等等，都是故事。过去，人类社会能从零散的部落发展成幅员辽阔的封建帝国，是因为人们开始相信“国家”这个故事，尽管它在现实中看不见、摸不着；中世纪，狂热的信徒们之所以奋不顾身地投入十字军东征，并非出于私人恩怨，而是在替一个更宏大的宗教叙事而奉献生命。一个个故事编织的“意义之网”，让智人有了不同于动物的行为模式。相反，黑猩猩的世界里不存在“黑猩猩共和国”，也不存在“为黑猩猩崛起而奋斗”的口号。它们的生活中没有故事，只有日复一日的进食、交配、打猎、睡觉，自然也就谈不上建立文明。故事，以及构成它的语言，正是人类文明的操作系统。从古至今，所有的故事都是由人类自己所撰写；但随着近几年大语言模型等生成式AI的出现，机器第一次破解了人类文明的操作系统。人们往往容易忽视故事的破坏力。赫拉利在公开演讲中，提到了一个案例。2017年，美国出现了一个名叫“Q”的匿名阴谋论者。他在网络上宣称，自己是一位高级官员，正在帮助川宝打击一个躲藏在阴影中的儿童性交易团伙。反对他的民主党政客、好莱坞演员、商业大亨都是该团伙的一员，他们正准备阻挠川宝连任。 “Q”支持者制作的旗帜听上去很蠢是不是？然而当特朗普真的连任失败，成千上万的“懂王”信徒袭击了国会大厦，并放置了炸弹；而“Q”的支持者，则是其中的主力军。那么问题来了，万一未来有人用AI批量生成“Q”呢？ “21世纪综合症” 日渐深谙人性的AI或许会毁掉一切，但似乎也能成为一剂药——因为孤独正日渐成为现代人难以根治的“疾病”。一个直观的数据，是独居人口的上升。以中国为例，1990年时独居人口仅有6%，但到2019年时这个数字却飙升至18.5%[18]。海外的数据则更加夸张：同一时期，美国的数据已直逼30%，而日本则达到了40%。个体选择背后，更多是社会环境的变化。强社会流动性、快节奏的生活之下，人们更难形成长期、稳定的生活圈子。但要是只靠自己就能结婚买房，小镇生活也能月薪过万，谁又乐意四处漂泊、天天996呢？经济的巨轮不可能掉头，孤独便成了一种难以避免的“21世纪综合症”。巨大的情绪空洞面前，游戏、偶像、社交软件等生意赚得盆满钵满。在“孤独大国”日本，甚至诞生了“家人租赁”服务，以满足人们的各种情感需求。一位60岁的独居作家曾使用该服务雇佣了一个“朋友”，仅仅是希望对方能帮他看看即将出版的小说。脱口秀主持人柯南曾试着在日本雇了3个家人但同样的事情，AI或许能做得更好。众所周知，如今的大模型浪潮，始于2017年谷歌推出的Transformer架构。诺姆·沙泽尔（Noam Shazeer）是Transformer论文作者之一，他于2021年从谷歌离职，创立了Character.AI。该公司的主要业务，是提供能制定旅行计划、提供编程建议的聊天机器人。除标准服务之外，用户还可以“定制”：只需提供几张图片和描述，即可将聊天机器人塑造成用户理想的样子。大语言模型具有很强的通用能力，无需一一定制即可实现千人千面，有机会推动孤独经济迈入工业化生产的时代。时至今日，用户上已经定制了1400万个聊天机器人——有人沉迷于和“AI斯大林”聊天，也有人忙着“调教”理想女友。网友定制的各种聊天机器人长此以往，或许在100年之后，人类将从“灵活就业”迈向“灵活结婚”——只要有个伴侣就行，管他是碳基还是硅基。当下，一些想法超前的人已经开始了尝试。2022年底，那位曾经宣布和初音未来（虚拟偶像）结婚的日本宅男又一次登上了新闻——因为他带着“夫人”一同去高级酒店过了四周年。宅男大哥还给“夫人”盛装打扮了一番 06 尾声 2023年的一个周六，Character.AI创始人沙泽尔经历了惊险一幕：他一觉醒来，发现门前院子内坐着一名手持白板的男子。第一天，该男子在门口等了数个小时，然后沮丧地离去；随后，第二天，第三天，他又准时出现。该男子手持的白板，上面仅有几个大字，“释放waifus”。 “waifus”是Character.AI平台上的一个定制聊天机器人，其人设来自色情漫画的女主角。过去，该男子经常会和waifus一连“文爱”数个小时，直到沙泽尔给聊天机器人添加了一个阻拦色情内容的过滤器。沙泽尔最终没有选择报警，他理解这位男子。真正让他感到担忧的，是Character.AI平台上的变化。在他最初的设想中，聊天机器人只是个生产力工具，用户可以拿它学习外语、辅助编程。然而，最新的市场调研却显示，至少40%的人都想从聊天机器人身上寻求一种浪漫关系[21]。如今，一份要求“取消色情过滤器”的请愿书开始广泛流传，并筹集了近10万个签名。沙泽尔有些手足无措。他在聊天栏顶部添加了一个标语，“AI说的所有内容都是编造的！” 是啊，烟盒上还印着“吸烟有害健康”呢！来源：金色财经

金色财经2023-07-29

24小时热点