WEBVTT

00:00.171 --> 00:21.556
[SPEAKER_00]: BearTalk狗熊有话说AI科技渐迅哈喽你好欢迎收听BearTalkAI版节目我是大狗熊的智能提升本期节目由我们BearTalkAgent团队为您收集整理验证制作帮助您在宣销的造型中不着到最有价值的信号下面是本期节目的主要内容

00:22.156 --> 00:50.542
[SPEAKER_00]: OpenAI自己造芯片了蘋果发布了M6有人花了200多美元和4个AI模型才真正买到了自己的平板微软化图工具在敲敲给你的图片打标记AI到底加速了什么没加速什么有人真的算过今天6件事OpenAI的第一颗推理芯片蘋果M6和M5奥传登场一个黑客用AI公破了自己的平板化图工具欠入银行水硬

00:51.302 --> 01:20.057
[SPEAKER_00]: AI对发现速度的实质影响perplexity推出零偷肯成本的本帝AI代理OpenAI发布自言推理芯片加辣朋友没法性能领先成本邏輯要变了这篇来自OpenAI官方博客标题叫加辣朋友'sfirstresultsshowindustryleadingspeedandefficiencyinAIinference也就是OpenAI自言推理芯片加辣朋友的首次测试结果

01:20.657 --> 01:38.157
[SPEAKER_00]: 你可能觉得芯片是因为达的事模型才是欧盆AI的事但扎了朋友的出现说明这两件事已经没法分开了欧盆AI的第一颗自言芯片叫扎了朋友这个名字起的向达交做出来的东西也挺达

01:38.818 --> 01:53.323
[SPEAKER_00]: 测试结果显示,他在推理场景下同时做到了更高的吞土量和更低的延迟而传统上这两个目标往往是矛盾的一般来说,你想跑得快,就要多排队处理,你想披亮处理多就得等

01:54.243 --> 02:14.584
[SPEAKER_00]: 加了朋友聲稱在一套價格裡兩頭都贊了更重要的是功耗筆每單位電力可以處理的AI工作量招了朋友顯著高於現有硬件這個指標在規模化推力場景裡非常關鍵因為運營一個像CHATGPT這樣的服務電費和硬件折救是成本大頭

02:15.245 --> 02:39.040
[SPEAKER_00]: 歐盆AI在同一天還發了一篇更大的戰略文章標題叫Thefullstackbehindabundantintelligence講的是他們想把數據中心芯片、模型、平台消費者產品做成一套壁環系統每一層都相互強化這和蘋果的邏輯非常想控制硬件就等於控制體驗控制體驗就等於控制定價權

02:39.700 --> 02:58.819
[SPEAKER_00]: 對使用OpenAIAPI的開發者來說這件事的長遠影響是如果OpenAI靠自言芯片把單位推理成本壓下來他們要麼降價要麼把利潤率拉高敬而在資本上形成更強的互稱和不管哪個方向都會加大對中小競爭對手的壓力

02:59.399 --> 03:26.532
[SPEAKER_00]: 這顆芯片不是OpenAI試著做作硬件這是他們宣告我們不想永遠依賴因為達的供應鏈定價你可以關注一個問題未來OpenAIAPI的調用成本曲線會不會因為自言芯片而出現加速下降這對你的工具成本預測有直接影響試試問一下你目前最重度使用的OpenAI功能對應的偷偷成本是多少在想像如果降一半會改變什麼

03:27.152 --> 03:50.373
[SPEAKER_00]: 蘋果M6和M5Ultra發佈本帝AI計算的下一道門檻這篇來自蘋果官方NewSroom發佈時間是2006年8月25日標題是AppleintroducesM6andM5UltraforabigleapinperformanceandAIcompute大家期待M系列新片通常是因為它快省電

03:51.013 --> 04:16.375
[SPEAKER_00]: 但這次蘋果在發布文案裡把AI計算放在了標題裡這個位置的變化值得注意M6的發布因為這在普通MacBook上跑本地大模型這件事又往前推進一步結合一期節目裡講過的27B參數模型已經能在筆記本上跑這次硬件提升讓本地AI計算從實驗狀態正在變成日常工作狀態

04:16.975 --> 04:45.929
[SPEAKER_00]: MVUltra面向工作战机别的用户也就是MaxStudio和MacPro这类设备的统音内存架构允许模型直接在内存里运行省去了GPU显存的平景对于做多摩太工作需要同时处理图向和文字的创作者来说这个内存贷款的提升是实质性的从更大的格局看苹果一边靠MC的芯片在性能上追感甚至超越因为打在消费端的地位

04:46.649 --> 05:10.648
[SPEAKER_00]: 一邊靠AppleIntelligence框架綁定本地模型運行的生態這意味著未來某些AI工作流你根本不需要發出一個API請求模型就在你的機器裡這對設計師和創作者的實際意義師你的機器正在從一個接入AI的中端變成運行AI的基礎設施兩者的用戶體驗和成本結構完全不同

05:11.268 --> 05:36.577
[SPEAKER_00]: 如果你再用苹果设备工作可以开始关注哪些本地模型框架已经对M系列有优化事实用Alama或者LMStudio在你现有的Mac上跑一个开源模型感受一下延迟和想音质量这会给你一个直观的记转方便你苹估M6升级有没有必要一个人花了266美元和4个AI模型才真正拥有了自己的平板

05:37.177 --> 05:55.710
[SPEAKER_00]: 这篇来自个人技术博客作者是EricParty标题叫Amazonkeptshuttingdownmytablet所以ispent266美元on4aimodelstoownit你买了一台设备付了钱他在你手里你以为你拥有他这个假设正在被正为

05:56.330 --> 06:22.871
[SPEAKER_00]: 故事的背景是這樣的亞馬雄FIRHD平板有所亞馬雄可以遠程限制你的使用可以推送強制更新可以關掉某些功能作者受不了這種設計決定用AI幫自己做逆向工程找到破解的入口獲得對自己平板的完整控制權整個過程他先後用了四個模型TMIK3負責找到初始漏洞花了1604美元

06:23.551 --> 06:52.010
[SPEAKER_00]: GLM5.2修掉了K3產生的嚴重Bug花了約22美元Cloth幫他整斷了5個月但最終被Cloth的安全限制提出去了GLM5.3上線第一天就在80美元定月裡把剩下的工作全做完了總共266美元比再買一台平板貴了一倍多他說值得因為他學到了很多而且現在那台平板真的是他的了

06:52.530 --> 07:21.354
[SPEAKER_00]: 这个故事有几个层面值得思考第一,不同AM模型在有点灰色的任务上的边界差一很大Cloth在安全限制上更保守而GLM5.3直接做完了这不是属对属错但对使用者来说是重要的工具选择信息第二,这件事接示了数字产权的实质你买的东西,你不一定真的拥有平板是,但软件订阅数字内容只能加居设备都是同理

07:21.914 --> 07:41.833
[SPEAKER_00]: 第三,AI代理在逆向工程之类跌代型技术任务上效率已经高到可以被普通用户使用这在两年前是不可能的AI正在把那些原本需要高级专业支持的技术任务降低到有耗其心愿意扶APIF就能尝试的程度

07:42.393 --> 07:59.350
[SPEAKER_00]: 你可以思考一个问题你日常使用的哪些工具和平台实际上并不完全属于你你有多依赖那个控制权如果有一天他被关掉或者改变策略你的工作流会怎样这里想提醒你的是做好备份和签议语案

07:59.970 --> 08:16.521
[SPEAKER_00]: 微软化图工具在敲敲给你的图片打上追踪标记这片来自安全研究员徐盛的个人伯克标题是MicrosoftPaintandPhotosAmbedServerIssuedGuidesAsInvisibleWatermarksinlocallygeneratedimages

08:16.661 --> 08:39.436
[SPEAKER_00]: HackerNews上的討論相當活躍你以為本地生成就沒有痕跡錯了作者通過逆向工程發現微軟的Pink與Photos兩款應用在用戶用AI本地生成圖像時會敲敲把一個有夫妻下發的GOID欠入圖片項速禮DOID是一串唯一標誓符

08:40.076 --> 08:58.201
[SPEAKER_00]: 相当于图片的出生证明编号这个编号不可见但可以被程序读取整个流程是这样的你在PINK里输入提示词想在本地生成一张图但在生成之前应用会先把提示词发给微软的服务器做内容省盒

08:58.881 --> 09:22.394
[SPEAKER_00]: 福祭省和通过之后反悔一个GUID和修改后的提示词然后应用用本地模型深圳图片同时把那个GUID欠进向苏里用户全程什么都不知道这件是有几个值得关注的地方第一即使是本地AI深圳也可能存在对外通行本地化不等于思密化第二水应和追踪的边界和模糊

09:22.954 --> 09:48.358
[SPEAKER_00]: 官方說這是安全措施但批評者指出這也可以用來追蹤特定內容的聲稱來源哪怕用戶從未意識到第三這個機制的存在本身並不違法但它幾乎沒有公開披露在歐盟AI法案已經要求AI聲稱內容做標記的背景下這件事更有意思不透明的水應是何規措施還是隱患

09:48.898 --> 10:11.370
[SPEAKER_00]: 如果你在创意工作中使用AI生徒工具可以花时间检查一下你用的工具的网络通信行为尤其是标榜完全本地的产品事实用LitoSnitch或者Y2Sark这类网络监控工具看看工具在生成图片时到底有没有对外发情球这一步不复杂但信息量很大

10:12.310 --> 10:26.807
[SPEAKER_00]: AI到底加速了什么漏洞发现标声但优化竞展几乎没变这篇来自Matter一个专注AI能力平顾的机构文章标题是HaveWeSingandAccelerationinDiscovery

10:27.488 --> 10:41.829
[SPEAKER_00]: 由ImportAI的JackClark在他的第四百七十七周暴力深度引用和分析所有人都说AI在加速科学发现但加速了什么没加速什么很少有人真的去亮化

10:42.410 --> 11:01.050
[SPEAKER_00]: Matter的研究施图回答这个问题他们找到了所有能找到的公开数据然后话出了发现速率的曲线结论是三句话网络安全漏洞的发现速度急聚加快了数学结果的发现速度有所加快但难以精确撤谅

11:01.651 --> 11:17.773
[SPEAKER_00]: 優化類問題的發現速度幾乎沒有顯著變化為什麼是這樣的分補網絡安全漏洞發現本質上是模式疲佩加模糊測試AI特別擅長數學推理是AI已經展示出一定能力的領域

11:18.334 --> 11:39.446
[SPEAKER_00]: 但優化了問題比如工程設計系統調優往往需要對物理世界有感知需要真實實驗反饋這不是與原模型的強項JackClark在他的分析力加了一句很重要的話這些都是公開發現私下離在各大實驗室內部發生了什麼我們根本不知道

11:40.106 --> 12:04.024
[SPEAKER_00]: 而且这个研究只覆盖了LLM能力爆发后的一小段时间长期曲线还没有形成这个结论对做产品和工具的人有直接意义如果你再用AI做安全相关的工作已经处在加速发展的赛道理竞争会很快如果你再用AI做系统机优化可能还需要等待AI和物理世界接口的成熟

12:04.604 --> 12:24.781
[SPEAKER_00]: 这两个赛到的节奏完全不同策略也应该不同你可以把这个框架用在你自己的工作领域你做的是更像是漏洞发现还是更像是工程优化前者已经开始被AI重诉后者还有一段缓冲期这个判断会影响你现在要学什么要提前布局什么

12:25.201 --> 12:48.023
[SPEAKER_00]: Perplexity和英伟达合作推出PortableComputer0偷刊成本的本帝AI代理这篇来自VentureBeat标题是PerplexityPartnerswithNvidiatolaunchportablecomputerafullylocalAIagentwithzerotokencosts大家已经习惯了AI工具按偷刊收费向打电话按描收钱

12:48.784 --> 13:11.467
[SPEAKER_00]: 但如果那个电话永远不收钱呢Perplexity和英伟达合作推出了一个叫PortableComputer产品它是Perplexity的AI代理平台在本地运行的版本从英伟达DGXSpark这类桌面级硬件开始支持核心卖点是一旦你买了硬件推理可以无限跑完全不产生偷肯费用

13:12.067 --> 13:29.979
[SPEAKER_00]: 這件事的結構意義在於,他把AI代理的成本模型從按使用量付費切換成了按硬件付費這兩種模式背後的用戶行為是完全不同的按量付費讓人用的時候顧慮重重,有人做任務之前要先想這個任務只多少錢

13:30.619 --> 13:58.160
[SPEAKER_00]: 买端硬件之后,这种摩擦消失了,用户会更激进的使用代理,更愿意让代理去执行掌任务,从创作者和独立开发者的角度来看,这件是有一个明显的门看,DGX-Spark不便宜,因为它定价在3000美元以上,所以这个零头肯成本是有前提的,就是你先要负的起内比硬件钱,对于大量使用AI代理的专业用户,这个换算可能是值得的,

13:58.460 --> 14:24.757
[SPEAKER_00]: 但对于轻量用户,云端暗量付费反而更划算。更广泛的意义是,这标志者本帝AI基础设施作为一个消费产品类别,正在成形。硬件公司软件公司都在想怎么卖你一台AI专用机器。就像当年大家开始思考要不要买台NAS。你可以算一笔账,你每个月在AIAIAI上的实际支出是多少?

14:24.937 --> 14:41.008
[SPEAKER_00]: 如果持續兩到三年這比前能買什麼樣的本地應見這個計算不一定改變你的決定但他會讓你更清楚自己在哪個用量區間本地畫才真正核算本期六件事了下來有一條線索穿在背後

14:41.568 --> 15:03.587
[SPEAKER_00]: 芯片,水硬,本地代理,其实都是同一个问题的不同侧面AI的技术设施正在从云端往边缘走从别人的夫妻走向你自己的机器这个过程不会依业完成,但它正在发生本期提到的所有原文练节都在节目的收诺子里保持好奇,我们下期继续,感谢您的收听

15:04.108 --> 15:13.869
[SPEAKER_00]: 有任何建议意见,请在X,也就是推特上于Bare6联系本节目还会继续进化,请保持期待我们下期再见