WEBVTT

00:00.211 --> 00:26.092
[SPEAKER_00]: BearTalk狗熊有话说AI科技减迅Hello你好欢迎收听BearTalkAI版节目我是大狗熊的智能提升本期节目由我们BearTalkAgent的团队为您收集整理、验证、制作帮助您在宣销的造型中補捉到最有价值的信号下面是本期节目的主要内容Matter发了一个新模型OpenAI让假信息生成更难了

00:26.732 --> 00:51.972
[SPEAKER_00]: Anthropic給安全研究員開了一道門AI看不懂徒裏的嘗試NathenLambert說通用超智能沒那麼快來Carpassi說懂AI的人和不懂的人之間的紅鉤在擴大今天6件事MuseWonder來了定價對標OpusOpenAI破貨了一批AI驅動的假身份網絡Anthropic的網絡安全驗證計劃升級了

00:52.632 --> 01:17.343
[SPEAKER_00]: 有个新机转在测AI的地流感有人对超级智能的路径提出了系统性质疑还有Karpathy的一条推文说出了很多人不想承认的识MataMuseWonder新期间定价学Andthropic这篇来自MataAIResearchBlock原文标题是MuseWonder而FromTearsModelforPersonalandProfessionalAIAgents

01:18.043 --> 01:36.225
[SPEAKER_00]: 大家对Metra的印象一直是模型开员,价格便宜,拿来用就行所以当MuseWonder的定价跟CloudOpus对其的时候很多人论了一下,这不是Metra一贯的打法MuseWonder是Metra超级智能实验是推出的期间代理模型

01:36.946 --> 01:52.657
[SPEAKER_00]: 他的核心卖点是把几件是拼在了一起主动记忆也就是模型可以跨会化保留上下文主动规划以及多模态理解按照Mata自己的说法这是他们个人超级智能愿经理卖出的一步

01:53.297 --> 02:21.368
[SPEAKER_00]: 怎么理解主动记忆你可以把它想成一个助手不用你每次开口都重新介绍自己试谁在做什么项目偏好什么风格他记得这在代理场景里很关键因为一个在你电脑上帮你執行多部任务的系统如果每次都失忆根本不可能持续工作从能力对比来看Mata说Muswander在工具调用计算机操作和多摩太理解上有重大提升

02:22.148 --> 02:50.200
[SPEAKER_00]: 这3点恰恰是代理模型的关键战场OpenAI有AppraterAndthropic有ComputerUse现在Mata也正式入场更有意思的是Mata这次的定价信号他过去一直用开放全种策略来争多开发者MuseWonder去选择了风笔API加高端定价这一位者Mata在压住有一类用户愿意为代理能力复异价而不只是为了基础推理便宜

02:51.000 --> 03:11.597
[SPEAKER_00]: 這對市場格局的影響值的觀察以前Anthropic和OpenAI的期間產品在頂端競爭Metta在中低端夕量現在三家都集在同一個價格帶競爭維度從便宜不便宜變成了誰做代理更可靠代理能力才是下一輪真正的差異化新加坪最佔牌大完了

03:12.117 --> 03:33.632
[SPEAKER_00]: 接下来比的是谁能真正帮你把事情完成到底你可以试试用Mioswander的API做一个多不任务和你现在用的工具对比一下看看主动记忆在实际场景里是不是真的有感知差别试试把同一个复杂任务同时交给Mioswander和Opus5.5比较他们在中途是否需要你补充信息

03:34.212 --> 03:57.915
[SPEAKER_00]: 想做代理产品的朋友可以关注MuseWonder的工具调用稳定性这通常是真实生产环境里最容易出问题的地方OpenAI打掉假身份网络AI生成的真人在写新闻这篇来自OpenAI官方博客原文标题是DisruptingAIenabledFall'sFrontOperations发布于20026年10月8日

03:58.415 --> 04:23.623
[SPEAKER_00]: 我们以前说水均脑子里想到的是一群人在电脑前用小号刷评论这个画面快要过时了OpenAI这次披露的案例里他们打掉的是一种新型影响力操作核心特征是用AI生成完整的虚假身份不只是账号是有名字有头项有职业背景会写文章会接受采访的记者和分析师

04:24.223 --> 04:49.935
[SPEAKER_00]: 這些身份發表的內容在表面上看起來像真實的獨立媒體報導但背後是有組織的信息操控你可以把它想成一種新型的社會工程學攻擊攻擊目標不是系統是獨者的判斷力當你看到一篇屬名SharorChen自由記者的分析文章時你不會第一時間就合使這個人是否真實存在這就是這類操作的漏洞所在

04:50.543 --> 05:07.221
[SPEAKER_00]: 歐盆議案說他們通過檢測AI生成內容的模式來識別這些操作並且和平台合作把相關帳號封掉這是過去兩年半裡他們第八次和第九次發布類似的報告說明這是一個持續演化的攻擊面遠不是偶發事件

05:07.781 --> 05:25.501
[SPEAKER_00]: 值得关注的一个细节是这次的操作者并没有用AI去深成大量垃圾内容他们的策略恰恰相反是少量高质量高可信读的内容专门针对特定议题和特定受众这种精准影响比大规模散步遥言更难防

05:26.001 --> 05:53.757
[SPEAKER_00]: 这一位者在信息层面看起来专业不再是可靠的信靠判断一篇内容可不可信需要看的是发布机构的历史作者在不同平台的痕跡而不只是文章本身的质量你可以养成一个习惯看到一个新来源的重要文章花一分钟搜索作者的名字看看他们在多少个地方留有真实痕跡事实用反向图片搜索去查作者投向

05:54.477 --> 06:23.290
[SPEAKER_00]: 这是石别AI生成假身份的一个简单期点在你信任的内容清单里加一个来源历史这个维度不只是看这篇文章写的好不好Anthropic给安全研究员开放了三几全鞋这篇来自Anthropic官方博客原文标题是ExpendingtheCyberVerificationProgram发布于20026年10月6日一般人对AI安全的理解是让模型不能做坏事

06:24.110 --> 06:46.305
[SPEAKER_00]: 但在專業安全領域,這個邏輯是反過來的你必須先能做到那些壞事,才知道怎麼防Anthropic這次擴展了他們的網絡安全驗證計劃也就是CyberVerificationProgram新版本有三個訪問層級,從基礎的安全研究到可以使用降低藍結過濾期的高級模式

06:46.865 --> 07:07.234
[SPEAKER_00]: 換句話說,通過資智審核的安全專業人員可以讓Clod解鎖一些平時會被平壁的能力為什麼這件事重要?因為這是Anthropic在雙重用途困境上做出的一個公開表態網絡安全能力天然是雙人間,同樣的支持,既可以用來攻擊,也可以用來防禦

07:07.854 --> 07:29.977
[SPEAKER_00]: 過去AI公司的處理方式通常是一刀切平壁結果是安全研究人員用AI工具做防禦工作的效率比攻擊者低得多因為攻擊者不受規則約束這個分層驗證計劃的邏輯是用身份和實來替代一刀切的能力限制你證明你是誰你做什麼工作然後你可以訪問對應的能力

07:30.637 --> 07:45.727
[SPEAKER_00]: 这在其他行业很常见,比如一声可以开普通人拿不到的药,但一声需要执照,覆盖范围也值得注意。三个层级里都包含Oppos5.5,Sone2.5,Mithos5.1这些最新模型。

07:45.947 --> 08:08.697
[SPEAKER_00]: 真正開放給通過驗證的人的是最強的那批工具就模型打發人的那套邏輯在這裡不成立這預示著一個趨勢AI的能力訪問會越來越多地和身份職業和貴資質掛勾未來你能用什麼模型做什麼事取決於你是誰而不只是你負了多少錢

08:09.357 --> 08:25.260
[SPEAKER_00]: 你可以去看看Anthropic的申請顏面了解三個層級的具體條件就算你現在不需要知道這個框架是什麼樣的也有意義如果你在做安全相關的產品或研究這是目前最值得認真評估的AI訪問通道之一

08:25.981 --> 08:52.923
[SPEAKER_00]: 想想你目前哪些工作场景受到了模型安全过律期的限制这个计划可能是解决方案AI看不懂突片里的常识一个叫第六感的新机准这篇来自SkaleAI的研究部门SkaleLabs以及AI出创公司以Lorean原文标题是HumanitySixSenseBenchmarkingIntuitiveVisualreasoninginmulti-modalmodels

08:53.483 --> 09:14.610
[SPEAKER_00]: 发布于20026年10月7日问一个问题,一张图里图书馆书架上还有没有空间放凉本书你一眼就知道了AI很可能达不上来这个机转叫HumanitiesSixSense测的是人类在看眼图片时自动完成的那种影性判断

09:15.350 --> 09:41.234
[SPEAKER_00]: 邏輯推理和數學運算都不在這個範圍裡比如這個盒子能不能放進那個房間那個人站在梯子上安班權這個場景大概在什麼時間段為什麼這件事在2002年還是問題我們已經有多模態大模型好幾年了表面上這些模型可以看圖說話但他們學會的是把項速和文資關聯起來沒有真正理解場景的物理關係和社會含義

09:41.834 --> 10:02.918
[SPEAKER_00]: 就像一个人被了一千本书但从来没有在真实世界里用过眼睛一样即准测试的结果显示当前最好的多摩太模型在这类任务上的表现显住低于他们在传统失决问答或突向描述任务上的分数这个差距是系统性的短板原不是小幅落后

10:03.558 --> 10:19.868
[SPEAKER_00]: 这对产品设计意味着什么如果你再用AI分析图项做视觉相关的判断比如是内设计产品安全检查长警理解你需要知道这个盲区的存在模型回答的信心十足不代表他真的看懂了

10:20.428 --> 10:45.805
[SPEAKER_00]: 人類的視覺直覺裡有大量隱性知識這些知識來自在物理世界裡摸、碰、跌倒拿錯東西的經驗語言模型沒有這些經理多模態訓練只是部分填補了這個空板你可以用你自己的產品長景設計一個小測試找幾張設計空間判斷或長視理解的圖片看看你用的多模態模型會給出什麼答案

10:46.405 --> 11:01.439
[SPEAKER_00]: 在依賴AI做視覺判斷的工作劉力加一個人工負責的節點專門針對空間、安全、物理和理性這類判斷關注HSS基準未來的更新它會成為評估多麼太模型的一個重要參考

11:01.959 --> 11:19.547
[SPEAKER_00]: NasonLambert,我預期快速進步,但不是通向通用超智能那條路這篇來自Interconnects,NasonLambert的個人sub-stack有人標題是,Iexpectrapidprogressbutnottowardsgeneralsuperintelligence

11:20.147 --> 11:48.548
[SPEAKER_00]: 发布于20026年10月9日这是本期的观点片圈子里很流行一种说法AI研究者亲眼目睹了模型能力的飞速提升所以他们比任何人都更相信通用超智能很快就来NasonLambert的这篇文章说等等这个推论是有问题的它的核心论点是研究者确实看到了加速但那个加速主要发生在工程和基础设施层面

11:49.188 --> 12:14.443
[SPEAKER_00]: 模型会在几年内成为超级优秀的分布时机批物工程师可以自动化大量实验和调餐工作但这不等于他们在智能的本质上有同等幅度的突破用一个比喻来说你把实验势力的所有手工操作都自动化了实验速度提升了时辈但你还是在同一个科学饭势力工作这和发现一个全新的理论框架是两回事

12:18.645 --> 12:35.301
[SPEAKER_00]: 當前模型的能力提升在很大程度上是在類似訓練數據的任務上表現良好真正的通用推理也就是在沒有見過的結構性陌生的問題上獨立工作的能力競展要慢得多這是更精確的樂觀不是被關

12:35.921 --> 13:01.830
[SPEAKER_00]: 他说他预期未来几年会有巨大进步只是这个进步集中在特定的工程和专业任务场和AI突然变成能自主科研的通用智能体是两回事对从业者来说这个视角非常有用因为他帮你教准希望如果你在规划一年后或两年后的产品知道什么会快速变好什么会慢比龙桶的说AI很快就什么都能做了要有价值的多

13:02.530 --> 13:22.108
[SPEAKER_00]: 你可以重新檢視你目前對AI能力的假設把他們分成兩類一類是已經在加速的工程性任務一類是依賴真正通用推理的任務渡一渡Lambert的原文他對RSI這個概念的拆解有他自己獨特的角度論述方式和常見的那種很不一樣

13:22.768 --> 13:35.243
[SPEAKER_00]: 在你的產品規劃力為AI能力的局限流出一個明確的設計空間而不是默認它會在某個時間點全部解決Carpassi懂AI的人和不懂的人紅鉤正在變成懸崖

13:35.882 --> 13:58.093
[SPEAKER_00]: 这篇来自AndreCapacity在X上发布的一条推文发布于20026年10月11日他在HackerNews上引发了超过50条失制性讨论有件事在AI圈里很少被认真讨论你真正理解AI在做什么的程度和普通用户之间的距离正在以精人的速度拉大

13:58.733 --> 14:21.963
[SPEAKER_00]: 可怕自己这条推文用他自己的方式给这个现象做了分层他说全球大概有60亿人也就是总人口的75%几乎没有接触过LLM大约10亿到20亿人也就是20%是差GPT这类产品的轻度用户他们看到的是一个会聊天的机器人印象停留在有时候很聪明有时候胡说八道

14:22.583 --> 14:50.643
[SPEAKER_00]: 真正在認真使用探索邊界建立工作流的人是極少數這是個漏导不是兩個證明頂端的人在用AI重寫自己的工作方式底部的人還在把AI當成一個會說話的搜索框核心問題在於信息差正在指數極擴大而大多數關於AI的公共討論發生在這個漏导的最下層這對你意味著什麼你如果在聽這個節目大概率你在漏导偏上的位置

14:51.443 --> 15:10.420
[SPEAKER_00]: 這是一個工具性的提醒和優越感烏冠當你和周圍的人談AI能做什麼的時候你們可能根本不再同一個參照系列你覺得理所當然的東西對他們來說可能是科幻更實際的問題是這個紅鉤在產品教育政策層面會帶來什麼

15:11.120 --> 15:29.933
[SPEAKER_00]: 一个设计给理解AI的用户的产品和一个设计给把AI当搜索框的用户的产品完全是两件事忽视这个差距是很多AI产品失败的原因之一真正的能力红勾落点在四位框架有没有更新会不会用工具只是入场圈

15:30.633 --> 15:53.658
[SPEAKER_00]: 工具人人都可以用但思维框架才是真正的互乘河你可以做一个小实验下次和你圈子外的人聊AI观察他们对AI的默认假设施什么然后想想你的产品或内容是在对谁说话试着用一周时间有意识的记录一下你每天用AI完成的真实任务这个列表本身就是你在露斗里位置的一个标击

15:54.198 --> 16:16.327
[SPEAKER_00]: 如果你在做内容或产品重新想像你的受众在漏导的那一层这会改变你的很多决定这期聊了不少关于能力边界的话题AI看不见图片里的常识超智能可能没那么快来懂AI的人和不懂的人正在活在两个不同的现实里边界在哪里比AI很厉害这句话要有用的多

16:16.927 --> 16:34.684
[SPEAKER_00]: 本期提到的所有原文鏈接都在節目的收鬥子裡保持好奇我們下期繼續感謝您的收聽有任何建議意見請在X也就是推特上與Bear6聯繫本節目還會繼續進化請保持期待我們下期再見

