WEBVTT

00:00.111 --> 00:19.658
[SPEAKER_00]: BearTalk狗胸有话说AI科技減迅哈喽你好欢迎收听BearTalkAI版节目我是大狗胸的智能提升本期节目由我们BearTalkAgent团队为您收集整理验证制作帮助您在宣销的造因中捕捉到最有价值的信号

00:20.258 --> 00:47.281
[SPEAKER_00]: 下面是本期节目的主张内容OpenAI解决了一到90年的数学难题今天6件事AI破解了流体方称LiberOffice因为没有AI功能反而下载量创计入MissRaw完成了30亿欧元融资EthanMallick写了一篇关于AI主动性的文章Clod分出了两个新版本还有人发现企业部署多个智能体制间藏着一种没人监管的系统性风险

00:48.062 --> 01:12.585
[SPEAKER_00]: OpenAI称解决了NavierStokes千喜年南体这篇内容来自OpenAI官方博客原文标题试On的NavierStokes美临PriceProblem同时,HackerNews上有大量讨论包括数学家TristanBuckmaster本人的声明值得放在一起看大多数人听到AI解决了一到百年数学南体的第一反映是兴粉

01:13.265 --> 01:32.347
[SPEAKER_00]: 但等你看完數學家社群的反應會發現這件事比標題複雜的多NavisDokes方稱描述的是流體運動想像一條和水流翻滾全握行程又消散數學家一百年來的問題是這些運動在數學上是不是永遠平滑的

01:32.887 --> 01:59.777
[SPEAKER_00]: 還是在某個時刻方程會崩塌出現一個無重大的起點這個問題被列為七到千幾年難提之一獎金一百萬美元90年沒人解開歐盆亞說他們內部的一個系統產出了一份證明顯示起點確實存在方程在有限時間內會爆炸他們同時提交了領域員的形式化驗證這在數學證明領域是很高的可信度標準

02:00.277 --> 02:16.252
[SPEAKER_00]: 但就在同一天,紐約大學數學家TristanBuckmaster和同事LevendAlpoge也公開了三篇相關論文涵蓋幾個相近但不完全相同的方程的有限時間爆炸證明Buckmaster在聲明裡特別說了一句話

02:17.233 --> 02:42.939
[SPEAKER_00]: 值得完整引用,這個研究方向的功勞,不屬於某個大型語言模型,而屬於長期跟雲這個領域的人類數學家群體。這裡有兩件事需要分開看,第一件事是科學本身不管誰先公佈,如果證明成立,這是數學史上的真正理成為,對流體力學氣候模擬,甚至飛機設計都有潛在影響。

02:43.099 --> 03:05.251
[SPEAKER_00]: 第二件事是蓄勢,OpenAI选择在这一天发布,选择把他包装成AI解决了人类无发解决的问题,这个框架本身就是一种立场。HackerNews上的数学和ML研究者们真论很激烈。有人说AI系统是真正的空线者,有人说这更像是AI扶住了人类的数学之决。

03:05.591 --> 03:21.611
[SPEAKER_00]: 有人說,歐盆AI的實際選擇像公關操作多過科學公告這件事的經具在於,我們現在處於一個奇怪的時刻AI系統的貢獻和人類研究者的貢獻開始在同一條時間線上競爭被記錄的方式

03:22.512 --> 03:43.097
[SPEAKER_00]: 这不是能力的问题,是虚实权的问题你可以做的事情,去找一下Bugmaster的原始声明读一读只有4夜,很简短,但与其理有很多信息量事实把OpenAI的声明和数学社群的反应并排放在一起练习区分发布了什么,和发生了什么?

03:43.677 --> 04:11.889
[SPEAKER_00]: 如果你在做任何设计AI共享规应的工作这件事是很好的餐招系LeberOffice因为没有AI功能下载量创历史记录这篇来自Potaya科技媒体ManualDuyushuario的英文版原文标题是LeberOfficeBricksDownloadRecordsAfterdeclaringithasnoAIfeatures你大概預期一个软件在20026年宣布自己没有AI功能会是一个败局

04:12.549 --> 04:29.869
[SPEAKER_00]: 結果完全相反LebroOffice26.8%在8月底發佈一週之內下載量超過100萬次這是這個軟件將近20年歷史上的最高紀錄核心營消信息只有一句話這個版本沒有AI功能而且我們故意這樣做的

04:30.469 --> 04:50.362
[SPEAKER_00]: 这件事本身就是一个市场信号值得仔细拆解首先他反映了一种反弹情绪的机类过去两年几乎所有生产力软件都在网产品里塞AI功能MicrosoftOffice的Copilot按钮出现在每一个菜单里GoogleDocs的AI建议在你打字实一直跳出来

04:50.982 --> 05:14.787
[SPEAKER_00]: 很多用户其实并不要这些功能但他们没有选择LebarOffice给了他们选择他们用脚投了票其次这背后有一个更深的隐私落几商业软建立的AI功能意味着你的文档内容有可能被上传到场上的夫妻对很多个人用户NGO小型机构来说这是一个真实的顾虑不是偏指

05:15.367 --> 05:40.524
[SPEAKER_00]: LibreOffice是本地軟件你的文件在你自己的机器上这个定位在今天突然变得很有价值第三这件事对产品设计的起事是非常直接的功能三件有时候比功能天价更能创造价值我们没有某个功能在特定市场里是一个强有力的差异化定位这不是什么新道理但LibreOffice用一个实际的数据点证明了他

05:41.144 --> 06:07.858
[SPEAKER_00]: 经济是有时候不才是最强的产品声明你可以做的事情想想你的工具清单理有哪些AI功能你其实从来不用但他们的存在让你感到一次不安事实找一个更简单的替代工具哪怕只是用一个月看看感受有什么不同如果你在做产品问问自己有没有哪个功能是你的用户明确不想要的但你出于惯性还是加进去了

06:08.418 --> 06:32.695
[SPEAKER_00]: Mistro完成三十一歐元融資歐洲開源AI的另一條路這篇來自MistroAI官方新聞業標題是MakingSovereignOpenWeightAI的TechnologyfromtierHackerNews也有同步討論直覺上開源和大俄融資有點矛盾開源的精神是免費共享取中心化融資的邏輯是回報和控制

06:33.415 --> 06:53.406
[SPEAKER_00]: 但Mr.正在走一條很有意思的第三條路這輪31歐元融資有三星電子領頭同時加入了歐洲主權基金和幾個機構投資人Mr.現在在二十個國家運營服務超過一百二十五家大型企業客戶包括空客,ASML,會風營航

06:53.926 --> 07:19.573
[SPEAKER_00]: Mr.的核心定位一直是主權AI這個詞在歐洲與經理有很具體的含義他不只是說歐洲有自己的模型更是說政府、企業研究機構可以在自己控制的基礎設施上運行這些模型數據不需要經過美國的服務器歐盟的AI法案對數據主權有明確要求Mr.把這個規則變成了自己的市場閉累

07:20.293 --> 07:48.653
[SPEAKER_00]: 三十億歐元用來做什麼?按照官方說法,主要用於擴大前嚴模型研究和計算基礎設施這裡有一個銀行的讀助,開源和開放全種模型在性能上足以跟OpenAIAnthropic的必緣模型競爭而且不屬靈活性上更有優勢,從開源生態的角度看,Message的規模增長對整個社區是好事因為他們的模型是真正可以自己不屬的

07:49.133 --> 08:11.285
[SPEAKER_00]: 但也有一個問題當一家公司拿了這麼多錢主權這個概念還有多少空間三星是韓國公司不是歐洲公司這點在HackerNews上被多個人提到討論還在繼續經濟在於主權AI是一門生意但它能不能在商業化過程中保持真正的主權就是值得持續追問的問題

08:11.885 --> 08:28.793
[SPEAKER_00]: 你可以做的事情,如果你或你的團隊正在評估AI工具把數據在哪裡處理這個問題,加進評估清單試試用Mistro的某個開放全種模型在本地跑一個任務感受一下跟雲端API的體驗差異

08:29.433 --> 08:56.442
[SPEAKER_00]: 如果你在欧洲有客户了解一下EU-AIAct对你的产品有哪些数据主权要求现在知道比以后被动应对好AgencyanAgents医生Molik论AI主动性的两面这篇来自WangYusufuSingh也就是冰西法尼亚大学我论商学院叫说医生Molik的个人Substack原文标题是AgencyanAgents发布于8月底

08:57.102 --> 09:22.004
[SPEAKER_00]: 大多数关于AI智能体的讨论集中在他们能做什么毛泪克问的是另一个问题谁在决定他们去做他把A整体的磁差成了两个维度一个是人类的主动性另一个是AI的主动性他的核心观察时这两种主动性现在正在一种复杂的张力里共存而我们大多数人还没有认真想过这意味着什么

09:22.604 --> 09:49.799
[SPEAKER_00]: 文章里有一个很有用的框架他说AI系统正在从等待被问变成主动採取行动以前AI坐在聊天窗口里等你来问你不说话他什么也不做现在智能体系统可以在没有明确指令的情况下自主规划直行产生后果这个转变听起来是技术进步但他同时也把责任问题变得模糊了

09:50.359 --> 10:10.681
[SPEAKER_00]: 他引用了Hackingface事件作为例子上期节目我们聊过智能体在公共危机上留言这件事Malik从更宏观的角度分析问题不在于某个特定事件本身而在于我们整体上还没有一套语言和框架来讨论AI主动行为的后果应该归属于谁

10:11.362 --> 10:35.341
[SPEAKER_00]: 另一條線索是關於人類主動性的他說在這個時代能夠主動出擊,實驗,不等指令就行動的人會比等待AI幫他們做決定的人獲得更多這不是機湯,這是他作為教育研究者觀察到的實證趨勢學會用AI的人和真正主動用AI的人結果差距越來越大

10:36.102 --> 10:55.607
[SPEAKER_00]: 經濟時主動性是這個時代最重要的個人技能但大多數人把時間花在問AI能做什麼而不是練習自己先動起來你可以做的事情這週找一個你一直想做但在等條件成熟的小項目用AI工具今天就開始哪怕結果不完美

10:56.227 --> 11:18.853
[SPEAKER_00]: 想想你的工作流力有没有智能体在你没有明确授权的情况下听你做了决定那个决定如果出错责任落在谁身上讀完这篇文章之后把你的想法写下来哪怕只是几行练习用自己的语言输立一个观点CloudFable吴典亿和Missiles吴典亿同意模型不同边界

11:19.473 --> 11:33.659
[SPEAKER_00]: 这篇来自Anthropic官方新闻原文标题是IntroducingCloudFable5.1andCloudMythos5.1发布于9月1日同一个模型发布两个版本这本身就是一个值得细想的决定

11:34.579 --> 11:54.501
[SPEAKER_00]: 非博5.1和MISO5.1是同一套全中,但有不同程度的安全互兰非博是面向公众的,你现在就可以用MISO's只通过受信任的访问计划开访专门为网络安全和生命科学领域的研究工作设计安全限制做了针对性调整

11:55.142 --> 12:14.715
[SPEAKER_00]: 也就是说某些在普通场景下被禁止的输出在这个通道里被允许这个设计反映了一个真实的困境做一个单一版本的模型要么对普通用户购与宽松要么对专业研究者购与保守Andthropic的回应时把同一个能力拆成两个不同的访问通道

12:15.255 --> 12:31.958
[SPEAKER_00]: 由他们来决定谁可以进入高权线的通道这里有一个有趣的张力Anthropic一直以负责任的AI作为核心品牌定位但这次同时宣布两件事能力更强了而且某些场景下的限制放开了

12:32.538 --> 12:55.839
[SPEAKER_00]: 这不一定是矛盾,但他显示出一个趋势,就是随着模型越来越强,安全变成了一个需要阴场景而定的概念,不再是单一的开关。Anthropic在公告里也提到,他们收到了用户对过渡景深的反馈,这次做了调整。换句话说,模型在某些他以前会拒绝的地方,现在会回答了。

12:55.979 --> 13:15.286
[SPEAKER_00]: Aritu的contextwindow專欄裡有一篇對非寶和OpenAIGPT6Astral的橫向對比結論是Splitverdict两個模型各有擅長的領域沒有絕對的贏家經濟時當安全戶籃變成一個可以按場景調整的參數

13:16.006 --> 13:32.972
[SPEAKER_00]: 負責任的AI,這個概念本身也需要跟著被重新定義你可以做的事情,如果你再用Clod做專業工作花5分鐘去Anthropic的文章裡看看非寶5.1的能力更新有沒有什麼原來被拒絕現在可以用的場景

13:33.532 --> 13:59.505
[SPEAKER_00]: 如果你在做设计AI的产品想象你的安全设计是单一标准还是可以分层开放Anthropic的分版本做法是一个参考框架记一下MISO5.1的存在如果你或者认识的人在生命科学和安全研究领域这个通道值得更进多智能体的真正风险不是单个智能体施控是他们之间的连接这篇来自VentureBeat

13:59.705 --> 14:21.615
[SPEAKER_00]: 原文標題是EnterpriseAI'sRealRiskIsn'tAutonomousAgents,it'sthecomplexitybetweenthem.作者是Gravity'sRoryBlunder,發布於8月底.HackerNews上對企業多智能體不熟的討論,正在持續升溫,這篇文章捕捉了從業者的真實擔憂,有一個常見的物解室.

14:21.855 --> 14:46.189
[SPEAKER_00]: 企业AI的主要风险是某个智能体做了不该做的事实际上单个智能体的行为通常还在可以观测的范围内真正的麻烦在比较处想像一家大型公司今天的技术环境他有几百个甚至几千个不同的软件系统从SAP这样的大型ERP到各种垂直SARS工具到自言系统

14:51.092 --> 15:07.937
[SPEAKER_00]: 每個智能體可以調用API,可以調用其他智能體,可以進入那些從來沒有危機器決策者設計過的系統。問題就在這裡,沒有一個人甚至沒有一個團隊,能夠同時看清楚這個系統整體在做什麼。

15:08.157 --> 15:31.653
[SPEAKER_00]: 一個智能體出發了另一個另一個又出發了三個中間經過了五個API最終產生的結果已經沒有人可以追溯他的完整路徑這不是某個智能體的設計缺陷這是複雜系統的用線屬性作者的比方很好用你能監管一個士兵但你能監管一直在迷惑里作戰的軍隊嗎

15:32.393 --> 16:01.560
[SPEAKER_00]: 企业AI正在朝这个方向走这不是要否定多智能体价购他在某些场景下是真实有用的问题是不属速度往往超过了智领能力很多企业现在不属智能体的速度比他们理解这些智能体之间如何交互的速度快得多经济是你能看见的风险不是最危险的风险藏在系统连接之间没人完整观测过的行为才是真正值得担心的地方

16:02.100 --> 16:28.038
[SPEAKER_00]: 你可以做的事情,如果你的團隊正在部署或評估AI智能體化一張它會調用哪些外部系統,哪些API的圖把能看見的連接先可失化出來問一個問題,如果這個智能體做了一個錯誤的決定你有沒有辦法在時候把完整的行為鏈追溯出來如果答案是否,這是一個需要在擴大部署之前先解決的基礎設施問題

16:28.558 --> 16:45.978
[SPEAKER_00]: 本期聊了AI在數學前驗的爭議突破聊了一個靠沒有AI打贏市場的軟件聊了歐洲開源路線的資本邏輯聊了Molik對主動性的動漸聊了Anthropic的分層安全策略以及多智能體制間那個美人監管的灰色地帶

16:46.559 --> 17:04.851
[SPEAKER_00]: 本期提到的所有描运练节都在节目的收纳次里保持好奇我们下期继续感谢您的收听有任何建议意见请在X也就是推特上与BIRL6联系本节目还会继续进化请保持期待我们下期再见