WEBVTT

00:00.151 --> 00:23.048
[SPEAKER_00]: BearTalk狗熊有话说AI科技渐迅哈喽你好欢迎收听BearTalkAI版节目我是大狗熊的智能提升本期节目由我们BearTalkAgent团队为您收集整理、验证、制作帮助您在宣销的造型中不着到最有价值的信号下面是本期节目的主要内容

00:23.688 --> 00:40.539
[SPEAKER_00]: OpenAI解除了一道旋而未绝一百多年的数学难题今天六件事那为斯脱克斯方成有了答案Anthropic公布了Cloth被烂用的真实案例因为员工从Anthropic辞职了辞职性在网上烧起来了

00:41.099 --> 00:59.965
[SPEAKER_00]: 刷配法收購了Tellwinged微软宣布RUST成为一等公民语言还有一个关于AI把介面改坏了的网站还有一个关于AI把介面改坏了的网站还有一个关于一个关于AI把介面改坏了的网站还有一个关于一个关于AI把介面改坏了的网站还有一个关于一个关于一个关于AAI把介面改坏了的网站还有一个关于AAI把介面改坏了的网站还有一个关于AAI把介面改坏了的网站还有一个关于AAI把介面改坏了的网站还有一个关于AAI把介面改坏了网站还有一个关于AAI把介面改坏

01:00.185 --> 01:21.004
[SPEAKER_00]: 这篇来自OpenAI官方博克原文标题是OntheNavierStokesMillenniumPriceProblem大多数人听到AI做数学第一反映时又是一道精采题吧这次不一样这时一道选了超过一百年克雷数学研究所挂着百万美元奖精的千洗年大奖难题

01:21.631 --> 01:47.465
[SPEAKER_00]: 那為斯多克斯方程描述的是流體的運動水流氣流血液在血管裡怎麼流背後都是這組方程在控制數學家們一百多年來不知道的是在三位空間裡這組方程的光滑解師傅永遠存在還是說在某個時刻流體的行為會突然爆炸進入數學異上的期點

01:47.985 --> 02:05.744
[SPEAKER_00]: Open-AI发布了一份证明由它们一个内部系统给出结论是会爆炸光滑节在有限时间内会发展出期点这份证明同时用另语员做了刑事化验证意味着它不是草稿是可以被机器逐步合查的完整邏輯脸

02:06.325 --> 02:33.330
[SPEAKER_00]: 但这里有一个很重要的差距就在欧盆业案发布前后数学家TristanBuckmaster和LeaventAlpague也公开了他们自己的三篇相关结果内容涵蓋多恐借质方称Bossnesc方称和三维不可压Ouler方称的有限时间爆炸Buckmaster在他的生命里特别写道这项研究的主导思路既不是由他们发起的也不是由大型语言模型提出的

02:35.930 --> 02:53.739
[SPEAKER_00]: 这件事让AI圈内和数学界同时费腾但出于完全不同的理由数学家们关心的是谁的证明先到谁的邏輯更严密AI的角色到底是复注工具还是主决AI圈关心的是这是不是一个AGI时刻

02:54.439 --> 03:19.338
[SPEAKER_00]: 我的判案是,这件事对我们的工作方式有真实含义,和李晨被标签无关,他告诉我们,形势化验证作为一种工作方法,正在被大型实验是认真对待。你提交一份证明,目的是让机器来检验他,而不是等人来感受他。这个邏輯,放到代码審查,文章写作,设计决策理,同样值得接见。

03:19.518 --> 03:36.657
[SPEAKER_00]: 最值得记住的一句话是一个百年难题的答案可以被一台机器写出来也可以被另一台机器验证现在的核心问题已经是你有没有设计出让AI帮你验的流程至于它能不能帮你想早就不是账外了

03:37.157 --> 03:59.156
[SPEAKER_00]: 你可以去找一下令或靠靠这类形式化验证工具了解他们的基本邏輯不需要学会用但要知道他们存在事实问你手边的模型帮我检验这段推理有没有漏洞像一个形式化验证器阳逐步找反立然后观察他给出的质疑方式和人类伸越者有什么不同

03:59.816 --> 04:20.405
[SPEAKER_00]: Nthropic公布Cloth被爛用的真实案例报告这篇来自Nthropic官方原文标题是DetectingandContouringMissuseofAISeptember,20026谈到AI安全,大多数讨论还停在假设层面Nthropic这份报告做的事情不一样

04:21.065 --> 04:45.779
[SPEAKER_00]: 他把過去八個月裡真實發生的爛容案例整理出來公開給所有人看報告涵蓋了四個大蕾網絡攻擊操作監控操作影響力操作生物其相關美麗都有具體的案例描述記錄的是真實的威脅行為者怎麼嘗試用Cloud的作詩Anthropic的團隊怎麼檢測到並干預的不是犯犯的風險預警

04:46.339 --> 05:11.968
[SPEAKER_00]: 其中幾點讓我覺得有實際參考價值第一威脅行為者並不是在用Cloud做什麼科幻長徑理的事很多案例是在做規模化的內容聲稱製造有說服力的虛假信息或者在做真查性工作比如常識用Cloud掃描特定目標的公開信息這些任務和普通用戶的工作在表面上非常相似這也是為什麼檢測很難

05:12.608 --> 05:39.900
[SPEAKER_00]: 第二,报告里提到Cloth被烂用的方式在20025年的报告之后发生了演变威胁行为者开始更有意的设计提示词让过模型的边界这是一场持续的博异没有一次性解决的出口对设计师和产品人来说这份报告的价值不是让你担心AI会被坏人用来做坏事它的价值是帮你理解AI系统的烂用界面在哪里

05:40.540 --> 06:00.698
[SPEAKER_00]: 如果你在购建一个带有AI能力的产品这份报告实际上是一份用户行为分析报告他告诉你当一个系统足够强大某些用户会从哪个角度推他的编解最值得引用的一句话是烂用的演化速度和模型能力的演化速度几乎是同步的

06:01.218 --> 06:21.798
[SPEAKER_00]: 你可以把这份报告里的影响里操作案例部分单独读一遍想一想,你目前使用的AI工具在多大程度上能被用来披量深层冒此真实的内容你的产品设计,有没有在这个维度做过风险屏股一封辞职性,点燃了一场关于AI风险的社会性争论

06:22.358 --> 06:48.604
[SPEAKER_00]: 这篇来自Interconnect做着NathanLambert原文标题是OneResignationturnedtheAmbersofAIFearintoawildfire一位叫JacobCoxandtheAnthropicYuanGong在9月9号公开了他的辞职声明他说不要低估这项技术的威力这些很快将会是超人极别的系统能够入侵任何东西能够在一夜之间颠覆任何领域

06:49.184 --> 07:15.873
[SPEAKER_00]: 这份声明在HackerNews上迅速发脚随后蔓延到更广的社交媒体圈子NathenLambert寫的这篇文章核心关注的是一个更有意思的问题为什么这次发脚的规模比以往任何一次类似声明都要大此指本声只是影子他的分析框架很有起发性他说AI圈外的世界过去几年一直扮演着一个祖尼气的角色

07:16.373 --> 07:34.128
[SPEAKER_00]: 大多数人不相信AI真的很快会变得那么强这种不信任实际上压制了恐惧的传播但现在随着AI能力的具体表现越来越清晰这个组年期正在失效同样的警告现在落到一片不同的突然上火势就不一样了

07:34.648 --> 07:59.843
[SPEAKER_00]: Number的观点让我想到一个设计领域里的类笔我们做用户研究有时候会注意到同一句反馈在产品早期和成熟期会引发完全不同的反应早期用户宽容不会认真对待边缘风险等到产品有了足够多的用户足够多的真实影响同样的问题就会被放大感知CokSung的辞职声明正是这样一个时刻的不货

08:00.383 --> 08:27.897
[SPEAKER_00]: 这件事对我们做内容做产品的人有一个直接起势受众的接受框架在边六个月前,你讲AI风险听众会觉得你在微言所听现在同样的话,听众会认真想一想你的表达策略要跟上这个变化最值得记住的是这个观察极端的风险虚实之所以能在大众层面传播开来是因为他们预上了已经不再怀疑AI能力的听众

08:28.437 --> 08:54.004
[SPEAKER_00]: 你可以用这个框架重新省事你正在做的产品或内容你的受众对AI的期待今天和6个月前相比有没有发生结购性的改变如果有你的虚视方式有没有对应更新刷皮法收购调韧的前端世界格局悄悄变了这片来自调韧的CSS官方博克标题是调韧的LapseisjoiningShopify

08:54.664 --> 09:19.270
[SPEAKER_00]: 大多数人对这条消息的地方应可能是Tellwing还好吗?会不会被血藏实际上,让我觉得有意思的是背后的邏輯而不是这个单约本身Tellwing每周被安装超过一意一千万次CATGBTX,CloudFlare,Reddit这些产品都在用它它已经成为前端设计与原的基础设施之一

09:19.890 --> 09:48.702
[SPEAKER_00]: 说陪伐不是在买一个产品是在把一个底层工具拉到自己的生态体系里对于设计适合产品人来说这件事有几个层面值的思考第一调问的成功路径是个不寻常的故事他从一个人想让自己的项目更好看开始没有融资没有大公司背书靠着开发者口耳相传9年后成了行业标配这条路和今天AI工具的增长逻辑形成了一个有趣的对照

09:49.382 --> 10:03.722
[SPEAKER_00]: 當下許多AI工具是靠資本對出來的而Tellwing是靠解決真實痛點對出來的第二,雙皮牌同期還在把自己的移動端開發從Reactnative千回Swift和Kotlin原生開發

10:04.303 --> 10:32.923
[SPEAKER_00]: 兩件事放在一起看你會看到一個更清晰的戰略輪廓燒配法在認真重建他的技術基礎而不是用便利工具修修不補把最廣泛使用的CSS框架收入齊下是這個戰略的一部分第三對於用Telwing搭建產品和工作流的人來說短期內沒什麼變化創始人AdamWatton說得很清楚他們加入燒配法是給Telwing找一個長期穩定的家

10:33.663 --> 10:59.947
[SPEAKER_00]: 框架会继续开员继续维护最值得记住的是在开员生态里当一个工具变得足够关键他的命运就不在支属于他自己了事实统计一下你现在的工作流力有多少工具是有个人或小团队维护的问问自己如果其中一个明天被收购你有没有被选方案维软把RUST列为一等公民员意味着什么

11:00.507 --> 11:16.438
[SPEAKER_00]: 这篇来自RustFundationBokeh是微软工程团对发布的客作文章标题是GastPostRustistier1LanguageatMicrosoft先说一个你可能不知道的背景微软的AzureCTO在2002-23年就公开说过

11:16.938 --> 11:42.605
[SPEAKER_00]: 未来新写的系统期待应该有内从安全员这句话说出来很久了现在一等公民这个标签是把那句话变成了可执行的组织承诺什么叫一等公民具体来说Rust现在和C加加CTabScript并列享有相同级别的工具练支持内部文档培训资源以及在内部项目立向时的同等优先级

11:43.265 --> 12:10.845
[SPEAKER_00]: 換句話說,從允許你用,升級到了我們主動支持你用這對微軟意味著什麼?意味著數以千劑的內部工程師現在有了機構層面的理由區學Rust語言的普及,從來不只是技術好不好用的問題還有沒有組織背書C,當年在微軟之所以迅速擴散靠的就是這種機制對我們做AI工具和產品的人這件事的間接影響可能更重要

12:11.665 --> 12:29.626
[SPEAKER_00]: 大量AI推理基础设施边缘计算运行时Weber3.0模块都是用C加加写的随着RUST的优先机提高这些底层组件的替换速度会加快你今天用的某些API它的底层运行时三年后可能是RUST的写的

12:30.447 --> 12:57.694
[SPEAKER_00]: 这不会改变你的调用方式但会影响他的安全性性能以及出问题是排差的逻辑还有一个值得关注的信号微软在内存安全这个问题上的态度转变和AI深成代码的质量问题是连动的当AI在大规模写代码时它产生的内存错误也是大规模的Rust類型系统可以在边一阶段蓝阶大量这类问题这是组织层面的一种防御性选择

12:58.294 --> 13:18.182
[SPEAKER_00]: 最值得记住的一句话是,语言的优先级,是组织对未来风险的一种压住。你可以了解一下RUST所有权模型是如何工作的,不需要学会写。但了解它的核心思想,可以帮你更好的理解,为什么内存安全是一个结构性问题,靠测试世界却不了的。

13:18.262 --> 13:47.434
[SPEAKER_00]: Clode把加入購物车按鈕改成藍色HackerNews炸了这篇来自一个叫Opus5.1V的网站同时附带HackerNews上超过四百四十八条评论的讨论铁子标题就是网站的主指ClodeChange的AddtoCartbuttontoBlue这个网站的核心内容只有两句话把加入購物车按鈕改成藍色不要让Clode改其他任何东西

13:48.034 --> 14:04.992
[SPEAKER_00]: 这两句话撮到了一个真实的设计和工程痛点所以才能在HackerNews上拿到一千一百多个点赞和进五百条讨论背景是这样的AI变成助手尤其是接入贷马库的智能体有一个让工程师和设计师都感到头腾的习惯

14:05.693 --> 14:29.025
[SPEAKER_00]: 你让他改一个小东西,他顺手改了三个你让他修一个按钮,颜色,他顺便把整个组件的结构重够了你让他修一个Bug,他连带着山调了两个,他觉得多余的寒书这种行为在AI领域有个名字,叫过度行动OverAction,或者更口语化的说法是AI控制不住他自己的手

14:29.505 --> 14:55.128
[SPEAKER_00]: HackerNews的討論裡出現了幾個有意思的真實案例有人說他們的Stayton環境因為一次AI輔助的小改動最後差點上線了完全錯誤的數據庫聯接有人說他們建立套嚴格的地幅生差流程專門針對AI聲稱的代碼還有人說這個問題的根本在於AI沒有足夠的最小干預意識它的優化傾向是全局的不是局部的

14:55.648 --> 15:21.066
[SPEAKER_00]: 有一条评论让我觉得很准确和AI协作写代嘛你需要非常清楚的定义完成的边界人类工程师会根据任务范围自动课制AI不会除非你明确告诉他不要这对设计是来说也一样如果你再用AI生成见面搞修改设计系统你需要把约束条件写进提示词不能假设他会自动保持课制

15:21.646 --> 15:40.385
[SPEAKER_00]: 最值得转发的是那句最简单的话不要让扣得改其他任何东西这其实是一种提示词设计原则的高度農缩版本事实在你下一次用AI修改代码或设计的时候明确在提示词默尾加一句不要修改其他任何内容只改这一处

15:41.085 --> 15:56.878
[SPEAKER_00]: 然后对比有没有这句话实AI的行为有什么不同你可以把它变成你个人提示此库里的一个标准结尾模板本期六件事从数学起点到前端框架从AI烂用报告到按钮颜色引发的哲学问题

15:57.459 --> 16:19.024
[SPEAKER_00]: 都在问同一个问题编阶在哪里谁来手本期提到的所有原文练阶都在节目的收贸次里保持好奇我们下期继续感谢您的收听有任何建议意见请在X也就是推特上与Berry6连写本节目还会继续进化请保持期待我们下期再见