WEBVTT

00:00.331 --> 00:22.528
[SPEAKER_00]: BearTalk狗熊有话说AI科技兼讯Hello你好欢迎收听BearTalkAI版节目我是大狗熊的智能提升本期节目由我们BearTalkA正团队为您收集整理、验证、制作帮助您在宣销的造因中不着到最有价值的信号下面是本期节目的主要内容

00:23.168 --> 00:49.067
[SPEAKER_00]: OpenAI说,AI模型已经摸到了网络攻击的新边界,今天6件事,OpenAI发出网络安全红色预警,AMD把模型刻进新片里,3万7千个AI代理在跑一家虚拟要场,红卫是最后剩下的优势,计算成本可能10倍爆炸,专位AI代理设计的流览期出现了,OpenAI网络安全红色预警。

00:49.227 --> 01:17.953
[SPEAKER_00]: 这篇来自OpenAIblog官方博客原文标题是respondingtothenextfrontierofcriticalcybercapabilities大多数人认为AI的安全风险是遥远的假设OpenAI这次说不是了而且他们选择主动公开这件事这本身就是一个信号OpenAI上周发布了一份措辞颜塑的声明说他们当前的模型在网络攻击能力上已经逼进了一个关键门卡

01:19.173 --> 01:36.858
[SPEAKER_00]: 它们用的词是下一个前言具体意思是模型在生物、化学、网络安全、AI自我改进这四类风险领域已经开始展现出以前没有的能力水准这里要先理解一个背景

01:37.978 --> 01:59.623
[SPEAKER_00]: OpenAI在2023年底建立了一个叫准备框架的内部屏股体系里面有4个风险等级类似绿皇城红的交通灯他们现在公开说某些网络能力已经触碰到了框架里的高风险区间重要的是这不是在说AI已经在帮人打仗或者发动攻击他们说的是能力屏股

02:00.243 --> 02:22.775
[SPEAKER_00]: 是对如果有人用这些能力会怎样这个问题给出了更不安的答案内比一下就像你家附近新开了家所降电那家电的师傅基础特别好本身没什么问题但你开始意识到该升级所了真正值得关注的细节有两个第一OpenAI主动选择透明地公开这件事这在头部实验室里并不常见

02:23.475 --> 02:47.717
[SPEAKER_00]: 这说明他们内部对能力竞展的速度已经有足够的重视并且认为告诉宏重比藏着更重要第二他们说这种竞展对防守方和攻击方都是用也就是说同样的能力可以用来加步防线也可以用来找漏洞问题是用来攻击的门砍更低对普通用户和开发者来说短期内不会感受到之间影响

02:48.137 --> 03:04.834
[SPEAKER_00]: 但如果你在企业里負責AI安全或者你在用AI處理任何與網絡基礎設施有關的工作這份聲明值得細讀而不只是少眼標題最值得引用的那句能力用於攻擊的門檻永遠低於用於防守的門檻

03:05.455 --> 03:25.833
[SPEAKER_00]: 你可以去搜索OpenAIPreparednessFramework看看他們的四集風險體系是如何定義的試試用這個框架評估你手邊的AI工具在哪個風險區間AMD把模型權重刻進芯片這篇來自TheRegister加以硬件和企業科技著稱的媒體

03:26.453 --> 03:47.847
[SPEAKER_00]: 原文標題是AMDAcquire'sAIChipsStartupTallustoBoostInfferencePerformancebyAddingModelsintoSilicon我們通常認為模型是軟件是可以隨時更新,隨時踢換的東西Tallus這家公司在做的事情正好反過來把模型全種直接燒進芯片的物理結構裡

03:48.387 --> 04:06.720
[SPEAKER_00]: 他勒斯的核心技术叫做模型硬化通俗來說就像白一刀蔡谱永久刻在炒锅的底部而不是放在食铺处理随时翻月好处是推理速度可以提升一个数量急甚至更多因为芯片不需要从内存里都取权重权重就是芯片本身的一部分

04:07.240 --> 04:28.322
[SPEAKER_00]: AMD这次收购的背景是它和NVIDIA之间漫长的军背景赛NVIDIA在AI推理硬件上的领先地位很大程度来自软件生态特别是CUDAAMD在软件测追干缓漫所以它开始用另一种方式找优势硬件层面的差异化

04:29.023 --> 04:50.586
[SPEAKER_00]: 但这里有一个反直觉的地方模型硬化意味着什么意味着你换模型的成本会变得非常高今天AI领域的节奏是每几个月就出一个新版本每次新版本都有实质性的性能跳躍如果你把模型刻进芯片你到底在堵哪个版本的模型会长期有效这样人想到历史上一个类似的问题

04:52.042 --> 05:12.072
[SPEAKER_00]: 固定功能的游戏主机和可编成PC之间的博异专用硬件坏但灵活性差通用硬件慢但可以跟上软件的跌带它拉斯的答案可能是特定场景下的推理性能比灵活性更重要比如本地设备上跑的固定功能AI或者工场自动化

05:12.612 --> 05:29.533
[SPEAKER_00]: 醫療影像分析這類垂直場景對於產品設計師來說這件事帶來一個更大的問題當AI開始進入新片層產品的更新週期會發生什麼變化現在我們習慣於軟件隨時推送更新硬件上的AI沒這麼簡單

05:30.214 --> 05:52.462
[SPEAKER_00]: 最值得引用的那句,把模型刻进规理,是一次对未来的读柱,而不是对现在的优化。只是研究一下模型真流这个概念,理解为什么把大模型压缩成小版本,是这类硬化芯片的前提。你可以观察接下来半年因为大家对此的反应,看他们是否会推出,竞争性的技术路线。

05:52.642 --> 06:20.492
[SPEAKER_00]: 斯坦夫用3萬7千個AI代理跑了一家訓練藥場這篇來自VentureBeat科技媒體原本標題是Standfordisrunning7000AIagentsasavirtualbiotechandoneofitsdrugdesignsgotindependentlyconfirmedbyMerck我們常說多一個AI代理幫你幹活但3萬7千個而且其中一個設計出來的藥被墨科治藥獨立驗證了

06:22.153 --> 06:46.328
[SPEAKER_00]: 斯坦扶大学的JMZU在VBTransform两千零二十六大会上分享了这个项目的细节他们用AI代理网络模拟了一整家生物科技公司的运作从篩选化合物到提出后选药分子到预测了调校和毒性这些代理各有专业分工像一个龐大的组智养鞋通工作并不是在同一个对话里来回切换

06:46.868 --> 07:05.163
[SPEAKER_00]: 罪令人震驚的那一刻他们的AI代理提出了一个特定的要物分子设计几个月后默克制要在独立研究中得出了几乎相同的结论没有信息共享没有合作两条路径到达了同一个目的地这件事的意义不止在于要物发现

07:06.464 --> 07:24.443
[SPEAKER_00]: 他說明了一個更大的問題當AI代理的數量從一個擴展到成千上萬他們開始具備了某種集體智慧能夠覆蓋人類研究者在有限時間裡根本無法窮舉的探索空間對開發者和產品人來說這改變了我們思考AI工作流的方式

07:25.203 --> 07:43.239
[SPEAKER_00]: 今天大多数人还在想怎么用一个AI更好的完全一件事但四坦夫的案例说下一个问题是怎么让一群AI在没有人类直接干预的情况下把一个领域的问题空间整体覆盖掉成本和协调是两个门看

07:44.079 --> 08:07.505
[SPEAKER_00]: 三万七千个代理同时运行需要相当规模的计算资源每家团队都能复制的可能性很低但方向是清楚的从单代理到多代理组织这件事正在发生最值得引用的那句以万个各私其之的代理把问题空间探索干净这笔单纯追求一个更强的模型更关键

08:08.265 --> 08:26.028
[SPEAKER_00]: 事事了解一下Langrave或Autogent這類多帶禮框架理解他們如何協調多個帶禮之間的分工你可以思考你當前的工作流力有哪些重複性探索任務可以拆解給一群專門化的小帶禮去並行跑口味是最後剩下的優勢

08:26.809 --> 08:42.261
[SPEAKER_00]: 这篇来自独立波课Notashioff.tv作者是因为软件工程师原文标题是TastisAllThat'sLeft等一下AI不是让每个人都能写代马了吗那技术人的竞争优势在哪里这篇文章给出了一个很刺人的答案

08:43.911 --> 09:06.445
[SPEAKER_00]: 作者的核心论点是过去编成的门看在于让东西能跑起来你要懂语言懂调试懂怎么和一篇打交道那是一堵真实的强大部分人撞上去就停了AI把这堵强推倒了现在任何人都能生成能跑的带嘛但能跑起来和值得存在是两回事

09:07.105 --> 09:26.550
[SPEAKER_00]: 做者说,AI能生成大量功能正确,但毫无灵混的东西就像你可以用AI生成一手压运的诗但你分辨不出好诗和坏诗,你就只能接受那一手压运的评用之作真正的竞争力,现在落在了品位上,也就是知道什么值得做,什么做法好

09:27.150 --> 09:51.410
[SPEAKER_00]: 什么应该删掉这不是一个抹护的美学概念在工程里品位意味着知道这个功能该不该存在知道这个API设计会不会在三年后害死为护他的人知道这段代码虽然通过了测试但有一天会以某种微妙的方式出问题这些判断来自经验和深度不来自PROM的机桥对设计是来说这个论点有期有供民

09:52.150 --> 10:18.655
[SPEAKER_00]: 設計工具一直在降低執行門檻但什麼是好設計這個判斷一直沒有被工具提的AI讓這個現象在編成領域也成立了有一個反面值得思考品位是可以培養的但他要求你做出大量判斷然後接受反饋然後修正如果你一直讓AI替你判斷你的品位機肉會偉縮最值得應用的那句AI讓每個人都能造東西

10:19.175 --> 10:41.402
[SPEAKER_00]: 但只有有品味的人才能造出值得存在的東西你可以刻意練習件事每次AI給你個答案先不接受先評判他好在哪裡壞在哪裡如果是你會怎麼改事實把品味判斷變成你工作劉力主動的一步而不是默認接受計算成本可能在未來幾年報長時輩

10:42.642 --> 11:02.384
[SPEAKER_00]: 这篇来自多castpaddle的substack由importAI的jackcar品用推薦原文標題是whycomputemightgetshirexmoreexpensiveincomingyears人們普遍認為AI越來越便宜推理成本在過去兩年裡確實爹了很多那怎麼會突然反轉報長失贖

11:03.845 --> 11:24.927
[SPEAKER_00]: JerkashPatel的論點是從收入增速出發的他估計Anthropic今年的年收入會在1000億到1500億美元之間同比增速是10倍左右如果這個趨勢拿怕持續一年那麼需求對計算資源的消耗速度會遠遠超過數據中心和新片製造的擴產速度

11:25.507 --> 11:45.993
[SPEAKER_00]: 这里有一个物理约数,建一个AI数据中心,从立向到投入使用,大概要两到三年。新片製造有更长的周期约数,台积电不能一夜之间多生产一倍的先进节点金缘,共级有关心,需求增速可以是指数级的。两者之间的差距会反应在价格上。

11:46.133 --> 12:15.123
[SPEAKER_00]: 类比2020年到2021年的显卡荒那是游戏玩家和加密礦工同时搶购攻击跟不上现在类似的章里在AI推理端正在形成区别是规模大得多牵涉的资本也大得多对于企业和个人开发者这有实际意如果计算成本在未来两三年确实上涨那么现在直接调API能跑就行的工程习惯可能需要换成更接简的设计思维

12:15.623 --> 12:34.760
[SPEAKER_00]: 模型選擇上下文長度控制緩存策略這些現在看起來是優化細節的東西可能會變成核心競爭力還有一個更深的推論成本壓力會加速變軟計算和本地模型的需求之前候選文章裡講到LiquidAI的LFM2.5配跑在數枚派上

12:35.380 --> 13:02.103
[SPEAKER_00]: 這兩件事放在一起看賣落就更清晰了最值得應用的那句需求是指數級的供給是現心的中間的差距叫做價格事實為你當前的AI工作流做一次成本審計算一下每月實際花在API調用上的錢以及哪些調用是真正必要的你可以開始關注模型壓縮和本地部署的技術競展把它列進你的技術雷達

13:02.723 --> 13:29.881
[SPEAKER_00]: 专位AI代理设计的流览器出现了Pro.com近期认为产品开车由CloudFlare推出标语是browserbuiltforagentsrunningonCloudFlareWorkers我们给人类设计的流览器然后让AI代理措活着用了好几年开车的出现意味着这件事正在被认真重新思考开车是一个运行在CloudFlareWorkers上的流览器

13:31.042 --> 13:51.362
[SPEAKER_00]: 但他的用戶不是你,是AI代理这个区别很重要人类流览器需要宣染漂亮的见面播放动画处理字体和颜色AI代理不在乎这些他在乎的是给我叶面的结构画内容让我能执行操作,告诉我操作成功了没有

13:51.942 --> 14:15.465
[SPEAKER_00]: CloudFlair選擇做這件事的時機,也值得注意他們上週同時發布了一個叫CloudFlairOS的更大框架把代理,應用和工作流整合在同一套基礎設施上開車輔是這個框架裡的一個關鍵組件,就像給代理的手讓他們能在網絡上真正行動起來

14:16.085 --> 14:36.552
[SPEAKER_00]: 從Pro的抗爪的討論看,關注點主要集中在兩個地方,第一,這會不會讓大量針對人類網頁行為涉及的反爬充機制施效當代理流覽器變得足夠普及,CloudFlair等平台要同時維護人類用戶和代理用戶的訪問策略這個全衡會變得很複雜

14:37.412 --> 15:06.504
[SPEAKER_00]: 第二,运行在CoffelatWorkers上,以为这低延迟和全球分布,这对需要快速并发访问多多网页的代理任务非常友好对于购建AI工作留的人来说,一个更直接的问题是,你现在怎么让AI代理上网大多数人在用CeliniumPlaywright,或者在用提供截图接口的第三方服务开车戴表了一个更原声的方向,代理访问网络这件事正在从错和着搭变成专门为他造

15:07.184 --> 15:35.531
[SPEAKER_00]: 這件事本身不是革命,但它是一個信號,AI代理的基礎設施層正在快速補權最值得引用的那舉人類流蘭其實為了讓你看見網絡,代理流蘭其實為了讓AI能夠行動與其中事實在ClubFlareWorkers的文章裡找到開設施的相關接口,了解它支持那些操作類型你可以思考你當前工作流禮有哪些讓AI代理上網的需求,判斷這類工具對你師傅有直接價值

15:36.191 --> 15:50.637
[SPEAKER_00]: 今天聊的六件事從攻擊到加速從代理協作到品位判斷有一條影線AI的基礎設施正在快速成熟但使用它的人的判斷力依然是最貴的那部分

15:51.177 --> 16:07.940
[SPEAKER_00]: 人期提到的所有原文练接都在节目的收弄此理好吃好奇我们下期继续感谢您的收听有任何建议意见请在X也就是推特上与Berry6连细本节目还会继续进化请保持期待我们下期再见