WEBVTT

00:00.111 --> 00:25.949
[SPEAKER_00]: BearTalk狗熊有话说AI科技渐迅哈喽你好欢迎收听BearTalkAI版节目我是大狗熊的智能提升本期节目由我们BearTalkA整团队为您收集整理验证制作帮助您在宣销的造型中不折到最有价值的信号下面是本期节目的主要内容Mr.刚发了一个一万亿参数的模型

00:29.952 --> 00:55.890
[SPEAKER_00]: SimonWilson說我們需要給AI設應限額今天6件事開源模型的網絡安全診論AI代理的群體效應讓專家打臉數據中心的用水量被反向暴光了還有一個關於如何區分真專家和表演專家的就問題在AI時代突然變得很緊迫MistroLarge4創號大胖蹲

00:58.752 --> 01:21.341
[SPEAKER_00]: 这篇来自Mr.O.A.I.的官方博客原文标题是IntroducingMr.O.Large4他们自己给这个模型起了个逆称李创克大概就是大胖端的意思大多数人听到开原模型脑子里还停留在便宜但是弱的影响但这个模型的规格值得让你重新教准一下执决

01:21.941 --> 01:22.121
[SPEAKER_00]: Mr.

01:22.121 --> 01:40.949
[SPEAKER_00]: Larger4是一个总参数量1万亿活躍参数491亿的吸收混和专家模型训练用了3800块NVIDIAGraceBlackwellGPU是Mr.自己见的基裙模型现在已经可以通过API室用全种会在本月底开放下载

01:41.789 --> 02:10.542
[SPEAKER_00]: 官方說,他在編成多部座代理,工作流和多模態理解上都達到了同體量的定機水平西叔很和專家架構的意思是雖然總參數是1萬億,但每次推理直擊或490億個參數這就好比一家公司顧了1萬個員工,但每個項目只動用其中2千人,其餘的人在後面這樣做得好出事,他既有超大模型的支持密度又保留了小模型的推理速度

02:11.202 --> 02:39.120
[SPEAKER_00]: 以万一的规模可以放在消费级硬件上跑这在以前基本是不可能的事这件事对工具选择的意义是如果你之前因为不想把数据发出去而放弃了定机模型这次Message给了一条心路以万以参数的模型本地部署开原权重这对医疗、法律、金融等对数据主权敏感的行业意味着工具选项真实的擴展了

02:39.980 --> 02:41.861
[SPEAKER_00]: 另外值得关注的是Mrs.

02:41.861 --> 02:58.130
[SPEAKER_00]: 的定位策略他们一直描转的是欧洲主权AI这块市场强调数据不出境可自不输从来没打算正面硬钢欧盆AI或AnthropicLarge4是他们期间最重的一张牌Mrs.

02:58.130 --> 03:02.693
[SPEAKER_00]: 还在而且打出了一张你很难忽视的牌你可以去Mrs.

03:02.693 --> 03:06.555
[SPEAKER_00]: Studio的康所申请API防问权现在就能使

03:07.195 --> 03:30.739
[SPEAKER_00]: 事實把它和你當前用的主力模型跑同一個任務,看看差距在哪?等本月底全重放出來,如果你有RTX49090或者更強的顯卡,可以考慮本地部署Clot用日記舉報了用戶,然後他背補了這篇來自Textbot,原文標題是Florethewomanusedtocloudasadiary

03:31.219 --> 03:52.926
[SPEAKER_00]: thenanthropicreportedandentrytopolice一個把AI當日記本用的女人因此面臨重罪指控你以為你寫在聊天慌里的東西只是在和機器說話事情是這樣的佛羅里達州一名女性長期用cloth寫日記記錄自己的情緒和想法其中一條寫了他想衝進警察局開槍

03:53.586 --> 04:15.735
[SPEAKER_00]: Anthropic的人工審核員看到這條記錄之後將內容上報給了警方這名女性隨後被捕面臨重罪指控這件事的核心在於Anthropic的服務條款裡有明確條款當內容涉及對他人的暴力威脅時公司有權向當局報告並且人工審核員會審約對話

04:16.435 --> 04:44.574
[SPEAKER_00]: 換句話說,你和Clod說話,本致上是在向你家公司投帝姓件這家公司有人會打開他獨而不是在寫只有自己能看到的家庭日記這裡有一個令人不安的認知臭委對話見面太像四米空間了,你在生業打字見面安靜,溫柔,只有你但這個空間本致上是一個可以被看到,被記錄,被會報的平台更複雜的問題是邊界在哪裡

04:45.314 --> 05:03.778
[SPEAKER_00]: 写我想杀了我老板是日常发现还是威胁Claw的回应的方式会不会鼓励用户轻速更多轻速和威胁之间的那条线由谁来判断这件势力判断是有一个人工省和缘做的但这个省和缘看到的宇宙够完整吗?

05:04.058 --> 05:25.824
[SPEAKER_00]: 私人對話界面不代表真的私人這是整件事留下的最重要的提醒你可以去讀一下你常用的AI平台的服務條款找到數據保留和執法配合那兩節如果你用AI寫的東西是你不想讓任何人看到的考慮使用本地模型在職業場合不要把AI對話當成情緒出口

05:26.744 --> 05:43.012
[SPEAKER_00]: 三门威了神,我们需要给AI的消费行为加硬线额这篇来自三门威了神的个人博客,原文标题是,我们要求你敌佛丝的敌佛丝,Capsonprettymucheverything,发布于10月3日。

05:43.332 --> 06:08.543
[SPEAKER_00]: 三本是知名开员工具DataSat的作者也是AI工具领域最值得听的独立声音之一你可能会以为API的费用超出预期只是公司运营的问题跟个人用乎关系不大这个判断会越来越错三本的论点很简结随着AI代理和编成代理的普及任何人都可以用几行代码让一个代理在后台持续跑任务

06:09.163 --> 06:32.196
[SPEAKER_00]: 这些任务会调用API,消耗算力,而大多数服务现在只提供软上线,也就是超出之后发一封警告有件。但当你睡着了,代理还在跑,那封有件毫无意义,他举了一个具体场景。你让一个编辰代理帮你测试网站,代理陷入了一个循环,每隔极秒就发一次API请求,等你早上起来,

06:35.098 --> 06:55.495
[SPEAKER_00]: 这类事故在带里圈里已经出现了真实案理软上线党不住这种情况只有硬上线也就是到了额度就直接断才能保护用户这件事背后还有一个更大的问题谁有责任防止带里跑飞今天的设计莫任把这个责任交给用户但大多数用户根本不知道要设

06:56.135 --> 07:15.960
[SPEAKER_00]: 三本认为合理的产品设计应该把印尚线设为默认职而不是让用户主动去找当AI的使用从手动变成自动省钱就变成了别让代理把钱烧完你可以现在就检查你正在用的AI服务看看有没有印尚线选项如果有就打开他

07:16.620 --> 07:44.186
[SPEAKER_00]: 如果你在开发任何调用API的自动化工具在代码里加一个技术器和一个终止条件事实把我的代理万一跑出预算的时辈会怎样列入每次设计的检察清单NasonLambert网络安全领域的开员模型争论双方都在自己欺员这篇来自Interconnect作者NasonLambert原文标题是TheCyberRiskDiscourseisBroken发布于10月6日

07:44.826 --> 08:01.017
[SPEAKER_00]: 那省市AI研究领域的独立声音之前在HuggingFace做R.L.H.F.研究现在创丽了TrilliumLabs通常的说法是开原模型危险因为坏人可以用他做网络攻击听起来有道理

08:01.857 --> 08:22.839
[SPEAKER_00]: 那一層说,这个论点从根上就坏掉了他的核心观点是,关于开源模型和网络安全风险的讨论正在以一种不城时的方式进行反对开源的人假装进掉开源模型就能阻止坏人但现实是,中国和其他对手根本不会遵守任何开源限制

08:23.419 --> 08:47.950
[SPEAKER_00]: 封闭开员只会让美国的研究人员和安全社区失去工具而对手照样用他们自己迅量的模型支持开员的人也没好多少他们往往把开员有利于安全研究讲得太清晓没有认真面对一件事确实存在一些场景开员全重会让某类攻击变得更容易这不是假设是可以被研究证明的事实

08:48.510 --> 09:07.941
[SPEAKER_00]: 那森真正想说的是这个讨论需要能承受真实的全衡分析两汉相权你选哪个开员带来的研究收益和透明度和它可能降低的某些攻击门卡在政策层面应该被放在一起讨论而不是被各自的证明单独拿来用

09:08.541 --> 09:29.350
[SPEAKER_00]: 這件事不只是政策人的問題如果你在用開源模型做產品或者依賴開源研究這場爭論的走向會直接影響你能用什麼工具封掉開源模型不會讓壞人消失只會讓好人變蝦你可以去讀一下那層這篇原文它比大多數媒體報導城市的多

09:30.390 --> 09:47.961
[SPEAKER_00]: 适着想一下,你的组织里用到了哪些开员AI工具如果这些工具明年变得不河规,你的贝案是什么?关注TrilliamLabs,Nason正在这个方向做新的工作埃权热意,Google数据中心用水量被反向暴光

09:48.521 --> 10:10.800
[SPEAKER_00]: 这篇来自10111,呢o原文标题是ImproporeReductionrevealsLincoln'sGoogleDataCenterWaterandelectricityusage在HackerNews上引发了大量讨论其实内部拉斯加州林肯市的一份公共记录申请里面的黑色遮导没处理好信息被反向读了出来

10:11.380 --> 10:28.812
[SPEAKER_00]: 一般來說,大公司的資源消耗是商業機密,不公開,這次是意外林肯市居民通過公共信息申請要求政府披露Google數據中心協議的內容政府提交理份已拖名的文件,但這黨操作出了問題

10:29.712 --> 10:52.298
[SPEAKER_00]: 數字透過黑色折擋依然可變泄露的信息顯示這座數據中心每天消耗數百萬加輪的水用於冷卻夫妻電力消耗也遠超公開與其HackerNews上的討論焦點很快從這是一個純粹物轉向了一個更大的問題AI基礎設施的資源消耗到底應該有誰來監督

10:52.918 --> 11:08.596
[SPEAKER_00]: 訓練和推理一個大型模型的耗水量和生產一輛汽車相當但沒有任何強制性的披露標準數據中心見在哪個城市用多少水多少電當地居民往往不知道牽得合同更是對公眾不透明

11:09.176 --> 11:25.294
[SPEAKER_00]: 这件事有一个值得设计师和产品人思考的角度你做的每一个AI功能背后都挂着物理世界的代价建议你把它纳入成本核算的框架里而不只是当做抽象的技术指标无形的基础设施从来不是真的无形

11:26.075 --> 11:46.911
[SPEAKER_00]: 你可以试试搜索你所在城市附近的数据中心看看有没有公开的资源协议如果你在做AI产品决策考虑把计算资源的贪和水消耗那种成本考量即使现在没有强制要求留意接下来几年关于数据中心披露的立法动向这个方向已经有多个周再推进

11:47.751 --> 12:08.860
[SPEAKER_00]: FarmamStreet在AI時代取紛真專家和表演專家變得更難也更重要這篇來自FarmamStreet原文標題是Expertsvs.Amitators是他們的經典文章之一這篇文章和AI新聞沒有直接關係但今天我想把它放進來因為它描述的問題在這個時刻變得比以前監獄了10倍

12:09.660 --> 12:34.233
[SPEAKER_00]: 有一個直覺聽起來像專家的人就是專家AI讓這個直覺變得危險發生了睡這篇文章的核心論點是真正的專家和會模仿專家的人在表面上越來越難區分真專家有的是對第一原則的理解和在壓力下做判斷的能力模仿者有的是正確的數語正確的語氣和正確的引用查理盲德曾說

12:35.013 --> 12:53.878
[SPEAKER_00]: 很難區分一個真正懂投資的人和一個指示把巴菲特的話背得很熟的人現在AI工具可以讓任何人在幾分鐘內產出聽起來專業的分析驚確的技術文章甚至帶有數據支撐的報告模仿專家的成本降到了接近0

12:54.618 --> 13:13.326
[SPEAKER_00]: 关键在于,用来判断谁是真专家的那套信号,正在试笑AI产出的内容未必是错的,但他让这套信号变得更不可靠了那我们怎么办FaramStreet给出的判断方法是看一个人能不能处理他们没见过的问题

13:14.226 --> 13:34.855
[SPEAKER_00]: 征专家在遇到末生情况时会说我不确定但我的推理是这样的然后给出推理过程某房者在末生情况下会给出听起来自信但实际上是通用答案的东西这对你选择跟谁学看谁的内容给谁的建议付费有直接影响

13:35.635 --> 13:54.850
[SPEAKER_00]: 如果誰的每個答案都很流暢沒有由於沒有編界你應該更警惕而不是更放心下次你在考慮花時間或金錢學一個人的方法師試著給他們一個他們應該遇到過的問題然後一個他們應該沒遇到過的問題看看答案的質量差距在哪裡

13:55.450 --> 14:18.584
[SPEAKER_00]: 留意你自己有沒有在用AI聲稱聽起來專業的內容但不完全理解它的邏輯建立自己的第一原則清單哪怕只有3-5條也被被下來100個框架更有用這期聊了幾個不同的角度模型在變大隱私的編輯在模糊AI的消費行為需要限制開源政策的討論比我們以為的更複雜

14:19.564 --> 14:46.820
[SPEAKER_00]: 基础设施的代价开始被看见还有一个关于什么是真正的专业能力的老问题在这个时刻变得格外值得想清楚本期提到的所有原文练节都在节目的收贸次里保持好奇我们下期继续感谢您的收听有任何建议意见请在X也就是推特上于BIR6联系本节目还会继续进化请保持期待我们下期再见