为什么大模型参数这么多却不太慢？MoE 混合专家架构原理拆解
1周前 (10-05)17
这几年有个奇怪的现象：有的模型总参数大得吓人，跑起来却没想象中那么慢，训练成本还压得很低。背后的关键，很多时候就是"MoE"这三个字母——混合专家（Mixture of Exper…
大模型是怎么缩进手机里也能跑的？模型量化原理拆解（INT8/INT4 量化技术详解）
1周前 (10-05)17
一个 70 亿参数的模型，原始权重动辄要几十 GB 显存，凭什么本地电脑能跑、手机也能跑？答案绕不开两个字——量化。它几乎是大模型从"服务器里的大家伙"变成"人人能下载&…
办公自动化天天烧 token，成本怎么省？LLM 提示词缓存与成本优化拆解
1周前 (10-05)18
把大模型接进日报、周报、工单处理这类办公流程后，让团队头大的往往不是"跑不跑得通"，而是月底那张 API 账单。自动化任务有个特点：看起来每次都只问一个小问题，背后却一天几百上千次…
让模型吐出能直接进表格的数据：LLM 结构化输出与信息抽取技术拆解
1周前 (10-05)17
办公自动化里有个特别常见的活：从一堆乱七八糟的文本里，抽出一组规规矩矩的字段，塞进表格或数据库。合同里的甲乙方和金额、发票里的税号和价税合计、简历里的姓名和年限，干的都是同一件事——把"自然…
AI 写代码到底行不行？代码生成评测与 Pass@k 指标拆解
1周前 (10-05)19
现在的模型动不动就晒"通过率 90%"，这些数到底是怎么量出来的？给 AI 的代码能力打分数，看着像"跑一遍能不能过测试"这么简单，实际上门道不少。这篇就拆代码…
AI Agent 是怎么边想边做的？ReAct 推理-行动循环原理拆解
1周前 (10-05)17
会聊天的模型很多，能自己动手办成一件件的"Agent"却难得多。让模型去查个数据、调个接口、再拿结果做判断，光靠"一次性的问答"不够，它得在"想&qu…
语音是怎么变成文字的？语音识别原理拆解（语音转文字技术解析）
1周前 (10-05)17
发语音转文字、看视频自动字幕、开会时实时转写——这些东西背后都是同一门技术：自动语音识别（Automatic Speech Recognition，简称 ASR）。它干的活朴素又具体：把一段声音波形，…
语音助手怎么一喊名字就醒？语音唤醒词识别技术原理拆解
1周前 (10-05)16
对着音箱喊一声"小爱同学"或"小度小度"，设备会突然从待机里醒过来，开始听你后面的指令。这个"一喊就醒"的能力，在语音技术里叫唤醒词检测（K…
AI视频怎么做到口型对得上说话声？唇形同步技术原理拆解
1周前 (10-05)18
刷到过那种"历史人物开口说话"的视频吗？一张老照片上的面孔，配上朗读声，嘴一张一合，节奏还跟得挺像那么回事。你盯着看几秒，会发现真正让人出戏的往往不是画质，而是嘴型——只要口型和声…
一张照片怎么动起来？图生视频的原理拆解（图片转视频技术解析）
1周前 (10-05)17
这两年短视频平台流行一种"复活老照片"的玩法：上传一张泛黄的旧照，人物会眨眼、转头、微微一笑，仿佛被赋予了生命。这类效果的背后，是图生视频（Image-to-Video）技术——把…