多彩编程 多彩编程MZPH · CODE BLOG
ARTICLE DETAIL

文章详情

深耕前端与后端开发技术的一线实战笔记与踩坑复盘。

论:人工智能=描述+算法!

论:人工智能=描述+算法! AI 描述 算法——这个命题在说什么拆开看描述你如何把一个现实问题翻译成数学/计算语言。选什么变量、什么空间、什么结构、什么约束、什么目标。这本质上是建模。算法给定了描述之后你怎么算、怎么优化、怎么搜索、怎么逼近。这本质上是求解。两者缺一不可描述得好但算法不行 → 理论上知道解存在但算不出来算法强但描述垃圾 → 算出一个精确的错误答案为什么说这个框架很准回头看AI发展史几乎每一波突破都能套进去阶段描述算法专家系统规则符号逻辑前向/后向链推理SVM高维特征空间间隔最大化QP优化深度学习深层复合函数层次表示反向传播SGDTransformer注意力机制序列空间自注意力梯度下降Diffusion分数匹配随机微分方程ODE/SDE求解器每一代的本质进步要么是描述方式变了从规则到特征到端到端函数要么是算法能力突破了从解析解到数值优化到大规模并行训练更多时候是两者共振。但它可能少了一个东西如果要吹毛求疵我觉得这个等号可以补一项AI 描述 算法 数据不过换个角度看数据其实可以被吸收进描述里——你选择用什么数据、怎么表示数据、什么粒度、什么结构本身就是描述的一部分。数据不是外生的燃料而是描述框架决定了你能吃什么数据、怎么消化。所以如果要更精确一点也许是AI 描述问题建模 数据表示 算法求解机制再往深一层泛函分析的视角联系上一轮聊的泛函分析你会发现描述 选函数空间、定义泛函/算子、确定约束集算法 在这个空间里找极值/不动点/解的迭代过程比如训练一个神经网络描述权重空间 \mathcal{W}损失泛函 L: \mathcal{W} \to \mathbb{R}约束可能是 Lipschitz 界、稀疏结构、对称性算法梯度下降就是在损失景观这个无穷维曲面上走所以泛函分析本质上是给描述这一半提供语言而数值分析/优化理论是给算法那一半提供保证。反过来想这个框架的局限有没有什么东西套不进去涌现emergence大模型表现出的能力不是从描述里显式编码的而是算法数据规模到一定程度后蹦出来的。这算不算第三种成分交互与反馈强化学习中描述不是一次给定的而是在与环境交互中动态演化的。这时描述本身变成了算法的一部分。归纳偏置有些能力来自架构本身的结构选择如CNN的平移等变性这既像描述又像算法边界模糊。我的看法AI 描述 算法作为一个思维框架非常有用因为它逼着你问两个关键问题我的问题到底怎么形式化描述给定这个形式化我怎么算算法很多AI项目失败不是算力不够、不是数据不够而是第一步就搞错了——用了一个不合适的描述框架去框一个本质上不属于它的现象。
返回列表