SimonAKing SimonAKing

分享下最近 Andrej 在 YC 上的一次分享，主题是 AI 时代下软件演进的趋势，其中有一些深刻的洞察：该分享原内容：视频、PPT、中文版

软件演进的三个时代：从传统的代码编程到训练神经网络再到自然语言编程，突然间每个人都是程序员。

对应了现在 vibe coding 兴起，ai coding 产品风靡（该概念也是 Andrej 提出）
LLMs 是新一代的操作系统：如同早期计算机，计算资源昂贵且集中在云端，不同的是 LLMs 优先在消费者端大规模爆发而非政府与企业。

类比：新的交互方式 - CUI 类似于早期的 GUI；同样的多模态输入；PC 之间的连接（如 A2A）；新的 RAM（context window）；Disk（embeddings）；Softwares（CodeInterpreter、Terminal、Browser）
如何更好的使用 LLMs：不要完全指望 LLM 自主完成端到端的任务，而是让它们做"增强工具"。成功的 LLMs 产品（如 Cursor、Perplexity）都有个共同点：人机协同（LLMs 负责生成内容；人类负责检查验证），产品设计让协同过程显得直观。

分享下最近的一个行业观察：

国内 ai 模型厂商 minmax、kimi 最近有一些新动态：
minmax 推出了通用 agent 产品 https://agent.minimax.io/share/281535490056355
kimi 推出了 researcher 模型与产品 https://www.163.com/dy/article/K30342N605566Y1D.html
国外 claude 今天则进一步 artifacts 部署、发布等端到端流程内置
（非最近）openai 模型、gemini 在 tool 生态上推出了常见的一方 tool：如 google search、code Interpreter、computer use agent 等
在产品层 research 形态的产品、代码生成的产品（codex、gemini-cli）也都有超高 star 的一方应用

整体趋势上的趋势，国内外模型厂商都有往应用层发力的趋势，甚至最近还有一篇“爆文” ChatGPT将来要做的，大家就绕开吧，进一步探讨下：

模型厂商的发力应用层好处有哪些？

分享下 a16z 的近期一篇文章，对产品早期增长很有启发：In Consumer AI, Momentum Is the Moat。

标题：AI 时代的分发策略：速度即护城河，对应的中文版

文章的主旨是：LLMs 同质化趋势下，AI 产品的护城河不再是技术壁垒为主（技术的差异越来越小），而是增长的速度与产品认知差。

一些关键洞察：

产品前期的时间窗口非常非常非常重要文中的暴论：如果在前 48 小时内，产品没有形成社交扩散，那么一开始就被判了“死刑”，关键不是"能不能做出来" ，而是“能不能迅速推广市场” 用 Lovable 举例，2 个月内达成 1000 万美元 mrr
新的增长策略

分享一个最近比较火的概念 “context engineering”（由 Andrej Karpathy 提出），一句话解释：在模型推理时提供出任务所需的所有完整信息的工程。

以下内容参考自 Awesome-Context-Engineering

为什么近期 context engineering 被广泛讨论？原因是 prompt engineering 不足以代表了现在生产级 LLMs 应用的复杂度。首先 LLMs 的概率函数是：

prompt engineering 约等于将 prompt 视为了 context，而 LLMs 应用中 context 等于以下多个组件的组合： context = Assemble(instructions, knowledge, tools, memory, state, query)

|context| ≤ MaxTokens(context window limitation)

分享下近期 AICon 大会上有关数据分析场景的实践主题 - Multi-Agent 架构驱动的 Data Agent 路线与工程实践

内容涉及 context engineering 架构(single vs multi agent)、数据分析策略、工程实践等，其中一些值得解读的信息（从 PPT 内容出发）：

Multi agent：
- 通过划分任务（裁剪 context），让每次 call llm 等价于 argmax (single agent 的 action space)，从而提升效果，并且单个 agent 也可独立优化
- 垂直架构（主 agent + 多个子 agent），主 agent 需要进行 plan、clarify，效果会有单点问题，解决方案可尝试只让主 agent 做宏观上的调度
Data agent 分析全流程：ETL（数据清洗、连接）-> Metric（业务语义构建 - 产品功能）-> Insight（基于指标进行不同维度洞察，比如时序性指标就是分析趋势，枚举指标就是分析归因等）-> Report（报告填充），图比较直观
NL2SQL 实践上：

产品：语义层很重要，企业术语与生成 SQL 之间需要产品功能连接，避免领域知识影响、避免表与字段的歧义

分享下鉴别 AI 生成文本（AIGT detection）的一些实践：

通常该任务定义成：对于输入文本的二分类判断（ai or human），如果是由 human 与 ai 共同生成，可尝试拆分粒度进行二分类（文章 -> 主题 -> 段落 -> 句子）分享主要来自：Detecting AI-Generated Text: Factors Influencing Detectability with Current Methods

白盒检测 - 通过 perplexity、熵的特征 LLMs 生成文本是根据解码策略去生成下一个 token，常规有 top-k、top-p、beam search 等策略，能保证输出内容之间的相关概率分布质量。其中 perplexity 代表了输出内容的概率分布，如果内容中每个 token 相关概率都很高，那 perplexity 就低，常规而言 AIGT perplexity 都较低在白盒场景下（已知模型的概率值），就可以通过 0 样本的方式去卡阈值，代表工作有 DetectGPT、GPTZero

	function isElementInViewport(el) {
	http://stackoverflow.com/questions/325933/determine-whether-two-date-ranges-overlap
	{ /* The source of the following code. */ }
	const rect = el.getBoundingClientRect()
	const windowHeight = (window.innerHeight \|\| document.documentElement.clientHeight)
	const windowWidth = (window.innerWidth \|\| document.documentElement.clientWidth)


	const vertInView = (rect.top <= windowHeight) && ((rect.top + rect.height) >= 0)
	const horInView = (rect.left <= windowWidth) && ((rect.left + rect.width) >= 0)

	const quickSort = a => {
	if (!a.length) { return [] }

	return [
	...quickSort(a.filter(e => e < a[0])),
	...a.filter(e => e === a[0]),
	...quickSort(a.filter(e => e > a[0]))]
	}

	const permutate = (n, choices = ['A', 'B', 'C', 'D']) => {
	const result = []

	const recursion = path => {
	if (path.length === n) {
	result.push(path.join(''))
	return
	}
	choices.forEach(c => { recursion([...path, c]) })
	}

	const patchTasksByTimeout = (task, tasks, timeout) => {
	return tasks.reduce((a, t) => {
	if (t.value === task.value) {
	t.timeout = timeout
	} else {
	t.timeout = Math.max(0, t.timeout - 1)
	}
	return [...a, t]
	}, [])
	}