SimonAKing

分享下 鉴别 AI 生成文本（AIGT detection） 的一些实践：

通常该任务定义成：对于输入文本的二分类判断（ai or human），如果是由 human 与 ai 共同生成，可尝试拆分粒度进行二分类（文章 -> 主题 -> 段落 -> 句子） 分享主要来自：Detecting AI-Generated Text: Factors Influencing Detectability with Current Methods

1. 白盒检测 - 通过 perplexity、熵的特征 LLMs 生成文本是根据 解码策略去生成下一个 token，常规有 top-k、top-p、beam search 等策略，能保证输出内容之间的相关概率分布质量。 其中 perplexity 代表了输出内容 的概率分布，如果内容中每个 token 相关概率都很高，那 perplexity 就低，常规而言 AIGT perplexity 都较低 在白盒场景下（已知模型的概率值），就可以通过 0 样本的方式去卡阈值，代表工作有 DetectGPT、GPTZero

SimonAKing

分享下 近期 AICon 大会上 有关数据分析场景的实践主题 - Multi-Agent 架构驱动的 Data Agent 路线与工程实践

内容涉及 context engineering 架构(single vs multi agent)、数据分析策略、工程实践等，其中一些值得解读的信息（从 PPT 内容出发）：

1. Multi agent：

   • 通过划分任务（裁剪 context），让每次 call llm 等价于 argmax (single agent 的 action space)，从而提升效果，并且单个 agent 也可独立优化
   • 垂直架构（主 agent + 多个子 agent），主 agent 需要进行 plan、clarify，效果会有单点问题，解决方案可尝试 只让 主 agent 做宏观上的调度

2. Data agent 分析全流程：ETL（数据清洗、连接）-> Metric（业务语义构建 - 产品功能）-> Insight（基于指标进行不同维度洞察，比如时序性指标 就是分析趋势，枚举指标就是分析归因等）-> Report（报告填充），图比较直观

3. NL2SQL 实践上：

• 产品：语义层很重要，企业术语 与 生成 SQL 之间需要 产品功能连接，避免领域知识影响、避免表与字段的歧义

SimonAKing

分享一个最近比较火的概念 “context engineering”（由 Andrej Karpathy 提出），一句话解释：在模型推理时 提供出 任务所需的所有完整信息的工程。

以下内容参考自 Awesome-Context-Engineering

为什么近期 context engineering 被广泛讨论？原因是 prompt engineering 不足以代表了现在生产级 LLMs 应用的复杂度。 首先 LLMs 的概率函数是：

prompt engineering 约等于将 prompt 视为了 context，而 LLMs 应用中 context 等于以下多个组件的组合： context = Assemble(instructions, knowledge, tools, memory, state, query)

• |context| ≤ MaxTokens(context window limitation)

SimonAKing

分享下 a16z 的近期一篇文章，对产品早期增长很有启发：In Consumer AI, Momentum Is the Moat。

标题：AI 时代的分发策略：速度即护城河，对应的中文版

文章的主旨是：LLMs 同质化趋势下，AI 产品 的护城河不再是技术壁垒 为主（技术的差异越来越小），而是增长的速度与产品认知差。

一些关键洞察：

1. 产品前期的时间窗口 非常非常非常重要 文中的暴论：如果在 前 48 小时内，产品没有形成社交扩散，那么一开始就被判了“死刑”，关键不是"能不能做出来" ，而是“能不能迅速推广市场” 用 Lovable 举例，2 个月内达成 1000 万美元 mrr
2. 新的增长策略

SimonAKing

分享下最近的一个行业观察：

1. 国内 ai 模型厂商 minmax、kimi 最近有一些新动态：
2. minmax 推出了 通用 agent 产品 https://agent.minimax.io/share/281535490056355
3. kimi 推出了 researcher 模型与产品 https://www.163.com/dy/article/K30342N605566Y1D.html
4. 国外 claude 今天则进一步 artifacts 部署、发布等端到端流程 内置
5. （非最近）openai 模型、gemini 在 tool 生态上推出了常见的一方 tool：如 google search、code Interpreter、computer use agent 等
6. 在产品层 research 形态的产品、代码生成的产品（codex、gemini-cli）也都有超高 star 的一方应用

整体趋势上的趋势，国内外模型厂商都有往应用层 发力的趋势，甚至最近还有一篇“爆文” ChatGPT将来要做的，大家就绕开吧，进一步探讨下：

1. 模型厂商的发力应用层好处有哪些？

SimonAKing

分享下最近 Andrej 在 YC 上的一次分享，主题是 AI 时代下软件演进的趋势，其中有一些深刻的洞察： 该分享原内容：视频、PPT、中文版

1. 软件演进的三个时代：从传统的代码编程到 训练神经网络 再到自然语言编程，突然间 每个人都是程序员。

   对应了现在 vibe coding 兴起，ai coding 产品风靡（该概念也是 Andrej 提出）

2. LLMs 是新一代的操作系统：如同早期计算机，计算资源昂贵且集中在云端，不同的是 LLMs 优先在消费者端大规模爆发而非 政府与企业。

   类比：新的交互方式 - CUI 类似于早期的 GUI；同样的多模态输入；PC 之间的连接（如 A2A）；新的 RAM（context window）；Disk（embeddings）；Softwares（CodeInterpreter、Terminal、Browser）

3. 如何更好的使用 LLMs：不要完全指望 LLM 自主完成端到端的任务，而是让它们做"增强工具"。成功的 LLMs 产品（如 Cursor、Perplexity）都有个共同点：人机协同（LLMs 负责生成内容；人类负责检查验证），产品设计让协同过程显得直观。