技能来使模型变得有用，以及将塑造生成式AI第二幕的范式

简而言之，生成式AI最大的问题不是寻找运用案例、需求或分发，而是证明价值。正如咱们的搭档David Cahn所写：“2000亿美元的问题是：你打算运用所有这些根底设施来做什么？它怎么改变人们的生活？”建立耐久的事务的途径将需求解决保存问题，并为客户生成足够深化的价值，使他们坚持并成为每日活跃用户。

但咱们不应该失望。生成式AI仍处于其“尴尬的青春期”。有时会有卓越的迹象，当产品没有达到预期时，失利通常是牢靠的、可重复的且可修复的。咱们的工作摆在面前。

五、第二阶段剖析

创始人正在进行prompt工程、微调和数据集策划的艰苦工作，以使他们的AI产品优异起来。他们正在逐渐地建造，将有目共睹的Demo演示变成完整的产品体会。与此同时，根底模型底层继续充溢研讨和创新。

跟着公司找到耐久价值的途径，正在开展一个同享的剧本。咱们现在有了同享的技能来使模型变得有用，以及将塑造生成式AI第二幕的范式。

1. 模型开发栈

• 新式的推理技能，如连锁考虑、树状考虑和反射，正在进步模型执行更丰厚、更复杂的推理使命的才能，然后缩小了客户期望与模型才能之间的距离。开发者运用像Langchain这样的结构来调用和调试更复杂的多链序列。
• 迁移学习技能，如RLHF和微调，正变得愈加可用，特别是跟着GPT-3.5和Llama-2的微调的最近可用性，这意味着公司可以将根底模型适应其特定范畴，并从用户反馈中改善。开发者从Hugging Face下载开源模型，并微调它们以实现优质的功能。
• 检索增强生成（RAG）正在引进关于事务或用户的上下文，削减幻觉并添加真实性和实用性。像Pinecone这样的公司的向量数据库已成为RAG的根底设施支柱。
• 新的开发者东西和应用结构为公司供给了可重用的构建块，以创立更先进的AI应用，并协助开发者评估、改善和监控生产中的AI模型的功能，包含像Langsmith和Weights & Biases这样的LLMOps东西。
• 像Coreweave、Lambda Labs、Foundry、Replicate和Modal这样的AI-first根底设施公司正在免除公共云的捆绑，并供给AI公司最需求的东西：大量的GPU以合理的成本、按需可用和高度可扩展，以及一个不错的PaaS开发者体会。

这些技能应该可以在根底模型同时改善的情况下，缩小期望与实际之间的距离。但使模型变得出色仅仅成功了一半，生成式AI优先的用户体会也在进化：

2. 新式产品蓝图

• 生成式界面：根据文本的对话用户体会是LLM的默许界面。渐渐地，新的形状进入了武器库，从Perplexity的生成用户界面到Inflection AI的语音发声等新的模态。
• 新的修改体会：从Copilot到导演形式（Director‘s Mode）。跟着咱们从Zero-shot到ask-and-adjust（感谢Zach Lloyd），生成式AI公司正在发明一套新的旋钮和开关，它们看起来与传统的修改工作流程十分不同。Midjourney的新的平移指令和Runway的导演形式创造了新的相机般的修改体会。Eleven Labs使得通过提示（Prompt）操作声音成为可能。
• 越来越复杂的署理体系。生成式AI应用越来越不仅仅是需求人来审查的主动完成或初稿；它们现在有自主权来解决问题、访问外部东西并代表咱们端到端地解决问题。咱们正稳步从0级发展到5级自主性。
• 体系范围内的优化。有些公司并不是嵌入单个人用户的工作流程并使该个别更有效，而是直接解决体系范围内的优化问题。你能否挑选一部分支持收据或拉取恳求并自主地解决它们，然后使整个别系愈加有效？