← 返回文章
翻译··4 分钟阅读
Gemini长上下文多模态
翻译:Gemini 1.5 的长上下文能力意味着什么
摘要
Google 发布 Gemini 1.5 时,把长上下文作为核心变化。对学习者来说,它的意义不是一次塞入更多材料,而是让模型能围绕更完整的资料做归纳、检索和对比。
原文的主要信息
Google 在 2024 年 2 月介绍 Gemini 1.5。官方说明中,Gemini 1.5 Pro 是面向早期测试发布的多模态模型,标准上下文窗口为 128,000 token,并向有限开发者和企业客户预览最高 100 万 token 的上下文窗口。
原文还说明,长上下文可以处理更大规模的信息,例如较长视频、音频、代码库和大量文本,并让模型在同一个提示中基于更多材料进行分析。
不要把长上下文等同于更聪明
上下文窗口变长,首先解决的是“能放下多少资料”的问题。它有助于减少切分和检索带来的信息丢失,但不自动保证结论准确,也不代表模型会优先使用最关键的证据。
在学习场景中,长上下文更适合处理课程资料、论文、代码仓库和长篇访谈。使用时仍要给出清晰问题,并要求模型指出依据来自哪些部分。
可以怎么实践
练习长上下文时,可以从一组文章或一个小型代码仓库开始,让模型先建立目录,再逐步要求总结差异、提取概念、生成学习路线或找出待验证问题。
真正有价值的能力不是一次上传所有文件,而是能围绕大量资料保持结构化提问。资料越长,越需要人来定义目标、检查引用和控制输出范围。