Gemini 1.5:长上下文从演示能力变成产品能力
Gemini 1.5 让百万 token 多模态上下文不再只是炫技,而是能处理长文档、视频、音频和代码库的真实交互方式。
主题
长上下文
面向超长文本、音频、视频或代码上下文的模型与评测。
序列建模 · Carnegie Mellon University
Mamba:认真挑战注意力机制的长序列架构
Mamba 让状态空间模型具备选择性,可以根据输入决定记住或遗忘什么,同时保持随序列长度线性扩展。
主题
面向超长文本、音频、视频或代码上下文的模型与评测。
Gemini 1.5 让百万 token 多模态上下文不再只是炫技,而是能处理长文档、视频、音频和代码库的真实交互方式。
序列建模 · Carnegie Mellon University
Mamba 让状态空间模型具备选择性,可以根据输入决定记住或遗忘什么,同时保持随序列长度线性扩展。