国家知识产权局信息显示，上海模思智能科技有限公司、上海创智学院申请一项名为“一种适用于大模型长上下文理解的旋转位置编码设计方法”的专利，公开号CN121705412A，申请日期为2025年12月。

　　专利摘要显示，本发明涉及一种适用于大模型长上下文理解的旋转位置编码设计方法，该方法包括：将大语言模型Kaiyun官方入口中的隐状态序列，通过线性映射得到查询向量序列、键向量序列和值向量序列，并复制一份查询向量序列，其中大语言模型中设有包含多头注意力头的自注意力层；将查询向量序列和键向量序列进行传统的旋转位置编码，得到带位置编码的查询向量序列和键向量序列；基于复制的查询向量序列，进行旋转，再进行传统的旋转位置编码，得到旋转后位置编码的查询向量序列；基于旋转后位置编码的查询向量序列、带位置编码的查询向量序列和键向量序列、值向量序列，进行自注意力运算，得到自注意力层的输出结果，完成设计过程。本发明在长短任务中均具有良好效果。

　　天眼查资料显示，上海模思智能科技有限公司，成立于2024年，位于上海市，是一家以从事科技推广和应用服务业为主的企业。企业注册资本561.5202万人民币。通过天眼查大数据分析，上海模思智能科技有限公司共对外投资了1家企业，专利信息2条。

　　上海创智学院，成立于2024年，位于上海市，是一家以从事教育为主的企业。企业注册资本100万。通过天眼查大数据分析，上海创智学院共对外投资了1家企业，参与招投标项目64次，专利信息1条，此外企业还拥有行政许可2个。

　　声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

　　特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

　　销售帮男子摇中“贵A·A88888”顶级“豹子号”车牌，两人激动到当场大喊，网友直呼：黄金右手

　　随着比分定格3-0,63岁穆帅率队27轮不败+反超葡萄牙体育,逼近榜首

　　江苏亿万富豪汪立平被查，数月前从股市套现超29亿元，曾豪言“有恒心、立恒业”

　　随着穆帅率队3-0,葡萄牙国民0-1,阿罗卡1-0,葡超最新积分榜出炉

　　10 位翻车的科技人员！涉核工业、导弹、歼击机等领域，能力不再是护身符

　　医保新开云网站规4月1日执行，1965-1985年人群注意，6项操作越早办越好！

　　极狐全新阿尔法S5体验72道弯 11万级轿跑线运动版，新能源设计思路的燃油车？

　　22人集体保送清华北大！刚刚，南外2026届外语类保送生公布，他们来自这些小学开云网站初中