DeepSeek又发新模子了，此次是一个OCR 模子。10月20日，DeepSeek在Github开源了这一新模子，并发布《DeepSeek-OCR：Contexts Optical Compression》（《DeepSeek OCR：高下文光学压缩》）论文，讲解了这一效果。

论文提到，刻下的大讲话模子在处理进程中濒临着要紧的策动挑战，文本内容过长，因此团队探索了一种具有后劲的措置有策画：哄骗视觉模态行为文本信息的高效压缩介质。

具体来说，这一OCR模子不错将文本压缩成视觉模态，所谓“一图胜千言”，这么不错忽地更少的Token，测试暴露，通过文本到图像的身手不错已矣近 10 倍无损高下文压缩，OCR 准确率还能保抓在 97% 以上。

论文提到，在履行应用中，单张A100-40G显卡，可支柱逐日20万页以上的大讲话模子/视觉讲话模子考试数据生成。

简便来看，团队的念念路是，既然一张图就能包含无数笔墨信息，同期用的 Token 更少，那就不错将文本转成图像，这等于题目中提到的“光学压缩”，用视觉模态压缩文本信息。这一适度暴清晰该身手在长高下文压缩和大模子的缅想淡忘机制等商讨方朝上具有额外后劲。

DeepSeek-OCR由两个中枢组件构成，其中DeepEncoder（编码器）雅致图像特征索乞降压缩，DeepSeek3B-MoE（解码器）雅致从压缩后的视觉 Token 中重建文本。

解码工具的是 DeepSeek-3B-MoE 架构。天然独一 3B 参数，但接纳了 MoE（夹杂内行）假想，64 个内行中激活 6 个，再加 2 个分享内行，履行激活参数约 5.7 亿。这也让模子既有 30 亿参数模子的抒发智力，又保抓了5亿参数模子的推理服从。

实验数据暴露，当文本 token 数目在视觉 token 的 10 倍以内（即压缩率小于10倍）时，模子的解码（OCR）精度可达 97%；即使在压缩率达到 20倍的情况下，OCR 准确率仍保抓在约60%。

DeepSeek 团队在论文里还建议了具有想象力的将来——用光学压缩模拟东说念主类的淡忘机制。东说念主类的缅想会随时刻阑珊，越久远的事情铭刻越蒙眬，那是否AI也能这么？于是，团队假想将更久远的高下文，逐渐减轻渲染图像的大小，以进一步减少token忽地。跟着图像越来越小，内容也越来越蒙眬，最终达到“文本淡忘”的效果，就像东说念主类缅想的阑珊弧线相通。

论文中提到，这如故个需要进一步打听的早期商讨标的，但这关于均衡表面上无尽的高下文信息是一个很好的身手，若是真能已矣，关于处理超长高下文将是个广宽壅塞。因此，此次发布的DeepSeek-OCR 名义上是个 OCR 模子，但从另一个角度来看，其商讨代表了一个有远景的新标的。

有网友以为，这是一步好棋，东说念主类等于阅读视觉笔墨，同期和谐物理寰宇的时空看法，若是能兼并讲话和视觉，可能通向超等智能。

这一OCR模子发布不久就在GitHub赢得逾越1400颗星星。从论文签字来看，这一神色由 DeepSeek 三位商讨员 Haoran Wei、Yaofeng Sun、Yukun Li 共同完成。行业音问暴露，其中一作 Haoran Wei 曾在阶跃星辰责任过，曾主导设备了旨在已矣“第二代 OCR”的 GOT-OCR2.0 系统，因此由其主导 DeepSeek 的 OCR 神色也在理由之中。

不外，DeepSeek迟迟不发R2这么的新模子，市集仍是有一些声息以为其落伍了，也有不雅点以为，DeepSeek现在仅仅在修王人“内功”，为下一代模子蓄力。

举报 第一财经告白相助，请点击这里此内容为第一财经原创，文章权归第一财经通盘。未经第一财经籍面授权，不得以任何情势加以使用，包括转载、摘编、复制或缔造镜像。第一财经保留根究侵权者法律背负的职权。如需赢得授权请洽商第一财经版权部：banquan@yicai.com 文章作家

刘晓洁

联系阅读 中国模子厂商开辟“开源战场”，顶层假想再添一把火

开源不仅仅单纯的技能技能，而会成为鼓励东说念主工智能生态和产业落地的关键机制。

7 80 08-29 14:46 大模子落地企业端：开源闭源之争未拆伙 | 海斌访谈

关于大模子初创企业，一些生意模式是不健康的

5 116 08-08 16:48 AI进化速递丨小米开源声息和谐大模子 MiDashengLM-7B

腾讯混元开源四款小尺寸模子，最小仅0.5B；苹果组建新团队设备类ChatGPT式的“问答引擎”。

105 08-04 21:09 聚焦东说念主工智能等限制，工信部对“开源”作出新部署

工信部暗意，开源有劲鼓励了技能的壅塞和应用，成为培植新质坐蓐力、脱手高质地发展的进犯力量。

83 07-25 10:42 周鸿祎评DeepSeek流量下滑：梁文锋没花心念念作念，他一门心念念搞AGI

周鸿祎暗意万博体育app下载，梁文锋一门心念念搞AGI，是一个有祈望的东说念主，况兼把技能沿途开源免费。

173 07-23 11:52 一财最热 点击关闭