本章节主要介绍大模型推理基本结构单元Self-Attention和RoPE，介绍内容包括：包括模型结构，掩码机制，kv缓存使用以及基本单元实现。

该技术文章分析了旋转位置编码的具体原理以及其他长度外推技术的联系

解析DeepSeekOCR文档图像到结构化文本的直接转换过程，评估其在克服传统 OCR 范式局限性方面的技术贡献。

从2024年问世的Google Deep Research，到今年6月以来密集发布的OpenAI Deep Research、Perplexity、xAI Deep Search、Manus，Deep Research成为各家Agent产品角逐的白热化赛道。Deep Research产品可被理解为一个以大模型能力为基础、集合了检索与报告生成的端到端系统，对信息进行迭代搜索和分析，并生成详细报告作为输出。

基于Centos系统配置nvidia显卡驱动并安装docker环境。

异常点检测常常应用于数据正样本较少的场景，通过单类数据训练并构建模型进而检测潜在的异常值，比较典型的代表方法PaDiM, 该方法利用一个预先训练好的卷积神经网络(CNN)进行patch嵌入，利用多元高斯分布得到正常类的概率表示，它还利用了CNN的不同语义级别之间的相关性来更好地定位异常。PaDiM在MVTec AD数据集上的异常检测和定位方面优于当前最先进的方法，算法也评估了在非对齐数据集上的性能。