2017年，Google的研究人员发表了一篇论文，提出了一种新的用于序列建模（sequence modeling）的神经网络架构[1]。称之为Transformer，这种架构在机器翻译任务中的表现无论在翻译质量还是训练成...

一，Transformers 术语 1.1，token、tokenization 和 tokenizer 1.2，input IDs 1.3，attention mask 1.4，eop_token、pad_token、bos_token、eos_token 1.5，decoder models 1.6，架构与参数 ...

使用自然语言查询 SQLite DB 的一个demo 关于 此存储库包含将 SQLite 查询与 OpenAI 的 GPT-3.5-turbo 语言模型相结合的代码。该代码允许用户通过类似聊天的界面使用自然语言查询与 SQLite 数据...

终于写了一篇和系列标题沾边的博客，这一篇真的是解密prompt！我们会讨论下思维链(chain-of-Thought)提示词究竟要如何写，如何写的更高级。COT其实是Self-ASK，ReACT等利用大模型进行工具调用方...

合集 - DecryptPrompt(8)1.解密Prompt系列8. 无需训练让LLM支持超长输入:知识库 & unlimiformer & PCW & NBCE06-132.解密Prompt系列6. lora指令微调扣细节-请冷静,1个小时真不够~04...

随着人工智能技术的飞速发展，语音交互已经成为人机交互的重要形式。其中，语音识别(ASR)和自然语言处理(NLP)是实现智能语音交互的关键技术。 基于ASR-NLP的智能语音交互应用是指通过语音识别（...

深度学习应用篇-自然语言处理[10]：N-Gram、SimCSE介绍，更多技术：数据增强、智能标注、多分类算法、文本信息抽取、多模态信息抽取、模型压缩算法等 1.N-Gram N-Gram是一种基于统计语言模型的...

前言 人工智能是一个庞大的研究领域。虽然我们已经在人工智能的理论研究和算法开发方面取得了一定的进展，但是我们目前掌握的能力仍然非常有限。机器学习是人工智能的一个重要领域，它研究计算...

CodeGeeX受邀参与由AI大模型领域的青年中坚力量组织的思辨活动。在计算机编程领域，基于大模型能力的代码生成工具，探讨给程序员带来的各种机会与挑战。近期CodeGeeX 2.0大版本上线，用对话的方...

有兄弟让我讲讲langchain。 哈哈，我又没出镜，他怎么看出我说话好听的？不过，我倒是喜欢写大家关心的。下面就聊聊这个langchain。 langchain是一个开源项目 github.com/hwchase17/l… 。这个...

1/ Path Intellisense 这个扩展会自动补全文件名。就像在 HTML 中使用标签一样，它会自动补全标签。 2/ Live Server 这个扩展允许你在浏览器上启动本地项目并进行实时重载，这样你就不必在每次...

我是 Andy.Qin，一个想创造哆啦 A 梦的 Maker，更多好文章可以到我的博客：qin.news Mask 的灵感是来自于完形填空。Transformer 结构包括编码器和解码器，在编码过程中目的就是为了让模型看到当...