Logo

菜单

无双的技术博客 记录 AI、Linux、网络架构、FreeSWITCH 与企业数字化实践

所有标签

#LLM evaluation 0 #acceptance criteria 0 #output format 0 #prompt engineering 0 #大模型评测 0 #验收标准 0 #输出格式 0 #Few-shot 0 #Prompt 工程 0 #CUDA compatibility 0 #model serving 0 #local inference 0 #CUDA 兼容 0 #模型服务 0 #本地部署 0 #RTX 3090 0 #Ollama 0 #quantization 0 #distillation 0 #mixture of experts 0 #dense model 0 #model selection 0 #量化 0 #模型蒸馏 0 #MoE 0 #Dense 0 #模型选型 0 #data validation 0 #table extraction 0 #vision model 0 #数据校验 0 #JSON Schema 0 #OCR 0 #表格识别 0 #视觉模型 0 #LLM security 0 #human approval 0 #authorization 0 #parameter validation 0 #tool use 0 #大模型安全 0 #人工确认 0 #权限控制 0 #参数校验 0 #工具调用 0 #Function Calling 0 #LLM applications 0 #data access 0 #conversation memory 0 #knowledge base 0 #web search 0 #大模型应用 0 #数据权限 0 #对话记忆 0 #知识库 0 #联网搜索 0 #logging 1 #Qwen 1 #Model Studio API 1 #日志 1 #API Key 2 #Python 3.10 2 #UV 2 #千问 1 #百炼 API 1 #generative AI 1 #context window 1 #large language models 1 #生成式 AI 1 #Top P 2 #Temperature 2 #上下文窗口 1 #Token 2 #大模型原理 1 #enterprise AI governance 0 #code review 0 #least privilege 0 #coding agent 0 #AGENTS.md 0 #企业 AI 治理 0 #代码审核 0 #最小权限 0 #编码 Agent 0 #AI Agent 0 #Kimi K3 0 #postmortem report 1 #复盘报告 1 #project management 1 #action items 1 #root cause analysis 1 #lessons learned 0 #AI-assisted writing 1 #project postmortem 1 #项目管理 1 #改进措施 1 #原因分析 1 #经验教训 0 #AI写作 1 #项目复盘 1 #AI cost governance 1 #open-weight models 1 #private AI deployment 1 #enterprise data security 1 #AI vendor risk 1 #AI成本治理 1 #开放权重模型 1 #私有化部署 1 #企业数据安全 1 #AI供应商风险 1 #Claude Design 2 #Anthropic 2 #ad disclosure 1 #authentic reviews 1 #content compliance 1 #product recommendation posts 1 #Xiaohongshu copywriting 1 #AI writing 1 #广告标识 1 #真实体验 1 #内容合规 1 #种草文案 1 #小红书文案 1 #AI 写作 1 #human review 1 #content editing 1 #text formatting 1 #AI copywriting 1 #ChatGPT 2 #人工复核 1 #内容整理 1 #文字排版 1 #AI 文案 1 #workflow 0 #content verification 0 #faithful formatting 0 #prompt design 3 #AI text formatting 0 #工作流 0 #内容校对 0 #Markdown 0 #保真排版 0 #提示词 3 #AI 文字排版 0 #LLM inference 1 #tokenizer 1 #model weights 1 #LLM inference 0 #Transformer 2 #分词器 1 #模型权重 1 #大模型推理 1 #PDF内容提炼 1 #提示词写作 1 #演示文稿设计 1 #AI生成PPT 1 #data security 1 #enterprise architecture 1 #process redesign 1 #operating governance 1 #enterprise management 1 #operating system 1 #data governance 1 #digital china 1 #数据安全 1 #企业架构 1 #流程再造 1 #运营治理 1 #企业管理 1 #经营系统 1 #数字中国 1 #workforce disruption 1 #business model 1 #cloud infrastructure 1 #enterprise transformation 1 #AI bubble 1 #Oracle 1 #岗位替代 1 #商业模式 1 #云计算 1 #企业数字化转型 1 #AI泡沫 1 #甲骨文 1 #concurrency benchmarking 1 #performance monitoring 1 #并发压测 1 #性能监控 1 #Prometheus 2 #TPOT 2 #TTFT 2 #LLM inference acceleration 1 #draft model 1 #acceptance rate 1 #大模型推理加速 1 #接受率 1 #EAGLE 2 #Medusa 2 #Speculative Decoding 2 #推测解码 1 #AI implementation 1 #hybrid retrieval 1 #private knowledge base 1 #knowledge governance 1 #enterprise RAG 1 #AI落地 1 #文档审核 1 #pgvector 1 #知识治理 1 #企业RAG 1 #LuminaRAG 2 #cross-functional collaboration 1 #organizational change 2 #business process reengineering 1 #CTO perspective 1 #enterprise digitalization 1 #digital transformation 2 #企业数字化 1 #CTO视角 1 #业务流程再造 1 #组织变革 1 #ERP迁移 1 #数据治理 2 #经营透明度 1 #跨部门协同 1 #数字化转型 2 #LLM serving 1 #GPU memory optimization 1 #显存优化 1 #高并发 AI 服务 1 #Continuous Batching 2 #PagedAttention 2 #KV Cache 1 #sft 2 #model evaluation 2 #data engineering 2 #LLM fine-tuning 2 #max_length 1 #OOM 1 #vLLM 7 #LoRA 1 #realm 1 #容器化 1 #docker 1 #Iptables 1 #VPN 1 #GRE 1 #eBPF 1 #Gre over IPSec 2 #MTU 1 #Freeswitch多注册 1 #中继网关 1 #Linux 0 #gprof 1 #perf 1 #BGP 1 #origin 1 #AS_PATH 1 #MED 1 #localpref 1 #AI Coding 1 #Claude Code 1 #Deepseek 1 #VOIP 3 #Freeswitch 4 #开源呼叫系统 1 #freeswitch模块 1 #fs_mod 1 #voip 1 #freeswitch 2 #Qdrant 1 #Milvus 1 #pgvector 1 #RAG 1 #Halo 0
01-An LLM Is Not a Search Box: Tokens, Context, and Sampling
AI从零开始 #large language models#Token#context window#Temperature#Top P#generative AI

01-An LLM Is Not a Search Box: Tokens, Context, and Sampling

A repeatable experiment explains why identical prompts vary and why long chats lose earlier instructions.

Administrator Administrator 发布于 2026-07-18
01-大模型不是会思考的搜索框：从 Token、上下文到采样
AI从零开始 #大模型原理#Token#上下文窗口#Temperature#Top P#生成式 AI

01-大模型不是会思考的搜索框：从 Token、上下文到采样

用一个可重复的小实验，看懂同一句话为什么会得到不同回答，以及长对话为什么会忘记前文。

Administrator Administrator 发布于 2026-07-18