置顶大语言模型的Prompt优化

Prompt写在文章前,当前的大语言模型的算法,是基于transformer变种的DeCoder模型,这种技术的本质是文本概率,一句话就是根据提示词生成文本套路大模型给的答案,切不可盲目用在工作生活中,关键数据求证方后可使用。 概述 调试提示词的平台:promptknit提示词优化:prompt-engineering-guide 通用大模型推荐:Claude、OpenAI、DeepSeek编程好帮手:CLine、Trae、Cursor、Copilot、windsurf(乍一用写写简单逻辑挺惊艳的;一旦开始写业务,相对于它解决的问题制造的麻烦更大。不能不用,不能仅用,要辩证的用。)其他模型...

阅读全文

Transformer Framework

Transformer Framework在人工智能领域,很少有技术革新能像Transformer架构这样产生如此深远的影响。自从2017年Google研究人员在论文《Attention Is All You Need》中提出这一架构以来,它已经完全改变了自然语言处理的游戏规则,并逐渐扩展到计算机视觉、语音识别等多个领域。 为什么需要Transformer?在Transformer出现之前,循环神经网络(RNN)及其变体LSTM和GRU是处理序列数据的主流方法。然而,这些架构存在明显局限性: 顺序处理:必须逐个处理序列中的元素,导致训练速度慢 长程依赖问题:随着距离增加,模型难以记住序列早期...

阅读全文

Agent Framework

Agent Framework1.MetaGPT思想:将 LLM 按照“公司组织”方式组织起来,通过 CEO、CTO、Engineer 等角色协作分工,实现任务流水线式执行,适用于复杂项目如代码生成。 机制:多角色扮演 + 职责分工 + 工作流 应用场景:工程项目开发、任务拆解式创作 论文:https://arxiv.org/abs/2308.00352 2.SayCan思想:将语言模型的“说(Say)”与现实世界中的“做(Can)”结合起来,语言模型生成可行动作候选,环境中的执行器根据可行性进行排序,从而实现语言到实际动作的映射。强调语言理解 + 动作可行性评估的协同。 机制:语言模型生成意...

阅读全文

CNN Framework

CNN Framework🔶 1. LeNet-5(1998)背景:最早应用于手写数字识别(MNIST),是现代 CNN 的雏形。 创新点:使用卷积层和池化层交替使用 sigmoid/tanh 激活函数全连接层连接高阶特征 🔶 2. AlexNet(2012)背景:ImageNet 图像分类竞赛首次大幅领先传统方法,推动深度学习浪潮。 创新点使用 ReLU 激活函数(更快收敛)引入 Dropout 防止过拟合使用 GPU 并行训练使用 局部响应归一化(LRN) 🔶 3. VGG(2014)背景:验证深层小卷积核网络的有效性,结构简单但效果优越。 创新点:使用多个 3×3 小卷积...

阅读全文

RNN Framework

RNN Framework1. Vanilla RNN(Elman 网络)解决问题:最基础的序列建模,通过循环连接保留前一时刻信息,适合短期依赖任务。 局限:梯度在长序列上传播时易消失或爆炸,无法有效捕捉长程依赖​ 创新点:在隐藏层引入循环连接,同一组权重在所有时间步共享,实现对可变长度序列的处理 应用场景:早期语言模型、简单序列分类、短序列预测等。 2. 长短期记忆网络(LSTM)解决问题:Vanilla RNN 难以捕捉跨越长距离的依赖,且梯度易消失。 创新点:引入细胞状态(cell state)与三种门控(输入门、遗忘门、输出门),通过门控流控信息读写,保持长期记忆。 应用场景:语言模型...

阅读全文

Docker

Docker1、Docker是什么?Docker 基于 Linux 内核的 cgroup,namespace,以及 OverlayFS 类的 Union FS 等技术,对进程进行封装隔离,属于 操作系统层面的虚拟化技术。由于隔离的进程独立于宿主和其它的隔离的进程,因此也称其为容器。 Docker 在容器的基础上,进行了进一步的封装,从文件系统、网络互联到进程隔离等等,极大的简化了容器的创建和维护。使得 Docker 技术比虚拟机技术更为轻便、快捷。 2、Docker解决了什么问题?2.1、在Docker诞生之前存在什么问题? 没有版本控制,每次上线前要对老包备份。 没有统一配置,集群里各个硬件...

阅读全文

DGA

DGA一、基本概念 僵尸网络(Botnet):互联网上在蠕虫、木马、后门工具等,传统恶意代码形态的基础上发展、融合而产生的一种新型攻击方法。 DNS(Domain Name System) :基于 UDP 的应用层协议。主要用途是将一个域名解析成 IP 地址,这个过程叫做域名解析 (Name resolution)。 域名生成算法(Domain Generation Algorithm):是一种利用随机字符来生成C&C域名,从而逃避域名黑名单检测的技术手段。 123  僵尸网络&恶意软等程序,随着检测手段的更新(在早期,僵尸主机通产采用轮询的方法访问硬编码的C&C域...

阅读全文

K8s环境安装

K8s环境安装1、操作系统准备1.1、安装虚拟机软件 我的电脑是一台16G的macbook-pro,需要在电脑上安装一款虚拟机软件,然后在虚拟机上运行多台Linux服务器。 虚拟机软件 支持的操作系统 说明 vmware mac win linux 提供收费和免费版 VirtualBox mac win linux 个人和企业版均免费 Hyper-V win Windows子系统(WSL)安装Linux Multipass mac win linux 轻量、快速、支持命令行 Parallels Desktop mac Mac下使用Windows体验较好,收费 ...

阅读全文

K8s考题

K8s考题1、考点说明CKA认证考试中的权重: 集群架构,安装和配置:25% 工作负载和调度:15% 服务和网络:20% 存储:10% 故障排除:30%

阅读全文

Python

Python基本语法Hello World12345678910111213141516#!/usr/bin/env python# -*- encoding: utf-8 -*-def print_hi(name: str, say: str = 'I am python'): hello: str = 'Hello' print(f'{hello}, {name}! \n{say}')if __name__ == '__main__': ...

阅读全文