AI大模型如何提高上下文长度

大家好呀，我是飞鱼。 大模型的上下文长度是指： ❝ 在使用大模型的时候，给大模型的输入加上输出的字符（Token）总数。 这个数字会被限制，如果超过这个长度的字符会被大模型丢弃。 目前主流大模型支持的上下文长度： ❝ Qwen2.5-Turbo：100万（1M）上下文长度。 GPT-4：4 ...
2025-01-25 公众号文章 > AI文章

DeepSeekV3低成本做出顶级AI

大家好呀，我是飞鱼。 2024年12月26日，DeepSeek发布了最新的开源模型DeepSeek V3，这款模型可以说是惊艳了整个AI界。 其中最让人震惊的是它的训练成本，所以它也被称为AI界的拼多多。 那它到底强在哪呢？ ❝ 性能炸裂 在多项测试中，DeepSeek-V3直接碾压Llama ...
2025-01-21 公众号文章 > AI文章

AI大模型的Token到底指什么

大家好呀，我是飞鱼。 大家在用 ChatGPT 的 API 时，是按 Token 计费的。 ❝ 例如，你提问消耗了 100 Token，ChatGPT 根据你的输入，回答了 200 Token，那么一共消费的 Token 数就是 300。 一些文章里面，模型后面带着 8K、32K，甚至 100 ...
2025-01-19 公众号文章 > AI文章

AI提示词万能公式

大家好呀，我是飞鱼。 对于AI而言，好的提示词可以让我们的AI小伙伴更加聪明和高效地与我们对话。 ❝ 提示词 = 设定角色 + 描述背景 + 明确任务 + 规则设定 + 输出格式。 设定角色 ❝ 让大模型扮演这个领域的专家。 当我们让 AI 扮演特定角色时，它会更倾向于使用与该角 ...
2025-01-18 公众号文章 > AI文章

简单解释什么是AI智能体

大家好呀，我是飞鱼。 AI Agent（智能体）简单说就是智能小助手。 ❝ 想象一下你出去旅游，拿出手机拍拍拍，AI就能自动识别人脸、景点。 不仅能自动修图、PS图，还能重绘成动漫风格，一键美颜。 更神奇的是，AI通过多模态识别，比如文字、语音、图片，结合你的偏好个性化定制旅游路线。 这项AI ...
2025-01-12 公众号文章 > AI文章

免费开源模型大超市HuggingFace

大家好呀，我是飞鱼。 Hugging Face 是一个开源的 AI 社区，提供 100万 个全球免费开源模型。 ❝ 可以理解为对于AI开发者的 GitHub。 不管是字节，百度，阿里，Meta等，一旦要开源某个大模型，都会往 Hugging Face 上发布。 官网：https://huggi ...
2025-01-11 公众号文章 > AI文章

如何给AI大模型喂数据

大家好呀，我是飞鱼。 如果我想要大模型学习我的知识，怎么给他数据呢？ ❝ 数据是大模型的食物，只有喂对了，模型才能更好地学习和成长。 这里介绍大模型优化的三种方式：长文本提示，RAG，微调。 长文本提示 ❝ 比如我们上传一篇文章，发给大模型让他总结一下里面的内容，这个就是长文本提示。 我们 ...
2025-01-11 公众号文章 > AI文章

为什么AI大模型训练离不开GPU

大家好呀，我是飞鱼。 一般说到显卡，大多人的第一反应是，这不是给打游戏的用的吗？ ❝ 其实显卡的GPU还可以作为AI芯片使用的。 在GPU火之前，提到最多的就是CPU，那么二者有什么区别呢？ ❝ GPU的计算单元数量比CPU多得多。 以英伟达H100 GPU为例，它包含超过1.8万个核心， ...
2025-01-11 公众号文章 > AI文章

RocketMQ负载均衡

相关文章： RocketMQ延时消息解析！ RocketMQ消息重试机制解析！ RocketMQ事务消息解析！ 消费者在消费消息的时候，需要知道从Broker的哪一个消息队列中去获取消息。 所以，在消费者端必须要做负载均衡，即Broker端中多个消费队列分配给同一个消费者组中的哪些消费者消费。 ...
2024-11-14 公众号文章

RocketMQ消息重试

由于网络抖动、服务宕机等一些不确定的因素，RocketMQ在发送消息的时候很有可能出现消息发送或者消费失败的问题。 所以RocketMQ消息重试分为2种： Producer端重试和Consumer端重试。 Producer端重试 生产者端的消息失败，也就是Producer往MQ上发消息没 ...
2024-11-12 公众号文章
123