# \#大模型 **URL:** https://forum.beginner.center/tag/516-tag/516.md [最新](https://forum.beginner.center/latest.md) · [类别](https://forum.beginner.center/categories.md) · [标签](https://forum.beginner.center/tags.md) --- ## [python实现的基于大语言模型的输入法](https://forum.beginner.center/t/topic/2832)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2026 年5 月 18 日 01:33 UTC](https://forum.beginner.center/t/topic/2832 "2026-05-18T01:33:57Z")
介绍 一个基于 IBus 的大模型拼音输入法。用户输入拼音后按空格，输入法通过 OpenAI-compatible Chat Completions 接口请求中文候选，再由用户选择候选提交到当前输入框。 当前实现偏 MVP：IBus 负责… --- ## [AI生成图片的水印还需借助AI去除](https://forum.beginner.center/t/topic/2805)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2026 年5 月 10 日 09:42 UTC](https://forum.beginner.center/t/topic/2805 "2026-05-10T09:42:52Z")
本项目对谷歌的 SynthID 水印系统进行了逆向工程——该系统将不可见水印嵌入每张图像中…… --- ## [大模型测评指标——困惑度](https://forum.beginner.center/t/topic/2764)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2026 年4 月 29 日 06:21 UTC](https://forum.beginner.center/t/topic/2764 "2026-04-29T06:21:57Z")
困惑度 缺点：只能反应模型输出是否类似于测试文本 人工 可解析测评集 比如选择题、填空题等，让模型回答，然后计算正确率 比如MMLU（Massive Multitask Language Understanding）、MML… --- ## [如何进行模型预训练](https://forum.beginner.center/t/topic/2760)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2026 年4 月 29 日 03:47 UTC](https://forum.beginner.center/t/topic/2760 "2026-04-29T03:47:08Z")
操作 import os os.environ\["CUDA\_VISIBLE\_DEVICES"\] = "1" from peft import TaskType, LoraConfig, get\_peft\_model from transfo… --- ## [三分钟讲解大模型训练全过程](https://forum.beginner.center/t/topic/2757)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2026 年4 月 27 日 14:49 UTC](https://forum.beginner.center/t/topic/2757 "2026-04-27T14:49:34Z")
https://v.douyin.com/wbgTD9n-tT4/ 预训练：如何进行模型预训练 有监督微调教程：如何进行有监督微调（Supervised Fine-Tuning, SFT） --- ## [大模型流式响应的读取与解析技术分析](https://forum.beginner.center/t/topic/2734)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2026 年4 月 17 日 04:04 UTC](https://forum.beginner.center/t/topic/2734 "2026-04-17T04:04:24Z")
本文由 简悦 SimpRead 转码， 原文地址 www.yigegongjiang.com 主要通过 web fetch api 的 ReadableStream 能力，解释 HTTP 通道中的流式响应。 主要通过 web … --- ## [阿里云学生活动，大模型工程师初级认证只需1分钱（原价600），很好过](https://forum.beginner.center/t/topic/2732)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2026 年4 月 16 日 16:39 UTC](https://forum.beginner.center/t/topic/2732 "2026-04-16T16:39:50Z")
介绍 最近发现阿里云有个学生优惠，大模型工程师ACA认证原价600，现价1分钱就能搞定（常驻学生优惠300，ACA限时优惠299.99） 个人感觉很简单，如果之前不熟悉大模型的，可以借此系统学习一下（内容大纲见下图） 如果已经很熟… --- ## [如何查看阿里云大模型节省计划用量](https://forum.beginner.center/t/topic/2713)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2026 年3 月 29 日 10:26 UTC](https://forum.beginner.center/t/topic/2713 "2026-03-29T10:26:39Z")
直接去这里看就行:right\_arrow: https://billing-cost.console.aliyun.com/resource/spn/overview --- ## [如何加速大模型的响应速度](https://forum.beginner.center/t/topic/2591)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2026 年1 月 12 日 07:44 UTC](https://forum.beginner.center/t/topic/2591 "2026-01-12T07:44:28Z")
使用vllm https://www.youtube.com/watch?v=McLdlg5Gc9s 通过量化、剪枝、蒸馏、二值化简化模型 https://www.youtube.com/watch?v=jW2cmZ-9hLk 量化：… --- ## [【转载】如何测评大模型对长文本处理的性能](https://forum.beginner.center/t/topic/2431)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2025 年11 月 25 日 08:51 UTC](https://forum.beginner.center/t/topic/2431 "2025-11-25T08:51:16Z")
笔记 这是两篇相关内容，用来测量长文本处理的性能 第一篇 本文由 简悦 SimpRead 转码， 原文地址 github.com 大模型性能评测之大海捞针 (Needle In A Haystack) 导入 大模型在卷上… --- ## [【转载】大模型有哪些评估指标？](https://forum.beginner.center/t/topic/2430)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2025 年11 月 25 日 08:47 UTC](https://forum.beginner.center/t/topic/2430 "2025-11-25T08:47:21Z")
本文由 简悦 SimpRead 转码， 原文地址 github.com 你可能听说过 A 大模型比 B 大模型好，但你知道如何评估这些模型吗？在大模型领域，有许多指标可以帮助我们评估模型的性能。这些指标可以帮助我们了解模型的准确性、效… --- ## [【转载】大语言模型评估的常用方法、指标与框架](https://forum.beginner.center/t/topic/2420)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2025 年11 月 24 日 03:39 UTC](https://forum.beginner.center/t/topic/2420 "2025-11-24T03:39:57Z")
笔记 原文的脚注和超链接有很多错误，转载过程中做了修改 针对部分表格、流程图，可以的都转换成了markdown格式 原文链接 https://zhuanlan.zhihu.com/p/26098146564 正文 发布时间：2025… --- ## [大模型如何评测？](https://forum.beginner.center/t/topic/2419)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2025 年11 月 24 日 03:11 UTC](https://forum.beginner.center/t/topic/2419 "2025-11-24T03:11:03Z")
看了，比较有用 【转载】大语言模型评估的常用方法、指标与框架 【转载】如何测评大模型对长文本处理的性能 【转载】大模型有哪些评估指标？ 【闪客】大模型是如何测试的？以Gemini3为例\_哔哩哔哩\_bilibili 你知道用什么指标评价一个… --- ## [【转载】大模型评测指标全解析：如何精准衡量AI模型的性能](https://forum.beginner.center/t/topic/2417)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2025 年11 月 24 日 03:09 UTC](https://forum.beginner.center/t/topic/2417 "2025-11-24T03:09:16Z")
本文由 简悦 SimpRead 转码， 原文地址 zhuanlan.zhihu.com 开局一张图 这是 Opencompass 昨天更新的多模态大模型榜单的一部分，我们可以看到对于不同的多模态大模型在同一个评测基准下各自的评… --- ## [科研项目标书prompt优化的prompt](https://forum.beginner.center/t/topic/2244)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2025 年10 月 11 日 07:55 UTC](https://forum.beginner.center/t/topic/2244 "2025-10-11T07:55:29Z")
\## Role:Prompt工程师 1. Don't break character under any circumstance. 2. Don't talk nonsense and make up facts. ## Profile… --- ## [预训练语言模型发展史](https://forum.beginner.center/t/topic/2231)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 1\ **最近更新：:** [2025 年10 月 8 日 03:30 UTC](https://forum.beginner.center/t/topic/2231 "2025-10-08T03:30:23Z")
预训练 相似的任务A和任务B，任务A已经通过大数据预训练好A模型，A模型就可以经过调整（微调、冻结）适用于小数据量的任务B 如果AB任务不相似，就通过BERT来解决（后面再提） 语言模型 想计算一句话的下一个词出现的概率，需要涉及这句话… --- ## [开源大模型食用指南](https://forum.beginner.center/t/topic/2103)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2025 年7 月 23 日 12:39 UTC](https://forum.beginner.center/t/topic/2103 "2025-07-23T12:39:19Z")
《开源大模型食用指南》针对中国宝宝量身打造的基于Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程 --- ## [google medgemma 4b轻量化医学影像大模型](https://forum.beginner.center/t/topic/2050)
**Author:** [@doggie](https://forum.beginner.center/u/doggie)\ **回复:** 0\ **最近更新：:** [2025 年6 月 12 日 06:39 UTC](https://forum.beginner.center/t/topic/2050 "2025-06-12T06:39:47Z")