标签归档:LLM

RSS feed of LLM

用 Hy4 preview 维护老博客的几天试用记录

腾讯混元在 2026 年 8 月 28 日发布了 Hy4 preview,WorkBuddy、CodeBuddy、元宝、ima 同步上线,限时免费约两周。WorkBuddy 侧给出的截止时间是 9 月 10 日 23:59,CodeBuddy 的官方口径只说"两周",以客户端实际显示为准。免费期内每天有额度上限,触顶后消耗积分,繁忙时需要排队。

发布当天的报道集中在一组跑分上:12 项 benchmark,Terminal Bench 2.1 得 85.4,DeepSWE 从上一代的 28.0 涨到 64.3。需要说明的是,这些分数目前都出自腾讯官方自述——发布首日 Artificial Analysis 尚未收录,Hugging Face Open LLM Leaderboard 没有数据,第三方媒体基本是通稿转载,还没有看到独立的社区实测。

我自己更关心的是它在日常场景里的表现,所以把它拉到一个我维护了十余年的个人博客上试了几天。这篇记录一下过程和结果。

先说它是什么

能确认的基础信息如下:

项目 ...

继续阅读

AWS AgentCore 搭 Chatbot 的真实体验:会话管理和上下文上限并非开箱即用

背景:从一次选型讨论说起

最近在评估用 AWS AgentCore 来搭一个 chatbot。官方文档把它描述成一个"企业级 agent 平台",看起来什么都有:Runtime 跑代码、Memory 管记忆、Gateway 接工具、Observability 看观测。但当我真正去核对"会话管理"和"确保上下文不超模型上限"这两个 chatbot 最核心的需求时,发现 OOTB(开箱即用)的程度和宣传里暗示的并不完全一致。这里把结论记下来,供同样在选型的人参考。

AgentCore 到底是不是 chatbot 框架?

先说定位:AgentCore 是"运行时 + 记忆 + 网关"平台,不是开箱即用的 chatbot 框架。你需要自己写 agent 的业务逻辑(跑在 AgentCore Runtime 里),它负责的是部署、扩缩容、身份认证、工具连接和可观测性。对话和会话能力由其中的 AgentCore Memory 模块提供。

也就是说,它给你的是"地基"和"水电煤",不是"精装修的房子"。对想快速拖一个聊天窗口的人来说,它偏底层;对要自己掌控 agent 行为、又要生产级运维能力的团队,它合适。 ...

继续阅读

LLM入门有哪些推荐书籍

对于想要入门LLM(Large Language Model,大型语言模型)的读者,以下是一些推荐的书籍:

  1. 《GPT-3:使用大型语言模型构建创新的NLP产品》:由O’Reilly出版,本书深入探讨了GPT-3的功能,提供了使用GPT-3构建创新NLP产品的见解,涵盖了模型微调、检索增强生成和从人类反馈中进行强化学习等主题。这本书是希望在其应用程序中利用GPT-3功能的开发人员和企业的实用指南。
  2. 《大型语言模型快速入门指南:使用ChatGPT和其他LLM的策略和最佳实践》:同样由O’Reilly出版,本指南提供了使用大型语言模型的快速入门,重点介绍ChatGPT和其他LLM。它涵盖了模型选择、微调和部署等主题,对于希望快速将LLM集成到其应用程序中的开发人员和企业来说,是一本绝佳的资源。
  3. 《使用Transformer进行自然语言处理》:本书深入介绍了transformers,即在NLP中实现最先进成果的主要架构。它涵盖了transformers的底层机制以及如何将它们应用于各种NLP任务的实际方面,例如撰写真实的新闻报道和创建聊天机器人。这本书是了解transformers的宝贵资源。
  4. 《用于自然语言处理的Transformers》:本书由Packt出版,深入探讨了Transformer的世界,重点介绍了它们在NLP中的应用。它涵盖了Transformer的核心概念,包括自注意力机制,并探讨了如何使用这些模型来增强语言建模能力。这本书提供了Transformer架构的全面指南。
  5. 《Build a Large Language Model (From Scratch)》:本书旨在讲解从头开始构建大型语言模型的整个过程,包括如何创建、训练和调整大型语言模型。通过大量的图表和插图,让读者可以彻底了解LLM的工作原理。这本书主要使用的是pytorch框架,非常适合想要动手实践的读者。

此外,还有一些其他深度学习相关书籍,如《深度学习》(Ian Goodfellow著)和《Deep Learning for NLP》(Yoav Goldberg著)等,也可以作为入门LLM的辅助阅读材料。这些书籍提供了深度学习的理论基础和算法原理,有助于读者更好地理解LLM的工作原理和应用场景。

LLM领域是一个快速发展的领域,新的研究和进展不断涌现。因此,除了阅读书籍外,建议读者还要关注相关的学术论文、博客文章和在线课程等资源,以保持对最新技术和趋势的了解。