🚀 科技动态
最新的科技进展和市场动态，包括新闻、行业动态、趋势分析
Yann LeCun 最新万字演讲：致力于下一代 AI 系统，我们基本上不做 LLM 了
Yann LeCun 在其最新的演讲中提出了对当前大型语言模型（LLM）的批评，认为仅通过文本训练，LLM 无法达到人类水平的智能。
因此，Meta 公司已经转向研究更长期的下一代 AI 系统，减少了对 LLM 的关注。LeCun 强调，为了实现真正的智能，AI 需要能够理解世界、记忆事物、拥有直觉和常识，以及能够像人类一样推理和规划。人类智能具有四个基本特征：推理、规划、持久记忆和理解物理世界，这些是目前的 AI 系统所不具备的。
当前的 AI 系统主要受限于自监督学习，这种学习方式依赖于数据的冗余，不适合高度压缩的数据。LeCun 提出了目标驱动的人工智能架构，它运行的是一个优化算法，而不仅仅是神经网络，能够处理单个输入对应多个输出的映射过程。此外，他还提出了联合嵌入预测架构（JEPA），这是一种新的方法，它放弃预测像素，而是学习一种关于世界中所发生事情的抽象表示，然后在该表示空间中进行预测。为了实现真正的智能，LeCun 提出我们需要放弃一些传统机器学习方法，包括生成模型、概率模型、对比方法和强化学习。
实现人类水平的 AI 需要数年甚至十年的时间，这个过程中存在很大的不确定性，并且有许多问题需要解决。AI 的未来将是一个开源和多样化的 AI 助手，能够理解世界上所有语言、文化和价值体系，这需要全世界的贡献。
💻 技术文章
各种技术的应用和实践方法，包括各种技术文章、教程、实践案例等内容
TypeScript 源码启示：惊人的 52000 行代码文件
文章通过 TypeScript 的源码，尤其是 checker.ts 文件，展示了 TypeScript 团队在性能优化方面的深入思考和实践。这个文件集成了整个类型系统，规模达到 52000 行代码，这在通常的软件工程实践中相当罕见。
采用了多种策略甚至极端手段来优化性能，包括使用低配版命名参数、偏好数字和枚举、广泛使用 const enum、减少模块导出、使用 internal 注解实现私有导出、避免使用 let 和 const、不向 String.prototype 注入属性、推崇组合编程、避免使用 try-catch、使用 namespace 模拟模块系统等。这些策略不仅提高了性能，也反映了 TypeScript 在设计上的一些独特选择，如避免使用 class 和继承，以及对 JS 语言特性的依赖和限制。
尽管 TypeScript 的类型系统已经相当完善，但其发展受到了 JS 语言特性的限制，尤其是在 runtime feature 方面。
程序员必备！面向 Prompt 编程全攻略
详细介绍了 Prompt 工程的实践方法。
提出了一个万能的 Prompt 框架，通过立角色、述问题、定目标和补要求四个部分来构建有效的 Prompt。
文章进一步细化了框架，讨论了如何通过设定角色来调用模型的能力，以及如何通过清晰的结构和格式来提升模型的效果。
RAG 技术的介绍突出了其在增加输入信息和提升模型效果方面的重要性。
此外，文章还提供了一些附加技巧，如通过调整模型参数来控制输出的确定性、利用模型自身的能力来寻找更有效的 Prompt 进一步提升模型的性能。
最后，文章总结了 Prompt 工程的重要性，并强调了 RAG 技术和向量数据库的结合对于推动信息处理和文本生成领域创新的作用。
🔧 工具资源
如何使用这些工具提高工作效率，包括各种技术工具、软件、插件等方面的内容，各种技术资源、免费课程、学习资料
一份从中级到高级的 AI 学习路径：ML Retreat
来自国外一名技术博主分享，记录了其在学习高级机器学习时的个人笔记和资源，涵盖了从基础到更高级主题的深入理解。
目前已分享如何从头构建大语言模型、LLM 幻觉深入研究以及 LLM 超越注意力机制等相关笔记。
作者持续在更新，如果觉得有帮助的可持续关注下。
开源的飞书文档下载 Chrome 插件: Cloud Document Converter
支持下载、复制飞书文档为 Markdown，兼容标题、代码块、列表、表格、图片、加粗、删除线、链接等元素。
微信公众号文章批量下载工具：wechat-article-exporter
可以在线批量导出微信公众号文章，支持内嵌的音视频导出，无需搭建任何环境，可 100% 还原文章样式，支持私有部署。