OpenAI x Hyperlambda:教授 AI 小编程语言的史诗挑战 – 全面了解使用 80,000 行代码和 1,500 美元实现的微调

AI能在多大程度上理解小编程语言?” – 这个简单的问题将我的注意力转向了 OpenAI 的新语言模型微调技术。
所有程序员都会经历的小语言和技术术语的困难。如果人工智能能够理解这一点会怎样?
即使使用次要的技术术语,我们也能准确地与人工智能进行交流的未来可能指日可待。

本文介绍的是教授人工智能模型一种新的编程语言所面临的挑战。在 DZone 上发表的一篇文章中,一位开发人员写道“超级拉姆达》,详细讲解了理解一门小编程语言的微调过程。

这一举措似乎是 AINIRO.IO 创始人 Thomas Hansen 的杰作。 Hansen 先生于 2025 年 4 月 5 日在 AINIRO.IO 博客上宣布,他已成功微调 GPT-40-mini 模型,使其与 Hyperlambda 兼容。

OpenAI×Hyperlambda微调文章总结

  • 开发者可以利用OpenAI的AI模型超级拉姆达进行了微调以教授一种相对较小的编程语言,称为``。
  • 创建了 3,500 个训练片段和大约 550 个验证片段(总共大约 80,000 行代码)。
  • 使用 GPT-4o-mini(本文中称为 GPT-40-mini)和默认学习率乘数 1.8 的最佳结果。
  • 经过微调,该模型通过简单的 Hyperlambda 代码实现了约 80-90% 的准确率。
  • 成本:GPT-4o-mini 每次运行成本为 2-5 美元,GPT-4o 成本为 50-100 美元,总投资约为 1,500 美元。
  • 新语言的估计学习水平:3,500 个片段为“可接受”,5,000 个片段为“良好”,10,000 个片段相当于 Python 或 JavaScript。
  • 技术民主化:如何通过降低专业知识障碍来让更多人使用技术的示例。

从:我如何通过微调教授 OpenAI 一种新的编程语言

【编辑部评论】

微调乍一看似乎很简单,但一项实际上需要付出很多努力的任务是。文章作者创建了 3,500 个训练片段和 550 个验证片段,我总共写了大约80,000行代码。这是一个简单的计算,相当于一个典型的中型软件项目的全部金额。是。

值得一提的是关键是这些代码除了“教法学硕士一门新语言”的目的之外根本没有任何用处。开发人员表示,他继续每周 7 天、每天 3 到 6 小时编写代码,持续了一个月。这显示了人工智能开发背后的稳定工作的一部分。

该文章的重要发现包括:设置超参数有。 ChatGPT 和 Claude 推荐的学习率乘数为 0.1 到 0.2,对于学习新的编程语言来说是不够的,默认值 1.8 给出了最好的结果。

此外,通过从现有系统文件夹中获取约 1,000 个高质量片段并实施其余 2,500 个新片段,简化了训练数据创建过程。此外,自定义 GPT 已用于从单个文件生成多个变体。

不要忽视微调的成本方面。 GPT-4o-mini(本文中称为 GPT-40-mini)每次训练的成本在 2 到 5 美元之间。另一方面,GPT-4o(文中简称为 GPT-40)的价格要贵得多,为 50 至 100 美元。开发商总共花费了大约1,500美元来完成这个项目。

OpenAI 最近开始向所有付费用户提供微调功能。他们声称,这使得他们即使从少量的例子中也能获得强有力的结果。

根据该文章的作者的说法,当向人工智能教授一种新的编程语言时,3,500 个片段是“可以接受的”,5,000 个片段是“好的”。相当于具有 10,000 个代码片段的 Python 和 JavaScript据说水平

这是理解人工智能模型学习曲线的重要指标。目前的 Hyperlambda 生成器仍处于“可接受”的水平,我们每天都通过添加片段来改进模型。

这种微调技术的应用范围非常广泛。尤其,通过教授AI小编程语言和专业知识,可以解决更多样化的开发环境和特定领域的问题。

这个案例说明的最重要的一点是技术民主化是。这篇文章的作者是直到昨天,我还是这个星球上唯一能够编写 Hyperlambda 后端代码的人。如今,许多人可以“管理”自己,只需在 Hyperlambda 生成器中输入一些简单的英语,它就会输出(几乎准确的)Hyperlambda 代码,解决他们的后端和 API 问题。” 说。

这是降低专业知识壁垒并使更多人能够使用技术的重要一步。与此同时,这种技术的发展它有潜力鼓励编程语言和框架的多样性,减少对特定大公司和主流语言的依赖。

微调固然需要付出努力,但结果将以技术民主化和多元化的形式回报给我们所有人。我们希望这样的举措能够继续进一步扩大人工智能技术的应用范围。

【术语解释】

超级拉姆达
一种专门的编程语言,旨在使 C# 更加动态。它在执行树声明格式上采取了与普通编程语言不同的做法。通过消除传统编程语言的限制,轻松创建可重用组件。

微调
将现有训练有素的人工智能模型调整到特定任务或数据集的过程。与从头开始学习相比,这种方法可以让您用更少的资源获得更高的结果。

LLM(大语言模型)
大规模语言模型,例如 GPT-4。一种人工智能模型,可以从大量文本数据中学习并生成和理解类似人类的句子。

GPT-4o-迷你
OpenAI 的快速且低成本的 AI 模型。虽然文中写为GPT-40-mini,但正式名称是GPT-4o-mini。

JSONL
JSON 行格式。每行代表独立的JSON数据,并用作微调的训练数据。

RAG(检索-增强生成)
搜索扩展生成。一种从外部知识库搜索相关信息并利用其生成人工智能答案的方法。通常可用作微调的替代方法。

[编者注]

这次当我读到原来的文章时,我非常感兴趣,因为我对一切都感兴趣,从一个人花多少小时或几个月,到人工智能学习一门小语言时会发生什么。
“通过教授AI小编程语言和专业知识,解决更多样化的开发环境和特定领域的问题成为可能。”
正如我所说,这将加快个人未来的发展/工作,而且由于互联网上关于小语种的信息很少,
如果开发人员能够使用人工智能来处理这个问题,那将会很有帮助,这将是非常令人惊奇的。
“我总共写了大约 80,000 行代码。”← 我在某种程度上感到疯狂......

[参考链接]

AINIRO.IO(外部)
由 Thomas Hansen 创立的人工智能开发公司。我们提供一个利用 Hyperlambda 的 AI 代理创建平台。

开放人工智能(外部)
一家开发ChatGPT和GPT-4o等AI模型的公司。它还提供微调功能。

魔法云(外部)
AINIRO.IO 提供的无代码/低代码软件开发自动化平台。

迪区(外部)
面向软件开发者的技术信息共享平台。文章原始位置。

[相关文章]

在 innovaTopia 上阅读更多 AI(人工智能)新闻