大规模语言模型的局限性和可能性:它们可以超越人类智能吗?

上次更新于2024-07-08 05:09

【消化】

近年来,大型语言模型(LLM)在人工智能领域引起了人们的关注。它们基于具有数百十亿个参数的变压器体系结构,并且具有理解人类语言的能力并通过大量文本数据培训来预测下一步的标记。这种预测能力使LLM可以执行需要定性飞跃和人类智能的任务。

但是,LLM的能力与人类智能没有相同的能力。它在与人类不同的系统中运行,无法访问外部现实世界,因此不能应用外部标准来确定是真的还是错误。他们还以与人类语言使用者不同的方式学习和使用语言。

关于LLM的讨论经常解决信念,知识和推理的问题。 LLMS仅基于对接下来标记的预测而生成语言,并且没有任何信念或知识。尽管我们可以通过补充模式来推断,但它不能保证真相,并且基于人类反馈的微调可以提高我们建模语言分布的能力,但其基本能力保持不变。

LLM的概括能力也引起了人们的关注。通过几乎没有反馈和及时的工程,可以解决新的任务和推理问题。但是,其概括能力的可靠性是有限的,并且有必要通过通过人为反馈进行微调来提高响应的质量和可靠性。

因此,LLM的目标是模仿人类的智力,但是它们的能力有限,并且具有与人类不同的特征。但是,其应用范围很广,预计将来将在许多领域使用。

新闻评论

大型语言模型(LLM)在人工智能(AI)技术的最新进展中引起了人们的特别关注。这些被称为BERT和GPT-3等模型,并且具有数百十亿个参数,并根据大量文本数据进行了培训。这使我们有能力理解人类语言并预测下一个单词(令牌)。

LLM可以在统计上对人类语言进行建模,以生成问题的答案并继续写作。例如,当您收到提示“第一个踏入月球的人……”时,您可以回答“ ...尼尔·阿姆斯特朗(Neil Armstrong)”。但是,这只是根据文本数据的统计分布预测最有可能的延续,并不意味着LLMS“知道”现实世界事实。

LLM不能拥有信念或知识,因为它们没有能力与人类这样的外界互动或确定正确还是虚假的标准是真实还是错误。此外,尽管它可以模仿推论过程,但不能保证它在逻辑上是正确的推论。尽管基于人类反馈的微调可以提高模型响应的质量,但其基本功能保持不变。

LLM被广泛应用,可以容纳各种任务,包括问答,新闻摘要,脚本生成,逻辑拼图解决和语言中的翻译。这将在AI研究中创建新的及时工程类别,并在开发更好的模型之前发挥重要作用为止。

LLM的目标是模仿人类的智慧,但其能力有限,并且具有与人类不同的特征。但是,其应用范围很广,预计将来将在许多领域使用。

谈论大语言模型