新技术（尤其是生成式人工智能）的复杂性和未知性，创造了新的机遇，也带来了新的威胁。关于生成式人工智能的讨论是不需要人工智能的“幻想”早期认为幻觉可能有害的观点已经演变为一种理解，即幻觉在某些情况下可能是有价值的，因为它们也可以代表创造力。
然而，目前'及时注射一个叫“”的新概念引起关注，引起恐惧。这是指用户故意误用或滥用人工智能解决方案，从而导致不良结果。
即时注入对人工智能提供商来说是一种风险，而在大规模语言模型（LLM）等人工智能系统中，用户有很多机会测试系统的极限。例如，为了避免内容限制，越狱”和提取机密信息是即时注入造成的威胁的例子。
为了保护自己，鼓励组织设置适当的使用条款，限制用户可用的数据和操作，并使用评估框架。尽管这些措施不能完全避免人工智能系统固有的风险，但它们可以减少滥用的可能性。应认真对待提示注射并将风险降至最低，但它们不应阻止您继续前进。
[编者注]术语解释
[相关文章]
【新闻评论】
随着生成式人工智能技术的发展，新的机遇不断涌现，但新的威胁也不断出现。特别是，人们最初的观点发生了转变，即人工智能产生不必要的“幻觉”可能会损害人们对幻觉在某些情况下可能有价值的理解，因为它们也可以代表创造力。然而，目前备受关注的“即时注入”概念对于AI提供商来说意味着新的风险。
提示注入是指用户故意误用或滥用人工智能解决方案导致不良结果的行为。这个问题在大规模语言模型（LLM）等人工智能系统中尤其严重，用户有很多机会测试系统的极限。即时注入威胁的示例包括“越狱”以规避内容限制和提取敏感信息。
组织可以通过设置适当的服务条款、限制用户可用的数据和操作以及使用评估框架来保护自己。尽管这些措施不能完全避免人工智能系统固有的风险，但它们可以减少滥用的可能性。
对即时注入的认识和对策是人工智能技术安全使用和发展的重要因素。我们需要认真对待这个问题，最大限度地发挥人工智能技术的潜力，同时最大限度地降低风险。人工智能技术的演进在带来新风险的同时，也有可能给社会和商业带来革命性的变化。因此，风险管理和追求创新必须取得平衡。