人工智能工程师的许可要求,安全人工智能开发的新提案

法律杂志上的一篇文章建议将人工智能工程师视为一种职业,并要求获得构建商业人工智能产品的许可证。该提案将鼓励人工智能工程师帮助制定基于科学的、针对特定领域的技术标准,并强制进行自我监控。该提案通过从源头上影响工程决策来解决人工智能造成的危害,并将信息和系统设计的控制权从公司转移到人工智能工程师,从设计阶段就实现值得信赖的人工智能。它还旨在改变围绕人工智能的讨论,将焦点从对已创建产品的轻微反应措施转移到人工智能开发之前的主动控制。这种方法长期以来一直用于高度专业化的领域,在这些领域中,对公共福利的义务必须高于商业动机。如果人工智能工程师可以像医生一样宣誓“不伤害”怎么办?这个想法存在争议,一些人表示他们不相信其可行性。

【新闻评论】

随着人工智能技术的快速发展,其应用范围正从日常生活扩展到工业领域。但也有人指出,这项技术的进步可能会带来各种问题,例如侵犯隐私、放大偏见、安全风险等。在此背景下,有人建议对人工智能工程师进行专业认证,并要求他们在开发商业人工智能产品时获得许可证。

该提案旨在通过鼓励人工智能工程师自我监控并合作制定基于科学的技术标准,从开发阶段限制人工智能相关风险。具体来说,我们的目标是将信息和系统设计的控制权从企业转移到人工智能工程师身上,从设计阶段就实现可靠的人工智能。它还旨在通过将焦点转移到人工智能开发之前的主动控制来改变人工智能辩论的方向。

这种方法长期以来一直用于公共福利义务需要高于商业动机的领域,例如医疗保健和建筑。如果AI工程师能够像医生一样承诺“不造成伤害”,我们有望提高AI技术的安全性和可靠性。

不过,该提案的可行性也存在疑问。有人指出,人工智能技术多种多样且发展迅速,难以建立统一的许可制度或技术标准。此外,尽管国际合作至关重要,但各国法律法规的差异可能会构成障碍。

从积极的一面来看,我们可以期待人工智能技术的安全性和可靠性的提高、社会接受度的提高以及人工智能造成的伤害的预防。另一方面,还必须考虑潜在的风险,例如过度监管抑制创新、行政成本增加以及对小型开发商和初创企业的影响等风险。

未来,我们需要从长远的角度考虑这个提议将如何影响人工智能技术的发展及其对社会的适应。此外,构建适应技术演进的灵活监管框架、建立国际合作体系也将是重要问题。

为人工智能工程师颁发许可