虽然人工智能（AI）的概念早在20世纪50年代便通过逻辑和基于规则的系统首次提出，但长期以来，它仅在引起主流媒体关注时才偶尔被提及。例如，1997年IBM的“深蓝”战胜国际象棋冠军卡斯帕罗夫，以及2011年苹果推出的首个主流AI虚拟助手“Siri”。

然而，自2022年11月OpenAI发布ChatGPT-3.5后，生成式人工智能（Gen AI）的开放性与广泛可用性迅速提高了公众对其潜力的认知。ChatGPT的强大功能——包括撰写文本或代码、创作音乐以及生成数字艺术——不仅激发了公众的想象力，也推动了广泛的实验、采纳，以及企业对这一技术的高度期待与活跃投资。

生成式人工智能的崛起

虽然人工智能（AI）的概念早在20世纪50年代便通过逻辑和基于规则的系统首次提出，但长期以来，它仅在引起主流媒体关注时才偶尔被提及。例如，1997年IBM的“深蓝”战胜国际象棋冠军卡斯帕罗夫，以及2011年苹果推出的首个主流AI虚拟助手“Siri”。

然而，自2022年11月OpenAI发布ChatGPT-3.5后，生成式人工智能（Gen AI）的开放性与广泛可用性迅速提高了公众对其潜力的认知。ChatGPT的强大功能——包括撰写文本或代码、创作音乐以及生成数字艺术——不仅激发了公众的想象力，也推动了广泛的实验、采纳，以及企业对这一技术的高度期待与活跃投资。

技术“军备竞赛”的规模与速度

关键法律挑战

随着生成式人工智能的广泛应用，诸多法律和伦理问题开始显现，包括：

透明性与“可解释性”：AI结论的生成过程需要明确可追溯。

潜在的版权侵权：AI模型训练使用第三方内容可能侵犯版权，尤其是在未经授权的情况下使用内容创作训练集。

自动化带来的失业风险。

虚假信息与操纵：包括深度伪造技术和“假新闻”的传播风险。

数据隐私问题：如何在利用个人信息训练AI模型时设置适当的保护机制。

算法中的偏见与歧视：可能导致对特定个人或群体的不公平待遇。

不可靠或虚构输出：例如“AI幻觉”以及监督与质量控制的不足。

市场竞争风险：若市场份额过度集中于少数AI开发企业，或企业间数据共享使用AI系统可能引发垄断。

环境影响：生成式人工智能系统的高能耗带来的环保问题。

责任归属问题：在损害和损失发生时，谁应承担责任？

这些问题涉及商业、法律、道德及社会层面，且随着经验与使用的积累，可能会出现更多挑战。

AI使用率高

今年，新西兰AI论坛与惠灵顿维多利亚大学及Callaghan Innovation合作，调查了232家新西兰企业对AI的使用情况。调查显示，67%的受访企业已经在使用AI，96%的受访者认为AI提高了员工的工作效率。

对GDP的高贡献

根据新西兰财政部2024年7月发布的分析报告，新西兰作为一个“高技能先进经济体”，短期内可能比发展中国家更能从AI中获得生产力提升。然而，财政部警告，新西兰可能在AI技术带来的收益上落后于其他可比国家，因为新西兰企业在研发上的投资相对较低。微软2024年8月的一项预测估计，到2038年，生成式人工智能将为新西兰GDP每年增加760亿纽币的贡献。

监管现状

目前，新西兰并无AI相关的专门法律，而是依赖现有的监管框架，并辅以隐私专员发布的非强制性原则指导。2024年7月，新西兰科学创新就业部长办公室向内阁提交的一份报告建议，与其制定独立的“AI法案”，不如根据需要对现有框架进行更新，以在促进创新与控制风险之间寻求平衡。

报告强调，不应基于“假设的风险”制定监管措施，以免对生产力造成不利影响，而应采取比例适当、基于风险的监管方式，支持新西兰在AI技术上的创新与应用。

新西兰企业的关键建议

全球范围内AI和生成式AI的投资规模表明，其对新西兰企业及日常生活的影响将持续扩大。

AI可能逐步成为企业软件的核心部分，管理者需了解AI的使用情况及其可能带来的风险和机遇。

AI的普及将带来新的业务挑战，同时也需要企业开发新的解决方案。

类似于防范网络风险，管理者需随时跟进AI技术的发展，以便利用其优化业务，同时确保采取适当的系统和保护措施。

在现有法律的基础上进行修订，而非制定新的AI法案，似乎是当前新西兰政府的方向。然而，现有法规是否能有效应对AI问题尚存疑问，这使得企业需通过内部系统、政策及保护措施来自我防范。