“联合国成立咨询团队,协调’包容性’人工智能治理”

联合国设立顾问小组,促进'包容性'人工智能治理的协调
全球互联图

联合国(UN)已经成立了一个咨询团队,研究人工智能(AI)应该如何治理,以减少潜在风险,并承诺采取“全球包容”的方式。此举是在新的研究显示,消费者既不相信企业能够负责地采用生成式AI,也不遵守规定其使用的法规。

联合国秘书长古特雷斯表示,这个新的AI咨询机构是跨学科的,将解决与国际AI治理相关的问题。

此外: 生成式AI正在无处不在

该机构目前有39名成员,包括来自政府机构、私人组织和学术界的代表,例如新加坡政府的首席AI官员、西班牙数字化和AI国务秘书、索尼集团的首席技术官、OpenAI的首席技术官、斯坦福大学其国际政策中心的国际政策主任以及中国政法大学数据法研究所的教授。

在过去一年中,随着聊天机器人、语音克隆和图像生成器等应用的出现,AI展示了其带来重大可能性以及潜在危险的能力,古特雷斯指出。

他说:“从预测和应对危机,到推出公共卫生计划和教育服务,AI可以放大和扩展政府、民间社会和联合国的工作。对于发展中国家而言,AI为跳跃式增长过时技术并直接为最需要的人提供服务提供了可能。”

此外: 商业中的生成式AI: 行业正在改变业务方式的5种方式

他补充说,AI也可以帮助推动气候行动和实现联合国的17个可持续发展目标。 他说:“但是,所有这些都取决于对AI技术的负责开发和对所有人的开放,包括最需要它们的发展中国家。目前,AI专业知识集中在少数几家公司和国家,这可能加剧全球不平等并加剧数字鸿沟。”

古特雷斯指出,人们对于误导信息和虚假信息的担忧表明,AI可能进一步将偏见和歧视、监视和侵犯隐私、欺诈和其他侵犯人权的行为固化。

此外: 为什么公司必须使用AI进行不同思考,而不仅仅是为了降低成本

因此,新的联合国咨询团队是必要的,以推动关于AI治理的讨论以及如何遏制相关风险。他说,该组织还将评估各种AI治理倡议如何整合,并补充说,咨询机构将以联合国宪章中概述的价值观为指导,并努力实现包容性。

他指出,到年底,初步建议将在三个方面准备好,即国际AI治理、风险和挑战的共同理解、以及推动可持续发展目标交付的促成因素。

消费者对企业采用AI缺乏信任

然而,对于是否遵守AI使用规定的问题,人们有疑问,即使这些规定被认为是必要的。

根据技术咨询公司Thoughtworks的调查结果,56%的消费者不相信企业会遵守生成式AI法规。该研究对包括澳大利亚、新加坡、印度、英国、美国和德国在内的10个市场的10,00名受访者进行了调查。每个市场都有1,000名受访者,他们都了解生成式AI。

也: 机器学习帮助这个公司提供更好的在线购物体验

当90%的人相信政府法规是必要的,以便让机构对其应用AI的方式负责时,消费者对业务合规性的不信任明显可见。

93%的消费者担心生成AI的道德使用,并且71%的人对企业未经同意使用其数据表示担忧。另外,67%的人对与虚假信息有关的风险感到焦虑。

还有: 生成AI将远远超越ChatGPT能做到的。这里有关于这项技术进展的全部内容

42%的消费者更有可能购买使用生成AI的公司的产品,而18%的人则不太愿意这样做。

在那些可能从生成AI采用者那里购买的人中,59%的消费者认为企业可以利用这项技术推动更大的创新,51%的人希望企业在客户支持方面提供更好的体验和更快的服务。

64%的消费者认为缺少人性化的接触是他们不太可能从使用生成AI的企业购买的原因,而48%的人提到了数据隐私的担忧。

总体而言,91%的消费者在数据隐私方面表示担忧,特别是关于他们的信息如何被使用、访问和共享的问题。

还有: 我正在使用ChatGPT帮我更快地修复代码,但代价是什么?

Thoughtworks的首席AI官Mike Mason表示:”消费者足够聪明,能够意识到该技术的潜在滥用风险,其中包括隐私侵犯、知识产权侵犯、失业或客户体验恶化等问题。”

“在这些担忧的核心是企业不会透明地使用生成AI技术,” Mason说道。

“对于一些消费者来说,政府监管被视为减轻生成AI不端使用的最佳手段,但政府监管存在固有问题:我们经常看到监管机构难以跟上技术的步伐。

他呼吁企业带头并以”负责任的方式”拥抱生成AI,以利用消费者对该技术的热情,而不是依赖于法规。