不失望鼎利的声明,它是全球AI安全斗争的可靠起点

不会让你失望的声明:它是全球AI安全战斗的可靠起点

“布莱切利宣言”本身并不像“图灵的拟人机”那样具有颠覆性。毫不奇怪,在会议前夕发生了一连串的游说活动,它基本上只是很好地展示了28个国家(以及欧盟)对于人工智能的承诺和风险的理解。

这份公报谈到了“与人类意图的一致性”的重要性,并指出我们确实需要更好地了解人工智能的全部能力。它指出了“严重甚至灾难性的伤害,无论是故意还是非故意”的潜在可能性,但同时也承认“人权保护、透明度和可解释性、公平性、问责制度、监管、安全性、适当的人类监督、伦理、偏见缓解、隐私和数据保护”都需要解决——虽然这些只是笼统的概述,但它们已经承认了许多人对人工智能在即时影响方面的担忧,而非对未来一个流氓的通用人工智能的神秘恶意行为的担忧。

这份文件宣布,公民社会必须在人工智能安全方面发挥作用,尽管公民社会团体抱怨他们被排除在峰会之外。构建“前沿”人工智能系统的公司“对确保这些人工智能系统的安全性具有特别的责任,包括通过安全测试系统、评估以及其他适当的措施来确保安全。”

这份声明中没有多少具体的承诺和切实可行的措施,这也是你可以从一个既是首次,又是在冲突中的伪友邦和直接竞争对手之间进行妥协的声明中期待到的。这些国家有不同的任务和法律体系,如美国、英国、欧盟和中国。

英国评论员们已经注意到美国决定利用这次峰会宣布成立自己的人工智能安全研究所,他们认为这掩盖了英国首相里齐·苏纳克最近宣布成立英国人工智能安全研究所的光芒。但我并不这么认为——白宫特别强调美国研究所将与英国的合作,所以我真的看不出这个情况下有谁会是输家。

至于中国,英国政府一直希望中国能参与这次峰会,但保持距离——副首相奥利弗·道登赞扬了中国的参与,但也表示“在我们与志同道合的国家共同合作的某些场合,可能不适合中国加入。”

《金融时报》还指出,参加峰会的几位中国学者联名呼吁采取比“布莱切利宣言”或者上周美国总统乔·拜登的行政命令中包含的措施更加严格的措施来应对人工智能对“人类生存的威胁”。这还不是中国的正式立场,但这可能暗示着中国的方向。随着美国和中国争夺所谓的人工智能霸权,这个领域肯定存在许多不和谐之处,无论那意味着什么。

所以,并不是所有人都完全统一,但这从来就不会是现实。我认为这是国际合作在一个新课题上的一个有前途的开始——在今年之前,很少有人把这个当作一种严重威胁。至关重要的是,这些峰会将定期举行;下一个将在韩国举行,六个月后,然后在一年之后,法国将再次举办一次。让我们只是希望这些活动能够像布莱切利宣言所承诺的那样包容。

更多新闻见下文。

大卫·迈耶

想要给“数据简报”发送想法或建议?请点击此处。

值得关注的新闻

重要数据

60%

根据一份YouGov为反错误信息组织NewsGuard进行的调查,美国的X用户中错误地认为蓝勾认证意味着账号真实性的比例为。此调查还发现,16%的人认为“认证”表示更高的可信度,而实际上它只表示愿意支付该符号的意愿。

如果你错过了以下内容

Steve Ballmer从比尔·盖茨的助手开始,现在正在成为比他的曾任微软老板更富有的人,作者: Christiaan Hetzner

代表纽约时报和其他2200家机构的团体刚刚发布了一份关于ChatGPT和LLMs构成违法剥削的严厉77页白皮书,作者: Paige Hagy

谷歌和政府一致认为它多年来一直隐藏了其人工智能主导地位,只是对原因有不同看法,作者: Bloomberg

因为诺基亚表示已在全球各地法庭起诉亚马逊,声称其已投资数十亿美元用于专利技术,而这家零售巨头却免费使用了这些技术,作者: Prarthana Prakash

特斯拉说服陪审团,其自动驾驶并非导致首起将死亡归咎于该技术的诉讼的原因,作者: Bloomberg

耶鲁大学科学家的研究发现,当你参加一个Zoom会议时,你的大脑活动实际上会下降,作者: Orianna Rosa Royle

在你离开之前

而今年的年度词汇是… AI。它一直都是AI。现在,根据柯林斯词典的说法,是的。顺便说一句,该词典的定义是:“通过计算机程序模拟人类的思维功能。”

其他入围的词汇包括“去影响力”,“贪婪通胀”和“小名人宝宝”,后者是两个词。2022年柯林斯年度词汇是“永久性危机”。预计其他词典将在接下来的几周内发布他们的年度词汇。