Wikimedia
在人工智慧应用热潮兴起的同时，安全议题更是被关注的焦点之一，英国首相Rishi Sunak宣布将主办第一届全球人工智慧安全高峰会，希望透过汇集主要国家、科技公司和研究人员，共同商定安全措施，以评估和监测人工智慧可能带来的重大风险。
专门研究人工智慧安全的非营利组织Center for AI Safety，日前发表了一份声明，并获得包括人工智慧研究机构OpenAI、DeepMind等高层的签署。Center for AI Safety认为，人工智慧可能会带来人类灭绝的危机，其风险规模相当於流行病与核武战争等事件。另外一个非营利组织未来生活研究院（Future of Life Institute），也发表声明希望全球组织能暂缓高阶人工智慧系统的研发，至少6个月。
无论是商界、学术界与各国政府，皆对人工智慧的安全存在疑虑，英国计画在秋季时，举办全球性高峰会，探讨人工智慧的风险，并且讨论如何透过国际协调的方式降低这些风险，这个全球峰会同时也是对各国提供一个统一平台，能够共同制定降低人工智慧风险的方法。
在高峰会之前，Rishi Sunak已经开始动作，与各方重要相关人士会面，包括G7所有成员，并且在该议题上已经取得共识，Rishi Sunak还举行圆桌会议，与OpenAI、DeepMind与Anthropic等重要人工智慧研究机构执行长，就相关议题交换意见。
Rishi Sunak也与美国总统Joe Biden会面，讨论两国科技与经济的夥伴关系，计画包括对英国和美国大学理工科研究生提供奖学金，以强化英美在全球的科技领导地位。
