Demis Hassabis:建立前沿AI标准机构以迎接AGI时代
DeepMind创始人德米斯·哈萨比斯发表长文,认为AGI(通用人工智能)可能将在几年内到来,其影响力将十倍于工业革命。为应对前沿AI带来的安全挑战,他提议美国建立一个类似FINRA(金融业监管局)的前沿AI标准机构,负责制定评估协议、测试模型能力(重点包括网络安全、生物威胁、agent欺骗等),并要求前沿模型在发布前30天提交测试。框架初期自愿,后期可强制执行。文章呼吁国际社会协同制定共享标准,以确保AGI安全、普惠地造福人类。