7月26日,世界人工智能大会(WAIC)在上海正式开幕。图灵奖与诺贝尔奖得主、“AI教父”杰弗里·辛顿(Geoffrey Hinton)在科学前沿全体论坛上发表重要观点,称当前多模态AI聊天机器人在某种意义上“是有意识的”,并呼吁各国尽快共享使AI“善良”的技术。

与上海AI Lab主任周伯文的对话中,辛顿指出,意识或主观体验的定义存在普遍误解。他通过1987年论文中的经典案例类比说明,人类对某些概念的理解可能存在系统性偏差。他强调,AI模型在某种程度上确实具备“主观体验”,尤其是在其以机器人形式进入现实世界后,能够从自身经验中学习。
辛顿指出,让AI“聪明”和“善良”是两个不同的问题,需要不同的训练方法。他建议各国应优先共享使AI“善良”的技术,即使在“智能”技术上存在竞争。
谈及AI安全问题,辛顿警告称,随着AI变得越来越智能,现有的控制手段可能失效,因此必须加大对AI向善技术的研究力度。他将人类与AI的关系比作“养小老虎当宠物”,强调人类必须找到方法训练AI,使其不威胁人类生存。
在对年轻研究者的建议中,辛顿鼓励他们关注那些“其他人可能都做错了”的领域,并坚持自己的判断,直到真正理解对错。他表示,坚持好的直觉是实现重大突破的关键。
辛顿当天上午在主题演讲中也围绕AI安全发表看法,认为人类与大语言模型有相似之处,并强调全球合作应对AI风险的重要性。

作为卷积神经网络的奠基人之一,辛顿被誉为“AI教父”,其研究成果为以ChatGPT为代表的AI技术跃进打下基础。2024年,他与约翰·霍普菲尔德共同获得诺贝尔物理学奖。
本届世界人工智能大会以“智能时代 同球共济”为主题,共举办超百场专业论坛,吸引全球1200余位专家、12位图灵奖与诺奖得主参会,大会将持续至7月28日。