上海人工智能实验室主任周伯文:人工智能的发展存在安全和性能的失衡

极客网4日讯,在2024WAIC上,上海人工智能实验室主任、首席科学家周伯文表示,目前的AI发展是失衡的,在AI安全方面的提升要远滞后于AI性能。而可信AGI(通用人工智能)要兼顾安全和性能,需要平衡AI安全和能力的投入。目前上海人工智能实验室正在探索可信AGI的因果之梯,包括泛对齐、可干预、能反思三个层面。(记者 黄心怡)
极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。