7月27日消息，360集团创始人周鸿祎在其官方微博发文感谢2022年新智者大会组委会邀请，并撰文就AI武器、人工智能安全等发表了自己的看法。
周鸿祎表示：
当年阿西·莫夫在讲“机器人三原则”的时候，有一个重要的原则，就是机器人不能伤害人。今天看来，这一原则已被打破，实际上各种无人战车、无人飞机，已经应用在战场上。
在今年的俄乌冲突中，乌克兰军队就使用了美国的弹簧刀无人机，此无人机具备监视、侦察和打击功能，在AI的加持下，单兵就能熟练掌握。虽然弹簧刀无人机可能还是在被遥控，最后打击的瞬间可能还是由人来下指令。但是从人下指令，到AI自动识别、自动判断、自主发起攻击，我觉得就是一层薄薄的窗户纸。尤其在AI与武器结合方面，世界各国都在展开军备竞赛，这也将是未来大国角力的焦点。所以，把AI武器最后的决定权交给人类，让人来做最后的控制至关重要。我认为人工智能最后的底线必须是人。
现实中，人工智能安全在社会伦理面前，还会面临超出现有社会法律和道德规范的风险难题。比如说，经典的电车选择难题，以及我们该如何认定无人驾驶车出事以后的责任。
公路上自动驾驶的汽车，如果它选择避让行人，就可能会撞上旁边障碍物，导致车主人身伤亡；如果它不避让，就会导致行人伤亡。这种情况下，AI程序该如何来做出判断。此外还需要考虑一个问题，如果出了车祸，这个责任到底该谁来负？应该算是AI的？算是车厂的？还是算驾驶员的？这些AI安全难题，目前都还没有一个明确的答案。
运行AI需要算力，算力需要大数据等基础设施。但如果数据中心，云服务都被终止，那么各种无人机，自动驾驶坦克等就失去了重要的大脑。俄乌冲突中就上演了这一幕。
西方国家对俄罗斯采取了“六断”（断网、断供、断服务、断证书、断域名、断舆论），包括说微软、IBM和甲骨文这些公司对俄停止SSL证书，停止域名解析，停止互联网接口，中断国际传输网络，停止了各种软件跟服务，芯片和硬件供应商，比如英特尔对俄断供，甚至包括脸书、推特等就彻底把俄罗斯的很多帐号给禁掉，彻底将俄孤立，甚至试图把俄罗斯在数字化的世界里彻底抹去。而俄罗斯由于缺乏市场化的数字产业支撑，算力、产品和服务的基础被掣肘，完全处于被动挨打的境况。这充分说明数字安全能力落后也会挨打。
人工智能安全问题也是其发展中面临的重要挑战，其中AI算法可能被欺骗、被误导。谷歌曾经有一个AI算法，把黑人识别成“猩猩”，惹出很大风波。现在一些人工智能漏洞挖掘团队还发现：当人走在街上，面对满大街能够进行人脸识别的人工智能摄像头，只要穿上特殊条纹或者特殊图案的T恤，摄像头就会认为你不是一个人，也不会对你做面部识别，从而令你实现科幻小说所提的“隐身”效果。
360是一直高度重视人工智能安全的，并构建起人工智能安全能力体系。其中，360对自身积累的全球最大的安全大数据进行AI分析，形成了360云端安全大脑原型，为行业或企业提供强大的数据和情报支撑，对网络威胁进行有效分析、溯源；同时积极承担“安全大脑国家新一代人工智能开放创新平台”的建设；此外还牵头研发的“人工智能安全测评与风险监测预警平台”入选工信部“人工智能产业创新任务揭榜单位”名单。尽管如此，面对诸多的人工智能安全问题，仅靠一家企业不能解决所有威胁，所以注重生态合作很重要。我们愿意开放自身安全大数据，将产学研力量联合起来，共建AI安全生态，集中推动数字安全的创新。
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。