聚焦数字文明发展，构建安全可信的人工智能
来源：光明网2023-06-26 18:07
光明网讯（记者 李飞 雷渺鑫）当今世界，数字技术正全面融入人类社会的各领域和全过程，人工智能已然成为人类文明进步的一个重要标志。与此同时，数字技术如果失去了规范和约束，就可能成为“潘多拉魔盒”，给现实社会带来一定的威胁。6月26日，世界互联网大会数字文明尼山对话主论坛在山东济宁曲阜举行，大会期间，中外嘉宾围绕“构建安全可信的人工智能”议题建言献策。
人工智能将重塑数字世界
“人工智能的机遇是巨大的。但随着全球对人工智能的加速应用，政府和组织有必要考虑如何最好地利用这项技术造福人类和地球。”全球移动通信系统协会（GSMA）首席执行官洪曜庄表示，全球范围内，人工智能正逐渐崭露头角，成为一股强大的力量，有潜力改变企业和社会。
阿拉伯信息通信技术组织秘书长穆罕默德·本·阿莫表示，人工智能有着革命性的潜力，可以影响甚至改变生活的方方面面，推动创新，使生活更加便捷。例如，通过自动化提高效率、提供准确信息以支持明智决策、改善客户服务和客户体验等。
谈及人工智能的飞速发展，百度创始人、董事长兼首席执行官李彦宏也深有感触，他表示，过去一年，人工智能在技术、产品、应用等各个层面，都以“周”为迭代速度向前突进。大模型将渗透到越来越多的领域，以大模型为关键驱动的数字经济与实体经济的深度融合，将做强做优做大实体经济，创造可观的增量价值，带来经济社会发展和产业的深刻变革。
“这次GPT大模型的诞生代表着通用人工智能、强人工智能的到来，是真正的智能涌现。”360集团创始人周鸿祎认为，人工智能大模型用一套模型、一套算法解决了所有自然语言处理的问题，已经从感知进化到了认知，能够理解文字、语言，作出分析、规划，传统算法将被代替。未来在自动驾驶、机器人控制等很多重要领域，大语言模型都会大显身手。
阿里巴巴集团董事会主席兼首席执行官、阿里云智能集团董事长兼首席执行官张勇表示，最近一段时间，全球科技企业的通用大模型百舸争流，推动人工智能迈向了全新的发展阶段。他认为，大模型正在加速推动智能化时代的到来，实体经济是智能化的主战场。
“我们正在见证人工智能的加速发展。”人工智能促进协会原主席、康奈尔大学教授巴特·塞尔曼表示，GPT-4实现了通用人工智能的第一种形式，引入了一种新的实体，将不可避免地改变许多现有的社会结构和机制，人类需要重新思考人工智能将带来的影响。
人工智能带来的治理挑战不容忽视
“我们迫切需要以高度的责任感来开发和应用人工智能，确保它对整个社会产生积极的影响。”穆罕默德·本·阿莫表示，在享受人工智能带来的好处的同时，必须认清其会带来诸多社会和伦理方面的挑战，这些需要从一开始就加以解决。
人工智能大模型为人类社会发展带来普遍发展机遇的同时，也会带来许多方面的治理挑战，这些挑战不容忽视。李彦宏认为，新技术的应用往往要先于规范，只有建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德，才能营造良好的创新生态。着眼未来，在重视防范风险的同时，也应同步建立容错、纠错机制，努力实现规范与发展的动态平衡。
在周鸿祎看来，公有大模型存在缺乏行业深度、容易造成企业内部数据泄露、无法保障内容真正可信、无法使企业实现成本可控等诸多不足。他认为，大模型在企业级场景的应用要坚持“辅助模式”。而GPT大模型想要实现“安全可控”，关键在于企业能否真正把控它，要让人的意志在整个决策回路中起到关键作用。
当前，人工智能全球竞赛已经进入白热化。就此情景，张勇表示，大家都希望在其中有所作为，但相关领域的技术伦理问题仍需要厘清，在踩下油门的同时，带好安全的刹车也很重要。“人工智能技术的演进必须符合社会规范，为人类带来更多美好。我们在追求技术先进性的同时，必须坚守社会责任感。”
“构建安全可信的人工智能”逐步成为行业共识
欧洲标准化委员会和欧洲电工技术标准化委员会网络安全和数据保护联合技术委员会主席沃尔特·福美表示，人工智能标准化要想取得成功，需要各国之间有一个共通的人工智能词汇定义，这将推进对安全可信人工智能的共同理解。
企业级场景需要打造的是“安全可信、可控易用”的专有大模型。那么如何打造这样的专有大模型？周鸿祎表示，需要坚持几个原则：安全原则，企业级应用必须是安全的大模型；可信原则，以解决大模型的准确性、实时性短板；可控原则，应把大模型定位于辅助工具，确保人在回路上；易用原则，解决易用性问题需要“有灵魂的数字助理”；普惠原则，让大模型成为每个人都能使用的生产力工具。
创新中有很多不确定性，有些可以预判在前，防患于未然；有的问题在发展中出现，需要边发展边解决，用发展去解决。张勇表示，“构建安全可信的人工智能”已逐步成为行业共识，相关法律法规逐步完善，为技术和产业的可持续发展培育了良好的土壤和环境。
人工智能将引领新的一轮技术创新的浪潮，5G移动通信、工业互联网、大数据、人工智能等数字科技改变了人们生产和生活的方式。中国联合网络通信集团有限公司董事长刘烈宏表示，让所有人能够共享数字文明发展的红利和成果，是全社会共同努力的目标。
穆罕默德·本·阿莫认为，人工智能的未来是充满希望的，应围绕隐私、透明度、责任与问责、稳健性和弹性五个方面，构建安全可信的人工智能。除此之外，还应建立道德框架，并通过以人为本的设计优先考虑人类福祉，为推动构建安全可信的人工智能持续发展作出贡献。
【新闻链接】
听，古老尼山与现代智慧碰撞的声音——世界互联网大会数字文明尼山对话主论坛综述
来源：光明网-《光明日报》2023-06-27 02:40
光明日报记者 赵秋丽 冯帆 崔兴毅 光明网记者 李政葳
仲夏的尼山，一碧千顷，微波荡漾，圣水湖面上闪耀着的光芒，映射在世界互联网大会的现场，凝结成灿烂的点点智慧，引领数字文明的前行方向。
如今，人工智能正在全面融入经济社会发展的各领域，成为推动科技创新发展、产业优化升级的重要力量。人工智能时代的降临，给当下的生活既带来了不可多得的机遇，也产生了前所未有的挑战。6月26日，众多专家学者、行业嘉宾相聚世界互联网大会数字文明尼山对话，围绕“人工智能时代：构建交流、互鉴、包容的数字世界”这一主题畅所欲言，热议人工智能的发展成果和未来趋势。
共享数字文明发展红利
人工智能经过几十年算法、算力、数据方面的量变积累，加速迎来属于它的质变时刻。今年，随着ChatGPT风靡全球，普通大众的目光再次聚焦到人工智能上来。
“人工智能是对人的能力的增强和扩展，它需要具备四个基本能力，即理解、推理、学习、交互。”IBM大中华区董事长、总经理陈旭东认为，人工智能在未来几年迎来突飞猛进的发展已成定局，预计到2030年，人类的生产生活将进入全新的人机协同时代。
全球移动通信系统协会（GSMA）首席执行官洪曜庄说，人工智能将会对我们的社会产生深刻影响，改变我们互动的方式，能够让企业提高生产力，帮助政府和公共机构解决所面临的最紧迫的一些全球性挑战。
当前，5G移动通信、工业互联网、大数据、人工智能等数字科技改变了人们生产和生活的方式，让全人类都感受到数字经济带来的美好和幸福。
“让所有人能够共享数字文明发展的红利和成果，是全社会共同努力的目标，我们可以利用数字化、人工智能等技术弥补和帮助残疾人、老年人等特殊群体，帮助他们解决生活中遇到的各种困难和障碍，让数字科技的便利惠及每一个人。”中国联合网络通信集团有限公司董事长刘烈宏说。
人工智能赋能千行百业
“当前，随着人工智能技术的发展，人工智能大模型已经从感知层进化到了认知层，能够理解文字、语言，做出交流、推理。未来在自动驾驶、机器人控制等诸多重要领域，大模型也将大显身手。”360集团创始人周鸿祎说，目前产学研各界已经形成共识，大模型将会带来一场新工业革命，能够像“发电厂”一样，把从前难以直接使用的大数据原始资源加工成“电”，赋能千行百业。
人工智能技术在中国的发展，具备基础扎实、场景丰富、数实融合三方面优势。同时，构建安全可信的人工智能正逐步成为行业共识，相关法律法规正在完善，为技术和产业的可持续发展培育了良好的土壤与环境。
联合国教科文组织驻华代表夏泽翰认为，在教育领域，ChatGPT等语言大模型或将改变教育系统的运行方式，将教育提升到一个新水平，人工智能有望解决教育和学习领域的紧迫问题，确保人人享有公平、包容和优质教育。
百度创始人、董事长兼首席执行官李彦宏表示，大模型将渗透到越来越多的领域，以大模型为关键驱动的数字经济，与实体经济深度融合，将做强做优做大实体经济，创造可观的增量价值，带来经济社会发展和产业深刻变革。
“在汽车制造业，最复杂的设计环节需要经验丰富的工程师在两万多个零部件、几十万个参数里找到满足需求的各种组合，再写文档、画图纸。大模型可以高效地找到组合信息，自动生成设计文档，大幅缩减研发周期和成本。在交通领域，通过大模型技术支持的智能交通方案，可以提升交通运行效率，有效保障安全出行。”李彦宏认为，大模型将成为影响人类发展的重大技术变革，是拉动全球经济增长的引擎，是绝对不能错过的重大战略机遇。
合作互信成为应对挑战的关键
然而，在利用人工智能这股力量的同时，也不得不面对从伦理差异到伦理困境，再到可能带来新挑战的技术鸿沟等一系列问题。
因此，阿里巴巴集团董事会主席、首席执行官，阿里云智能集团董事长、首席执行官张勇认为，人工智能技术应该增进人类文明福祉，并解决真实的问题；应该有先进和稳定的技术；应该注重隐私保护和数据安全，并展现普惠、互信和尊重。人工智能技术的发展演进必须符合社会规范，为人类带来更多美好。在追求技术先进性的同时，必须坚守社会责任。
“创新中有很多不确定性，有些可以预判在前，防患于未然；有的问题在发展中出现，需要边发展边解决，用发展去解决。”张勇说。
阿拉伯信息通信技术组织秘书长穆罕默德·本·阿莫认为，应围绕隐私、透明度、责任与问责、稳健性和弹性五个方面，构建安全可信的人工智能。此外，还应建立道德框架，并通过以人为本的设计优先考虑人类福祉，为推动构建安全可信的人工智能持续发展作出贡献。
“智能可以是人工的，但智慧状态始终是人类的专属特权。人工智能的未来是充满希望的，需要良好的合作和责任。良好的合作可以避免由不平衡使用人工智能所带来的新鸿沟。”穆罕默德·本·阿莫说。
夏泽翰同样深刻感受到在人工智能领域合作互信的重要性，“大家要坚定信念，继续将人工智能视为一种工具，以之提高人类潜力，减少不平等现象，促进公平和包容的全球化。只要齐心协力，就能够确保这个重要时代的技术发展成果真正造福人类。”
《光明日报》（2023年06月27日 04版）