当前，随着生成式AI、大模型等创新技术竞相涌现，人工智能前沿技术正在持续迭代发展，广泛应用于千行百业，产业规模快速增长。作为新一代科技和产业变革的重要驱动力量和发展新质生产力的重要引擎，人工智能的发展趋势备受全球瞩目。
10月23日上午，2024年世界科技与发展论坛“人工智能治理创新为培育科技治理生态构建国际信任基础”主题会议在北京科技会堂召开。全球顶尖专家学者、国际组织代表和企业领袖齐聚一堂，共同探讨人工智能的创新突破、产业应用、场景拓展与风险治理，旨在增进共识互信，推动形成全球人工智能治理合力，共谋人工智能领域创新发展未来。
2024年世界科技与发展论坛“人工智能治理创新为培育科技治理生态构建国际信任基础”主题会议在北京科技会堂召开。[2024年世界科技与发展论坛 供图]
在此前的开幕式上，2024年世界科技与发展论坛主席、中国科学技术协会主席万钢指出：“希望全球科技界更加重视发挥人工智能对科学研究的促进作用。构建以人工智能为基础支撑的前沿科学研究的新范式，加快培育新业态，打造新引擎。”他强调，要共同推进法律法规、标准规范的衔接与协作，建立人工智能前沿研究和技术应用的评价、教育、预警和控制机制，加强人工智能的可信性、可靠性、可控性等安全风险的评价。
技术突破激发创新潜力 具身智能引领科技新潮
在此次会议上，专家学者与企业领袖围绕人工智能的技术突破和产业化应用展开了深入探讨。世界机器人合作组织理事长、中国科学院院士乔红指出，人工智能已成为科技革命的驱动力，广泛应用于智能制造、智慧城市、医疗健康和金融服务等领域。”她发布了《2024年人工智能十大前沿技术趋势展望》，涵盖AI共性技术、大规模预训练模型、具身智能及生成式人工智能等多个方面，展现了AI技术的无限潜力与可能。
乔红表示，“人工智能的发展正以前所未有的速度推进科技进步和社会变革，无论是AI共性技术、大规模预训练模型、具身智能还是生成式人工智能等前沿领域，都充满了无限的可能和潜力。这些技术的发展不仅将为人们带来更加便捷、高效的生活方式，还将推动各行各业的创新和发展。”
北京智源人工智能研究院理事长、前任院长、北京大学教授黄铁军表示，人工智能作为机器智力，对人类社会的影响前所未有。他预测，未来几十年内，人工智能有可能全面超越人类智能。
韩中科技合作中心首席代表、韩国科技部下属软件政策研究所首席研究员金俊渊（Jun-Youn Kim）分享了韩国在人工智能领域的研究成果。他表示，当前正处于AI发展的“寒武纪大爆发”时代，每天都有数百种新人工智能服务涌现。预计到2030年，人工智能的规模将达到目前的10倍。
作为人工智能领域的前沿赛道，具身智能正逐步走进现实，也成为了本次会议的热点话题。多位专家与企业领袖围绕具身智能展开了深入探讨，展示了其在未来科技与社会发展中的巨大潜力。
乐聚机器人创始人常琳称，具身智能、人形机器人已从小众行业概念走向大众视野。“人工智能，尤其是大模型的发展，极大提升了人形机器人的泛化能力，使其通用性能显著提高，为解决机器人进入家庭等场景中的柔性工作和智能化问题带来可能。”常琳表示，“未来，人工智能和机器人技术将解放人类，让人们从繁重单一的工作中解脱，投身更多创造性工作。”
万境千寻创始人韩峰涛指出，具身智能并非新词，近年来的技术创新突破使其走入大众视野。以机器人行业为例，“核心突破在于将人工的智能转化为人工智能，不再需要人工参与每个环节，”而是让机器人通过文生图、文生动作等技术实现更加自主的任务执行。
技术进步伴随风险 安全与伦理挑战并存
人工智能的快速发展也引发了一系列的伦理问题和社会挑战，需要国际社会共同推动人工智能治理合作。
中国工程院院士、北京邮电大学教授张平指出：“生成式人工智能突破性的进展为我们人类带来便利的同时也带来一些安全和伦理的挑战。基于AIGC的身份造假，还有不当的言论问题频发。” 他介绍了其所在的AI安全治理实验室研究进展，包括通过构建通用人工智能的理论框架，从技术层面确保AI技术发展的安全可控；研发超级对齐技术，确保AI输出与人类观点、决策对齐。同时，通过可解释性和自动化评估，通过外部监测的角度保障通用人工智能技术是科技向善的。
黄铁军教授也警示了人工智能发展的潜在风险，并呼吁企业在面对商业利益与人类福祉的选择时，应以人类福祉为导向。他强调，全球范围的监管至关重要，以防止掌握先进人工智能技术的垄断企业谋取超额利益，导致社会财富集中、加剧贫富差距和社会不平等。
常琳表示，企业需承认人工智能存在风险，并以负责任的态度持续迭代和修复问题。加速进化创始人、CEO程昊指出，机器人的安全问题复杂，需关注物理安全和算法安全等方面。他提到，机器人运行中可能出现故障或算法问题，对人类造成伤害，因此需在系统层面进行安全设计，确保机器人在危险情况下及时停止运行。银河通用创始人、CEO王鹤分享了自动驾驶行业在物理安全方面的经验，强调了安全治理的重要性。
秉持人类命运共同体理念 以国际合作共筑智慧未来
针对人工智能的风险和挑战，多位嘉宾强调了国际合作与全球治理的重要性。黄铁军教授表示，人工智能力量强大，必须在国际范围内充分合作，确保其不被少数集团滥用。他直言：“国际合作探讨人工智能治理方案至关重要。这是人类共同面对的挑战，解铃还须系铃人，需用技术手段进行管理，确保其不被滥用。”
黄铁军还提到，全球科学家在人工智能技术上的共识远大于分歧。他认为，科技合作往往比政治合作更加开放，科学家们更多关注技术的应对方案，而非制造国家间的冲突。“世界科技发展论坛这样的国际交流平台，对于推动人工智能行业的发展起到了非常重要的作用，虽然当前国际形势复杂，但通过面对面的交流，很多问题都能够得到缓解，合作的机会也会因此增加。”
黄铁军表示，在构建人类命运共同体的框架下，确保人工智能的发展服务于全人类的共同福祉，这是我们必须要遵循的方向。”
常琳指出，尽管地缘政治带来了诸多挑战，但民间的国际交流依然十分活跃，全球范围内对中国技术的合作需求持续增加。“不论在哪个国家，大家都渴望与中国展开合作。中国的国企、央企、大型民营企业在国际市场上做了很多努力。我们需要克服障碍，继续推动国际合作。”
银河通用创始人王鹤则强调了国际市场的战略重要性，尤其是在人工智能和人形机器人领域。“人形机器人在全球范围内具有广阔的市场潜力。中国企业在出海过程中，需要积极融入当地市场，并且在国际市场上营造出科技向善的风气，减少摩擦。”
世界工程组织联合会前任主席龚克则强调了帮助发展中国家和地区的重要性，指出很多国际冲突源自发展的不平衡。他认为应当利用先进技术帮助发展中国家走出可持续发展的道路。“好的生产力能够推动世界走向和平。” 龚克表示。
0 
Go to Forum >>0 Comment(s)