产品
资讯
全国客服热线:400 0536 889
公司新闻
环球软件实时准确的提供公司在数字城市、智慧城市、数字政府、智慧医疗、智慧农业、智慧应急、智慧交通、数字建筑等领域的新闻事件与报道。 
了解更多 >
公司新闻
媒体报道
媒体报道板块,提供环球软件在数字城市、智慧城市、数字政府、智慧医疗、智慧农业、智慧应急、智慧交通、数字建筑等领域相关媒体报道,让您更全面了解我们。 
了解更多 >
媒体报道
行业动态

行业资讯板块,为客户读者提供数字政府、数字城市、数字社会、数字乡村建设领域的最新资讯。

了解更多 >
行业动态
服务
顶层设计与咨询规划

环球软件为客户提供从IT基础设施构建到客户业务应用全生命周期的建设咨询,同时,提供业务、数据、应用和技术蓝图,为客户的信息化建设提供中长期规划,面系统地指导信息化建设,以满足其可持续发展需要

了解更多 >
顶层设计与咨询规划
加强顶层设计规划,推进标准规范
项目管理服务

环球软件通过在业内大量项目的管理案例,培养了一支具备高度客户服务意识的项目管理团队,并通过内部专业化的项目管理体系予以指导、规范与监控,为用户提供客户化的项目管理服务,致力于在整个项目管理过程中交付高质量、高客户满意度的交付物,最终实现项目目标。

了解更多 >
项目管理服务
系统集成服务

环球软件提供基于服务器、软件、硬件、存储、网络于一体专业服务,系统集成服务能够帮助客户解决现有问题,并针对现有平台架构进行优化。环球软件承揽了多项系统集成工程,建立了一整套高级的工程管理体制,在系统集成工程的管理和施工方面,积累了丰富的经验。

了解更多 >
系统集成服务
软件开发服务

环球软件致力于为广大客户提供完善的软件开发服务。我们提供强大的技术研发团队,完善服务贯穿整个开发过程,包括:需求分析、产品设计、软件开发、测试、交付等。环球软件拥有通过CMMI-5级认证的软件开发成熟度模型,通过采用“大物移云智”技术,协助客户加速新产品开发或升级产品的推出,并保证质量,有效管理开发成本,从而助力客户实现业务目标。经过多年的经验积累,公司已经形成了一套成熟的软件项目开发流程和质量保证体系,保证了软件开发的有效性。

了解更多 >
软件开发服务
IT运维服务

环球软件对用户现有的信息系统基础资源进行监控和管理,及时掌握网络信息系统资源现状和配置信息,反映信息系统资源的可用性情况和健康状况,创建一个可知可控的IT环境,从而保证用户信息系统的各类业务应用系统的可靠、高效、持续、安全运行。

了解更多 >
IT运维服务
完善的服务保障体系

保障“售前、 售中、售后”一体化、全过程的服务是我们的宗旨。拥有多年技术服务经验的技术支持团队,400呼叫中心提供7*24小时不间断服务响应,快速响应并全方位地为您解决问题,让您无后顾之忧。

了解更多 >
完善的服务保障体系
环球软件招聘软件研发、营销精英人才啦
招聘
全国客服热线:400 0536 889
社会招聘
诚·载未来,才·领天下
了解更多 >
社会招聘
环球软件招聘软件研发、营销精英人才啦
校园招聘
你的潜力,是改变世界的动力
了解更多 >
校园招聘
环球软件招聘软件研发、营销精英人才啦
福利待遇
了解更多 >
福利待遇
环球软件招聘软件研发、营销精英人才啦
我们
公司简介
山东环球软件股份有限公司是高校创办、国资控股、新三板挂牌的高新技术企业,专注于新型智慧城市建设,为客户提供从顶层设计、项目咨询到产品和技术服务的整体解决方案。
了解更多 >
公司简介
环球软件-业内领先的智慧城市建设整体解决方案提供商
企业文化
核心价值观:高效、专业、团队、创新、诚信、共赢
了解更多 >
企业文化
荣誉资质
承载荣誉,砥砺前行
了解更多 >
荣誉资质
渠道合作

环球软件与业内优势企业紧密协作,开展深层次、多领域的战略合作,共同构建智慧城市大生态。

了解更多 >
渠道合作
联系我们
热线:400-0536-889
了解更多 >
联系我们
证券代码:871907
产品
智慧医疗 数字农业 数字政府 工业智能 数字建筑 数字办公 数字纪检
资讯
公司新闻 媒体报道 行业动态
服务
顶层设计与咨询规划 项目管理服务 系统集成服务 软件开发服务 IT运维服务 完善的服务保障体系
招聘
社会招聘 校园招聘 福利待遇
我们
公司简介 企业文化 荣誉资质 渠道合作 联系我们
公司新闻 媒体报道 行业动态
首页 > 资讯 > 行业动态
AI一路狂奔,“安全阀门”不可缺
发布时间:2024-11-02 点击数:310


2023年,ChatGPT聊天机器人程序火出圈,越来越多的人开始对人工智能(AI)的功能和使用产生兴趣。今年初,Sora一段“文生视频”再次爆火,通过一段文字描述,AI可以生成60秒钟的高清视频。人工智能的能力正在不断突破人们的想象。
然而,技术大爆发永远是一把双刃剑。不少科学家担心:在不久的未来,人工智能技术会超越人类的智慧,甚至会失控造成严重后果。他们呼吁,应该把防范人工智能带来的风险作为全球优先事项。
正如这些科学家所担心的那样,随着生成式人工智能技术的发展和普及,技术门槛大幅降低,为不法分子提供了机会。2024年6月,公安部网安局披露了多起涉及人工智能技术的深度伪造典型案例。其中一起案件为犯罪嫌疑人白某某利用人工智能软件,对被害人的图片进行所谓的“一键去衣”处理,批量生成了近7000张淫秽图片并通过网络进行贩卖。
目前人工智能带来的威胁大致可分为数据隐私与安全、虚假信息与虚假内容传播、知识产权侵权、模型偏见与歧视、安全漏洞与攻击等几类。以数据隐私与安全为例,生成式人工智能模型通常需要大量的数据进行训练,这些数据可能包括个人隐私信息,如医疗记录、个人照片、社交媒体内容等。这些数据一旦泄露或被不当使用,可能导致隐私泄露、身份盗窃等问题。
除了这些可以明显感知到的风险,未来,还可能有更多“未知风险”,乃至技术失控风险。面对AI的一路狂奔,应从法律、技术、伦理等多方面设置“安全阀门”,及时防范人工智能带来的风险。

在位于安徽省芜湖市的“中国视谷”展厅,工作人员为参观者介绍一款智能焊接机器人 肖本祥 摄

在法律层面,我国已经先后出台了系列法律法规,包括《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《科技伦理审查办法(试行)》《人工智能生成合成内容标识办法(征求意见稿)》《生成式人工智能服务安全基本要求(征求意见稿)》《生成式人工智能数据标注安全规范(征求意见稿)》等规章、标准或草案。
在上述规章标准的基础上,我国近年逐步建立起算法备案、大模型备案和伦理审查登记等制度,作为AI安全治理的主要抓手。未来,还需通过完善相关法规,加强对AI生成技术的约束和规范,督促服务提供者和网络平台承担起应有的法律责任,为AI生成内容添加显著提示标识,禁止生成和发布涉及违法违规、侵权欺诈的内容,从根源上消除可能造成的危害和不良影响。
人工智能这项技术的特殊性在于,其存在脱离人类控制等极端风险,因此,除了政策法规监管之外,安全技术的发展是让AI不脱轨的另一项重要保障。
无论是从研究的体系化程度、人才密集度、商业驱动力、算力的投入度等方面来看,AI模型安全能力方面的提升,还远远落后于性能的提升。所以,技术层面上,要加大对AI安全方面的投入,强化数据安全、隐私保护等技术的研发,加强对人工智能算法与模型的可溯源研究和审查评估研究,运用技术手段反制和鉴别人工智能所生成的内容,努力打造安全可信的人工智能。
在伦理层面,要把严格的伦理规范贯穿技术研发全过程。科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范,人工智能技术的发展需要遵循伦理先行、敏捷治理的要求,加强伦理风险预警与跟踪研判,及时动态调整治理方式和伦理规范,以实现负责任的创新。人工智能技术研发人员要坚守科技伦理底线,发现违背科技伦理要求的行为,要主动报告、坚决抵制。
人工智能的未来充满不确定性。面对人工智能带来的风险,我们要保持理性和审慎的态度,既充分发挥人工智能的优势,又最大限度地减少其可能带来的负面影响,让人工智能成为推动人类社会发展的强大动力。


上一篇:国家数据局:实施“国有企业数据效能提升行动”,加快构建国资央企大数据体系与产业转型升级 下一篇:数字政府一体化要平衡好“分”与“合”
了解更多行业产品解决方案,欢迎致电咨询
400 0536 889
环球软件官方微信

保持联络


合作一下

18601942749

关注环球

回到顶部

©2021版权所有 山东环球软件股份有限公司

鲁ICP备11020473号 

 鲁公网安备 37078302000377号