欢迎访问泰山网科技频道 泰山网 | 泰安市科技局 | 泰安民生网

智能+?#20445;?#26356;应重视安全挑战

添加时间03月25日
人工智能技术和应用飞速发展在推动经济社会创新发展的同时也带来安全伦理法律法规等方面的风险挑战


观众在首届中国国际智能产业博览会上体验医疗人工智能产品新华社发

人工智能技术和应用飞速发展在推动经济社会创新发展的同时也带来安全伦理法律法规等方面的风险挑战

随着数据越来越多被收集应用场景增加用户个人信息泄露的风险也随之提升

人工智能的研究和应用要?#26032;?#29702;和法?#23665;?#38480;即应以人类的根本利益和责任为原则

刚?#25112;?#26463;的全国两会上拓展智能+首次被写入今年的政府工作报告作为未来的重要基础性技术人工智能已连续三年出现在政府工作报告中可以预见随着人工智能大数据的深入应用生产生活的数字化转型是大势所趋

人们在拥抱人工智能迈向数字社会的同时也需要正视人工智能等新技术应用在安全伦理法律法规社会治理等方面的挑战只有未雨绸缪研判和防范潜在风险才能安享智能+的时代红利

人工智能应用方兴未艾同时也带来安全风险隐患

?#23433;?#20037;一项人工智能深度换脸技术引发争议原来这项技术能做到几乎毫无痕迹地给视频中的人物换?#22330;保?#24341;发人们对隐私和肖像权被侵犯的担忧更深的担忧在于如果这一技术被滥用是否意味着大量视频会被移花接木?#20445;?/p>

今年全国两会上人工智能大数据等技术应用带来的安全风险成为代表委员关注的焦点之一全国政协委员360集团董事长兼首席执?#27844;?#21608;鸿祎就表示安全应该成为人工智能发展的基础与前提全国人大代表苏宁控股集团董事长张近东也提出数据安全是数字中国建设的重中之重发展高质量的数字经济需要加强对数据的安全保护和合规共享

从信息安全角度看当前人工智能应用的安全风险点主要有哪些

中国信息通信研究院移动安全联盟秘书长杨正军?#25285;?#20154;工智能高度?#35272;?#28023;量数据的采集和训练?#27835;?#38543;着数据越来越多被收集应用场景增加用户个人信息泄露的风险也随之提升

人工智能算法不仅能直接采集用户个人信息也会深度挖掘?#27835;?#30475;似不相关的数据杨正军介绍他们开展的一项调研显示当前滥用个人信息现象较为普遍同时人工智能及大数据场景下无所不在的数据收集专业化多样化的数据处理技术使得信息主体难以?#31169;?#25511;制其信息是如何被收集和利用的信息安全保护已经成为人工智能发展的重要课题

专家表示技术本身是中性的只要利用得?#20445;?#20154;工智能也能用来提升网络安全水平比如人工智能在识别恶意代码方面就很有优势

?#26412;?#31070;州绿盟科技有限公司安全研究员吴子建?#25285;?#24694;意代码往往是基于一些开?#21019;?#30721;修改而成它们通常有相?#39057;?#34892;为模式借助人工智能技术训练的检测工具能够比较高效地发现恶意代码

人工智能技术也普遍用于企业内网安全防护吴子建介绍传统的防护手?#38382;?#22312;网络的入口处设置防御措施但内网之间很少进行防御采用人工智能等技术手段关联数据可以有效检测内网中的异常与传统的方法相比这种方法不仅能发现已知威胁还可以检测到未知风险

吴子建认为业内还需要做更多深入的研究?#27426;?#25552;升人工智能在安全防护上的价值

应提前研判智能时代的法律伦理风险引导人机良?#38498;?#20316;

人工智能的应用越来越多衍生出一系?#26032;?#29702;法律难题比如无人驾驶汽车发生交通事故时如何界定责任医疗外科手术机器人出现意外怎样处置

人工智能的研究和应用要?#26032;?#29702;和法?#23665;?#38480;即应以人类的根本利益和责任为原则以实现人类根本利益为终极目标这一要求也是人工智能和人的关系决定的中国人民大学法学院副教授郭锐认为

当前技术条件下智能机器尚未具备伦理决策的能力但其决策会引发?#26032;?#29702;意义的后果郭锐认为通常法律针对的是能够遵循这些原则的主体也就是自然人或者法律看作是主体的组织法人但考虑到人工智能的特征是对人的智能的模拟延伸和扩展因此伦理原则应当?#35270;?#20110;人工智能系?#22330;?/p>

?#26412;?#24072;范大学哲学学院教授田海平认为人工智能的主体构成不是孤立的个体而是多种关联形态的总和人工智能的构成主体分为研发者包括算法的开发者生产商运营商电信网络服务商等一旦发生交通或医疗事故由于无法?#19994;?#26576;个?#33539;?#30340;责任主体给责任界定带来很大困难因此需要确立代理人来界定责任与权利

近年来学界和产业界日益重视人工智能中的伦理与法律问题并推动制定相关技术标?#25216;?#31038;会规范专家表示人工智能伦理法律涉及科学界企业界哲学法学等多个领域有必要成立应对人工智能发展的联盟组织吸纳各方面的力量共同推进相关研究

郭锐建议要考虑到人工智能开发和部署过程中的权责归属通过为技术开发者产品生产者或者服务提供者使用者界定权利和义务让自动驾驶无人机等人工智能应用安全落地

专家表示人工智能大规模进入人们生活之前还应建立相对统一的风险评估指标体?#25285;?#35774;立具体可操作的指标为相关研究及应用提供指引

专家特别提醒人和机器各有优势要互相?#31169;?#25165;能实现人机协作但人还是人机关系的主导者惟其如此才能将人工智能引向人机合作的良性发展道路

全球人工智能法律治理面临共同难题当前应加强个人隐私安全管理

针对人工智能应用在安全伦理等领域的潜在威胁世界各国已经开始了相关法律治理研究

杨正军介绍各国对人工智能风险的关注重点和重视程度有所不同以安全为例美国关注人工智能对国家安全的影响2018年3月美国国会发起提案建议成立国家人工智能安全委员会并将制定相关法案?#35775;?#21644;英国关注人工智能对隐私就业及伦理的影响?#27426;?#32599;斯以色列印度则重点关注人工智能在国防领域的应用以及对军事安全的影响

?#26412;?#24072;范大学刑科院暨法学院副教授中国互联网协会研究中心秘书长吴沈括表示在规范人工智能发展方面我国起步?#26174;?017年7月国务院颁布新一代人工智能发展规划2017年12月工信部发布促进新一代人工智能产业发展三年行动计划20182020年都对人工智能产业的规范发展提出了要求

这些政策能够引导和助推相关产业的发展关于人工智能技术标?#36857;?#25105;国也发布过一些文件?#27426;?#24403;前立法中对于人工智能带来的安全问题还存在比较大的空白这也是全球人工智能的法律治理面临的共同难题吴沈括说

随着人工智能应用的深入其附属的相关风险也日益凸显加强对人工智能相关的法律治理至关重要人工智能法律治理呈现出哪些趋势现实中又有哪些需要迫切注意的问题

吴沈括认为人工智能立法治理上可能会呈现出三个趋势一是立法将更加细化更有针对性比如针对自动驾驶机器人生物识别等领域颁布一些规范性文件立法监管也会更加多元?#27426;?#26159;立法将与产业特?#36234;?#23494;结合三是立法将以规范为主监管则重在为产业发展提供指引

由于法律往往存在?#27426;?#30340;滞后性考虑到人工智能等新技术应用前景广阔立法需要预留?#27426;?#30340;空间尽量实现产业应用与风险前瞻的恰当平衡在?#33539;?#30417;管什么内容如何监管以及怎样执行时要把握好力度不宜影响产业的发展活力吴沈括说

杨正军?#25285;有?#19994;调研情况来看当前应该加强个人隐私安全管理他建议隐私保护应从立法监管和技术能力提升两方面入手?#29615;?#38754;针对我国个人信息保护法律条款分散不成体系的现状加快统一立法明确数据不当收集使用泄露等的责任同时也要界定好数据归属权等问题另?#29615;?#38754;应加强新技术在个人隐私保护方面的应用

数据的合理合法收集是数据利用的前提专家表示我们不应回避智能化与隐私安全保护的冲突而应积极作为?#19994;?#26234;能时代技术应用与风险防护的最大公?#38469;?#20026;智能生活保驾护航

科技服务
友情链接
{ת}