走好AI时代这三步 更“好用”、防“滥用”、求“善用”

时间:2024-12-22 13:51:28  来源:新华社

分享到微信朋友圈

打开微信,点击 “ 发现 ” ,使用 “ 扫一扫 ” 即可将网页分享至朋友圈。

走好AI时代这三步 更“好用”、防“滥用”、求“善用”

滥用人工智能技术,AI换脸和拟声是“重灾区”

从自主学习“进化”到模拟真实世界,2024年人工智能(AI)正在开启“裂变式”发展之路。业内最新预测认为,人类数据的增加速度开始跟不上AI的发展需要了。

是聊天搭子,也是工作帮手;能自动驾驶,还能分析病情——AI技术飞跃,始终伴随着千家万户的应用,也迅速为千行百业“赋能”。

专家提醒,AI“能用”更要“好用”,防“滥用”进而求“善用”,让更多人感受科技创新的速度和温度。

更“好用”:有望成为基础设施

76秒,是一辆小米SU7汽车走下流水线的平均时长。

从1016万种金属配方里,快速筛选出合适的车身材料;381个巨大机械臂灵活地焊接、装配,90多个物流机器人有条不紊穿梭……在AI“指挥”下,智能工厂正在成为现实。

从会看、会听、会说,到会学习、会行动、会思考,随着ChatGPT、Sora以及国内多个大模型相继问世,AI技术日益显现出颠覆性创新的特征。

甚至从0到1的创新,也可以借力。人工智能驱动的科学研究,正在成为一种新范式,应用于物理学、化学、生物学、天文学等多个领域。

在北京大学计算机学院教授、北京智源人工智能研究院理事长黄铁军看来,AI大模型将处理更复杂、更精细的任务,并产生意想不到的新能力,未来将像水网和电网一样,成为社会的基础设施。

防“滥用”:安全技术加快研发

站在摄像头前,选择想“换脸”的模版,轻点鼠标,屏幕上立马出现另一个人,实时同步嘴型、表情和动作。

滥用人工智能技术,AI换脸和拟声是“重灾区”。一年多来,内蒙古、陕西等多地曾发生此类电信网络诈骗案。犯罪分子通过AI换脸和拟声技术,冒充受害者的亲朋、同事,涉案金额高达上亿元。

中国科学技术信息研究所战略研究中心主任徐峰表示,除了恶意使用深度合成技术生成文字、音频、视频等,滥用人工智能的风险还包括引发学术造假、放大偏见歧视、技术不可控等。

应对人工智能带来的安全风险,黄铁军认为,还需要加强对AI安全技术的研发与投入,有效应用技术手段,对潜在风险进行监测、识别、隔离、消除。

求“善用”:推动AI技术造福人类

今年7月,人力资源社会保障部将19个新职业、28个新工种纳入国家职业分类大典,智能网联汽车测试员、智能制造系统运维员等“数字职业”亮相。

AI技术迅猛发展,是加速“机器换人”,还是创造更多全新的就业岗位?如何既推动建立“以人为本”“智能向善”的发展生态,也为新技术安装上必要的“刹车”?

清华大学文科资深教授、国家新一代人工智能治理专业委员会主任薛澜表示,人工智能治理有两个核心内容:一个是发展问题,即如何构建良好的制度规则,推动人工智能创新发展、科技向善;一个是安全问题,包括保证安全底线和防范其他风险。

“处于智能时代的十字路口,我们要积极引领人工智能技术发展走向造福人类的正道。”中国科学院科技战略咨询研究院院长潘教峰说。

编辑:呼乐乐

网站简介 |  本网动态 |  友情链接 |  版权声明 |  我要投稿 |  联系我们 |  工作邮箱 | 不良信息举报 | 中国互联网联合辟谣平台
本网站法律顾问:陕西洪振律师事务所主任 王洪
陕ICP备07012147号 互联网新闻信息服务许可证:61120170002
信息网络传播视听节目许可证:2706142 陕公网安备 61011302000103号
地址:陕西省西安市长安南路336号 联系电话:029-85257337(传真) 商务电话:029-85226012 投稿邮箱:news@cnwest.com
Copyright ©2006- 西部网(陕西新闻网) WWW.CNWEST.COM, All Rights Reserved.