一个是冷酷无情的“幕后主角”MOSS
一个是多才多艺的“全能网友”
后者一经亮相,就成为了AI界“顶流”
月活跃用户估计已达1亿
成为历史上增长最快的消费者应用
围绕的讨论,可谓“铺天盖地”
今天,瑞莱智慧的首席卖萌官瑞哥
就带着好奇与这位“AI话术高手”聊了聊……
瑞哥
我们的确是一家人工智能科技公司,不过准确来说,的目标可不仅是解决人们生活问题,而是以安全、可信、可靠的第三代人工智能技术,为高价值场景智能化升级提供一站式赋能方案,最终成为安全、可靠、可控的人工智能基础设施领航者。
瑞哥
首席科学家张钹院士认为,机器人统治人类的担忧,最多只能算“远虑”,但当前人工智能存在很多“近忧”:基于大数据的深度学习算法具有不透明、不可控和不可靠等缺陷,可能给人类社会带来严重的后果。
瑞哥
实际上,人工智能不仅存在所说的隐私泄露等衍生安全风险,还存在内生安全风险。如今,发展安全的人工智能已是当务之急。作为人工智能研究者,我们把精力集中在发展以人类安全为核心的安全人工智能。
瑞哥
没错,团队就曾做过一次研究,通过特殊制作的对抗样本“纸眼镜”,攻破了数十部商用手机的人脸识别系统。目前仍在不断探索“攻”与“防”,持续提升人工智能的安全性。的AI安全防火墙能够有效防范物理世界对抗样本攻击、伪造视频攻击等新型安全风险,提升人证核验、刷脸通行、人脸解锁等应用场景的安全性。
瑞哥
“深度伪造”,这个词特指深度合成技术的不良应用。近年来,深度合成技术备受关注,在影视、传媒、教育等领域大显身手。但恶意使用该技术生成的音视频也显现出了前所未有的破坏力,犯罪分子利用它合成视频、音频侵害人身安全、财产安全、国家安全的案例屡见不鲜。为此,推出了AI界“打假神器”——深度伪造内容检测平台。
瑞哥
“第三代人工智能”概念由张钹院士提出,希望通过融合第一代知识驱动和第二代数据驱动的人工智能,综合利用知识、数据、算法和算力四个要素,建立新的可解释和鲁棒的AI理论与方法,发展安全、可信、可靠和可扩展的人工智能技术。
瑞哥
生成的质量很高,这点毋庸置疑。但如它所言,这其实是“举一千反一”的过程,和人类能够“举一反三”不同,可以说它是“大力出奇迹”。而当前的人工智能还没有进入智能的核心问题,如知识表示、不确定性推理等。因为人类智慧的源泉在知识、经验、推理能力,这是人类理性的根本。可以说,目前的人工智能系统都非常脆弱,很容易受攻击或欺骗,需要大量数据而且不可解释,这种缺陷是本质的,由其方法本身引起的。
瑞哥
人工智能是一项渗透性、实用性极强的通用目的技术。和所有通用目的技术一样,从它诞生的那一刻起,创造技术的力量和控制技术的力量,就存在不对等。作为人工智能的研究者和从业者,我们并不悲观,而是立志从基础科研下功夫,专注于底层技术研究,以实现人工智能产业的高质量发展。
瑞哥
很自豪地告诉大家,所言的7点建议,自2018年成立以来,就在持续地探索与实践,从数据可用、算法可靠、应用可控等关键处精准落子,深度布局,且已取得丰硕成果。此外,还与多家政产学研单位,在标准制定、人才培训等方面展开了深度合作。
瑞哥
“智能向善”是的使命,我们认为:“人类社会的未来必将高度智能化,从人类在宇宙中到达的每一片物理空间,到创造的持续膨胀的数字空间,人工智能会伴随人类无处不在。在走向这一目标的过程中,一方面需要确保人工智能的能力不断增强,能够适用于各类复杂的场景和任务,另一方面需要确保人工智能的应用受到管控,真正使人类作为整体的利益得到提升。瑞莱智慧的使命就是要促使人工智能不断向着“善”的方向进化,最终通过完善的人工智能为每个人带来更幸福的生活。”
近些天来,的讨论不绝于耳
有人说:AI成精了,我要失业了。
也有人说:大模型就是地心说,靠参数多修修补补,但不是本质。
关于聊天机器人的种种问题
人工智能治理研究院的专家
此前从多个角度进行了深入剖析
点击下方图片↓即可阅读,一起复习一下吧~