ai人脸制作软件 面部识别AI系统仅凭几句描述绘制法医素描?专家:环境和衰老等因素对人脸有重大影响

AI资讯1年前 (2023)发布 fengdao
25 0

以色列人工智能公司 的面部识别子公司 ,声称正在为这种情况设计一种解决方案:利用 DNA 创建一个人脸模型,并能够在面部识别系统中运行。尽管该任务曾被领域的专家认为在科学上站不住脚。

公司的 CEO 罗伯特·瓦茨( Watts)和执行副总裁奥弗·罗宁(Ofer Ronen)在一次公开演讲中公布了其“从 DNA 到人脸”产品。

这是该公司整体产品路线图的一部分,其中还包括动作识别和语音识别产品。

图 | 一张 公司演示材料的照片,展示了以“声音到人脸”“DNA 到人脸”和“动作识别”为特色的路线图,作为公司人脸识别技术能力的拓展(来源:《麻省理工科技评论》)

该公司拒绝回答有关演示和产品路线图的问题。瓦茨在一封电子邮件中写道:“我们目前没有与媒体过多接触,因为关于我们正在做的产品细节是公司机密。”

然而,支持这种识别系统所需的科学知识目前还不存在。专家们表示,该产品将加剧面部识别技术已经造成的伦理、隐私和偏见问题。

更令人担忧的是,这是该行业一个野心勃勃的信号。在未来,面部检测将广泛地成为不择手段识别人们身份的一个方式——甚至是一种不准确的手段。

一段曲折的历史

公司的主意并不是全新的。Human 是一家由硅谷名人克雷格·文特尔(Craig )和彼得·迪亚曼迪斯(Peter )创立的“基于基因组学的、智慧保健”公司,该公司声称曾在 2017 年使用 DNA 来预测人脸。

然而,《麻省理工科技评论》当时报道说,专家们表示怀疑。Human 公司的一名前员工表示,该公司无法利用基因组从人群中辨别出个体,家谱学遗产平台 公司的首席科学官亚尼夫·埃利希(Yaniv )发表了一份回应,指出了该项研究的主要缺陷。

一家名为 的小型 DNA 信息公司,通过一个名为“快照”的产品线,从 DNA 样本种提取了人的体貌特征并提供给了执法机构,其中包括基因谱系图和一张人脸的 3D 渲染图。

公司在其网站上发布了一些案例,其中对比了当局希望找到的人的照片和该公司制作的渲染图。

公司的计算机生成的人像图还具有一系列表型特征,如眼睛和皮肤颜色,并给出了置信度。例如,一幅人像可能显示,被寻找的人有 80% 的可能性是蓝眼睛。

法医素描师还会对人像进行修改,以创建最终的面部模型,尽可能包含非遗传因素的特征,如体重和年龄。

公司的官网声称,其软件平均每周帮助解决一个案件,该公司的生物信息学主管埃伦·麦克雷·格雷塔克(Ellen McRae )说,在过去七年中,它已经解决了 200 多个案子,尽管大多数都是通过基因系谱而不是人像分析来解决的。

格雷塔克说,该公司因没有公布其专有的方法和数据而饱受批评,她把不公开这些信息归因于一个“商业决策”。

公司并没有将人脸识别智能模型纳入其表型分析服务,并明确要求其执法机构的客户不应将其从 DNA 样本中生成的图像,作为人脸识别系统的输入。

格雷塔克说, 公司的技术“并不能给出双眼之间的确切距离,或者眼睛、鼻子和嘴之间的大小比例”。

人脸识别制作软件_ai人脸生成器_ai人脸制作软件

她说,如果达不到这种精度,面部识别算法就不能提供准确的结果——而且 DNA 中获得如此精确的测量数据将需要全新科学成果的支持,“那些试图在这个精度水平上进行人脸预测的论文并没有取得多少成功。”

格雷塔克说, 公司只预测某人的脸的大致形状(尽管这种预测的科学可行性也受到了质疑)。

据悉,警方已经能够根据证人的描述,并通过面部识别系统绘制法医素描。

美国乔治城法律隐私与技术中心 2019 年的一项研究发现,美国至少有六家警察机构“尽管不鼓励,但也允许”使用法医草图作为人脸识别系统的输入照片,而不论是手绘或电脑生成的。人工智能专家警告说,这样的过程可能会导致准确性降低。

公司过去也因夸大其人脸识别系统的能力和准确性而受到批评,该公司称其是“在极具挑战的情况下最合乎伦理道德的面部识别系统”。

在一次技术演示中, 公司的 CEO 瓦茨说, 的面部识别系统可以“识别带口罩的人——不仅是口罩,还可以是滑雪面罩。”

据报道,在遮掩的脸部数据上使用 公司的人工智能模型能达到 65% 的置信度,该公司用这一指标来度量将捕捉到的人脸信息匹配到公司数据库中的可能性。

值得注意的是,上述用来遮掩人脸的面具应该更准确地称作为巴拉克拉法帽或者颈套(能遮住脖子和脸的一部分),而不是像滑雪面具那样只露出嘴和眼睛。

大量证据显示,人脸识别技术的准确性方面存在更大而广泛的问题(包括来自于《麻省理工科技评论》的证据)。

当照片光线不佳、或拍摄角度刁钻,或被拍摄者的皮肤较深、或性别为女性、或非常年老/年轻时,这些问题都会变得更为显著。

隐私保护倡导者和公众也曾批评面部识别技术,特别是像 这样的人工智能系统,它们随意抓取社交媒体上的照片作为其匹配手段的一部分。

执法部门对这项技术的使用尤其令人担忧——波士顿、明尼阿波利斯和旧金山都属于众多禁止使用这项技术的城市之列。

亚马逊和微软已经停止向警察组织销售面部识别产品,IBM 也已将其人脸识别软件撤出市场。

“伪科学”

“假如有人认为自己即将有能力开发出某种模型,可以达到人脸匹配搜索所需的粒度和精确度,这一想法对我来说是荒谬可笑的,”阿尔伯特·福克斯卡恩( Fox Cahn)说,他是一位民权律师,也是监视技术监督项目的执行董事,他研究过大量与人脸识别系统相关的问题。“这是伪科学。”他说。

来自荷兰国家数学和计算机科学研究所维斯昆德中心计算成像小组的研究员泽米拉·塞罗( Sero)说,支持这一个人脸识别系统的科学基础还没有充分发展,至少没有公开地发展。

塞罗援引Human 公司 2017 年的一项研究称,从 DNA 样本中准确描述人脸所需的基因数据目前还不完备。

此外,环境和衰老等因素对人脸有重大影响,且无法通过 DNA 表型捕捉到。研究表明,个体基因对一个人的脸孔的影响还没有他们的性别和血统那样大。

ai人脸生成器_ai人脸制作软件_人脸识别制作软件

她在一封电子邮件中告诉《麻省理工科技评论》:“实现这项技术的过早尝试可能会破坏人们对基因组研究的信任和支持,而且不会获得任何社会效益。”

塞罗研究过公司人脸识别系统的相反概念——“从人脸到 DNA”,而不是“从 DNA 到人脸”——通过将一组 3D 照片与 DNA 样本进行匹配。

在 杂志的一篇论文中,塞罗和她的团队报道了 80% 到 83% 之间的匹配准确率。

然而,塞罗说,她的工作不应该被检察官用作犯罪证据,而且“这些方法还会增加刑事司法中种族不公的风险,这些风险警示我们,在适当的保障措施到位之前,不要过早使用这些技术。”

执法部门依赖于 DNA 数据集,主要是自由血统网站 ,它在追查臭名昭著的“金州杀手”案子里发挥了重要作用。

但即使是 DNA 取样,这种曾经被美国国家研究委员会认为是唯一一种科学严谨的法医证据,最近也因其准确性问题而备受批判。

阿尔伯特·福克斯卡恩( Fox Cahn)目前正在起诉纽约警察局,要求获得与使用面部识别技术的偏差有关的记录。他说,公司假设性人脸识别系统的影响将是灾难性的。

“考虑到这项技术将产生的影响,它将放大所有人脸识别的失败案例。”福克斯·卡恩说,“很容易想象,这项技术可能会以真正可怕和奥威尔式(极权专制)的方式被使用。”

人脸识别技术的未来

尽管存在这些担忧,但人脸识别技术的市场仍在增长,各家公司也在争夺客户。

只是众多这种公司中的一个:他们提供具有华丽新特点的照片匹配服务,而不管是否真的有效。

许多这些新产品都寻求将人脸识别与另一种识别形式整合起来。例如,总部位于俄罗斯的面部识别公司 提供基于车牌号和面部特征来识别身份的系统。其创始人阿特姆·库哈连科(Artem )曾告诉《麻省理工科技评论》,其算法试图“从视频流中提取尽可能多的信息”。

在这些系统中,面部识别只是某种装置的一部分,这些装置可以通过一系列技术识别一个人,将跨越了多个数据库的个人信息融合成一种数据全景。

的“从 DNA 到人脸”系统似乎是该公司初次涉足打造一个新潮的、全面的监控解决方案,以提供给潜在的买家。

但即使此类技术市场的不断扩大, 和其他公司也面临着监控技术的商业化风险,毕竟该技术备受偏见和且被不准确性所困扰。

支持:王贝贝

原文:

© 版权声明

相关文章

暂无评论

暂无评论...