据报道,IBM秘密利用纽约警察局闭路电视的摄像镜头开发监控技术,可以根据个人的年龄、肤色等身体特征对其进行搜查。尽管IBM宣传其视频分析软件可以使用年龄和种族等特征来搜索个人,但该公司此前并未披露其使用纽约监控视频来开发这项技术。
与IBM NYPD公司的合作程度及其保密性是一个令人担忧的例子,表明一家技术公司如何与政府合作,建立一个没有公众监督的监控系统。多年来,人工智能等新技术加强监控的能力让隐私倡导者感到担忧。我们不仅知道这种系统可能存在种族偏见,而且也没有明确的法规来规范它们的使用。
据报道,纽约警察局于2007年首次通过微软子公司Vexcel购买了IBM的视频分析软件。这项技术于2010年3月开始在纽约反恐指挥中心进行测试,这是曼哈顿下城安全计划的一部分。纽约警察局发言人彼得·唐纳德告诉The Intercept,该中心512个摄像头中只有不到50个在运行该软件。
据悉,2012年,IBM正在测试基于纽约人身体和面部特征的视频分析软件,这些数据来自于公众参与过程中捕捉并存档的身体数据。然后,该公司利用这种镜头改进了其搜索功能,允许操作员建立根据年龄、性别、发色、面部毛发和肤色查找人员的功能。然而,纽约警察局表示,它从未真正使用过这些功能,希望避免任何类型的技术问题。虽然IBM为NYPD提供了具有种族或肤色搜索功能的工具,但被纽约警察局明确拒绝。
然而,前IBM研究员Rick Kjeldsen表示,他在2009年至2013年参与了NYPD项目,而纽约警察局表示,它在2016年停止使用IBM的技术,IBM发表声明称,它仍然绝对致力于负责任地推广新技术。



