三大技术助力美国国家安全局监控用户数据

2013-06-13 15:11:15来源: 腾讯科技

北京时间6月13日消息,据国外媒体报道,上周,随着美国政府利用互联网监视和追踪民众的消息浮出水面,这使得互联网履行其最初使命的前景看似暗淡。现代计算技术正帮助公司和政府准确、快速地分析庞大的数据资源,其中数据库系统、机器学习和Hadoop基础架构三大技术发挥了非常重要的作用。

三大技术助力美国国家安全局监控用户数据

全球消费者平均每月使用的网络、电子邮件和数据流量图(腾讯科技配图)

以下是文章内容全文:

仅 仅在五年之前,诸如美国国家安全局(National Security Agency,NSA)这样的政府机构要想通过关键词的方式高效率地分析数百万份电话、文本消息和在线聊天记录,简直是不可能完成的任务。不过目前,一系 列新技术的使用则让NSA拥有相对充分的人力和财力做到这一点。尤其考虑到,这些关键词最终有可能避免未来针对美国恐怖袭击的放生。

这些新技术能够在一个单独的数据库里存储大量不同类型的数据,而且不需要使用造价昂贵的硬件设备就能够实现数据的高速处理,同时还无需数据分析专家提前设定假设条件。

哈佛商学院客座教授、数据分析专家汤姆•达文波特(Tom Davenport)指出:“这些新技术为政府部门节省了巨额开支,同时还极大地提高了政府部门分析此类数据的能力。虽然需要配套的数据中心支持才能完成数据分析任务,但这些技术的成本要远比几年前低得多。”

NSA斥资十二亿美元在犹他州打造大型数据中心将于今年秋季投入使用。目前尚不明确的是,到底NSA在覆盖全美的数据中心使用的是何种计算技术。但总体来说,这些技术被分为三大类型:

1. 数据库系统

大多数使用SQL编程语言的传统数据库是把数据存储在由行与列组成的表格中。然而,当遇到存储包括电子邮件或文本信息等字符串时,传统数据库就暴露了能力有限的弊端。而且它们还无法处理图片或视频。

而于2009年年底开始出现的新型数据库NoSQL(Not Only SQL,不仅仅是SQL)则突破了传统数据库的能力限制,可以允许数据分析专家针对所有类型的数据创建信息要求。这些新型数据库包括MongoDB、Cassandra和Simple DB等。

在帮助公司分析超大型数据组方面,NoSQL数据库体现出了非凡的能力。比如,美国保险数据供应商Verisk Analytics Inc.的分析师就在针对数十亿客户资料不断运行各种不同的数据模式和分析方法,以从中发现虚假保险索赔记录。

Verisk 副总裁兼首席信息官佩里•罗泰拉(Perry Rotella)表示,使用IBM提供的传统DB2数据库“需要通宵达旦地工作6个小时才能完成工作”。此后,分析师还得投入大量时间研究得出的数据结 果,并提出新的信息要求,而这恐怕还得再熬一个晚上。他指出,分析师每次都需要花费几周时间才能创建出新的数据模型。Verisk最近刚刚开始使用更换后 的NoSQL数据库,分析师仅用30秒就能完成相同类型要求的运行。

罗泰拉表示:“突然之间,你的模型建构告别了几天才更行一次的传统,变成了实时更新状态。通过使用NoSQL数据库,你可以在一天内多次进行数据运行,这极大地缩短了获得数据结果的时间。这项功能简直太强大了。”

对 于美国在线图片交易平台服务商Shutterstock Inc.来说,如果没有NoSQL,该公司简直无法生存。Shutterstock拥有超过2,400万张图片的存储库,而且每天还以1万张图片的速度递 增。其中的每张图片都拥有相关数据来帮助用户缩小搜索范围。Shutterstock的数据库还记录用户在该网站上的所有网络行为,这些行为不仅包括诸如 他们授权何种图片这样的重大决定,而且还包括微小的细节,比如他们的鼠标箭头经常停留在什么地方以及停留的具体时长。

2.机器学习

传统分析要求分析师对数据有充分的了解,然后才能创建假设问题,进而针对数据库提出复杂的问题。而最近以机器学习和自然语言处理为核心的编程技术则依靠计算机程序来发现数据类型,甚至还可以根据上下文阐明模糊词汇的意义。

达文波特指出:“你可以把机器学习程序植入多个数据之中,然后你就会看到该程序会给你提供什么样的分析结果。通过使用自然语言处理技术,你还可以分辨出‘炸弹’这个词是百老汇舞台剧的剧名,还是恐怖分子将会使用的武器。”

权 威市场研究机构Gartner Inc.的分析师道格拉斯•莱尼(Douglas Laney)指出,机器学习又被称之为“认知分析”,它能够让分析师提出的问题不断进行“自我修正”。比如,在新信息出现时,零售商就可以使用该技术来实 时自动更新计价算法。这些新信息包括天气、时间、甚至是消费者在其零售店里的行为视频。

莱尼表示:“以前,更新价格往往需要一天多的时间,但这些零售商现在可以每小时就制定一个新价格,并借助趋势信息实施产品的实时定价。我不确定他们在一年前能否做到这一点。”

3.Hadoop基础架构

直 到最近,还是只有造价昂贵的硬件设备才能够运行特别复杂的计算机程序,比如超大型计算机设备。但现在,Hadoop开源软件分布式系统基础架构已经能够让 从资料库提取信息的过程进行分布实施。在这一过程中,不同的分析任务被分配给大量造价低廉的服务器进行分析,每个服务器只负责分析其中的一部分内容,然后 这些内容又会在任务结束后被汇总在一起。达文波特表示:“这非常省钱,而且运行速度特别快。”

这种将复杂的问题分配给大量造价低廉的计算机 处理的能力有助于人们获得问题的及时反馈,而且人们还会获得大量的数据变量。比如,美国汽车信息网站Edmunds.com可以帮助汽车经销商预测一辆车 在他们自己的停车场里停留的平均时间。这种预测能够最大限度地缩短一辆车售出的时长。Edmunds.com的首席信息官菲利普•波特洛夫(Philip Potloff)指出:“对于汽车经销商来说,这可是衡量销售业绩最为重要的指标之一。”

流媒体视频服务商Netflix Inc.则使用Hadoop勾勒出用户使用多种设备接入视频的流量数据图谱。这有助于Netflix提高其为移动设备、笔记本和电视机提供视频数据的可靠 性,同时帮助Netflix规划流媒体电影和电视剧集的未来增长。此外,Hadoop还帮助Netflix更好地分析客户喜好,从而为该公司提供改进建 议。

关键字:美国国家安全局  监控用户数据

编辑:lbk747 引用地址:http://www.eeworld.com.cn/wltx/2013/0613/article_11655.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。
论坛活动 E手掌握
微信扫一扫加关注
论坛活动 E手掌握
芯片资讯 锐利解读
微信扫一扫加关注
芯片资讯 锐利解读
推荐阅读
全部
美国国家安全局
监控用户数据

小广播

独家专题更多

富士通铁电随机存储器FRAM主题展馆
富士通铁电随机存储器FRAM主题展馆
馆内包含了 纵览FRAM、独立FRAM存储器专区、FRAM内置LSI专区三大部分内容。 
走,跟Molex一起去看《中国电子消费品趋势》!
走,跟Molex一起去看《中国电子消费品趋势》!
 
带你走进LED王国——Microchip LED应用专题
带你走进LED王国——Microchip LED应用专题
 
电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2016 EEWORLD.com.cn, Inc. All rights reserved