码农三大技术成美国國镓安全局监控用户数据帮凶

780 主题	0 好友	13万积分

主区版主

Rank: 8 Rank: 8 Rank: 8 Rank: 8

发消息

电梯直达

1楼

发表于 2013-6-19 12:54 |只看该作者 |倒序浏览

三大技术助力美国國镓安全局监控用户数据
http://it.21cn.com/itnews/a/2013/0613/14/22151109.shtml
来源：腾讯科技 | 作者：思睿 | 2013-06-13 14:34:19 | 我来说两句已有0人参与
下载新闻客户端

三大技术助力美国國镓安全局监控用户数据

全球消费者平均每月使用的网络、电子邮件和数据流量图（腾讯科技配图）

　　腾讯科技讯（思睿）北京时间6月13日消息，据国外媒体报道，上周，随着美国炡椨利用互联网监视和追踪民众的消息浮出水面，这使得互联网履行其最初使命的前景看似暗淡。现代计算技术正帮助公司和炡椨准确、快速地分析庞大的数据资源，其中数据库系统、机器学习和Hadoop基础架构三大技术发挥了非常重要的作用。

　　以下是文章内容全文：

　　仅仅在五年之前，诸如美国國镓安全局（National Security Agency，NSA）这样的炡椨机构要想通过关键词的方式高效率地分析数百万份电话、文本消息和在线聊天记录，简直是不可能完成的任务。不过目前，一系列新技术的使用则让NSA拥有相对充分的人力和财力做到这一点。尤其考虑到，这些关键词最终有可能避免未来针对美国恐怖袭击的放生。

　　这些新技术能够在一个单独的数据库里存储大量不同类型的数据，而且不需要使用造价昂贵的硬件设备就能够实现数据的高速处理，同时还无需数据分析专家提前设定假设条件。

　　哈佛商学院客座教授、数据分析专家汤姆达文波特（Tom Davenport）指出：“这些新技术为炡椨部门节省了巨额开支，同时还极大地提高了炡椨部门分析此类数据的能力。虽然需要配套的数据中心支持才能完成数据分析任务，但这些技术的成本要远比几年前低得多。”

　　NSA斥资十二亿美元在犹他州打造大型数据中心将于今年秋季投入使用。目前尚不明确的是，到底NSA在覆盖全美的数据中心使用的是何种计算技术。但总体来说，这些技术被分为三大类型：

　　1. 数据库系统

　　大多数使用SQL编程语言的传统数据库是把数据存储在由行与列组成的表格中。然而，当遇到存储包括电子邮件或文本信息等字符串时，传统数据库就暴露了能力有限的弊端。而且它们还无法处理图片或视频。

　　而于2009年年底开始出现的新型数据库NoSQL（Not Only SQL，不仅仅是SQL）则突破了传统数据库的能力限制，可以允许数据分析专家针对所有类型的数据创建信息要求。这些新型数据库包括MongoDB、Cassandra和Simple DB等。

　　在帮助公司分析超大型数据组方面，NoSQL数据库体现出了非凡的能力。比如，美国保险数据供应商Verisk Analytics Inc.的分析师就在针对数十亿客户资料不断运行各种不同的数据模式和分析方法，以从中发现虚假保险索赔记录。

　　Verisk副总裁兼首席信息官佩里罗泰拉（Perry Rotella）表示，使用IBM提供的传统DB2数据库“需要通宵达旦地工作6个小时才能完成工作”。此后，分析师还得投入大量时间研究得出的数据结果，并提出新的信息要求，而这恐怕还得再熬一个晚上。他指出，分析师每次都需要花费几周时间才能创建出新的数据模型。Verisk最近刚刚开始使用更换后的NoSQL数据库，分析师仅用30秒就能完成相同类型要求的运行。

　　罗泰拉表示：“突然之间，你的模型建构告别了几天才更行一次的传统，变成了实时更新状态。通过使用NoSQL数据库，你可以在一天内多次进行数据运行，这极大地缩短了获得数据结果的时间。这项功能简直太强大了。”

　　对于美国在线图片交易平台服务商Shutterstock Inc.来说，如果没有NoSQL，该公司简直无法生存。Shutterstock拥有超过2,400万张图片的存储库，而且每天还以1万张图片的速度递增。其中的每张图片都拥有相关数据来帮助用户缩小搜索范围。Shutterstock的数据库还记录用户在该网站上的所有网络行为，这些行为不仅包括诸如他们授权何种图片这样的重大决定，而且还包括微小的细节，比如他们的鼠标箭头经常停留在什么地方以及停留的具体时长。

　　2.机器学习

　　传统分析要求分析师对数据有充分的了解，然后才能创建假设问题，进而针对数据库提出复杂的问题。而最近以机器学习和自然语言处理为核心的编程技术则依靠计算机程序来发现数据类型，甚至还可以根据上下文阐明模糊词汇的意义。

　　达文波特指出：“你可以把机器学习程序植入多个数据之中，然后你就会看到该程序会给你提供什么样的分析结果。通过使用自然语言处理技术，你还可以分辨出‘炸弹’这个词是百老汇舞台剧的剧名，还是恐怖分子将会使用的武器。”

　　权威市场研究机构Gartner Inc.的分析师道格拉斯莱尼（Douglas Laney）指出，机器学习又被称之为“认知分析”，它能够让分析师提出的问题不断进行“自我修正”。比如，在新信息出现时，零售商就可以使用该技术来实时自动更新计价算法。这些新信息包括天气、时间、甚至是消费者在其零售店里的行为视频。

　　莱尼表示：“以前，更新价格往往需要一天多的时间，但这些零售商现在可以每小时就制定一个新价格，并借助趋势信息实施产品的实时定价。我不确定他们在一年前能否做到这一点。”

　　3.Hadoop基础架构

　　直到最近，还是只有造价昂贵的硬件设备才能够运行特别复杂的计算机程序，比如超大型计算机设备。但现在，Hadoop开源软件分布式系统基础架构已经能够让从资料库提取信息的过程进行分布实施。在这一过程中，不同的分析任务被分配给大量造价低廉的服务器进行分析，每个服务器只负责分析其中的一部分内容，然后这些内容又会在任务结束后被汇总在一起。达文波特表示：“这非常省钱，而且运行速度特别快。”

　　这种将复杂的问题分配给大量造价低廉的计算机处理的能力有助于人们获得问题的及时反馈，而且人们还会获得大量的数据变量。比如，美国汽车信息网站Edmunds.com可以帮助汽车经销商预测一辆车在他们自己的停车场里停留的平均时间。这种预测能够最大限度地缩短一辆车售出的时长。Edmunds.com的首席信息官菲利普波特洛夫（Philip Potloff）指出：“对于汽车经销商来说，这可是衡量销售业绩最为重要的指标之一。”

　　流媒体视频服务商 Netflix Inc.则使用Hadoop勾勒出用户使用多种设备接入视频的流量数据图谱。这有助于Netflix提高其为移动设备、笔记本和电视机提供视频数据的可靠性，同时帮助Netflix规划流媒体电影和电视剧集的未来增长。此外，Hadoop还帮助Netflix更好地分析客户喜好，从而为该公司提供改进建议。 [责任编辑：sayaliu]

帐号		自动登录	找回密码
密码			注册

码农三大技术成美国國镓安全局监控用户数据帮凶

2013年夜饭

2012年度八达十大水友

2011年度八达十大水友

2011中国少年先锋队八达支队副总队