《大数据原理:复杂信息的准备、共享和分析》一一0.4 大数据最常见的目的是产生小数据...

    xiaoxiao2021-04-17  200

    0.4 大数据最常见的目的是产生小数据如果我知道获得一切后是什么样子,我也许早前就愿意接收更少的东西。―Lily Tomlin

    假设你正在使用智能手机搜索意大利餐厅,只需几步,你的手机就会列出在你当前位置10个街道范围之内的意大利餐厅。在此过程中,被查询的数据库庞大且复杂:一个映射数据库收集了世界上的所有餐厅,餐厅的经纬度、地址和由顾客给出的评分会持续更新,但是数据库的输出是小数据,例如,在街景地图上标出来5个餐厅,以及这些餐厅的准确地址、电话号码和评分。你要做的只是从这5家餐厅中选择一家,并享受佳肴。在此案例中,你的数据选择源自一个大型的数据集,但你最终的分析仅利用了一个小数据集(即满足搜索条件的5家餐厅)。大数据资源是为了提供小数据集。分析工作并非基于大数据资源―大数据资源仅仅用于搜索和检索,因此,大数据资源的真正工作是收集和组织复杂数据,以便资源能够为你的检索做好准备。在此过程中,数据创造者需要做很多决定,例如,酒吧是否应该列入餐厅范围之内?外卖是如何点餐的?应当收集什么数据?缺失数据应当如何处理?数据如何存储?大数据很少全部用于分析,总有一个“剧烈”的过滤过程将大数据转换为小数据,这种方式适用于科学分析。澳大利亚平方公里阵射电望远镜7、全球望远镜、欧洲核子研究中心的大型强子对撞机和泛星计划望远镜每天产生PB级的数据(见术语表,Square Kilometer Array,Large Hadron Collider,Worldwide Telescope)。研究者从这些原始数据资源中提取出众多用于分析的小数据集8。这里给出一个实例来展现如何从大数据资源中产生可用的数据子集。耀变体是罕见的超大质量黑洞,它会释放喷流能量,并出现超光速运动现象。宇宙论者希望尽可能多地了解这些奇怪的物体。学习耀变体的第一步是找到足够多的耀变体,之后,对所有收集到的耀变体进行多种形式的测量,并进行比较来确定它们的总体特征。耀变体有一个其他天体没有的伽马射线特征径迹。广角红外线探测望远镜(WISE)收集了整个可观测宇宙的红外数据。研究人员从WISE的数据中提取出了所有有可能是耀变体的天体―约有300个。此后对这300个物体的研究让研究人员相信大致有一半是耀变体9。上述是大数据如何起作用的一个典型案例―通过创建小数据集可以有效地进行分析。


    最新回复(0)