大数据_51站长网

Hive 导入 parquet 格式数据

所属栏目：[大数据] 日期：2020-12-25 热度：187

Hive 导入 parquet 数据步骤如下：查看 parquet 文件的格式构造建表语句倒入数据一、查看 parquet 内容和结构下载地址社区工具 GitHub 地址命令查看结构： java -jar parquet-tools-1.6.0rc3-SNAPSHOT.jar schema -d activity.201711171437.0.parque[详细]
Presto 常用配置及操作

所属栏目：[大数据] 日期：2020-12-25 热度：95

一、介绍 Presto是一个开源的分布式SQL查询引擎，适用于交互式分析查询，数据量支持GB到PB字节。 Presto的设计和编写完全是为了解决像Facebook这样规模的商业数据仓库的交互式分析和处理速度的问题。推荐阅读 Presto实现原理和美团的使用实践二、安装 2.1[详细]
大数据的技术生态概述（转载）

所属栏目：[大数据] 日期：2020-12-25 热度：61

如何用形象的比喻描述大数据的技术生态？Hadoop、Hive、Spark 之间是什么关系？大数据本身是个很宽泛的概念，Hadoop生态圈（或者泛生态圈）基本上都是为了处理超过单机尺度的数据处理而诞生的。你可以把它比作一个厨房所以需要的各种工具。锅碗瓢盆，各有各[详细]
九种常见的数据分析模型

所属栏目：[大数据] 日期：2020-12-25 热度：158

1. 漏斗分析模型漏斗分析是一套流程式数据分析，它能够科学反映用户行为状态以及从起点到终点各阶段用户转化率情况的重要分析模型。运营人员可以通过观察不同属性的用户群体（如新注册用户与老客户、不同渠道来源的客户）各环节转化率，各流程步骤转化率的[详细]
大数据领域常用技术栈

所属栏目：[大数据] 日期：2020-12-25 热度：181

提起大数据，不得不提由IBM提出的关于大数据的5V特点：Volume（大量）、Velocity（高速）、Variety（多样）、Value（低价值密度）、Veracity（真实性），而对于大数据领域的从业人员的日常工作也与这5V密切相关。大数据技术在过去的几十年中取得非常迅速的发[详细]
Databricks说的Lakehouse是什么？

所属栏目：[大数据] 日期：2020-12-25 热度：114

? 在过去的几年里，Lakehouse作为一种新的数据管理范式，已独立出现在Databricks的许多用户和应用案例中。在这篇文章中，我们将阐述这种新范式以及它相对于之前方案的优势。数据仓库在决策支持和商业智能应用方面有着悠久的历史。自20世纪80年代末问世以来[详细]
数据挖掘 : 手把手教你做文本挖掘

所属栏目：[大数据] 日期：2020-12-25 热度：183

文本挖掘定义文本挖掘指的是从文本数据中获取有价值的信息和知识，它是数据挖掘中的一种方法。文本挖掘中最重要最基本的应用是实现文本的分类和聚类，前者是有监督的挖掘算法，后者是无监督的挖掘算法。 ? 2 文本挖掘步骤 1）读取数据库或本地外部文本文件[详细]
基于大数据分析的安全管理平台技术研究及应用

所属栏目：[大数据] 日期：2020-12-25 热度：134

转自：http://www.36dsj.com/archives/30027 基于大数据分析的安全管理平台技术研究及应用基于大数据分析的安全管理平台技术研究及应用 Research and Application of Big Data Analysis Based Security Management Platform Last Modified By yepeng @ 2014[详细]
BI解决方案资料收集

所属栏目：[大数据] 日期：2020-12-25 热度：143

ETL工具：Kettle（官网，Pentaho公司开源）、?Informatica、Datastage、OWB、微软DTS、Beeload、久其ETL，Oracle GoldenGate等等……开源的工具（16款开源工具，OSchina ETL工具列表），有eclipse的ETL插件: cloveretl 工作流引擎：jBPM，Activiti，H3 BPM,?[详细]
文本挖掘：手把手教你分析携程网评论数据

所属栏目：[大数据] 日期：2020-12-25 热度：149

文本分析的应用越来越广泛，这不，我的工作也开始涉及了文本分析，今天就讲讲关于评论数据的那点事。首先评论数据如何获取？一般通过网络爬虫的方式抓取各大网站的评论数据，本次分析数据就来源于携程网某酒店的评论，在同事的协助下，成功爬取该酒店的[详细]
R中文舆情包cnSentimentR

所属栏目：[大数据] 日期：2020-12-25 热度：106

该包使用jiebaR分词,svm[e1071]进行分类; 包括三个函数:cnsr.prepare,cnsr.train,cnsr.predict 目前还在开发中,功能不完整. 请见: https://github.com/leeshuheng/cnSentimentR[详细]
工作坊 | 大数据智能分析和挖掘在互联网中的应用实战案例

所属栏目：[大数据] 日期：2020-12-25 热度：66

大数据分析和挖掘在互联网公司中已经得到实质性的推进和应用，典型的应用场景包括搜索引擎的搜索结果和搜索广告排序、电商网站的商品推荐和虚假信息检测、电子邮件服务中垃圾邮件检测、互联网安全公司的病毒和木马检测、视频和新闻分享网站中视频和新闻推荐[详细]
亚马逊前首席科学家:大数据价值体现在AI、BI、CI、DI

所属栏目：[大数据] 日期：2020-12-25 热度：82

「技术领导者」的订阅首选本文转载自灯塔大数据无人机送货、阿法狗下棋、小冰和你谈场恋爱……人工智能领域的成果，一直是企业在大数据运用能力上的主要外在体现，但在亚马逊原首席科学家安德雷斯·韦思岸(Andreas Weigend)看来，大数据能为企业做的，还[详细]
bzoj 1670: [Usaco2006 Oct]Building the Moat护城河的挖掘（凸

所属栏目：[大数据] 日期：2020-12-25 热度：190

1670: [Usaco2006 Oct]Building the Moat护城河的挖掘 Time Limit:? 3 Sec?? Memory Limit:? 64 MB Submit:? 524?? Solved:? 384 [ Submit][ Status][ Discuss] Description 为了防止口渴的食蚁兽进入他的农场，Farmer John决定在他的农场周围挖一条护城河。[详细]
《Speed-BI云平台-基于Excel数据源的技巧应用：区域销售收入分析

所属栏目：[大数据] 日期：2020-12-25 热度：113

对于刚接触speed-BI的朋友们，一些看似很简单很琐碎的动作，当没有小窍门和智能化的操作就会使得工作量变大，时间耗起来真要命。本次课就将围绕speed-BI常用的功能进行串讲，还有特别的小技巧一并教授，成为speed-BI的技巧王！ ? 课程应用：本次课程以销售[详细]
[bigdata-042]从头搭建 spring+mvc+boot+tomcat

所属栏目：[大数据] 日期：2020-12-25 热度：192

1. 需求 1.1 在spring.io下载一个spring mvc的demo，能运行成功。 1.2 按照自己的理解，重写这个例子，并做适当修改，运行成功。 1.3 将这个例子打包成war包，放到tomcat运行成功。 2. 在spring.ip下载spring mvc并运行 2.1 spring的例子在 http://spring.io[详细]
2017年商业智能 BI 发展趋势分析

所属栏目：[大数据] 日期：2020-12-24 热度：196

转载自公众号：天善智能（ID：tianshansoft）作者：吕品，天善智能联合创始人运营总监? 导读本文主要涉及到以下四个方面的内容： 1. 传统 BI 和新型 BI 的分水岭（2013年） 2. 新型 BI 的高速发展期和传统BI的衰退（2013年-2016年） 3. 传统 BI 巨头下滑期[详细]
a+b(大数加法)

所属栏目：[大数据] 日期：2020-12-24 热度：90

Problem Link：点击打开链接题目描述实现一个加法器，使其能够输出a+b的值。? 输入描述: 输入包括两个数a和b，其中a和b的位数不超过1000位。输出描述: 可能有多组测试数据，对于每组数据，输出a+b的值。输入例子: 2 610000000000000000000 1000000000000[详细]
流式大数据处理的三种框架：Storm，Spark和Samza

所属栏目：[大数据] 日期：2020-12-24 热度：129

许多分布式计算系统都可以实时或接近实时地处理大数据流。本文将对三种Apache框架分别进行简单介绍，然后尝试快速、高度概述其异同。 Apache Storm 在 Storm 中，先要设计一个用于实时计算的图状结构，我们称之为拓扑（topology）。这个拓扑将会被提交给集群[详细]
AI眼中的历史：用人工智能挖掘旧报纸里的英国现代史

所属栏目：[大数据] 日期：2020-12-24 热度：58

大数据文摘作品，转载要求见文末本文作者|Martha Henriques 编译团队 |Sophie，刘晓莉 ▼ 微信后台（不是评论区）回复关键词“ 历史 ”，获取PDF原文报告。试问，哪位历史学家有时间阅读跨越一个多世纪英国历史的数千万份报纸？没人可以。所以，计算机科学[详细]
BZOJ3110: [Zjoi2013]K大数查询

所属栏目：[大数据] 日期：2020-12-24 热度：58

Description 有N个位置，M个操作。操作有两种，每次操作如果是1 a b c的形式表示在第a个位置到第b个位置，每个位置加入一个数c 如果是2 a b c形式，表示询问从第a个位置到第b个位置，第C大的数是多少。 Input 第一行N，M 接下来M行，每行形如1 a b c或2 a b[详细]
亚马逊云BI产品QuickSight 深度解析

所属栏目：[大数据] 日期：2020-12-24 热度：157

亚马逊的云BI服务QuickSight，旨在让他们的企业用户更加便捷、快速低成本的分析数据。在这款直接面向企业商业决策人员的工具发布之前，AWS上已经拥有了一整套大数据的解决方案——开发了数据从采集、存储到分析的全部工具，不仅有离线计算方案，也有流数据处[详细]
推荐：深入浅出之数据分析四步曲

所属栏目：[大数据] 日期：2020-12-24 热度：178

数据分析四步骤确定开始分析之前需要拿到足够的背景信息，更重要的是要和对方一起明确你们共同想要解决的问题/想要验证的假设，更更重要的是确定交付的内容、形式、期限以及可用资源。未明确确定自己的问题或目标就进行数据分析就如同为定下目的地就上路[详细]
bzoj3110[Zjoi2013]K大数查询

所属栏目：[大数据] 日期：2020-12-24 热度：54

题目链接:bzoj3110 题目大意：有N个位置，M个操作。操作有两种，每次操作如果是1 a b c的形式表示在第a个位置到第b个位置，每个位置加入一个数c。如果是2 a b c形式，表示询问从第a个位置到第b个位置，第c大的数是多少。[..谜一样的题意应该是说把每个位[详细]
万科房地产大数据分析平台

所属栏目：[大数据] 日期：2020-12-24 热度：151

如何研究房地产市场？归根结底需要解决的问题无非是地、房、人三大内容然而，传统的研究方法却耗时耗力看不全的土地——总会遗忘疏漏想不尽的产品——依旧经验为先读不透的客户——往往以偏概全上海万科率先使用先进的手段颠覆传统的研究方法！近[详细]

5650

189