你了解的大数据

本贴最后更新于 3419 天前,其中的信息可能已经事过景迁

最近新进的项目组是开发大数据分析平台。

但是平时听了很多大数据,却不太了解。

刚才开会针对目前已经有的需求还有原型组里讨论了一下。

讲原型我还是听得懂的,但是到了后面就很多不懂了。

hadoop hbase solr 都是听说过的,但是只了解一点的基础。其实哪个也不会用。

先说下刚才开会的几个问题吧,有知道的可以跟我叨叨两句。

1.数据导入的时候,往 hbase 保存,一种是批量的 commit,一种是一条一条的 commit。我没有操作过,但是一个同事说他试了发现一条一条的竟然比批量的更快。
不知道为什么。有没有懂滴,讲一下。

2.另外,hbase 存储是怎么个存法(我记得以前看说就是 key-value 的样式,不记得对不对了),有人说了一个通过时间扫描,是什么意思。

3.后面不理解的,我问题都提不出来。。。一般用 solr,我知道是为了建索引的,但是 hbase 里的所有数据在 solr 里面在存储一份,然后建立索引为了查询方便。
可是为什么还要 hbase 那一步骤呀,直接存 solr 不行吗?还是说 solr 不能保存大量数据? 那建立索引的时候不是要有数据吗?还是说 hbase 跟 solr 之间不是我想的那种存储方式? 那 hbase 跟 solr 倒地有什么关系,怎么运用的。有什么好处。

4.你们工作中会用到算法吗?是做什么用?而你怎么写算法的?

以上,有些问题我觉得我都不知道如何表达去问,可能问的白痴的你们看不懂。。。总之,就是有什么想法就说说看吧,指不定无心插柳的一句话,也能让我开窍。

  • 大数据

    大数据(big data)是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

    93 引用 • 113 回帖

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...
  • never

    工作中的所谓的算法,应该不是程序里面的算法吧

  • 88250

    对于大数据,我印象最深刻的一个词就是“清洗”,好生动的词。

    说道算法,前几天刚刚对社区的 @ 用户名自动完成功能做了一个二分查找优化

  • yangyujiao
    作者

    @lihaotian_120 这个随便自己怎么理解吧,就是只要用过都可以说一下,哪里用的,什么应用用到的,都可以说一下。我之前一个项目的算法是波士顿一个公司提供的,我们只是调接口,然后最后输出结果,其他都不知道····

  • yangyujiao
    作者

    @88250 你理解的清洗是干嘛??? 我开始以为清洗是给最初的数据做分类,或者是按什么规则进行约束一下。可是我们开完会我才知道,我们这里面的清洗是说对标引的字段开始处理,比如 CN 统一替换成中国这样的操作。。。我不知道我开始怎么是那么理解的···

  • 88250

    我理解的数据清洗就是把不要的数据筛掉,把需要的数据做规范处理

  • yangyujiao
    作者

    @88250 我也是这么理解的,我一直以为清洗应该是导入以后做的步骤,可是我们系统不是那么做滴···

  • someone756

    你们公司要不要实习生?android 方向的。

  • yangyujiao
    作者

    @jingxuetao 实习生不清楚,来的都是有几年工作经验的。一般招聘网上都有的,你可以看看。不过,按照我了解的目前我们部门,应该要有工作经验的多。

  • someone756

    @yangyujiao .....

  • 88250

    @jingxuetao 来来来,帮社区做个 APP 先 😚

  • someone756

    @88250 这。。。我想问一下,你们那个背单词的 APP 是怎么做的?

  • someone756

    @88250 臣妾并做不了 APP 啊。。😭😭😭

  • 88250

    @jingxuetao Wordman

  • flhuoshan

    @88250 D,可否介绍下为何要优化,以及优化的原理?

  • 88250

    @flhuoshan 社区用户名那个比较简单,就是从遍历查找改成了二分查找。一开始写代码的时候留的坑,后面填,这个可能和个人开发习惯有关,功能先保证,优化再跟上。

  • flhuoshan

    @88250 了解,我还以为是以二分查找为基础进行优化

请输入回帖内容 ...

推荐标签 标签

  • RYMCU

    RYMCU 致力于打造一个即严谨又活泼、专业又不失有趣,为数百万人服务的开源嵌入式知识学习交流平台。

    4 引用 • 6 回帖 • 51 关注
  • jQuery

    jQuery 是一套跨浏览器的 JavaScript 库,强化 HTML 与 JavaScript 之间的操作。由 John Resig 在 2006 年 1 月的 BarCamp NYC 上释出第一个版本。全球约有 28% 的网站使用 jQuery,是非常受欢迎的 JavaScript 库。

    63 引用 • 134 回帖 • 724 关注
  • 新人

    让我们欢迎这对新人。哦,不好意思说错了,让我们欢迎这位新人!
    新手上路,请谨慎驾驶!

    52 引用 • 228 回帖 • 1 关注
  • 开源

    Open Source, Open Mind, Open Sight, Open Future!

    408 引用 • 3574 回帖
  • RESTful

    一种软件架构设计风格而不是标准,提供了一组设计原则和约束条件,主要用于客户端和服务器交互类的软件。基于这个风格设计的软件可以更简洁,更有层次,更易于实现缓存等机制。

    30 引用 • 114 回帖 • 2 关注
  • abitmean

    有点意思就行了

    29 关注
  • C

    C 语言是一门通用计算机编程语言,应用广泛。C 语言的设计目标是提供一种能以简易的方式编译、处理低级存储器、产生少量的机器码以及不需要任何运行环境支持便能运行的编程语言。

    85 引用 • 165 回帖 • 2 关注
  • NGINX

    NGINX 是一个高性能的 HTTP 和反向代理服务器,也是一个 IMAP/POP3/SMTP 代理服务器。 NGINX 是由 Igor Sysoev 为俄罗斯访问量第二的 Rambler.ru 站点开发的,第一个公开版本 0.1.0 发布于 2004 年 10 月 4 日。

    311 引用 • 546 回帖
  • iOS

    iOS 是由苹果公司开发的移动操作系统,最早于 2007 年 1 月 9 日的 Macworld 大会上公布这个系统,最初是设计给 iPhone 使用的,后来陆续套用到 iPod touch、iPad 以及 Apple TV 等产品上。iOS 与苹果的 Mac OS X 操作系统一样,属于类 Unix 的商业操作系统。

    85 引用 • 139 回帖 • 1 关注
  • PHP

    PHP(Hypertext Preprocessor)是一种开源脚本语言。语法吸收了 C 语言、 Java 和 Perl 的特点,主要适用于 Web 开发领域,据说是世界上最好的编程语言。

    179 引用 • 407 回帖 • 488 关注
  • GitLab

    GitLab 是利用 Ruby 一个开源的版本管理系统,实现一个自托管的 Git 项目仓库,可通过 Web 界面操作公开或私有项目。

    46 引用 • 72 回帖
  • VirtualBox

    VirtualBox 是一款开源虚拟机软件,最早由德国 Innotek 公司开发,由 Sun Microsystems 公司出品的软件,使用 Qt 编写,在 Sun 被 Oracle 收购后正式更名成 Oracle VM VirtualBox。

    10 引用 • 2 回帖 • 6 关注
  • TextBundle

    TextBundle 文件格式旨在应用程序之间交换 Markdown 或 Fountain 之类的纯文本文件时,提供更无缝的用户体验。

    1 引用 • 2 回帖 • 47 关注
  • DNSPod

    DNSPod 建立于 2006 年 3 月份,是一款免费智能 DNS 产品。 DNSPod 可以为同时有电信、网通、教育网服务器的网站提供智能的解析,让电信用户访问电信的服务器,网通的用户访问网通的服务器,教育网的用户访问教育网的服务器,达到互联互通的效果。

    6 引用 • 26 回帖 • 510 关注
  • 大数据

    大数据(big data)是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

    93 引用 • 113 回帖
  • TensorFlow

    TensorFlow 是一个采用数据流图(data flow graphs),用于数值计算的开源软件库。节点(Nodes)在图中表示数学操作,图中的线(edges)则表示在节点间相互联系的多维数据数组,即张量(tensor)。

    20 引用 • 19 回帖
  • Sym

    Sym 是一款用 Java 实现的现代化社区(论坛/BBS/社交网络/博客)系统平台。

    下一代的社区系统,为未来而构建

    524 引用 • 4601 回帖 • 700 关注
  • Bug

    Bug 本意是指臭虫、缺陷、损坏、犯贫、窃听器、小虫等。现在人们把在程序中一些缺陷或问题统称为 bug(漏洞)。

    75 引用 • 1737 回帖 • 5 关注
  • 职场

    找到自己的位置,萌新烦恼少。

    127 引用 • 1705 回帖 • 1 关注
  • HBase

    HBase 是一个分布式的、面向列的开源数据库,该技术来源于 Fay Chang 所撰写的 Google 论文 “Bigtable:一个结构化数据的分布式存储系统”。就像 Bigtable 利用了 Google 文件系统所提供的分布式数据存储一样,HBase 在 Hadoop 之上提供了类似于 Bigtable 的能力。

    17 引用 • 6 回帖 • 73 关注
  • Vim

    Vim 是类 UNIX 系统文本编辑器 Vi 的加强版本,加入了更多特性来帮助编辑源代码。Vim 的部分增强功能包括文件比较(vimdiff)、语法高亮、全面的帮助系统、本地脚本(Vimscript)和便于选择的可视化模式。

    29 引用 • 66 回帖
  • ActiveMQ

    ActiveMQ 是 Apache 旗下的一款开源消息总线系统,它完整实现了 JMS 规范,是一个企业级的消息中间件。

    19 引用 • 13 回帖 • 670 关注
  • 导航

    各种网址链接、内容导航。

    40 引用 • 173 回帖
  • 服务

    提供一个服务绝不仅仅是简单的把硬件和软件累加在一起,它包括了服务的可靠性、服务的标准化、以及对服务的监控、维护、技术支持等。

    41 引用 • 24 回帖 • 2 关注
  • 锤子科技

    锤子科技(Smartisan)成立于 2012 年 5 月,是一家制造移动互联网终端设备的公司,公司的使命是用完美主义的工匠精神,打造用户体验一流的数码消费类产品(智能手机为主),改善人们的生活质量。

    4 引用 • 31 回帖 • 4 关注
  • Dubbo

    Dubbo 是一个分布式服务框架,致力于提供高性能和透明化的 RPC 远程服务调用方案,是 [阿里巴巴] SOA 服务化治理方案的核心框架,每天为 2,000+ 个服务提供 3,000,000,000+ 次访问量支持,并被广泛应用于阿里巴巴集团的各成员站点。

    60 引用 • 82 回帖 • 595 关注
  • Hexo

    Hexo 是一款快速、简洁且高效的博客框架,使用 Node.js 编写。

    21 引用 • 140 回帖 • 1 关注