设为首页 双色球直播

最精准双色球预测专家: 双色球直播

查看: 461|回复: 0
打印 上一主题 下一主题

[经验分享] CentOS5.5下scribe写入数据到HDFS配置方法

[复制链接]

尚未签到

跳转到指定楼层
1#
发表于 2019-1-30 10:10:03 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
  1按照CentOS 5.5 下配置Hadoop 0.21单节点 一文中的方法配置Hadoop
  2编译scribe,支持hdfs
  2.1下载thrift,libevent,boost等库,可以都下载最新版本,基本上都是make & make install
  2.2下载最新版scribe-2.2,之前在网上看到说scribe有很多bug,必须在当前开发版本才能写入HDFS,试了好久没成功,也以为确实是代码的问题,现在发现不是这个问题,直接下载 该版本
  2.3在scribe源码包里面bootstrap.sh,按照文档上的说法是可以一步到位的即:./configure --with-hadooppath=/usr/local/hadoop --enable-hdfs CPPFLAGS="-I/usr/local/java/include -I/usr/local/java/include/linux" LDFLAGS="-ljvm -lhdfs",但是我的机器上面这样不行,因此直接./configure --enable-hdfs,然后修改相应的Makefile(src目录下面的),将以下字段修改如下:
  CPPFLAGS = -I/usr/local/lib/jdk1.6.0_23/include -I/usr/local/lib/jdk1.6.0_23/include/linux
  上面的JDK路径以机器上面的实际路径为准。
  2.4拷贝hadoop-0.21.0/hdfs/src/c++/libhdfs/hdfs.h文件到scribe/src目录下,libhdfs其实就是通过JNI让C/C++调用HDFS接口,在hadoop-0.21.0/hdfs/src/c++/libhdfs目录下面执行如下操作
  ./configure --enable-shared JVM_ARCH=tune=k8 --prefix=`pwd`/nativelib
  ./make install
  这时会在nativelib/lib下面生成5个文件,将其都拷贝到/usr/local/lib下面,执行ldconfig
  2.5编译scribe,在scribe/src目录下面执行./make,即可生成scribed文件,
  2.6按照scribe/examples目录下面的配置文件写个简单的支持HDFS的配置文件simple_hdfs_example.conf:
  port=1463
  max_msg_per_second=2000000
  check_interval=1
  max_queue_size=100000000
  num_thrift_server_threads=2
  # DEFAULT - write all messages to hadoop
  
  category=default
  target_write_size=20480
  type=file
  fs_type=hdfs
  file_path=hdfs://localhost:9000/scribedata
  create_symlink=no
  use_hostname_sub_directory=yes
  base_filename=thisisoverwritten
  max_size=1000000000
  rotate_period=100s
  add_newlines=1
  
  
  category=qt
  target_write_size=20480
  type=file
  fs_type=hdfs
  file_path=hdfs://localhost:9000/scribedata
  create_symlink=no
  use_hostname_sub_directory=yes
  base_filename=thisisoverwritten
  max_size=1000000000
  rotate_period=100s
  add_newlines=1
  
  2.7到处libhdfs库需要使用的jar路径即CLASSPATH,具体需要哪些不太清楚,官方文档上建议将hadoop/lib目录下所有的库的加入,下面是我导出的:

  export>  XXX你懂的。
  2.8可以执行scribe了, ./scribed ../examples/simple_hdfs_example.conf
  2.9通过发送工具发送日志到scribe,echo "Successful write data to HDFS,I am qiutao" | ./scribe_cat qt
  3.10在hadoop目录下面执行bin/hadoop dfs -lsr /scribedata即可看到相应的数据生成了。
  整个过程确实比较繁琐,尤其要注意2.4,一定要在自己机器上面编译libhdfs库,否则会出现一些莫名其妙的问题,基本上都是抛出的java异常,在这个上面吃了不少亏,终于在自己机器上面写入HDFS了,一步步的也学到了不少东西,留作以后备用。

+1 1

运维网声明 1、欢迎大家加入本站运维交流群:群①:263444886群②:197202523群③:485755530群④:201730672群⑤:202807635运维网交流群⑥:281548029
2、本站所有主题由该帖子作者发表,该帖子作者与双色球直播享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:[email protected] 网址:双色球直播 www.dh5vg.com.cn

点击关注更多内容
您需要登录后才可以回帖 登录 | 立即注册  

本版积分规则  允许回帖邮件提醒楼主

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服 E-mail:[email protected]

本站由青云提供云计算服务

运维网--中国最专业的运维工程师交流社区

京ICP备14039699号-1 Copyright ? 2012-2020

使用手机软件扫描微信二维码

关注我们可获取更多热点资讯

Good good study day day up !


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!


独家合作伙伴: 青云cloud

快速回复 双色球直播 返回列表
  • 合肥市公立医疗机构1271种医疗服务价格公示 部分服务涨价 2019-03-20
  • 徐祥楠当选为中国家具协会六届理事会理事长 2019-03-20
  • 为什么说一直辛苦劳作的农民没有富起来?而不说一直勤劳的农民没有富起来? 2019-03-20
  • 南宁举行国庆升国旗仪式 庆祝新中国六十八岁华诞 2019-03-19
  • 河北巨鹿38万人参保长期护理险 2019-03-19
  • 2018“我们的中国梦”文化进万家活动在兰考启动 2019-03-19
  • 在北欧坐邮轮 开启慢节奏之旅邮轮游轮 2019-03-19
  • 6月11日凤凰直通车:上海进口中高端葡萄酒有望嫁接追溯技术酒业 公司 2019-03-18
  • 朔城警方打掉一个暴力抢劫恶势力团伙 2019-03-18
  • 端午三件套了解一下!这些小知识让你端午更健康 2019-03-18
  • 回复“老笑头”,这个帖子说明,第一,从辩论的角度看,你的逻辑思维很成问题。第二,你已经被洗脑了。呵呵! 2019-03-17
  • 家长快看!济南市中、历下区2018年入学安排最新出炉 ——凤凰网房产济南 2019-03-17
  • 超级冷门!卫冕冠军德国01墨西哥 终结世界杯首战36年不败纪录 2019-03-17
  • 不喜欢足球吗?足球体现了一种自由奔放的阳刚之美,我正看呢 2019-03-16
  • 帮助孩子成为优秀的人:如何训练孩子的联想思维 2019-03-16
  • 351| 279| 522| 623| 270| 234| 707| 147| 578| 195|