博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
golang通过http端口访问hadoop
阅读量:6826 次
发布时间:2019-06-26

本文共 1097 字,大约阅读时间需要 3 分钟。

  hot3.png

无聊尝试一下golang连接hdfs, 写了个hello world

golang包地址

安装

go get github.com/vladimirvivien/gowfs

写程序之前需要修改hadoop的两个配置文件

分别是

  •   hsdfs-site.xml 里的 dfs.webhdfs.enabled 

      
dfs.webhdfs.enabled
      
true
  
  •  core-site.xml  里的 hadoop.http.staticuser.user 

      
hadoop.http.staticuser.user
      
hadoop
  

简单的例子

package mainimport (	"fmt"	"log"	"github.com/vladimirvivien/gowfs")func main() {	fs, err := gowfs.NewFileSystem(gowfs.Configuration{Addr: "localhost:50070", User: "hadoop"})	if err != nil{	    log.Fatal(err)	}	checksum, err := fs.GetFileChecksum(gowfs.Path{Name: "/user/kafka/hello.txt"})	if err != nil {	    log.Fatal(err)	}	fmt.Println (checksum)	createTestDir(fs, "/user/kafka/hello1.txt")	}func createTestDir(fs *gowfs.FileSystem, hdfsPath string) {	path := gowfs.Path{Name:hdfsPath}	ok, err := fs.MkDirs(path, 0744)	if err != nil || !ok {		log.Fatal("Unable to create test directory ", hdfsPath, ":", err)	}	log.Println ("HDFS Path ", path.Name, " created.")}

转载于:https://my.oschina.net/dclink/blog/283072

你可能感兴趣的文章
ecna 2017 J Workout for a Dumbbell (模拟)
查看>>
用Quick3.3开发微信打飞机 (二) -------------------- 子弹和敌人的配置和创建
查看>>
Tui-x 自适应屏幕 (转) ----- 6
查看>>
[转载] C#中的委托和事件(续)
查看>>
解题思路
查看>>
AngularJS - Apply方法监听model变化
查看>>
linux_密钥
查看>>
silverlight 添加配置项
查看>>
oracle数据库迁移相关
查看>>
Linux之 VIM 编辑器
查看>>
实用网址集合
查看>>
【转】移动web资源整理
查看>>
【Linux】CentOS7下安装JDK详细过程
查看>>
python基础之socket编程3:粘包
查看>>
(转)Hibernate 的应用(Hibernate 的结构)?
查看>>
Ubuntu terminator 多窗口终端的快捷键
查看>>
Add Binary leetcode
查看>>
关于pycharm中缩进、粘贴复制等文本编辑功能部分失效的解决办法
查看>>
[20190524]浅谈模糊查询.txt
查看>>
Swift 构造与析构
查看>>