Flume sink=avro rpc connection error

要求
image

conf 文件

a1.sources=r1
a1.sinks=k1
a1.channels=c1a1.sources.r1.type=avro
a1.sources.r1.bind=master
a1.sources.r1.port=9999a1.sinks.k1.type=avro
a1.sinks.k1.hostname=slave1
a1.sinks.k1.port=7777a1.channels.c1.type=memory
a1.channels.c1.capacity=1000
a1.channels.c1.transactionCapacity=100a1.sources.r1.channels=c1
a1.sinks.k1.channel=c1

第二个conf

a1.sources=r1
a1.sinks=k1
a1.channels=c1a1.sources.r1.type=avro
a1.sources.r1.bind=slave1
a1.sources.r1.port=7777a1.sinks.k1.type=loggera1.channels.c1.type=memory
a1.channels.c1.capacity=1000
a1.channels.c1.transactionCapacity=100a1.sources.r1.channels=c1
a1.sinks.k1.channel=c1

当运行第第一个conf
出现错误

org.apache.flume.FlumeException: NettyAvroRpcClient { host: slave1, port: 8888 }: RPC connection errorat org.apache.flume.api.NettyAvroRpcClient.connect(NettyAvroRpcClient.java:181)at org.apache.flume.api.NettyAvroRpcClient.connect(NettyAvroRpcClient.java:120)at org.apache.flume.api.NettyAvroRpcClient.configure(NettyAvroRpcClient.java:638)at org.apache.flume.api.RpcClientFactory.getInstance(RpcClientFactory.java:90)at org.apache.flume.sink.AvroSink.initializeRpcClient(AvroSink.java:127)at org.apache.flume.sink.AbstractRpcSink.createConnection(AbstractRpcSink.java:210)at org.apache.flume.sink.AbstractRpcSink.start(AbstractRpcSink.java:290)at org.apache.flume.sink.DefaultSinkProcessor.start(DefaultSinkProcessor.java:45)at org.apache.flume.SinkRunner.start(SinkRunner.java:79)at org.apache.flume.lifecycle.LifecycleSupervisor$MonitorRunnable.run(LifecycleSupervisor.java:249)at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:511)at java.util.concurrent.FutureTask.runAndReset(FutureTask.java:308)at java.util.concurrent.ScheduledThreadPoolExecutor$ScheduledFutureTask.access$301(ScheduledThreadPoolExecutor.java:180)at java.util.concurrent.ScheduledThreadPoolExecutor$ScheduledFutureTask.run(ScheduledThreadPoolExecutor.java:294)at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149)at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624)at java.lang.Thread.run(Thread.java:748)
Caused by: java.io.IOException: Error connecting to slave1/192.168.111.199:8888at org.apache.avro.ipc.NettyTransceiver.getChannel(NettyTransceiver.java:261)at org.apache.avro.ipc.NettyTransceiver.<init>(NettyTransceiver.java:203)at org.apache.avro.ipc.NettyTransceiver.<init>(NettyTransceiver.java:152)at org.apache.flume.api.NettyAvroRpcClient.connect(NettyAvroRpcClient.java:169)... 16 more
Caused by: java.net.ConnectException: Connection refused: slave1/192.168.111.199:8888at sun.nio.ch.SocketChannelImpl.checkConnect(Native Method)at sun.nio.ch.SocketChannelImpl.finishConnect(SocketChannelImpl.java:717)at org.jboss.netty.channel.socket.nio.NioClientBoss.connect(NioClientBoss.java:152)at org.jboss.netty.channel.socket.nio.NioClientBoss.processSelectedKeys(NioClientBoss.java:105)at org.jboss.netty.channel.socket.nio.NioClientBoss.process(NioClientBoss.java:79)at org.jboss.netty.channel.socket.nio.AbstractNioSelector.run(AbstractNioSelector.java:318)at org.jboss.netty.channel.socket.nio.NioClientBoss.run(NioClientBoss.java:42)at org.jboss.netty.util.ThreadRenamingRunnable.run(ThreadRenamingRunnable.java:108)at org.jboss.netty.util.internal.DeadLockProofWorker$1.run(DeadLockProofWorker.java:42)... 3 more
17/10/06 21:52:54 INFO sink.AbstractRpcSink: Rpc sink s1 started.
17/10/06 21:52:54 INFO sink.AbstractRpcSink: Rpc sink s1: Building RpcClient with hostname: slave1, port: 8888
17/10/06 21:52:54 INFO sink.AvroSink: Attempting to create Avro Rpc client.
17/10/06 21:52:54 WARN api.NettyAvroRpcClient: Using default maxIOWorkers
17/10/06 21:52:54 ERROR flume.SinkRunner: Unable to deliver event. Exception follows.
org.apache.flume.EventDeliveryException: Failed to send eventsat org.apache.flume.sink.AbstractRpcSink.process(AbstractRpcSink.java:389)at org.apache.flume.sink.DefaultSinkProcessor.process(DefaultSinkProcessor.java:67)at org.apache.flume.SinkRunner$PollingRunner.run(SinkRunner.java:145)at java.lang.Thread.run(Thread.java:748)
Caused by: org.apache.flume.FlumeException: NettyAvroRpcClient { host: slave1, port: 8888 }: RPC connection errorat org.apache.flume.api.NettyAvroRpcClient.connect(NettyAvroRpcClient.java:181)at org.apache.flume.api.NettyAvroRpcClient.connect(NettyAvroRpcClient.java:120)at org.apache.flume.api.NettyAvroRpcClient.configure(NettyAvroRpcClient.java:638)at org.apache.flume.api.RpcClientFactory.getInstance(RpcClientFactory.java:90)at org.apache.flume.sink.AvroSink.initializeRpcClient(AvroSink.java:127)at org.apache.flume.sink.AbstractRpcSink.createConnection(AbstractRpcSink.java:210)at org.apache.flume.sink.AbstractRpcSink.verifyConnection(AbstractRpcSink.java:270)at org.apache.flume.sink.AbstractRpcSink.process(AbstractRpcSink.java:346)... 3 more
Caused by: java.io.IOException: Error connecting to slave1/192.168.111.199:8888at org.apache.avro.ipc.NettyTransceiver.getChannel(NettyTransceiver.java:261)at org.apache.avro.ipc.NettyTransceiver.<init>(NettyTransceiver.java:203)at org.apache.avro.ipc.NettyTransceiver.<init>(NettyTransceiver.java:152)at org.apache.flume.api.NettyAvroRpcClient.connect(NettyAvroRpcClient.java:169)... 10 more
Caused by: java.net.ConnectException: Connection refused: slave1/192.168.111.199:8888at sun.nio.ch.SocketChannelImpl.checkConnect(Native Method)at sun.nio.ch.SocketChannelImpl.finishConnect(SocketChannelImpl.java:717)at org.jboss.netty.channel.socket.nio.NioClientBoss.connect(NioClientBoss.java:152)at org.jboss.netty.channel.socket.nio.NioClientBoss.processSelectedKeys(NioClientBoss.java:105)at org.jboss.netty.channel.socket.nio.NioClientBoss.process(NioClientBoss.java:79)at org.jboss.netty.channel.socket.nio.AbstractNioSelector.run(AbstractNioSelector.java:318)at org.jboss.netty.channel.socket.nio.NioClientBoss.run(NioClientBoss.java:42)at org.jboss.netty.util.ThreadRenamingRunnable.run(ThreadRenamingRunnable.java:108)at org.jboss.netty.util.internal.DeadLockProofWorker$1.run(DeadLockProofWorker.java:42)at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149)at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624)... 1 more

原因是先后顺序不对 得先打开第二个conf这样才可以保证sink的avro输出有接收方

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/257100.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【腾许Bugly干货分享】“HTTPS”安全在哪里?

背景 最近基于兴趣学学习了下 HTTPS 相关的知识&#xff0c;在此记录下学习心得。 在上网获取信息的过程中&#xff0c;我们接触最多的信息加密传输方式也莫过于 HTTPS 了。每当访问一个站点&#xff0c;浏览器的地址栏中出现绿色图标时&#xff0c;意味着该站点支持 HTTPS 信息…

CCNP精粹系列之十八--路由映射实战二,博主推荐文章

路由映射实战二 本篇博文和上一篇是紧密结合的&#xff0c;只是在上个试验的基础上作了改动&#xff0c;达到其他的试验效果。试验二&#xff1a;在R1上增加一个网段&#xff0c;并发布路由。这里采用三种方法。 如下是第一种&#xff0c;是在试验一的基础上直接增加一个网段&a…

HDU 1599 find the mincost route

Floyd可解。求最短。在路上来回。使用Floyd 而在 三同时不 找出最短。然后更新。没有推理启动&#xff01;INF。一堆负面结果溢出。 #include<cstdio> #include<cstring> #include<string> #include<queue> #include<algorithm> #include<map…

学习笔记(09):Python网络编程并发编程-模拟ssh远程执行命令-代码实现

立即学习:https://edu.csdn.net/course/play/24458/296239?utm_sourceblogtoedu 1.服务器端&#xff1a;接收客户端发送的命令,subprocess.POPE()函数可用于产生一个子进程&#xff0c;并且返回子进程的结果 import socket import subprocessphone socket.socket(socket.AF…

C++中两个数交换不引进中间变量的方法

int a8,b2; 二进制的a1000,b0010; aa方法一&#xff1a;使用异或思想&#xff08;最高级方法&#xff09; aa^b; ba^b; aa^b 方法二&#xff1a;使用加法加法&#xff08;高级方法&#xff09; aab; ba-b; aa-b; 方法三&#xff1a;引进中间变量&#xff08;一般方法&#xff0…

【JUC】JDK1.8源码分析之ConcurrentLinkedQueue(五)

一、前言 接着前面的分析&#xff0c;接下来分析ConcurrentLinkedQueue&#xff0c;ConcurerntLinkedQueue一个基于链接节点的无界线程安全队列。此队列按照 FIFO&#xff08;先进先出&#xff09;原则对元素进行排序。队列的头部是队列中时间最长的元素。队列的尾部 是队列中时…

学习笔记(10):Python网络编程并发编程-粘包现象

立即学习:https://edu.csdn.net/course/play/24458/296240?utm_sourceblogtoedu粘包现象&#xff1a;服务器接收到客户端的命令后&#xff0c;进行执行得到结果后&#xff0c;再发送回给客户端&#xff0c;在这个过程中如果服务器返回的结果的字节数会大于客户端所接收最大字节…

某法院HP-P4500存储数据恢复案例

好久没出来写博客了&#xff0c;过年来了一直很忙&#xff0c;尤其是最近&#xff0c;忙着做了好几个大单子。先是一个医院50TB的HP-EVA4400&#xff0c;接着是一个法院12TB的HP-P4500&#xff0c;前几天还有做了一个某游乐城12TB的VMware VMFS虚拟机恢复。虽然忙点&#xff0c…

数组指针与指针数组的区别

1、数组指针 定义&#xff1a;数组指针式一个指向一维数组的指针变量&#xff0c;定义数组指针的格式为&#xff1a; int (*p) [5] 数据类型 &#xff08;*指针名&#xff09; [常量表达式] 数组元素为整形&#xff0c;*p的两侧圆括号不能省略 2、指针数组 定义&#xff1a…

[thinkphp] 是如何输出一个页面的

表面上看&#xff0c;TP输出一个页面很简单&#xff1a;$this->display(); 实际上是怎么回事呢&#xff1f;$this->display(); 这个display()方法是定义在ThinkPHP/Library/Think/Controller.class.php这个文件中的 protected function display($templateFile,$charset,$…

关于反射blog

非常好的Java反射例子 疯狂java 在学习编程的过程中&#xff0c;我觉得不止要获得课本的知识&#xff0c;更多的是通过学习技术知识提高解决问题的能力&#xff0c;这样我们才能走在最前方&#xff0c;更多Java学习&#xff0c;请浏览疯狂java官网。Java反射在我们Java学习的…

学习笔记(11):Python网络编程并发编程-粘包底层原理分析

立即学习:https://edu.csdn.net/course/play/24458/296241?utm_sourceblogtoedu1.send和recv底层分析 1&#xff09;不管是recv还是send都不是直接接收对方数据或者发送给对方数据&#xff0c;而是对自己的操作系统内存进行操作&#xff1b; 2&#xff09;客户端与服务端并不是…

切面编程(4)

这篇介绍的是最为常见的切面编程首先介绍的是通过注解Aspect来配置AOP类Component Aspect public class Acsep {//定义切入点Pointcut("execution(* com.test.*.*(..))")//切面公式public void aspect(){ }//执行方法之前Before("aspect()")public void be…

c++存储类型

1、c中的存储类型一般有静态存储、栈、和自动类型三种&#xff0c;一般默认值是为自动类型auto

多线程编程 (1) -NSThread

多线程编程 (1) -NSThread 每个iOS应用程序都有个专门用来更新显示UI界面、处理用户触摸事件的主线程&#xff0c;因此不能将其他太耗时的操作放在主线程中执行&#xff0c;不然会造成主线程堵塞(出现卡机现象)&#xff0c;带来极坏的用户体验。一般的解决方案就是将那些耗时的…

交叉工具链的搭建方法(测试成功)

之前安装了一个rehat6的linux系统&#xff0c;把交叉编译搭建给忽视了&#xff0c;结果在编译uboot的时候出现问题&#xff0c;显示找不到arm-linux-gcc。于是自己来搭建交 叉编译环境。出现好多错。先是解压时没在后边加 -C/&#xff0c;后是直接自己创建了个目录&#xff0c…

VMware内存回收与分配机质

VMware内存回收与分配机质 整理了下学习过的东西&#xff0c;为了防止以后忘记。^_^VMware内存回收按照内存回收先后顺充&#xff0c;依次为&#xff1a;1.TPS 透明页共享2.Ballooning 气球回收3.Compressiong 内存压缩4.Swapping 内存交换网上对这个的解释也挺多&#xff…

学习笔记(12):Python网络编程并发编程-解决粘包问题-简单版本

立即学习:https://edu.csdn.net/course/play/24458/296243?utm_sourceblogtoedu 粘包现象的解决&#xff1a;简单版 1.思路&#xff1a; 在服务器端计算出执行命令后结果的字节长度&#xff0c;然后再将字节数长度send即通知给客户端&#xff0c;客户端根据这个字节数的长度一…

关于for循环中的变量int i 如果跳出了这个for循环后,i的值是继续保留还是被释放掉了

#include<iostream> using namespace std;int main() {char a[10]; //定义一个一维数组用来存放字符串int i,j; //定义变量cout<<"请输入字符&#xff1a;“;for(i0;i<10;i) //接收用户的输入{ ci…

keil优化等级设置

优化级别说明&#xff08;仅供参考&#xff09;&#xff1a;则其中的 Code Optimization 栏就是用来设置C51的优化级别。共有9个优化级别&#xff08;书上这么写的&#xff09;&#xff0c;高优化级别中包含了前面所有的优化级别。现将各个级别说明如下&#xff1a;0级优化&…