中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

ubuntu16.04系統中怎么安裝kafka

發布時間:2021-06-15 13:53:25 來源:億速云 閱讀:236 作者:Leah 欄目:大數據

ubuntu16.04系統中怎么安裝kafka,很多新手對此不是很清楚,為了幫助大家解決這個難題,下面小編將為大家詳細講解,有這方面需求的人可以來學習下,希望你能有所收獲。

下載

wget http://mirror-hk.koddos.net/apache/kafka/2.3.0/kafka_2.12-2.3.0.tgz

安裝

tar zxvf kafka_2.12-2.3.0.tgz
cd kafka_2.12-2.3.0/
vim config/server.properties

配置

# 通用配置
# kafka數據目錄
log.dirs=/data/kafka

# zookeeeper
zookeeper.connect=kafka-node1:2181,kafka-node2:2181,kafka-node3:2181

# 節點配置
# 節點1
broker.id=0
#listeners=PLAINTEXT://:9092
listeners=PLAINTEXT://10.13.6.1:9092

# 節點2
broker.id=1
#listeners=PLAINTEXT://:9092
listeners=PLAINTEXT://10.13.6.2:9092

# 節點3
broker.id=2
#listeners=PLAINTEXT://:9092
listeners=PLAINTEXT://10.13.6.3:9092

啟動

#進入kafka根目錄
cd /app/kafka_2.12-2.3.0/
#啟動
bin/kafka-server-start.sh -daemon config/server.properties

#啟動成功輸出示例(最后幾行)
[2019-09-11 11:14:13,403] INFO [ProducerId Manager 0]: Acquired new producerId block (brokerId:0,blockStartProducerId:0,blockEndProducerId:999) by writing to Zk with path version 1 (kafka.coordinator.transaction.ProducerIdManager)
[2019-09-11 11:14:13,423] INFO [TransactionCoordinator id=0] Starting up. (kafka.coordinator.transaction.TransactionCoordinator)
[2019-09-11 11:14:13,424] INFO [Transaction Marker Channel Manager 0]: Starting (kafka.coordinator.transaction.TransactionMarkerChannelManager)
[2019-09-11 11:14:13,424] INFO [TransactionCoordinator id=0] Startup complete. (kafka.coordinator.transaction.TransactionCoordinator)
[2019-09-11 11:14:13,459] INFO [/config/changes-event-process-thread]: Starting (kafka.common.ZkNodeChangeNotificationListener$ChangeEventProcessThread)
[2019-09-11 11:14:13,479] INFO [SocketServer brokerId=0] Started data-plane processors for 1 acceptors (kafka.network.SocketServer)
[2019-09-11 11:14:13,485] INFO Kafka version: 2.3.0 (org.apache.kafka.common.utils.AppInfoParser)
[2019-09-11 11:14:13,485] INFO Kafka commitId: fc1aaa116b661c8a (org.apache.kafka.common.utils.AppInfoParser)
[2019-09-11 11:14:13,485] INFO Kafka startTimeMs: 1568171653480 (org.apache.kafka.common.utils.AppInfoParser)
[2019-09-11 11:14:13,487] INFO [KafkaServer id=0] started (kafka.server.KafkaServer)

使用

1、創建Topic
在kafka-node1(Broker)上創建測試Tpoic:test-ken-io,這里我們指定了3個副本、1個分區
bin/kafka-topics.sh --create --bootstrap-server kafka-node1:9092 --replication-factor 3 --partitions 1 --topic test-ken-io
Topic在kafka-node1上創建后也會同步到集群中另外兩個Broker:kafka-node2、kafka-node3

2、查看Topic
我們可以通過命令列出指定Broker的
bin/kafka-topics.sh --list --bootstrap-server kafka-node1:9092

3、發送消息
這里我們向Broker(id=0)的Topic=test-ken-io發送消息
bin/kafka-console-producer.sh --broker-list  kafka-node1:9092  --topic test-ken-io

#消息內容
> test by ken.io

4、消費消息
在kafka-node2上消費Broker03的消息
bin/kafka-console-consumer.sh --bootstrap-server kafka-node3:9092 --topic test-ken-io --from-beginning

在Kafka03上消費Broker02的消息
bin/kafka-console-consumer.sh --bootstrap-server kafka-node2:9092 --topic test-ken-io --from-beginning

然后均能收到消息
test by ken.io

這是因為這兩個消費消息的命令是建立了兩個不同的Consumer
如果我們啟動Consumer指定Consumer Group Id就可以作為一個消費組協同工,1個消息同時只會被一個Consumer消費到

bin/kafka-console-consumer.sh --bootstrap-server kafka-node3:9092 --topic test-ken-io --from-beginning --group testgroup_ken

bin/kafka-console-consumer.sh --bootstrap-server kafka-node2:9092 --topic test-ken-io --from-beginning --group testgroup_ken

參數

Kafka常用Broker配置說明:

配置項默認值/示例值說明
broker.id0Broker唯一標識
listenersPLAINTEXT://192.168.88.53:9092監聽信息,PLAINTEXT表示明文傳輸
log.dirskafka/logskafka數據存放地址,可以填寫多個。用”,”間隔
message.max.bytesmessage.max.bytes單個消息長度限制,單位是字節
num.partitions1默認分區數
log.flush.interval.messagesLong.MaxValue在數據被寫入到硬盤和消費者可用前最大累積的消息的數量
log.flush.interval.msLong.MaxValue在數據被寫入到硬盤前的最大時間
log.flush.scheduler.interval.msLong.MaxValue檢查數據是否要寫入到硬盤的時間間隔。
log.retention.hours24控制一個log保留時間,單位:小時
zookeeper.connect192.168.88.21:2181ZooKeeper服務器地址,多臺用”,”間隔

看完上述內容是否對您有幫助呢?如果還想對相關知識有進一步的了解或閱讀更多相關文章,請關注億速云行業資訊頻道,感謝您對億速云的支持。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

行唐县| 锦州市| 永定县| 嘉荫县| 乌兰浩特市| 宜良县| 许昌县| 沛县| 横山县| 凌云县| 武清区| 饶平县| 阳城县| 韶山市| 邛崃市| 台湾省| 平湖市| 平原县| 临桂县| 柳江县| 大埔县| 化隆| 平湖市| 大理市| 哈尔滨市| 霍邱县| 建宁县| 巢湖市| 鱼台县| 武陟县| 晋中市| 镇雄县| 汉沽区| 绥阳县| 崇仁县| 宝应县| 琼结县| 和龙市| 杭锦后旗| 武定县| 嘉义市|