如何彻底删除kafka中的topic和数据

发布于:2024-10-24 编辑:匿名 来源:网络

前言:严格来说,删除kafka topic及其数据并不是一个困难的操作。然而,它常常给kafka用户带来很多问题。

项目组之前联系过很多开发者,发现偶尔会出现无法彻底删除Kafka的情况。本文总结了删除kafka主题的多种应用场景,总结了一套删除kafka主题的标准操作方法。

步骤1:如果需要删除的Topic当前正在被程序生产和消费,则需要停止这些生产和消费程序。因为如果程序正在生产或消费该主题,则该主题的偏移量信息将在代理上一致更新。

无法通过kafka delete命令删除topic。同时需要设置auto.create.topics.enable = false,默认设置为true。

如果设置为 true,则在 Produce 或 fetch 中不存在的主题也会自动创建。这会在删除主题时引起许多意想不到的问题。

因此,这一步非常重要。您必须设置auto.create.topics.enable = false,并小心停止所有生产和消费程序。

步骤2:server.properties设置delete.topic.enable=true。如果不设置delete.topic.enable=true,调用kafka的delete命令并不能真正删除topic,而是显示(标记为删除)。

Step3:调用命令删除主题。 : ./bin/kafka-topics --delete --zookeeper [zookeeper server:port] --topic [topic name] 步骤4:删除kafka存储目录(server.properties文件log.dirs配置,默认为“/data /kafka -logs") 相关主题的数据目录。

注意:如果kafka有多个broker,并且每个broker配置了多个数据盘(如/data/kafka-logs、/data1/kafka-logs...),并且topic也有多个分区和副本,则需要扫描所有broker的所有数据盘,删除该topic的所有分区数据。 一般来说,经过上述4个步骤后,主题和主题数据就可以正常删除了。

但如果经过上述四步后仍无法正常删除topic,则需要删除zookeeer中的Kafka存储信息。具体操作如下:(注:以下步骤中,kafka在zk中的节点信息使用默认值,如果您的系统修改了kafka在zk中的节点信息,则需要根据步骤5:找到部署zk的服务器,使用命令:bin/zkCli.sh -server [zookeeper server:port]登录zk shell,然后找到部署zk的目录topic位于:ls /brokers/topics,找到要删除的topic,然后执行命令:rmr /brokers/topics/[topic name],则该topic将被彻底删除。

如果主题被标记为删除,则使用命令 ls /admin/delete_topics 找到要删除的主题,然后执行命令: rmr /admin/delete_topics/[主题名称] 注:网上很多其他文章也有说明需要删除zk上topic的消费节点记录和配置节点记录,例如: rmr /consumers/[consumer-group] rmr /config/topics/[topic name] 其实一般情况下,有无需执行这两个操作。如果有的话,都是操作不当造成的。

例如,步骤1没有执行停止生产和消费程序,步骤2配置不正确。也就是说,一般情况下,只要严格按照step1到step5的步骤操作,就可以正常删除主题。

step6:完成后,调用命令:./bin/kafka-topics.sh --list --zookeeper [zookeeper server:port] 查看kafka当前的topic信息。一般情况下,删除的主题不会再次显示。

但如果删除的topic仍然可以查询到,重启zk和kafka即可。

如何彻底删除kafka中的topic和数据

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 8月28日,2020中国股权投资论坛@佛山即将开幕

    8月28日,2020中国股权投资论坛@佛山即将开幕

    距离粤港澳大湾区规划发布已经一年多了。 作为当前中国经济发展的前沿,大湾区的发展速度有目共睹。 随着粤港澳大湾区成为全球投资者关注的焦点,大湾区将为区域经济可持续发展提供多元化的资金来源和投资选择。 推动区域经济发展,培育创新生态,需要凝聚更多能量。 如何抓住

    06-17

  • 打印机耗材芯片供应商美佳音控股首发上市,开盘大涨超10%

    打印机耗材芯片供应商美佳音控股首发上市,开盘大涨超10%

    香港上市公司美佳音控股(9.HK)今日正式挂牌上市。

    06-17

  • 滴答旅游同风升浪社区第二期顺风态度榜结果出炉

    滴答旅游同风升浪社区第二期顺风态度榜结果出炉

    创今日头条获悉,1月15日,滴答旅游同风升浪社区第二期顺风态度榜结果出炉了:《重要的是啥》拼车期间对您影响最大的是?有哪些行为? “讨论的结果已经出来了。 其中,“在不方便的地方要求停车”、播放手机声音、强行关车门、“开车时发微信或打电话”被选为车主和乘客最关

    06-18

  • 投资世界24小时 -瑞幸咖啡回应称,目前暂无赴港上市计划;京东新百货将布局线下实体店;百亿海南母基金招募GP

    投资世界24小时 -瑞幸咖啡回应称,目前暂无赴港上市计划;京东新百货将布局线下实体店;百亿海南母基金招募GP

    时间:2020年5月10日星期二重要消息瑞幸咖啡:目前暂无赴港上市计划。 9日晚间,针对“瑞幸咖啡考虑在香港上市”的消息,瑞幸咖啡发表声明称,管理层正专注于落实公司业务战略,并继续致力于美国资本市场。 目前尚未有在香港上市的计划。 京东App已新增“京东新百货”,并将布

    06-18

  • 创新抗体研发公司康方生物制药完成1亿元C轮融资,勤致资本继续跟投

    创新抗体研发公司康方生物制药完成1亿元C轮融资,勤致资本继续跟投

    投资界11月1日消息,近日,中山康方生物制药有限公司(康方生物制药)一家创新药物研发公司宣布公司已完成C轮融资。 本轮融资由汇桥资本领投,原始投资人深圳创新投资集团、勤致资本、建银资本海外基金共同跟投。 本轮融资将支持康方生物推进多项创新抗体产品的国际国内临床研

    06-17

  • 「StoneWise」获 1 亿美元 B、B+ 轮融资,加速 AI 医药产业化

    「StoneWise」获 1 亿美元 B、B+ 轮融资,加速 AI 医药产业化

    以 AI 驱动的创新药物研发驱动的平台科技公司 StoneWise 今日宣布完成 B 轮和 B+ 轮融资B+轮融资。 总额为1亿美元。 B+轮由光速中国和大湾区共同家园发展基金联合领投,B轮由君联资本领投。 旺铺去年已连续完成四轮融资。 本轮融资将用于进一步吸引全球顶尖人才,巩固网石AI技

    06-18

  • 科大讯飞一季度扭亏为盈,净利润达1.39亿元

    科大讯飞一季度扭亏为盈,净利润达1.39亿元

    科大讯飞(30.SZ)发布年报。 公司实现营业收入250亿元,同比增长29.23%;归属于上市公司股东的净利润13.64亿元,同比增长66.48%;年度分配方案为每10个2元(含税)。

    06-18

  • 搜狗与新华社、咪咕、掌阅签署战略合作协议,用人工智能打造网络娱乐新模式

    搜狗与新华社、咪咕、掌阅签署战略合作协议,用人工智能打造网络娱乐新模式

    8月9日上午10点,第三届中国“网络文学+”开幕式暨高峰论坛开幕”大会在北京亦创国际会展中心隆重开幕。 开幕式上,搜狗AI合成主播“雅妮”自然流畅的热身直播让众多与会人士惊叹不已。 这其实是搜狗分身技术的又一实现,让观众直接体验到难以辨别真假真人的AI合成主播的黑科

    06-18

  • 路读器获数百万元种子轮融资,从专业钓鱼服进军户外领域

    路读器获数百万元种子轮融资,从专业钓鱼服进军户外领域

    投资圈(ID:pedaily)3月30日消息,路读器近期已完成数百万融资元种子轮融资,由湾湾创投投资,本轮资金将用于产品研发、渠道建设、品牌运营等。 旗下钓鱼服饰品牌“JOJO&FISH”(以下简称“J&F”) ,创立于2009年,将于今年秋冬推出。 此前,公司的主营业务是代理知名品牌

    06-18

  • 浙江省科技创新基金母基金(二期)完成注册,规模超30亿

    浙江省科技创新基金母基金(二期)完成注册,规模超30亿

    投资界消息(ID:pedaily),近日,浙江省科技创新基金母基金(二期)顺利完成注册工商注册,这标志着该基金正式进入启动运营阶段,将更好地支持浙江省“科技创新体系”建设。 浙江省科技创新专项基金(二期)规模30.02亿元。 在浙江省科技创新母基金(一期)顺利运行的基础上

    06-17

  • 加拿大矿泉水品牌Flow再获百万美元融资

    加拿大矿泉水品牌Flow再获百万美元融资

    据投资界10月13日消息,据36氪报道,加拿大矿泉水品牌Flow再获百万美元融资,由Virgo Investment投资团体。 在本轮融资的同时,Virgo Investment Group 的 Guthrie 将加入该公司的顾问团队。 据悉,本轮融资获得的资金将被公司用于拓展Flow的分销渠道、资助新产品线并加速公司

    06-18

  • 科学家开发出可为LED灯供电的新型木地板

    科学家开发出可为LED灯供电的新型木地板

    据外媒报道,我们已经看到利用人体运动发电的想法应用于许多领域,包括鞋类、道路,而就在本周,用于治疗受伤肌腱的植入式刺激器装置。 其中一种可能性是可以为电子设备供电的地板,苏黎世联邦理工学院的科学家们现在已经开发出一种高效的技术,其效率足以为 LED 灯泡和小型电

    06-08