0
votes

Pourquoi ne puis-je pas créer un sujet à Kafka?

Suivre le Apache Kafka QuickStart Guide , j'ai fait les étapes suivantes:

  • Télécharger et endommager KAFKA_2.11-2.1.0.TGZ
  • cd kafka_2.11-2.1.0
  • bin / zoookeeper-server-start.sh config / zookeper.properties
  • Dans un autre terminal, le même Dir, bin / kafka-server-start.sh config / server.properties
  • bin / kafka-topics.sh --Create --Zookeeper localhost: 2181 - Factor-Factor 1 --Partitions 1 - Test technique . Exécution echo $? montre la suite que cette commande est sortie avec statut 0

    maintenant le moment de la vérité. Le guide dit:

    Nous pouvons maintenant voir ce sujet si nous exécutons la commande de la liste de liste: xxx

    Cependant, je n'obtiens pas de sortie de cette commande et une pièce de logiciel que je teste, qui tente d'envoyer un message sur le "Test" < / Code> Sujet, accidents parce qu'il trouve 0 partitions pour le sujet.

    J'ai aussi un programme Ruby qui envoie des messages à Kafka sur la clé "test" . Il échoue et des tentatives, et je vois le sujet créé à ce point dans les journaux de Kafka et peut lui envoyer des messages. Mais même alors, la commande de liste de sujets ne renvoie rien.

    Pourquoi ne puis-je pas créer un sujet explicitement? Pourquoi ne peut-je pas énumérer des sujets créés sur demande? Comment puis-je résoudre ce problème?


    LOGS

    Voici ce que je vois dans les journaux: https://gist.github.com/nathanl/bea7a45a056b2d4414694b2d48146947ec88c29185


5 commentaires

Je suis sur MacOS 10.14


Existe-t-il des informations dans les journaux, ex. erreurs, avertissements?


@ wwwardziniak Il y a des messages info de Zookeper qui ressemblent à des avertissements; Voir mes commentaires sur la réponse de Robin.


FWIW, Brew Install Install Kafka est peut-être un "meilleur" moyen de l'installer


Si nous allons "mieux" façons, Docker est également une excellente option :) E.G. github.com/confluentinc/cp-docker-images/blob/5.1.0-post/...


4 Réponses :


0
votes

sur Mac 10.13.6, j'ai suivi les mêmes étapes, voici quelques étapes de dépannage pour vous de vérifier.

Lorsque vous démarrez Zookeeper, vous devriez voir dans le stdout: p> xxx pré>

Lorsque vous démarrez Kafka, vous devez voir dans le stdout: p>

$ ./bin/kafka-topics.sh --zookeeper localhost:2181 --list
test


10 commentaires

Lorsque vous commencez Zookeer et Kafka, je vois les messages que vous montrez. Lorsque KAFKA démarre, Zookeper sortit ceci et divers messages similaires: [2019-02-07 11: 53: 03,156] Info a obtenu une exception de niveau utilisateur lors du traitement de la sessionId: 0x1000E9A35560000 Type: Créer la cxide: 0x1 ZXID: 0x20 TXNTYPE: - 1 REQPATH: N / A Chemin d'erreur: / Erreur des consommateurs: KeeperErrorCode = NodeExists pour / consommateurs (org.apache.zookeeper.server.prequisseresProcessor) . Il en résulte également une avec Erreur: KeeperErrorCode = nonde pour / admin / réassigné_partitions et identique pour / admin / préféré_replica_election .


Lorsque j'exécute la commande pour créer un sujet, rien ne se passe dans les journaux de Kafka, aucune sortie n'est donnée, et aucun n'est répertorié après.


J'ai un programme Ruby qui envoie des messages à Kafka sur le thème "Test". Il échoue et des tentatives, et je vois le sujet créé à ce point dans les journaux de Kafka et peut lui envoyer des messages. Mais même alors, le commandement de la liste des sujets ne renvoie rien.


Est-ce que vous exécutez tout cela localement, métal nu, pas de réseautage drôle, docker, etc.?


Je ne vois aucune erreur : keepererrorcode dans mon journal de zookeeper, afin que cela puisse être quelque chose à domicile. En supposant que c'est un environnement propre propre, je suggérerais (1) Shutdown ZK (2) Shutdown Kafka (3) RM -RF / TMP / ZOOKEPER / TMP / KAFKA-JOUR (4) Répétez votre test et mettez à jour votre question avec des journaux complètes du zookeeper si vous voyez toujours ces erreurs


Merci pour votre aide, au fait. :) J'ai été rm -rf les journaux au fur et à mesure que vous montrez et et avez toujours le même résultat. J'ai déjà eu ce problème avec kafka_2.11-2.0.0.tgz , donc j'ai installé à partir de kafka_2.11-2.1.0.tgz aujourd'hui, mais pas de changement.


Ouais, courir localement, pas de docker, rien de bizarre que je sache. Je viens de suivre les instructions dans le guide.


Veuillez mettre à jour la question avec les journaux ZK et nous pouvons faire un look plus profond.


Posté un lien vers les journaux (ils rendraient la question gigantesque si collé ici)


Laissez-vous Zookeper à zookeper avant de commencer Kafka?



10
votes

je suis confronté au même problème. Cependant, j'ai découvert que le contenu de la bosse de script / kafka-topics.sh est vide d'une manière ou d'une autre après la commande endommagée.

Donc, j'ai reflété à nouveau le Kafka, jusqu'à ce que je vérifie le contenu du fichier de script jusqu'à ce que je le vois là-bas, alors cela fonctionne.


2 commentaires

Même ici avec 0 octets sur le fichier de sujet. Décompressez manuellement et maintenant ça marche!


Vous avez sauvé ma journée. J'ai eu le même problème.



2
votes

J'ai couru dans le même problème.

Vérifiez d'abord si le bin / kafka-topics.sh a un contenu dedans.

Allez ensuite et effacez toutes les données TMP de ZooKEeper et KAFKA

RM -R / TMP / ZOOOKEPER

rm -r / tmp / kafka-journal

Commencez à nouveau votre zookeper et votre Kafka.


0 commentaires

0
votes

J'ai fait face à ce même problème sur un Mac lors de la course sur un VPN, qui a entraîné une résolution de ma nom d'hôte.

J'ai résolu ceci en édition serveur.properties , ajoutant la ligne: < / p> xxx


0 commentaires