Data Engineering

Data Engineering/Kafka

[kafka] 주키퍼에서 카프카 토픽 확인하는 방법

1. 도커 컴포즈 파일 작성 docker-compose.yml version: '3' services: # wurstmeister/zookeeper:3.4.6 zookeeper: hostname: zookeeper container_name: zookeeper image: wurstmeister/zookeeper:3.4.6 ports: - "2181:2181" # wurstmeister/kafka:2.13-2.8.1 kafka: hostname: kafka container_name: kafka image: wurstmeister/kafka:2.13-2.8.1 environment: KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://localhost:9092 KAFKA_LISTENE..

Data Engineering/Kafka

[kafka] 카프카에서 토픽 삭제하는 방법

1. 도커 컴포즈 파일을 작성한다. docker-compse.yml version: '3' services: # wurstmeister/zookeeper:3.4.6 zookeeper: hostname: zookeeper container_name: zookeeper image: wurstmeister/zookeeper:3.4.6 ports: - "2181:2181" # wurstmeister/kafka:2.13-2.8.1 kafka: hostname: kafka container_name: kafka image: wurstmeister/kafka:2.13-2.8.1 environment: KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://localhost:9092 KAFKA_LIST..

Data Engineering/Kafka

[kafka] 카프카에서 토픽 생성하는 방법

1. 도커 컴포즈 파일 작성 docker-compose.yml 파일을 작성한다 version: '3' services: # wurstmeister/zookeeper:3.4.6 zookeeper: hostname: zookeeper container_name: zookeeper image: wurstmeister/zookeeper:3.4.6 ports: - "2181:2181" # wurstmeister/kafka:2.13-2.8.1 kafka: hostname: kafka container_name: kafka image: wurstmeister/kafka:2.13-2.8.1 environment: KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://localhost:9092 KAFK..

Data Engineering/Kafka

[kafka] 도커의 각 컨테이너의 접속할 때 현재의 사용자계정을 확인하는 방법 whoami

컨테이너 확인을 위해 도커컴포즈 파일을 만든다 docker-compose.yml version: '3' services: # zookeeper 3.4.6 zookeeper: hostname: zookeeper container_name: zookeeper image: wurstmeister/zookeeper:3.4.6 ports: - "2181:2181" # kafka 2.13-2.8.1 kafka: hostname: kafka container_name: kafka image: wurstmeister/kafka:2.13-2.8.1 environment: KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://localhost:9092 KAFKA_LISTENERS: PLAINTEXT://..

Data Engineering/Kafka

[kafka] 카프카 클러스터끼리 네트워크 연결 통신상태 확인하는 방법

도커컴포즈 파일을 작성해보자 docker-compose.yml version: '2' services: # wurstmeister/zookeeper:3.4.6 zookeeper: hostname: zookeeper container_name: zookeeper image: wurstmeister/zookeeper:3.4.6 ports: - "2181:2181" # wurstmeister/kafka:2.13-2.8.1 - broker 1 kafka1: hostname: kafka1 container_name: kafka1 image: wurstmeister/kafka:2.13-2.8.1 environment: KAFKA_BROKER_ID: 1 KAFKA_ZOOKEEPER_CONNECT: zookeeper:..

Data Engineering/Kafka

[kafka] 도커컴포즈로 멀티노드 카프카 만드는 방법 (docker compose, kafka, zookeeper)

먼저 docker-compose.yml 파일을 작성한다. docker-compose.yml version: '2' services: # wurstmeister/zookeeper:3.4.6 zookeeper: hostname: zookeeper container_name: zookeeper image: wurstmeister/zookeeper:3.4.6 ports: - "2181:2181" # wurstmeister/kafka:2.13-2.8.1 - broker 1 kafka1: hostname: kafka1 container_name: kafka1 image: wurstmeister/kafka:2.13-2.8.1 environment: KAFKA_BROKER_ID: 1 KAFKA_ZOOKEEPER_CON..

Data Engineering/Kafka

[kafka] 도커컴포즈로 싱글노드 카프카 만드는 방법 (docker compose, single, kafka, zookeeper)

1. 도커 컴포즈 파일 만들기 docker-compose.yml version: '2' services: # zookeeper 3.4.6 zookeeper: hostname: zookeeper container_name: zookeeper image: wurstmeister/zookeeper:3.4.6 ports: - "2181:2181" # # kafka 2.13-2.8.1 kafka: hostname: kafka container_name: kafka image: wurstmeister/kafka:2.13-2.8.1 environment: KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://localhost:9092 KAFKA_LISTENERS: PLAINTEXT://0.0.0.0..

Data Engineering/Kafka

[kafka] 카프카의 구성요소

데이터의 의미가 정적인 의미에서 동적인 의미로 변경되는 중 카프카의 구성 요소 브로커 : 카프카 저장소의 노드 역할 토픽 : 데이터 임시 저장소 역할 파티션 : 고가용성을 위한 복제 역할 주키퍼 : 컨트롤러 역할 (리더 역할하는 파티션을 선정) 프로듀서 : (카프카에) 데이터 전송 구간 컨슈머 : (카프카의) 데이터 이용 구간

Data Engineering/AI

[NLP] 코랩에 konlpy 설치 후 okt 사용해보기

1. 라이브러리 설치 # bash 셸로 명령어 입력하여 라이브러리 설치하기 %%bash apt-get update apt-get install g++ openjdk-8-jdk python-dev python3-dev pip3 install JPype1 pip3 install konlpy 2. 환경설정 # JAVA_HOME 환경변수 설정하기 %env JAVA_HOME "/usr/lib/jvm/java-8-openjdk-amd64" 3. okt 테스트 # okt 사용해보기 from konlpy from konlpy.tag import Okt okt=Okt() # 형태소 print("okt.morphs : ", okt.morphs('안녕하세요. 저는 딥러닝 입니다.')) # 명사 print("okt.nouns..

Data Engineering/AI

[NLP] 코랩에 konlpy 설치 후 Komaran 사용해보기

1. 라이브러리 설치 # bash 셸로 명령어 입력하여 라이브러리 설치하기 %%bash apt-get update apt-get install g++ openjdk-8-jdk python-dev python3-dev pip3 install JPype1 pip3 install konlpy 2. 환경변수 설정 # JAVA_HOME 환경변수 설정하기 %env JAVA_HOME "/usr/lib/jvm/java-8-openjdk-amd64" 3. 테스트 # Komaran 사용해보기 from konlpy from konlpy.tag import Komoran komoran=Komoran() # 형태소 print("komoran.morphs : ", komoran.morphs('안녕하세요. 저는 딥러닝 입니다.')..

박경태
'Data Engineering' 카테고리의 글 목록 (22 Page)