Data Engineering/Kafka
2021.12.26
1. 도커 컴포즈 파일 작성 docker-compose.yml version: '3' services: # wurstmeister/zookeeper:3.4.6 zookeeper: hostname: zookeeper container_name: zookeeper image: wurstmeister/zookeeper:3.4.6 ports: - "2181:2181" # wurstmeister/kafka:2.13-2.8.1 kafka: hostname: kafka container_name: kafka image: wurstmeister/kafka:2.13-2.8.1 environment: KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://localhost:9092 KAFKA_LISTENE..
Data Engineering/Kafka
2021.12.26
1. 도커 컴포즈 파일을 작성한다. docker-compse.yml version: '3' services: # wurstmeister/zookeeper:3.4.6 zookeeper: hostname: zookeeper container_name: zookeeper image: wurstmeister/zookeeper:3.4.6 ports: - "2181:2181" # wurstmeister/kafka:2.13-2.8.1 kafka: hostname: kafka container_name: kafka image: wurstmeister/kafka:2.13-2.8.1 environment: KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://localhost:9092 KAFKA_LIST..
Data Engineering/Kafka
2021.12.26
1. 도커 컴포즈 파일 작성 docker-compose.yml 파일을 작성한다 version: '3' services: # wurstmeister/zookeeper:3.4.6 zookeeper: hostname: zookeeper container_name: zookeeper image: wurstmeister/zookeeper:3.4.6 ports: - "2181:2181" # wurstmeister/kafka:2.13-2.8.1 kafka: hostname: kafka container_name: kafka image: wurstmeister/kafka:2.13-2.8.1 environment: KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://localhost:9092 KAFK..
Data Engineering/Kafka
2021.12.23
컨테이너 확인을 위해 도커컴포즈 파일을 만든다 docker-compose.yml version: '3' services: # zookeeper 3.4.6 zookeeper: hostname: zookeeper container_name: zookeeper image: wurstmeister/zookeeper:3.4.6 ports: - "2181:2181" # kafka 2.13-2.8.1 kafka: hostname: kafka container_name: kafka image: wurstmeister/kafka:2.13-2.8.1 environment: KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://localhost:9092 KAFKA_LISTENERS: PLAINTEXT://..
Data Engineering/Kafka
2021.12.23
도커컴포즈 파일을 작성해보자 docker-compose.yml version: '2' services: # wurstmeister/zookeeper:3.4.6 zookeeper: hostname: zookeeper container_name: zookeeper image: wurstmeister/zookeeper:3.4.6 ports: - "2181:2181" # wurstmeister/kafka:2.13-2.8.1 - broker 1 kafka1: hostname: kafka1 container_name: kafka1 image: wurstmeister/kafka:2.13-2.8.1 environment: KAFKA_BROKER_ID: 1 KAFKA_ZOOKEEPER_CONNECT: zookeeper:..
Data Engineering/Kafka
2021.12.23
먼저 docker-compose.yml 파일을 작성한다. docker-compose.yml version: '2' services: # wurstmeister/zookeeper:3.4.6 zookeeper: hostname: zookeeper container_name: zookeeper image: wurstmeister/zookeeper:3.4.6 ports: - "2181:2181" # wurstmeister/kafka:2.13-2.8.1 - broker 1 kafka1: hostname: kafka1 container_name: kafka1 image: wurstmeister/kafka:2.13-2.8.1 environment: KAFKA_BROKER_ID: 1 KAFKA_ZOOKEEPER_CON..
Data Engineering/Kafka
2021.12.23
1. 도커 컴포즈 파일 만들기 docker-compose.yml version: '2' services: # zookeeper 3.4.6 zookeeper: hostname: zookeeper container_name: zookeeper image: wurstmeister/zookeeper:3.4.6 ports: - "2181:2181" # # kafka 2.13-2.8.1 kafka: hostname: kafka container_name: kafka image: wurstmeister/kafka:2.13-2.8.1 environment: KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://localhost:9092 KAFKA_LISTENERS: PLAINTEXT://0.0.0.0..
Data Engineering/Kafka
2021.12.19
데이터의 의미가 정적인 의미에서 동적인 의미로 변경되는 중 카프카의 구성 요소 브로커 : 카프카 저장소의 노드 역할 토픽 : 데이터 임시 저장소 역할 파티션 : 고가용성을 위한 복제 역할 주키퍼 : 컨트롤러 역할 (리더 역할하는 파티션을 선정) 프로듀서 : (카프카에) 데이터 전송 구간 컨슈머 : (카프카의) 데이터 이용 구간
Data Engineering/AI
2021.08.25
1. 라이브러리 설치 # bash 셸로 명령어 입력하여 라이브러리 설치하기 %%bash apt-get update apt-get install g++ openjdk-8-jdk python-dev python3-dev pip3 install JPype1 pip3 install konlpy 2. 환경설정 # JAVA_HOME 환경변수 설정하기 %env JAVA_HOME "/usr/lib/jvm/java-8-openjdk-amd64" 3. okt 테스트 # okt 사용해보기 from konlpy from konlpy.tag import Okt okt=Okt() # 형태소 print("okt.morphs : ", okt.morphs('안녕하세요. 저는 딥러닝 입니다.')) # 명사 print("okt.nouns..
Data Engineering/AI
2021.08.25
1. 라이브러리 설치 # bash 셸로 명령어 입력하여 라이브러리 설치하기 %%bash apt-get update apt-get install g++ openjdk-8-jdk python-dev python3-dev pip3 install JPype1 pip3 install konlpy 2. 환경변수 설정 # JAVA_HOME 환경변수 설정하기 %env JAVA_HOME "/usr/lib/jvm/java-8-openjdk-amd64" 3. 테스트 # Komaran 사용해보기 from konlpy from konlpy.tag import Komoran komoran=Komoran() # 형태소 print("komoran.morphs : ", komoran.morphs('안녕하세요. 저는 딥러닝 입니다.')..