일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | ||||
4 | 5 | 6 | 7 | 8 | 9 | 10 |
11 | 12 | 13 | 14 | 15 | 16 | 17 |
18 | 19 | 20 | 21 | 22 | 23 | 24 |
25 | 26 | 27 | 28 | 29 | 30 | 31 |
- 토픽모델링
- bulk post
- jvm.py
- Java
- 파이썬
- Python.h
- Pythonic
- 완주하지못한선수
- tweepy
- dataframe
- rest api
- pandas
- 나무자르기
- pyLDAvis
- MariaDB
- bs4
- js
- gensim
- ChromeDriverManager
- Jpype
- 프로그래머스
- elastic search
- dead lock
- ShallowCopy
- 백준
- KONLPY
- git bash
- centos8
- ELASTIC
- pip install mariadb
- Today
- Total
목록데이터 처리 (5)
부리부리부리
Mapping은 관계형 데이터베이스에서의 Schema와 동일하다. Mapping없이도 ES에 데이터를 넣을 수 있지만 실무에선 상당히 위험한 일이다. 사실 RDBMS에서도 스키마없이 데이터를 관리한다는건.. 음 상상이 잘 안간다. ES에 데이터를 넣어놓고, Kibana로 시각화를 할 때 날짜 타입을 기준으로 평균을 낸다든지, 숫자 타입의 평균을 낸다든지 할때 등등 Mapping이 필요하다. 데이터가 이미 들어가있어도 Mapping을 추가할 수 있다. 강의에서 사용하는 JSON파일을 이용하여 XPUT을 통해 매핑을 추가하려는데 자꾸 에러가 나서 찾아보니, Elastic Search에서는 mapping 타입 중 string을 삭제하고 text로 바꾸었다고 한다. 인프런 강의를 들으시는 분들이라면 classe..
저번까진 postman을 사용하여 강의를 따라갔었다. 그런데 Git Bash를 사용하면 윈도우에서도 Linux 명령어를 사용할 수가 있다고 해서 이제부턴 Git Bash로 강의를 진행한다. ( 나이스요 ) 이번 내용은 Bulk Post인데, 여러 개의 document를 한 번에 ES에 삽입하는 방법이다. 명령어는 다음과 같다. curl -XPOST http://localhost:9200/_bulk?pretty --header 'content-type: application/json' --data-binary @classes.json 위 명령어를 보면 header를 같이 인자로 전송해주었는데, ES 6.0 버전 이상부턴 헤더를 같이 보내야한다고 한다. 이제 결과를 확인해보자. % Total % Receiv..

UPDATE 이미 만들었던 Document에 Field 하나를 더 추가하고 싶을 때 사용한다. POST에 _update를 붙여주면 되는데, 다음과 같다. 또한 방법이 한가지 더 있는데, Body에 JSON데이터로 "script" key를 사용하면 좀 더 프로그래밍 하듯이 UPDATE를 할 수 있다. 이제 GET을 통해 값이 어떻게 바뀌었는지 확인해보자. 첫 번째 방법으로 unit = 1을 생성하고, 두 번째 방법으로 unit += 5를 했기 때문에 정상적으로 6이 들어있음을 확인했다. ES에선 보통 ctx._source로 접근하여 Field를 업데이트한다고 한다.

* 해당 게시글은 인프런 허민석님의 강의를 정리한 글입니다. 모든 사진의 출처는 강의임을 밝힙니다. https://www.inflearn.com/course/elk-%EC%8A%A4%ED%83%9D-%EB%8D%B0%EC%9D%B4%ED%84%B0-%EB%B6%84%EC%84%9D/unit/5497 학습 페이지 www.inflearn.com 우리에겐 더 익숙한 RDBMS의 여러가지 명칭들이 Elastic Search (이하 ES) 에서는 다음과 같이 불린다. 또한 ES는 Rest API를 사용한다. 우선 포스트맨을 이용하여 index (DB)가 존재하는지 알아보자. * 포스트맨이 설치되지 않았다면 https://godjuhyuk.tistory.com/16 GET 으로 다음과 같이 확인한다. 아직 해당 인..

최근 데이터 처리에 관심이 생겨서 ELK를 공부하기로 했다. 우선 인프런의 허민석님 ELK 강의가 있어서 해당 강의를 수강하기로 했는데, 이 강의는 Ubuntu 기반이었다. https://www.inflearn.com/course/elk-%EC%8A%A4%ED%83%9D-%EB%8D%B0%EC%9D%B4%ED%84%B0-%EB%B6%84%EC%84%9D/dashboard [무료] ELK 스택 (ElasticSearch, Logstash, Kibana) 으로 데이터 분석 - 인프런 | 강의 ElasticSearch, LogStash, Kibana 기초부터 설명합니다. 최종단계로 ELK 스택을 활용하여, 세계 인구 분석, 주식 분석을 하시는 본인의 모습을 발견하실 수 있습니다., - 강의 소개 | 인프런....