Wookang makes AI

● 현대경제연구원 보고서 Scikit-learn 모듈을 이용한 베이즈 분류 적용 > 들어가는 말종일 비가 올 것 같았는데 밤이 되니 비가 멈췄다.덕분에 비를 맞지 않고 운동을 했다. 빡시게 했더니 몸이 나른하다. 그리고 또 컴퓨터 앞에 앉았다. > 계획1. 베이즈 분류 모델을 적용하기 위해서 9:1 비율로 보고서들을 먼저 학습 시킨 후 테스트 과정을 거친다. 보고서가 중복되지 않게 조심한다.2. 현재 2,109개의 자료가 있고 여기에 7개의 MagazineID가 있다.3. 즉, 약 1900개의 리포트로 학습을 시킨 후 나머지 200개를 가지고 리포트 내용만 보여주고 MagazineID를 맞춰보게 하는거다. 최종 정확도(accuracy)를 보여준다. 그냥 랜덤하게 찍는다면 14% 정확도가 평균이고 숫자가 ..

● 현대경제연구원 보고서 Scikit-learn과 scipy를 이용한 비계층 군집 분석 > 들어가는 말 1. 이제 (약간의)인공지능이 들어간다. 알아서 문서의 중심(centroid)을 설정하고 이로부터 각 자료와의 거리에 드는 비용을 최소한하는 군집 알고리즘(K-평균기법)을 이용한다. 이것도 결과가 궁금하다. > 계획1. scikit-learn 라이브러리에서 이미 K-평균 군집화 기능을 제공한단다.2. 처리 속도가 빨라 많은 분야에서 사용하고 있단다.3. 문서를 행렬로 만들때 개발자가 일일이 만들 필요없이 vectorizer = TfidfVectorizer(min_df=1) doc_term_mat = vectorizer.fit_transform(documents) 이렇게 하는 것으로 원샷 생성이 가능하다..

● 현대경제연구원 보고서 KL발산 분석 > 들어가는 말 1. 예상하기는 했지만 생각보다 빨리 다시 하고 싶어졌다. 그 동안 내가 이 정도 하다가 무언가를 그만둔 적이 평생에 한번도 없기 때문이다. 2. 그래도 헬대라는 생각에는 변화가 없다. > 계획 1. 먼저 season2로 새로운 프로젝트를 만든다. 새술은 새부대에! 2. morphed 폴더 안에 이미 형태소 분석한 보고서 txt파일들을 몽땅 넣는다. (2109개다) 3. 보고서의 내용을 (요약)정리한 json파일에 이 형태소 txt 파일의 이름을 dictionary로 추가한다. 4. 이것으로 현대경제연구소 보고서 분석에 대한 모든 재료가 준비되었다. 보기 좋게 indent을 4정도 주면 아래같이 이쁘게 뽑힌다.[ { "fileName":"2016.0..

● 현대경제연구원 보고서 분석 - 문서 전처리 작업 중 1. 아. 헬대. 현다이 ㅅㅂ 내가 현대를 왜 그리 몰랐을까.데이터들을 한 곳에 모으다가 발견했다. 그 동안 나는 각 카테고리별로 교집합없이 나눠져 있는 보고서들을 하나로 합치면 모든 보고서들의 합집합을 이룰 수 있을 것이라 동해안의 태양처럼 당연하게 생각했다. 카테고리란 그런거니까. 나누기 위해 만들어진 것이니까. 방금 발견한 결과는 이런 것이다. 경제 카테고리안의 보고서는 모든 보고서들의 집합이다.사회문화 카테고리안에 있는 모든 보고서는 경제 카테고리에도 있다. 다른 카테고리에도 있을 확률이 90%이상이다.산업경영 카테고리안에 있는 모든 보고서는 경제 카테고리에도 있다. 물론 다른 카테고리에도 있을 확률이 두말하면 잔소리다.ㅅㅂ 통일 카테고리안에..

● 현대경제연구원 분석 중 3 > 작업 중 1. 고통스러운 전처리 작업 시작 .. 대체 내가 왜 이걸 하고 있는 건지 ㅡ,ㅡ 2. 다행히 어젯밤 순식간에 보고서들을 모두 크롤링했다. sleep.time(2)을 주석처리하는 패기! > 아래는 파일 정리경제 = { 전체 : 4300 , 파일 주소 오류 : 146, 파일 다운 오류 : 123, 파일 오류 : 13개, txt로 변환 불가능 : 1912, 유용한 보고서 : 2110 }사회문화 : { 전체 : 3762 , 파일 주소 오류 : 179, 파일 다운 오류 : 122 , txt로 변환 불가능 : 2010 , 유용한 보고서 : 1572 }산업경영 : { 전체 : 3731 , 파일 주소 오류 : 142, 파일 다운 오류 : 124 , txt로 변환 불가능 : ..

● 현대경제연구원 분석 중 2 > 들어가는 말 1. 키워드 추출이나 보고서 학습을 시키기 위해서는 처음 목표로 했던 문서뿐 아니라 다른 카테고리의 문서들도 많이 필요하다.2. 그래서 지난 번 안하겠다고 했던 분야별 크롤링을 하기로 했다.3. 분야는,{ 경제 : 약 7,200개, 산업경영 : 약 6,500개, 사회문화 : 약 6,300개, 통일 : 약 6,500개 }보고서 전체 개수는 약 2만5천개 정도가 될 것 같다.4. 현대경제연구원이 현차나 현중 계열이 아니고(지분관계는 있다만) 고 정주영 할아버지 계열이라 현대아산을 통해 대북사업을 진행하고 있어 (현재는 좀 힘든듯해도) 다른 경제연구소에서는 쳐다도 보지 않는 통일에 대한 보고서가 저리 많다. 훌륭하다.5. 어차피 이게 내 전공도 아니고 재미로 공부..

● 현대 경제 연구원 보고서 분석 1 > 들어가며1. 다시 크롤링을 하기 위해 사이트를 보니 지난 번 내가 분석했던 보고서들은 특정 카테고리의 보고서가 아니라 '최신 보고서'라는 어디에도 없는(?) 카테고리의 보고서들이었다. (즉, 처음 들어보면 '최신연구보고서'만 보여주고 왼쪽의 카테고리를 클릭했을 때 해당 카테고리의 보고서를 보여주는 것이다. 그런데 카테고리 목록에 '최신연구보고서'는 없다 ㅡ,ㅡ 모를 수 밖에 없었다) 2. 지난 번 파일이름을 너무 대충 만들어서 이번에는 제대로 만들어 한번 더 크롤링했다. 아래와 같은 방식이다.{"reportURL":"https:\/\/hri.co.kr:442\/download.asp?file_path=%2Fpublication%2F&file_name=2016628..

● 현대 경제 연구원 간략 분석 > 들어가는 말막상 크롤링을 하고 보니 너무 대충했다.아무래도 다시 하는게 좋을 것 같은데, 저번에도 2번째 크롤링때 자주 끊겼던게 마음에 걸린다.블락당한 건 아니겠지. > 앞서 반성1. pdf 파일 이름을 너무 대충지었다. 파일이름에 보고서 발표날짜가 들어갔어야 했다.2. pdf 파일은 html이 아니어서 정규분포식을 이용한다해도 원하는 텍스트를 가져오는게 어렵다. 제목에 제목이라는 표시가 없다 ㅜ 아무래도 제목은 제목대로 따로 크롤링해서 가져와야겠다.3. 그리고 그 제목과 날짜 그리고 파일명을 하나의 json으로 만든 후 입맛에 맞게 요리해야겠다. > 결과아래 워드클라우드 이미지는 2010년 1월부터 ~ 2016년 6월 말(지난주)까지 약 6년 반 기간 동안 현대경영연..

● 현대 경제 연구원 크롤링 > 들어가는 말저 멀리 서방, 영국의 EU 이탈로 내 주식이 작살이 났다. ㅡ,ㅡ 개눔들.정말 뭣이 중헌지도 모르는 넘들.어쨌든 최근 개발에만 몰두하다가 시류를 완전히 놓쳤다. (난 투표 당일이 되어서야 알았당ㅜ) 그동안 내가 바로 21세기형 주식 천재라고 생각(?)했었는데 이 모냥이 되었으니 부끄럽고 할말이 없다..만얼마전 썰전에서 '현대경제연구원'의 체감 실업률에 대한 이야기를 듣고 갑자기그곳의 보고서들을 분석해보고 싶다는 마음이 들었다. 대딩시절 seri.org(삼성경제연구소)에 대한 로망이 좀 있었기에 그곳에 먼저 가봤는데 마지막 보고서가 올라온게 2013년이었다.한마디로 다 죽어 있었다. 뷥~위주의 서비스로 바꾼 것 같은데 서비스라는게 보통 그렇게 종말을 맞이한다 ㅋ..

● 김대균 토익킹 청취자 강의록 크롤링 > 목표 일반 기사만 크롤링 하는 것 보다 텍스트 자체도 유용한 자료를 크롤링하고 싶어 김대균 토익킹 선택. (http://home.ebs.co.kr/toeic/board/) > 실행 1. 위와 같이 이*희님이 매일 열성적으로 정리해서 자료를 올려주신다. 감사하게 생각하고 이것을 크롤링하는 거다. 2. 먼저 크롤링이 필요한 페이지들을 하나의 파일로 크롤링하여 만든 후(데이터를 얻어올 때는 2초씩 쉬면서 가져온다. Block 당하는 것 조심) 3. 해당 페이지의 '인쇄' 주소를 구한다. 인쇄 페이지를 찾는 이유는 일반 페이지에 비해 인쇄 페이지가 잡것(html tags,광고)들이 정리되어 있어 텍스트만 가져오기 좋기 때문이다. - get방식으로 되어있다면 좋겠으나 세..