디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

1교시끗

메갤러(221.160) 2024.10.15 10:13:37
조회 14 추천 0 댓글 0

자연어

NLP

코퍼스

텍스트 전처리

토큰화

 NLTK - word_tokenize, WordPunctTokenizer

케라스 - text_to_word_sequence

접어(clitic)

표준 토큰화 - Penn Treebank Tokenization

문장 토큰화(Sentence Tokenization)

KSS(Korean Sentence Splitter)

교착어

형태소(morpheme) - 자립 형태소, 의존 형태소

품사 태깅(Part-of-speech tagging)

NLTK - Penn Treebank POS Tags 

KoNLPy - 형태소 토큰화(morpheme tokenization) - Okt(Open Korea Text), 메캅(Mecab), 코모란(Komoran), 한나눔(Hannanum), 꼬꼬마(Kkma)


정제(cleaning) 및 정규화(normalization)

규칙에 기반한 표기가 다른 단어들의 통합 - 어간 추출(stemming), 표제어 추출(lemmatizaiton)

대, 소문자 통합

노이즈 데이터(noise data) 제거 - 특수문자 + 불필요 단어

불필요 단어 - 불용어 제거, 등장 빈도가 적은 단어, 길이가 짧은 단어를 제거

정규 표현식(Regular Expression)


BoW(Bag of Words) 표현

표제어 추출(Lemmatization)

표제어(Lemma)

단어의 형태학(morphology)적 파싱

어간(stem), 접사(affix)

NLTK - WordNetLemmatizer

어간 추출(Stemming) - 포터 알고리즘(Porter Algorithm), 랭커스터 스태머(Lancaster Stemmer) 알고리즘

한국어에서의 어간 추출 - 5언9품, 용언, 어간, 어미, 규칙/불규칙 활용(conjugation)

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 서비스업에 종사했다면 어떤 진상 고객이라도 잘 처리했을 것 같은 스타는? 운영자 24/10/14 - -
공지 ★ 메이플 뉴비 가이드 / 직업공략/ 자주 하는 질문 ★ [1265] 늒네캥걸루갤로그로 이동합니다. 21.10.07 376046 277
공지 메이플스토리 갤러리 이용 안내 [152] 운영자 21.10.07 91985 47
8587530 댕댕이 콱찔러서 아프게하고싶네 [1] 썽코오리갤로그로 이동합니다. 12:32 6 0
8587529 발표가 목요일인데 왜 아직도 [1] 시죠갤로그로 이동합니다. 12:32 5 0
8587528 이세계 용사 꿈빠.gif [2] 뀨린이갤로그로 이동합니다. 12:32 18 1
8587527 요리하는 돌아이님을 보면 거울을 보는 것 같아요 ㅇㅇ갤로그로 이동합니다. 12:32 0 0
8587526 저 메이플이 2번 실행되는데 이거 어떻게 하나요.... ㅇㅇ(39.121) 12:31 1 0
8587525 [속보] 북남 연결도로 폭파 이림갤로그로 이동합니다. 12:31 7 0
8587524 애니4편보니깐 칼리 130찍히네 코이갤로그로 이동합니다. 12:29 13 0
8587523 흠 요새 카르마큐브만주니까 ㅇㅇ(115.138) 12:29 16 0
8587522 미친소리 같지만 클릭이 범죄래ㅠ 클릭거부하자 [3] 출간도서갤로그로 이동합니다. 12:28 14 0
8587521 드드드 무교펜 얼마정도면 팔릴까 [4] ㅇㅇ갤로그로 이동합니다. 12:28 33 0
8587520 점심드세용 메갤 [11] しろいカラス갤로그로 이동합니다. 12:27 38 0
8587519 나 상해 사건 검찰로 넘어감... 오또케?? [4] ㅇㅇ(223.62) 12:27 24 0
8587518 응우옌새끼 청문회하는이유가머지 [2] 죽음의게임군단갤로그로 이동합니다. 12:26 25 0
8587517 이번 이벤트로 보조 하나 건짐 [7] ㅇㅇ(117.111) 12:26 55 2
8587515 귀여움을 향한 나의 관심이 적어지고 있다 대수확갤로그로 이동합니다. 12:25 10 0
8587514 피검사 받았으니 가슴운동 드가좌 ㅋㅋㅋㅋㅋㅋ ㅇㅇ(106.102) 12:24 12 0
8587513 청문회 걍 이거 아님? 메갤러(49.170) 12:24 31 0
8587512 다음 코인샵 블큐 화에큐 엠블에 박아도 돼? [7] ㅇㅇ(106.101) 12:23 46 0
8587511 곧 있으면 오후 1시부터 뉴진스 하니 청문회 하는데 다 볼꺼냐? 트노갤로그로 이동합니다. 12:23 24 0
8587510 진짜 진짜 나중에 렙제더높은템나오면 그땐 올텟없는 깡추템이 더쌔긴할탠데 이로오라갤로그로 이동합니다. 12:22 26 0
8587509 유니온 배치때 제일 좋은 직업군뭐임 [3] ㅇㅇ(211.246) 12:22 36 0
8587508 근데 나도 해방하고 제네무기 큐브 운만 따라준다면 [5] 백신예갤로그로 이동합니다. 12:21 36 0
8587507 누가 사냥좀 대신해줘 [12] 베지밀B갤로그로 이동합니다. 12:20 48 0
8587506 데이브 더 다이버(데더다) 요리가격 [4] 데더다(211.234) 12:20 63 0
8587505 실시간 개좆소점심ㅁㅌㅊ? [3] 싱슈밍갤로그로 이동합니다. 12:19 61 1
8587504 야 똥 많이 싸본사람만 들어와봐 [4] 도마위도마도갤로그로 이동합니다. 12:19 33 0
8587503 본->리 리프 열리려나 [4] 뷸뷸갤로그로 이동합니다. 12:19 44 0
8587501 덕꾸발견 [20] 이노시스갤로그로 이동합니다. 12:18 60 0
8587500 울허네.. 아침갤로그로 이동합니다. 12:18 28 0
8587499 전섭최강제네무기오너 환산4만 ㅆㅂ [13] 꿈빠갤로그로 이동합니다. 12:17 114 0
8587498 템이 진짜너무애매하네 [2] 부적갤로그로 이동합니다. 12:17 46 0
8587497 발7ㅣ참기 155788848단계 [1] 찐수에미(114.205) 12:17 35 0
8587496 노멀세렌은 4만도 잡지 않나 [1] ㅇㅇ(211.36) 12:16 18 0
8587495 민사걸었는데 진짜 ㅈㄴ오래걸린다 [2] ㅇㅇ갤로그로 이동합니다. 12:16 39 0
8587494 밥먹었수산시장? [2] 백신예갤로그로 이동합니다. 12:16 30 0
8587493 요거 가격 어때보여요 [8] 메갤러(218.147) 12:16 49 0
8587492 나 잘까 [8] 초서갤로그로 이동합니다. 12:15 31 0
8587490 루컨마 코인샵으로 35억으로만들엇어 [7] 치토세사랑개갤로그로 이동합니다. 12:13 94 0
8587489 보추털 ㅇㅇ(180.64) 12:13 38 1
8587488 놀이터 아직도 4시간이나 남았네 [2] ㅇㅇ갤로그로 이동합니다. 12:13 28 0
8587486 이노시스 < 얘때문에 시골서버하는애들 이미지 다깨짐 [5] ㅇㅇ(210.178) 12:10 58 1
8587485 문신 보자마자 확 깨네 [3] ㅇㅇ갤로그로 이동합니다. 12:10 83 0
8587484 보추털 [8] ㅇㅇ갤로그로 이동합니다. 12:10 85 0
8587483 배율 200퍼<<깨는게 정상임? [3] ㅇㅇ(211.246) 12:10 53 0
8587482 jk밴드보컬이 되고싶어서 울었어 [3] 못막갤로그로 이동합니다. 12:09 36 0
8587481 하데미 잡앗다 [3] donex`갤로그로 이동합니다. 12:09 31 1
8587480 에픽던전부터 아즈모스까지 메포 [2] ㅇㅇ(223.39) 12:08 55 0
8587479 메중수 질문 좀 : 해쉬태그 내일까지 출책 됨? [2] ㅇㅇ(106.101) 12:08 22 0
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2