디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

근데 직관적으로 쉬운거랑 구현은 다르잖어모바일에서 작성

ㅆㅇㅆ찡갤로그로 이동합니다. 2025.03.10 14:01:45
조회 59 추천 0 댓글 5

입력 문장을 임베딩 레이어를 통해 벡터로 변환한다.

입력 벡터를 여러 개의 Query, Key, Value 행렬로 변환한다.

각 어텐션 헤드에서 Query, Key, Value를 사용하여 독립적인 어텐션을 수행하고, 결과를 결합한다.

레이어 정규화와 잔차 연결을 적용하여 학습을 안정화한다.

Feed Forward Network(FFN)를 적용하여 문맥을 반영한 표현을 생성한다.

디코더에서 마스크드 셀프 어텐션과 인코더-디코더 어텐션을 수행한다.

autoregressive 방식으로 단어를 반복 생성하며,

EOS 토큰이 생성되거나 최대 길이에 도달하면 답변 생성을 종료하고 최종 답변을 완성한다.


이게 트랜스포머 모델 답변 생성과정인데

이게 직관적인데 이걸 실구현 하는게 존나 어려운거지

실질적으로 이런 요약이 정보를 전부 요약할 수 있는것도 아니고

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 매니저들에게 가장 잘할 것 같은 스타는? 운영자 25/03/10 - -
2827916 [애니 뉴스] 프로젝트 KV 관련되어 글을 쓰는데- [3] 프갤러(121.172) 03.10 35 0
2827915 ㅇㅇ 프갤러(211.234) 03.10 21 0
2827914 은행이 윈폼을 쓴다니 ㅇㅅㅇ [5] 강유현갤로그로 이동합니다. 03.10 46 0
2827913 지겹구나. 러스트를 쓰지 못하는 삶이란 [1] 프갤러(121.138) 03.10 31 0
2827912 컴공 진로 추천좀 [4] ㅇㅇ갤로그로 이동합니다. 03.10 50 0
2827911 [애니 뉴스] 프로젝트KV와 블루아카이브 추가- [2] 프갤러(121.172) 03.10 26 0
2827910 김밥집 11시오픈은 리얼 선넘은듯 ㅇㅅㅇ [3] ㅇㅇ(223.38) 03.10 34 0
2827909 뭔가 맨날 SI에서 갑질만 당하다가 [2] 강유현갤로그로 이동합니다. 03.10 50 0
2827908 태국 레이디 보이 올리지마 프갤러(211.234) 03.10 34 0
2827906 ㅠㅠ 프갤러(211.234) 03.10 25 0
2827903 일론머스크는 어서 도라에몽로봇 만드셈 프갤러(211.234) 03.10 25 0
2827902 컴퓨터 지식같은건 어디서 배우는거냐 [5] ㅇㅇ갤로그로 이동합니다. 03.10 46 0
2827901 그림 2 프갤러(211.234) 03.10 32 0
2827900 그림그림 프갤러(211.234) 03.10 31 0
2827899 연애도 못해 직업도 사라져 대체 어쩌라는거냐 [1] 프갤러(211.234) 03.10 38 0
2827898 코딩은 이제 사양직업 [3] 프갤러(211.234) 03.10 73 0
2827897 컴맹 스칼라 쓸려고 이클립스 깔았는데 [3] ㅇㅇ갤로그로 이동합니다. 03.10 27 0
2827896 삼성 정직원이랑 삼성으로 파견 간 직원 차이 프갤러(121.134) 03.10 68 0
2827895 개발귀(鬼)의 경지에 다다르면 내비치는 세계가 보이게 돼 버려~ 딱님갤로그로 이동합니다. 03.10 26 0
2827894 다이어트 해야되는데 발명도둑잡기갤로그로 이동합니다. 03.10 22 0
2827893 휴대폰 소니 액정이 깨져서 상심이 크다. 넥도리아(222.233) 03.10 16 0
2827892 fc2에서 질싸받는 여고생들 사연을 들어보고싶다.. [1] ㅇㅇ(39.7) 03.10 82 0
2827891 회사 다니면서 프리뛰면 소득잡혀서 들키나 ㅇㅅㅇ? [3] 강유현갤로그로 이동합니다. 03.10 42 0
2827890 연대컴공졸업(서울캠) 졸업후 5년 공백기 무경력 국비면접보러 가는중 [3] 프갤러(223.38) 03.10 99 0
2827889 비전공자 국비 부트캠프 어떤게 낫나요? 프갤러(59.12) 03.10 43 0
2827888 웹사이트 크롤링 불법 질문 [1] 프갤러(122.40) 03.10 25 0
2827887 nimf 소스코드는 몇 줄이나 될까.. ㅎㅎ [2] *루비*갤로그로 이동합니다. 03.10 37 1
2827885 너흰 API 라이브러리 프레임워크 플러그인 이런 용어 차이 앎? [9] 프갤러(221.146) 03.10 65 0
2827884 일부 파일을 cpp로 변경 한 후 컴파일한 결과 *루비*갤로그로 이동합니다. 03.10 26 0
2827883 나는야 조증이 너무나 좋아 재현갤로그로 이동합니다. 03.10 22 0
2827882 LLM API이용해서 코딩만들면 어느정도 자동화돼??? [5] 프갤러(117.110) 03.10 56 0
2827881 아이돌학교와 프듀 주작 끌올의 전후관계 ㅇㅇ(175.223) 03.10 30 0
2827880 [자유 대한민국] 수천조원에 달하는 피해보상금액- 프갤러(121.172) 03.10 27 0
2827878 아웃소싱이야말로 인류최고의 발명품 프갤러(218.158) 03.10 25 0
2827876 와.. 이게 뭐하는 개짓거리냐 !! [2] *루비*갤로그로 이동합니다. 03.10 40 0
2827875 한국은 데이터아웃소싱 기업은 없음? [3] 프갤러(218.158) 03.10 33 0
2827874 MSSQL은 병원이나 공장에서 잘 쓰이나 ㅇㅅㅇ 강유현갤로그로 이동합니다. 03.10 32 0
2827873 지방 신도시 특징 ㅇㅇ(119.56) 03.10 30 0
2827872 통계에 R이나 파이썬 쓰는건 낭비다 이기야 [6] 슈퍼막코더(126.255) 03.10 48 0
2827871 아이 씨발 테스트 데이터 딸랑 던져주고 아스카영원히사랑해갤로그로 이동합니다. 03.10 38 0
2827870 난 이런 여자랑 연애하고싶은데 어떰? [2] 메쿠이로갤로그로 이동합니다. 03.10 51 0
2827869 c충이야 말로 러스트 까내리느라 바쁨 [1] 프갤러(121.138) 03.10 40 1
2827868 파이토치 책이랑 강의 공짜로해주고 구현하는거 알려주는데 [10] ㅆㅇㅆ찡갤로그로 이동합니다. 03.10 69 0
2827867 면접 왕복 교통비 89800원 입금됐네 ㅇㅅㅇ [10] 강유현갤로그로 이동합니다. 03.10 86 0
2827866 러스트 숭배자는 왜 타인에게 자신의 생각을 강요할까요? *루비*갤로그로 이동합니다. 03.10 31 0
근데 직관적으로 쉬운거랑 구현은 다르잖어 [5] ㅆㅇㅆ찡갤로그로 이동합니다. 03.10 59 0
2827864 이론적으론 다 독학으로 할 수 있긴함 [2] ㅆㅇㅆ찡갤로그로 이동합니다. 03.10 67 0
2827863 개발귀(鬼)의 경지에 도달하기 위한 전집중 호흡 수련 중 [1] 딱님갤로그로 이동합니다. 03.10 35 1
2827862 인서울 중위권 컴공 학사로 ai취업이 가능하냐 [3] ㅇㅇ갤로그로 이동합니다. 03.10 75 0
2827861 AI 엔지니어 <-- 이거 석박사말고 제대로 배워오는 케이스가있음? [6] 프갤러(211.179) 03.10 101 0
뉴스 문가영, 재벌 3세 ♥최현욱 고백 받아… 커플 성사 키스까지 (‘그놈은 흑염룡’) 디시트렌드 10:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2