지금 보고 있는 NLP 관련 논문에서 테슬라 K80 gpu를 16개

지금 보고 있는 NLP 관련 논문에서 테슬라 K80 gpu를 16개 앱에서 작성

ㅇㅇ(142.169) 2024.07.18 03:26:01

조회 58 추천 0 댓글 0

7bee807eb78b1e82239984e1439c706884ae9065930d5a6535970bd83931a126a51e60111e2d8299126d39cde0e51fdf640099

사용 했는데 개당 tops가 fp32 기준 8.73 이네

rtx 4060ti가 fp32에서 22 tops

4090이 fp32에서 82.6이니까

4090한장이 대략 k80 10개 조금 안되니까

격세지감이 느껴짐

gpu 16개면 서버 랙마운트로 해야 하는데

지금은 저 성능 내려면 일반 pc 보드에 4090 2개 연결하면 성능 차고 넘치는거니까

근데 메모리 압박은 못견딜듯 k80 하나에 24gb인데 그럼 16개니까 384기가이고 rtx 4090 2개 해봤자 48기가라서 vram 딸리면 결국 모델을 병렬처리로 학습 할 때 16 ways가 아니라 2 ways로 하면 과연 전반적인 성능이 앞설까 의문이 들긴해

고정닉 0

원본 첨부파일 1

630829FD-F245-4541-B554-D2EB906AD46C.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	소신발언으로 오히려 이미지 타격입은 것 같은 스타는?	운영자	24/08/26	-	-
4805025	서비스 센터에 멀쩡한거 들고가도 상관없나? [5]	유키노시타유이	08.29	57	0
4805024	견적추천받았는데 질문이있읍니다 [4]	컴갤러(125.138)	08.29	51	0
4805023	텔레그램 하면 이제 범죄자 되는거임? [3]	ㅇㅇ(121.168)	08.29	58	0
4805022	783D에 짭수 단 애들 게임할때 온도 몇도 나오냐? [6]	컴갤러(121.132)	08.29	55	0
4805021	본체에서 나는 빨간불 [3]	디또o	08.29	37	0
4805020	완본체 받았는데 이거 ㅈ된거냐? [5]	컴갤러(220.93)	08.29	127	0
4805019	컴퓨터 중고로 팔려는데 [8]	ㅇㅇ	08.29	83	0
4805017	키가 2m 50cm 까지 기록하면 매우 비정상적으로 크다고 볼 수 있음?	ㅇㅇ(115.140)	08.29	31	0
4805016	이거 뭐 어케 초기화 시킴? [6]	부엉이바위쪽으로	08.29	48	0
4805015	응하면 잠재적 딥페 범죄자.jpg [5]	컴갤러(180.67)	08.29	83	1
4805014	7800x3d 또 역대급 핫딜이 오긴하려나 [5]	ㅇㅇ	08.29	118	0
4805013	ddr 질문좀할게영 [3]	ddr4(211.229)	08.29	42	0
4805011	초기불량 확률 제일 높은 부품이 어느거일거같음? [4]	컴갤러(180.182)	08.29	63	0
4805010	형님들 질문 있습니다!	포칼64audio	08.29	29	0
4805008	이거 LED 못 끔? [4]	ㅇㅇ(119.56)	08.29	61	0
4805007	6000번대까지 버티기 가능? [6]	TARDlS	08.29	72	0
4805006	이거 혹시 2개 차이 심하읍니까? 4070s [14]	컴갤러(125.138)	08.29	78	0
4805005	오공 2회차 클리어 [2]	ㅇㅇ	08.29	54	0
4805003	Hydroshift LCD 360s 이거 샌드위치 가능함?	컴갤러(119.201)	08.29	20	0
4805002	바이오스 화면에서 안 넘어가지는데 [7]	ㅇㅇ(211.234)	08.29	31	0
4805001	h61m 제온e3 1220 [1]	컴갤러(121.173)	08.29	33	0
4804999	쓰레기 버리러 나갔다가 깜짝놀램 [5]	푸라나(174.204)	08.29	85	0
4804996	컴퓨존 이거 뭐노.... [8]	TARDlS	08.29	163	0
4804994	솔직히 내 사양 정도면 FHD 아직 현역 ㅇㅈ ?? [9]	컴갤러(183.109)	08.29	90	0
4804993	질문이 있습니다.... [11]	공시가즈아	08.29	44	0
4804992	이륙 ㄱㄱ? [17]	컴갤러(125.138)	08.29	90	0
4804991	애니 추천한다. 좆 재미 있음	컴갤러(58.140)	08.29	42	0
4804990	진짜 역겹고 이기적인새끼라 불쌍한지도 모르겠다..ㅜㅜ	컴갤러(223.38)	08.29	34	0
4804989	애드라 5600x 3070ti 램 질문좀하께 [10]	ㅇㅇ	08.29	56	0
4804986	cd lp음반이 무슨 플레이어보다 비싸	<:)~	08.29	22	0
4804984	9월1일 알리 세일 할 것 같나요? [16]	컴갤러(118.235)	08.29	128	0
4804983	추석전에 민생지원금 25만원뜨면	컴갤러(125.190)	08.29	40	0
4804982	4070s는 근데 FHD든 QHD든 ㅈㄴ 애매하디 하지 않음? [4]	ㅇㅇ(106.102)	08.29	91	0
4804981	지금 작업용 가성비 7900 사면 되냐? [3]	ㅇㅇ(112.144)	08.29	55	0
4804980	rog ally x oled 나왔으면 좋겠다 [4]	<:)~	08.29	20	0
4804978	케이스는 걍 아무거나 사면 됨? [6]	컴갤러(14.7)	08.29	77	0
4804977	이거 스타터링 증세임? [3]	ㅇㅇ	08.29	51	0
4804976	7800x3d 온도제한 75도로 해놨는데 왜 게임할때 78 고정임?	컴갤러(223.38)	08.29	42	0
4804975	아드디어 인탤 14900과 4090이온다 ㅎㅎㅎ	ㅇㅇ(122.46)	08.29	27	0
4804973	칸예 노래 존나 좋네	ㅇㅇ(59.26)	08.29	20	0
4804972	추석특가	컴갤러(222.120)	08.29	53	0
4804971	팩트는 983d 나와도 783d는 사기라는거임 [3]	컴갤러(180.67)	08.29	86	1
4804970	B650M 어엘 아이스 16만원 좋노 ㅋㅋㅋㅋㅋㅋ	ㅇㅇ(112.144)	08.29	41	0
4804969	컴사고 싶으면 인텔 사라 [1]	ㅇㅇ(211.247)	08.29	56	0
4804968	존스보 쿨러 유명함? [3]	ㅇㅇ(211.36)	08.29	52	0
4804967	재난지원금 언제 나오냐 [6]	<:)~	08.29	61	0
4804966	컴퓨터 램빼려는데 [6]	ㅇㅇ	08.29	62	0
4804965	12700K와 5600X 두개를 사용중. 특징 딱 말해줌 [10]	컴갤러(175.209)	08.29	103	4
4804963	일본에도 여름이 사라지는 처서 비슷한 절기가 있음?	ㅇㅇ(115.140)	08.29	21	0
4804962	15세대 x 울트라 2세대 o [3]	ㅇㅇ(121.168)	08.29	79	0