로컬 LLM 좀 제대로 된 거 돌려보고 싶군

로컬 LLM 좀 제대로 된 거 돌려보고 싶군모바일에서 작성

TS기원

2025.03.06 10:58:27

조회 19 추천 0 댓글 0

08e9c803ec803d904b9ef3872fd33c73b8ecb7923d2c98ddeaf69cabe1b5bd

3080의 조루 VRAM으로는 7B따리도 3비트 양자화 해야 해...

고정닉 0

원본 첨부파일 1

E4xEi2eVEAERYbx.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	과음으로 응급실에 가장 많이 갔을 것 같은 스타는?	운영자	25/03/03	-	-
7323962	일본가서 지꾸악스 극장판 보고온 내 승리군 [4]	삐리릭빠바박	16:32	35	0
7323961	홈플왔는데 당당치킨 줄이 뭐이리 긴 [3]	너구리위식빵	16:32	33	0
7323960	안냐세여 [20]	zole	16:31	100	0
7323959	근데 봇치굿즈 이거 치마도 팔아?	알	16:31	23	0
7323958	반룡 뱃살 마구 주무름	α센타우리	16:31	12	0
7323957	머스ㅌㅏㅏㅏㅏㅏㅏㅏㅏ드 [2]	소악마	16:30	27	1
7323956	하나비 이 짤 ㄹㅇ 개씹ㅇㅂ네 [2]	을현	16:29	66	0
7323955	고질라 ㄹㅇ 인간 너무 나와서 좆같애 [4]	ㅈㅅㅋㅇ	16:29	43	0
7323954	메스(メス、雌) < 이 일본어는 암컷이란 뜻입니다 [2]	ㅇㅇ(118.235)	16:28	39	0
7323953	건담 지쿠악스 극장판 한국 개봉일 뜸 [6]	키 도	16:28	41	0
7323952	2기 발표하더니 본격적으로 수금하네 [3]	자이니치4	16:28	44	0
7323951	그러고보니 카를 융 책 읽어봐야하는데	을현	16:28	22	0
7323950	신발을 좋아한다니 [2]	알	16:26	23	0
7323949	과제하기 개귀찮군	푼제리	16:26	12	0
7323948	근데신지근티알은캐붕이너무심함 [9]	민지	16:26	83	0
7323947	버튜버) 키념글 너무하네 진짜ㅋㅋㅋㅋ [9]	뭬뤠	16:26	71	0
7323946	모스라는정실이라자주나와줘야됨 [3]	유명경	16:25	26	0
7323945	신팩 로얄 떳ㄷ [1]	산산도노	16:25	23	0
7323944	레헤 원양어선 탄거면 한 3달 후에 돌아오는건가 [5]	무명소졸,	16:25	41	0
7323943	떴다. 조기퇴근각. [6]	투하	16:25	29	0
7323942	배민 만원 받아가 ~	ㅇㅇ(106.101)	16:25	12	0
7323941	헤르메스학 같은 걸로 마법 고증 하라고 ㅇㅇ [10]	지름코드	16:24	66	0
7323940	조금달렷다고 ㅈㄴ 힘드네	김요.	16:24	14	0
7323939	몬헌 와일즈 나왔는데 작은게이 << 이 씨발놈은 뭐함? [1]	루잭	16:23	38	0
7323938	아 씹 히토미 다운로더 켜놨는데 엄마가 보고감 [3]	α센타우리	16:23	44	0
7323937	신지이미친새끼 보고 생각나는짤 [2]	엘켐	16:23	55	0
7323936	마법 자료조사를 개열심히한 아기반룡 [4]	망아지	16:23	37	0
7323935	속보 배탐ㅋㅋㅋㅋㅋ [10]	레헤	16:22	75	0
7323934	홍정훈은 dnd 룰북 자세히 읽는게 자료조사면 열심히 한거지 [4]	ㅇㅇ(223.38)	16:22	58	0
7323933	저랑 띠아하실분 [2]	기담	16:21	20	0
7323932	난 근데 괴수물은 콩 스컬아일랜드 정도 스케일이 [3]	유포터블	16:20	34	0
7323931	아니 근데 백종원 cu 행사 진짜 말 안됨 [13]	설아연	16:19	111	2
7323930	얘 말딸신캐였나 [16]	어사일럼	16:19	86	0
7323929	하늘은 어찌하여 나를낳고 재미교 피채원 김분수를 낳았는가! [6]	을현	16:18	39	0
7323928	님들 좆된 것 같은데 어케해야함;,;; [9]	모하비배달부	16:18	73	0
7323927	판갤은~~~~ 얄미운 선족인가 봐~~~~	루잭	16:18	13	0
7323925	고질라 데스게임 안나오나....... [2]	ㅇㅇ:	16:17	20	0
7323924	사야 폐쇄병동 엔딩 좋은게 [1]	유포터블	16:17	40	0
7323923	아존나 지하철에서 이어폰없이 숏폼틀면 귀짜르는법 안나오냐? [3]	재미교쓰리	16:16	46	0
7323922	근ㄷ 전투기 좌표 입력 실수란게 [1]	도도봉	16:16	40	0
7323921	고질라3d애니들은하나같이좆간사이드에스토리를너무담음 [1]	유명경	16:16	20	0
7323920	공사중 우회하시오 길없음. 이란 표시판 무시하고 들어가면 [3]	김요.	16:15	33	0
7323919	나는 사야 흰방에서 하염없이 기다리는 엔딩이 좋더라 [1]	수구사응와	16:15	32	0
7323918	드라마 제목이 [그놈은 흑염룡]은 특이하네 [6]	쀼장	16:14	48	0
7323917	홍정훈도 마법 같은거 자료조사좀 한거같던데 [6]	유포터블	16:14	75	0
7323916	오트밀 아직도 발송만 했네	군다	16:14	13	0
7323915	의외로 가이무 괜찮던데. 재밌게 봤음 [2]	ㅇㅇ:	16:14	16	0
7323914	황금가지에서 주술 사례중에 아직도 기억나는게있음 [2]	재미교쓰리	16:13	47	0
7323913	얼리버그 기상 [1]	뇽룡이	16:13	15	0
7323912	우로부치 이 사람꺼 안보는게 고질라 극장판 보고 정신돌아버릴뻔함 [9]	ㅇㅇ:	16:13	48	1
뉴스	SLL·TV 아사히 드라마 '마물' 공동 제작	디시트렌드	14:00