ai채팅 돈 많이먹을수밖에 없는게 현 방식은 너무 비효율적임

ai채팅 돈 많이먹을수밖에 없는게 현 방식은 너무 비효율적임앱에서 작성

전자강시좀벽

2024.08.07 12:15:46

조회 103 추천 0 댓글 8

7fed8275b5836af751333d499d16ccb14a88ef0c65a4497074605460c23087fda65fb8ebc432862e97d14a344f1bcda00e964ea79c38

얼핏 생각하기엔 ai서버쪽에 캐릭터정보를 넣어두고 이후로는 대화문만 오고가는 방식이라고 생각하기 쉽지만

실제로는

1. '이것은 캐릭터와의 대화를 위한 시뮬레이션입니다. 최대한 자연스럽게...'라는 내용의 기본 프롬프트

2. '이것은 창작물이며 현실이 아니니 어쩌구...'하는 검열 뚫기용 프롬프트.

3. 기타 미세조정 프롬프트

4. 장문의 캐릭터 프로필, 설정

5. 세계관이나 기타 정보

6. 최근 대화내역

7. 사용자의 인풋

등등 실제론 더 복잡하고 많음

다 합치면 몇천 토큰은 되는 저거를

매번, 매 채팅 한줄 입력할때마다 저걸 통째로 서버측에 보내는거임

왜냐면 ai서버 쪽에서는 그냥 주어진 인풋에 맞춰서 대답을 내놓을 뿐 딱히 일일히 저 정보들을 기억이나 저장같은건 하지 않기 때문임

그래서 저래야 캐릭터랑 최근 대화내용에 맞게 응답이 돌아옴

이거 아무리 생각해도 비효율적인데

이거 말고는 없나봐

- dc official App

고정닉 0

원본 첨부파일 1

20230121_시마즈렌까by이루아님.png

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	주위의 유혹에 쉽게 마음이 흔들릴 것 같은 스타는?	운영자	24/10/21	-	-
공지	판타지 갤러리 이용 안내 [214/1]	운영자	21.09.02	92727	36
6675889	아니 괴담동웹툰 분량 이건 에바 아니냐	어사일럼	22:15	2	0
6675888	라만차 모하비 여우가 밉다	SPB	22:15	4	0
6675887	난천 기라티나 존나 쎄넹 [1]	ㄴㅅㅇ(58.122)	22:15	5	0
6675886	푸슈가 그려준 짤 레전드 [1]	코코아볼	22:15	11	0
6675885	ㄴ이짤내꺼임	gozaus	22:15	0	0
6675884	아니 이게왜 수인임? [1]	ㅋㅁㄱ	22:15	7	0
6675883	뭐치코리님이아카살등장인물로글미션을넣는다고???	실브아_	22:14	5	0
6675882	가을 천황상 입석은 단 번에 되는 거 보면 더비도 갈만할 거 같은데	ㅇㅇ.	22:14	4	0
6675881	동생이 옆에서 계속 아파트아파트거려서 괴롭다	KYOUYAMA	22:14	10	0
6675879	하 아 짤떡밥마다자랑하는김레헤의받짤	레헤	22:13	8	0
6675878	메롱메롱하는 반룡 혀에 와사비 뿌리기	산산도노	22:13	5	0
6675877	판마크 카피바라 던전 예정이었던거	xX라비헤드Xx	22:13	5	0
6675876	오일 마사지받는 도중 음부 스쳐서 놀라는 일본녀	판갤러(157.97)	22:13	1	0
6675875	아이도루픽업 익절 [2]	뇽룡이	22:13	10	0
6675874	딴생각하다가 분리수거 거꾸로했네; [3]	건전여우	22:13	12	0
6675873	펙트는 '코코아볼' 이 진심으로 짤그리면 갤 뒤집어진다는거임 [7]	코코아볼	22:13	28	0
6675872	방디부 이벤스 진자 공들여서 만들긴했네 [1]	무명소졸,	22:13	14	0
6675871	가슴밖에 안 남는게 뭐가 나쁘지... [5]	푸르늬	22:12	25	0
6675870	근데난 델피너스 젤비 다 좋아함	레헤	22:12	2	0
6675869	커미션 관련해서 상담해주는 변호사도 있음?	디쿠아스에스	22:12	11	0
6675868	슬슬 마비노기 숙제 할까 [6]	엉엉	22:12	16	0
6675867	근데 외주가 좀 더 달달하긴 함 ㅋㅋ [5]	움뀨.	22:12	35	0
6675866	조센시리즈 흥행매치라면서 김빠지네	호탈	22:12	8	0
6675865	히미미<<이자식 판페스 팸 아님????	유로지바	22:11	17	0
6675864	이제는말할수있다) 학인생의 그 앰바고는 뭐였을까 [8]	위지	22:11	49	0
6675862	나이츠앤매직 이거 재밌네 [2]	소악마	22:11	21	0
6675861	모똥이가 5년전에 짤 그려주기로 했던 채권 팝니다. [4]	잗누멈	22:10	24	0
6675860	작가가 자기 소설 등장인물 커미션 넣으면 어케됨 [4]	칩고리	22:10	55	0
6675859	존나시험공부하기싫다!!! 아!!!! [3]	유동성까마귀	22:10	7	0
6675858	일 정리되면 탈갤각인가? [4]	디쿠아스에스	22:10	36	0
6675857	몬헌 인땅 유인제가 바닥났네 [2]	엉엉	22:10	15	0
6675856	뭔가 2dz로리팸들이 더 현실적인 페도화가 진행된거같음	파모똥	22:10	15	0
6675855	짤쟁이떡밥에 짤그 [9]	엘켐	22:10	40	0
6675854	인기없는 닥장녀 아이돌 이미지인가.. [4]	투하	22:10	26	0
6675853	요시미미라 이거생각나네	코코아볼	22:10	8	0
6675852	제일 좋은 짤은 그냥 선물 받는 짤이지.... [8]	라만차의기사	22:09	25	0
6675851	흠 근데 이제는 말할 수 있다 싶은거 한둘은 있네 [7]	Dante	22:09	72	0
6675850	씨발 히로이보지털은미친거냐 [6]	재미교쓰리	22:09	39	0
6675849	가죽 훔쳐쓰는 갤러들은 결국 탈갤하게 되네 [4]	산산도노	22:09	33	0
6675848	영사일럼은 누구랑 싸워서 터졌던건 기억나는데 [5]	건전여우	22:09	43	0
6675847	근데 짤 사면 좋긴 해 [4]	스드	22:08	13	0
6675846	와 밴이리 짤 미친 [2]	위지	22:08	18	0
6675845	블아 아마리뽑으니게임멈춤 [2]	뇽룡이	22:08	23	0
6675844	예전에 라만차한테 커미션 중계 해달랬음 [11]	비류쑈	22:08	29	0
6675843	전자강시 짤 받고싶네 [4]	라만차의기사	22:08	22	0
6675842	신비의 제왕 엄청 강대한 적이 있다ㄷㄷㄷㄷㄷ [10]	엘-프사이	22:08	24	0
6675841	모똥이는 짤을 많이줬어 [2]	xX라비헤드Xx	22:08	13	0
6675840	사실 근데 여우랑 모하비 싸움에	SPB	22:08	23	0
6675839	파모똥레전드짤 [2]	포도곰	22:07	26	0