그냥 여기서 추론말고 GPT 관련 논문 읽으셈

ㅆㅇㅆ(124.216) 2024.10.10 21:46:09

조회 75 추천 1 댓글 0

Chat GPT에 요즘 유행하는 CoT 프롬포트는

CoT(Chain of Thought)에서 파생됨

https://arxiv.org/abs/2201.11903

Chain-of-Thought Prompting Elicits Reasoning in Large Language Models

이 논문의 효과가 뭐냐

사고 체인-> 복잡한 문제를 잘게 쪼개서 단계로 분해->점진적 솔루션을 찾는다는거

인간 사고 체계에서 따왔다고, 인간 사고를 시뮬레이션함

기본적으로 기존의 대규모 언어 모델은 패턴 인식을 함. 이때문에 대량의 데이터에 의존함.

반면에 CoT는 고품질 자연어 예제를 도입함(즉 기존의 모델들이 대량의 데이터를 이용한 양의 처리를 했다면, CoT는 질의 처리를 한다고 볼 수 있지)

이때문에 기본적으로 추론기능이라하여, 복잡한 언어구조를 더 잘게 분해, 논리적 연관성을 찾는다는게 CoT 모델의 추론기능 ㅇㅋ?

CoT가 나온 건 기본적으로 인간 자체가 질문을 '제대로' 할 수가 없음 .왜? 많은 사람들이 논리적인 구조에 의거해서 글짓기와 질문을 할 수 없으니

문맥과 상황에 의존해야하니까 추론 모델이 나온거

3de58974abc236a14e81d2b628f1706db61ad8

이 문제의 시작점은

복잡한 문제를 다룰때, 추론의 단계화가 되고 이게 진짜 효율이 있냐고 이를 검증하는거

이게 핵심 논제화되면서 AI 발전의 하나의 새로운 관점이 도입된거.

그래서 기본적으로 현재 추측되는 GPT의 추론방식은 다음과 같음

1. 단계별 추론

->이 과정에서 단계를 나누는데 이때 누락을 방지하기위한 정확성을 보장해야만함

2. 논리 체인 구축

->단계가 올라갈때마다 논리 체인이 쌓이게 되어서, 문제에 대한 논리적이해를 바탕으로함

3. 인간 사고 시뮬레이션

->결과적으로 이러한 방식은 인간이 일반적으로 복잡한 문제의 문제해결을 할때 나타나는 다층 추론을 통한 최종답을 찾는과정과 유사함

그리고 이러한 CoT 사고 체인은

불확실성의 감소

추론 정확도의 향상을 불러옴

문제는 CoT에 사용되는 데이터는 고품질이어야만 함. 거기에 더해서 단계별 추론 프로세스는 일반적으로 높은 복잡도를 가져서 여태까지 다른 모델들과 달리 높은 컴퓨팅 리소스가 필요하고, 이러한 논리 체인 구축에 드는 훈련도 힘듬

이런 방식으로 이해해야지 뜬금없이 전기 신호 어쩌고는 뭐냐 친구야

즉 기본적으로 CoT 모델은 다단계 추론을 도입한거고

지식의 보고를 읽어 여기서 맹인이되서 토론할라 하지말고

고정닉 0

원본 첨부파일 1

p892.png

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	서비스업에 종사했다면 어떤 진상 고객이라도 잘 처리했을 것 같은 스타는?	운영자	24/10/14	-	-
2760158	그림판 만들었다 [4]	이시꾸	10.11	106	0
2760152	러스트도 삼항연산자 없네. 틀니문법인듯 [3]	프갤러(118.218)	10.11	138	0
2760151	음기 충전	발명도둑잡기	10.11	55	0
2760150	한강씨의 채식주의자 읽는중 [2]	헬마스터	10.11	118	0
2760149	예전에 만든 플젝 꾸준히 업뎃하는 편이냐? [1]	프갤러(211.234)	10.11	84	0
2760148	한강 책 폐기한 경기도 '재조명'…노벨문학상 수상책이 유해 성교육	발명도둑잡기	10.11	64	0
2760147	님들아 삼항연산자 쓰는경우 많음? [7]	ㅇㅇ(61.255)	10.11	143	0
2760146	<랩:퍼블릭> 한대서 또 생각나는 예전 글	발명도둑잡기	10.11	64	0
2760144	흠 쓰레드관점에서 스프링과 http/웹소켓 연결을 공부하니	돌아온차에코	10.11	95	0
2760138	웹사이트에서 사용자 로그 어디 범위까지 저장함요? [3]	프갤러(58.237)	10.10	64	0
2760137	근데 프로그래밍은 뭔가 취업해도 걱정임	ㅇㅇ(59.12)	10.10	128	0
2760136	리사수 젠슨황 보니까 역시 환경이 답이네	ㅇㅇ(49.143)	10.10	66	0
2760135	"꽁꽁 얼어붙은 한강 위로..." 외국인이 저작권 훔쳐 감;;	발명도둑잡기	10.10	79	0
2760134	개발자가 쓰레드를 함부로 건드는일은 없나?? [1]	돌아온차에코	10.10	142	0
2760133	삼성이 쳐망하고 있는 이유 몇가지 풀어본다. ㅇ? [3]	텬됴대한의아들	10.10	184	0
2760132	머야 나 백겔 정지당ㅅ했엉 ㅜ	돌아온차에코	10.10	78	0
2760130	해킹이나 코딩은 암호학 들어가면 그때부터 X같음	프갤러(183.101)	10.10	91	1
2760129	멀티스레드 존나 골때리네 ㅅㅂ... [1]	프갤러(114.203)	10.10	112	0
2760128	한강 노벨문학상 수상. 내가 디씨인싸이드에 썼던 한강 글	발명도둑잡기	10.10	58	0
2760126	질문하나만 받아줘라	프갤러(122.35)	10.10	71	0
2760124	프갤이 정병갤인 이유=집단적 독백만 함 [14]	ㅆㅇㅆ(124.216)	10.10	416	12
2760123	국비 또들으러간다 [6]	프갤러(211.106)	10.10	156	0
2760121	인프런 강의 빔프로젝트로 20명이 같이 봐도 되나? [2]	프갤러(106.102)	10.10	91	0
2760118	한국인들은 결코 노벨상을 탈만한 수준에 오를 수 없는데,	ㅇㅇ(103.142)	10.10	53	0
2760114	경력 1년 반된 프론트엔드 연봉 4천이면 하타치야? [3]	프갤러(110.10)	10.10	191	0
2760109	캐글 관련 커뮤니티는 어디가 크냐?	프갤러(183.97)	10.10	43	0
2760108	현업에서 js코드 이렇게 쓰면 뺨아리 쳐맞음? [4]	프갤러(218.49)	10.10	134	0
2760104	신입으로써 님들 실력이 부족한게 아니라	30세전에특급DBA(118.235)	10.10	129	1
2760103	와 근데 진짜 프롬프트 엔지니어링 방법 레딧서 기초만 배웠는데 [2]	ㅆㅇㅆ(124.216)	10.10	88	0
2760102	결국 한국 시장이 병신이라서 이 꼬라지인게 아닐까 싶다. [3]	프갤러(118.218)	10.10	90	0
2760101	nest.js 왜 욕먹는거야 정확한 이유좀 [3]	프갤러(218.37)	10.10	122	0
2760098	신입 면접봤는데 [2]	ㅇㅇ(59.12)	10.10	199	0
2760097	73세 어셈블러 개발자님이 chatgpt로 손놓은 어셈을 다시. 질문공유 [2]	프갤러(116.35)	10.10	110	1
2760096	파일을 뭐하러 지우노? 폭탄심어놓고 나와야지.	프갤러(118.218)	10.10	55	0
2760095	오ㅑㄹ케 취업안되냐… 시발 [1]	프갤러(210.98)	10.10	153	0
2760094	신상조금 털리고나니 커뮤 재미없어짐 [2]	ㅇㅇ(119.56)	10.10	103	0
2760093	제가 개발중인 웹사이트를 소개합니다! [4]	디라이더	10.10	130	1
2760091	퇴사할때 파일 다 지우면 500만원이라고 함 [4]	헬마스터	10.10	118	0
	그냥 여기서 추론말고 GPT 관련 논문 읽으셈	ㅆㅇㅆ(124.216)	10.10	75	1
2760089	인생 망한것같으면 개추 [1]	프갤러(58.29)	10.10	63	2
2760086	퇴사를 세번 해봤는데 [4]	프갤러(222.108)	10.10	133	0
2760085	회사 지원할때 포트폴리오 요구 없으면 안넣어도 됨? [1]	프갤러(39.119)	10.10	64	0
2760084	C++ 하면 취업 잘된다. C++ 하자. [2]	프갤러(59.16)	10.10	188	0
2760083	와 근데 GPT 코드를 메인으로 하고 프로그래밍하니까 생산량 미쳤네 [2]	ㅆㅇㅆ(124.216)	10.10	81	0
2760079	인공지능에 대해서 생각하다보니까 내린 결론은 결국 [2]	재현	10.10	69	0
2760070	지금의 인공지능은 논리가 빈약해 [11]	재현	10.10	84	0
2760068	회사에서 열심히만 하면 ㅈ된다	segfault	10.10	50	0
2760066	난 공무원으로 틀었음	ㅇㅇ(125.177)	10.10	70	0
2760065	와 노벨문학상 뭐노!!! [1]	아스카영원히사랑해	10.10	117	0
2760064	C++ 잘하면 취업에 큰이득 아니노 [1]	ㅇㅇ(118.235)	10.10	115	0