인공지능 비용이 매년 10배씩 줄어들고 있다.

공부는머리

2025.03.13 12:12:08

조회 2291 추천 12 댓글 26

a14008ac3607b4618e343c70565afdd9b4076651ed54ef5c8c5ffb201db0f703013d7a

"그래서 저는 이 질문을 약간 비켜가려고 하는데요. 하지만 업계 전반에서 정말 놀라운 점 하나는, 샘(Sam Altman)이 최근에 말했듯이, 동일한 수준의 지능을 제공하는 비용이 매년 10배씩 줄어들고 있다는 것입니다.

모델이 점점 더 똑똑해지고 있고, 이전에는 더 큰 모델이 필요했던 지능 수준을 이제는 더 작은 모델로 증류(distill)할 수 있게 되었습니다. 추론(inference) 비용도 낮아지고 있고, GPU도 더 빨라지고 있으며, 이런 여러 가지 기술적 발전이 동시에 이루어지고 있습니다.

예를 들어, 2년 전 GPT-3를 API로 출시했을 때를 돌아보면, 당시에는 GPT-3가 정말 혁신적이었죠. 그런데 만약 지금 여러분이 ChatGPT에서 GPT-3로 다시 바꿔서 사용하게 된다면, ‘이게 도대체 뭐야?’라고 생각할 겁니다. 그만큼 우리가 기대하는 표준 수준이 크게 향상되었습니다.

당시 GPT-3는 매우 인상적이었지만, 지금의 GPT-4o mini와 비교하면 100배나 비쌌습니다. 하지만 4o mini는 훨씬 더 스마트한 모델이죠. 그리고 이 변화가 불과 2년 만에 이루어졌습니다.

과거 무어의 법칙(Moore’s Law)은 반도체 칩의 트랜지스터 수가 18개월마다 2배로 증가한다고 했습니다. 그런데 지금 AI에서는 지능의 비용이 매년 10배씩 줄어들고 있습니다. 훨씬 가파른 지수 함수 곡선을 그리고 있는 셈이죠.

그래서 우리가 계속해서 내리는 중요한 결정 중 하나는, 이 추세가 앞으로도 지속될 것이라는 가정하에 움직인다는 것입니다. 그리고 이를 실현하는 방법 중 하나는, 비용을 낮출 수 있는 기회가 있을 때마다 실제로 가격을 인하하는 것입니다.

추론이 더 효율적이거나, 모델 자체가 더 효율적일 때, 우리는 단순히 이윤을 극대화하는 것이 아니라, 즉시 비용을 절감하고 개발자들에게 혜택을 돌려주려고 합니다.

예를 들어, 샘이 저에게 ‘이 API 비용을 반으로 줄일 수 있을까?’라고 메시지를 보내는 일이 정말 자주 있습니다. 일주일에 한 번이 아니라, 한 주에 여러 번씩 그런 요청이 들어옵니다.

그래서 우리는 언제든 비용을 낮출 수 있을 때마다 그렇게 합니다. 그리고 우리는 이러한 비용 절감이 계속될 것이라고 확신하고 있습니다.

실제로 우리가 특정 모델의 가격을 낮출 때마다, 사용량이 증가한다는 것을 발견했습니다. 이전에는 경제적으로 타당하지 않았던 사용 사례들이, 비용이 줄어들면서 갑자기 수익성을 갖게 되는 것입니다. 이런 방식으로 더 많은 AI를 세상에 보급할 수 있게 됩니다.

이러한 추세는 앞으로도 계속될 것입니다."

https://x.com/btibor91/status/1899742147017908691

Tibor Blaho님(@btibor91)

Kevin Weil (CPO, OpenAI) at HumanX 2025 (Monday, March 10, 2025):"So I'll sidestep that a little bit, but one thing that I think is pretty wild about the industry in general, and Sam said this recently, if you look at sort of a constant level of intelligence and you look at how…

x.com

고정닉 1

원본 첨부파일 1

인공지능 비용.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	매니저들에게 가장 잘할 것 같은 스타는?	운영자	25/03/10	-	-
5517021	9950x3d + 5070ti 견적 짜봤는데 검수 부탁드립니다. [9]	ㅇㅇ(106.101)	03.13	136	0
5517020	윈도우 12가 나오는 시점에서 윈도우 11을 정품으로 산다? [3]	공부는머리	03.13	76	1
5517019	9060 9060xt 기다리고있는데 파워?~ [4]	컴갤러(59.3)	03.13	74	0
5517018	윈도우 서버 2012쓰는데 sqlㅇㅇ [4]	만호갱	03.13	37	0
5517017	9950x3d <=이거 품귀현상 있다하지않았냐 [4]	ㅇㅇ(106.101)	03.13	121	0
5517016	9070xt 긱바 가격 존나 좋네 [6]	업둥이	03.13	282	0
5517015	한국은 무조건 평화통일해야함 [10]	ㅇㅇ(61.77)	03.13	87	0
5517014	이번에나오는 라이젠 하급기가머에용? [5]	컴갤러(223.38)	03.13	45	0
5517013	겜 주식 코인하면 98삼디 9950X 9950x3d 어떤게 낫냐 [1]	컴갤러(61.77)	03.13	72	0
5517011	5080산 새끼<-경계선 의심	ㅇㅇ(112.222)	03.13	75	0
5517010	오늘 조탁 5070ti 사지면 1찍으로 전향함 [3]	ㅇㅇ(14.45)	03.13	95	0
5517009	스피커 추천좀 [4]	구름의마녀2	03.13	80	0
5517008	색감은 라데온인게 개소리인이유 [4]	CureRTX	03.13	76	0
5517007	만리 5070ti 여우년 있는거 살만함? [4]	컴갤러(117.111)	03.13	146	0
5517006	9950x3d가 983d보다 성능 좋은데 게임성능만 딸린거냐 [5]	컴갤러(61.77)	03.13	108	0
5517005	1992년 에 내가 목수오야지 할때라 월 1500씩 찍었는대 400준다고	외대오빠원나잇지존(14.6)	03.13	34	0
5517004	환율은 둘째 문제야 시발ㅋㅋㅋㅋㅋ [4]	ㅇㅇ(211.234)	03.13	136	0
5517003	글카 바꿧는데 왤케 포맷 마렵지	ㅇㅇ(121.170)	03.13	52	0
5517002	b650 atx 보드는 머사야됨...?? 고르다가 물어봄 ...ㅠㅠ [25]	컴갤러(223.39)	03.13	84	0
5517001	미들타워에 7700xt 끼워도 됨? [1]	ㅇㅇ(61.82)	03.13	45	0
5517000	9070XT 겜오씨 110에 나한테 줘 [9]	ㅇㅇ	03.13	124	0
5516998	중고거래할때 상대가 40대이상이면 걸러야할듯 [3]	ㅇㅇ(221.155)	03.13	76	2
5516997	5080 가격 안 떨어지는 이유 [7]	컴갤러(119.207)	03.13	125	0
5516996	9070 oc모델 oc끌수있나?	ㅇㅇ	03.13	32	0
5516995	부동산살려야하니까 환율 계속올린다고 ㅋㅋㅋㅋ [4]	ㅇㅇ(125.128)	03.13	47	0
5516994	병신같은 거지새끼들은 인디언식 기우제 하냐; [2]	deven	03.13	47	0
5516993	마소에서 정품 안써도 된다고 입장 발표했는데 [9]	공부는머리	03.13	83	1
5516992	라데온 꼭쓴다? 현명한 사람은 라데온 중고를 기다린다 ㅇㅇ	ㅇㅇ(183.106)	03.13	34	0
5516991	5070ti가격오른다 [3]	나룽	03.13	190	0
5516990	인코딩하는어플 운영자가 내영상 안보겟지? [2]	컴갤러(211.212)	03.13	40	0
5516989	다들 윈도우 정품 쓰냐 [4]	컴갤러(134.75)	03.13	79	0
5516988	오래되도 쓸 수 있는 유일한 제품이 스피커가 아닐까?	공부는머리	03.13	23	0
5516987	nzxt 이관하는거 얼마걸릴까	컴갤러(182.215)	03.13	29	0
5516986	5080은 슈퍼나 ti가 20기가 이상으로나와야 살듯 [2]	컴갤러(112.187)	03.13	52	0
5516985	어항혐오해서 케이스 사게되면 이거살듯 [5]	ㅇㅇ(39.121)	03.13	107	0
5516984	5080 140이면 ㄹㅇ	컴갤러(175.214)	03.13	58	0
5516983	사파이어는 뒈졌냐? [1]	ㅇㅇ(220.120)	03.13	107	0
5516982	5080은 140~160이어야 살만한 글카 [11]	ㅇㅇ(112.222)	03.13	142	2
5516981	컴 맞출라는데 그럼 [4]	컴갤러(112.216)	03.13	66	0
5516980	내가 5600으로 가지 않은 이유는 무뽑 때문임 [1]	공부는머리	03.13	48	1
5516979	엔비디아 이정도면 5060 이 라인 기대됨? [3]	컴갤러(211.58)	03.13	73	0
5516978	환율만 1300대였어도 이지랄 안났음 [2]	ㅇㅇ(115.21)	03.13	87	0
5516977	5080가격만 제발 내려가라 [2]	컴갤러(175.214)	03.13	56	1
5516976	5080내려가는거 맞음? 초기 4090보다 성능은 아래 [1]	ㅇㅇ(117.111)	03.13	73	0
5516975	9953디 컴퓨존 배송떴다 내일오겠네	컴갤러(112.187)	03.13	32	0
5516974	이거 괜찮나요 컴퓨터 고수 님들 [3]	컴갤러(172.225)	03.13	63	0
5516973	색감은 AMD [2]	컴갤러(119.192)	03.13	45	0
5516972	캬 6000번대는 존나 팔리겠네 ㅋㅋㅋ	ㅇㅇ(183.106)	03.13	82	0
5516971	9070xt 잘팔리는 이유 알려준다...	컴갤러(211.234)	03.13	95	0
5516970	5090 오멘 산친구들아 갤에 있니? [3]	컴갤러(59.24)	03.13	60	0
뉴스	‘7년 열애설’ 코드 쿤스트 “결혼 원하지만 항상 내년으로 미뤄” (나래식)	디시트렌드	03.13