인공지능 비용이 매년 10배씩 줄어들고 있다.

공부는머리

2025.03.13 12:12:08

조회 6309 추천 17 댓글 31

a14008ac3607b4618e343c70565afdd9b4076651ed54ef5c8c5ffb201db0f703013d7a

"그래서 저는 이 질문을 약간 비켜가려고 하는데요. 하지만 업계 전반에서 정말 놀라운 점 하나는, 샘(Sam Altman)이 최근에 말했듯이, 동일한 수준의 지능을 제공하는 비용이 매년 10배씩 줄어들고 있다는 것입니다.

모델이 점점 더 똑똑해지고 있고, 이전에는 더 큰 모델이 필요했던 지능 수준을 이제는 더 작은 모델로 증류(distill)할 수 있게 되었습니다. 추론(inference) 비용도 낮아지고 있고, GPU도 더 빨라지고 있으며, 이런 여러 가지 기술적 발전이 동시에 이루어지고 있습니다.

예를 들어, 2년 전 GPT-3를 API로 출시했을 때를 돌아보면, 당시에는 GPT-3가 정말 혁신적이었죠. 그런데 만약 지금 여러분이 ChatGPT에서 GPT-3로 다시 바꿔서 사용하게 된다면, ‘이게 도대체 뭐야?’라고 생각할 겁니다. 그만큼 우리가 기대하는 표준 수준이 크게 향상되었습니다.

당시 GPT-3는 매우 인상적이었지만, 지금의 GPT-4o mini와 비교하면 100배나 비쌌습니다. 하지만 4o mini는 훨씬 더 스마트한 모델이죠. 그리고 이 변화가 불과 2년 만에 이루어졌습니다.

과거 무어의 법칙(Moore’s Law)은 반도체 칩의 트랜지스터 수가 18개월마다 2배로 증가한다고 했습니다. 그런데 지금 AI에서는 지능의 비용이 매년 10배씩 줄어들고 있습니다. 훨씬 가파른 지수 함수 곡선을 그리고 있는 셈이죠.

그래서 우리가 계속해서 내리는 중요한 결정 중 하나는, 이 추세가 앞으로도 지속될 것이라는 가정하에 움직인다는 것입니다. 그리고 이를 실현하는 방법 중 하나는, 비용을 낮출 수 있는 기회가 있을 때마다 실제로 가격을 인하하는 것입니다.

추론이 더 효율적이거나, 모델 자체가 더 효율적일 때, 우리는 단순히 이윤을 극대화하는 것이 아니라, 즉시 비용을 절감하고 개발자들에게 혜택을 돌려주려고 합니다.

예를 들어, 샘이 저에게 ‘이 API 비용을 반으로 줄일 수 있을까?’라고 메시지를 보내는 일이 정말 자주 있습니다. 일주일에 한 번이 아니라, 한 주에 여러 번씩 그런 요청이 들어옵니다.

그래서 우리는 언제든 비용을 낮출 수 있을 때마다 그렇게 합니다. 그리고 우리는 이러한 비용 절감이 계속될 것이라고 확신하고 있습니다.

실제로 우리가 특정 모델의 가격을 낮출 때마다, 사용량이 증가한다는 것을 발견했습니다. 이전에는 경제적으로 타당하지 않았던 사용 사례들이, 비용이 줄어들면서 갑자기 수익성을 갖게 되는 것입니다. 이런 방식으로 더 많은 AI를 세상에 보급할 수 있게 됩니다.

이러한 추세는 앞으로도 계속될 것입니다."

https://x.com/btibor91/status/1899742147017908691

Tibor Blaho님(@btibor91)

Kevin Weil (CPO, OpenAI) at HumanX 2025 (Monday, March 10, 2025):"So I'll sidestep that a little bit, but one thing that I think is pretty wild about the industry in general, and Sam said this recently, if you look at sort of a constant level of intelligence and you look at how…

x.com

고정닉 2

원본 첨부파일 1

인공지능 비용.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	팬덤 때문에 오히려 여론이 나빠진 스타는?	운영자	25/03/17	-	-
5563211	아니씨발 오늘 본체 왔는데 USB에 윈도우 설치하다가 모니터화면 나감 [14]	ㅋㅋ(125.140)	03.22	89	0
5563210	Rx590 7.5면 사냐??	...(211.235)	03.22	53	0
5563209	이시각 마누라개새키 딜래맠 ㅋ	ㅇㅇ(39.7)	03.22	31	0
5563208	AAA급게임 4k 60프레임 우주방어하려면 글카 뭐필요하냐 [9]	ㅇㅇ	03.22	98	0
5563207	9700x 질문 좀	ㅇㅇ	03.22	39	0
5563205	뉴비)SSD속도좀 봐주실 차은우형님들 [5]	두루두부치기	03.22	42	0
5563204	죽음	컴갤러(175.117)	03.22	27	0
5563203	나 79kg 슈퍼돼지인데	ㅇㅇ(182.224)	03.22	22	0
5563202	7950x팔고 7800x3d나 9800x3d로 갈까요	이너프양	03.22	53	0
5563201	다들 로또 당첨 됬나	컴갤러(175.117)	03.22	48	0
5563200	5070ti 갤라즈 139 싸한데	ㅇㅇ(210.179)	03.22	98	0
5563199	파워 시소닉 vs 커세어 뭐 선호하냐 [11]	ㅇㅇ	03.22	94	0
5563198	글카 12핀 진짜 죽어도 못빼겠는데 어떡하냐 [3]	ㅇㅇ(39.7)	03.22	55	0
5563197	다들 글카 어디서 삼? [12]	컴갤러(121.136)	03.22	120	0
5563196	솔직히 2080Ti 1080Ti가 중고글카중에 젤 쓸만하고 가성비임 [2]	커피레이크(119.207)	03.22	84	0
5563195	웬디 하드는 써본적 한번도 없는데 [1]	젯셋	03.22	37	0
5563194	어디에 써야될지 몰라서 [2]	컴갤러(211.205)	03.22	75	0
5563193	지금 글카가격 또 존나 올랐나보네 [4]	컴갤러(14.39)	03.22	134	0
5563191	수냉 왜씀? [8]	야쓰맨	03.22	130	0
5563190	딱 이정도면 총 얼마나 필요하노 [1]	ㅇㅇ(211.109)	03.22	78	0
5563189	혹시 cpu 쿨러 방열판 물청소 해도 될까요? [6]	컴갤러(39.115)	03.22	70	0
5563188	프리미어 에펙 램 질문좀여 [2]	ㅇㅇ(118.217)	03.22	44	0
5563186	스팀 게임 팅김 현상 질문 있습니다 ㅠㅠ [3]	컴갤러(211.49)	03.22	42	0
5563185	성경책이 일루미나티의 저서라고하는사람들이 있네 ㅇㅇ	ㅇㅇ(106.101)	03.22	31	0
5563184	5600 45에 전압 최소치가 몇정도임?	컴갤러(211.60)	03.22	27	0
5563182	24H2 왜 이렇게 욕하는지 공감 못했는데 [2]	ㅇㅇ	03.22	115	0
5563181	컴튜닝의 정석 제대로 알려준다 [3]	야쓰맨	03.22	64	0
5563180	몬헌 와일즈 사양 말도안되네..	컴갤러(1.228)	03.22	49	0
5563179	좀 특색있는 케이스 없냐?	컴갤러(211.223)	03.22	29	0
5563178	5080 살건데 제조사 어디가 국룰임? [9]	ㅇㅇ(116.34)	03.22	154	0
5563177	이거 비즈니스 계정 된거냐??	ㅇㅇ(39.7)	03.22	45	0
5563176	12월에 전역하고 컴 맞출 건데 [3]	컴갤러(183.97)	03.22	56	0
5563175	시게이트 EXOS 구매할까 생각 중이야... [5]	젯셋	03.22	34	0
5563174	삼파탓은 뭐노ㅋㅋㅋ [4]	ㅇㅇ(211.234)	03.22	53	0
5563173	4060ti 팔까 지금이고점같은데 [2]	ㅇㅇ	03.22	117	0
5563172	몬헌 벤치 ㄱㅊ은거임? [5]	이너프양	03.22	96	0
5563171	7800x3d 34만원 탑승완료 ㅋㅋㅋㅋㅋㅋㅋㅋㅋ [1]	ㅇㅇ(106.101)	03.22	83	0
5563170	컴붕이 일본에 자동차 이송하는데 83만원 드네; [11]	ㅇㅇ(101.235)	03.22	68	1
5563169	램 다시 끼웠더니 모니터에 케이블 낫 커넥티드 어쩌고 뜸.. [2]	ㅇㅇ(106.101)	03.22	50	0
5563168	cpu쿨러 졸업 했다 다덤비셈 [11]	야쓰맨	03.22	136	0
5563167	긱바 메인보드 등록한거도 반품됨? [2]	컴갤러(110.15)	03.22	44	0
5563166	굴 [4]	컴갤러(175.203)	03.22	34	0
5563165	게이밍 보초자.. 한 번만 봐주세요 [14]	컴갤러(116.32)	03.22	114	0
5563163	현역 걸그룹 티어표 (재조정).TXT [4]	컴갤러(106.101)	03.22	91	1
5563162	이 케이스는 어떻노 [13]	ㅇㅇ	03.22	123	0
5563161	컴붕이 입갤 [1]	야쓰맨	03.22	38	0
5563160	5080 FE 쓰는 놈들 있냐 [3]	ㅇㅇ	03.22	71	0
5563159	야 스팀 게임만 하면 서비스 종료 걱정 없이 게임할 수 있냐 [7]	ㅇㅇ(124.53)	03.22	73	0
5563158	이새끼 슬슬 좆같으면 개추.............jpg [2]	컴갤러(106.101)	03.22	94	2
5563156	컴잘알 형님들 이거 고장인가요?(SSD) [2]	두루두부치기	03.22	56	0
뉴스	'불후의 명곡' 환승연애3 다혜, ‘13년 연애’ 서동진과 결혼 초읽기 최초 고백	디시트렌드	03.22