디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

인공지능 비용이 매년 10배씩 줄어들고 있다.

공부는머리갤로그로 이동합니다. 2025.03.13 12:12:08
조회 2009 추천 12 댓글 24
														

a14008ac3607b4618e343c70565afdd9b4076651ed54ef5c8c5ffb201db0f703013d7a

"그래서 저는 이 질문을 약간 비켜가려고 하는데요. 하지만 업계 전반에서 정말 놀라운 점 하나는, 샘(Sam Altman)이 최근에 말했듯이, 동일한 수준의 지능을 제공하는 비용이 매년 10배씩 줄어들고 있다는 것입니다.


모델이 점점 더 똑똑해지고 있고, 이전에는 더 큰 모델이 필요했던 지능 수준을 이제는 더 작은 모델로 증류(distill)할 수 있게 되었습니다. 추론(inference) 비용도 낮아지고 있고, GPU도 더 빨라지고 있으며, 이런 여러 가지 기술적 발전이 동시에 이루어지고 있습니다.


예를 들어, 2년 전 GPT-3를 API로 출시했을 때를 돌아보면, 당시에는 GPT-3가 정말 혁신적이었죠. 그런데 만약 지금 여러분이 ChatGPT에서 GPT-3로 다시 바꿔서 사용하게 된다면, ‘이게 도대체 뭐야?’라고 생각할 겁니다. 그만큼 우리가 기대하는 표준 수준이 크게 향상되었습니다.


당시 GPT-3는 매우 인상적이었지만, 지금의 GPT-4o mini와 비교하면 100배나 비쌌습니다. 하지만 4o mini는 훨씬 더 스마트한 모델이죠. 그리고 이 변화가 불과 2년 만에 이루어졌습니다.


과거 무어의 법칙(Moore’s Law)은 반도체 칩의 트랜지스터 수가 18개월마다 2배로 증가한다고 했습니다. 그런데 지금 AI에서는 지능의 비용이 매년 10배씩 줄어들고 있습니다. 훨씬 가파른 지수 함수 곡선을 그리고 있는 셈이죠.


그래서 우리가 계속해서 내리는 중요한 결정 중 하나는, 이 추세가 앞으로도 지속될 것이라는 가정하에 움직인다는 것입니다. 그리고 이를 실현하는 방법 중 하나는, 비용을 낮출 수 있는 기회가 있을 때마다 실제로 가격을 인하하는 것입니다.


추론이 더 효율적이거나, 모델 자체가 더 효율적일 때, 우리는 단순히 이윤을 극대화하는 것이 아니라, 즉시 비용을 절감하고 개발자들에게 혜택을 돌려주려고 합니다.


예를 들어, 샘이 저에게 ‘이 API 비용을 반으로 줄일 수 있을까?’라고 메시지를 보내는 일이 정말 자주 있습니다. 일주일에 한 번이 아니라, 한 주에 여러 번씩 그런 요청이 들어옵니다.


그래서 우리는 언제든 비용을 낮출 수 있을 때마다 그렇게 합니다. 그리고 우리는 이러한 비용 절감이 계속될 것이라고 확신하고 있습니다.


실제로 우리가 특정 모델의 가격을 낮출 때마다, 사용량이 증가한다는 것을 발견했습니다. 이전에는 경제적으로 타당하지 않았던 사용 사례들이, 비용이 줄어들면서 갑자기 수익성을 갖게 되는 것입니다. 이런 방식으로 더 많은 AI를 세상에 보급할 수 있게 됩니다.


이러한 추세는 앞으로도 계속될 것입니다."



 




추천 비추천

12

고정닉 1

1

원본 첨부파일 1

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 매니저들에게 가장 잘할 것 같은 스타는? 운영자 25/03/10 - -
5517264 5070샤 윈드포스 143 vs 조탁 앰프 148 [11] 컴갤러(223.39) 15:38 136 0
5517263 현명한소비자<<다음세대 존버함 [7] 컴갤러(223.39) 15:38 88 0
5517262 그래픽카드도 계절가전이라서 [1] ㅇㅇ(39.121) 15:38 69 2
5517260 9070xt 130에 사면 호군가 ㅇㅇ.. [3] 꽃말갤로그로 이동합니다. 15:38 115 0
5517259 983d용 공랭 추천좀 [14] 아침놀갤로그로 이동합니다. 15:37 129 0
5517258 견적 확인 한번만 부탁드려요 [2] 컴린이(124.62) 15:37 44 0
5517257 5070ti나 9070xt 직구 풀리면 거기서 사야겠다 [3] ㅇㅇ(106.101) 15:37 94 0
5517256 이제 17도네 공부는머리갤로그로 이동합니다. 15:36 30 0
5517254 프플 9070xt 완본체 욀케 비싸지 컴갤러(119.207) 15:36 118 0
5517253 현명한소비자<<다음세대 존버함 [4] ㅇㅇ(1.215) 15:36 57 0
5517252 9950x3d 견적 지적 부탁드립니다. [5] 컴갤러(121.170) 15:36 114 0
5517251 9070xt는 다른나라도 물량 딸리는거냐 [5] ㅇㅇ갤로그로 이동합니다. 15:35 143 0
5517250 9070xt 가격인상 안한다고 공식 글 싸도 [3] 컴갤러(112.219) 15:35 153 0
5517249 컴순이 고닉 [1] 컴갤러(118.235) 15:35 61 0
5517248 암드는 메모리 온도가 100도를 육박하고 [3] ㅇㅇ(61.247) 15:35 79 0
5517247 용파리들 구매자인척 바람잡이 ㅋㅋ [4] ㅇㅇ(118.235) 15:35 112 1
5517245 글카 대원cts가 인텍앤컴퍼니보다 as 좋음?? [3] 컴갤러(61.77) 15:34 49 0
5517244 아파트 현시세 분석.. 컴갤러(112.186) 15:34 35 0
5517243 9070xt << 예상하건데 3080 용광로 에디션 재림임 [21] ㅇㅇ갤로그로 이동합니다. 15:33 164 0
5517242 아 라데온 글카는 구매 할떄 상급기 하급기 나눠서 잘 보고 사야함? [1] 컴갤러(211.238) 15:33 40 0
5517241 9070xt 새로 맞추는놈들 내년도 생각함? [2] 컴갤러(221.144) 15:33 94 0
5517240 9600x+5070ti쓸려는데 메인보드 추천점용 [4] ㅇㅇ(59.23) 15:33 47 0
5517239 그래서 9070xt 특가 언제 하냐? [2] ㅇㅇ(39.7) 15:33 84 0
5517238 9600x는 아무 문제도 없어 [1] ㅇㅇ(210.121) 15:32 70 0
5517237 3080 AS 5일남았는데 이엠텍들고가서 써멀재도포 해달라고 하면 해줌? [2] 컴갤러(125.177) 15:32 47 0
5517236 5080 불칸이랑 슈프림이 투탑이냐? [5] ㅇㅇ(211.204) 15:31 77 0
5517235 진지하게 97xt로 5080 따는거 믿는 사람있냐? [10] ㅇㅇ(121.170) 15:31 179 0
5517234 아수스 감사합니다 토스페이 감사합니다 [2] ㅇㅇ(118.235) 15:31 113 0
5517233 그래픽 카드 문의 3080ti [13] 컴갤러(118.235) 15:30 49 0
5517232 탁탁몰도 토스할인 있음? [2] 철수갤로그로 이동합니다. 15:30 60 0
5517231 전자랜드 9070xt 겜오씨 99만원 [4] ㅇㅇ(220.120) 15:30 248 0
5517230 i5 8400 / gtx1060 7년째 쓰는중인데 [3] 컴갤러(119.192) 15:30 43 0
5517229 rtx5060 12긱은 안나옴? [1] ㅇㅇ(183.109) 15:30 59 0
5517228 9070 노말은 늦어도 4월엔 정상화고 ㅇㅇ(211.234) 15:30 78 0
5517226 이거 120만원 어떰? 컴갤러(221.155) 15:29 53 0
5517225 9070xt 인상 이후로 가격 뜬거 잇냐? [3] 컴갤러(112.222) 15:29 79 0
5517224 형들 싸구려 가성비 240 수냉좀 추천좀 [6] 컴갤러(121.175) 15:29 30 0
5517223 결국 가격이 오르다니... [1] 보이드갤로그로 이동합니다. 15:29 153 0
5517222 아래 5080 스텔라 230만원에 산거같은 갤럼아 [7] 컴갤러(61.77) 15:29 150 0
5517221 i5 12400f는 12쓰레드 시퓨임 ㅋㅋ [1] 공부는머리갤로그로 이동합니다. 15:28 60 1
5517220 아이코다 5070ti 겜트 걍 질렀다 [8] 컴갤러(116.32) 15:28 139 0
5517219 9070 발열량이 그렇게 심하냐? [5] ㅇㅇ(14.34) 15:28 74 0
5517218 글카 사려고 몇일 갤 눈팅하고 진짜 깨달았다 [7] 컴갤러(58.233) 15:27 95 1
5517217 9600x<<이거 싫어하면 100% 용팔이 맞음 [3] ㅇㅇ(1.215) 15:27 95 0
5517216 근데 이거 왜 그런거임?....JPG [2] 컴갤러(210.96) 15:27 83 0
5517215 컴순이 어디없나~? [8] 쥬~지갤로그로 이동합니다. 15:27 126 0
5517214 "내가 이제부터 명심해야 할 것들!" [1] ㅇㅇ갤로그로 이동합니다. 15:27 57 0
5517213 품절마케팅 가격인상쇼 ㅇㅇ(118.235) 15:27 36 0
5517212 983D 쓰는데 9600X ㅈ가성비 맞는데ㅋㅋㅋㅋㅋ ㅇㅇ(112.222) 15:26 88 0
5517211 컴퓨존 본점 찾아가면 뭐 떡고물 있냐? ㅇㅇ(61.82) 15:26 37 0
뉴스 유재명, 日반응 터졌다…마츠시게 “‘고독한 미식가’서 최고 재밌다고” 디시트렌드 18:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2