디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

인공지능 비용이 매년 10배씩 줄어들고 있다.

공부는머리갤로그로 이동합니다. 2025.03.13 12:12:08
조회 2364 추천 12 댓글 26
														

a14008ac3607b4618e343c70565afdd9b4076651ed54ef5c8c5ffb201db0f703013d7a

"그래서 저는 이 질문을 약간 비켜가려고 하는데요. 하지만 업계 전반에서 정말 놀라운 점 하나는, 샘(Sam Altman)이 최근에 말했듯이, 동일한 수준의 지능을 제공하는 비용이 매년 10배씩 줄어들고 있다는 것입니다.


모델이 점점 더 똑똑해지고 있고, 이전에는 더 큰 모델이 필요했던 지능 수준을 이제는 더 작은 모델로 증류(distill)할 수 있게 되었습니다. 추론(inference) 비용도 낮아지고 있고, GPU도 더 빨라지고 있으며, 이런 여러 가지 기술적 발전이 동시에 이루어지고 있습니다.


예를 들어, 2년 전 GPT-3를 API로 출시했을 때를 돌아보면, 당시에는 GPT-3가 정말 혁신적이었죠. 그런데 만약 지금 여러분이 ChatGPT에서 GPT-3로 다시 바꿔서 사용하게 된다면, ‘이게 도대체 뭐야?’라고 생각할 겁니다. 그만큼 우리가 기대하는 표준 수준이 크게 향상되었습니다.


당시 GPT-3는 매우 인상적이었지만, 지금의 GPT-4o mini와 비교하면 100배나 비쌌습니다. 하지만 4o mini는 훨씬 더 스마트한 모델이죠. 그리고 이 변화가 불과 2년 만에 이루어졌습니다.


과거 무어의 법칙(Moore’s Law)은 반도체 칩의 트랜지스터 수가 18개월마다 2배로 증가한다고 했습니다. 그런데 지금 AI에서는 지능의 비용이 매년 10배씩 줄어들고 있습니다. 훨씬 가파른 지수 함수 곡선을 그리고 있는 셈이죠.


그래서 우리가 계속해서 내리는 중요한 결정 중 하나는, 이 추세가 앞으로도 지속될 것이라는 가정하에 움직인다는 것입니다. 그리고 이를 실현하는 방법 중 하나는, 비용을 낮출 수 있는 기회가 있을 때마다 실제로 가격을 인하하는 것입니다.


추론이 더 효율적이거나, 모델 자체가 더 효율적일 때, 우리는 단순히 이윤을 극대화하는 것이 아니라, 즉시 비용을 절감하고 개발자들에게 혜택을 돌려주려고 합니다.


예를 들어, 샘이 저에게 ‘이 API 비용을 반으로 줄일 수 있을까?’라고 메시지를 보내는 일이 정말 자주 있습니다. 일주일에 한 번이 아니라, 한 주에 여러 번씩 그런 요청이 들어옵니다.


그래서 우리는 언제든 비용을 낮출 수 있을 때마다 그렇게 합니다. 그리고 우리는 이러한 비용 절감이 계속될 것이라고 확신하고 있습니다.


실제로 우리가 특정 모델의 가격을 낮출 때마다, 사용량이 증가한다는 것을 발견했습니다. 이전에는 경제적으로 타당하지 않았던 사용 사례들이, 비용이 줄어들면서 갑자기 수익성을 갖게 되는 것입니다. 이런 방식으로 더 많은 AI를 세상에 보급할 수 있게 됩니다.


이러한 추세는 앞으로도 계속될 것입니다."



 




추천 비추천

12

고정닉 1

1

원본 첨부파일 1

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 매니저들에게 가장 잘할 것 같은 스타는? 운영자 25/03/10 - -
5516893 9070xt 후기좀 올라오냐? [2] 컴갤러(118.42) 03.13 118 0
5516892 9070xt 105만원 오늘 12시 특가시작 [2] 컴갤러(112.219) 03.13 202 0
5516891 이제 mfg빠는 새끼들 다 뒤졌네 [1] ㅇㅇ(182.218) 03.13 46 0
5516890 5070샤 트리오 괜차늠 [1] 컴갤러(121.186) 03.13 90 0
5516889 일 안하는 새끼들 존나 부럽다 ㅇㅇ [19] 만호갱갤로그로 이동합니다. 03.13 124 0
5516888 5070ti + 9600x 파워 850으로 충분함? [2] 앤카갤로그로 이동합니다. 03.13 69 0
5516887 롤 던파 머신으로 5500gt vs 8600g [3] 컴갤러(223.38) 03.13 47 0
5516886 부자들의 소비를 니 기준으로 잰다? 병신이다ㅋㅋㅋ [4] 컴갤러(175.223) 03.13 62 0
5516885 5천대 mfg 언제 써보냐???? [5] 컴갤러(14.44) 03.13 67 0
5516884 곧 K엔비디아 생길텐데 5080 5090 사지마셈 [2] ㅇㅇ(61.84) 03.13 165 2
5516883 되팔렘으로 체감가 낮춘거 자랑하면 [1] 컴갤러(118.42) 03.13 50 0
5516882 드래곤볼할건데 [2] ㅇㅇ(223.39) 03.13 42 0
5516881 와 9070xt 어엘 팔 때 영수증 안주길 잘했다 [6] 컴갤러(220.94) 03.13 159 0
5516879 지금 미스테리는 사파이어 제품은 왜 시중에 안도는건가?임 [3] ㅇㅇ(219.250) 03.13 72 0
5516878 상급기 비싸게 사는 이유 [3] ZuSa갤로그로 이동합니다. 03.13 142 0
5516877 573d는 원래 3d캐시 드라이버 안 깔림? [1] 컴갤러(106.101) 03.13 47 0
5516876 7500f 쓰고있는데 [5] ㅇㅇ(183.109) 03.13 69 0
5516875 그냥 70티슈 중고살까 [10] ㅇㅇ(221.151) 03.13 108 0
5516874 애초에 상급기사는새끼들은 다 정신병자라보면됨 [6] 컴갤러(14.33) 03.13 88 4
5516873 엔비디아가 현기라면 암드는 르쌍쉐임 [6] ㅇㅇ(124.216) 03.13 48 0
5516872 5070ti 게이밍트리오 쓰레기임? 147만 찍히네 [1] 컴갤러(118.235) 03.13 117 0
5516870 9070xt 현상황에 제일 패배자가 누군지 앎??? [4] 컴갤러(211.234) 03.13 161 0
5516869 제이시현 담당자한테 메일보냈다 [4] ㅇㅇ(211.234) 03.13 126 1
5516868 5080은 굳이 상급기 살 이유없음? [1] ㅇㅇ(117.111) 03.13 80 0
5516867 RTX5050도 나옴? [3] ㅇㅇ(183.109) 03.13 56 0
5516866 일본관공서가 괜히 공문에 공CD같은거 쓰는줄아나 [13] CureRTX갤로그로 이동합니다. 03.13 97 2
5516865 내일 초콜릿 줄 사람 있는 컴갤럼들 있냐 [2] ZuSa갤로그로 이동합니다. 03.13 52 0
5516864 5070ti 오피셜 가격 떳으니 여기서 사라 [6] 컴갤러(118.235) 03.13 216 0
5516863 5090은 파워 1200w은 써야하냐 [5] ㅇㅇ(211.204) 03.13 97 0
5516862 근데 9070xt 사는 새끼들 존나 웃기네 [8] ㅇㅇ(118.235) 03.13 181 1
5516861 걍 컴퓨터에 통달한 고수는 9600k씀 ㅇㅇ [4] 컴갤러(14.33) 03.13 67 0
5516860 놀라운 가격 지금 바로 구매했어요 9070xt [1] 컴갤러(112.219) 03.13 143 1
5516859 와이파이는 되는데 컴퓨터 인터넷이안되뇨 [1] 컴갤러(59.23) 03.13 35 0
5516858 근데 usb c는 완전체임? 앞으로 다른 저장매체 나올 가능성은 없음? [10] 공부는머리갤로그로 이동합니다. 03.13 64 1
5516854 9070xt 풀릴때마다 용팔이 되팔렘 빙의해서 살살긁기 [3] ㅇㅇ(219.250) 03.13 95 0
5516853 야 글카 가격 내리는거 기달리는 새끼들은 대가리 병신 아니냐 ㅋㅋ? [6] 컴갤러(112.185) 03.13 96 0
5516852 케이스 파워 쿨러 10년째쓰는중인데 [1] ㅇㅇ(39.121) 03.13 77 0
5516851 온도 타령할 새끼들은 에어컨이나 사라 [1] 컴갤러(121.129) 03.13 31 0
5516850 9070XT 니트로 125만 떴다 재고 몇 개 남은듯 [6] 컴갤러(115.93) 03.13 259 11
5516849 이게 내가 재명이를 지지하는 이유임... ㅇㅇ갤로그로 이동합니다. 03.13 43 1
5516848 어제 5070 ti 트리오 147만이었다는데 [4] ㅇㅇ(223.38) 03.13 116 0
5516847 이게 내가 재명이를 지지하는 이유임 [1] ㅇㅇ갤로그로 이동합니다. 03.13 71 4
5516846 의외로 하이에나같은 회사 CureRTX갤로그로 이동합니다. 03.13 51 0
5516844 게임패드 이거 어때 ㅇㅇ갤로그로 이동합니다. 03.13 46 0
5516843 5080 근데 기존 80라인업에 비해 좆망한거 맞지? [1] ㅇㅇ(39.125) 03.13 85 0
5516842 아수스는 가격인상은 개새끼들이 확실하지 [1] ㅇㅇ(115.21) 03.13 47 0
5516841 5070ti 가격 운지하는데 좆데온 9070xt왜삼? [3] ㅇㅇ갤로그로 이동합니다. 03.13 144 0
5516840 6900xt TUF top버전은 뭐가 달라?? 선별칩?? 컴갤러(165.225) 03.13 31 0
5516839 근데 스타 CD로 돌릴때 그떄 추억이 좋았음? [1] 공부는머리갤로그로 이동합니다. 03.13 31 1
5516838 빅타워 케이스 추천좀 [3] ㅇㅇ(61.82) 03.13 68 0
뉴스 “합법과 불법 사이”…강하늘·유해준·박해준, 신선한 마약수사판 짠 ‘야당’ [종합] 디시트렌드 03.13
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2