디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

인공지능 비용이 매년 10배씩 줄어들고 있다.

공부는머리갤로그로 이동합니다. 2025.03.13 12:12:08
조회 6143 추천 17 댓글 31
														

a14008ac3607b4618e343c70565afdd9b4076651ed54ef5c8c5ffb201db0f703013d7a

"그래서 저는 이 질문을 약간 비켜가려고 하는데요. 하지만 업계 전반에서 정말 놀라운 점 하나는, 샘(Sam Altman)이 최근에 말했듯이, 동일한 수준의 지능을 제공하는 비용이 매년 10배씩 줄어들고 있다는 것입니다.


모델이 점점 더 똑똑해지고 있고, 이전에는 더 큰 모델이 필요했던 지능 수준을 이제는 더 작은 모델로 증류(distill)할 수 있게 되었습니다. 추론(inference) 비용도 낮아지고 있고, GPU도 더 빨라지고 있으며, 이런 여러 가지 기술적 발전이 동시에 이루어지고 있습니다.


예를 들어, 2년 전 GPT-3를 API로 출시했을 때를 돌아보면, 당시에는 GPT-3가 정말 혁신적이었죠. 그런데 만약 지금 여러분이 ChatGPT에서 GPT-3로 다시 바꿔서 사용하게 된다면, ‘이게 도대체 뭐야?’라고 생각할 겁니다. 그만큼 우리가 기대하는 표준 수준이 크게 향상되었습니다.


당시 GPT-3는 매우 인상적이었지만, 지금의 GPT-4o mini와 비교하면 100배나 비쌌습니다. 하지만 4o mini는 훨씬 더 스마트한 모델이죠. 그리고 이 변화가 불과 2년 만에 이루어졌습니다.


과거 무어의 법칙(Moore’s Law)은 반도체 칩의 트랜지스터 수가 18개월마다 2배로 증가한다고 했습니다. 그런데 지금 AI에서는 지능의 비용이 매년 10배씩 줄어들고 있습니다. 훨씬 가파른 지수 함수 곡선을 그리고 있는 셈이죠.


그래서 우리가 계속해서 내리는 중요한 결정 중 하나는, 이 추세가 앞으로도 지속될 것이라는 가정하에 움직인다는 것입니다. 그리고 이를 실현하는 방법 중 하나는, 비용을 낮출 수 있는 기회가 있을 때마다 실제로 가격을 인하하는 것입니다.


추론이 더 효율적이거나, 모델 자체가 더 효율적일 때, 우리는 단순히 이윤을 극대화하는 것이 아니라, 즉시 비용을 절감하고 개발자들에게 혜택을 돌려주려고 합니다.


예를 들어, 샘이 저에게 ‘이 API 비용을 반으로 줄일 수 있을까?’라고 메시지를 보내는 일이 정말 자주 있습니다. 일주일에 한 번이 아니라, 한 주에 여러 번씩 그런 요청이 들어옵니다.


그래서 우리는 언제든 비용을 낮출 수 있을 때마다 그렇게 합니다. 그리고 우리는 이러한 비용 절감이 계속될 것이라고 확신하고 있습니다.


실제로 우리가 특정 모델의 가격을 낮출 때마다, 사용량이 증가한다는 것을 발견했습니다. 이전에는 경제적으로 타당하지 않았던 사용 사례들이, 비용이 줄어들면서 갑자기 수익성을 갖게 되는 것입니다. 이런 방식으로 더 많은 AI를 세상에 보급할 수 있게 됩니다.


이러한 추세는 앞으로도 계속될 것입니다."



 




추천 비추천

17

고정닉 2

5

원본 첨부파일 1

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 팬덤 때문에 오히려 여론이 나빠진 스타는? 운영자 25/03/17 - -
5559813 나짤년데 색시푸드야 [4] 소나장(219.254) 00:51 70 0
5559811 견적 ㅁㅌㅊ? [7] 컴갤러(221.153) 00:50 100 0
5559810 진짜 미친듯이 아무 일도 하기 싫다 [13] 감차갤로그로 이동합니다. 00:49 83 0
5559809 3050 [9] 00갤로그로 이동합니다. 00:49 50 0
5559808 아니 도대체 이해가 안되는데 5070 노말을 80만원 넘게 사야 하는 [6] ㅇㅇ(61.75) 00:49 428 2
5559807 자짤 완성 [1] ㅇㅇ갤로그로 이동합니다. 00:48 46 0
5559805 컴뿡이더라 fhd qhd 체감 좆대냐..? [7] 컴갤러(115.21) 00:47 48 0
5559802 7700 vs 9600x [11] ㅇㅇ(61.82) 00:44 88 0
5559801 글카 고르기 존나어렵네 [5] 컴갤러(112.148) 00:44 108 0
5559798 9070말고 5070사는 이유가 뭐야 [10] 컴갤러(121.165) 00:43 188 0
5559797 영상편집 및 고사양 게임용 컴퓨터 맞출예정인데요 [4] 컴갤러(116.123) 00:43 46 0
5559796 4070s 로 qhd 돌아감? [5] 컴갤러(210.105) 00:43 90 0
5559795 광고글도 누군가는 클릭을 해주니까 저러겠지? [4] 떠니갤로그로 이동합니다. 00:42 50 0
5559794 안자냐? [2] 컴갤러(175.117) 00:42 31 0
5559793 형님들 살려주세요 [1] ㅁㅁ(210.117) 00:41 30 0
5559791 5060 무조건 50만원 이상인가? [3] 컴갤러(124.5) 00:41 72 0
5559790 컴갤에도 애국보수 많노? [1] ㅇㅇ(211.235) 00:41 31 1
5559787 아 내가 ㅈㄴ궁금한게 [1] 컴갤러(121.165) 00:41 28 0
5559786 저 x같은 9600x 7800x3d 알/리글은 왜 못막는거냐... 보이드갤로그로 이동합니다. 00:41 76 0
5559785 5070 88에사는거 미친짓임? [5] 컴갤러(61.254) 00:40 94 0
5559783 아수스 씹새끼들은 본체 사야 몬헌주네 ㅋㅋ [2] ㅇㅇ(110.8) 00:40 56 0
5559782 알1리 5090 졸라 싸네 [2] 컴갤러(125.176) 00:40 107 0
5559779 자짤 생성기 vpn 으로 뚫었다 [1] ㅇㅇ갤로그로 이동합니다. 00:40 69 0
5559778 이번 조딱 잘나온듯한데 [1] 컴갤러(124.122) 00:39 54 0
5559777 갤광고 쳐돌앗네 ㄹㅇ [4] 컴갤러(61.254) 00:39 57 0
5559774 안드로이드 15 쓸만한가? [4] 아님말고(211.36) 00:38 48 0
5559773 와 5090 뱅가드 [2] ㅇㅇ(218.52) 00:38 85 0
5559772 9070 논xt 180~230W [1] 컴갤러(59.5) 00:38 65 0
5559771 qhd 견적 알려줄사람? [3] 컴갤러(210.105) 00:38 76 0
5559767 자지가 굵고 길면 좋은점. [2] 외대오빠원나잇지존(14.6) 00:38 51 0
5559766 M.2 쿨러 이게제일 좋나요? [4] ㅇㅇ(210.204) 00:38 58 0
5559765 9600x 쓰는애들 클럭 몇정도 뽑을때까지 오버 했냐 [1] ㅇㅇ갤로그로 이동합니다. 00:37 32 0
5559764 니네는 어항케이스 꼭 맞춰라 씨발련들아 [1] 제갈유동(211.235) 00:37 64 0
5559762 내탸냐후는 왜 트럼프 말 안들음? [1] ㅇㅇ(121.168) 00:37 23 0
5559759 9070xt 850와트 파워 추천좀 [1] ㅇㅇ(124.49) 00:36 31 0
5559754 5070 머살지 추천좀 ..! [2] 컴갤러(211.234) 00:34 48 0
5559753 야시발 방금 마누랗 개새키 발작질 허드랏 ㅋ [1] ㅇㅇ(175.223) 00:34 38 0
5559745 퀘존 5090 터졌노 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [45] dd(221.147) 00:33 265 1
5559744 9070xt + 9070 듀얼오리 잔상을 찾아라! [8] 컴갤러(220.88) 00:33 84 0
5559741 갤 씹창났노 [3] 컴갤러(211.234) 00:32 78 0
5559737 갤럭시 5070 하급기임? [3] 컴갤러(61.254) 00:31 74 0
5559733 이거 어떰? [1] 컴갤러(118.235) 00:31 50 0
5559730 출근하는 게 이 정도로 두려운 사람 있냐? [9] 감차갤로그로 이동합니다. 00:30 63 0
5559729 지금 이 정도 쓰고 있는데.. 컴 새로 사야할까요? [10] 컴갤러(116.123) 00:29 88 0
5559726 부품 할인이벤트같은건 보통 어디서 찾아봄? [2] ㅇㅇ(58.127) 00:29 31 0
5559725 야발 뭐가 문젠지 모르겠다... 컴잘알 좀 [7] 컴갤러(218.233) 00:29 49 0
5559724 메인보드 후면 단자 C타입 쓰냐? [1] ㅇㅇ(1.224) 00:28 46 0
5559723 컴퓨존 무이자 할부 [3] 컴갤러(14.39) 00:28 96 0
5559720 친구가 견적 맞춰준대로 샀는데 괜찮지? [4] 컴갤러(119.194) 00:28 64 0
5559719 게임하다가 갑자기 모니터만 픽 하고 꺼지는 경우는 모냐 친구들아 [2] 컴갤러(1.246) 00:28 32 0
뉴스 위하준·엔믹스 규진·하츠투하츠 지우, ‘서울 원더쇼’ MC 확정 디시트렌드 03.21
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2