2025 회고전: 올해 AI 스택이 움직였다

요약 (건축업자 및 설립자용)

2025년에는 시프트 GMI Cloud의 예측에 따라 AI가 발전하고 있습니다.

원시 모델 기능은 계속 개선되었지만 더 이상 주요 이점의 원천이 되지 못했습니다.이긴 팀이 더 빨리 움직인 것은 더 나은 모델을 가지고 있어서가 아니라 직접 만들었기 때문입니다. 점점 더 상호 교환이 가능한 인텔리전스를 중심으로 한 더 나은 시스템.

세 가지 세력이 연도를 정의했습니다.

• 추론, 경제성 및 지연 시간은 제품의 판도를 바꾸었습니다., 인프라뿐만 아니라
• 모델 선택이 되돌릴 수 있게 되었습니다, 시스템 설계는 까다로워졌지만
• 운영 성숙도는 내구성이 뛰어난 기업과 인상적인 데모를 구분했습니다.

이러한 변화를 예상한 건축업자들은 복합적인 영향력을 얻었습니다.비용을 지불하지 않은 건축업자들 재작성, 비용 초과, 속도 저하.

다음은 스택이 실제로 이동한 위치와 이동 방법을 설명합니다. 조기 vs 후기 응답 생성됨 실제 결과.

1.무게 중심이 이동하다: 모델에서 시스템으로

올해도 모델 품질이 다시 향상되었습니다.하지만 수익은 줄어들었습니다.결과가 달라진 것은 팀이 어떤 모델을 선택했는지가 아니라 실제로 그랬습니다. 모델을 시스템으로 구성한 방법.

일찍 이사한 건축업자:

• 모델을 다음과 같이 취급합니다. 교체 가능한 구성 요소
• 초기 투자 전달, 폴백 로직, 캐싱, 옵저버빌리티
• 모델 변동을 가정하여 설계된 제품

뒤쳐진 건축업자:

• 단일 모델 업그레이드에 대한 고정된 로드맵
• 모델 스왑이 UX 가정을 깨뜨렸다는 사실을 너무 늦게 발견했습니다.
• 예상보다 빠르게 차별화가 약화되고 있음을 발견했습니다.

우리는 그것을 관찰했습니다 시스템 성숙도 속도와 신뢰성이 점점 더 결정되어 시장 점유율과 고객을 확보하고 있습니다.테스트해 볼 내용은 다음과 같습니다. AI 제품이 30일 이내에 강제 모델 교체를 견뎌낼 수 없다면 아니 프로덕션 준비 완료.

2.추론이 진짜 병목 현상이 되다

교육은 여전히 한도를 정의합니다. 능력.다른 한편으로는: 추론은 현실의 바닥을 정의했습니다..

올해에는 지연 시간, 처리량 및 비용이 인프라 문제에서 벗어나 제품 결정을 좌우하기 시작했습니다.

• 다음과 같은 이유로 기능이 재설계되거나 축소되었습니다. 토큰 비용
• UX 플로우는 다음과 같이 재구성되었습니다. 대기 시간 숨기기
• “충분히 좋은” 응답이 너무 늦게 도착한 완벽한 응답을 능가합니다.

일찍 이사한 건축업자:

• 프로덕션과 같은 부하 환경에서 벤치마킹
• 모델 데모가 아닌 지연 시간을 고려하여 설계된 UX
• 추론 비용을 제품 지표로 취급

뒤쳐진 건축업자:

• 최적화됨 후 쏘다
• 토큰당 가격 책정과 혼동됨 총 비용
• 고객의 압박을 받고 있는 파이프라인 재구축

최적화된 추론은 파일럿 AI 프로젝트와 성공적인 AI 프로젝트를 구분하는 제약이 되었습니다.

3.오픈 및 세미 오픈 모델이 조용히 기본값이 되었습니다.

개방형 모델은 더 이상 이념적 선택이 아니었습니다. 운영 도구.

대부분의 실제 워크로드에서 개방형 및 준개방형 모델은 충분한 품질을 달성했으며 독점 API로는 제공할 수 없는 기능을 제공했습니다. 제어.

일찍 이사한 건축업자:

• 개방형 모델을 사용하여 종속성을 줄이고 협상 레버리지를 되찾았습니다.
• 신속한 모델 교체를 지원하도록 설계된 인프라
• 유연성에 대한 대가로 운영상의 복잡성 허용

뒤쳐진 건축업자:

• 공급업체 안정성의 안전성을 과대평가함
• 가격 또는 정책 변경 이후에만 전환 비용을 발견했습니다.
• API의 단순성을 장기적인 생존 가능성으로 착각

최상위 모델은 여전히 인상적인 벤치마킹 점수를 기록하고 있지만, 이를 정당화하기는 점점 더 어려워지고 있습니다. 최대 15% 개선에 10배의 비용 소요.

4.컨텍스트 창이 커져도 문제가 해결되지 않았습니다.

컨텍스트 창이 크게 확장되었습니다.안정성은 그렇지 않았습니다.

메인스트림 생산 모델에서 이전 최대 8천~32만 개의 토큰 “대형”까지 10만 개 이상의 토큰 존재 유효한.

전체 문서, 다중 파일 코드베이스, 심지어 긴 채팅 기록까지 포함할 수 있는 범위로 컨텍스트가 긴 변형이 포함됨 한 번의 통화로.

컨텍스트가 커지면 요약, 검색 범위, 도구 기반 정립에 도움이 되었지만 환각 현상, 깨지기 쉬운 추론 또는 잘못된 데이터 위생 문제를 해결하지는 못했습니다.

일찍 이사한 건축업자:

• 컨텍스트를 다음과 같이 취급 부족한 자원
• 에 투자했습니다 검색 품질 및 메모리 설계
• 어떤 모델이 “기억”하도록 허용되었는지를 명시적으로 관리

뒤쳐진 건축업자:

• 입력 수정 대신 채워진 프롬프트
• 한계 이익에 대한 추론 비용 증가
• 창이 커질 때 발생하는 마스킹된 데이터 문제

컨텍스트는 인프라이지 마법이 아닙니다.컨텍스트 윈도우를 높이면 도움이 되긴 하지만 이미 AI 스택을 괴롭히는 근본적인 문제를 해결하지는 못합니다.

5.평가가 중요해지기 시작했어요. 실패는 비용이 많이 들기 때문이죠.

AI 시스템이 더 많은 사용자에게 영향을 주면서 조용한 실패는 더 이상 견딜 수 없었습니다..시장이 봤어요 AI 파일럿의 95% 정적 벤치마크가 입증되어 프로덕션 환경으로 전환하지 못함 쓸모가 없습니다 생산 중.

팀은 작업별, 지속적, 인적 자원 평가를 실험하기 시작했습니다.

일찍 이사한 건축업자:

• 에서 확실한 성공 사용자 대상 용어
• 고객이 보고하기 전에 측정된 회귀 분석
• 모델 자랑이 아닌 시스템 변경을 안내하는 데 평가 사용

뒤쳐진 건축업자:

• 현실과 동떨어진 오프라인 점수에 의존
• 지원 티켓을 통해 실패에 대해 알게 되었습니다
• 고객에게 시스템 동작을 설명하는 데 어려움을 겪음

대부분의 팀은 여전히 제대로 평가하지 못하고 있으며 눈에 띄는 비용으로 나타나고 있습니다.

6.멀티모달리티: 데모에서 워크플로우까지

멀티모달 AI는 “무엇을 할 수 있는지 보라”는 것에서 멈추고 주목 받기 시작했습니다. 사람들이 실제로 사용하는 방법.

이미지, 비디오, 오디오 모델이 도구에 의해 연결되고, 반복되고, 안내되는 파이프라인 내에서 점점 더 많이 사용되고 있습니다.

일찍 이사한 건축업자:

• 다음을 위한 설계 되풀이, 싱글샷 출력이 아님
• 에 최적화 일관성 참신함을 넘어서
• 낮은 피크 품질로 허용 더 높은 제어성

뒤쳐진 건축업자:

• 깨지기 쉬운 데모를 중심으로 과장된 구조
• 인프라 및 대역폭 비용 과소평가
• 창의적인 워크플로우를 운영하는 데 어려움을 겪음

멀티모달리티는 데모 아티스트가 아닌 시스템 디자이너처럼 생각하는 팀에 보상을 제공했습니다.그렇다고 해서 창작 과정에 예술이 없다는 말은 아닙니다 (존재한다는 뜻입니다). 예술을 탐험하기 전에 도구가 작동해야 합니다..

7.인프라 스택이 분리됨 — 의도적으로

단일 범용 클라우드 스택에 대한 아이디어는 신뢰를 잃었습니다. 비용 변동성, 용량 제약, 지역별 지연 빌더는 멀티 클라우드 인프라 전반의 이질성에 맞게 설계해야 했습니다.

일찍 이사한 건축업자:

• 이동성 및 페일오버를 위한 계획
• 하드웨어 차이를 설계 입력으로 취급
• 단일 공급업체 종속 방지

뒤쳐진 건축업자:

• 이전이 아닌 확장 중에 제약 조건 발견
• 시간의 압박 속에서 고통스러운 마이그레이션에 직면함
• 전략적 옵션을 제한하는 인프라 선택을 찾았습니다.

하이퍼스케일러와 대형 클라우드는 기존 기능을 활용하여 가격을 인상했습니다.벽에 적힌 글을 본 하이퍼스케일러 난민들은 네오클라우드 제공업체로 도망쳤습니다.

8.기대에도 불구하고 일어나지 않은 일

널리 예측된 몇 가지 변화가 대규모로 실현되지 못했습니다.

• 안정적으로 작동하는 완전 자율 에이전트
• 깔끔하게 제품을 만드는 일반적인 추론
• 사람이 필요 없는 엔터프라이즈 워크플로우
• 스택 전반의 표준화된 툴링

이를 일찍 인식한 건축업자:

• 조기 자동화 베팅을 피했습니다.
• 인간을 중요한 상황에 빠뜨렸습니다.
• 대체가 아닌 증강에 집중

그렇지 않은 건축업자:

• 낙관적인 가정을 바탕으로 부서지기 쉬운 시스템 구축
• 과장된 기능
• 신뢰와 이탈로 비용을 지불했습니다.

억제는 야망보다 더 가치 있는 것으로 판명되었습니다.제가 항상 말씀드렸듯이, “AI는 원하는 것보다 느리게, 원하는 것보다 빠르게 일어날 것입니다.”

9.이것이 내년을 위한 준비

이러한 변화를 종합하면 단일 통합을 의미합니다.

• 추론 제약으로 인해 팀은 비용 및 지연 시간을 조기에 처리
• 이러한 제약으로 인해 취약한 시스템과 공급업체 종속이 드러났습니다.
• 이러한 압력으로 인해 개방형 모델과 이동식 인프라의 채택이 가속화되었습니다.
• 이는 결국 만들어졌다. 평가 및 신뢰성 불가피함

이러한 변화 중 어느 것도 단독으로 발생하지 않았습니다. 상호 강화되고 있습니다.

결과는 새로운 구분선입니다.

• AI를 다음과 같이 취급한 건축업자 구성 요소 플러그를 꽂고 업그레이드하면 점점 더 천장에 부딪히게 됩니다.
• AI를 다음과 같이 취급한 건축업자 하부 구조 설계, 스트레스 테스트 및 운영을 통해 속도, 비용 관리 및 안정성 측면에서 복합적인 이점을 얻었습니다.

앞으로의 진짜 질문

모델이 계속 융합됨에 따라 참신함은 실행 우위보다 더 빨리 쇠퇴할 것입니다.

내년에 건축업자와 설립자가 직면하게 될 결정적인 질문은 아닙니다. “어떤 모델에 베팅해야 할까요?” 하지만”인텔리전스가 풍부하다면 누가 실제 사용자, 실제 비용, 실시간을 견딜 수 있는 시스템을 구축할까요?”

2026년의 AI 승자는 압박 속에서도 이러한 시스템을 운영할 수 있는 기업이 될 것입니다.

‍